Totalitarismo estable

Abstract

Explora el «totalitarismo estable» —un escenario en el que un régimen global usa tecnologías emergentes para encerrar permanentemente a la humanidad fuera de su potencial a largo plazo— como ejemplo de lo que Toby Ord denomina una distopía irrecuperable. El vídeo repasa tecnologías que podrían inclinar la balanza hacia el control centralizado (vigilancia por vídeo masiva basada en IA, censura automatizada mediante grandes modelos de lenguaje e investigaciones emergentes de lectura cerebral) y a continuación analiza posibles contramedidas: regulación de alcance limitado, ingeniería que preserva la privacidad (ilustrada por el sistema de notificación de exposición al Covid-19 de Apple y Google) y el fortalecimiento de las instituciones democráticas. Concluye considerando la tensión entre la coordinación global necesaria para afrontar riesgos como la IA no alineada y las pandemias artificiales, y los riesgos totalitarios que la propia vigilancia amplia puede generar.