Totalitarismo estável

Abstract

Explora o «totalitarismo estável» —um cenário em que um regime global utiliza tecnologias emergentes para trancar permanentemente a humanidade fora do seu potencial a longo prazo— como exemplo do que Toby Ord chama de distopia irrecuperável. O vídeo revisa tecnologias que poderiam inclinar a balança para o controle centralizado (vigilância por vídeo em massa baseada em IA, censura automatizada por grandes modelos de linguagem e pesquisas emergentes de leitura cerebral) e, em seguida, analisa possíveis contramedidas: regulamentação de alcance limitado, engenharia que preserva a privacidade (ilustrada pelo sistema de notificação de exposição à Covid-19 da Apple e do Google) e o fortalecimento das instituições democráticas. Conclui considerando a tensão entre a coordenação global necessária para enfrentar riscos como a IA não alinhada e as pandemias artificiais, e os riscos totalitários que a própria vigilância ampla pode gerar.