El fin de la agencia humana

Abstract

Solemos imaginar el riesgo de la IA como una toma del poder repentina en el futuro, pero ¿y si ya estamos experimentando una pérdida gradual de poder sin siquiera advertirlo? Este documental, basado en el artículo «Pérdida gradual de poder: riesgos existenciales sistémicos del desarrollo incremental de la IA», explora cómo una dependencia creciente de la IA podría erosionar la influencia humana mucho antes de que ocurra nada dramático: la automatización apartando silenciosamente a las personas de los circuitos de retroalimentación económica que nos dan capacidad de presión, la IA permitiendo que las ideas se difundan por la cultura sin necesidad de participación humana, y unos Estados cada vez menos sujetos a rendición de cuentas a medida que la IA sustituye el trabajo, la recaudación de impuestos y la aplicación de la ley. Ninguno de estos cambios exige una intención maliciosa, una IA desalineada ni una toma del poder espectacular.