Los plazos "largos" para llegar a una IA avanzada se han acortado muchísimo

Abstract

Las distinciones históricas entre plazos cortos y largos para el desarrollo de una inteligencia artificial de nivel humano se han desvanecido en gran medida, a medida que el consenso entre los expertos se inclina hacia el futuro cercano. Si bien los pronósticos sobre una IA avanzada en un plazo de dos décadas se consideraban antes especulativos, las proyecciones actuales, tanto de los líderes del sector como de los escépticos tradicionales, coinciden ahora en un plazo que oscila entre los tres y los veinte años. Esta compresión de los plazos hace que sea cada vez más insostenible descartar la IA transformadora como ciencia ficción, ya que incluso las estimaciones más conservadoras sugieren que podrían surgir capacidades de nivel humano en las próximas dos décadas. Tal trayectoria exige una inversión inmediata en medidas técnicas y políticas de mitigación. Debe darse prioridad al avance de las ciencias de la medición, la interpretabilidad y la alineación de la IA para garantizar que los sistemas de alta capacidad puedan controlarse de forma segura. Además, es necesario establecer ecosistemas de verificación independientes, alcanzar un consenso internacional en materia de seguridad y aumentar la capacidad técnica de los gobiernos para gestionar los profundos cambios sociales asociados a esta tecnología transformadora. Dado que el plazo para estos avances probablemente sea más corto de lo previsto inicialmente, el margen de tiempo para construir la infraestructura de seguridad y los marcos normativos necesarios es reducido, lo que exige una actuación proactiva por parte de las comunidades científica y política. – Resumen generado por IA.