Puntos en común entre IA 2027 y IA como tecnología habitual

Abstract

A pesar de las discrepancias fundamentales sobre la evolución a largo plazo de la inteligencia artificial (IA), las expectativas a corto plazo respecto a las capacidades de la IA y las prioridades políticas muestran una convergencia sustancial. Antes de la posible aparición de una inteligencia artificial general (IAG) potente, la IA funciona principalmente como una tecnología convencional, similar a una herramienta. Aunque es probable que los parámetros de referencia de rendimiento actuales alcancen su límite máximo en 2028, las puntuaciones elevadas en dichos parámetros no equivalen a la automatización de tareas en el mundo real. Debido a los retos persistentes relacionados con los errores de cola larga, los sistemas de IA seguirán fallando en tareas rutinarias del mundo real y seguirán siendo inadecuados para entornos que requieran un alto nivel de fiabilidad al menos hasta 2029, incluso aunque la tecnología alcance un impacto económico global comparable al de Internet. Dado que la alineación de la IA sigue sin resolverse, la seguridad no puede basarse únicamente en el entrenamiento de los modelos. Una gobernanza prudente requiere impedir que la IA controle de forma autónoma los sistemas críticos, exigir transparencia a los desarrolladores, implementar auditorías independientes, desarrollar la capacidad de seguimiento del estado y evitar la automejora recursiva no supervisada, al tiempo que se facilita la difusión económica beneficiosa de las capacidades de la IA. – Resumen generado por IA.