Llamamiento a un tratado internacional sobre la IA: una carta abierta

Abstract

Una carta abierta firmada por cientos de expertos en IA, académicos y figuras públicas —entre ellos Yoshua Bengio, Max Tegmark, Gary Marcus y Victoria Krakovna— en la que se insta a los líderes mundiales a negociar un tratado internacional sobre inteligencia artificial para hacer frente a sus riesgos catastróficos. La carta propone disposiciones básicas como umbrales globales sobre el poder de cómputo utilizado para entrenar modelos de IA (que se irían ajustando a la baja con el tiempo para tener en cuenta las mejoras algorítmicas), un laboratorio colaborativo tipo CERN para la seguridad de la IA, y API seguras que mantengan las capacidades de los modelos dentro de límites estimados como seguros. La iniciativa está liderada por el superprevisionista Tolga Bilge.