La gobernanza de la superinteligencia

Abstract

Los fundadores de OpenAI sostienen que la superinteligencia —sistemas de IA drásticamente más capaces incluso que una IAG— es concebible dentro de diez años y exige una gobernanza distinta de la que se aplica a los modelos actuales. Plantean tres puntos de partida. Primero, cierto grado de coordinación entre los principales proyectos de desarrollo, ya sea mediante un proyecto conjunto respaldado por los grandes gobiernos o mediante un acuerdo colectivo que limite el ritmo anual de crecimiento de las capacidades en la frontera. Segundo, una autoridad internacional al estilo del OIEA, facultada para inspeccionar sistemas, exigir auditorías, comprobar el cumplimiento de las normas de seguridad y restringir los grados de despliegue y los niveles de seguridad de todo proyecto que supere cierto umbral de capacidad o de cómputo, con el seguimiento del cómputo y del consumo energético como palanca práctica y la adopción voluntaria por parte de las empresas como primer paso. Tercero, la capacidad técnica de hacer segura una superinteligencia, que consideran un problema de investigación abierto. Los modelos por debajo de un umbral de capacidad significativo quedan explícitamente excluidos de este régimen, ya que sus riesgos parecen equiparables a los de otras tecnologías de internet. Con todo, la gobernanza de los sistemas más potentes y las decisiones sobre su despliegue deben someterse a una firme supervisión pública, y sus límites y valores por defecto deberían decidirse democráticamente. Los autores concluyen defendiendo la continuidad del desarrollo por dos razones: los beneficios esperados y su convicción de que detener la creación de la superinteligencia exigiría algo parecido a un régimen de vigilancia global y, aun así, no habría garantías de que funcionase. – Resumen generado por IA.