Consejos profesionales para la seguridad de la IAG

Abstract

Consejos profesionales para quienes están considerando trabajar en seguridad de la IAG, estructurados en torno a tres ámbitos: investigación en alineación, gobernanza de la IA y gobernanza de laboratorios. Ngo insiste en la importancia de encontrar un buen encaje personal mediante el trabajo práctico con ciclos de retroalimentación rápidos, sostiene que la investigación en alineación está actualmente limitada por la disponibilidad de mentoría, y esboza las direcciones de investigación que considera más prometedoras —incluidas la supervisión escalable, la interpretabilidad mecanicista y la teoría de la alineación—. También señala algunas direcciones que considera sobrevaloradas y ofrece recursos concretos para el desarrollo de habilidades.