Distribuir la mitigación del riesgo a lo largo del tiempo

Abstract

¿Cuál es la mejor forma de distribuir la priorización del trabajo dirigido a reducir el riesgo existencial? En igualdad de condiciones, deberíamos priorizar la reducción de aquellos riesgos que puedan surgir primero. Esto se debe a que no sabemos con certeza cuándo tendremos que enfrentarnos a los distintos riesgos, a que esperamos rendimientos decrecientes del trabajo adicional y a que prevemos que habrá más gente trabajando en estos riesgos en el futuro. En el caso particular del riesgo derivado de la inteligencia artificial, las mejores estrategias para reducirlo dependen de cuándo se manifieste. Es posible que estemos invirtiendo demasiado poco en escenarios en los que la inteligencia artificial llega pronto, incluso si esto no es muy probable, porque no habría tiempo suficiente para ocuparnos de ellos más tarde.