"La mayoría de las personas podrían morir": otra voz de OpenAI alerta sobre el riesgo de la IA

El investigador de seguridad en inteligencia artificial (IA) Paul Christiano advirtió este miércoles que perder el control de esta tecnología sería "catastrófico" y que "la mayoría de las personas podrían morir".

"Si desarrollamos una superinteligencia sin una alineación más sólida, preveo que perderemos el control de ella de forma permanente. Si esto sucede, la mayoría de la gente podría morir", escribió en su cuenta de X tras el anuncio de su incorporación a la junta directiva de OpenAI y al Comité de Seguridad y Protección de la compañía estadounidense.

Basándose "en la trayectoria reciente de las capacidades y la continua dificultad de la alineación", Christiano considera que "existe un riesgo significativo de que una rápida aceleración en las capacidades de IA conduzca a una pérdida de control catastrófica e irreversible en un plazo muy cercano".

"No creo que la industria de la IA en general, incluida OpenAI, esté actualmente en camino de reducir este riesgo a un nivel aceptable", agregó.

El especialista explicó que la automatización de la investigación y desarrollo en IA podría provocar una "explosión de inteligencia" que resultaría en sistemas superinteligentes.

"La evidencia actual es muy incierta, pero sugiere que este ciclo de retroalimentación positiva podría ser lo suficientemente fuerte como para superar los rendimientos decrecientes y los cuellos de botella computacionales, lo que daría lugar a una rápida explosión de inteligencia", señaló, advirtiendo que si esto ocurre, "a los seis meses de la automatización total de la investigación y el desarrollo en IA, podríamos ver más avances algorítmicos que los que se han producido desde el desarrollo del Transformer hace casi una década".

En este escenario, aseguró que sería necesaria una "coordinación nacional e internacional para garantizar la coherencia global y reducir el riesgo a un nivel aceptable".

"Ralentizar el desarrollo según sea necesario"

El investigador aclaró que su incorporación a la compañía estadounidense "no es un respaldo ni una crítica de las prácticas de seguridad de OpenAI en particular", pero espera "que todas las empresas de vanguardia fortalezcan la supervisión de seguridad".

"Los desarrolladores líderes en IA tienen un gran poder para mejorar la situación de manera unilateral y sentar las bases para una coordinación más sólida", incluyendo "ralentizar el desarrollo según sea necesario" y trabajar hacia estándares de seguridad compartidos, concluyó el experto.