He sido miembro del Proyecto del Milenio y siempre está llena de actualizaciones útiles. Director Ejecutivo de MillPro, Jerome Glennes (y ha sido durante mucho tiempo) una de las voces más destacadas del mundo sobre el Futuro.

He aquí su último comunicado de prensa sobre los riesgos de la IA avanzada:

"Washington, DC 22 de agosto de 2023 - Un nuevo informe de The Millennium Project advierte de que los sistemas avanzados de inteligencia artificial podrían surgir antes de lo previsto, planteando riesgos sin precedentes a menos que se establezcan rápidamente marcos de gobernanza prudentes.

El informe titulado Cuestiones de gobernanza internacional en la transición de la Inteligencia Artificial Estrecha a la Inteligencia Artificial General (IAG) es una recopilación de entrevistas y opiniones de 55 expertos en inteligencia artificial de Estados Unidos, China, Reino Unido, Canadá, la Unión Europea y Rusia sobre cómo regular la inteligencia artificial capaz de manejar situaciones nuevas tan bien o mejor que los humanos. Entre estos expertos se encuentran Sam Altman, Bill Gates y Elon Musk.

AGI podría surgir en los próximos años, lo que representaría una "explosión de inteligencia" que crearía una IA que superaría las capacidades humanas, según el informe. La falta de gobernanza podría conducir a resultados catastróficos, incluidas amenazas existenciales para la humanidad si tales sistemas se desalinean con los valores e intereses humanos. El informe concluye que ningún modelo de gobernanza existente está adecuadamente preparado para gestionar los riesgos y oportunidades que plantea la inteligencia artificial general (IAG). Pide que se desarrolle rápidamente un nuevo tipo de gobernanza flexible que pueda adaptarse y anticiparse al ritmo de cambio de la IA y proporcionar las salvaguardias necesarias sin ahogar las promesas y el avance de la IA.

"La inteligencia artificial está más cerca que nunca: el próximo avance podría superar a la humana", afirma Ilya Sutskever, cofundador de OpenAI. "La alineación con los valores humanos es crítica pero desafiante". Ben Goertzel, autor de Revolución AGI añadió: "Se trata más de QUIÉN controla el desarrollo y uso de la AGI que de una lista de ética".

Otras conclusiones importantes son:

• Como los beneficios de la AGI son tan grandes en medicina, educación, gestión y productividad, las empresas se apresuran a ser las primeras.
• Como la AGI aumentará el poder político, los gobiernos se apresuran a ser los primeros.
• La cooperación internacional es esencial, pero se ve amenazada por las tensiones competitivas entre naciones y empresas que compiten por la supremacía de la IA. Los riesgos compartidos pueden obligar a colaborar, pero superar la desconfianza plantea un enorme desafío.
• Para que la gobernanza sea fiable y eficaz en todo el mundo, pueden ser necesarios poderes coercitivos extraordinarios, incluida la capacidad militar.
• Aunque controvertidas, las propuestas para limitar la investigación y el desarrollo pueden ser necesarias para dar tiempo a diseñar y aplicar soluciones de gestión.
• La ventana para desarrollar una gobernanza eficaz es corta, lo que exige una colaboración sin precedentes.

"Estamos todos juntos en este barco; si sale mal, estamos todos condenados", cita el informe al profesor de Oxford Nick Bostrom.

El Proyecto Millennium hace un llamamiento a la acción urgente para crear una gobernanza y alineación de la AGI a nivel nacional e internacional antes de que la IA avanzada supere la capacidad de la humanidad para controlarla de forma segura. "Si no conseguimos una Convención de las Naciones Unidas sobre la AGI y una Agencia de las Naciones Unidas para la AGI que aplique correctamente las normas, los controles, las auditorías y las verificaciones, podrían surgir diversas formas de Inteligencia Artificial que escapen a nuestro control y no sean de nuestro agrado", afirma Jerome Glenn, director general del Proyecto del Milenio.

Dado que está en juego incluso la extinción de la humanidad, el informe advierte de que no podemos permitirnos retrasar la movilización de la cooperación mundial.

Para consultar el estudio completo, visite Sitio MillPro.