J'ai été membre de la Projet du Millénaire depuis un certain temps déjà, et elle est toujours pleine de mises à jour utiles. Directeur exécutif de MillPro, Jérôme Glennest (et a été pendant longtemps) l'une des principales voix au monde sur l'avenir.

Voici leur dernier communiqué de presse sur les risques de l'IA avancée :

"Washington, DC 22 août 2023 - Un nouveau rapport du Projet Millennium avertit que des systèmes d'intelligence artificielle avancés pourraient émerger plus tôt que prévu, posant des problèmes de sécurité et de santé publique. des risques sans précédent à moins que des cadres de gouvernance prudents ne soient rapidement mis en place.

Le rapport intitulé Questions de gouvernance internationale liées au passage de l'intelligence artificielle étroite à l'intelligence artificielle générale (AGI) est une distillation d'entretiens et de points de vue recueillis auprès de 55 experts en IA des États-Unis, de Chine, du Royaume-Uni, du Canada, de l'Union européenne et de Russie sur la manière de réglementer l'AGI - une IA capable de gérer des situations inédites aussi bien, voire mieux, que les humains. Parmi ces experts figurent Sam Altman, Bill Gates et Elon Musk.

AGI pourrait voir le jour au cours des prochaines années, ce qui représenterait une "explosion de l'intelligence" qui créerait une IA surpassant les capacités humaines, selon le rapport. L'absence de gouvernance pourrait conduire à des résultats catastrophiques, y compris à des menaces existentielles pour l'humanité si ces systèmes ne sont pas alignés sur les valeurs et les intérêts humains. Le rapport constate qu'aucun modèle de gouvernance existant n'est suffisamment préparé pour gérer les risques et les opportunités posés par l'intelligence artificielle générale (AGI). Il appelle au développement rapide d'un nouveau type de gouvernance flexible, capable de suivre et d'anticiper le rythme de l'évolution de l'IA et de fournir les garanties nécessaires sans pour autant étouffer les promesses et les progrès de l'IA.

"L'AGI n'a jamais été aussi proche : la prochaine avancée pourrait dépasser l'intelligence humaine", indique le rapport en citant Ilya Sutskever, cofondateur de l'OpenAI. "L'alignement sur les valeurs humaines est essentiel mais difficile. Ben Goertzel, auteur de Révolution AGI a ajouté : "Il s'agit davantage de savoir qui contrôle le développement et l'utilisation de l'intelligence artificielle que d'établir une liste d'éthique".

D'autres résultats importants sont à noter :

• Les avantages de l'AGI étant si importants dans les domaines de la médecine, de l'éducation, de la gestion et de la productivité, les entreprises font la course pour être les premières.
• Parce que l'AGI augmentera le pouvoir politique, les gouvernements font la course pour être les premiers.
• La coopération internationale est essentielle, mais elle est menacée par les tensions concurrentielles entre les nations et les entreprises qui se disputent la suprématie en matière d'IA. Les risques partagés peuvent obliger à collaborer, mais surmonter la méfiance représente un énorme défi.
• Des pouvoirs d'exécution extraordinaires peuvent être nécessaires pour que la gouvernance soit fiable et efficace à l'échelle mondiale, y compris éventuellement des capacités militaires.
• Bien que controversées, les propositions visant à limiter la recherche et le développement peuvent être nécessaires pour donner le temps de concevoir et de mettre en œuvre des solutions de gestion.
• La fenêtre de développement d'une gouvernance efficace est courte, ce qui exige une collaboration sans précédent.

"Nous sommes tous dans le même bateau - si les choses tournent mal, nous sommes tous condamnés", affirme le rapport en citant Nick Bostrom, professeur à Oxford.

Le Projet du Millénaire appelle à une action urgente pour créer une gouvernance et un alignement de l'AGI aux niveaux national et international avant que l'IA avancée ne dépasse la capacité de l'humanité à la contrôler en toute sécurité. "Si nous ne mettons pas en place une convention des Nations unies sur l'IAG et une agence des Nations unies pour l'IAG afin de faire respecter les règles, les garde-fous, les audits et les vérifications, diverses formes d'intelligence artificielle pourraient voir le jour sans que nous puissions les contrôler et sans qu'elles nous plaisent", déclare Jerome Glenn, directeur général du projet Millennium.

Les enjeux pouvant aller jusqu'à l'extinction de l'humanité, le rapport avertit que nous ne pouvons pas nous permettre de retarder la mobilisation de la coopération mondiale.

Pour consulter l'étude complète, visitez le site Site MillPro.