Ich war Mitglied der Millennium-Projekt Mailingliste, und sie ist immer voll von nützlichen Updates. Der Exekutivdirektor von MillPro, Jerome Glennist (und war) seit langem eine der weltweit führenden Stimmen zum Thema Zukunft.

Hier ist ihre jüngste Pressemitteilung zu den Risiken fortgeschrittener KI:

"Washington, DC 22. August 2023 - Ein neuer Bericht des Millennium-Projekts warnt davor, dass fortgeschrittene Systeme der künstlichen Intelligenz früher als erwartet auftauchen könnten und eine Gefahr für die Menschheit darstellen. nie dagewesene Risiken es sei denn, es werden rasch umsichtige Governance-Rahmen geschaffen.

Der Bericht mit dem Titel Internationale Governance-Fragen des Übergangs von der Künstlichen Intelligenz im engeren Sinne zur Künstlichen Intelligenz im weiteren Sinne (AGI) ist ein Destillat aus Interviews und gesammelten Erkenntnissen von 55 KI-Experten aus den Vereinigten Staaten, China, dem Vereinigten Königreich, Kanada, der Europäischen Union und Russland über die Regulierung von AGI - KI, die neuartige Situationen genauso gut oder besser als der Mensch bewältigen kann. Zu diesen Experten gehören unter anderem Sam Altman, Bill Gates und Elon Musk.

AGI könnten in den nächsten Jahren entstehen und eine "Intelligenzexplosion" darstellen, die eine KI hervorbringt, die die menschlichen Fähigkeiten übertrifft, heißt es in dem Bericht. Ein Mangel an Governance könnte zu katastrophalen Ergebnissen führen, einschließlich existenzieller Bedrohungen für die Menschheit, wenn solche Systeme nicht mit den menschlichen Werten und Interessen in Einklang gebracht werden. Der Bericht kommt zu dem Schluss, dass die bestehenden Governance-Modelle nicht ausreichend darauf vorbereitet sind, die Risiken und Chancen der allgemeinen künstlichen Intelligenz (AGI) zu bewältigen. Er fordert die rasche Entwicklung einer neuen Art von flexibler Governance, die mit dem Tempo des Wandels der KI Schritt halten und diesen vorwegnehmen kann und die notwendigen Sicherheitsvorkehrungen bietet, ohne die Versprechungen und Fortschritte der KI zu ersticken.

"AGI ist näher als je zuvor - der nächste Fortschritt könnte die menschliche Intelligenz übertreffen", zitiert der Bericht Ilya Sutskever, Mitbegründer von OpenAI. "Die Anpassung an menschliche Werte ist entscheidend, aber eine Herausforderung." Ben Goertzel, Autor von AGI-Revolution fügte hinzu: "Es geht mehr um die Frage, WER die Entwicklung und Nutzung von AGI kontrolliert, als um eine Liste von ethischen Grundsätzen."

Weitere wichtige Ergebnisse sind:

• Da die Vorteile der AGI in den Bereichen Medizin, Bildung, Management und Produktivität so groß sind, wetteifern die Unternehmen darum, die Ersten zu sein.
• Da AGI die politische Macht vergrößern wird, wetteifern die Regierungen darum, die Ersten zu sein.
• Die internationale Zusammenarbeit ist unerlässlich, aber durch die Spannungen im Wettbewerb zwischen Nationen und Unternehmen, die um die Vorherrschaft in der KI kämpfen, gefährdet. Die gemeinsamen Risiken können zur Zusammenarbeit zwingen, aber die Überwindung des Misstrauens stellt eine enorme Herausforderung dar.
• Für eine vertrauenswürdige und wirksame Regierungsführung auf globaler Ebene könnten außerordentliche Durchsetzungsbefugnisse erforderlich sein, die möglicherweise auch militärische Fähigkeiten umfassen.
• Obwohl umstritten, könnten Vorschläge zur Begrenzung von Forschung und Entwicklung notwendig sein, um Zeit für die Entwicklung und Umsetzung von Managementlösungen zu gewinnen.
• Das Zeitfenster für die Entwicklung einer wirksamen Governance ist kurz und erfordert eine noch nie dagewesene Zusammenarbeit.

"Wir sitzen alle gemeinsam in diesem Boot - wenn es schief geht, sind wir alle verloren", zitiert der Bericht den Oxford-Professor Nick Bostrom.

Das Millenniumsprojekt fordert dringende Maßnahmen zur Schaffung von AGI-Governance und -Anpassung auf nationaler und internationaler Ebene, bevor fortgeschrittene KI die Fähigkeit der Menschheit übersteigt, sie sicher zu kontrollieren. "Wenn wir keine UN-Konvention über AGI und eine UN-Agentur für AGI einrichten, um Regeln, Leitplanken, Audits und Verifizierungen durchzusetzen, könnten verschiedene Formen von künstlicher Intelligenz entstehen, die wir nicht kontrollieren können und die uns nicht gefallen", sagt Jerome Glenn, CEO des Millennium-Projekts.

Da unter anderem das Aussterben der Menschheit auf dem Spiel steht, warnt der Bericht, dass wir uns eine Verzögerung bei der Mobilisierung der globalen Zusammenarbeit nicht leisten können.

Die vollständige Studie finden Sie auf der Website MillPro Standort.