Dies ist ein 5* Must Watch mit Jacob Ward und Thomas Friedman (NYT). Ich habe das in den letzten 3 Jahren unzählige Male gesagt: Wir brauchen dringend JETZT einen globalen KI-Sicherheitsrat, kein Manhattan-Projekt!

Wir sind an einem SCHEIDWEG: Eine KI, die sofort Fehler und Hintertüren finden könnte, um jede globales IT-System, Websites, Apps, Geräte und Clouds … das würde die Welt zum Stillstand bringen. Das ist 500x wichtiger als die bereits wirklich besorgniserregenden geopolitischen Probleme, auch bekannt als #thebadfuture

Aktualisiert: einige Zitate von anderen Orten, siehe unten:).

---

“Anthropic hat beschlossen, sein neuestes KI-Modell nicht zu veröffentlichen genannt. #Mythos an die breite Öffentlichkeit. Nun ist diese Version offenbar so fortgeschritten, dass sie Schwachstellen in einer Vielzahl von Softwareanwendungen finden kann, was sowohl ein großer Fortschritt für die Verbesserung der Cybersicherheit als auch eine enorme Gefahr ist, wenn sie von Kriminellen oder anderen zum Hacken von Systemen missbraucht wird ... Tom, Sie schreiben, dies sei potenziell ein ebenso grundlegender und bedeutender Wendepunkt wie die Entstehung der gegenseitigen Zerstörung und die Notwendigkeit der nuklearen Nichtverbreitung.

Das ist eine gewaltige Aussage. Unsere Wirtschaft heute, all unsere größten Systeme, unsere Wassersysteme, unsere Fluggesellschaften, unsere Flughäfen, unsere Transport- und Telekommunikationssysteme, laufen alle auf Software und Betriebssystemen, ebenso wie die jeder anderen großen Wirtschaft auf der Welt, mit der wir verbunden sind. Wenn wir jetzt im Grunde eine Software haben, die nicht nur fantastisch darin ist, neuen Code zu schreiben, sondern sich auch als fantastisch gut darin erweist, Fehler in Ihrem eigenen Code oder im Code anderer Leute zu finden. Dieses Werkzeug, diese Macht kann nun auf der ganzen Welt eingesetzt werden. Sie wäre in den Händen aller. Stellen Sie sich eine Welt vor, in der jeder im Grunde eine atomare Panzerfaust hätte... Wir wir gebären eine neue Spezies. Sie ist nicht kohlenstoffbasiert wie wir, sondern siliziumbasiert. Aber es ist eine neue Spezies, die wir lernen müssen zu kontrollieren und mit der wir zusammenarbeiten müssen, bevor sie uns zu ihrem Haustier macht. Das hier ist also die Vorderseite eines wirklich großen Problems...”

Das Schlimmste daran ist, dass während Anthropic ie Dario Amodei hat erklärt, dass sie Mythos aufgrund dieser Bedenken NICHT veröffentlichen werden, die meisten anderen KI-Unternehmen wie die ‘New Tyrell' OpenAI wird keine Skrupel haben. Das geschieht JETZT.

Lies Thomas' NYT-Artikel (Geschenkgutschein)

“Dies ist keine marginale Änderung der Bedrohungslandschaft. Jede Institution, die Cyberrisiken bewertet – Versicherer, Infrastrukturinvestoren, Regierungen – hat ihre Modelle auf einer grundlegenden Annahme aufgebaut: dass die offensive Fähigkeit knappe menschliche Expertise erfordert. Mythos beseitigt diese Knappheit. Es ist nicht überraschend, dass Schatzsekretär Scott Bessent Wall-Street-CEOs einberufen kurzfristig. Bessent erkannte das systemische Risiko schnell, aber die Märkte sind noch nicht zu derselben Schlussfolgerung gelangt….Das Bedrohungsmodell, das die Prämien für Cyberversicherungen untermauert, basiert auf einem Jahrzehnt von Ransomware, Datenpannen und Erpressung – Angriffsmuster, die langsam, sequenziell und menschengebunden sind. Ein autonomer Agent operiert anders: Tausende von Angriffsvektoren parallel, lernt aus Reaktionen, passt sich in Echtzeit an. Die Prämien werden bereits für die nächsten zwölf Monate um 15% bis 20% voraussagen, aber diese Zahl geht immer noch von der alten Bedrohungsgeometrie aus… Rückversicherer sehen sich mit etwas Schlimmerem konfrontiert als höheren Ansprüchen: einem Risiko, das mit aktuellen Methoden nicht angemessen bepreist werden kann. Man kann nicht versichern, was man nicht modellieren kann…Welche Governance-Architektur könnte dies lösen? Derzeit gibt es nichts Vergleichbares zum Modell der Internationalen Atomenergie-Organisation (IAEO), das eine existenzielle Technologie lesbar, inspizierbar und beherrschbar machte. Obligatorische unabhängige Evaluierungen der Fähigkeiten vor der Veröffentlichung wären ein Anfang, aber sie erfordern internationale Koordination und ein Maß an technischem Zugang zu zukunftsweisenden Systemen, das derzeit keine Aufsichtsbehörde hat.” Azeem Azhar

Über The Economist: According to Anthropic, the capabilities of Mythos are “substantially beyond those of any model we have previously trained”. The lab says it is particularly alarmed by the system’s ability to find software vulnerabilities and either fix them (if set to work as a defender) or exploit them (if acting as a hacker). Such claims ought normally to be taken with a pinch of salt. Anthropic built the model, ran the tests—and stands to benefit from the perception that its system is far more brilliant than anything to have come before it. The lab has been on a roll lately. On April 6th it announced that its annualised revenue had reached $30bn, up from just $9bn at the end of last year. It is surely eager to maintain its momentum.

Dennoch gibt es Gründe, Anthropic's jüngste Warnungen ernst zu nehmen. Der erste ist ihr Ernst: Anthropic sagt, dass Mythos bereits schwere Schwachstellen in “jedem wichtigen Betriebssystem und Webbrowser” gefunden hat, darunter eine, die 27 Jahre lang unentdeckt geblieben war… Hacker sind nicht die Einzigen, die von Projekt Glasswing verärgert sein könnten. Die amerikanische Regierung hat lange Zeit versucht, Schwachstellen in den Cyberabwehrsystemen von Gegnern auszunutzen.. Dies bedeutete, noch unentdeckte Schwachstellen, auch in amerikanischer Software, die im Ausland eingesetzt wird, für den Moment zu horten, an dem diese “Zero Days” die größte Wirkung entfalten. Wenn Projekt Glasswing funktioniert, könnte es viele amerikanische Cyberwaffen entwaffnen.”

Thomas Friedman über die NYTDie gute Nachricht ist, dass Anthropic im Zuge der Entwicklung von Claude Mythos entdeckt hat, dass die KI nicht nur einfacher und mit größerer Komplexität als jedes derzeit verfügbare Modell Softwarecode schreiben konnte, sondern dass sie als Nebenprodukt dieser Fähigkeit auch Schwachstellen in praktisch allen weltweit beliebtesten Softwaresystemen leichter als zuvor finden konnte.

Die schlechte Nachricht ist, dass böswillige Akteure, wenn dieses Tool in ihre Hände gerät, so ziemlich jedes wichtige Softwaresystem der Welt hacken könnten, einschließlich all jener, die von den Unternehmen im Konsortium entwickelt wurden... Mythos Preview hat bereits Tausende von hochriskanten Schwachstellen gefunden, darunter auch solche in jedes wichtige Betriebssystem und jeder wichtige Webbrowser. Angesichts des Fortschritts der KI wird es nicht lange dauern, bis solche Fähigkeiten verbreitet sind, möglicherweise auch über Akteure hinaus, die sich zu deren sicherem Einsatz verpflichtet haben. Die Folgen – wirtschaftlicher Natur, im Bereich der öffentlichen Sicherheit und für die nationale Sicherheit – könnten schwerwiegend sein..’

Also…zusätzlich habe ich ein ziemlich interessantes NotebookLM-Video mit meiner eigenen Stimme als Overdub erstellt:

Zugehörig: https://thebadfuture.com/

UPDATE 20. April 2026

---

---