Gastbeitrag von TFA-Kurator Peter Van

In Gerds jüngstem Podcast mit Matt Ward von Disruptors.fmerörterten sie ein Thema aus seinem letzten Buch Technologie vs. Menschlichkeit, ein Konzept, das er alsMegaschichten". Dies sind die 10 wichtigsten disruptiven Kräfte, die wir untersuchen müssen, wie Datafizierung, Virtualisierung, Automatisierung und Kognition.

Während diese exponentiellen Veränderungen auf uns zukommen, blickt Gerd auf das, was er unseren "Oppenheimer-Moment" nennt: die dringende Reflexion der Menschheit über die Entscheidungen, die wir treffen, und die Ergebnisse dieser Entscheidungen. Der Begriff "Oppenheimer-Moment" wurde nach dem Physiker Julian Rober Oppenheimer, dem Erfinder der Atombombe, geprägt. In der 1940s Oppenheimer leitete das Manhattan-Projekt, dessen Aufgabe es war, die Atombombe zu entwickeln. Im Jahr 1945 wurde die Bombe über Japan abgeworfen und leitete das Ende des Zweiten Weltkriegs ein.

Als Oppenheimer miterlebte, wie die von ihm mitentwickelten Atomwaffen tatsächlich eingesetzt wurden, war er verzweifelt: "Jetzt bin ich der Tod geworden, der Zerstörer der Welten." Innerhalb von zwei Jahrzehnten nach Hiroshima und Nagasaki wurde die Diskussion über Verträge über die Nichtverbreitung von Kernwaffen (NPTs)) ins Leben gerufen, die uns seit ihrer Ratifizierung im Jahr 1970 effektiv schützen. Das war ihr "Oppenheimer-Moment" - die Erkenntnis der wahren Gefahr einer scheinbar friedlichen und fortschrittlichen Technologie.

Werden wir einen ähnlich katastrophalen Vorfall brauchen, um eine ernsthafte Debatte über bestimmte Zukunftstechnologien anzustoßen, fragt Gerd, und wenn ja - wann? Er weist auf die Notwendigkeit hin, innezuhalten und über die ungezügelte Verherrlichung einer von Algorithmen und Maschinen geführten Welt nachzudenken. Was wir brauchen, sagt er, ist eine Art Vertrag über Künstliche allgemeine Intelligenzund das menschliche Genom Bearbeitung.

Andernfalls besteht die Gefahr, dass wir einer noch nie dagewesenen digitalen Gewalt ausgesetzt werden. Man denke nur an groß angelegte Cyberkriege, die auf fehlerhaften Blackbox-KI-Entscheidungen beruhen, oder an die unbefugte Nutzung privater Daten, die die intimsten Geheimnisse einer Bevölkerung preisgeben.

"Sollen wir einfach das tun, was die Technik uns erlaubt?"

- Gerd Leonhard

Seine Antwort ist einfach: Bildung und Zertifizierung. Gerd schlägt eine Art "Führerschein" für Politiker und politische Entscheidungsträger vor, eine zentrale Zertifizierung, bei der bestimmte Personen in einen Rat von Führungskräften gewählt werden. Wie ein Kollektiv weiser Männer und Frauen werden diese Führer über die Regulierung entscheiden und uns durch diesen kritischen Wendepunkt führen. Sie werden die Mission Control der Menschheit sein.

Wenn wir das schaffen, wird es vielleicht keine Tragödie brauchen, um zu entscheiden, wie es weitergeht.