Obwohl die KI eine wesentliche Rolle in unserem Alltag spielt, kann sie auch zur Herstellung von Massenvernichtungswaffen eingesetzt werden, wie sie die Welt noch nie zuvor gesehen hat.

Eine Gruppe von mehr als 4500 Forschern und Experten für KI und Robotik fordern jetzt ein Verbot von tödlichen autonomen Waffen. Die Kampagne wird von diesem Video begleitet:

Das Video ist eine gute Zusammenfassung ihrer Argumente, die in drei Rubriken unterteilt sind:

Was sind tödliche autonome Waffen?

Tödliche autonome Waffen sind Waffen, die Menschen ohne menschliches Zutun töten sollen. Sie können ihre Ziele orten, identifizieren und töten, ohne dass ein Mensch eingreifen muss. Diese Waffen würden zu schnell reagieren, als dass ein Mensch eine sinnvolle Kontrolle ausüben könnte. Sie könnten in Massenproduktion hergestellt und so programmiert werden, dass sie auf unschuldige Zivilisten einer bestimmten Ideologie abzielen, und sie könnten so klein gebaut werden, dass sie die Ermordung eines beliebigen politischen Führers ermöglichen.

Warum sollten wir tödliche autonome Waffen verbieten?

Wenn Sie eine KI wollen, die ein Spiel spielen oder Objekte und Bilder erkennen kann, können wir das tun. Aber es gibt nichts, was ein menschenähnliches Urteilsvermögen oder ethische Regeln ermöglicht, die bei Entscheidungen über Leben und Tod unerlässlich sind. Im Gegensatz zu atomaren, biologischen oder chemischen Waffen können tödliche autonome Waffen billig und mit leicht zu beschaffenden Materialien entwickelt werden, und sie können leichter gehackt werden oder in die falschen Hände geraten. Ein einziger Programmierer könnte das tun, was früher Tausende von Soldaten tun mussten. Es wird für kleine Akteure, nicht einmal unbedingt für Regierungen, viel leichter sein, sie auf ruchlose Weise einzusetzen, was Auswirkungen auf die Demokratie und die Meinungsfreiheit haben könnte.

Würde sich ein Verbot negativ auf die Forschung auswirken?

Im Gegenteil, wenn wir sie nicht verbieten, wird dies die Forschung behindern: Die Technologie würde stigmatisiert, und all die guten Dinge, die KI leisten könnte, würden nicht geschehen, da sich die Öffentlichkeit gegen den Einsatz der Technologie in allen Aspekten unseres Lebens wenden würde.

Schlussfolgerung

Wir müssen tödliche autonome Waffen sofort verbieten, bevor das Wettrüsten unumkehrbar wird. Wir müssen sicherstellen, dass die KI zur Schaffung einer besseren Welt eingesetzt wird. Schließen Sie sich dem Aufruf der Expertengruppe an und fordern Sie ein Verbot unter www.autonomousweapons.org

Gastbeitrag des Inhaltskurators der Futures Agency Petervan

Andere Ressourcen

Unser aktueller Podcast basiert auf Kapitel 5 von Gerds Buch Technologie gegen Menschlichkeit : das Internet der unmenschlichen Dinge? Dabei geht es um Themen wie verantwortungsvolle Ökosysteme und Lieferketten sowie die Planung von externen Effekten und unbeabsichtigten Folgen.

Mehr Podcasts hier

Dieses Thema wird auch in Kapitel 8 von Gerds Buch behandelt: "Vorsorge vs. Proaktion". Hier ist ein Zitat aus diesem Kapitel: "Stellen Sie sich vor, Sie treten in ein Wettrüsten mit KI-gesteuerten Waffen ein, die ohne menschliche Aufsicht töten können." Zu diesem Kapitel gibt es demnächst auch einen Podcast.

Eine Reihe von Beiträgen und Artikeln über Digitale Ethik

 

Und hier ist ein Auszug aus einem von Gerds Vorträgen, ein spezieller Abschnitt über "externe Effekte":