Was passiert mit den menschlichen Werten und der Ethik, wenn Maschinen einen IQ von 50.000 haben?

Von Gerd Leonhard Futurist , Autor Technologie gegen Menschlichkeit

Die Partnerschaft für KI hat gerade angekündigt einige neue Mitglieder und ein Kuratorium, und Apple hat sich endlich angeschlossen Facebook, Google / Deep Mind, IBM, Amazon und Microsoft. Diese Entwicklung hat mich veranlasst, meinen ursprünglichen offenen Brief zu aktualisieren (veröffentlicht über Wired.co.uk am 26. Oktober 2016) und meine Kernaussagen für die Partnerschaft zu verdeutlichen. (Im Interesse einer vollständigen Offenlegung möchte ich darauf hinweisen, dass ich in den letzten 10 Jahren für fast alle der in diesem offenen Brief angesprochenen Unternehmen Grundsatzreden und Vorträge gehalten habe)

Sehr geehrtes Kuratorium und Mitgliedsunternehmen der Die Partnerschaft für KI zum Nutzen der Menschen und der Gesellschaft,

Die "Partnerschaft für KI zum Nutzen der Menschen und der Gesellschaft" ist eine willkommene Abwechslung zu der von der Technologiebranche zelebrierten Disruption und "digitalen Transformation". Aber wird Ihre Initiative auch eine ernsthafte Diskussion über die Ethik des digitalen Zeitalters und darüber, wie weit wir in diesem Bereich gehen sollten Kommende Konvergenz von (Mensch) und Maschine?

Daten sind bereits das neue Öl, doch die explosionsartigen Fortschritte in den Bereichen KI, Deep Learning und kognitives Computing werden die Macht derjenigen, die all diese Daten in ihren "globalen Gehirnen" speichern, mit Sicherheit enorm steigern - und zwar in buchstäblich unvorstellbarem Ausmaß. Aber anders als bei den Giganten des fossilen Brennstoffzeitalters wie BP oder Exxon-Mobile gibt es kaum einen Überblick darüber, was genau Sie und Ihre Kollegen mit dieser Macht tun können und werden, und welche Regeln Sie befolgen müssen, sobald Sie diese allmächtige KI am Himmel, verkörpert durch Bots und Maschinen, aufgebaut haben - und wer die Regeln aufstellt, um damit zu beginnen. Wird sich diese Partnerschaft in einer vorausschauenden Verwaltung manifestieren, und bedeutet sie, dass Ihre Unternehmen endlich bereit sind, Verantwortung für die Folgen dieser die Menschheit verändernden Erfindungen zu übernehmen? Werden Sie sich bemühen um eine eine bessere Mischung aus Vorsorge und Pro-Aktioneine, bei der das menschliche Wohlergehen an erster Stelle steht? Würden Sie in Erwägung ziehen, auf ernsthafte Gewinne zu verzichten, weil ein magisches neues Projekt zu viele negative (wenn auch unbeabsichtigte) Folgen haben könnte?

In einer nicht allzu fernen Welt, in der Maschinen einen IQ von 50.000 haben und das Internet der TWenn die Technik 500 Milliarden Geräte umfasst, was wird dann mit den sozialen Verträgen, den Werten und der Ethik geschehen, auf denen menschliche Grundwerte wie Selbstbestimmung, Privatsphäre und freier Wille beruhen? Werden wesentliche menschliche Einschränkungen wie das Altern oder sogar der Tod bald zur Diskussion stehen, wenn die Technologie den Warp-Antrieb erreicht?

Es scheint mir klar zu sein, dass die Frage nicht mehr lautet, ob die Technik etwas kann, sondern warum. Wer darf entscheiden, wasist?  Wer ist "Mission Control für die Menschheit"?

Mehrere Paradigmenwechsel verändern die Gesellschaft in rasantem Tempo, und Ihre Organisationen befinden sich im Auge des Sturms, der durch das, was ich als die MegaschichtenDigitalisierung, Kognition, Automatisierung, Disintermediation und Virtualisierung, um nur die wichtigsten zu nennen. Dies sind exponentielle und kombinatorische Veränderungen, die mehrere Bereiche gleichzeitig umgestalten und uns in eine vielversprechende Zukunft führen können (man stelle sich vor, Krebs zu besiegen oder Energie oder Wasser im Überfluss zu haben) - doch ohne einen globalen Rahmen von digitale Ethik könnte auch eine besondere Art von Hölle schaffen.

Besorgniserregend ist, dass die digitale Ethik derzeit nicht besser dasteht als die unternehmerische Nachhaltigkeit (CSR), was die Agenda von Silicon Valley und Big Tech betrifft. Das Standardparadigma ist immer noch, wie Bert Brecht es ausdrückte, "erst das Essen, dann die Moral". Das ist eindeutig unhaltbar.

Zugegeben, Ethik ist kulturell relativ, aber bestimmte Universalien sind selbstverständlich, wie die Fähigkeit, weiter zu existieren, oder das Streben nach Glück. Und natürlich sind Profit und Wachstum ein entscheidendes Element in den meisten Zivilisationen, und Gesellschaften wie das Römische Reich, die ihre Profitbasis verloren, gingen schnell unter. Aber was wäre, wenn Ihre nächste Evolutionsstufe Ihnen nicht nur einen digitalen Ethikkodex bieten würde - sondern erforderlich ein? Könnte die nächste große Unternehmenserzählung das Mainstreaming ethischen digitalen Verhaltens sein? Wir sollten nicht auf intelligente Maschinen mit einem IQ von 50.000 warten, bevor wir diese ethischen Dilemmata in den Griff bekommen.

Hier sind vier wesentliche Punkte, die ich zur Diskussion stellen möchte:

1) Wir befinden uns am Drehpunkt der Exponentialkurve - die Dinge werden sich aufgrund von KI und "denkenden Maschinen" bald auf unvorstellbare Weise verändern. Dies ist eine riesige Chance für Sie und Ihre Unternehmen, eine neue Art von Verantwortung für die Menschheit zu übernehmen, und ein ganzheitlicherer Ansatz für das menschliche Wohlergehen, der auf der Annahme Ihrer neuen KI-zentrierten Verantwortung beruht, wäre neu. Zweifellos ein unscharfer Bereich, aber ist das nicht der Punkt, an dem die Dinge normalerweise beginnen?

2) Technologie ist nicht unser Ziel - sie ist unser Werkzeugkasten, unsere Methode. Technologie sollte nicht sein was wir suchen aber wie die wir suchen. Der Mensch ist ein Werkzeugmacher, kein Werkzeugmacher - und ich glaube, das sollten wir beibehalten. Werden Ihre KI-Innovationen also dazu führen, dass wir unser Denken und unsere Menschlichkeit aufgeben - oder werden sie dazu dienen, das menschliche Wohlergehen wirklich zu fördern? Wie wollen Sie das sicherstellen?

3) Wir müssen uns eindeutig die Technologie zu eigen machen, aber ich persönlich glaube wir sollten es nicht werden. Was glauben Sie? Glauben Sie, dass die Menschheit auf eine totale Symbiose mit der Technologie zusteuert, d. h. dass wir bald nicht mehr in der Lage sein werden, ohne unsere eigenen Fähigkeiten zu verbessern? Ist die Konvergenz zwischen Mensch und Maschine unvermeidlich? Was ist Ihr Standpunkt zu Die Singularität und dem so genannten Transhumanismus?

4) Jeder großartige Algorithmus braucht auch ein entsprechendes menschliches Maß - ich nenne es Androrithmen, einen Ausgleichsfaktor zum Schutz und zur Förderung dessen, was uns einzigartig menschlich macht. Vielleicht lautet die Frage nicht mehr nur, was automatisiert werden kann, sondern auch, was sollte nicht automatisiert oder robotisiert werden.

Die Partnerschaft für KI ist ein vielversprechendes Konzept. Lassen Sie uns jetzt die digitale Ethik von einer unscharfen Grauzone in ein globales Gesetzbuch der Rechte verwandeln.

Mit freundlichen Grüßen, Gerd Leonhard

Erfahren Sie mehr über mein neues Buch Technologie gegen Menschlichkeit"., lesen Sie die TVH-Spickzettelkaufen Sie die Buch auf Amazon (dieser Link führt Sie automatisch zu Ihrer lokalen amazon-Seite), oder bestellen Sie es direkt von meinem Verlag (alle Formate; Großbestellungen mit Rabatt)

Verwandte Materialien

Mein jüngstes Video über das Global Brain

 

Exponentielle Veränderung