Einige der besten Zitate aus diesem brillanten Beitrag von Lucianio Floridi den ich kürzlich bei einer von mir moderierten Veranstaltung traf. Luciano ist Professor für Philosophie und Informationsethik an der Universität Oxford und Distinguished Research Fellow am Uehiro Centre for Practical Ethics. Sein neuestes Buch ist Die vierte Revolution: Wie die Infosphäre Verändert die menschliche Realität (2014).

Diejenigen, die an echte KI und an Goods "Intelligenzexplosion" glauben, gehören zur Kirche der Singularitaristen. In Ermangelung eines besseren Begriffs werde ich die Ungläubigen als Mitglieder der Kirche der KI-Theisten bezeichnen. Werfen wir einen Blick auf beide Glaubensrichtungen und sehen wir, warum beide falsch liegen. Und in der Zwischenzeit, denken Sie daran: Gute Philosophie liegt fast immer in der langweiligen Mitte".

"Wie alle auf Glauben basierenden Ansichten ist auch der Singularitarismus unwiderlegbar, da er letztlich nicht durch Vernunft und Beweise eingeschränkt wird. Er ist auch unplausibel, da es keinen Grund gibt zu glauben, dass irgendetwas, das intelligenten (geschweige denn ultraintelligenten) Maschinen ähnelt, aus unserem derzeitigen und vorhersehbaren Verständnis von Informatik und digitalen Technologien hervorgehen wird.

"Hier vermischen Singularitaristen Glauben und Fakten, oft, so glaube ich, bewegt von einem aufrichtigen Gefühl apokalyptischer Dringlichkeit. Sie sprechen von Arbeitsplatzverlusten, gefährdeten digitalen Systemen, unbemannten Drohnen und anderen realen und besorgniserregenden Problemen im Zusammenhang mit Computertechnologien, die das menschliche Leben von der Bildung bis zur Beschäftigung, von der Unterhaltung bis zu Konflikten beherrschen werden. Dann machen sie sich ernsthafte Sorgen darüber, dass sie ihren nächsten Honda Civic nicht mehr kontrollieren können, weil er seinen eigenen Kopf hat. Wie sich eine böse, ultraintelligente KI jemals autonom aus den für das Einparken in eine enge Parklücke erforderlichen Rechenfertigkeiten entwickeln soll, bleibt unklar. Die Wahrheit ist, dass das Besteigen eines Baumes kein kleiner Schritt zum Mond ist, sondern das Ende der Reise. Was wir sind Wir werden immer intelligentere Maschinen sehen, die immer mehr Aufgaben übernehmen können, die wir heute selbst erledigen.

"Sowohl Singularitaristen als auch KI-Theisten irren sich. Wie Turing in dem Artikel von 1950, in dem er seinen Test vorstellte, deutlich erklärte, ist die Frage 'Kann eine Maschine denken?" ist "zu sinnlos, um eine Diskussion zu verdienen". (Ironischerweise, oder vielleicht auch vorausschauend, ist diese Frage auf der Medaille des Loebner-Preises eingraviert.) Dies gilt unabhängig davon, welcher der beiden Kirchen man angehört. Dennoch setzen beide Kirchen diese sinnlose Debatte fort und ersticken jede abweichende Stimme der Vernunft."

"Echte KI ist zwar nicht logisch unmöglich, aber völlig unwahrscheinlich. Wir haben keine Ahnung, wie wir sie entwickeln könnten, nicht zuletzt, weil wir nur sehr wenig darüber wissen, wie unser eigenes Gehirn und unsere Intelligenz funktionieren.. Das bedeutet, dass wir uns keine Sorgen über das mögliche Auftreten einer Ultraintelligenz machen sollten. Was wirklich zählt, ist, dass die zunehmende Präsenz von immer intelligenteren Technologien enorme Auswirkungen darauf hat, wie wir uns selbst, die Welt und unsere Interaktionen wahrnehmen. Es geht nicht darum, dass unsere Maschinen ein Bewusstsein haben oder intelligent sind oder in der Lage sind, etwas zu wissen, was wir wissen. Sie sind nicht. Es gibt zahlreiche bekannte Ergebnisse, die die Grenzen der Berechnungen aufzeigen, so genannte unentscheidbare Probleme, für die bewiesen werden kann, dass Es ist unmöglich, einen Algorithmus zu entwickeln, der immer zu einer korrekten Ja-oder-Nein-Antwort führt.r"

Wir sollten die Dummheit der KI für die menschliche Intelligenz nutzbar machen. Millionen von Arbeitsplätzen werden wegfallen, beseitigt und neu geschaffen werden; die Vorteile daraus sollten von allen geteilt werden, und die Kosten sollten von der Gesellschaft getragen werden. Wir sollten die Vorhersagekraft der KI in den Dienst von Freiheit und Autonomie stellen. Die Vermarktung von Produkten, die Beeinflussung von Verhaltensweisen, die Beeinflussung von Menschen oder die Bekämpfung von Kriminalität und Terrorismus dürfen niemals die Menschenwürde untergraben. Und schließlich sollten wir dafür sorgen, dass die KI uns menschlicher macht. Die ernste Gefahr besteht darin, dass wir unsere intelligenten Technologien missbrauchen könnten, zum Nachteil der meisten Menschen und des gesamten Planeten. Winston Churchill sagte: "Wir formen unsere Gebäude und danach formen unsere Gebäude uns". Dies gilt auch für die Infosphäre und ihre intelligenten Technologien

Zum Thema: meine Keynotes und Vorträge über KI