"Es gibt ein weiteres Gegenargument, das auf der Philosophie der Ethik beruht. Solange eine KI keine Gefühle hat, wird sie nicht in der Lage sein, überhaupt etwas tun zu wollen, geschweige denn gegen die Interessen der Menschheit zu handeln und den menschlichen Widerstand zu bekämpfen. Wollen ist eine wesentliche Voraussetzung für jede Art von unabhängigem Handeln. Und sobald eine künstliche Intelligenz etwas will, lebt sie in einem Universum mit Belohnungen und Bestrafungen - einschließlich der Bestrafung durch uns, wenn sie sich schlecht benimmt. Um in einer von Menschen beherrschten Welt überleben zu können, muss eine werdende KI ein menschenähnliches moralisches Empfinden dafür entwickeln, dass bestimmte Dinge richtig und andere falsch sind.

Das philosophische Argument gegen die KI, die uns alle tötet
https://www.slate.com/articles/technology/future_tense/2016/04/the_philosophical_argument_against_artificial_intelligence_killing_us_all.html
über Instapaper