"Auf den ersten Blick scheint das Ziel einfach zu sein - eine KI zu entwickeln, die sich ethisch verantwortlich verhält. Es ist jedoch viel komplizierter, als es auf den ersten Blick scheint, denn es gibt eine erstaunliche Anzahl von Faktoren, die ins Spiel kommen. In Conitzers Projekt heißt es: "Moralische Urteile werden von Rechten (z. B. Privatsphäre), Rollen (z. B. in Familien), früheren Handlungen (z. B. Versprechen), Motiven und Absichten sowie anderen moralisch relevanten Merkmalen beeinflusst. Diese vielfältigen Faktoren sind noch nicht in KI-Systeme eingebaut worden."

Die Evolution der KI: Kann man Moral programmieren? - FLI - Institut für die Zukunft des Lebens
https://futureoflife.org/2016/07/06/evolution-of-ai/
über Instapaper

Meine Antwort wäre übrigens ein klares NEIN. Wie ich in meinem neuen Buch 'Technologie versus Menschlichkeit… "Ich glaube, dass die Technologie völlig nihilistisch gegenüber den Dingen ist, die uns Menschen wirklich wichtig sind. Ich neige zu der Ansicht, dass sie sich nicht in der Maslowschen Bedürfnispyramide von der Befriedigung der Grundbedürfnisse hin zu Liebe und Zugehörigkeit, Selbstwertgefühl oder Selbstverwirklichung entwickeln kann und sollte.