"Die klare ethische Programmierung, der KI folgen muss, wird uns dazu zwingen, uns zusammenzureißen und uns viel klarer darüber zu werden, warum wir glauben, was wir zu glauben glauben glauben. Unter welchen Bedingungen wollen wir relativistisch sein? In welchen spezifischen Kontexten wollen wir, dass das Gesetz kontextabhängig ist? Die menschliche Moral ist ein Wirrwarr von Rätseln, das von einer genaueren Betrachtung, weniger Aberglauben und mehr evidenzbasiertem Denken profitieren könnte. Wir werden schnell feststellen, dass der Versuch, KI so zu trainieren, dass sie humanistischer wird, uns herausfordert, humanistischer zu werden. So wie Kinder ihre Eltern verbessern können, ist die Herausforderung, KI aufzuziehen, eine Chance - kein Schrecken. Wir sollten sie begrüßen. Ich wünschte, diejenigen, die lautstarke Anhänger haben, würden sie ebenfalls begrüßen.

Das Technium: Warum ich mir keine Sorgen um eine Super-KI mache
https://kk.org