"Dies wirft verwirrende Fragen auf. Mit den Fortschritten der Technologie könnten wir bald eine Schwelle überschreiten, ab der der Einsatz von KI einen Vertrauensvorschuss erfordert. Sicher, auch wir Menschen können unsere Gedankengänge nicht immer wirklich erklären - aber wir finden Wege, um Menschen intuitiv zu vertrauen und sie einzuschätzen. Wird das auch bei Maschinen möglich sein, die anders denken und Entscheidungen treffen als ein Mensch? Wir haben noch nie Maschinen gebaut, die auf eine Art und Weise funktionieren, die ihre Schöpfer nicht verstehen. Wie gut können wir mit intelligenten Maschinen, die unberechenbar und undurchschaubar sein könnten, kommunizieren und auskommen? Diese Fragen haben mich auf eine Reise an die Spitze der Forschung über KI-Algorithmen geführt, von Google zu Apple und an viele Orte dazwischen, einschließlich eines Treffens mit einem der größten Philosophen unserer Zeit."

Es gibt ein großes Problem mit KI: Selbst ihre Schöpfer können nicht erklären, wie sie funktioniert
https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/
über Instapaper