"Cela soulève des questions époustouflantes. Au fur et à mesure que la technologie progresse, nous pourrions bientôt franchir un seuil au-delà duquel l'utilisation de l'IA nécessite un acte de foi. Certes, nous, les humains, ne pouvons pas toujours expliquer véritablement nos processus de pensée, mais nous trouvons des moyens de faire intuitivement confiance aux gens et de les jauger. Cela sera-t-il également possible avec des machines qui pensent et prennent des décisions différemment de celles d'un être humain ? Nous n'avons encore jamais construit de machines dont le fonctionnement échappe à leurs créateurs. Dans quelle mesure pouvons-nous espérer communiquer et nous entendre avec des machines intelligentes qui pourraient être imprévisibles et impénétrables ? Ces questions m'ont conduit à un voyage à la pointe de la recherche sur les algorithmes d'IA, de Google à Apple et dans de nombreux endroits intermédiaires, y compris une rencontre avec l'un des plus grands philosophes de notre temps.

L'IA pose un gros problème : même ses créateurs ne peuvent expliquer comment elle fonctionne.
https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/
via Instapaper