"Este facto levanta questões surpreendentes. À medida que a tecnologia avança, é possível que em breve ultrapassemos um limiar para além do qual a utilização da IA requer um salto de fé. Claro que nós, humanos, também nem sempre conseguimos explicar verdadeiramente os nossos processos de pensamento, mas encontramos formas de confiar e avaliar intuitivamente as pessoas. Será que isso também será possível com máquinas que pensam e tomam decisões de forma diferente da que um humano tomaria? Nunca antes construímos máquinas que funcionam de formas que os seus criadores não compreendem. Até que ponto podemos esperar comunicar - e dar-nos bem - com máquinas inteligentes que podem ser imprevisíveis e inescrutáveis? Estas questões levaram-me numa viagem à vanguarda da investigação sobre algoritmos de IA, da Google à Apple e a muitos outros locais, incluindo um encontro com um dos maiores filósofos do nosso tempo."

Há um grande problema com a IA: nem mesmo os seus criadores conseguem explicar como funciona
https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/
via Instapaper