"Os pressupostos subjacentes a uma inteligência sobre-humana a surgir em breve são:

A inteligência artificial já está a tornar-se mais inteligente do que nós, a um ritmo exponencial.
Transformaremos as IA numa inteligência de objetivo geral, como a nossa.
Podemos fazer inteligência humana em silício.
A inteligência pode ser alargada sem limites.
Quando tivermos uma superinteligência explosiva, ela poderá resolver a maior parte dos nossos problemas.
Em contradição com esta ortodoxia, considero que as cinco heresias seguintes têm mais provas para as apoiar.

A inteligência não é uma dimensão única, pelo que "mais inteligente do que os humanos" é um conceito sem sentido.
Os seres humanos não têm mentes de objetivo geral, e as IA também não terão.
A emulação do pensamento humano noutros meios será limitada pelo custo.
As dimensões da inteligência não são infinitas.
As inteligências são apenas um fator de progresso".

O mito de uma IA sobre-humana - Backchannel
https://backchannel.com/the-myth-of-a-superhuman-ai-59282b686c62
via Instapaper

Totalmente correto!