"Los supuestos detrás de una inteligencia sobrehumana que surja pronto son:

La inteligencia artificial ya se está volviendo más inteligente que nosotros, a un ritmo exponencial.
Convertiremos las IA en una inteligencia de propósito general, como la nuestra.
Podemos fabricar inteligencia humana en silicio.
La inteligencia puede ampliarse sin límites.
Cuando tengamos una superinteligencia explosiva, podrá resolver la mayoría de nuestros problemas.
En contradicción con esta ortodoxia, encuentro que las siguientes cinco herejías tienen más evidencias que las apoyan.

La inteligencia no es una dimensión única, por lo que "más inteligente que los humanos" es un concepto sin sentido.
Los humanos no tienen mentes de propósito general, y las IA tampoco las tendrán.
La emulación del pensamiento humano en otros medios se verá limitada por el coste.
Las dimensiones de la inteligencia no son infinitas.
Las inteligencias son sólo un factor de progreso".

El mito de una IA sobrehumana - Backchannel
https://backchannel.com/the-myth-of-a-superhuman-ai-59282b686c62
vía Instapaper

Totalmente acertado.