Voici comment David Chalmers décrit cette vision (à partir de 22:27 dans la vidéo Youtube ci-dessous) :

"Pour moi, cela soulève la possibilité d'un mode d'échec massif dans l'avenir, la possibilité que nous créions des AGI de niveau humain ou super humain et que nous ayons un monde entier peuplé d'AGI de niveau super humain, dont aucun n'est conscient. Ce serait un monde, potentiellement un monde de grande intelligence, sans conscience, sans aucune expérience subjective. Or, je pense que de nombreuses personnes, avec une grande variété de points de vue, considèrent que l'expérience subjective ou la conscience est nécessaire pour donner un sens ou une valeur à sa vie. Ce ne serait peut-être pas un résultat terriblement négatif, ce serait juste un résultat nul, et parmi les pires résultats possibles".

Chalmers est connu pour ses travaux sur la philosophie de l'esprit et s'est particulièrement penché sur la nature de la conscience. Il est célèbre pour avoir formulé l'idée d'un "problème difficile de la conscience", qu'il décrit dans son article de 1995 intitulé "Facing up to the problem of consciousness" (Faire face au problème de la conscience) comme la question suivante : "Pourquoi le sentiment qui accompagne la conscience de l'information sensorielle existe-t-il ?"

Cauchemar de l'automatisation : un philosophe nous avertit que nous sommes en train de créer un monde sans conscience
https://bigthink.com/the-future/automation-nightmare-we-might-be-headed-for-a-world-without-consciousness/