Así es como David Chalmers describe esta visión (a partir del minuto 22:27 del vídeo de Youtube):

"Para mí, eso plantea la posibilidad de un modo de fallo masivo en el futuro, la posibilidad de que creemos AGIs de nivel humano o sobrehumano y tengamos un mundo entero poblado por AGIs de nivel sobrehumano, ninguno de los cuales es consciente. Y eso sería un mundo, podría ser potencialmente un mundo de gran inteligencia, sin conciencia sin experiencia subjetiva en absoluto. Ahora bien, creo que mucha gente, con una amplia variedad de puntos de vista, opina que básicamente la experiencia subjetiva o la consciencia son necesarias para tener algún significado o valor en tu vida. Así que por lo tanto, un mundo sin conciencia no podría posiblemente un resultado positivo. tal vez no sería un resultado terriblemente negativo, sólo sería un resultado 0, y entre los peores resultados posibles".

Chalmers es conocido por sus trabajos sobre filosofía de la mente y ha profundizado especialmente en la naturaleza de la conciencia. Es famoso por haber formulado la idea de un "problema difícil de la conciencia", que describe en su artículo de 1995 "Facing up to the problem of consciousness" como la pregunta de "¿por qué existe la sensación que acompaña a la conciencia de la información sensorial?".

Pesadilla de automatización: un filósofo advierte de que estamos creando un mundo sin conciencia
https://bigthink.com/the-future/automation-nightmare-we-might-be-headed-for-a-world-without-consciousness/