David Chalmers beschreibt diese Vision folgendermaßen (ab 22:27 Uhr im Youtube-Video unten):

"Für mich bedeutet das die Möglichkeit eines massiven Versagens in der Zukunft, die Möglichkeit, dass wir menschliche oder übermenschliche AGI erschaffen und eine ganze Welt haben, die von übermenschlichen AGI bevölkert ist, von denen keine ein Bewusstsein hat. Und das wäre eine Welt, die potenziell eine Welt großer Intelligenz sein könnte, ohne Bewusstsein, ohne jegliche subjektive Erfahrung. Ich denke, dass viele Menschen mit einer Vielzahl von Ansichten die Ansicht vertreten, dass subjektive Erfahrung oder Bewusstsein notwendig ist, um überhaupt einen Sinn oder Wert im Leben zu haben. Eine Welt ohne Bewusstsein könnte also unmöglich ein positives Ergebnis sein. Vielleicht wäre es kein furchtbar negatives Ergebnis, es wäre einfach ein 0-Ergebnis, und zwar eines der schlimmstmöglichen Ergebnisse."

Chalmers ist bekannt für seine Arbeiten zur Philosophie des Geistes und hat sich insbesondere mit der Natur des Bewusstseins befasst. Er formulierte die Idee eines "harten Problems des Bewusstseins", das er in seinem 1995 erschienenen Aufsatz "Facing up to the problem of consciousness" als die Frage beschreibt: "Warum existiert das Gefühl, das die Wahrnehmung von sensorischen Informationen begleitet, überhaupt?"

Automatisierungs-Albtraum: Philosoph warnt vor einer Welt ohne Bewusstsein
https://bigthink.com/the-future/automation-nightmare-we-might-be-headed-for-a-world-without-consciousness/