Article invité par Peter Van

Dans ce billet, nous aborderons l'IA et l'éthique d'un point de vue plus philosophique. Devrions-nous améliorer notre propre cerveau grâce à l'IA ? pour suivre les progrès exponentiels de la technologie ?

Examinons de plus près certains des arguments avancés par la Commission. Susan Schneider dans cet article récent de Edge.org. Susan est titulaire de la chaire de chercheur émérite à la Bibliothèque du Congrès et directrice du groupe AI, Mind and Society ("AIMS") à l'université du Connecticut.

Ses réflexions tournent autour de la possibilité pour les machines intelligentes de développer une conscience. Elle rejette d'abord une ligne sceptique complète en soulignant certains avantages potentiels des machines conscientes, si elles devaient un jour exister.

"Si les machines s'avèrent conscientes, nous n'apprendrons pas seulement à connaître l'esprit des machines, mais peut-être aussi notre propre esprit. Les humains ne seraient plus spéciaux dans le sens où ils seraient capables de pensée intellectuelle. Cela pourrait être une expérience très humiliante pour les humains. Ce qui me préoccupe dans tout cela, c'est que je ne pense pas que les entreprises spécialisées dans l'IA devraient régler les questions relatives à la forme de l'esprit. L'avenir de l'esprit devrait être une décision culturelle et individuelle".

"Les comités d'éthique de l'IA des grandes entreprises sont importants, mais dans un sens, c'est le renard qui garde le poulailler.

Susan s'inquiète des conséquences involontaires, de l'obsession de la technologie et de l'occasion manquée d'améliorer et de promouvoir l'épanouissement humain. Elle appelle à un dialogue public avec toutes les parties prenantes concernées, et indique clairement qui devrait faire partie de ce groupe d'hommes et de femmes sages :

"Toutes les parties prenantes doivent être impliquées, qu'il s'agisse des personnes qui font des recherches sur ces technologies, des décideurs politiques ou des citoyens ordinaires, en particulier les jeunes, afin qu'ils soient en mesure de prendre des décisions en matière d'amélioration du cerveau en toute connaissance de cause. C'est là qu'entrent en jeu les questions philosophiques classiques sur la nature du moi et la nature de la conscience".

Vidéo connexe de Gerd