Azeem Azhar et Gerd Leonhard ont eu une bonne discussion la semaine dernière. La conversation a porté sur l'IA et les dangers potentiels qu'elle représente pour l'humanité. J'ai donc pensé partager avec vous quelques notes sur cet entretien. Vous pouvez écouter l'intégralité du podcast ici. 

La discussion n'a pas porté sur les habituels robots tueurs et la singularité, mais plutôt sur quelques questions existentielles d'ordre plus philosophique : de quoi devrions-nous nous inquiéter dans les cinq, dix ou quinze prochaines années ? Et de quoi devrions-nous nous réjouir à juste titre ? Quel pourrait être l'impact moins bon ou potentiellement préjudiciable sur la vie quotidienne des gens, si et quand l'IA devient la couche centrale ou l'interface de tout ce que nous faisons ?

Selon Gerd, l'IA n'est ni artificielle (toutes les technologies sont "artificielles") ni intelligente (au sens humain du terme), car il existe de nombreux types d'intelligence : l'intelligence informatique/intellectuelle, l'intelligence émotionnelle, l'intelligence sociale et l'intelligence kinesthésique, pour n'en citer que quelques-uns (voir l'image ci-dessous). L'IA devrait être un outil et non un but, mais les outils façonnent toujours la manière dont les humains pensent, créent et s'expriment - depuis les peintres de la Renaissance qui utilisaient de la peinture et des panneaux de bois, jusqu'à l'IA dans les contextes d'aide mentale et de thérapie.

Il est clair qu'il existe un danger croissant de réductionnisme et l'abdication dans tout cela, et bien sûr ces questions reflètent également les priorités réductionnistes de notre système économique, aujourd'hui : l'efficacité, la productivité et le profit règnent en maîtres. Le dîner d'abord, la morale ensuite.

Dans une société capitaliste à outrance guidée par les gains technologiques, l'efficacité deviendra clairement plus importante que l'humanité.

Si nous voulons éviter les scénarios numériques dystopiques, nous devons nous attaquer à cette cause fondamentale. Nous devons commencer à penser à l'ère post-capitaliste qui s'annonce, où nous utiliserons la technologie non seulement pour l'efficacité mais aussi pour la réinvention, et où nous passerons d'une approche réductionniste de l'efficacité à une approche axée sur l'action, les relations et les expériences humaines.

Nous nous rendons compte que la résonance émotionnelle dans les relations est souvent ritualisée, non efficace et qu'elle prend du temps. C'est comme mettre les cadeaux sous le sapin de Noël : il doit bien y avoir une façon plus efficace de distribuer les cadeaux, mais le voulons-nous ?

Marvin Minsky aurait dit : "Ce qui est très difficile pour une machine est facile pour un humain, et ce qui est très difficile pour un humain est facile pour une machine". L'efficacité, c'est pour les robots. Nous ne sommes pas des robots. Nous voulons des êtres humains formidables en plus d'une technologie formidable, mais pas que l'un remplace l'autre.

Article invité par le conservateur de contenu de The Futures Agency Petervan

• Gerd et Azeem peuvent maintenant être réservés en duo
• Le livre "Technologie contre humanitéLa nouvelle version de l'application, désormais disponible en plus de 10 langues, est en cours d'élaboration.
• Exponential View : newsletter, saison des podcasts http://www.exponentialview.co/