Je viens de tomber sur ceci pièce très puissante sur l'IA, par Sundar Sarukkai, cité ci-dessous - a vraiment changé ma façon de penser l'IA. Les points forts et les images sont de moi. Le voici !

La véritable inquiétude que suscitent ces technologies est l'accent mis sur l'intelligence plutôt que sur d'autres caractéristiques de l'être humain. L'IA est une tentative de reproduire des êtres humains superintelligents. Elle choisit un aspect de l'être humain, à savoir cette vague idée appelée intelligence, et l'amplifie artificiellement au point de permettre à la machine de faire des choses bien meilleures que l'homme. Le succès de ces machines ne fait que renforcer le succès d'une certaine vision de l'être humain : pas sa vulnérabilité et sa finitude (caractéristiques qui ont catalysé tant de grands projets de développement). musique, art et littérature), mais surtout une certaine capacité de calcul.

Les créatures purement intelligentes, qu'il s'agisse de personnes ou de machines, sont mauvaises pour l'humanité. Le sens restreint de l'intelligence dans l'IA est celui associé à une mémoire superlative, une puissance de calcul, une capacité de décision, une grande vitesse d'action, etc. Ces machines deviennent ainsi des êtres superbes, et une société remplie de super-héros est une recette pour le désastre.

Être humain n'est pas une question de superintelligence et de supercapacité. Il s'agit de vivre avec les autres et d'apprendre à vivre avec ses limites. La vulnérabilité, le déclin et la mort caractérisent toute forme de vie. Les machines d'IA sont le miroir de notre désir d'immortalité et d'absence de faiblesses humaines. Il n'y a rien de mal à ce désir en soi, mais ce n'est pas en construisant des machines de substitution que nous y parviendrons.

L'IA n'a pas été utilisée pour éliminer la pauvreté, pour assurer une répartition plus équitable des richesses ou pour faire en sorte que les gens soient plus satisfaits de ce qu'ils ont. Les types d'IA dont nous disposerons, y compris les machines de guerre, seront principalement dictés par le profit des entreprises qui les fabriquent.. Est-ce là ce dont nous avons besoin ? Ce serait un triste monde où les formes de "vie" naîtraient de la logique du profit.

Contrairement à une arme à feu, le La machine d'IA est un artiste à part entière. Penser que ces machines nous seront soumises en permanence est un vœu pieux. Nous n'avons rien appris de la relation maître-esclave si nous pensons que ces machines ne sont destinées qu'à être nos "esclaves" qui nous "facilitent" la vie. Toutes les technologies ont un coût (non seulement économique, mais aussi social et psychologique) et nous n'avons qu'une très faible idée du coût que l'IA nous imposera. Plus inquiétant encore, ces machines pensantes, plus intelligentes que nous, sauront exactement comment nous manipuler au point que nous ne pourrons pas en percevoir les effets négatifs....

Sundar Sarukkai est professeur de philosophie au National Institute of Advanced Studies, à Bengaluru.

Lire le reste de cet article sur TheHindu.com