Dans une intéressante démonstration de "oui, non, c'est compliqué", trois chercheurs indiens réfléchissent à la question de savoir si L'IA est un danger pour l'humanité.

Dans le camp du OUI, l'argument clé évolue autour de la focalisation presque exclusive de l'IA sur un aspect particulier de l'être humain : la capacité de calcul. Il en résulte des intelligences (artificielles) au service d'entreprises qui n'ont qu'une seule ambition : le profit.

"Le succès de ces machines ne fait que renforcer le succès de l'entreprise. une vision particulière de l'être humain : non pas leur vulnérabilité et leur finitude (caractéristiques qui ont catalysé une grande partie de la musique, de l'art et de la littérature), mais en grande partie une certaine capacité de calcul.“

Le camp du NON part du principe que l'IA n'a aucun pouvoir et que la technologie n'est pas dangereuse en soi. La faute incombe aux humains qui utilisent (mal) la technologie, et la technologie sera toujours sous notre contrôle, de sorte que nous pourrons littéralement la débrancher quand nous le voudrons.

“La technologie n'a pas d'agence par nature. Son interaction avec nous et la vie que nous lui donnons lui confèrent un rôle. La question de savoir si nous utilisons l'IA pour nous augmenter, créer de nouvelles espèces ou l'utiliser pour détruire des vies et ce que nous avons construit est entièrement entre nos mains. du moins pour l'instant.“

Il est évident qu'il ne s'agit pas d'une discussion en noir et blanc, d'où le troisième chapitre "C'est compliqué", qui appelle à un débat sur l'IA (et la technologie en général) et l'éthique. Les entreprises et les régulateurs doivent employer des éthiciens. 

"Les régulateurs du monde entier doivent travailler en étroite collaboration avec ces universitaires et ces groupes de citoyens pour freiner les utilisations et les effets néfastes de l'IA.

Gerd Leonhard a suggéré la nécessité d'une Conseil mondial d'éthique numérique - Pour en savoir plus, consultez les liens ci-dessous et, bien sûr, le livre de Gerd. Technologie contre humanité 

L'alternative

Conseil de l'éthique numérique Gerd Leonhard et Tim Renner

Nous devons parler de l'IA !

Ceci est un billet invité du conservateur du TFA. PeterVan