Koen Lenssens nous a parlé de cet excellent article sur les 7 idées fausses et les pièges en matière d'éthique de l'IA.

L'auteur, Dr Annette ZimmermannL'article "L'éthique de l'IA" critique certains mèmes et phrases trop simplistes sur l'éthique de l'IA. Les sept pièges identifiés dans l'article sont les suivants : (1) le piège du réductionnisme, (2) le piège de la simplicité, (3) le piège du relativisme, (4) le piège de l'alignement des valeurs, (5) le piège de la dichotomie, (6) le piège de la myopie et (7) le piège de la règle de droit.

Chacun des pièges est bien décrit et étayé par d'excellentes citations :

"comme l'affirme le philosophe Daniel Dennett dans une article récent dans CâblésL'IA, dans ses manifestations actuelles, est un parasite de l'intelligence humaine. Elle se nourrit sans discernement de tout ce qui a été produit par les créateurs humains et en extrait les modèles, y compris certaines de nos habitudes les plus pernicieuses. Ces machines n'ont pas (encore) les objectifs, les stratégies ou les capacités d'autocritique et d'innovation qui leur permettraient de transcender leurs bases de données en réfléchissant à leur propre pensée et à leurs propres objectifs".

Il s'avère que la recherche d'une éthique de l'IA - même sous sa forme "faible" - est sujette à une série d'écueils possibles. Bon nombre des discussions actuelles sur les dimensions éthiques des systèmes d'IA n'incluent pas activement d'éthiciens, ni d'experts travaillant dans des disciplines adjacentes pertinentes, telles que les philosophes politiques et juridiques. Par conséquent, un certain nombre d'hypothèses inexactes sur la nature de l'éthique ont imprégné le débat public, ce qui conduit à plusieurs évaluations erronées de pourquoi et comment le raisonnement éthique est important pour évaluer l'impact social plus large de l'IA".

Nous ne détaillerons pas ici les 7 pièges - l'article se suffit à lui-même - mais en guise d'accroche, voici le piège de l'État de droit :

"L'éthique est essentiellement la même chose que l'État de droit. Lorsque nous ne disposons pas de catégories juridiques appropriées pour la gouvernance de l'IA, l'éthique est un bon substitut. Et lorsque nous disposons de cadres juridiques suffisants, nous n'avons pas besoin de penser à l'éthique".

C'est vraiment une bonne chose.

Article invité par le conservateur de contenu de The Futures Agency Petervan

Autres ressources