Quelques-unes des meilleures citations de ce brillant article de Lucianio Floridi que j'ai récemment rencontré lors d'un événement dont j'étais le modérateur. Luciano est professeur de philosophie et d'éthique de l'information à l'université d'Oxford et chercheur émérite au Centre Uehiro d'éthique pratique. Son dernier livre est La quatrième révolution : Comment l'infosphère Remodèle la réalité humaine (2014).

Les croyants en une véritable IA et en l'"explosion de l'intelligence" de Good appartiennent à l'Église des Singularistes. Faute d'un meilleur terme, j'appellerai les incrédules les membres de l'Église des athées de l'IA. Examinons ces deux croyances et voyons pourquoi elles sont toutes deux erronées. Et pendant ce temps, n'oubliez pas : la bonne philosophie se trouve presque toujours dans le milieu ennuyeux"

"Comme toutes les opinions fondées sur la foi, le singularitarisme est irréfutable parce que, en fin de compte, il n'est pas contraint par la raison et les preuves. Il est également peu plausible, puisqu'il n'y a aucune raison de croire que quoi que ce soit qui ressemble à des machines intelligentes (et encore moins ultra intelligentes) émergera de notre compréhension actuelle et prévisible de l'informatique et des technologies numériques"

"Ici, les Singularitariens mélangent la foi et les faits, souvent mus, je crois, par un sentiment sincère d'urgence apocalyptique. Ils commencent à parler de pertes d'emplois, de systèmes numériques en péril, de drones qui tournent mal et d'autres problèmes réels et inquiétants liés aux technologies informatiques qui sont en train de dominer la vie humaine, de l'éducation à l'emploi, du divertissement aux conflits. De là, ils s'inquiètent sérieusement de leur incapacité à contrôler leur prochaine Honda Civic parce qu'elle sera dotée d'une intelligence propre. On ne sait pas encore comment une méchante IA ultra-intelligente pourra évoluer de manière autonome à partir des compétences informatiques nécessaires pour se garer dans un endroit étroit. En réalité, monter au sommet d'un arbre n'est pas un petit pas vers la Lune, c'est la fin du voyage. Ce que nous sont Les machines de plus en plus intelligentes capables d'effectuer davantage de tâches que celles que nous effectuons actuellement nous-mêmes".

"Les singularistes et les athées de l'IA se trompent. Comme Turing l'a clairement indiqué dans l'article de 1950 qui présentait son test, la question 'Une machine peut-elle penser ?" est "trop vide de sens pour mériter une discussion". (Ironiquement, ou peut-être avec prescience, cette question est gravée sur la médaille du prix Loebner). Cela est vrai, quelle que soit l'Église à laquelle on appartient. Pourtant, les deux Églises poursuivent ce débat inutile, étouffant toute voix dissidente de la raison".

"Une véritable IA n'est pas logiquement impossible, mais elle est tout à fait invraisemblable. Nous n'avons aucune idée de la manière dont nous pourrions commencer à la concevoir, notamment parce que nous comprenons très mal le fonctionnement de notre propre cerveau et de notre intelligence.. Cela signifie qu'il ne faut pas s'endormir sur l'apparition possible d'une ultraintelligence. Ce qui compte vraiment, c'est que la présence croissante de technologies toujours plus intelligentes a des effets considérables sur la façon dont nous nous concevons, dont nous concevons le monde et dont nous concevons nos interactions. Il ne s'agit pas de dire que nos machines sont conscientes, intelligentes ou capables de savoir quelque chose comme nous. Elles ne sont pas. Il existe de nombreux résultats bien connus qui indiquent les limites de l'informatique, des problèmes dits indécidables pour lesquels il peut être prouvé que il est impossible de construire un algorithme qui conduise toujours à une réponse correcte par oui ou par non.r"

Nous devrions faire en sorte que la stupidité de l'IA profite à l'intelligence humaine. Des millions d'emplois seront perturbés, supprimés et créés ; les bénéfices devraient être partagés par tous et les coûts supportés par la société. Nous devrions mettre le pouvoir prédictif de l'IA au service de la liberté et de l'autonomie. Commercialiser des produits, influencer les comportements, inciter les gens ou lutter contre la criminalité et le terrorisme ne devrait jamais porter atteinte à la dignité humaine. Enfin, nous devrions faire en sorte que l'IA nous rende plus humains. Le risque est grand que nous fassions un mauvais usage de nos technologies intelligentes, au détriment de la majeure partie de l'humanité et de la planète tout entière. Winston Churchill a dit que "nous façonnons nos bâtiments et qu'ensuite nos bâtiments nous façonnent". Cela s'applique également à l'infosphère et à ses technologies intelligentes

En savoir plus : mes discours et conférences sur l'IA