Lorsque les machines auront un QI de 50 000, qu'adviendra-t-il des valeurs humaines et de l'éthique ?

Par Gerd Leonhard Futuriste , Auteur Technologie contre humanité

Le partenariat sur l'IA vient d'annoncer quelques nouveaux membres et un conseil d'administration, et Apple a finalement rejoint Facebook, Google / Deep Mind, IBM, Amazon et Microsoft. Cette évolution m'a incité à mettre à jour ma lettre ouverte initiale (publiée en anglais). via Wired.co.uk le 26 octobre 2016) et de clarifier les messages clés que j'adresse au Partenariat. (Dans l'intérêt d'une divulgation complète, veuillez noter que j'ai prononcé des discours et des conférences pour presque toutes les entreprises mentionnées dans cette lettre ouverte, au cours des dix dernières années).

Chers membres du conseil d'administration et entreprises membres de l'Union européenne Le partenariat sur l'IA au service des personnes et de la société,

Le "Partenariat sur l'IA au service des personnes et de la société" est un changement bienvenu par rapport à la célébration de la perturbation et de la "transformation numérique" par l'industrie technologique. Mais votre initiative favorisera-t-elle également une discussion sérieuse sur l'impact de l'IA sur la société ? l'éthique de l'ère numérique, et sur les limites à ne pas dépasser dans ce domaine. la convergence prochaine de l'homme et de la machine?

Les données sont déjà le nouveau pétrole, c'est évident, mais les progrès explosifs de l'IA, de l'apprentissage profond et de l'informatique cognitive vont certainement renforcer considérablement le pouvoir de ceux qui détiennent toutes ces données dans leurs "cerveaux mondiaux", et ce dans des proportions littéralement inimaginables. Mais contrairement aux géants de l'ère des combustibles fossiles tels que BP ou Exxon-Mobile, il existe peu de contrôle sur ce que vous et vos pairs pouvez faire et ferez exactement avec ce pouvoir, et sur les règles que vous devrez suivre une fois que vous aurez construit cette IA omnipotente dans le ciel, incarnée par des robots et des machines - et qui établit les règles, pour commencer. Ce partenariat se traduira-t-il par une gestion prévoyante et signifie-t-il que vos entreprises sont enfin prêtes à assumer la responsabilité des conséquences de ces inventions qui changent l'humanité ? Vous efforcerez-vous de mettre en place un un meilleur mélange de précaution et de pro-actionVous avez l'intention de renoncer à des profits importants parce qu'un nouveau projet magique pourrait avoir trop de conséquences négatives (même si elles sont involontaires) ? Envisagerez-vous de renoncer à des profits importants parce qu'un nouveau projet magique pourrait avoir trop de conséquences négatives (même si elles ne sont pas intentionnelles) ?

Dans un monde pas si lointain où les machines ont un QI de 50 000 et où l'Internet des Tes choses englobent 500 milliards d'appareils, qu'adviendra-t-il des contrats sociaux, des valeurs et de l'éthique qui sous-tendent les éléments essentiels de l'être humain tels que l'autodétermination, le respect de la vie privée et le libre arbitre ? Les limites humaines importantes telles que le vieillissement ou même la mort feront-elles bientôt l'objet d'un débat à mesure que la technologie passera à la vitesse supérieure ?

Il me semble évident que la question n'est plus de savoir si la technologie peut faire quelque chose, mais pourquoi. Qui peut décider de ce que la technologie peut faire ?est ?  Qui est le "contrôleur de mission de l'humanité" ?

De multiples changements de paradigmes modifient la société à une vitesse vertigineuse, et vos organisations se trouvent dans l'œil du cyclone provoqué par ce que j'appelle le "changement de paradigme". MegashiftsCes changements sont multiples : numérisation, cognification, automatisation, désintermédiation et virtualisation, pour ne citer que les plus importants. Il s'agit de changements exponentiels et combinatoires qui transforment simultanément de nombreux domaines et qui peuvent nous mener vers un avenir très prometteur (imaginez vaincre le cancer ou obtenir de l'énergie ou de l'eau en abondance). éthique numérique pourrait également créer une sorte d'enfer particulier.

Il est inquiétant de constater que l'éthique numérique n'est pas mieux lotie que la durabilité des entreprises (RSE) en ce qui concerne l'agenda de la Silicon Valley et des grandes entreprises technologiques. Le paradigme par défaut est toujours, comme l'a dit Bert Brecht, "le dîner d'abord, la morale ensuite". Cette situation n'est manifestement pas viable.

Certes, l'éthique est culturellement relative, mais certains principes universels sont évidents, comme la capacité à continuer d'exister ou la recherche du bonheur. Bien sûr, le profit et la croissance sont des éléments essentiels dans la plupart des civilisations, et les sociétés telles que l'Empire romain qui ont perdu leur base de profit se sont rapidement éteintes. Mais que se passerait-il si votre prochaine phase d'évolution vous permettait non seulement de disposer d'un code d'éthique numérique, mais aussi d'un système de gestion de l'information ? requis un ? La prochaine grande histoire de l'entreprise pourrait-elle être la généralisation d'un comportement numérique éthique ? N'attendons pas des machines intelligentes au QI de 50 000 pour résoudre ces dilemmes éthiques.

Voici quatre points essentiels que je souhaite soumettre à la discussion :

1) Nous nous trouvons au point pivot de la courbe exponentielle - les choses deviendront bientôt incroyablement différentes grâce à l'IA et aux "machines pensantes". Il s'agit d'une formidable opportunité pour vous et vos entreprises d'adopter un nouveau type de gestion pour l'humanité, et une approche plus holistique de l'épanouissement humain basée sur l'acceptation de vos nouvelles responsabilités centrées sur l'IA serait une nouveauté. Une zone floue, sans aucun doute, mais n'est-ce pas là que les choses commencent habituellement ?

2) La technologie n'est pas notre but - c'est notre boîte à outils, notre méthode. La technologie ne doit pas être ce que nous cherchons mais comment que nous recherchons. Les humains sont des créateurs d'outils, et non des créateurs d'outils - et je crois que nous devrions continuer à le faire. Vos innovations en matière d'IA nous feront-elles renoncer à notre réflexion et à notre humanité, ou serviront-elles à faire progresser l'épanouissement de l'homme ? Comment comptez-vous vous en assurer ?

3) Il est clair que nous devons adopter la technologie, mais personnellement, je crois que nous ne devons pas le devenir. Que croyez-vous ? Croyez-vous que l'humanité se dirige vers une symbiose totale avec la technologie, c'est-à-dire que nous serons bientôt incapables d'exister sans nous augmenter nous-mêmes ? La convergence (homme)-machine est-elle inévitable ? Quelle est votre position sur La singularité et le soi-disant transhumanisme ?

4) Chaque grand algorithme a également besoin d'une mesure humaine correspondante - ce que j'appelle des androrithmes, un facteur d'équilibre pour protéger et développer ce qui fait de nous des êtres humains uniques. La question n'est peut-être plus seulement de savoir ce qui peut être automatisé, mais aussi ce qui peut être automatisé. ne doit pas être automatisés ou robotisés.

Le partenariat pour l'IA est un concept très prometteur. Faisons en sorte que l'éthique numérique cesse d'être une zone grise floue pour devenir une charte mondiale des droits.

Cordialement, Gerd Leonhard

En savoir plus sur mon nouveau livre Technologie contre humanité, lire le L'antisèche TVHacheter le livre sur Amazon (ce lien vous dirige automatiquement vers votre site amazon local), ou le commander directement auprès de mon éditeur (tous les formats ; commandes groupées à prix réduit)

Matériel connexe

Ma récente vidéo sur le cerveau global

 

Changement exponentiel