Pourquoi devons-nous agir dès maintenant pour garantir que le progrès technologique exponentiel reste bénéfique pour l'humanité et la planète ? Version ENGLISH ici. Version portugaise ici.

• 

• 

Il n'y a aucun doute sur le fait que la technologie a bien fonctionné avec nous. Les systèmes d'IA sont aujourd'hui capables de détecter certaines formes de cancer du poumon avec une plus grande précision que les médecins. Les robots effectuent des examens par ultrasons et des chirurgies, parfois sans aucune intervention humaine. Les pilotes automatiques assurent la conduite et l'atterrissage des avions dans les conditions les plus difficiles et pourront bientôt diriger des taxis aériens personnels. Les capteurs recopient les données en direct de la machine et de ses "gemelos digitales" afin de prédire les chutes imminentes ou d'avertir des réparations cruciales. Les Imprimantes 3D sont capables d'escamoter des pièces de rechange, améliorant ainsi les possibilités d'entretien dans les endroits éloignés.

Toutefois, à mesure que la technologie et les technologies de l'information et de la communication (TIC) s'améliorent, le nombre d'utilisateurs de l'Internet augmente. les systèmes d'IAEn particulier, les effets de l'accélération exponentielle du progrès technologique deviennent plus puissants, et le côté négatif de l'accélération exponentielle du progrès technologique s'estompe. S'inspirer de Marshall McLuhan (¡hace 57 años !), cada vez que ampliamos nuestras capacidades, también amputamos otras. Aujourd'hui, les réseaux sociaux promettent d'"élargir" en permettant à tous de partager leurs idées en ligne, mais ils nous "amputent" également en nous transformant en objectifs faciles à atteindre et à manipuler. Ganamos en alcance pero perdemos en privacidad.

L'impact du changement exponentiel est incroyablement difficile à imaginer

Nous devons tenir compte du fait que, si le progrès technologique actuel semble être très impressionnant et utile, il est en grande partie inofensif et facilement maniable, sería muy insensato suponer que esto seguirá siendo así en un futuro próximo, ya que estamos saltando literalmente hacia arriba en la curva exponencial de 4 a 8 a 16 y así sucesivamente. 30 pas linéaires peuvent nous amener à traverser la rue, 30 pas exponentiels équivalent à 26 voyages à travers le monde. L'ampleur de la magnitude est totalement différente et ce qui a fonctionné avant le point de basculement peut se révéler désastreux plus tard.

Aujourd'hui, nous sommes au point de départ de nombreuses sciences et technologies fondamentales du XXIe siècle, de l'intelligence artificielle et de l'apprentissage profond à l'édition du génome humain, en passant par la géoingénierie, la longévité et l'amélioration de l'humanité : tout notre environnement est sur le point de changer, ¡no solo la imagen !

• 

• 

• 

• 

• 

Au cours de la prochaine décennie, chacun des secteurs mentionnés précédemment (à savoir les secteurs de la santé, de l'éducation, de l'agriculture, de l'environnement, de l'agriculture et de l'environnement) sera remplacé par un autre secteur. Changer les règles du jeu) présente plus de changements prévisibles que ceux que nous avons connus au cours du siècle précédent, au total. La la science-fiction se transforme de plus en plus en réalité scientifiquey como los seres humanos son biológicos (por ahora) et ne progressent pas de manière exponentielle, il est souvent très difficile de comprendre vers où va tout cela. Ce qui, aujourd'hui, peut être vraiment asombroso, magique et "bon" pour nous, peut se transformer rapidement en "beaucoup trop bon", et passer du statut d'outil à celui de but, de l'envoi de Dieu à celui de machine à juger finale.

Que ce soit pour améliorer les conditions de vie des êtres humains, pour concevoir des caméras ou pour que les robots participent à la guerre : ce qui se passera au cours de l'année 2010 les 10 prochaines années La plupart de nos idées sur le progrès graduel seront écartées et notre vision sur la manière dont l'innovation technologique peut favoriser le bien commun, même sans l'exiger, s'en trouvera altérée.

Définir le "bon avenir

En mi opinión, lo que recientemente he empezado a llamar "el buen futuro"(es decir, una utopía o, mejor aún, una protopía en contraposición a una distopía) está ahora en juego, y no podemos permitirnos el lujo de rehuir el duro trabajo de definir colectivamente lo que significa realmente un "buen futuro"Pour nous, collectivement et en tant qu'espèce, et comment nous pouvons trouver la meilleure forme, ensemble. Aussi difficile que puisse paraître le consensus sur la question du "bien", l'avenir doit être créé collectivement, sinon il n'y aura rien, du moins rien qui n'implique les êtres humains (voir les analogies avec le traité nucléaire et le PNT plus loin).

En ce moment, où nous voyons un peu comme une lumière au bout du tunnel de la pandémie, c'est un bon moment pour entamer un débat honnête et ouvert sur nos objectifs communs et notre travail. télos (es decir, el propósito), y sobre las políticas que necesitaremos para crear ese "Buen Futuro". Une chose est sûre : La doctrine du libre marché est tombée récemment au moins deux fois (pendant la crise financière de 2007 et pendant la crise de Covid), et le rôle du gouvernement en tant que contrôleur du marché est destiné à être beaucoup plus important au cours de la prochaine décennie. Il est peu probable que le bon avenir se produise avec un capitalisme à l'ancienne, et il n'en ira pas de même pour la technologie. Il s'agit plutôt d'une question d'éthique, de valeurs et de politiques que nous élaborons à partir de celles-ci.

Le moment est venu de se réhumaniser

Le moment est venu de penser et d'agir pour "civiliser" ou "régénérer".humaniser"En effet, à l'ère des changements exponentiels, les avancées surprenantes d'aujourd'hui peuvent se transformer en grands problèmes dans un avenir qui n'est pas si lointain. Ce qui semble être bien en "1" pourrait ne plus l'être lorsque nous serons à "16" dans la courbe exponentielle (c'est-à-dire après 5 duplications). Il est urgent de regarder beaucoup plus loin, car nous avançons vers l'avenir à une vitesse vertigineuse. La prévision est aujourd'hui simplement une mission critique et n'est plus seulement "agréable à avoir". Le "futur" est en train de devenir un thème de l'agenda quotidien de tous les dirigeants et fonctionnaires.

C'est pourquoi nous n'avons plus à nous demander "quel sera notre départ du futur", qui pourrait bientôt devenir littéralement n'importe quelle chose que nous pourrions imaginer. En su lugar, Nous devons poser la question suivante : "Quel type d'avenir voulez-vous ?

L'effort considérable pour développer non seulement un mais plusieurs vaccins efficaces contre le SRAS-CoV-2 est un exemple de la situation exponentielle accélérée que nous connaissons. Ce qui prenait auparavant une décennie et plus ne prend aujourd'hui que 12 mois, en grande partie grâce aux capacités mondiales de calcul du cerveau et de l'intelligence artificielle. En l'espace d'une décennie, il est probable que ce cycle de développement se réduise à six semaines ou moins.  Imagínese.

Toutefois, cet objectif ne doit pas détourner l'attention de la vérité fondamentale selon laquelle la technologie a toujours un double usage ; elle peut être bonne et moins bonne en même temps : elle est "moralement neutre jusqu'à ce que nous l'utilisions" (W. Gibson). "Un peu de bonne humeur"décrit très bien cette énigme : une chose très utile peut se transformer rapidement en une chose profondément dangereuse et corrosive pour la société, comme on l'a vu récemment avec les réseaux sociaux, qui souffrent d'une obsession pour la monétisation excessive et d'une absence totale de responsabilité.

• 

• 

• 

• 

• 

• 

• 

C'est pourquoi nous pensons que la Commission européenne est sur la bonne voie avec ses les efforts récents de régulation de l'IA et de la technologie. Certes, c'est compliqué, c'est douloureux et, parfois, cela peut s'avérer difficile - mais, d'une manière ou d'une autre, nous devons commencer à nous intéresser de plus près aux facteurs économiques et à la croissance à tous les niveaux, et progresser vers ce que nous appelons la triple ligne de fond de ".les personnes, la planète, l'objectif et la prospérité"(ampliando el trabajo realizado por Elkington y otros sobre la triple línea de fondo).

"Demasiado de algo bueno", ¿les suena ?

Ce n'est pas une coïncidence si l'utilisation excessive et la dépendance à l'égard des appareils et des services en ligne sont souvent considérées comme une addiction. La plupart d'entre nous consomment des drogues sous une forme ou une autre, depuis l'alcool et le tabac jusqu'aux substances contrôlées. Les sociétés ont appris à gérer ces adicciones au moyen de lois, de règlements et d'une série de contrats sociaux conçus pour limiter leur portée et leur impact négatif. La technologie n'est pas différente en ce sens que l'utilisation excessive ou la surexposition détruit également des vies. De nombreuses études ont démontré que les utilisateurs intensifs des réseaux sociaux doivent intégrer les listes de propension au suicideet que le FOMO (far of missing out) peut provoquer de graves troubles de l'anxiété. Il ne reste plus qu'à attendre la 5G et les applications de réalité virtuelle omniprésentes et les "gafas inteligentes".

Il existe un risque palpable que ce progrès technologique rapide et à grande échelle ne soit pas géré de manière intelligente avant que ces capacités en constante expansion ne nous abrègent et ne nous présentent un avenir de fait que la majorité d'entre nous ne souhaite pas pour ses enfants. C'est pourquoi nous avons besoin d'un mélange de "nouvelles normes" et de contrats sociaux, de responsabilité démontrée et de comptes rendus dans les entreprises et l'industrie, et de mesures de sauvetage réelles telles que la réglementation, les lois et les traités. Notre réponse doit être ample et flexible, juste et démocratique, mais décisive lorsqu'il s'agit d'agir du côté de la précaution.

Imaginons, par exemple, ce qui sera bientôt possible lorsque la majorité d'entre nous aura pris ses responsabilités. données sanitaires conservées dans la nature ous interagissons régulièrement avec des assistants numériques et des chatbots pour des raisons telles que l'aide à la santé mentale. L'agrégation d'ensembles de données massives dérivées du génome humain, du biome et des observations du comportement (par exemple, lors de l'utilisation d'un dispositif mobile ou d'un appareil intelligent ou lors de la lecture d'un ensemble de VR) peut nous fournir des outils pour détecter les maladies dégénératives et, éventuellement, pour les prévenir. Prédiagnostic du cancer. Cependant, les conséquences des violations de la vie privée dans ce domaine pourraient être bien plus graves que celles des trafics actuels, par exemple, lorsque les données de localisation des personnes sont saisies de manière illicite. De nuevo, como dice la canción "Aún no has visto nada“.

La régulation et le défi d'un consensus mondial : l'analogie nucléaire

Il existe un exemple utile dans la manière dont nous traitons le problème de la prolifération nucléaire. Malheureusement, il a fallu deux bombes nucléaires et près de 25 ans de travail acharné pour que l'on parvienne à un résultat satisfaisant. Le TNP mondial entre en vigueur en 1970. Aujourd'hui, compte tenu de la rapidité et de l'ampleur des progrès technologiques, nous ne pourrons pas nous permettre d'utiliser une piste aussi longue, et il est beaucoup plus difficile de construire une bombe nucléaire que d'écrire un code. Ou, si l'on adopte une vision plus sombre, se pourrait-il que, dans un avenir pas très lointain, nous devions expérimenter d'abord des incidents catastrophiques causés par une confiance trop grande dans des "machines intelligentes" non adaptées et non sécurisées, ou subir un effondrement encore plus important des écosystèmes dû à des expériences précipitées de géo-ingénierie ?

Au niveau local, national, régional et, inévitablement, mondial, nous devons nous mettre d'accord sur les limites de ce que nous pouvons accepter, et établir des normes réalistes de "minimum commun dénominateur" plus élevées que celles qui permettent de ne pas mettre en œuvre des applications technologiques déterminées uniquement "parce que nous le pouvons" ou parce que nous pouvons en tirer d'énormes avantages économiques. Un exemple de consensus possible est l'interdiction des systèmes d'armes autonomes que matan sin supervisión humana, o prohibir el uso del reconocimiento facial y, más recientemente, del reconocimiento de afectos con dudosos fines comerciales. C'est une autre question que la Commission de l'UE a commencé à aborder.

La seule question qui importe vraiment est la suivante : quel type de monde voulons-nous laisser à nos enfants ?

Nous devons être conscients qu'au cours de cette prochaine décennie, il ne s'agira pas de savoir quel avenir nous pourrons construire, mais plutôt de savoir ce que nous pourrons faire. qué futururo queremos construire. Il ne s'agit plus seulement d'une grande ingénierie ou d'une économie intelligente, mais de valeurs, d'éthique et d'intérêt. Les limites scientifiques et technologiques continueront à disparaître à un rythme accéléré, tandis que les implications éthiques et sociales deviendront le véritable centre d'intérêt. Comme l'a dit le célèbre E.O. Wilson : "[TRADUCTION].Le véritable problème de l'humanité est le suivant : nous avons des émotions paléolithiques, des institutions médiévales et des technologies divines.“

Además, Winston Churchill proclamó : "On peut toujours compter sur le fait que les ressortissants des États membres de l'Union européenne font ce qu'il faut, même s'ils ont déjà fait tout ce qu'il faut.Il faut donc adapter cette citation pour qu'elle dise "humanos" au lieu de "estadounidenses". Pero inevitablemente habrá cosas que no deberían probarse nunca porque puen tener consecuencias irreversibles y existenciales para los seres humanos y nuestro planeta, y Cette liste s'allonge tous les jours. La recherche de l'intelligence artificielle générale, la géo-ingénierie et l'édition du génome humain : toutes ces technologies peuvent être utilisées dans le cadre de la recherche de l'intelligence artificielle générale, de la géo-ingénierie et de l'édition du génome humain : toutes ces technologies peuvent être utilisées dans le cadre de la recherche de l'intelligence artificielle générale, de la géo-ingénierie et de l'édition du génome humain. ser potencialmente el cielo, o podrían ser el infierno. ¿Y quién será el "contrôle de la mission"de l'humanité ?

En particulier, l'approche bien documentée de la Silicon Valley qui consiste à expérimenter n'importe quoi et à demander l'autorisation par la suite ("Muévete rápido y rompe cosas"), en la jerga de Zuckerberg antes de la OPI) nos llevará por un camino muy peligroso. Cette idée aurait pu être tolérable ou même émouvante au début de la courbe exponentielle (où elle est à peu près identique à une courbe linéaire), mais à l'avenir, ce paradigme est décidément inadéquat pour aider à trouver "le bon avenir". L'idée de perdre ne fonctionne pas lorsque la technologie peut provoquer rapidement des risques existants qui pourraient aller beaucoup plus loin que le problème que nous rencontrons avec les armes nucléaires.

Par exemple, l'idée de transformer les êtres humains en "surhommes" en leur donnant une longévité extrême ou en leur permettant de s'épanouir dans la vie. connecter nos cerveaux à Internet (sí, Elon Musk parece estar clamando por convertirse en el principal proveedor de estas ideas). Je pense que nous courons le risque d'aboutir à des solutions moyennes introduites par des entreprises à but lucratif alors que le public doit reconnaître les erreurs et améliorer les conditions extérieures, tout cela dans l'intérêt du progrès.

Nous nous trouvons dans une bifurcation du chemin : L'avenir est notre choix, par action ou par inactivité

Le temps est essentiel. Nous avons dix ans d'avance de débattre, d'adopter et d'appliquer de nouvelles règles et normes à l'échelle mondiale (ou au moins territoriale) en ce qui concerne la gestion des technologies exponentielles. 

Si nous ne parvenons pas à nous mettre d'accord sur un minimum de dénominations communes (comme les interdictions claires des systèmes d'armes automatiques légères, ou les interdictions de l'utilisation de l'ingénierie génétique des êtres humains à des fins militaires), je crains que les externalités du développement technologique non maîtrisé et non supervisé de l'IAAinsi, l'édition du génome humain et la géo-ingénierie sont aussi préjudiciables que celles qui ont été créées avec le développement quasi irrésistible de l'économie des combustibles fossiles. Au lieu du changement climatique, c'est le changement humain qui nous réserve des problèmes très graves si nous n'appliquons pas un peu plus de "la prévention de la violence“.

À l'avenir, il ne faudra plus permettre à personne d'absorber les externalités négatives de son entreprise, qu'il s'agisse de l'énergie, de la publicité, des sondages, des réseaux sociaux, de l'informatique dans l'espace, de l'IdO, de l'IA ou de la réalité virtuelle. 

Lorsqu'une entreprise comme Google, d'Alphabet, souhaite transformer tout un quartier de Toronto en son laboratoire de ville intelligente (Laboratoire des marches latérales), c'est l'entreprise initiatrice - et non la communauté et la société civile - qui doit se rendre compte des changements sociaux conséquents que la connectivité et le suivi omniprésents provoquent, tantôt bons, tantôt mauvais. Les entreprises comme Google doivent tenir compte du fait qu'à l'ère exponentielle (c'est-à-dire "plus loin que l'âge d'or"), la consommation d'énergie est devenue un facteur de plus en plus important. punto de giro") sont réellement responsables de ce qu'ils inventent et de la manière dont ils le font. Chaque problème technologique est aujourd'hui également un problème éthique, et l'excellence technologique ne consiste plus seulement en "une grande science, une ingénierie asombroise et des modèles de négociation escalables" (et quizás nunca lo fue).

En su lugar, las responsabilidades para abordar los inconvenientes potencialmente graves (y cada vez más existenciales) doivent être incorporés dans chaque modèle de négoce, dès le départ, et doivent tenir compte de tous les effets secondaires possibles pendant tout le processus de conception du négoce et toutes les phases ultérieures de mise en œuvre. Tenemos que descartar la doctrina por defecto de "primero la cena y luego la moral"de la Silicon Valley ou de ses équivalents chinois. Les approches holistiques (c'est-à-dire les modèles qui profitent à la société, à l'industrie, à l'entreprise et à l'humanité en général) doivent remplacer les actitudes de "se déplacer rapidement et rompre les liens"y la lógica de las partes interesadas debe reemplazar la primacía de los accionistas (*vea a Paul Polman, ex director general de Unilever, hablar sobre esto, aquí)  

Dans les cinq prochaines années, nous devrions voir comment se développent de nouveaux marchés de valeurs (comme celui qui est encore en cours). LTSE de San Francisco) en los que cotizarán las empresas que operen bajo la premisa de "Personas, Planeta, Propósito y Prosperidad". EUROPA doit saisir cette opportunité y tomar la delantera.

Je suis optimiste ou utopiste, mais je suis convaincu que nous pouvons aujourd'hui définir et donner forme à un "bon avenir" pour toute l'humanité et pour notre planète.

J'ai ici quelques suggestions pour orienter le débat :

1. Les questions éthiques liées aux technologies exponentielles doivent être considérées comme aussi importantes que les avantages économiques qu'elles peuvent générer. La technologie n'est pas la solution à tous les problèmes, et nous nous trompons en espérant que la technologie "résoudra tout". S'il y a une chose que j'ai apprise au cours de mes 20 années en tant que futuriste, c'est bien cela : La technologie ne résoudra pas les problèmes sociaux, culturels ou humains tels que l'inégalité ou l'injustice. Au contraire, ces problèmes sont souvent résolus parce que la technologie stimule l'efficacité sans tenir compte de ses conséquences morales. Facebook est le meilleur exemple de cet effet : un concept vraiment puissant, ingénieusement conçu, qui fonctionne incroyablement bien (tel qu'il a été conçu) et, en même temps, profondément corrosif pour notre société (voir mes articles sur ce sujet), aquí). Le conseiller délégué d'Apple, Tim Cook, s'est exprimé à voix haute en disant : "La technologie peut faire de grandes choses, mais elle ne veut pas faire de grandes choses. Elle ne veut rien faire". Le "querer" est notre travail, et nous ne devons pas nous soustraire à cette responsabilité uniquement parce qu'elle est fastidieuse ou parce qu'elle peut ralentir la monétisation.
2. Les êtres humains doivent rester dans le noyau (HITL) : Dans l'avenir prévisible et jusqu'à ce que nous soyons beaucoup plus avancés dans la compréhension de nous-mêmes (et pas seulement de nos cerveaux) et que nous soyons capables de contrôler les technologies qui pourraient potentiellement "ser como nosotros" (también conocidas como IAG o IAS), je crois fermement que nous devons maintenir les êtres humains dans le noyau, même si c'est moins efficace, plus lent ou plus coûteux. Au contraire, nous pourrions être sur la voie de la déshumanisation beaucoup plus rapidement que nous ne le pensons. La la pro-acción et la precaución deben ser cuidadosamente consideradas y constantemente equilibradas.
3. Nous devons interdire la pensée à court terme y acostumbrarnos a tener una visión tanto exponencial como a largo plazo, respetando el hecho de que les êtres humains sont des êtres vivants (es decir, lo contrario de exponencial). Comme nous l'avons déjà dit, nous nous trouvons aujourd'hui dans une zone géographique où le rythme du changement disparaît : 1-2-3 peut ressembler beaucoup à 1-2-4, mais saluer de 4 à 8 à 16 est très différent de passer de 3 à 4 à 5. Nous devons apprendre et pratiquer comment vivre linéairement tout en imaginant exponentiellement ; une pierre dans le présent et une autre dans le futur.
4. Nous avons besoin de nouveaux "traitements de non-prolifération". L'intelligence artificielle générale (IAG), la géo-ingénierie ou l'édition du génome humain sont autant d'occasions de progrès que de risques importants (tout comme l'énergie nucléaire, diront certains), mais il est probable que nous n'y parviendrons pas. le plaisir d'entrer dans l'AIG y luego recuperarnos del fracaso. Una "explosion d'intelligence"Les modifications du génome humain dans la zone germinale pourraient être irréversibles, tout comme les modifications du génome humain dans la zone germinale. C'est pourquoi nous avons besoin de normes collectives, cohérentes et tournées vers l'avenir, en commençant par un mémorandum international sur le GIC. 
5. Il a beaucoup parlé de la nécessité d'un "Conseil de l'éthique numérique"Le Conseil européen de l'intelligence artificielle de l'Union européenne (UE) a été créé il y a cinq ans, à partir de son livre de 2016 "Tecnología vs Humanidad". De nombreux pays, États et villes ont commencé à mettre en place des organismes similaires, comme le Conseil européen de l'intelligence artificielle de l'UE. ¡Nous en avons besoin de plus, aux niveaux régional, national, international et mondial !

C'est ainsi qu'en 2021, nous nous trouvons face à une bifurcation fatale et très attendue du chemin. Nous devons tous choisir le bon chemin et commencer à construire le "bon avenir".

Il n'est pas trop tard : ¡tengan esperanza, tengan valor y busquen la sabiduría !