Lire le version originale sur Die Welt (paywall), ou par le biais du tout nouveau Site Renner/Leonhard

Merci à Tim Cole pour avoir contribué à cette traduction.

Debout, damnés de la terre !

Demain est en route, et il arrivera plus vite que beaucoup d'entre nous ne le pensent. Certes, nous ne voyons pas encore beaucoup de robots nous croiser dans les rues, mais même ces minuscules appareils que nous trimballons aujourd'hui avec nous sont bien plus intelligents que ces humanoïdes à l'allure amusante que nous regardions dans les séries de science-fiction pour enfants Les Jetsons. Et attendez que les machines commencent à s'enseigner elles-mêmes ("apprentissage automatique") - c'est à ce moment-là que les choses vont vraiment bouger. À l'heure actuelle, nous nous trouvons au point de départ d'un développement technologique exponentiel. Vous vous souvenez du fonctionnement de l'exponentiel ? Il y a d'abord 4, puis 8, 16, 32, et ainsi de suite. Ce doux "vent de changement" dont nous avons tant entendu parler dans les années 90 se transformera bientôt en un véritable tourbillon.

Ce n'est pas que nous ne ressentions pas, nous aussi, le besoin de vitesse, mais si tout le monde se préoccupe uniquement d'aller le plus vite possible, qui s'arrêtera pour réfléchir à la direction que nous prenons ? Qui est Contrôle de mission pour l'humanité lorsque nous en avons besoin ? Qui est autorisé à prendre ces décisions en notre nom ? À l'heure actuelle, il semble que ce soient (certains) scientifiques, quelques investisseurs en capital-risque et de grandes entreprises technologiques qui soient aux commandes, mais sans aucune supervision appropriée. Facebook, Linkedin, Twitter et Baidu déterminent avec qui nous communiquons et à quel sujet. Tinder et Parship décident de qui nous rencontrons et de qui nous tombons amoureux. Apple, Google et leurs semblables nous disent ce qui est censé être intéressant. Tesla, Uber et Waymo sont derrière nos volants. IBM travaille sur des ordinateurs quantiques par rapport auxquels le cerveau humain semble de la taille d'un petit pois. Google Projet Magenta pourrait un jour déboucher sur la créativité artificielle. Et ce n'est qu'un début !

Mais soyons clairs : la technologie elle-même n'est ni bonne ni mauvaise ; elle est moralement neutre, ce n'est qu'un outil. Kevin Kelly, écrivain spécialisé dans les technologies, a déclaré un jour "Les ordinateurs sont là pour donner des réponses, les humains sont là pour poser des questions.

Ou pour le dire autrement : La technologie n'a pas d'éthique - c'est tout simplement notre responsabilité. Mais devons-nous laisser ce travail à la science et aux entreprises ? Certainement pas ! Les scientifiques sont animés par la curiosité, ce qui leur permet de repousser les limites du possible. Quant aux entreprises, elles sont avides de progrès, car cela leur permet d'atteindre une productivité et un profit maximums. On ne peut pas vraiment les blâmer : Réfléchir à l'avenir en termes de bénéfices pour l'homme ne fait pas vraiment partie de leur description de poste.

Beaucoup de gens ne le comprennent pas, ou alors ils ne se soucient pas de savoir qui façonne leur avenir politique et social. Comment expliquer autrement la montée et la chute soudaine du Parti Pirate en Allemagne en 2011/12 : ce mouvement n'avait rien à offrir, si ce n'est une sorte de "politique de l'ombre". démocratie liquide Il s'agit d'un projet qui implique des idées de revenu de base inconditionnel, une forte protection des données et de la vie privée, une révolte contre les lois obsolètes sur les droits d'auteur, et beaucoup de chaos interne - et c'est tout.

Cependant, ils ont au moins donné l'impression que leur objectif était de donner à la politique et à la société des moyens d'agir. un droit de regard sur leur propre avenir. Pendant un certain temps, ils nous ont fait espérer que des penseurs latéraux, des questionneurs, des perturbateurs, des artistes et des philosophes pourraient prendre la barre. On s'attendait à ce que les hommes politiques redécouvrent des choses comme le sens et la signification, l'éthique et l'esthétique. Mais les Pirates n'ont pas tenu leurs promesses et ont sombré comme une pierre. Il ne reste plus que leurs rêves.

Alors que faire ? Pourquoi ne pas commencer par se réveiller ? Nous avons besoin d'hommes politiques progressistes qui sont prêts à se lever et à s'IMPLIQUER. La social-démocratie (Sozial-Demokratie) était autrefois synonyme de politiques qui mettaient les dernières technologies au service du progrès social. C'est la raison pour laquelle Lasalle et Bebel ont fondé le SPD (Parti social-démocrate allemand). ), il y a 155 ans. Aujourd'hui, les sections locales et régionales du SPD débattent de la nécessité de fermer la page Facebook du parti parce que, comme ils le disent, Facebook est "diabolique" (et Gerd est d'accord avec cela, en savoir plus ici). Mais le SPD allemand est loin d'être un exemple unique. La disparition collective de la social-démocratie en Europe est le résultat de l'absence de réponses des partis aux changements technologiques. Malheureusement, il n'y a pas d'autres progressistes en vue vers lesquels nous pourrions nous tourner pour combler ce vide.

Ce refus de faire le travail et ce manque général de perspective de la part des anciens progressistes constituent un danger clair et présent pour nos démocraties libérales. Nous vraiment doivent s'inquiéter numérisation, automatisation, virtualisation et la mondialisation si elle se déroule hors de notre contrôle ou de celui des forces politiques responsables. Malgré des économies européennes plutôt fortes et des marchés de l'emploi solides, les populistes sont élus à droite et à gauche simplement parce qu'ils postulent une vision de l'avenir faussement simple : Stopper le changement dans son élan, disent-ils ! Les partis tels que l'AfD, le FPÖ et l'UDC réclament un retour au passé, au lieu de réfléchir aux moyens de façonner l'avenir.

La réponse à ce type de réactionnisme n'est pas de cesser de faire des promesses, mais d'en faire de meilleures !

C'est pourquoi nous avons besoin de scénarios d'avenir qui aiguisent notre curiosité, suscitent nos espoirs et nous forcent à regarder vers l'avant. Les machines et les algorithmes intelligents pourraient libérer les humains de nombreuses tâches détestables - les scientifiques parlent de l'élimination possible de 60-85% tous les travaux routiniers. Ce sont les tâches ennuyeuses et répétitives que nous déléguerons un jour aux robots et à l'IA. Tant que nos besoins fondamentaux sont satisfaits, nous, les humains, pouvons enfin être libres de nous impliquer dans d'autres choses (ou d'autres personnes) et d'effectuer des tâches qui nous permettront de nous concentrer sur notre travail. en fait rendre le monde meilleur.

Et ce n'est pas fini. Agriculture verticale et protéines issues de boîtes de Petri ("lab to fork")) pourraient bientôt faire de la faim et de la malnutrition des choses du passé, tout en nous aidant à atteindre nos objectifs en matière de climat (sans parler des animaux et de leur bien-être). Les imprimantes 3D pourraient bien nous dispenser de transporter sur de longues distances certaines des choses dont nous pensons avoir besoin. Supports de siège imprimés en 3D par GM). Et comme nos services d'autopartage pourraient envoyer une voiture autopilotée à notre porte, de moins en moins de personnes ne ressentiront plus le besoin de posséder une voiture. Les dossiers médicaux en nuage et la convergence imminente de la biologie et de la technologie conduiront à des formes de médecine personnalisée qui seront à la fois plus simples et moins coûteuses à administrer, améliorant ainsi la santé et la vie de chacun.

Malheureusement, toute cette histoire semble trop belle pour être vraie, du moins tant que les conteurs résident tous dans la Silicon Valley et, de plus en plus, dans les pays de l'Union européenne. Chine. Ici, en Europe, également attisés par Hollywood, nous préférons nous goinfrer de fantasmes apocalyptiques. Non pas que les craintes ainsi exprimées soient totalement infondées : Il existe un risque sérieux que nos données et notre connectivité elle-même soient utilisées à mauvais escient, et que des technologies exponentielles telles que l'IA échappent à tout contrôle. Nous devrions donc probablement nous méfier de tous les récits exagérément optimistes sur l'avenir - ce dont nous avons désespérément besoin, c'est d'un système de gestion de l'information qui soit à la hauteur de nos attentes. un bon mélange de prévoyance et d'optimisme, avec une pincée de contrôle public et privé pour faire bonne mesure. Pour ce faire, il faut bien sûr des hommes politiques qui soient à l'écoute des besoins des citoyens. à la fois courageux et interrogatif.

Nous devons tous penser grand, voire exponentiellement, au lieu de penser linéairement comme autrefois. nous veulent inspirer l'avenir et en faire une promesse forte. Le monde va continuer à changer, plus rapidement et plus profondément que jamais. Le "business as usual" dans les processus et la réglementation ne nous aidera pas à enclencher les changements nécessaires et à changer de direction. Le député européen vert Jan Albrecht a beau dire que "les données sont le nouveau pétrole" et exiger davantage de protection, si cela ne débouche que sur un excès de protection, il n'en sera pas de même pour les données personnelles. Mais si cela se traduit par un excès de réglementation au sens traditionnel du terme, il n'y a pas grand-chose à gagner. À titre d'exemple, le règlement général sur la protection des données (RGPD) de l'UE pourrait être considéré par certains comme une nouvelle monstruosité bureaucratique dont le seul résultat jusqu'à présent a été une multitude de courriels au lieu d'une sécurité et d'une transparence accrues des données. Bien entendu, les données échappent et peuvent encore échapper à la juridiction de l'UE. Alors pourquoi ne pas créer une sphère de sécurité pour les données ici en Europe ; pourquoi n'y a-t-il pas d'appels en faveur d'un nuage européen ?

Mais peut-être en demandons-nous trop à des hommes politiques dont les qualifications exigent d'abord un diplôme en sciences politiques ou en jurisprudence, suivi de nombreuses années de labeur mal rémunéré dans le bureau d'un député ou d'un parlementaire, pour finir (s'ils ont de la chance) par une sinécure dans une institution de l'État ou affiliée à un parti.

Nous Je pense que ce dont nous avons vraiment besoin, c'est d'une "Conseil de l'éthique numérique" (mes posts à ce sujet sont ici) afin de donner aux hommes politiques et aux personnalités publiques des orientations pour une action tournée vers l'avenir. Cet organe devrait être composé de penseurs, de scientifiques et de chercheurs de tous horizons politiques, de philosophes, d'auteurs, de leaders d'opinion et d'artistes. Son mandat devrait être de mener et de populariser un débat permanent sur le cadre dans lequel les technologies exponentielles devraient exister, à l'avenir. Il devrait publier des recommandations à l'intention des États, des gouvernements, des politiques et des entreprises, afin de donner un élan et une orientation à ces discussions. Ces recommandations pourraient ensuite constituer la base d'accords multinationaux et mondiaux.

Les moratoires internationaux n'ont rien de nouveau ; pour les armes chimiques et nucléaires de destruction massive, ils existent depuis des décennies à la suite des expériences horribles de l'humanité avec les "progrès" technologiques au cours des deux guerres mondiales. Ce dont nous avons besoin aujourd'hui, c'est d'un moratoire similaire sur les plans social et économique. des cadres juridiquement contraignants sur l'IA (en particulier l'AGI - intelligence artificielle générale) et l'ingénierie du génome humain. Cette fois-ci, cependant, nous ne pouvons pas nous permettre d'attendre que le prochain événement de type Hiroshima se produise. Les effets d'une nouvelle déchéance pourraient s'avérer irrévocables ; nous ne pourrons bientôt plus revenir en arrière en matière d'intelligence artificielle, même si nous le souhaitons.

Il y a cependant peu de chances que les États-Unis ou la Chine participent à de telles mesures volontaires. Après tout, c'est là que se trouvent les grands acteurs de l'industrie numérique, des entreprises comme Google, Facebook, Baidu, Alibaba et Tencent. Ces plateformes mondiales de premier plan doivent continuellement obtenir leur licence d'exploitation en mettant en place des mesures éprouvées et efficaces pour protéger nos données (c'est-à-dire les "copies numériques de nous-mêmes") contre le vol et l'utilisation abusive. Comment se fait-il que des entreprises mondiales comptant des centaines de millions, voire des milliards d'utilisateurs, fassent l'objet d'une surveillance et d'un contrôle moins stricts que les médias ou les banques ? De même, ces mêmes entreprises peuvent engranger des profits virtuellement illimités grâce à la diminution ou à la disparition des coûts marginaux liés à l'activité numérique. La technologie moderne a besoin d'une logique fiscale moderne.

Demain est en route, et il arrive plus vite que vous ne le pensez ! Dans certains endroits, il est déjà là, mais nous ne l'avons pas encore remarqué. Il apportera beaucoup de magie que nous pourrons tous expérimenter et partager. Mais pour qu'il contribue à l'amélioration de l'humanité, et non l'inverse, nous devons nous impliquer et façonner l'avenir comme nous l'entendons. Nous devons être prêts et disposés à rêver et, si nécessaire, à nous battre. C'est aujourd'hui que nous nous dirigeons vers demain. Réveillez-vous et rejoignez-nous !

Gerd Leonhard/Tim Renner

Zürich/Berlin 2 août 2018Version allemande, PDF : RENNER & LEONHARD | Agentur für Politik und Zukunft

Lien

Plus d'informations dans mon livre Technologie contre humanité

 

Vidéo connexe : devenir surhumain est-il une bonne idée ?