Nous devons agir maintenant pour garantir que le progrès technologique exponentiel continue d'être bénéfique pour l'humanité et la planète.. ENGLISH version ici.

• 

• 

La technologie a été, sans aucun doute, un atout pour nous. Les systèmes d'IA sont désormais capables de détecter certaines formes de cancer de la peau avec une plus grande précision que les médecins. Les robots réalisent des examens d'ultra-son et de chirurgie, parfois avec peu ou pas d'intervention humaine. Les pilotes automatisés font décoller et atterrir les avions dans les conditions les plus difficiles et seront bientôt capables de piloter des avions pour le compte de personnes. Les capteurs enregistrent les données en temps réel des machines et de leurs "géométries numériques" afin de prévenir les erreurs futures ou d'avertir des réparations urgentes. En tant que impressoras 3D sont capables de produire des images sobres et d'améliorer les possibilités de maintenance dans les endroits éloignés.

En outre, à mesure que la technologie et les systèmes d'IA en particulier se sont transformés de plus en plus en poderosos, un desvantagem d'acelerar exponencialmente o progresso tecnológico também entra em grande foco. Contextualiser Marshall McLuhan (57 ans plus tard !), chaque fois que nous augmentons nos capacités, nous en diminuons d'autres. Aujourd'hui, les outils de communication sociale promettent de "nous élargir", permettant à chacun de partager ses pensées en ligne, mais ils nous "amputent" également, nous transformant en alvos fáceis de localisation et de manipulation. Nous gagnons de l'argent, mais nous perdons notre intimité.

L'impact d'une croissance exponentielle est difficilement imaginable

Nous devons prendre en compte le fait que même si le progrès technologique d'aujourd'hui semble souvent très impressionnant et utile, en grande partie inofensif et facilement contrôlable, il est en fait très important de supposer qu'il restera le même dans le futur proche, car nous sommes littéralement en train d'accélérer la courbe exponentielle de 4 à 8 à 16 et ainsi de suite. 30 passages linéaires peuvent me permettre de parcourir une route, 30 passages exponentiels équivalent à 26 voyages à travers le monde. L'ampleur de la magnitude est totalement différente et ce que l'on souhaite voir fonctionner avant le pivot peut se révéler désastreux bien plus tard.

Aujourd'hui, nous sommes en train de découvrir de nombreuses sciences et technologies fondamentales du XXIe siècle, de l'intelligence artificielle et de l'apprentissage profond à l'édition du génome humain, en passant par la géo-ingénierie, la longévité et l'aperception de l'homme - toute notre structure est prête à changer -. et pas seulement une image !

• 

• 

• 

• 

• 

Au cours de la dernière décennie, chacun des foyers mentionnés ci-dessus (ceux qui, souvent, sont les plus proches de la maison) a été transformé en un centre d'accueil pour les personnes âgées, qui est devenu un centre d'accueil pour les personnes âgées. Changer les règles du jeu) a connu des changements importants par rapport à ce qu'elle a connu au cours des siècles précédents. A la fiction scientifique est en passe de devenir de plus en plus un fait scientifique - e como os humanos são biológicos (à l'heure actuelle) et ne progressent pas de manière exponentielle, nous avons souvent beaucoup de mal à comprendre ce qui se passe. Ce qui peut être vraiment extraordinaire, magique et "génial" pour nous aujourd'hui, peut en peu de temps devenir "trop génial", et passer du statut de ferraille à celui de but, du statut de don de Dieu à celui de machine du jugement final.

Qu'il s'agisse d'améliorer le sort de l'homme, de concevoir des armes ou des robots qui participent à la guerre : ce qui se passera au cours de la vie les 10 prochaines années irá varrer a maioria das nosas noções sobre o progresso gradual e elevar a nossa visão sobre como a inovação tecnológica normalmente e talvez até inadvertidamente promove o bem comum.

Définir le grand avenir

À mon avis, il s'agit d'une personne que l'on a récemment appris à connaître. "o bom futuro" (ou même, une utopie ou mieux encore, une protopie en opposition à une distopie) est déjà en marche, et nous ne pouvons pas nous permettre de nous reposer sur nos lauriers ou de nous affranchir de notre travail, de définir collectivement ce qu'un "bel avenir" signifie réellement pour nous, collectivement et en tant qu'espèce, et comment nous pouvons le façonner au mieux, ensemble. Aussi difficile que cela puisse paraître de parvenir à un consensus sur la question du "meilleur", l'avenir doit être créé de manière collective ou n'aura rien - du moins pas un avenir qui ne concerne que les êtres humains (voir le traité nucléaire / les analogies du PNT ci-dessus).

À l'heure actuelle, alors que nous observons un léger changement de lumière à la fin du tunnel pandémique, le moment est idéal pour entamer une discussion honnête et sincère sur nos objectifs communs et nos objectifs communs. télos (ou seja, o objectivo), e sobre as políticas de que precisaremos para criar esse "Bom Futuro". Une chose est sûre : Le marché du livre s'est effondré au moins deux fois récemment (lors de la crise financière de 2007 et lors de la crise de Covid), et le rôle du gouvernement en tant qu'agent du marché sera de plus en plus important au cours de la prochaine décennie. Il n'est pas certain que le Grand Avenir naisse d'un capitalisme à l'ancienne, ni qu'il soit introduit par la technologie. Au contraire, il s'agit d'une question d'éthique, de valeurs et de politiques que nous élaborons sur cette base.

Vous êtes à l'heure de la réhumanisation !

Aujourd'hui, il est temps de penser et d'agir en termes de "civilisation" ou de "reconstruction".humaniser"En effet, à l'ère de l'évolution exponentielle des technologies, les découvertes incroyables d'aujourd'hui peuvent s'avérer très utiles pour révéler de grands problèmes qui ne durent pas très longtemps. Ce qui semble être bien à "1" peut ne pas l'être quand on atteint "16" sur la courbe exponentielle (ou même après 5 duplications). Il est urgent que nous nous attaquions de plus en plus au problème, afin de parvenir à une vitesse vertigineuse pour l'avenir. La prévoyance est tout simplement une mission cruciale aujourd'hui, et pas seulement une "bonne chose à faire". "L'avenir est en passe de devenir un point de l'agenda quotidien de chaque dirigeant et fonctionnaire public.

Par conséquent, nous nous gardons bien de demander "ce que sera l'avenir" - il est possible, en un mot et au sens littéral du terme, d'imaginer pratiquement tout ce que l'on peut imaginer. En fin de compte, c'est la même chose, precisamos de perguntar : "quel type d'avenir voulons-nous ?

L'exploit de développer non seulement un mais plusieurs vaccins efficaces contre le SRA-CoV-2 est un cas exemplaire qui illustre l'accélération de la croissance exponentielle de notre société. Ce qui a duré une décennie et plus, ne dure plus que 12 mois, en grande partie grâce aux capacités mondiales de l'informatique en nuage et de l'IA. En l'espace d'une décennie, il est probable que ce rythme de développement se réduise à six semaines ou moins.  Imaginem só.

En revanche, cette réalisation ne doit pas faire oublier la réalité fondamentale selon laquelle la technologie a toujours deux usages ; elle peut être bonne et pas si bonne à la fois : elle est "moralement neutre jusqu'à ce qu'on l'utilise" (W. Gibson). "Demasiado bom" décrit très bien cette énigme : une chose très utile peut rapidement se transformer en une chose profondément préjudiciable et corrosive pour la société - comme cela a été récemment démontré dans les domaines de la communication sociale, qui se caractérisent par une obsession de la monétisation excessive et une absence totale de responsabilisation.

• 

• 

• 

• 

• 

• 

• 

C'est pour cette raison que nous pensons que la Commission européenne est sur la bonne voie avec les siens. les efforts récents de régulation de l'IA et de la technologie. Sim, é complicado, é doloroso e pode, por vezes, ser demasiado tolerante - mas, de alguma forma, temos de começar a olhar para além dos factores económicos e do crescimento a todo o custo, e avançar para aquilo a que tenho vindo a chamar o quádruplo resultado de "personnes, planète, objectif et prospérité"(en élargissant le travail effectué par Elkington et d'autres personnes sur le résultat du voyage).

"Demasiadas coisas boas" - ça vous dit quelque chose ?

Ce n'est pas une coïncidence si l'utilisation excessive et la dépendance à l'égard d'appareils et de services en ligne sont souvent considérées comme des drogues. La plupart d'entre nous consomment des drogues sous une forme ou une autre, qu'il s'agisse d'alcool ou de tabac ou de substances contrôlées. Les sociétés apprennent à gérer ces produits par le biais de lois, de réglementations et d'une série de contrats sociaux destinés à limiter leur portée et leur impact négatif. La technologie n'est pas différente dans la mesure où l'utilisation excessive ou la surexposition peut également entraîner des pertes de vie. De nombreuses études ont montré que les utilisateurs du pouvoir des réseaux sociaux sont souvent en tête des listes de personnes susceptibles de se suicideret que le FOMO (désir de perdre quelque chose) peut entraîner de graves troubles de l'anxiété. Mais il faut encore attendre les termes de 5G, d'applications de réalité virtuelle généralisées et d'"objets intelligents".

Il y a une crainte palpable que ce progrès technologique rapide et salvateur ne soit pas gouverné sabiamente avant que ses capacités en constante expansion ne dominent, et que ne s'ouvre à nous un avenir de fait que la plupart d'entre nous ne souhaitent pas pour leurs propres enfants. Nous avons donc besoin d'un manque de "nouvelles normes" et de contrats sociaux, d'une responsabilisation démontrée et d'une responsabilisation dans les entreprises et dans l'industrie, ainsi que de garanties réelles telles que la réglementation, les lois et les traités. Notre réponse doit être large et flexible, juste et démocratique, mais décisive lorsqu'il s'agit d'agir dans le sens de la précaution.

Imaginez, par exemple, ce qui se produira en peu de temps lorsque la majorité d'entre nous aura accès à nos propres services. Données de santé stockées dans le nuage et interagir régulièrement avec des assistants numériques et des chatbots pour des tâches telles que l'aide à la santé mentale. La réunion de grands ensembles de données dérivées du génome humain, du biome et d'observations comportementales (par exemple, lorsque l'on utilise un appareil mobile ou un récepteur intelligent ou lorsque l'on utilise un système de RV) peut nous fournir des outils pour détecter les maladies dégénératives et éventuellement jusqu'à l'âge de la retraite. pré-diagnostic du cancer. Par ailleurs, les conséquences des violations de la vie privée dans ce domaine peuvent être bien plus graves que celles des armes actuelles, par exemple lorsque les données de localisation des personnes sont capturées de manière illicite. Mais uma vez, como diz a canção : "Ainda não se viu nada“.

La réglementation et le désir d'un consensus mondial : l'analogie nucléaire

Il existe un exemple utile de la manière dont nous gérons la menace de prolifération nucléaire. Il a fallu deux bombes nucléaires et près de 25 ans de travail pour que l'on parvienne à un résultat satisfaisant. Le TNP global entre en vigueur en 1970. Aujourd'hui, en raison de la rapidité et de l'ampleur des progrès technologiques, nous n'aurons plus besoin d'une pile trop longue, et il est beaucoup plus difficile de construire une bombe nucléaire que de l'écrire sur un papier. Ou - si l'on adopte un point de vue plus critique - se pourrait-il que, dans un avenir pas très lointain, nous soyons obligés d'expérimenter les premiers incidents catastrophiques causés par une dépendance excessive à l'égard de "machines intelligentes" inadaptées et insensibles, ou de faire face à un effondrement encore plus important de l'écosystème en raison des expériences précipitées par la géo-ingénierie ?

Au niveau local, national, régional et, inévitablement, au niveau mondial, nous devons nous mettre d'accord sur les lignes de fond que nous pouvons accepter, et d'établir des limites réalistes de "plus petit dénominateur commun" à côté desquelles certaines applications technologiques ne peuvent pas être adoptées uniquement "parce que nous le pouvons" ou parce qu'elles peuvent apporter d'énormes avantages économiques. L'un de ces exemples de consensus est l'un des suivants proibição de sistemas de armas autónomos que matam sem supervisão humana, ou a proibição do uso do reconhecimento facial que, mais recentemente, afectam o reconhecimento para fins comerciais duvidosos. Trata-se de outra questão que a Comissão da UE começou a abordar.

Une seule question qui compte vraiment : Quel type de monde voulons-nous laisser à nos enfants ?

Nous devons percevoir que dans cette prochaine décennie, il n'est pas encore question de l'avenir que nous pouvons construire, mais plutôt de l'avenir que nous pouvons construire. futururo que queremos construire. Il ne s'agit plus seulement d'une grande ingénierie ou d'une économie intelligente, mais aussi de valeurs, d'éthique et d'intérêt. Les limites scientifiques et technologiques continuent de se creuser à un rythme accéléré, tandis que les implications éthiques et sociétales deviennent un véritable point focal. Comme l'a dit le célèbre E.O. Wilson : "Le vrai problème de l'humanité est le suivant : nous avons des émotions paléolithiques, des institutions médiévales et une technologie semblable à celle de Dieu..

Par ailleurs, Winston Churchill a déclaré : "Il faut toujours s'adresser aux Américains pour obtenir un certain résultat - après avoir tenté de faire le reste.J'ai souvent adapté cette citation en utilisant le terme "humanos" au lieu de "americanos". Mais il y a inévitablement des choses qui ne doivent jamais être tentées parce qu'elles peuvent avoir des conséquences irréversibles et existentielles pour les êtres humains et pour notre planète, et c'est ce qui s'est passé. la liste s'allonge de jour en jour. La recherche d'intelligence générale artificielle, la géo-ingénierie et l'édition du génome humain - toutes ces technologies sont susceptibles d'avoir des effets bénéfiques sur la santé humaine. ser o paraíso, ou podem ser o inferno. Qu'est-ce qui se passe ?controle de missão"pour l'humanité ?

En particulier, l'approche très bien documentée de la Silicon Valley pour expérimenter presque tout et demander l'autorisation très tard ("Avance rápido e quebre coisas"), dans le cadre de la pré-IPO de Zuckerberg) va nous entraîner sur un chemin très périlleux. Cette situation peut être tolérée ou même excitante au début d'une courbe exponentielle (qui semble à peu près identique à une courbe linéaire), mais avancer avec ce paradigme est décidément inadéquat pour aider à tracer "le meilleur avenir". L'idée de perdre du terrain ne fonctionne tout simplement pas lorsque la technologie permet d'utiliser rapidement des armes existantes qui pourraient s'avérer bien plus dangereuses que celles que nous utilisons pour les armes nucléaires.

Lancer l'idée de rendre les êtres humains "sur-humains" d'une manière ou d'une autre, persévérer dans une longévité extrême ou ligando os nossos cérebros à Internet (de même, Elon Musk semble se battre pour devenir le principal fournisseur de ces idées). Receio que corramos o risco de acabar com soluções mal cozinhadas introduzidas por corporações com lucrativos enquanto o público tem apanhar as peças e reparar as externalidades - tudo em nome do progresso.

Nous sommes dans une situation difficile : l'avenir est notre destin, que ce soit par l'action ou par l'abstention.

Le temps est essentiel. Il y a dix ans de cela pour débattre, convenir et mettre en œuvre de nouveaux quadros et regras mondiaux (ou tout au moins territoriaux) en ce qui concerne la gouvernance des technologies exponentielles. 

Si nous ne parvenons pas à nous mettre d'accord sur les plus petits dénominateurs communs (tels que les propositions claires de systèmes d'armes autonomes ou les propositions d'utilisation de l'ingénierie génétique humaine à des fins militaires), je crains que les éléments suivants soient nécessaires externalidades do crescimento tecnológico desenfreado e não supervisado da IAL'évolution du climat, l'édification du génome humain et la géo-ingénierie révèlent des préjugés aussi importants que ceux qui ont été engendrés par le développement quasi irrésistible de l'économie des combustibles fossiles. Au lieu d'un changement climatique, c'est un changement humain qui nous apportera des problèmes très graves si nous n'appliquons pas ici d'autres mesures.réflexion sur la précaution“.

À l'avenir, personne ne sera jamais autorisé à supprimer les effets négatifs externes de son activité, que ce soit dans le domaine de l'énergie, de la publicité, de la recherche, des médias de communication sociale, de l'informatique en nuage, de l'internet, de l'IA ou de la réalité virtuelle. 

Lorsqu'une entreprise comme Google (Alphabet) souhaite transformer un quartier de Toronto en un laboratoire intelligent de la ville (Laboratoire des marches latérales), c'est l'entreprise elle-même - et non la communauté ou la société civile - qui doit assumer la responsabilité des changements sociétaux qui se produisent et que la connectivité et la concurrence généralisée provoquent - tant en bien qu'en mal. Des entreprises comme Google ont compris que cette ère exponentielle (ou plutôt, "en plus de l'ère exponentielle") a été une source d'inspiration pour de nombreuses entreprises. ponto pivot") sont en fait responsables de ce qu'ils inventent et de la manière dont ils le mettent en œuvre. Toutes les questions technologiques sont désormais également des questions éthiques, et le succès en matière de technologie ne dépend pas seulement d'une "grande culture, d'une ingénierie de pointe et de modèles de négociation progressifs" (et ce n'est d'ailleurs jamais le cas).

De même, les responsabilités de faire face à des situations potentiellement graves (et de plus en plus) sont de plus en plus lourdes. existenciais) doivent être pris en compte dans chaque modèle de négociation, dès le départ, et tous les effets secondaires possibles doivent être pris en considération tout au long du processus de conception de la négociation et de toutes les phases ultérieures de mise en œuvre. Nous vous invitons à prendre connaissance de la "jantar primeiro, depois a moral" - doutrina de Silicon Valley ou de ses équivalents chinois. Les approches holistiques (c'est-à-dire les modèles qui profitent à la société, à l'industrie, aux entreprises et à l'humanité en général) doivent se substituer aux attitudes de "devenir dépressif et se débarrasser des plaisirs de la vie"e a lógica das partes interessadas deve substituir a primazia do accionista (*assister Paul Polman, ancien PDG d'Unilever, dans sa réflexion sur ce sujet, aqui)  

Au cours des cinq prochaines années, nous pensons pouvoir contribuer à l'apparition de nouveaux instruments de valeur (comme l'ainda incipiente LTSE à São Francisco), où seront cotées les entreprises qui opèrent sur la base du principe "Pessoas, Planeta, Propósito e Prosperidade" (Personnes, Planète, Propriété et Prospérité). A EUROPA deve agarrar esta oportunidade et assumez votre rôle de leader !

Je suis optimiste ou utopiste, mais je suis convaincu que nous pouvons toujours définir et façonner un "bel avenir" pour l'ensemble de l'humanité, ainsi que pour notre planète.

Voici quelques suggestions pour orienter le débat :

1. Les questions éthiques que posent les technologies exponentielles doivent être considérées comme aussi importantes que les gains économiques qu'elles peuvent générer. La technologie n'est pas la réponse à tous les problèmes, et il serait imprudent d'attendre d'elle qu'elle "résolve tout". S'il y a une chose que j'ai apprise au cours de mes 20 ans en tant que Futuriste, c'est la suivante : La technologie ne résout pas les problèmes sociaux, culturels ou humains, comme l'inégalité ou l'injustice. Au contraire, il arrive souvent que la situation s'améliore parce que la technologie conduit à l'efficacité indépendamment de ses conséquences morales. O Facebook est le meilleur exemple de ce que je viens de dire : un concept vraiment puissant, très ingénieux, qui fonctionne parfaitement (tel qu'il a été conçu), mais qui est aussi profondément corrosif pour notre société (voir les conversations les plus récentes sur ce sujet), aqui). Le PDG d'Apple, Tim Cook, s'est mis en colère quand il a dit : "La technologie peut faire de grandes choses, mais elle n'a pas besoin de faire de grandes choses. Nous ne voulons rien faire". Le "désir" est notre travail, et nous ne devons pas renoncer à cette responsabilité sous prétexte qu'elle est excessive ou qu'elle risque d'entraver la monétisation.
2. Les êtres humains doivent rester au sommet (HITL) : Dans un avenir prévisible, et jusqu'à ce que nous soyons de plus en plus nombreux à comprendre ce que sont nos proches (et pas seulement dans notre cercle) et à être capables de contrôler les technologies qui pourraient potentiellement "être comme nous" (par exemple, les technologies de l'information et de la communication). IAG ou IAS), nous sommes convaincus qu'il faut maintenir les êtres humains dans le circuit, même si c'est moins efficace, plus lent ou plus dispendieux. Dans le cas contraire, nous pourrions nous trouver sur le chemin d'une déshumanisation bien plus dépressive que ce que nous pensons. A la préparation et la mise en œuvre devem ser cuidadosamente consideradas e constantemente equilibradas.
3. Il est temps de faire évoluer les mentalités à court terme et nous habituer à avoir une vision aussi bien exponentielle qu'à long terme - en respectant à la fois le fait que les les êtres humains sont des animaux (ou seja, oposto de exponencial). Comme nous l'avons déjà mentionné, nous sommes aujourd'hui en train d'approfondir la ligne magique dans laquelle le rythme des changements s'élève : 1-2-3 peut sembler très proche de 1-2-4, mais passer de 4 à 8 et à 16 est très différent de passer de 3 à 4 et à 5. Nous devons apprendre et pratiquer comment vivre de manière linéaire, mais imaginer de manière exponentielle ; une perche dans le présent et une perche dans l'avenir.
4. Nous avons besoin de nouveaux "traitements de non-prolifération".. L'intelligence artificielle générale (IAG), la géo-ingénierie ou l'édification du génome humain sont autant d'occasions d'améliorer la qualité de la vie que d'offrir des opportunités significatives (comme l'énergie nucléaire, affirment certains), mais il est évident que nous n'en sommes pas encore là. Le luxe de briller avec l'AIG et après avoir récupéré le fracasse. Uma "Explosion d'intelligence"L'IA peut être un événement irréversible, et le même phénomène peut se produire avec les modifications du génome humain sur la ligne germinale. Par conséquent, il convient d'élaborer des normes prospectives, individuelles et collectives, en s'inspirant du mémorandum international sur les IAG. 
5. J'ai beaucoup hésité sur la nécessité d'un "Conselho de Ética Digital" (Conseil de l'éthique numérique) au cours des cinq dernières années, à venir dans mon livre de 2016 "Tecnologia vs Humanidade". De nombreux pays, États et villes ont récemment créé des organismes similaires, comme le Conselho Europeu de Inteligência Artificial da UE. Nous avons besoin de plus d'entre eux, aux niveaux régional, national, international et mondial !

C'est pourquoi nous sommes ici en 2021, à l'occasion d'une rencontre fatale et très attendue sur le chemin. Nous devons tous emprunter le chemin le plus sûr et construire le "meilleur avenir".

Ce n'est pas trop tard - nous avons de l'espoir, du courage et de la persévérance !