The Internet of Things and its unintended consequences: why we should proceed with caution – Gerd Leonhard Futurist Humanist Author Keynote Speaker

Télécharger la version PDF : L'internet des objets et ses conséquences involontaires : pourquoi nous devons agir avec prudence Téléchargez tous mes autres produits via GerdCloud/Dropbox

Les Internet des objets (IoT) / Internet de tout / Internet industriel est chaud bouillant. Partout où je vais, les gens me posent des questions à ce sujet. Presque à chaque événement auquel je participe, certaines des plus grandes entreprises technologiques et informatiques du monde parlent de leurs plans pour l'IdO et de leurs investissements d'un milliard de dollars.

Je me suis donc dit que c'était le bon moment pour mettre les choses au clair et présenter ce que j'appelle les #OppChalls (opportunity -) qui se profilent à l'horizon avec l'IdO.

Premièrement : oui, le potentiel de l'IdO dépasse l'entendement
Permettez-moi tout d'abord de rappeler que les avantages de la connectivité omniprésente, des données très volumineuses et en temps réel, des assistants numériques véritablement intelligents, de l'informatique cognitive, de l'apprentissage en profondeur et de la robotique sont évidents pour toute personne dotée d'un minimum d'imagination - il serait en effet insensé de ne pas se préoccuper de l'avenir. pas tentent d'exploiter cet énorme potentiel. Le principe de base de l'IdO est simple : lorsque tout est connecté, lorsque les données sont collectées en temps réel, partout, tout le temps, nous pouvons mesurer, analyser, anticiper ou même prédire des événements et des "vérités" qui étaient auparavant cachés sous la surface. Nous pouvons rendre les choses et les processus beaucoup plus efficaces et, ce faisant, économiser des milliards de dollars et, peut-être aussi, résoudre le problème du réchauffement climatique (selon certains experts).

Il est clair qu'un système d'exploitation en nuage (Cloud-OS) ou un réseau neuronal dans le nuage d'appareils, de capteurs, de matériel et de processus interconnectés pourrait bien donner le coup d'envoi d'une nouvelle ère d'optimisation et d'hyper-efficacité dans les secteurs de l'énergie, de l'alimentation, de l'expédition et de la logistique, des médias, de la circulation, du bâtiment et de la construction. Cela pourrait être énorme.

Méta-intelligence et abondance
L'IdO promet d'énormes économies de coûts grâce à l'efficacité dans les secteurs de l'énergie, des services publics et des transports. Les initiatives d'Uber en matière de véhicules autonomes et l'expansion de Tesla dans des secteurs d'activité voisins (à savoir les batteries et l'énergie) ne sont que deux des exemples les plus intéressants. Un déploiement mondial des applications de l'IdO pourrait conduire à un effet de saut spectaculaire dans la réalisation des objectifs de l'Union européenne. la durabilité et la réalisation Économie circulaire dans un avenir proche. Une abondance mondiale d'énergie, de nourriture et, bien sûr, de contenu et de connaissances pourrait être à portée de main (comme le fondateur du XPrize et auteur du livre "Abundance" Peter Diamandis ne cesse de souligner - voir son graphique à droite).

En connectant tout le monde et "tout" et en déployant des machines, c'est-à-dire l'intelligence artificielle et l'analyse prédictive, de nombreux grands fournisseurs mondiaux d'IdO espèrent atteindre une sorte de méta-intelligence grâce à une capacité exponentielle à lire, comprendre et appliquer les données.

Cette nouvelle méta-intelligence peut nous permettent d'économiser, selon les estimations, 30 à 50% de frais de logistique et d'expédition/transport au niveau mondial, 30 à 70% de frais de mobilité et de transport des personnes, 40 à 50% de frais d'énergie, de chauffage et de climatisation, et ainsi de suite.
La connectivité est clairement synonyme d'efficacité, et les avantages économiques sont extrêmement alléchants. Il ne fait aucun doute que l'IdO est une mission gigantesque et qu'il éclipsera l'ancien internet "humain + ordinateurs". Des billions sont en jeu - et il est évident que ceux d'entre nous qui penchent vers l'optimisme technologique trouveront ici de nouveaux plaisirs. La superintelligence semble à portée de main, l'abondance est proche, le monde est meilleur grâce à la technologie.

Ou pas.

Rien de grand n'entre dans la vie des mortels sans une malédiction (*Sophocle).
L'IdO sera certainement beaucoup plus puissant - et donc infiniment plus susceptible de produire un éventail de que l'"Internet humain" d'aujourd'hui. Nous sommes déjà confrontés à des problèmes très épineux et en grande partie non résolus (hint : vie privée, sécurité, etc.), éthique numériqueL'explosion possible de l'IA, les pertes d'emplois par l'automatisation etc.), mais ces mauvais problèmes seront certainement multipliés par 100 au cours des 5 à 7 prochaines années, à mesure que le concept de "tout connecté, pour tout le monde, partout" deviendra une réalité.

Les défis de l'enfer
Selon moi, la réalisation de l'IdO peut être le paradis ou l'enfer (aka HellVen), mais quoi qu'il en soit, la boussole de ce voyage est en train d'être calibrée. Tout d'abord, admettons que le bon vieil internet pré-IoT de quelque 2,8 milliards de personnes n'est plus non plus tout rose, conçu et taillé pour "rendre le monde meilleur". Il est clair que l'internet a été entièrement et souvent impitoyablement commercialisé, avec tous les défis qui en découlent, et avec toute la déception qui découle de la perte de son bénéfice collectif (du moins pour certains d'entre nous).

Pensez-y : Il y a 5 ans, nous utilisions Google pour faire des recherches dans le monde entier. l'information ; maintenant, c'est nous qui faire l'objet d'une recherche par Google. Il y a 3 ans, nous utilisions Facebook pour nous connecter à nos amis (un mot qui semble aujourd'hui avoir perdu son sens) et socialiser avec eux ; aujourd'hui, nous sommes devenus nous-mêmes le contenu dont Facebook se nourrit littéralement tout en essayant de le monétiser d'innombrables façons involontaires qui se sentent tout à fait bien, asocial pour beaucoup d'entre nous. Il y a 2 ans, nous twictions allègrement pour partager des informations, des commentaires et des opinions ; aujourd'hui, nous pouvons nous retrouver marqués ou profilés comme suspects, isolés par les services d'immigration ou inscrits sur des listes d'interdiction de vol si un algorithme sophistiqué dans un nuage secret conclut que nos tweets ne conviennent pas aux pouvoirs en place (comme c'est souvent le cas dans les pays européens). se produit en Turquiepar exemple).

L'IdO pourrait-il devenir nous dans les choses ?
Les outils loués de la démocratisation, de la libération de l'information et de la soi-disant "économie de partage" ont-ils créé par inadvertance une sorte de féodalisme numérique ou un système d'information qui n'a pas encore été mis en place ?capitalisme latéral? Les géants de l'Internet ont-ils silencieusement perfectionné l'art de la surveillance en
facilitant un gigantesque panopticon mondial ? Et comment les fournisseurs de solutions IdO vont-ils empêcher ces problèmes bien réels de prendre des proportions dystopiques ? Une marque mondiale de L'idéologie californienne ("la technologie résoudra tous les problèmes de l'humanité - et permettra de gagner beaucoup d'argent grâce au progrès") dominent ?

Soyons généreux (ou naïfs) et partons du principe que "Big Internet" n'avait pas prévu ces effets secondaires pervers, que son objectif n'était pas de nous rendre dépendants de ses douces tentations numériques et de ses juteuses affaires faustiennes, que les conséquences involontaires de l'hyper-surveillance, de la perte de la vie privée et de la perte de la confiance en soi n'ont pas été prises en compte dans le cadre de la politique de l'Union européenne. obésité numérique n'étaient en effet pas prévus. Face à l'adoption mondiale de l'IdO, nous devons certainement commencer à nous demander quel pouvoir supplémentaire (c'est-à-dire l'accès aux données et à l'IA pour les traiter) nous voulons que les fournisseurs de ces solutions, outils, moteurs et plateformes aient, à l'avenir, et comment tout cela doit être accompli sans une (auto)-réglementation mondiale et une supervision indépendante. Cela semble être une invitation au désastre si nous procédons sans contrôle.

Un peu comme George Orwell ?

Étant donné que les principales plateformes Internet basées aux États-Unis, les fournisseurs de services en nuage et d'autres entreprises technologiques ne peuvent même pas empêcher la NSA et d'autres "fonctionnaires" de "tout scanner" simplement parce qu'ils le peuvent, aujourd'hui, comment ce défi se présentera-t-il dans 5 à 7 ans, lorsque nous aurons peut-être plus de 200 milliards d'appareils connectés et que les nations BRIC / CIVET / MINT nouvellement habilitées pourront facilement faire de même ? Dans sa variante la plus dystopique, l'IdO pourrait conduire à l'apogée de la pensée mécanique, au système d'exploitation d'espionnage le plus parfait jamais conçu, au plus grand réseau de surveillance en temps réel jamais créé par l'homme, imposant une conformité totale de l'homme et éliminant même le moindre semblant d'anonymat.

Ne nous voilons pas la face : L'IdO pourrait être le paradis (voir ci-dessus) ou l'enfer ; mais en l'absence de véritables règles, d'éthique ou de contrats sociaux valables, il est presque certain qu'il deviendra l'enfer. Et l'enfer, je dirais, n'est pas bon pour les affaires non plus - même l'entité la plus obsédée par le profit ne pourrait pas considérer cela comme un bon résultat.

Imaginez un monde, pas si lointain, où votre voiture connectée communique toutes les données de votre véhicule (et votre mauvaise manipulation) en temps réel, où tous vos paiements sont liés à vos appareils intelligents, où les portefeuilles et les cartes de crédit appartiennent au passé ; un monde où votre médecin sait combien ou combien peu vous avez marché cette semaine, quel était votre rythme cardiaque pendant que vous dormiez dans l'avion ; un monde dans lequel vos cerveaux externes (c'est-à-dire les appareils mobiles) sont désormais directement connectés à votre "wetware" et à votre cerveau par l'intermédiaire de wearables, de BCI ou d'implants, où tout et chacun devient une balise de données générant des milliers de gigaoctets par jour, collectés et filtrés dans le nuage, avec des armées de Watson appliquant inlassablement leurs esprits profonds affamés et auto-apprenants à chaque seconde. L'efficacité l'emporterait presque certainement sur l'humanité à chaque instant... Bienvenue dans une machine OS géante qui s'auto-apprend et se nourrit littéralement de notre production jusqu'à ce qu'elle n'en ait plus besoin pour exister.

Réfléchissons à une question simple : si, aujourd'hui, nous ne pouvons même pas nous mettre d'accord sur ce qu'est la règles et éthique d'un "Internet des personnes et de leurs appareils informatiques", comment pourrions-nous nous mettre d'accord sur quelque chose qui est potentiellement 100 fois plus grand ? Ne devrions-nous donc pas faire preuve d'une extrême prudence en procédant "juste parce que nous le pouvons" ?

Qui est responsable de ce dossier ?
Nous disposons de lignes directrices ou d'accords sur ce qui est autorisé dans le domaine de la biotechnologie et de la bio-ingénierie (tels que l'accord de 1975 sur la bio-ingénierie). Les lignes directrices d'Asilomar sur l'ADN recombinant) et nous avons des TNP (accords sur la prolifération nucléaire) qui sont réellement appliqués. Pourtant, malgré le fait que les données deviennent rapidement le moteur économique le plus puissant, nous n'avons pas encore de traité mondial sur ce qui est autorisé avec les données personnelles de milliards d'utilisateurs d'Internet, ni de traité sur l'informatique cognitive ou l'intelligence artificielle générale (AGI). Il s'agit clairement de l'une des omissions les plus flagrantes de notre société, aujourd'hui, et nous devons y remédier au plus vite. Les hommes politiques doivent prendre conscience de ce qui est probablement le plus grand défi de l'humanité dans les 20 à 50 prochaines années : la relation entre l'homme et la machine.

Aujourd'hui, le big data, l'IA et l'IoT sont des espaces largement non réglementés au moment même où leur puissance dépasse celle de l'énergie nucléaire. Si les données sont en effet le nouveau pétrole (désolé... baillez si vous voulez), qui s'assure que les "grandes entreprises de données et de pétrole" font ce qu'il faut, et qui s'assure que les "grandes entreprises de l'IdO" font ce qu'il faut pour toutes les parties concernées ? Étant donné que "la mauvaise chose" pourrait avoir des résultats potentiellement catastrophiques, je dirais qu'il ne s'agit pas d'une question à prendre à la légère.

Humarithmes, impératif humain et principe de précaution
Qu'est-ce qui empêchera ceux qui gèrent ces systèmes d'exploitation mondiaux de nous transformer en "objets", que ce soit par accident ou à dessein ? Malgré l'engouement de l'industrie technologique pour l'IdO et ses avantages évidents, il s'agit d'un risque que nous ne devrions pas prendre sans une prudence et une réflexion extrêmes. À mon avis, tout algorithme puissant aura besoin de ce que je propose d'appeler un "système d'exploitation".humarithmeL'insertion de tampons et d'équilibreurs qui garantissent un service d'assistance véritablement humain. en tempérant chaque progrès exponentiel de la technologie par des préoccupations humaines, en jetant une clé de voûte humaine entre les 0 et les 1 qui commencent à dominer nos vies. Je propose d'appliquer une sorte d'approche de l'ère numérique. principe de précaution aux entités qui veulent alimenter et fournir les bienfaits de l'IdO : la charge de prouver (et de garantir) qu'il ne peut pas être involontairement nocif pour ceux qui y sont soumis devrait leur incomber, avant que nous n'allions trop loin dans cette voie.

Il est temps d'agir !
Chers investisseurs, marchands, fournisseurs et moteurs de l'IdO, entendons quelques idées à ce sujet, et pas seulement sur le montant de l'investissement dans les technologies de l'information et de la communication. Nous ne savons pas si l'IdO va nous faire économiser de l'argent ou s'il va générer de nouvelles richesses. Parlons plutôt d'une sorte d'innovation technologique. bien-être national brutIl ne s'agit pas seulement de croissance, et nous ne devons pas sacrifier notre humanité pour devenir des machines efficaces.