Bruce Schneier est l'un des plus brillants penseurs en matière de sécurité et de technologie en général. Son récent article Cliquez ici pour tuer tout le monde est un ouvrage incontournable pour tous ceux qui s'intéressent à l'avenir de la technologie, et en particulier à l'internet des objets (IdO).

Lors de la préparation de ma prochaine conférence à l'occasion de l'événement Forum mondial de l'IdO à Londres (23 mai) J'ai trouvé ses commentaires inestimables et je me suis donc dit que je devais partager ici quelques-uns de ses meilleurs morceaux (mais assurez-vous de lire, d'imprimer et d'encadrer). l'article complet!). J'ai ajouté quelques touches de couleur pour mettre l'accent.

"L'industrie est remplie de défaillances du marché qui, jusqu'à présent, ont été largement ignorées. Au fur et à mesure que les ordinateurs continueront à pénétrer dans nos maisons, nos voitures, nos entreprises, ces défaillances du marché ne seront plus tolérables. Notre seule solution sera la réglementation, et cette réglementation nous sera imposée par un gouvernement désespéré de "faire quelque chose" face au désastre"

"La réglementation est peut-être un gros mot dans le climat politique actuel, mais la sécurité est l'exception à notre principe de gouvernement restreint. Et à mesure que les menaces posées par les ordinateurs deviennent plus importantes et plus catastrophiques, une réglementation sera inévitable…Nous devons également inverser la tendance qui consiste à tout connecter à l'internet.t. Et si nous risquons d'être blessés, voire tués, nous devons réfléchir à deux fois à ce que nous connectons et à ce que nous laissons délibérément non informatisé"

"Nous n'avons plus d'objets avec des ordinateurs intégrés. L'internet n'est plus une toile à laquelle nous nous connectons. L'internet n'est plus une toile à laquelle on se connecte, mais un monde informatisé, en réseau et interconnecté dans lequel nous vivons. C'est l'avenir, et c'est ce que nous appelons l'internet des objets"

"Vous pouvez considérer les capteurs comme les yeux et les oreilles de l'internet. Les actionneurs sont les mains et les pieds de l'internet. Et vous pouvez considérer la chose au milieu comme le cerveau. Nous construisons un internet qui sent, pense et agit....Donnez à l'internet des mains et des pieds, et il aura la capacité de donner des coups de poing et des coups de pied"

"Le marché ne peut pas régler ce problème car ni l'acheteur ni le vendeur ne s'en soucient. Les propriétaires des webcams et des enregistreurs numériques utilisés dans les attaques par déni de service s'en moquent. Leurs appareils n'étaient pas chers à l'achat, ils fonctionnent toujours et ils ne connaissent aucune des victimes de ces attaques. Les vendeurs de ces appareils s'en moquent : Ils vendent maintenant des modèles plus récents et plus performants, et les acheteurs initiaux ne s'intéressaient qu'au prix et aux fonctionnalités. Il n'y a pas de solution de marché, car l'insécurité est ce que les économistes appellent une externalité : Il s'agit d'un effet de la décision d'achat qui affecte d'autres personnes. C'est un peu comme une pollution invisible"

"En tant que société, nous sommes généralement très mauvais en matière de sécurité proactive ; nous prenons rarement des mesures de sécurité préventives avant qu'une attaque ne se produise... Jusqu'à présent, nous avons largement laissé la sécurité informatique au marché. Les produits informatiques et de réseau que nous achetons et utilisons étant si mauvais, une énorme industrie après-vente de la sécurité informatique a vu le jour. Les gouvernements, les entreprises et les particuliers achètent la sécurité dont ils pensent avoir besoin pour se protéger eux-mêmes. Nous nous en sommes assez bien sortis, mais les défaillances du marché inhérentes à la tentative de sécurisation de ce robot de taille mondiale deviendront bientôt trop importantes pour être ignorées".

"Les marchés ne peuvent à eux seuls résoudre nos problèmes de sécurité. Les marchés sont motivés par le profit et les objectifs à court terme au détriment de la société. Ils ne peuvent pas résoudre les problèmes d'action collective. Ils ne seront pas en mesure de gérer les externalités économiques, comme les vulnérabilités des magnétoscopes numériques qui ont entraîné la mise hors ligne de Twitter. Et nous avons besoin d'une force qui fasse contrepoids au pouvoir des entreprises".

"Il est tout aussi important de bien définir la politique que la technologie, car pour que la sécurité de l'internet fonctionne, la loi et la technologie doivent fonctionner ensemble. C'est probablement la leçon la plus importante à tirer des révélations d'Edward Snowden sur la NSA. Nous savions déjà que la technologie pouvait subvertir la loi. Snowden a démontré que la loi peut également subvertir la technologie. Les deux échouent si l'une et l'autre ne fonctionnent pas. Il ne suffit pas de laisser la technologie faire son travail"

"J'ai une proposition : une nouvelle agence gouvernementale de régulation. Avant de l'écarter d'emblée, je vous invite à m'écouter... Notre robot de taille mondiale doit être considéré comme une entité unique dont les millions de composants interagissent les uns avec les autres. Toute solution doit être holistique. Ils doivent fonctionner partout, pour tout. Qu'il s'agisse de voitures, de drones ou de téléphones, ce sont tous des ordinateurs"

"Nous avons besoin que les pouvoirs publics veillent à ce que les entreprises respectent les bonnes pratiques en matière de sécurité : tests, correctifs, sécurisation des paramètres par défaut - et nous devons être en mesure de tenir les entreprises pour responsables lorsqu'elles ne respectent pas ces règles. Nous avons besoin que le gouvernement impose des protections solides des données personnelles et des limites à la collecte et à l'utilisation des données. Nous devons veiller à ce que la recherche responsable en matière de sécurité soit légale et bien financée. Nous devons imposer la transparence dans la conception, une sorte de séquestre du code au cas où une entreprise ferait faillite, et l'interopérabilité entre les appareils de différents fabricants, afin de contrebalancer les effets monopolistiques des technologies interconnectées. Les individus doivent avoir le droit d'emporter leurs données avec eux. Et les appareils connectés à l'internet devraient conserver un minimum de fonctionnalités s'ils sont déconnectés de l'internet"

"Le fait que nous soyons actuellement au milieu d'une ère de faible confiance dans le gouvernement, où beaucoup d'entre nous ne peuvent imaginer que le gouvernement puisse faire quelque chose de positif dans un domaine comme celui-ci, est à notre détriment. Nous n'avons pas à choisir entre l'intervention du gouvernement et l'absence d'intervention du gouvernement. Nous avons le choix entre une participation plus intelligente des pouvoirs publics et une participation plus stupide. Nous devons commencer à y réfléchir dès maintenant. Les réglementations sont nécessaires, importantes et complexes, et elles arrivent. Nous ne pouvons pas nous permettre d'ignorer ces questions jusqu'à ce qu'il soit trop tard...Nous devons également commencer à déconnecter les systèmes. Si nous ne pouvons pas sécuriser les systèmes complexes au niveau requis par leurs capacités réelles, nous ne devons pas construire un monde où tout est informatisé et interconnecté"

"Cela m'amène à mon dernier plaidoyer : Nous avons besoin de plus de technologues d'intérêt public. Ce plaidoyer dépasse en fait le cadre de la sécurité. Pratiquement tous les grands débats politiques de ce siècle auront une composante technologique majeure. Qu'il s'agisse d'armes de destruction massive, de robots affectant radicalement l'emploi, du changement climatique, de la sécurité alimentaire ou de l'omniprésence croissante de drones de plus en plus petits, la compréhension de la politique passe par la compréhension de la technologie. Notre société a désespérément besoin de technologues travaillant sur la politique. L'alternative est une mauvaise politique"

"Jusqu'à présent, nous avons largement laissé l'internet tranquille. Nous avons accordé aux programmeurs un droit spécial de coder le cyberespace comme ils l'entendaient. Cela ne posait pas de problème parce que le cyberespace était séparé et relativement peu important : autrement dit, il n'avait pas d'importance. Maintenant que les choses ont changé, nous ne pouvons plus accorder ce pouvoir aux programmeurs et aux entreprises pour lesquelles ils travaillent. Ces décisions morales, éthiques et politiques doivent, d'une manière ou d'une autre, être prises par tout le monde. Nous devons relier les personnes avec le même zèle que nous le faisons actuellement pour les machines. Il faut opposer à l'expression "tout connecter" l'expression "nous connecter tous".

 

Voici une illustration récente sur laquelle je travaille et qui résume certaines de ces questions. Je l'appelle "une nouvelle méta-intelligence" :

Voici quelques éléments connexes que j'aimerais apporter au débat :

Gerd Leonhard, directeur général de la Futures Agency, estime que les entreprises en quête d'informations sur les utilisateurs "ne voudront jamais moins de données de notre part, et qu'il leur sera impossible de résister au mantra "oui, nous le pouvons et nous le ferons"", décrivant cela comme un "énorme problème qui se profile à l'horizon". Selon lui, il s'agit d'une question qui devra être abordée à la fois au niveau individuel et au niveau réglementaire. En savoir plus

Lire mon  OPEN LETTRE AU PARTENARIAT SUR L'AI (TAKE 2)

L'internet des objets et ses conséquences involontaires : pourquoi nous devons agir avec prudence (extrait de mon blog - en 2015 ;)

 

Extrait d'une conférence que j'ai donnée en 2014 :)

Diverses images sur ce thème (toutes utilisables sous licence creative commons)