"Les gens utilisent des lois, des normes sociales et des accords internationaux pour récolter les bénéfices de la technologie tout en minimisant les effets indésirables tels que les dommages environnementaux. Pour trouver de telles règles de comportement, nous nous inspirons souvent de ce que les théoriciens des jeux appellent un équilibre de Nash, du nom du mathématicien et économiste John Nash. Dans la théorie des jeux, un équilibre de Nash est un ensemble de stratégies qui, une fois découvert par un ensemble de joueurs, fournit un point fixe stable où personne n'a intérêt à s'écarter de sa stratégie actuelle.

Pour parvenir à un tel équilibre, les acteurs doivent comprendre les conséquences de leurs actions potentielles et de celles des autres. Pendant la guerre froide, par exemple, la paix entre les puissances nucléaires dépendait de la compréhension du fait que toute attaque entraînerait la destruction de chacun. De même, des réglementations locales au droit international, les négociations peuvent être considérées comme une exploration progressive de toutes les actions possibles afin de trouver un cadre stable de règles acceptables par tous et n'incitant personne à tricher - parce que cela aggraverait sa situation.

Mais que se passe-t-il si la technologie devient si complexe et évolue si rapidement que l'homme ne peut plus imaginer les conséquences d'une nouvelle action ? C'est la question qu'un couple de scientifiques - Dimitri Kusnezov de la National Nuclear Security Administration et Wendell Jones, récemment retraité du Sandia National Labs - explore dans un article récent. Leur conclusion est troublante : Le concept d'équilibre stratégique en tant que principe d'organisation est peut-être presque obsolète".

Comment la technologie peut devenir incontrôlable
https://www.bloomberg.com/view/articles/2017-08-15/how-technology-might-get-out-of-control
via Instapaper