"Die Menschen nutzen Gesetze, soziale Normen und internationale Vereinbarungen, um die Vorteile der Technologie zu nutzen und gleichzeitig unerwünschte Dinge wie Umweltschäden zu minimieren. Bei der Suche nach solchen Verhaltensregeln lassen wir uns oft von dem inspirieren, was Spieltheoretiker als Nash-Gleichgewicht bezeichnen, benannt nach dem Mathematiker und Wirtschaftswissenschaftler John Nash. In der Spieltheorie ist ein Nash-Gleichgewicht eine Reihe von Strategien, die, sobald sie von einer Gruppe von Spielern entdeckt wurden, einen stabilen Fixpunkt darstellen, an dem niemand einen Anreiz hat, von seiner aktuellen Strategie abzuweichen.

Um ein solches Gleichgewicht zu erreichen, müssen die Akteure die Folgen ihrer eigenen und der möglichen Handlungen der anderen verstehen. Während des Kalten Krieges beispielsweise hing der Frieden zwischen den Atommächten von der Einsicht ab, dass jeder Angriff die Vernichtung aller Beteiligten bedeuten würde. In ähnlicher Weise können Verhandlungen - von lokalen Regelungen bis hin zum internationalen Recht - als eine allmähliche Erkundung aller möglichen Schritte gesehen werden, um einen stabilen Rahmen von Regeln zu finden, der für alle akzeptabel ist und niemandem einen Anreiz bietet, zu mogeln - weil er dann schlechter dastehen würde.

Was aber, wenn die Technologie so komplex wird und sich so schnell weiterentwickelt, dass der Mensch sich die Folgen einer neuen Handlung nicht mehr vorstellen kann? Mit dieser Frage beschäftigen sich zwei Wissenschaftler - Dimitri Kusnezov von der National Nuclear Security Administration und Wendell Jones, der kürzlich von den Sandia National Labs in den Ruhestand versetzt wurde - in einer kürzlich erschienenen Veröffentlichung. Ihre beunruhigende Schlussfolgerung: Das Konzept des strategischen Gleichgewichts als Organisationsprinzip könnte nahezu überholt sein."

Wie die Technologie außer Kontrolle geraten kann
https://www.bloomberg.com/view/articles/2017-08-15/how-technology-might-get-out-of-control
über Instapaper