"La gente utiliza leyes, normas sociales y acuerdos internacionales para cosechar los beneficios de la tecnología y minimizar al mismo tiempo cosas indeseables como el daño medioambiental. Para encontrar esas reglas de comportamiento, a menudo nos inspiramos en lo que los teóricos del juego llaman un equilibrio de Nash, llamado así por el matemático y economista John Nash. En la teoría de juegos, un equilibrio de Nash es un conjunto de estrategias que, una vez descubiertas por un conjunto de jugadores, proporciona un punto fijo estable en el que nadie tiene incentivos para apartarse de su estrategia actual.

Para alcanzar ese equilibrio, los jugadores deben comprender las consecuencias de sus propias acciones y de las de los demás. Durante la Guerra Fría, por ejemplo, la paz entre las potencias nucleares dependía del entendimiento de que cualquier ataque garantizaría la destrucción de todos. Del mismo modo, desde las normativas locales hasta el derecho internacional, las negociaciones pueden verse como una exploración gradual de todas las jugadas posibles para encontrar un marco estable de normas aceptables para todos, y que no ofrezca a nadie un incentivo para hacer trampas, porque hacerlo les dejaría en peor situación.

Pero, ¿y si la tecnología se vuelve tan compleja y empieza a evolucionar tan rápidamente que los humanos no pueden imaginar las consecuencias de alguna acción nueva? Esta es la pregunta que un par de científicos -Dimitri Kusnezov, de la Administración Nacional de Seguridad Nuclear, y Wendell Jones, recientemente jubilado de los Laboratorios Nacionales Sandia- exploran en un reciente artículo. Su inquietante conclusión: El concepto de equilibrio estratégico como principio organizativo puede estar casi obsoleto".

Cómo la tecnología puede descontrolarse
https://www.bloomberg.com/view/articles/2017-08-15/how-technology-might-get-out-of-control
vía Instapaper