"As pessoas recorrem a leis, normas sociais e acordos internacionais para colher os benefícios da tecnologia e, ao mesmo tempo, minimizar os aspectos indesejáveis, como os danos ambientais. Com o objetivo de encontrar essas regras de comportamento, inspiramo-nos frequentemente naquilo a que os teóricos dos jogos chamam equilíbrio de Nash, em homenagem ao matemático e economista John Nash. Na teoria dos jogos, um equilíbrio de Nash é um conjunto de estratégias que, uma vez descoberto por um conjunto de jogadores, proporciona um ponto fixo estável no qual ninguém tem um incentivo para se afastar da sua estratégia atual.

Para atingir esse equilíbrio, os intervenientes têm de compreender as consequências das suas próprias acções e das acções potenciais dos outros. Durante a Guerra Fria, por exemplo, a paz entre as potências nucleares dependia do entendimento de que qualquer ataque garantiria a destruição de todos. Do mesmo modo, desde as regulamentações locais ao direito internacional, as negociações podem ser vistas como uma exploração gradual de todas as acções possíveis para encontrar um quadro estável de regras aceitáveis para todos e que não dê a ninguém um incentivo para fazer batota - porque se o fizesse, ficaria em pior situação.

Mas e se a tecnologia se tornar tão complexa e começar a evoluir tão rapidamente que os humanos não consigam imaginar as consequências de uma nova ação? Esta é a questão que dois cientistas - Dimitri Kusnezov da Administração Nacional de Segurança Nuclear e Wendell Jones, recentemente reformado dos Laboratórios Nacionais Sandia - exploram num artigo recente. A sua conclusão inquietante: O conceito de equilíbrio estratégico como princípio organizador pode estar quase obsoleto".

Como a tecnologia pode ficar fora de controlo
https://www.bloomberg.com/view/articles/2017-08-15/how-technology-might-get-out-of-control
via Instapaper