Publicação convidada pelo curador do TFA Peter Van

No recente livro de Gerd podcast com Matt Ward da Disruptors.fm, debateram um tema do seu último livro Tecnologia vs. Humanidade, um conceito que ele chama de 'megatransformações". Estas são as 10 forças disruptivas mais importantes que temos de investigar, como a dataficação, a virtualização, a automatização e a cognificação.

À medida que estas mudanças exponenciais se aproximam de nós, Gerd olha para aquilo a que chama o nosso "Momento Oppenheimer": a reflexão urgente da humanidade sobre as escolhas que estamos a fazer e os resultados dessas escolhas. O "Momento Oppenheimer" foi uma expressão cunhada pelo físico Julian Rober Oppenheimer, o inventor da bomba atómica. No 1940s Oppenheimer foi o responsável pelo Projeto Manhattan, encarregado de inventar a bomba atómica. Em 1945, a bomba foi lançada sobre o Japão, assinalando o fim da 2ª Guerra Mundial.

Quando Oppenheimer testemunhou a utilização efectiva dos dispositivos atómicos que tinha ajudado a tornar possíveis, ficou desesperado: "Agora tornei-me na Morte, o destruidor de mundos". Duas décadas depois de Hiroshima e Nagasaki, a discussão sobre Tratados de Não Proliferação Nuclear (TNP)), mantendo-nos efetivamente seguros desde a sua ratificação em 1970. Esse foi o seu "Momento Oppenheimer" - aprender o verdadeiro perigo de uma tecnologia aparentemente pacífica e progressiva.

Será necessário um incidente catastrófico semelhante para iniciar um debate sério sobre determinadas tecnologias do futuro, pergunta Gerd, e se sim - quando? Gerd salienta a necessidade de fazer uma pausa e refletir sobre a glorificação desenfreada de um mundo gerido por algoritmos e máquinas. O que precisamos, diz ele, é de uma espécie de tratado sobre Inteligência Artificial Gerale Genoma Humano Edição.

Caso contrário, podemos encontrar-nos em risco de violência digital sem precedentes. Pensemos numa guerra cibernética em grande escala baseada em decisões incorrectas da IA ou na utilização injustificada de dados privados, revelando os segredos mais íntimos de uma população.

"Devemos simplesmente fazer tudo o que a tecnologia nos permite fazer?"

- Gerd Leonhard

A sua resposta é simples: educação e certificação. Gerd propõe uma espécie de "carta de condução" para políticos e decisores políticos, uma certificação central que eleja certas pessoas para um conselho de líderes. Como um coletivo de homens e mulheres sábios, estes líderes decidirão sobre a regulamentação e guiar-nos-ão através deste ponto de inflexão crítico. Serão o controlo da missão da humanidade.

Se o conseguirmos, talvez não seja necessária uma tragédia para decidir o que acontece a seguir.