Quando as máquinas têm um QI de 50.000, o que acontece aos valores humanos e à ética?

Por Gerd Leonhard Futurista , Autor Tecnologia vs Humanidade

A parceria para a IA acaba de anunciar alguns novos membros e um conselho de administração, e A Apple juntou-se finalmente à Facebook, Google / Deep Mind, IBM, Amazon e Microsoft. Este desenvolvimento levou-me a atualizar a minha carta aberta inicial (publicada via Wired.co.uk em 26 de outubro de 2016) e para clarificar as minhas principais mensagens para a Parceria. (No interesse de uma divulgação completa, é favor notar que, nos últimos 10 anos, proferi discursos e palestras para quase todas as empresas abordadas nesta carta aberta)

Caro conselho de administração e empresas associadas da A parceria sobre a IA em benefício das pessoas e da sociedade,

A "Parceria sobre a IA em benefício das pessoas e da sociedade" é uma mudança bem-vinda em relação à celebração da disrupção e da "transformação digital" pela indústria tecnológica. Mas será que a vossa iniciativa irá também promover um debate sério sobre a ética da era digital, e sobre até onde devemos ir nesta a próxima convergência do homem e da máquina?

É evidente que os dados já são o novo petróleo, mas o progresso explosivo da IA, da aprendizagem profunda e da computação cognitiva irá certamente aumentar enormemente o poder daqueles que detêm todos esses dados nos seus "cérebros globais" - e para proporções literalmente inimagináveis. Mas, ao contrário do que acontecia com os gigantes da era dos combustíveis fósseis, como a BP ou a Exxon-Mobile, há pouca supervisão sobre o que exatamente você e os seus pares podem e vão fazer com este poder, e que regras terão de seguir depois de terem construído essa IA omnipotente no céu, encarnada por bots e máquinas - e quem estabelece as regras, para começar. Será que esta parceria se vai manifestar numa gestão previdente e significa que as vossas empresas estão finalmente prontas para aceitar a responsabilidade pelas consequências destas invenções que mudam a humanidade? Esforçar-se-ão por uma melhor combinação de precaução e pró-açãoUm projeto que ponha o florescimento humano em primeiro lugar? Considerará renunciar a alguns lucros sérios porque um novo projeto mágico pode ter demasiadas consequências negativas (mesmo que não intencionais)?

Num mundo não muito longínquo, onde as máquinas têm um QI de 50.000 e a Internet das Coisas é uma realidade, a Internet é uma ferramenta de trabalho.Se a tecnologia abranger 500 mil milhões de dispositivos, o que acontecerá com os contratos sociais, os valores e a ética que sustentam os elementos essenciais do ser humano, como a autodeterminação, a privacidade e o livre arbítrio? Será que as limitações humanas significativas, como o envelhecimento ou mesmo a morte, serão em breve objeto de discussão à medida que a tecnologia entra em velocidade de cruzeiro?

Parece-me claro que a questão já não é se a tecnologia pode fazer alguma coisa, mas porquê. Quem é que decide oé?  Quem é o "controlo da missão da humanidade"?

Múltiplas mudanças de paradigma estão a alterar a sociedade a uma velocidade vertiginosa, e as vossas organizações estão no olho da tempestade causada por aquilo a que chamo a MegatransferênciasA digitalização, a cognificação, a automatização, a desintermediação e a virtualização, para citar apenas as mais proeminentes. Trata-se de mudanças exponenciais e combinatórias que transformam vários domínios em simultâneo e que podem conduzir-nos a um futuro muito promissor (imagine-se vencer o cancro ou obter energia ou água em abundância) - mas sem um quadro global de ética digital também poderia criar um tipo especial de inferno.

É preocupante o facto de, atualmente, a ética digital não ser melhor do que a sustentabilidade empresarial (RSE) no que diz respeito à agenda de Silicon Valley e das grandes empresas de tecnologia. O paradigma por defeito continua a ser, como dizia Bert Brecht, "primeiro o jantar, depois a moral". Isto é claramente insustentável.

É certo que a ética é culturalmente relativa, mas certos universais são evidentes, como ter a capacidade de continuar a existir ou lutar pela felicidade. E claro, o lucro e o crescimento são um elemento crítico na maioria das civilizações, e sociedades como o Império Romano que perderam a sua base de lucro rapidamente definharam. Mas e se a sua próxima fase de evolução não só lhe proporcionasse um código de ética digital - mas necessário um? Será que a próxima grande narrativa empresarial será a integração de um comportamento digital ético? Não vamos esperar por máquinas inteligentes com QIs de 50.000 para resolvermos estes dilemas éticos.

Eis quatro pontos essenciais que gostaria de apresentar para debate:

1) Estamos no ponto de viragem da curva exponencial - em breve as coisas tornar-se-ão inimaginavelmente diferentes, devido à IA e às "máquinas pensantes". Esta é uma grande oportunidade para si e para as suas empresas adoptarem um novo tipo de gestão para a humanidade, e uma abordagem mais holística do florescimento humano baseada na aceitação das suas novas responsabilidades centradas na IA seria uma novidade. É, sem dúvida, uma área nebulosa, mas não é aí que as coisas começam normalmente?

2) A tecnologia não é o nosso objetivo - é o nosso conjunto de ferramentas, o nosso método. A tecnologia não deve ser o que procuramos mas como que procuramos. Os seres humanos são criadores de ferramentas, não são feitos de ferramentas - e penso que devemos continuar a ser assim. Então, as suas inovações em matéria de IA vão fazer-nos abdicar do nosso pensamento e da nossa humanidade - ou vão servir para promover verdadeiramente o florescimento humano? Como tenciona garantir isso?

3) É evidente que temos de adotar a tecnologia mas, pessoalmente, penso que não nos devemos tornar nisso. Em que é que acredita? Acredita que a humanidade está a caminhar para uma simbiose total com a tecnologia, ou seja, que em breve nos tornaremos incapazes de existir sem nos aumentarmos a nós próprios? A convergência homem-máquina é inevitável? Qual é a sua posição sobre A Singularidade e o chamado transhumanismo?

4) Cada grande algoritmo também precisa de uma métrica humana correspondente - aquilo a que chamo androritmos, um fator de equilíbrio para proteger e promover aquilo que nos torna exclusivamente humanos. Talvez a questão já não seja apenas o que pode ser automatizado, mas também o que não deve ser automatizado ou robotizado.

A Parceria para a IA é um conceito muito prometedor. Vamos agora transformar a ética digital de uma zona cinzenta difusa numa declaração de direitos global.

Com os melhores cumprimentos, Gerd Leonhard

Saiba mais sobre o meu novo livro Tecnologia vs. Humanidade, ler o Folha de consulta TVH, comprar o livro na Amazon (esta ligação leva-o automaticamente para o site local da amazon), ou encomende-o diretamente da minha editora (todos os formatos; encomendas em grandes quantidades com desconto)

Materiais relacionados

O meu recente vídeo sobre o Cérebro Global

 

Mudança exponencial