Acabei de me deparar com isto peça realmente poderosa sobre a IA, por Sundar Sarukkai, citado abaixo - mudou realmente a minha forma de pensar sobre a IA. Os destaques e as imagens são meus. Aqui está!

A verdadeira preocupação em relação a estas tecnologias é a ênfase na inteligência em vez de noutras características dos seres humanos. A IA é uma tentativa de reproduzir seres humanos superinteligentes. Escolhe um aspeto dos seres humanos, nomeadamente esta ideia vaga chamada inteligência, e amplia-o artificialmente a um ponto que permite à máquina fazer coisas muito melhor do que os humanos. O sucesso destas máquinas apenas reforça o sucesso de uma visão particular do ser humano: não a sua vulnerabilidade e finitude (características que catalisaram grande parte da grande música, arte e literatura), mas, em grande medida, uma capacidade de cálculo.

As criaturas puramente inteligentes, sejam elas pessoas ou máquinas, são más para a humanidade. O significado restrito de inteligência em IA é o que está associado à memória superlativa, ao poder de cálculo, à capacidade de decisão, às grandes velocidades de ação, etc. Estas máquinas tornam-se assim super seres, e uma sociedade com muitos super seres é uma receita para o desastre.

Ser humano não tem a ver com superinteligência e supercapacidade. Trata-se de viver com os outros e de aprender a viver dentro das nossas limitações. A vulnerabilidade, a decadência e a morte caracterizam qualquer forma de vida. As máquinas de IA são um espelho do nosso desejo de imortalidade e de ausência de fraquezas humanas. Não há nada de errado neste desejo em si, mas construir máquinas substitutas não é a forma de o conseguir.

A IA não tem sido utilizada para acabar com a pobreza, para ter uma distribuição mais equitativa da riqueza ou para tornar as pessoas mais satisfeitas com o que têm. Os tipos de IA que teremos, incluindo as máquinas de guerra, serão ditados principalmente pelo lucro das empresas que as fabricam. É disto que precisamos? Seria um mundo triste onde as formas de "vida" surgissem com base na lógica do lucro.

Ao contrário de uma arma, o A máquina de IA é um artista em si mesma. Pensar que essas máquinas serão sempre subservientes a nós é uma ilusão. Não aprendemos nada sobre a relação senhor-escravo se pensarmos que estas máquinas se destinam apenas a ser os nossos "escravos" que tornam a nossa vida "mais fácil". Todas as tecnologias têm um custo (não só económico, mas também social e psicológico) e temos muito pouca ideia do custo que a IA nos vai cobrar. O mais preocupante é que estas máquinas pensantes, que são mais inteligentes do que nós, saberão exatamente como nos manipular, ao ponto de não sermos capazes de ver os seus efeitos negativos....

Sundar Sarukkai é professor de filosofia no Instituto Nacional de Estudos Avançados, em Bengaluru

Leia o resto deste artigo em TheHindu.com