Algumas das melhores citações deste brilhante artigo de Lucianio Floridi que conheci recentemente num evento que estava a moderar. Luciano é professor de filosofia e ética da informação na Universidade de Oxford e investigador do Centro Uehiro de Ética Prática. O seu último livro é A Quarta Revolução: Como a Infoesfera Está a remodelar a realidade humana (2014).

Os crentes na verdadeira IA e na "explosão de inteligência" de Good pertencem à Igreja dos Singularitários. Por falta de um termo melhor, referir-me-ei aos descrentes como membros da Igreja dos Ateus da IA. Vejamos as duas fés e as razões pelas quais ambas estão erradas. E, entretanto, lembrem-se: a boa filosofia está quase sempre no meio aborrecido"

"Como todos os pontos de vista baseados na fé, o Singularitarismo é irrefutável porque, no final, não é limitado pela razão e pelas provas. Também não é plausível, uma vez que não há razão para acreditar que algo semelhante a máquinas inteligentes (e muito menos ultrainteligentes) venha a emergir do nosso conhecimento atual e previsível da informática e das tecnologias digitais"

"Aqui os Singularitários misturam fé e factos, muitas vezes movidos, creio eu, por um sentido sincero de urgência apocalíptica. Começam por falar de perda de empregos, de sistemas digitais em risco, de drones não tripulados que se desgovernam e de outras questões reais e preocupantes sobre tecnologias computacionais que estão a dominar a vida humana, da educação ao emprego, do entretenimento aos conflitos. A partir daqui, passam a preocupar-se seriamente com a sua incapacidade de controlar o seu próximo Honda Civic, porque este terá vontade própria. Não se sabe como é que uma IA ultrainteligente e desagradável poderá evoluir autonomamente a partir das capacidades computacionais necessárias para estacionar num lugar apertado. A verdade é que subir ao cimo de uma árvore não é um pequeno passo em direção à Lua; é o fim da viagem. O que nós são vamos assistir a máquinas cada vez mais inteligentes, capazes de realizar mais tarefas do que as que atualmente realizamos nós próprios"

"Tanto os singularistas como os teístas da IA estão enganados. Como Turing afirmou claramente no artigo de 1950 que introduziu o seu teste, a questão 'Pode uma máquina pensar?" é "demasiado insignificante para merecer discussão". (Por ironia, ou talvez por presciência, esta pergunta está gravada na medalha do Prémio Loebner). Isto é verdade, independentemente da Igreja a que se pertença. No entanto, ambas as Igrejas continuam este debate inútil, sufocando qualquer voz discordante da razão."

"A verdadeira IA não é logicamente impossível, mas é totalmente implausível. Não fazemos ideia de como poderíamos começar a concebê-la, até porque compreendemos muito pouco o funcionamento do nosso próprio cérebro e da nossa inteligência. Isto significa que não devemos perder o sono com o possível aparecimento de uma ultrainteligência. O que realmente importa é que a presença crescente de tecnologias cada vez mais inteligentes está a ter efeitos enormes na forma como nos concebemos a nós próprios, ao mundo e às nossas interacções. A questão não é que as nossas máquinas sejam conscientes, ou inteligentes, ou capazes de saber algo como nós. Elas não são. Há muitos resultados bem conhecidos que indicam os limites da computação, os chamados problemas indecidíveis para os quais se pode provar que é impossível construir um algoritmo que conduza sempre a uma resposta correcta de sim ou nãor"

Devemos fazer com que a estupidez da IA trabalhe a favor da inteligência humana. Milhões de postos de trabalho serão interrompidos, eliminados e criados; os benefícios desta situação devem ser partilhados por todos e os custos suportados pela sociedade. Devemos fazer com que o poder de previsão da IA trabalhe em prol da liberdade e da autonomia. A comercialização de produtos, a influência sobre os comportamentos, o incentivo às pessoas ou a luta contra a criminalidade e o terrorismo nunca devem pôr em causa a dignidade humana. E, finalmente, devemos fazer com que a IA nos torne mais humanos. O risco grave é que possamos utilizar incorretamente as nossas tecnologias inteligentes, em detrimento da maior parte da humanidade e de todo o planeta. Winston Churchill disse que "nós moldamos os nossos edifícios e depois os nossos edifícios moldam-nos a nós". Isto aplica-se também à infosfera e às suas tecnologias inteligentes

Relacionadas: as minhas conferências e palestras sobre IA