Fui membro do Projeto Millennium Há já algum tempo que a lista de correio eletrónico do MillPro está sempre cheia de actualizações úteis. Diretor Executivo do MillPro, Jerónimo GlennO Presidente da Comissão Europeia, António Costa, é (e tem sido desde há muito tempo) uma das principais vozes do mundo sobre o futuro.

Eis o seu último comunicado de imprensa sobre os riscos da IA avançada:

"Washington, DC 22 de agosto de 2023 - Um novo relatório do Projeto Millennium alerta para o facto de os sistemas avançados de inteligência artificial poderem surgir mais cedo do que o previsto, colocando riscos sem precedentes a menos que sejam rapidamente instituídos quadros de governação prudentes.

O relatório intitulado Questões de governação internacional da transição da Inteligência Artificial Estreita para a Inteligência Artificial Geral (IAG) é uma destilação de entrevistas e de ideias recolhidas de 55 especialistas em IA dos Estados Unidos, China, Reino Unido, Canadá, União Europeia e Rússia sobre a forma de regulamentar a AGI - uma IA capaz de lidar com situações novas tão bem ou melhor do que os humanos. Entre estes peritos contam-se Sam Altman, Bill Gates e Elon Musk.

AGI poderão surgir nos próximos anos, representando uma "explosão de inteligência" que cria uma IA que ultrapassa as capacidades humanas, afirma o relatório. A falta de governação poderá conduzir a resultados catastróficos, incluindo ameaças existenciais para a humanidade, se esses sistemas estiverem desalinhados com os valores e interesses humanos. O relatório conclui que nenhum dos modelos de governação existentes está adequadamente preparado para gerir os riscos e as oportunidades colocados pela inteligência artificial geral (AGI). Apela ao rápido desenvolvimento de um novo tipo de governação flexível que possa acompanhar e antecipar o ritmo da evolução da IA e fornecer as salvaguardas necessárias, sem sufocar as promessas e os avanços da IA.

"A AGI está mais próxima do que nunca - o próximo avanço pode ultrapassar a inteligência humana", cita o relatório Ilya Sutskever, cofundador da OpenAI. "O alinhamento com os valores humanos é fundamental, mas é um desafio". Ben Goertzel, autor de Revolução AGI acrescentou: "Trata-se mais de saber quem controla o desenvolvimento e a utilização dos AGI do que de uma lista de ética".

Outras conclusões importantes incluem:

• Como os benefícios da AGI são tão grandes na medicina, educação, gestão e produtividade, as empresas estão a correr para serem as primeiras.
• Como a AGI vai aumentar o poder político, os governos estão a correr para serem os primeiros.
• A cooperação internacional é essencial, mas está ameaçada pelas tensões competitivas entre as nações e as empresas que disputam a supremacia da IA. Os riscos partilhados podem obrigar à colaboração, mas ultrapassar a desconfiança representa um enorme desafio.
• Poderão ser necessários poderes extraordinários de execução para que a governação seja fiável e eficaz a nível mundial, incluindo potencialmente capacidades militares
• Embora controversas, as propostas para limitar a investigação e o desenvolvimento podem ser necessárias para dar tempo à conceção e aplicação de soluções de gestão.
• A janela para desenvolver uma governação eficaz é curta, exigindo uma colaboração sem precedentes.

"Estamos todos juntos neste barco - se correr mal, estamos todos condenados", cita o professor de Oxford Nick Bostrom.

O Projeto Milénio apela a uma ação urgente para criar uma governação e um alinhamento da AGI a nível nacional e internacional, antes que a IA avançada ultrapasse a capacidade da humanidade de a controlar em segurança. "Se não conseguirmos uma Convenção das Nações Unidas sobre a Inteligência Artificial Avançada e uma Agência das Nações Unidas para a Inteligência Artificial Avançada que imponha regras, controlos, auditorias e verificações correctas, poderão surgir várias formas de Inteligência Artificial Avançada fora do nosso controlo e não do nosso agrado", afirma Jerome Glenn, Diretor Executivo do Projeto Milénio.

Com riscos que podem incluir a extinção humana, o relatório adverte que não podemos permitir-nos atrasos na mobilização da cooperação global.

Para obter o estudo completo, visite o sítio Sítio MillPro.