Isto é um imperdível 5* com Jacob Ward e Thomas Friedman (NYT). Já disse isto inúmeras vezes nos últimos 3 anos: precisamos urgentemente de um conselho global de segurança de IA AGORA, não de um Projeto Manhattan!

Estamos num PONTO DE VIRAGEM: Uma IA que poderia encontrar instantaneamente falhas e backdoors para qualquer sistema de TI global, websites, aplicações, dispositivos e nuvens… isso faria o mundo parar por completo. Isso é 500 vezes mais importante do que os já muito preocupantes problemas geopolíticos, também conhecidos como #o mau futuro

Atualizado: algumas citações de outros locais, abaixo :).

---

“A Anthropic decidiu não lançar o seu mais recente modelo de IA. chamado #mitos para o público em geral. Agora, esta versão é aparentemente tão avançada que consegue encontrar vulnerabilidades numa enorme variedade de aplicações de software, o que é tanto um grande avanço, potencialmente para melhorar a cibersegurança, como um enorme perigo se for utilizada por criminosos ou outros para invadir sistemas... Tom, escreve que isto é potencialmente um ponto de viragem tão fundamental e significativo como foi o surgimento da destruição mútua assegurada e a necessidade de não proliferação nuclear.

Essa é uma afirmação enorme. A nossa economia agora, os nossos maiores sistemas, os nossos sistemas de água, as nossas companhias aéreas, os nossos aeroportos, os nossos sistemas de transporte e telecomunicações, tudo funciona com software e sistemas operativos, tal como os de todas as outras grandes economias do mundo com as quais estamos interligados. Se basicamente agora temos um software que não só é fantasticamente bom a escrever código novo, mas que também se revela fantasticamente bom a encontrar falhas no seu próprio código ou no de outras pessoas. Essa ferramenta, esse poder, pode agora ser usado em todo o mundo. Estaria nas mãos de todos. Imaginem um mundo em que todos tivessem uma bazuca nuclear, basicamente... Estamos a dar à luz uma nova espécie. Não é baseada em carbono como nós, mas em silício. Mas é uma nova espécie que teremos de aprender a controlar e com a qual teremos de colaborar antes que ela nos transforme nos seus animais de estimação. Portanto, esta é a linha da frente de um problema muito grande...”

A pior parte disto é que, enquanto Anthropic e Dario Amodei afirmou que NÃO lançará o Mythos devido a estas preocupações, a maioria das outras empresas de IA, como a ‘New Tyrell' OpenAI não terá tais escrúpulos. Isto está a acontecer AGORA.

Ler o Thomas Artigo do NYT (link para presente)

“Isto não é uma alteração marginal no panorama das ameaças. Todas as instituições que avaliam o risco cibernético – seguradoras, investidores em infraestruturas, governos – basearam os seus modelos numa suposição fundamental: que a capacidade ofensiva requer conhecimentos humanos escassos. O Mythos remove essa escassez. Não é de surpreender que o Secretário do Tesouro, Scott Bessent convocou os CEOs da Wall Street com pouca antecedência. Bessent compreendeu rapidamente o risco sistémico, mas os mercados ainda não chegaram à mesma conclusão… O modelo de ameaças que sustenta os prémios de seguros cibernéticos é construído com base numa década de ransomware, violação de dados e extorsão – padrões de ataque lentos, sequenciais e limitados por intervenção humana. Um agente autónomo opera de forma diferente: milhares de vetores de ataque em paralelo, aprendendo com as respostas, adaptando-se em tempo real. Já se prevê que os prémios aumentem 15% a 20% ao longo dos próximos doze meses, mas esse valor ainda pressupõe a antiga geometria de ameaças… Os resseguradores enfrentam algo pior do que sinistros mais elevados: um risco que as metodologias atuais não conseguem precificar adequadamente. Não se pode subscrever aquilo que não se consegue modelar…Que arquitetura de governação poderia resolver isto? Não existe atualmente nada de adequado nos moldes do modelo da Agência Internacional de Energia Atómica (AIEA), que tornou uma tecnologia existencial legível, inspecionável e governável. Avaliações obrigatórias, pré-libertação, por terceiros sobre a capacidade seriam um começo, mas requerem coordenação internacional e um nível de acesso técnico a sistemas de ponta que nenhum órgão regulador possui atualmente.” Azeem Azhar

Via The Economist: Segundo a Anthropic, as capacidades da Mythos estão “substancialmente para além das de qualquer modelo que tenhamos treinado anteriormente”. O laboratório afirma estar particularmente alarmado com a capacidade do sistema de encontrar vulnerabilidades de software e corrigi-las (se configurado para funcionar como defensor) ou explorá-las (se atuar como hacker). Tais alegações deveriam normalmente ser recebidas com ceticismo. A Anthropic construiu o modelo, realizou os testes — e tem interesse em beneficiar da perceção de que o seu sistema é muito mais brilhante do que qualquer coisa que o precedeu. O laboratório tem tido sucesso ultimamente. Em 6 de abril, anunciou que a sua receita anualizada tinha atingido $30 mil milhões, acima dos apenas $9 mil milhões no final do ano passado. É certamente ansioso por manter o seu ímpeto.

No entanto, há razões para levar os últimos avisos da Anthropic a sério. A primeira é a sua gravidade: a Anthropic afirma que o Mythos já encontrou graves vulnerabilidades em “todos os principais sistemas operativos e navegadores web”, incluindo uma que passou despercebida durante 27 anos... Os hackers não são os únicos que podem ficar incomodados com o Projeto Glasswing. O governo americano procura há muito tempo explorar as fraquezas nas ciberdefesas dos adversários.. Isso implicou acumular vulnerabilidades não descobertas, inclusive em software americano usado no estrangeiro, para serem utilizadas numa altura em que estes “zero days” terão o maior impacto. Se o Project Glasswing funcionar, poderá desarmar muitas das armas cibernéticas americanas.”

Thomas Friedman através do NTY: A boa notícia é que a Anthropic descobriu, no processo de desenvolvimento do Claude Mythos, que a IA não só conseguia escrever código de software com mais facilidade e maior complexidade do que qualquer modelo atualmente disponível, mas, como subproduto dessa capacidade, também conseguia encontrar vulnerabilidades em praticamente todos os sistemas de software mais populares do mundo com mais facilidade do que antes.

A má notícia é que, se esta ferramenta cair nas mãos de atores mal-intencionados, eles poderão piratear praticamente todos os principais sistemas de software do mundo, incluindo todos os feitos pelas empresas do consórcio.... A Mythos Preview já encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operativos e navegadores web. Dada a velocidade do progresso da IA, não demorará muito até que tais capacidades proliferem, potencialmente para além dos atores que se comprometeram a implementá-las de forma segura. As consequências — económicas, de segurança pública e de segurança nacional — poderão ser graves.’

Então… adicionalmente, fiz um vídeo sobre o NotebookLM bastante interessante, usando a minha própria voz como narração:

Relacionado: https://thebadfuture.com/

ATUALIZAÇÃO 20 de abril de 2026

---

---