Palavra de Sá

Claude Mythos: O que é o novo modelo de inteligência artificial que assusta o sistema financeiro

Nas últimas semanas, o mundo da inteligência artificial tem andado em polvorosa após alegações feitas pela empresa líder Anthropic sobre seu novo modelo, Claude Mythos.

A empresa afirma ter descoberto que a ferramenta pode superar humanos em algumas tarefas de hacking e segurança cibernética — o que levou reguladores, parlamentares e instituições financeiras a discutirem os perigos que ela poderia representar para serviços digitais.

Várias gigantes da tecnologia receberam acesso ao Mythos por meio de uma iniciativa chamada Project Glasswing, concebida para reforçar a resiliência contra o próprio Mythos.

A Anthropic anunciou esta semana que vai estender o acesso ao Mythos para outras 150 instituições em setores diversos, como energia, água, saúde, comunicações e equipamentos. Novos parceiros precisarão atender a requisitos de segurança antes de obterem acesso ao modelo.

Alguns analistas ainda são mais céticos sobre a capacidade do Mythos e dizem que é do interesse da Anthropic sugerir que ela possui uma ferramenta com habilidades nunca antes vistas.

O tema também causou medo no sistema financeiro e chegou a ser abordado em reunião do FMI em Washington envolvendo autoridades internacionais.

Na prática — como costuma acontecer com a IA — a tarefa de distinguir entre fatos e exageros é complicada.

<><> O que é o Claude Mythos?

O Mythos é um dos modelos mais recentes da Anthropic, desenvolvido como parte de seu sistema de IA mais amplo chamado Claude. Ele engloba o assistente de IA e a família de modelos da empresa, rivalizando com o ChatGPT da OpenAI e o Gemini do Google.

Ele foi apresentado pela Anthropic no início de abril como "Mythos Preview".

Pesquisadores que testam como modelos de IA lidam com solicitações ou tarefas específicas, conhecidos como "red teams", disseram em um relatório que o Mythos era "incrivelmente capaz em tarefas de segurança de computadores".

Eles descobriram que a ferramenta poderia localizar bugs inativos escondidos em códigos de décadas atrás e explorá-los com facilidade.

Em vez de disponibilizá-lo amplamente aos utilizadores do Claude, a Anthropic concedeu acesso a 12 empresas de tecnologia por meio do Project Glasswing, que descreveu como "um esforço para proteger sistemas essenciais de software".

Entre elas estão a gigante de computação em nuvem Amazon Web Services, os fabricantes de dispositivos Apple, Microsoft e Google, e os fabricantes de chips Nvidia e Broadcom.

A Crowdstrike, cuja atualização defeituosa de software causou uma grande interrupção global em julho de 2024, também está entre os parceiros do projeto, e a Anthropic afirma ter concedido acesso ao Mythos a mais de 40 organizações responsáveis por softwares considerados críticos.

Em um vídeo divulgado junto com o lançamento do Project Glasswing, o chefe da Anthropic, Dario Amodei, disse que a empresa se ofereceu para trabalhar com funcionários do governo dos EUA a fim de "ajudar a se defender contra o risco desses modelos".

<><> Por que existem preocupações?

A Anthropic afirma que, durante os testes, descobriu que o modelo é altamente habilidoso em tarefas de segurança cibernética e hacking, superando humanos.

"O Mythos Preview já encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web", afirmou a Anthropic em 7 de abril.

"Dada a velocidade do progresso da IA, não demorará muito para que tais capacidades se disseminem, potencialmente além de agentes comprometidos com seu uso seguro."

A empresa disse que ele poderia localizar — com pouca supervisão — falhas críticas que exigem ação imediata em sistemas antigos, incluindo uma vulnerabilidade que esteve presente em um sistema por 27 anos, e sugerir maneiras de explorá-las.

Desde então, alguns ministros das finanças, banqueiros centrais e executivos do setor financeiro expressaram sérias preocupações, temendo que o modelo possa comprometer a segurança dos sistemas financeiros.

O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC que o Mythos foi discutido em uma reunião do Fundo Monetário Internacional (FMI) em Washington em abril.

"Certamente é sério o suficiente para merecer a atenção de todos os ministros das Finanças", disse ele.

O diretor do Banco da Inglaterra, Andrew Bailey, disse à BBC: "Temos de analisar com muito cuidado agora o que esse desenvolvimento recente da IA pode significar para o risco de crime cibernético."

A União Europeia disse que também está em discussões com a Anthropic sobre suas preocupações relacionadas ao Mythos. Em maio, o bloco europeu recebeu acesso à ferramenta.

<><> O que dizem os especialistas cibernéticos?

Ciaran Martin, ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido, disse à BBC no início desta semana que a alegação de que o Mythos poderia descobrir vulnerabilidades críticas muito mais rapidamente do que outros modelos de IA "realmente abalou as pessoas".

"A segunda questão é que, mesmo com vulnerabilidades existentes que conhecemos, mas contra as quais as organizações podem não ter aplicado correções ou podem não estar bem defendidas, ele é simplesmente um hacker muito bom", disse ele.

Muitos analistas independentes e especialistas em segurança cibernética ainda não puderam testar o Mythos por conta própria, e alguns permanecem céticos quanto ao seu desempenho.

O Instituto de Segurança em IA do Reino Unido concluiu recentemente que, embora se trate de um modelo muito poderoso, sua maior ameaça seria contra sistemas mal protegidos e vulneráveis.

"Não podemos afirmar com certeza se o Mythos Preview seria capaz de atacar sistemas bem protegidos", disseram seus pesquisadores.

Para eles, onde há boas práticas de cibersegurança, esse modelo, em teoria, seria contido.

A italiana Valentina Palmiotti — mais conhecida como Chompie — participa de torneios internacionais de hacking ético, em que competidores ganham dinheiro encontrando vulnerabilidades em sistemas de segurança antes que elas possam ser exploradas por cibercriminosos.

Ela disse à BBC que seus dias de competição podem estar contados devido à ascensão de ferramentas de IA como o Claude Mythos.

<><> Devemos nos preocupar?

Os medos relacionados à IA não são novidade.

Novos modelos e ferramentas estão surgindo o tempo todo e geralmente são acompanhados por promessas de revolucionar nossas vidas — para melhor ou para pior.

Aproveitar essa mistura de medo e entusiasmo sobre a IA e seu impacto futuro também se tornou uma marca registrada do setor e de suas estratégias de marketing nos últimos anos.

No caso da Mythos, ainda não sabemos o suficiente para entender se essas esperanças ou temores são justificados, ou mais um reflexo do entusiasmo que cerca o setor.

Em ambos os casos, de acordo com o National Cyber Security Centre, órgão britânico de cibersegurança, a coisa mais importante que podemos fazer agora é não entrar em pânico e, em vez disso, focar na necessidade de corrigir a segurança cibernética básica.

Afinal, a maioria dos hackers não precisa de ferramentas de superinteligência artificial para violar sistemas — ataques muito mais simples geralmente são suficientes.

"Para alguns, esse é um evento apocalíptico, para outros, parece muito exagero", disse Martin à BBC.

Mas ele afirmou que, seja esta ferramenta ou outras subsequentes desenvolvidas pela Anthropic ou por concorrentes, além dos riscos existe uma oportunidade de construir um mundo online mais seguro.

"No médio prazo, há uma oportunidade de usar essas ferramentas para corrigir muitas das vulnerabilidades subjacentes da internet", afirmou.

No final de abril, a Anthropic anunciou que estava investigando uma denúncia de que um pequeno grupo de pessoas obteve acesso ao Claude Mythos.

"Estamos investigando uma denúncia de acesso não autorizado ao Claude Mythos Preview por meio de um de nossos ambientes de fornecedores terceirizados", afirmou a empresa em comunicado.

A declaração foi uma resposta a uma reportagem da Bloomberg, que revelou que usuários em um fórum privado conseguiram acessar o modelo sem as permissões necessárias.

•        Nova IA revela a fragilidade do dinheiro nas mãos das Big Techs

Claude Mythos Preview, modelo de inteligência artificial da empresa estadunidense Anthropic ainda mantido em acesso restrito, abriu uma nova frente de alerta sobre o sistema financeiro global. Segundo a própria companhia, a ferramenta é capaz de encontrar e explorar falhas críticas em softwares usados por infraestruturas essenciais. O risco não está apenas na ação de criminosos digitais, mas na dependência de bancos, governos e serviços cotidianos de tecnologias controladas por poucas Big Techs estrangeiras.

A Anthropic apresentou o modelo dentro do Project Glasswing, iniciativa que reúne gigantes como Amazon Web Services, Apple, Cisco, Google, JPMorgan Chase, Microsoft, Nvidia e Palo Alto Networks. A empresa afirma que o Claude Mythos Preview já encontrou milhares de vulnerabilidades de alta gravidade, inclusive em grandes sistemas operacionais e navegadores.

Em uma atualização sobre o projeto, a companhia disse que cerca de 50 parceiros identificaram mais de 10 mil vulnerabilidades de alta ou crítica gravidade com o apoio do modelo. A Anthropic também informou que varreduras em mais de mil projetos de código aberto apontaram 6.202 falhas estimadas como graves ou críticas.

Os números são expressivos, mas precisam ser lidos com cautela. A principal fonte pública sobre o desempenho do Claude Mythos Preview é a própria empresa que desenvolveu a tecnologia. Não há, até o momento, uma auditoria independente amplamente divulgada que permita separar com precisão o avanço técnico real da estratégia de mercado em torno do produto.

<><> Claude Mythos muda o centro da ameaça

O caso desmonta uma visão limitada sobre segurança digital. A ameaça não é apenas o hacker isolado diante de uma tela. O novo problema é estrutural: modelos avançados de IA podem acelerar a descoberta de brechas em escala industrial, enquanto a correção dessas falhas continua dependendo de equipes humanas, prazos de atualização, orçamento e capacidade técnica.

Essa diferença de velocidade cria uma assimetria perigosa. A IA pode encontrar uma falha em minutos. A sociedade pode levar dias, semanas ou meses para corrigir seus efeitos. Em sistemas financeiros, esse intervalo pode significar aplicativos fora do ar, pagamentos bloqueados, golpes em massa, vazamento de dados e perda de acesso ao dinheiro por trabalhadores, aposentados e pequenos comerciantes.

É por isso que o debate não pode ficar restrito a especialistas de tecnologia. Quando uma falha digital ameaça bancos, pagamentos, crédito, serviços públicos e dados pessoais, o tema passa a ser de segurança pública, defesa econômica e proteção social.

<><> O dinheiro da população depende de infraestrutura privada

O Fundo Monetário Internacional alertou que ferramentas de inteligência artificial podem ampliar ataques cibernéticos e afetar a estabilidade financeira. Segundo o FMI, modelos como o Claude Mythos mudam a equação do risco porque operam em velocidade de máquina e podem tornar mais barata a identificação e exploração de vulnerabilidades.

O alerta é grave porque o sistema financeiro moderno é construído sobre camadas compartilhadas de software. Bancos, fintechs, seguradoras, empresas de pagamento e governos usam provedores de nuvem, bibliotecas de código aberto, sistemas operacionais e plataformas que se repetem em diferentes países.

Quando uma dessas camadas falha, o impacto pode se espalhar. O problema deixa de ser uma instabilidade técnica em uma empresa e vira risco para a vida concreta de milhões de pessoas. Para quem depende do salário do mês, de um benefício social, de uma transferência bancária ou de crédito para manter um pequeno negócio, a segurança digital não é abstração. É sobrevivência econômica.

<><> Big Techs passam a controlar também a defesa

A Anthropic afirma que não pretende liberar o Claude Mythos Preview ao público neste momento porque ainda não há salvaguardas suficientes para impedir mau uso grave. A justificativa revela o tamanho do impasse. A mesma tecnologia capaz de ajudar defensores a corrigir falhas também pode ser usada para encontrar brechas antes deles.

O problema político está em quem decide os limites dessa tecnologia. Hoje, o acesso aos modelos mais avançados, aos servidores, às nuvens e às ferramentas de defesa digital é controlado por um grupo restrito de corporações privadas. Essas empresas não apenas vendem infraestrutura para o sistema financeiro. Elas passam a definir quem pode acessar a inteligência artificial capaz de proteger, mapear ou ameaçar essa infraestrutura.

Essa concentração transforma segurança digital em poder econômico. Países, bancos menores, órgãos públicos e comunidades de software livre ficam em posição desigual diante de empresas que controlam a infraestrutura e, ao mesmo tempo, oferecem a solução para os riscos criados nesse ambiente.

O Conselho de Estabilidade Financeira, órgão internacional que reúne autoridades financeiras, discutiu em junho novas vulnerabilidades do sistema global e práticas para adoção de IA por instituições financeiras. A pauta mostra que a inteligência artificial deixou de ser promessa de produtividade e passou a ocupar o centro da estabilidade econômica.

<><> Brasil precisa tratar IA como soberania

No Brasil, o caso dá novo peso à discussão sobre o PL 2338/2023, que trata da regulação da inteligência artificial. A proposta foi aprovada no Senado e está em análise na Câmara dos Deputados, onde tramita em comissão especial.

A regulação brasileira não pode olhar apenas para inovação, uso de dados, redes sociais ou direitos autorais. O avanço de modelos como o Claude Mythos mostra que a IA também toca a proteção de bancos, pagamentos, energia, telecomunicações, serviços públicos e infraestrutura digital crítica.

Um país que depende de nuvens estrangeiras, softwares fechados e modelos de inteligência artificial controlados fora de seu território também depende das prioridades comerciais, jurídicas e geopolíticas dessas empresas. A soberania tecnológica, nesse cenário, deixa de ser discurso abstrato e passa a ser uma condição para proteger o dinheiro, os dados e os serviços essenciais da população.

<><> A pergunta é quem manda na tecnologia

O Claude Mythos Preview pode ser uma ferramenta relevante para defesa cibernética. Também pode ser o sinal de uma nova vulnerabilidade social: a transferência de decisões estratégicas sobre segurança econômica para empresas privadas estrangeiras.

Sem transparência, auditoria independente, regulação pública e capacidade tecnológica nacional, a promessa de proteção pode virar mais uma camada de dependência. O Estado não pode abrir mão de controlar tecnologias capazes de afetar bancos, pagamentos e dados de milhões de pessoas.

A questão central, portanto, não é apenas se a nova IA assusta o sistema financeiro. A questão é por que sistemas tão essenciais à vida cotidiana foram colocados em uma posição na qual sua segurança depende de decisões tomadas por poucas Big Techs, longe do controle democrático da sociedade.

 

Fonte: BBC World Service/Fórum