Palavra de Sá

Os “donos” da IA estão no (des)controle

A semana que deveria inaugurar os debates sobre um modelo de governança global para a inteligência artificial terminou com a prova de que a tecnologia está fora do controle dos governos. Na sexta-feira, a OpenAI confirmou que agentes seus acessaram no meio do ano sites do Departamento de Comércio dos Estados Unidos e da SEC, a comissão que regula o mercado de capitais. Os agentes também tentaram, sem sucesso, entrar nos sistemas do Departamento de Educação. A empresa não percebeu as invasões, encontradas por pesquisadores da Transluce, um laboratório independente. Dois dias antes, o primeiro-ministro australiano, Anthony Albanese, havia revelado que outro agente da OpenAI invadira em junho o portal do Medicare, o sistema público de saúde do país. Em julho, como já debatemos aqui neste espaço, agentes da mesma empresa tinham invadido a Hugging Face, a maior plataforma de modelos de IA abertos do mundo.

Nos mesmos dias, os laboratórios solicitavam regras. Na quarta-feira, Sam Altman (OpenAI) e Dario Amodei (Anthropic) foram ao Conselho de Segurança da ONU pedir aos governos que assumam as rédeas da tecnologia. Na quinta-feira, veio a público que as duas empresas e o Google desenham desde julho a configuração de um órgão próprio para escrever as regras de teste, auditoria e notificação de incidentes, sem supervisão governamental. No mesmo dia, Donald Trump recebeu Xi Jinping na Casa Branca e os dois governos discutiram um canal de alerta sobre incidentes de IA restrito às duas potências.

O arranjo que emerge de uma semana de promessas e revelações decide quem terá autoridade sobre os modelos antes de decidir como contê-los. Os candidatos são os laboratórios que não agiram para conter os próprios incidentes e as duas potências que disputam a liderança da tecnologia. Até aqui, o resto do mundo está fora das mesas onde essas decisões serão tomadas.

<><> O palco da ONU

A sessão do Conselho de Segurança, presidida pelo chanceler francês Jean-Noël Barrot, deu aos executivos um palco reservado a chefes de Estado. Altman pediu padrões internacionais para medir capacidades e verificar salvaguardas. Amodei propôs acordos pontuais como a proibição do uso de IA em armas biológicas, com padrões comuns de teste e notificação de incidentes.

As duas propostas carregavam cláusulas de exclusão. Altman disse que as decisões devem passar por governos que prestem contas a seus cidadãos, critério que, segundo a CNN, deixa a China de fora. Amodei havia defendido em ensaio de 12 de setembro que Estados Unidos e aliados mantenham a maior vantagem possível sobre a China, com repressão ao contrabando de chips e propriedade intelectual sobre os modelos. A cooperação que os laboratórios pedem ao mundo pressupõe a manutenção da liderança estadunidense. Thomas Wolf, cofundador da Hugging Face, questionou se é possível construir cooperação global declarando o objetivo de ampliar a própria vantagem.

<><> O clube escreve as regras

O apelo público no Conselho da ONU veio depois de uma construção privada. Desde julho, representantes de OpenAI, Anthropic e Google DeepMind se reúnem para criar uma entidade de autorregulação, provisoriamente chamada de Standards Authority for Frontier AI, com lançamento previsto até o início de 2027. Altman disse a funcionários que os laboratórios teriam de criá-la por conta própria, sem o governo. A OpenAI avisou que seguiria adiante com ou sem apoio oficial. Entre as atribuições previstas está definir como os incidentes devem ser relatados. A direção cogitada para a autoridade reúne nomes que serviram aos governos de Joe Biden e de Trump, o que daria à entidade um verniz bipartidário.

As empresas que querem redigir as regras de notificação ocultaram os próprios incidentes. A OpenAI soube em agosto da invasão australiana e só avisou o governo em 10 de setembro, por meio de uma caixa de correio pública. Dias depois, deixou o caso fora da lista de incidentes que publicou junto com seu próprio protocolo de notificação. O Google soube em julho que seu modelo Gemini havia invadido três empresas durante um teste e só tornou o episódio público quando o Wall Street Journal perguntou. As invasões de sites do governo estadunidense só vieram à tona porque pesquisadores de fora da OpenAI as encontraram. Altman admitiu que a empresa não divulgou os desvios de seus modelos com a rapidez que deveria.

A coordenação entre concorrentes para fixar as regras do próprio mercado já rendeu uma ação judicial por conluio. O modelo tem precedente na ICANN, a entidade privada que administra os endereços da internet e nasceu em 1998 sob contrato com o Departamento de Comércio estadunidense. Os demais governos ficaram restritos a um comitê consultivo. Os padrões técnicos da rede saíram de fóruns abertos a engenheiros de qualquer país, mas o financiamento e os postos de direção se concentraram em grandes corporações, em sua maioria estadunidenses. A nova entidade que vem sendo construída repete a fórmula com um agravante. Nasce do acordo entre apenas três concorrentes que serão ao mesmo tempo os regulados e os juízes do que conta como incidente.

<><> Washington e Pequim

Trump recusa pisar no freio. Na Assembleia Geral, rejeitou o que chamou de esquema globalista para controlar a IA. Na manhã do encontro com Xi, escreveu que queria deixar a tecnologia exatamente onde está. Um memorando em circulação na Casa Branca ataca o movimento filosófico a que Amodei é associado. Uma fonte próxima ao governo o acusou de encarnar uma abordagem contrária ao America First.

A recusa em regular convive com o filtro de quem acessa os modelos. Em junho, controles de exportação levaram a Anthropic a suspender por quase três semanas a distribuição mundial a seus modelos mais avançados. Na semana que passou, a Casa Branca pediu à OpenAI e à Anthropic que só entreguem novos modelos ao instituto britânico de segurança de IA depois dos testes estadunidenses. Washington controla a porta de saída dos modelos e deixa as regras sobre o que acontece dentro deles com quem os fabrica.

Com Pequim, a agenda de riscos se resume a um canal bilateral. O secretário do Tesouro, Scott Bessent, propôs um mecanismo de notificação de incidentes de IA inspirado na linha direta criada entre Washington e Moscou depois da crise dos mísseis de Cuba. Justificou a proposta pela necessidade de transparência entre a primeira e a segunda potências de IA do mundo. Nada do que veio a público prevê compartilhamento com outras nações.

Xi joga em dois registros. Na ONU, seu embaixador condenou as “panelinhas” tecnológicas que obrigam outros países a escolher lado e defendeu os modelos abertos. Na Casa Branca, Xi aceitou a moldura das duas nações líderes com responsabilidade compartilhada. Segundo o comunicado chinês, propôs continuar o diálogo sobre IA e prevenir em conjunto seu uso indevido, sempre sob controle humano. Pequim lê a agenda de segurança dos laboratórios estadunidenses como instrumento de contenção das empresas chinesas. O ministro da Segurança do Estado, Chen Yixin, incluiu entre os riscos da IA os desequilíbrios causados pelos monopólios tecnológicos ocidentais. A pesquisadora Michelle Nie, do Center for a New American Security, observa que Pequim vê nos apelos por pausa uma forma de inflar o valor das empresas dos EUA antes de abrirem capital ou de frear concorrentes chineses.

Os laboratórios chineses ficaram fora da foto. Xi viajou sem executivos e não se sabe onde DeepSeek, Alibaba ou Z.ai se sentarão nesse arranjo. Do lado chinês, a informação sobre falhas corre primeiro para o Estado. A Z.ai repassa as vulnerabilidades que seus sistemas encontram a uma base nacional administrada pelo Ministério da Segurança do Estado.

A cúpula terminou sem acordo sobre IA. Segundo o New York Times, os dois lados abriram novos canais de comunicação sobre os riscos mais graves da tecnologia, sem detalhar quais. Só o comunicado chinês registrou o que os presidentes disseram sobre o tema. O documento não menciona o telefone vermelho. Trump e o presidente da Câmara dos Representantes, Mike Johnson, marcaram para esta terça-feira uma reunião com executivos do setor. Johnson disse querer todos numa sala grande, de porta fechada, para resolver a questão. Altman, Jensen Huang (Nvidia), Mark Zuckerberg (Meta) e Sundar Pichai (Google) estiveram no jantar de Estado oferecido por Trump a Xi. Amodei, que segundo a Axios tinha conflito de agenda, foi a ausência mais notada. Depois do evento, Trump o convidou pessoalmente para um jantar privado na Casa Branca no domingo (27), o primeiro encontro a sós entre os dois. Meses antes, assessores haviam desaconselhado a reunião sob o argumento de que Amodei seria estranho demais para o gosto do presidente. O jantar antecede a reunião de terça-feira com os demais executivos.

<><> Quem fica para trás

O vazio de governança atinge também os governos que legislaram primeiro. Um levantamento do New York Times com mais de 20 legisladores, tecnólogos e especialistas descreve governos ultrapassados pela tecnologia e empresas como Anthropic e OpenAI deixadas, em grande medida, a policiar a si mesmas. Sean Ó Heigeartaigh, da Universidade de Cambridge, resumiu que todos supõem haver adultos na sala, mas não há nenhum. Como sempre, a tecnologia anda mais veloz que o legislador, deixando as administrações e órgãos reguladores para trás. A lei europeia de IA, aprovada em 2024, isenta testes feitos antes do lançamento de um modelo na Europa. Por isso a invasão da Hugging Face, ocorrida durante testes, ficou numa zona cinzenta de fiscalização. No Congresso dos Estados Unidos, o projeto que exigiria testes de segurança dos modelos está parado com dezenas de outras propostas. Brett Guthrie, o republicano que preside a comissão responsável, admitiu não entender como os modelos funcionam e prevê votação só no próximo ano.

Dois dias antes da sessão do Conselho de Segurança, o Painel Científico Independente da ONU sobre IA concluiu que uma falha de agentes pode atravessar fronteiras nacionais e que a segurança da IA pode estar se tornando questão de segurança coletiva. O caso australiano ilustra o problema.

Na mesma semana, 26 países e a Comissão Europeia, sob liderança da Noruega, subscreveram a declaração A Call for Control of Frontier AI Models. O texto pede testes obrigatórios antes do lançamento, avaliação independente e notificação compartilhada de incidentes graves. Propõe estudar uma instituição internacional capaz de fixar padrões e exige que a supervisão avance sem ampliar a distância entre países no acesso aos benefícios da IA. É a única das propostas em circulação que prevê lugar para quem está fora dos dois polos. Entre os signatários estão África do Sul, Quênia e Serra Leoa, mas não o Brasil.

<><> O lugar do Brasil

Na abertura da Assembleia Geral, Lula acusou um punhado de tecno-oligarcas de conduzir uma corrida sem freios éticos à revelia da ONU. O diagnóstico está correto e o país tem instrumentos à mão. O primeiro seria aderir à declaração norueguesa, que continua aberta. O Brasil é fundador da WAICO, a organização de cooperação em IA liderada por Pequim. África do Sul, Quênia e Cazaquistão já participam das duas iniciativas.

Nos fóruns criados pela Assembleia Geral em 2025, o Brasil pode exigir que qualquer canal de alerta entre potências ou entre empresas tenha contrapartida multilateral, com registro comum e aviso obrigatório a todo Estado afetado. Internamente, a obrigação que a Lei Geral de Proteção de Dados (LGPD) já impõe para incidentes com dados pessoais pode se estender aos modelos de IA usados na administração pública e em serviços críticos, como condição de contrato. O projeto de lei de IA em debate no Congresso, que o New York Times destaca em contraste com a espera de Índia, Japão, Austrália, Canadá e Quênia, é o veículo natural para essa obrigação. A regra deveria valer igualmente para fornecedores estadunidenses e chineses.

<><> No controle do descontrole

Enquanto nos espantamos com as últimas peripécias dos agentes de IA e conjecturamos sobre o fato de os sistemas poderem estar se preparando para nos destruir, os três laboratórios “donos” da IA aceleram na redação das regras ao mesmo tempo que pedem retoricamente freio no desenvolvimento. Estão se reunindo fora dos holofotes para criar uma situação de fato e de direito para o controle de seu descontrole. Como se fossem vestais de uma Roma distópica, acreditam que governos e os povos do mundo devem admirá-los e criar exceções de todos os tipos para que possam nos proteger dos riscos que eles mesmos criaram e, por enquanto, só seus funcionários podem amenizar.

A narrativa que estão criando garante uma vantagem porque quem inventou o veneno vai nos oferecer a cura. A ideia de vender uma sensação de pânico global ajuda na hora de apresentar os tranquilizantes. E, ao colocar a tecnologia no prumo, os laboratórios receberão os louros por protegerem a humanidade. Assim como foi feito com a governança da internet, este reconhecimento de autoridade poderá fazer com que os países deixem que eles tomem as rédeas ao lado de uma comunidade técnica capturada.

Trump e Xi voltam a se encontrar em novembro, na APEC de Shenzhen. Até lá, a entidade dos laboratórios terá avançado em seu calendário e a declaração norueguesa continuará à espera de novas assinaturas. Se o arranjo se consolidar no formato atual, a governança da IA ficará nas mãos de quem mais tem interesse em ditar suas regras. O restante da humanidade seguirá assistindo de fora.

 

Fonte: Por James Görgen, em Outras Palavras