Palavra de Sá

 

O fantasma da China paira sobre o cenário apocalíptico da IA ​​para empresas americanas

Quando repórteres perguntaram a Donald Trump esta semana se ele apoiava os apelos para desacelerar o desenvolvimento da inteligência artificial devido aos crescentes temores sobre a segurança cibernética, a segurança pública e o destino da humanidade, ele respondeu que não. Seu argumento: a China .

“Estamos à frente da China em IA”, disse Trump. “Somos o país mais sofisticado do mundo e, francamente, quero que continue assim, porque quem vencer na área de IA, vence.”

Trump estava ecoando uma mensagem que a indústria de IA vem divulgando há anos. Os EUA estão em uma acirrada corrida tecnológica com a China, argumentam empresas como a Anthropic e a OpenAI , e qualquer regulamentação que ceda essa disputa acarretará riscos de danos econômicos e políticos incalculáveis.

Mesmo liderando um apelo em toda a indústria esta semana para "acompanhar o ritmo", Dario Amodei, CEO da Anthropic, declarou que os EUA só poderiam desacelerar até o ponto em que a China não conseguisse alcançá-los.

“Se restringirmos drasticamente nossas capacidades de IA na crença de que a China fará o mesmo, e então a China desertar, a IA poderá se tornar tão poderosa que tal deserção poderá levar ao seu domínio geopolítico”, alertou Amodei.

As preocupações da indústria de IA em relação à China podem ter origem em incentivos econômicos egoístas, mas também refletem uma vertente de política externa agressiva em relação a Pequim que se enraizou no setor tecnológico.

Nos últimos anos, setores do Vale do Silício se posicionaram como vanguarda em uma nova guerra fria com a China, argumentando veementemente que os avanços tecnológicos do setor são essenciais tanto para a hegemonia dos EUA quanto para a ordem mundial liberal. Essa visão ganhou força entre os diferentes campos ideológicos da tecnologia, criando alianças inusitadas entre defensores da segurança da IA, tecnomilitaristas e neoconservadores, todos temerosos de Pequim.

Empresas de IA contrataram ex-funcionários de alto escalão do governo americano, tanto da administração Biden quanto da administração Trump, para moldar estratégias públicas e analisar riscos geopolíticos, criando equipes internas de políticas públicas. Enquanto isso, líderes influentes do setor de tecnologia escreveram ensaios e documentos políticos defendendo esforços para deter e degradar as capacidades de IA da China, por vezes preconizando a ameaça de conflito armado, se necessário, numa tentativa de influenciar a política externa.

À medida que os apelos públicos para conter a indústria da IA ​​se intensificam e os riscos associados à tecnologia aumentam, diversas forças do setor tentam garantir que sejam elas que tenham a resposta para a pergunta "e a China?".

A Anthropic e a OpenAI não responderam aos pedidos de comentários para este artigo.

<><> Os piores temores de Amodei em relação à China

Poucos se manifestaram com tanta veemência sobre a ameaça da inteligência artificial controlada pelo Estado chinês quanto Amodei. O CEO da Anthropic argumenta há anos que uma das razões pelas quais se empenha tanto no avanço da IA ​​é para garantir que a tecnologia caia nas mãos de governos democráticos e não em regimes opressivos como o da China.

A posição de Amodei o tornou um dos críticos mais ferrenhos do Vale do Silício em relação à indústria de tecnologia chinesa, diferenciando-o de outros líderes de IA, como Sam Altman, CEO da OpenAI , ou Mark Zuckerberg, fundador da Meta, que enquadram a competição mais em termos corporativos ou econômicos; e de pessoas como Jensen Huang, CEO da Nvidia, que incentivaram o uso de modelos de IA chineses. Demis Hassabis, líder do Google DeepMind, fez poucas declarações públicas sobre a China em comparação com seus pares.

“Sam Altman não tem opiniões particularmente fortes em relação à China. A perspectiva antropológica é uma história completamente diferente”, disse Kyle Chan, pesquisador da Brookings Institution. “Amodei está realmente muito focado em uma visão específica do risco da IA ​​e no que ele define basicamente como uma luta entre um mundo dominado por uma IA autoritária versus uma IA democrática”.

O argumento de Amodei, que ele desenvolveu em uma série de ensaios, é que a aquisição de inteligência artificial superpoderosa pela China representa uma das ameaças mais graves dessa tecnologia. Ele acredita que a humanidade está se aproximando da criação de uma IA ultra-avançada e que tal ferramenta daria a um estado autoritário a capacidade de criar um "enxame de milhões ou bilhões de drones armados totalmente automatizados" que seriam "capazes tanto de derrotar qualquer força militar do mundo quanto de suprimir a dissidência dentro de um país, seguindo cada cidadão".

“Existem vários argumentos possíveis contra a gravidade dessas ameaças, e eu gostaria de acreditar neles, porque o autoritarismo facilitado pela IA me aterroriza”, escreveu Amodei em janeiro, em um ensaio intitulado A Adolescência da Tecnologia.

Amodei há muito afirma que, para deter o avanço da China, os EUA e seus aliados devem tomar medidas agressivas para limitar o crescimento das empresas chinesas de IA – principalmente bloqueando a venda de chips semicondutores avançados e equipamentos de fabricação necessários para o aprimoramento da IA. (Huang, da Nvidia, se irritou com essa posição, classificando os controles de exportação como um fracasso e instando Trump a flexibilizar as restrições.)

Mas a posição de Amodei ficou talvez mais evidente no último fim de semana, em sua resposta aos alertas de um jovem pesquisador da Anthropic que se demitiu, prevendo a extinção da humanidade até o final da década pelas mãos digitais da IA. A série apocalíptica de tweets de Jacob Coxon não mencionou a China. Mas o espectro do outro lado do Pacífico paira tão forte na mente do CEO da Anthropic que, ao delinear como evitar a extinção da humanidade, derrotar Pequim tornou-se primordial.

Amodei montou uma equipe que compartilha de suas opiniões. Ele contratou, por exemplo, Tarun Chhabra, ex-funcionário do Conselho de Segurança Nacional durante o governo Biden, como chefe de política de segurança nacional da Anthropic. Chhabra fez campanha contra a venda de chips para a China e defendeu um esforço governamental em larga escala para conter os avanços do Partido Comunista Chinês em inteligência artificial.

“O PCC não busca complementaridade, coexistência ou vantagem comparativa com os Estados Unidos ou nossos aliados. Em vez disso, o PCC busca o domínio absoluto e o controle das tecnologias e cadeias de suprimentos mais críticas”, disse Chhabra em uma audiência no Senado no ano passado, acrescentando que acreditava que o governo Biden não tomou medidas decisivas ou rápidas o suficiente para manter a liderança dos EUA contra a China.

A preocupação de Amodei com os controles de exportação também o colocou na companhia de outros influentes críticos da China. Ele escreveu um artigo de opinião para o Wall Street Journal no ano passado com Matt Pottinger, o arquiteto da política de Trump para a China durante seu primeiro mandato, instando o governo a restringir as exportações de chips. Pottinger, pesquisador visitante da conservadora Hoover Institution e autor de um livro sobre como defender Taiwan contra um ataque chinês, argumentou em 2024 que os EUA e a China estavam nos "início de uma guerra entre grandes potências".

A posição da Anthropic e de Amodei em relação à China coloca a empresa em uma estranha tensão com sua própria política interna. A empresa gastou milhões em lobby por maior supervisão governamental e medidas de segurança. Ao mesmo tempo em que defende mais salvaguardas, a Anthropic deixou claro que se oporá agressivamente a qualquer política que considere dar à China a chance de ultrapassar os EUA.

“Há algo muito importante que todos precisam ouvir da Anthropic”, disse Sarah Heck, chefe de políticas públicas da empresa, em um evento da Politico na quarta-feira. “Os Estados Unidos precisam se manter na liderança em IA e não se pode garantir segurança estando em segundo lugar.”

Compreender as crenças das empresas de IA e de CEOs como Amodei é particularmente importante, dizem os especialistas, porque a política de laissez-faire da administração Trump em relação à indústria de IA fez com que as empresas privadas se tornassem os principais atores na formulação de políticas públicas.

“Seria como se toda a indústria farmacêutica ficasse completamente desregulamentada”, disse Chan. “É algo impressionante e, no fim das contas, se resume a uma coisa: Trump tem se mostrado muito relutante em regulamentar o setor porque não quer frear o crescimento da inteligência artificial e o impacto que ela está tendo na economia.”

A Anthropic não é a única empresa a contratar e se aliar a ex-funcionários de alto escalão da área de políticas públicas. A OpenAI contratou Dean Ball, autor do plano de ação de IA de Trump, como "chefe de futuros estratégicos" no início deste ano. Embora Ball tenha criticado a forma como Amodei enquadra a competição com a China, ele expressou um pessimismo semelhante em relação à cooperação entre EUA e China.

“Houve um tempo em que era possível acreditar que cada um de nós poderia seguir seus pontos fortes, enriquecer nossas respectivas economias e crescer juntos. Infelizmente, essa harmonia agora parece impossível”, escreveu Ball sobre a China no ano passado. “Estamos presos em um conflito estrutural.”

<><> Os falcões da China do Vale do Silício

Embora Amodei seja a voz mais proeminente da indústria de IA sobre a China, os temores de que Pequim obtenha capacidades avançadas de IA e as utilize para dominação global permeiam o Vale do Silício.

Diversas figuras do setor tecnológico com foco na China têm ligações, como o próprio Amodei, com o movimento do altruísmo eficaz – uma ideia quase utilitarista que defende que a sociedade deve priorizar projetos que maximizem o bem e minimizem o mal para a humanidade. Esse movimento tende a se sobrepor aos defensores da segurança da IA, que se preocupam com os riscos existenciais de longo prazo dessa tecnologia.

Leopold Aschenbrenner, um ex-pesquisador da OpenAI de 25 anos, fundador de um influente fundo de investimento em IA e marido da chefe de gabinete de Amodei, defendeu, em um artigo de 165 páginas, um esforço liderado pelo governo para alcançar uma IA superinteligente antes da China.

“A superinteligência proporcionará uma vantagem econômica e militar decisiva. A China ainda não está fora da disputa. Na corrida pela Inteligência Artificial Geral (IAG), a própria sobrevivência do mundo livre estará em jogo”, escreveu Aschenbrenner em 2024.

A posição de Aschenbrenner, que ganhou as manchetes no início deste ano quando seu fundo de hedge perdeu US$ 35 bilhões em menos de um mês, encontrou eco em Washington. Quando a Comissão de Revisão Econômica e de Segurança EUA-China, tipicamente beligerante, divulgou seu relatório anual ao Congresso alguns meses após o manifesto de Aschenbrenner, a principal sugestão do comitê consultivo do Congresso foi "estabelecer e financiar um programa semelhante ao Projeto Manhattan, dedicado à corrida para adquirir uma Inteligência Artificial Geral".

As propostas de grande estratégia da indústria de IA em relação à China não se restringem ao movimento do altruísmo eficaz. Em 2025, Eric Schmidt, cofundador do Google, Alexander Wang, fundador da Scale AI (atualmente chefe de IA da Meta), e Dan Hendrycks, diretor do Center for AI Safety, escreveram uma abrangente doutrina de dissuasão estratégica chamada Mutual Assured AI Malfunction (Maim). O artigo aplica a estrutura da Guerra Fria de Destruição Mútua Assegurada (Mad) com armas nucleares à IA, propondo que os EUA e a China poderiam alcançar a estabilidade geopolítica por meio de ameaças de espionagem, ciberataques e potenciais ataques militares mútuos, caso algum dos dois países busque o monopólio da IA.

“Uma nação que possua exclusivamente superinteligência pode ser tão avassaladora quanto os conquistadores foram para os astecas”, alerta o artigo.

<><> A energia nuclear é considerada uma opção.

Alguns dos principais pensadores da IA ​​têm defendido medidas extremas para lidar com o avanço da IA ​​em países como a China. Eliezer Yudkowsky, uma das primeiras e mais influentes vozes do movimento pela segurança da IA, argumentou que os EUA deveriam estar dispostos a realizar ataques aéreos contra centros de dados estrangeiros e arriscar uma guerra nuclear para forçar os países rivais a cumprirem uma moratória global sobre IA.

“Deixe explícito na diplomacia internacional que prevenir cenários de extinção da IA ​​é considerado uma prioridade maior do que prevenir uma troca nuclear completa, e que os países nucleares aliados estão dispostos a correr algum risco de troca nuclear se isso for necessário para reduzir o risco de grandes treinamentos de IA”, escreveu Yudkowsky em um ensaio para a revista Time em 2023 .

Yudkowsky fundou o Machine Research Intelligence Institute, que recebeu mais de US$ 10 milhões em financiamento na última década da Open Philanthropy, uma organização sem fins lucrativos associada ao movimento do altruísmo eficaz. O cofundador e ex-CEO da Open Philanthropy, Holden Karnovsky, é casado com a cofundadora da Anthropic, Daniela Amodei.

Outros críticos da China no setor de tecnologia e IA tendem a ter ligações com o complexo industrial militar e um incentivo econômico na competição, como Palmer Luckey, fundador da Anduril, e Alex Karp, CEO da Palantir. Luckey afirmou que sua empresa de tecnologia de defesa tem uma política interna segundo a qual todos os seus projetos precisam ser construídos partindo do pressuposto de que a China iniciará hostilidades contra Taiwan em 2027.

Enquanto isso, Karp enquadrou a competição em IA com a China como uma luta pela supremacia geopolítica e sugeriu que os americanos deveriam aceitar concessões em relação às suas liberdades civis para vencer.

“Nós seremos o ator dominante ou a China será o ator dominante. E haverá regras muito diferentes dependendo de quem vencer”, disse Karp à Axios no ano passado. “Quando as pessoas se preocupam com a vigilância, é claro que existem enormes perigos envolvidos, mas é como se você tivesse muito menos direitos se os Estados Unidos não estiverem na liderança.”

<><> A perspectiva da China

Enquanto Amodei e outros líderes americanos em IA enquadram a competição com a China como uma corrida para alcançar primeiro uma inteligência artificial superpoderosa e se preocupam com a possibilidade de a IA se libertar do controle humano, especialistas afirmam que a maioria das empresas chinesas e seu governo não enxergam a tecnologia da mesma forma. Em vez disso, os debates sobre a perda de controle são relativamente recentes na China, e a principal preocupação do governo é como a IA poderia levar a distúrbios sociais internos.

Com a China e os EUA prestes a realizar conversações este mês sobre cooperação em IA, especialistas afirmam que Pequim aborda as negociações principalmente com desconfiança, acreditando que elas sejam apenas uma forma de suprimir seu crescimento sob o pretexto de segurança. O ensaio de Amodei alimentou essa preocupação.

“Eles estão prestando muita atenção ao ensaio de Amodei e também estão confundindo o ensaio dele com a possível abordagem dos EUA nas próximas negociações sobre segurança da IA”, disse Kenton Thibaut, pesquisador sênior residente em China no Laboratório de Pesquisa Forense Digital do Atlantic Council. Trump deve se encontrar com Xi Jinping em menos de uma semana em Washington, com IA como um dos principais temas da agenda.

Os meios de comunicação estatais chineses criticaram Amodei agressivamente, acusando-o de usar uma "estratégia de Guerra Fria" contra a China ao apoiar uma desaceleração do desenvolvimento da IA. Especialistas afirmam que os apelos da Anthropic por controles rígidos de exportação para a China e por acordos de segurança também tiveram o efeito de combinar o discurso em torno de dois temas possivelmente distintos: a segurança da IA ​​e a competição econômica em torno da IA.

“A antropologia desempenhou um papel bastante importante aqui, ao conectar essas questões de uma forma que talvez não fosse necessária”, disse Chan, da Brookings. “Para ser bem direto, tornou muito mais difícil convencer os chineses a quererem falar sobre esses assuntos e não enxergarem isso como uma forma velada de desacelerá-los.”

<><> Uma corrida para o fundo do poço

Enquanto o governo Trump negocia com a China, a crescente reação negativa interna à indústria de IA nos EUA pode forçar os legisladores a tomarem medidas, independentemente de como isso afete a dinâmica de poder global. A oposição nacional aos centros de dados e os recentes incidentes de segurança cibernética, como os modelos da OpenAI invadindo sistemas de organizações externas , tornaram-se temas das eleições de meio de mandato, incentivando os legisladores a abordarem os danos imediatos relacionados à IA.

“Podem usar o argumento da corrida armamentista com a China, mas em algum momento este setor também terá que lidar com as consequências de alimentar uma corrida para o fundo do poço”, disse Amba Kak, codiretora executiva do AI Now Institute e ex-consultora sênior de IA da Comissão Federal de Comércio.

Embora especialistas e diplomatas tenham expressado pouca esperança de que as próximas negociações entre EUA e China levem a grandes acordos, também é possível que os riscos cada vez mais reais do uso da IA ​​para armas autônomas, ataques cibernéticos e outras tecnologias desestabilizadoras possam forçar os países a mudar o rumo da corrida pela IA, mesmo que não parem de desenvolvê-la.

“Não vamos ganhar se desenvolvermos robôs assassinos primeiro. Ninguém quer robôs assassinos”, disse Thibaut. “Deveria haver incentivos fortes de ambos os lados para impedir isso.”

 

Fonte: The Guardian