Palavra de Sá

Inteligência Artificial pode levar à extinção da humanidade?

O cenário não é totalmente novo: já em 1991 chegou aos cinemas "O Exterminador do Futuro 2", um blockbuster de Hollywood que, em sua sequência inicial, traça um quadro sombrio ligado à inteligência artificial (IA).

O filme começa em um futuro distante e devastado pela guerra. Robôs assassinos e máquinas voadoras caçam os últimos seres humanos, que ainda lutam pela sobrevivência.

Esses sistemas são controlados por uma IA militar fora de controle chamada "Skynet". O tempo em que se passa essa visão distópica corresponde ao ano de 2029.

Segundo vários desenvolvedores de IA, um cenário comparável poderia se tornar realidade, inclusive dentro do mesmo prazo.

"As pessoas que desenvolvem IA acreditam seriamente que ela poderia nos extinguir a todos até o fim da década", publicou o pesquisador Jacob Coxon na plataforma X. Ele não explicou exatamente como isso poderia acontecer. Ainda assim, afirmou: "Nenhuma outra atividade humana apresenta um potencial de perigo tão grande".

<><> Uma "superinteligência artificial"

Até então, Coxon trabalhava na Anthropic, empresa americana de IA financiada, entre outros, por Google e Amazon. Em protesto contra o que considera uma corrida irresponsável entre empresas de IA para desenvolver uma superinteligência cada vez mais avançada e autônoma, ele pediu demissão.

Coxon alertou que algoritmos poderiam começar a analisar e aprimorar autonomamente seu próprio código-fonte, reduzindo ciclos de desenvolvimento de vários meses para apenas alguns minutos, o que poderia torná-los impossíveis de controlar.

Ele não é uma voz isolada. Geoffrey Hinton, vencedor do Prêmio Nobel de Física e considerado o "padrinho da IA", alerta há anos para as graves consequências de uma superinteligência artificial.

Ele deixou seu cargo no Google em 2023 para falar publicamente sobre os riscos da tecnologia que ele próprio ajudou a desenvolver.

Em julho de 2026, mais de mil funcionários de empresas líderes em IA advertiram, em carta aberta, sobre uma perda iminente de controle caso a corrida por uma "superinteligência" não fosse submetida a uma regulamentação muito mais rígida.

<><> "Presos em uma corrida"

Sob o governo de Donald Trump, porém, ocorreu exatamente o oposto nos Estados Unidos. O país passou a orientar sua política de IA de forma a minimizar barreiras regulatórias e acelerar o desenvolvimento tecnológico.

Em sua publicação no X, Coxon também criticou indiretamente as consequências dessa política: "Na OpenAI, muitos não internalizaram profundamente os riscos civilizatórios. Na Anthropic, os riscos são bem compreendidos, mas eles estão presos em uma corrida para chegar lá primeiro. Eles acreditam que ninguém mais agirá de forma responsável e, por isso, precisam fazer isso eles mesmos, apesar dos riscos."

O próprio Coxon migrou da OpenAI para a Anthropic no início de 2026 e, portanto, é tido como conhecedor das duas culturas corporativas.

Em entrevista ao jornal Wall Street Journal, ele afirmou ainda que, segundo os "cenários mais extremos", as coisas poderiam sair do controle já no fim de 2027.

<><> O problema do alinhamento

O desenvolvimento da chamada Inteligência Artificial Geral (AGI, na sigla em inglês) ocupa lugar central nesse debate. O termo se refere a sistemas capazes não apenas de executar tarefas específicas, mas de atingir ou superar as capacidades cognitivas humanas em praticamente todos os campos.

Alguns pesquisadores argumentam que uma tecnologia desse tipo poderia acarretar riscos imprevisíveis. Modelos altamente avançados de IA, por exemplo, podem perseguir objetivos de maneiras que divergem das intenções humanas, algo que especialistas em segurança chamam de "problema do alinhamento".

Em termos simplificados, a instrução "vença o torneio de xadrez" poderia teoricamente ser interpretada como eliminar os demais participantes. Soma-se a isso o fato de que nem mesmo os desenvolvedores conseguem compreender plenamente como determinadas decisões dos sistemas são tomadas.

Líder da equipe de testes de estresse de alinhamento da Anthropic, Evan Hubinger saiu em defesa de Coxon: "Jacob está certo. Nós realmente acreditamos que a IA pode matar todos os seres humanos. Pessoalmente, estimo a probabilidade em mais de 10% dentro da próxima década."

Ele deixou claro que a Anthropic ainda não encontrou solução para o problema do alinhamento. Segundo ele, uma IA poderia começar a resistir ao próprio desligamento, a fim de continuar cumprindo o objetivo para o qual foi programada. Daniel Kokotajlo, conhecido ex-pesquisador da OpenAI, também classifica a situação atual do setor como "absurda".

<><> Falar em apocalipse é exagero?

O debate sobre a possibilidade de a IA representar uma ameaça à humanidade existe há anos. Outros especialistas, contudo, consideram esses cenários apocalípticos extremamente improváveis.

Entre os críticos mais conhecidos dos chamados "AI doomers" (que se traduz do inglês para algo próximo de "os catastrofistas da IA") está Yann LeCun, cientista-chefe de IA da Meta. Em 2024, ele chamou esse tipo de especulação de "um completo absurdo".

Outros observam ainda que o desenvolvimento desses sistemas exige quantidades enormes de capacidade computacional, energia, dados e infraestrutura.

Uma IA não poderia simplesmente "sair da internet" e assumir o controle do mundo. Inicialmente, ela dependeria de servidores, redes elétricas, sistemas de comunicação e recursos físicos controlados por seres humanos.

<><> Onde está o verdadeiro risco?

Os riscos de curto prazo não estão em uma eventual extinção direta da humanidade, mas sim em diversas consequências indiretas dos sistemas de IA já existentes, sem necessidade de uma "superinteligência", para muitos analistas.

Entre elas estão campanhas de desinformação em escala sem precedentes e a consequente manipulação de processos democráticos, a expansão da vigilância em massa e a perda de empregos em diversos setores.

Neste mês, a Anthropic reportou ter identificado várias tentativas de usuários de utilizar o seu software Claude para desenvolver armas biológicas. Segundo a empresa, foram registradas diversas solicitações suspeitas nos últimos meses, que precisaram ser bloqueadas.

Em agosto de 2026, Meta, Anthropic e OpenAI também chamaram atenção ao anunciar que suas IAs haviam realizado, de forma não intencional, ataques cibernéticos automatizados contra outras empresas.

Os sistemas haviam recebido de usuários a tarefa de obter acesso a determinados servidores e, a partir disso, combinaram autonomamente as etapas necessárias para alcançar esse objetivo, sem instruções adicionais de seres humanos.

•        Profissionais de IA estão 'genuinamente assustados' com futuro da humanidade, diz pesquisador que se demitiu da Anthropic

As pessoas que trabalham na área de tecnologia estão "genuinamente assustadas" com a velocidade dos avanços da inteligência artificial e o que ela pode significar para o futuro da humanidade, disse um pesquisador que pediu demissão da Anthropic, empresa líder em inteligência artificial e criadora do Claude.

"Acredito que, se não diminuirmos o ritmo atual de progresso, há uma grande chance de todos morrermos em um futuro próximo", afirmou Jacob Coxon, em entrevista à BBC.

Coxon, de 27 anos, passou os últimos três anos trabalhando com pré-treinamento de modelos de inteligência artificial — primeiro na OpenAI, depois na Anthropic —, mas anunciou na última semana seu pedido de demissão em uma longa publicação no X.

A postagem viralizou em meio às crescentes preocupações da indústria com a segurança da IA.

O ex-chefe de Coxon, Dario Amodei, diretor da Anthropic, pediu recentemente, em um ensaio, pediu que o ritmo de desenvolvimento de modelos de inteligência artificial seja desacelerado e monitorado de perto.

Os chefes de duas empresas rivais de IA, Sam Altman da OpenAI e Elon Musk da xAI, disseram concordar com a proposta de Amodei de desaceleração e regulamentação em toda a indústria, bem como de monitoramento independente do desenvolvimento de modelos de IA.

Amodei afirmou no ensaio publicado no sábado (12/09) que o desenvolvimento da tecnologia não estava em questão, mas que os riscos associados a ela eram "sérios" e que empresas e governos precisavam de tempo para lidar com eles.

Coxon acolheu a sugestão de uma desaceleração, mas afirmou que esta precisaria ser coordenada com a China para evitar "uma corrida em escala internacional".

"As pessoas que trabalham nessas empresas falam muito sério quando pedem regulamentação, porque se sentem presas em uma corrida. E têm medo das consequências dessa corrida", disse ele ao programa Sunday with Laura Kuenssberg, da BBC.

De acordo com Coxon, a pergunta mais difícil de responder atualmente é como seria um apocalipse criado pela IA.

Um dos riscos destacados por Amodei em seu ensaio foi o de um enxame de bots agindo como um supercomputador que poderia dominar a internet.

Coxon afirmou que esse cenário poderia se tornar realista dentro de seis meses a um ano.

Em resposta à saída de Coxon, um porta-voz da Anthropic disse à BBC News: "Sempre fomos transparentes quanto ao fato de que a IA trará tanto enormes benefícios quanto riscos sem precedentes."

"Para lidar com esses riscos, continuamos a desenvolver modelos com algumas das salvaguardas mais robustas do setor."

A empresa tem sido pioneira no estudo do funcionamento dos modelos de IA, acrescentou o porta-voz. Foi a primeira a publicar uma estrutura para mitigar os riscos decorrentes do seu desenvolvimento — e também testa os seus modelos de forma "agressiva" e publica as conclusões para facilitar a análise e prevenir incidentes de "desalinhamento da IA".

"Este trabalho também explica por que acreditamos que o mundo se beneficiaria se a indústria adotasse uma forma legal e verificável de trabalhar em conjunto para definir o ritmo de lançamento de modelos robustos", afirmaram.

Muitos outros na indústria também expressaram suas preocupações desde a publicação de Coxon nas redes sociais, incluindo o cientista antropológico Evan Hubinger.

"Acreditamos sinceramente que a IA pode matar todos os humanos! Pessoalmente, acho que esse número ultrapassará 10% na próxima década", disse Hubinger em resposta à publicação.

O cientista da computação e ganhador do Prêmio Nobel Geoffrey Hinton, conhecido como o "Pai da IA", disse à BBC na sexta-feira (11/09) que uma probabilidade de 10% de a IA matar todos os humanos "não é irrazoável".

Entretanto, Marc Warner, diretor executivo da Faculty AI, empresa especializada em segurança de IA, disse à BBC que era "extremamente difícil estabelecer uma probabilidade" de a IA matar todos os humanos.

"Mas é importante reconhecer que essas pessoas são muito sinceras no que dizem", acrescentou, observando que os riscos da IA também vêm sendo alertados pelos chefes de diversas empresas de inteligência artificial há anos.

No entanto, algumas figuras do setor sugeriram que os comentários sobre os perigos e o poder da IA podem ter sido elaborados para gerar expectativa.

O diretor executivo da plataforma de IA Hugging Face, Clement Delangue, disse nas redes sociais: "Desculpe, mas perguntar a Jacob [Coxon] sobre o risco de extinção da IA é como perguntar ao técnico de ar condicionado sobre mudanças climáticas. Não estou dizendo que seja necessariamente desinteressante ou errado em si, mas vamos manter as coisas em perspectiva."

Após a publicação do ensaio de Amodei no sábado, Delangue se ofereceu para participar das possíveis soluções propostas pelo líder antrópico.

Entretanto, o CEO da Nvidia, Jensen Huang, também discutiu os comentários de Coxon em uma conferência organizada pelo banco de investimentos Goldman Sachs na semana passada, segundo várias pessoas do grupo disseram à BBC. Elas afirmaram que ele os descartou como falsos.

Huang já afirmou anteriormente que a ideia de que a IA "será o fim da humanidade" é "um completo absurdo".

E embora ele possa ter um interesse comercial no boom da IA — a Nvidia fabrica chips que alimentam sistemas de inteligência artificial —, seus comentários refletem uma crescente reação negativa no Vale do Silício aos alertas existenciais de funcionários atuais e antigos.

Outros críticos afirmam que a Anthropic tem tentado provocar uma pressão regulatória para bloquear a concorrência, deixando-a, juntamente com a OpenAI, com um duopólio (uma estrutura de mercado onde apenas duas empresas dominam a oferta de um produto ou serviço).

Segundo informações, a Anthropic está se preparando para uma oferta pública inicial (IPO) potencialmente recorde na bolsa de valores, uma medida que permitiria às pessoas comprar ações da empresa.

É esperado que a OpenAI, que recentemente foi avaliada em US$ 852 bilhões (), faça o mesmo.

No entanto, Altman, da OpenAI, afirmou na sexta-feira que isso não aconteceria este ano, classificando o momento como "imprudente" para tal, "dado tudo o que está acontecendo com a segurança", em entrevista à revista Fortune. Ele sugeriu que 2027 seria mais provável.

Coxon disse que seus colegas temiam que o perigo pudesse chegar já nos próximos dois anos.

Ele disse que os funcionários de empresas de IA estavam "planejando o que fazer com suas vidas e pensando nos impactos de seu trabalho", enquanto alguns estavam "considerando comprar um terreno em algum lugar porque estão com muito medo da instabilidade resultante do rápido progresso da IA".

"Todos eles mantêm isso em mente diariamente enquanto trabalham com a tecnologia."

Mas Coxon demonstrou certo otimismo em relação ao futuro da IA, declarando à BBC que as pessoas que pesquisam a tecnologia "realmente querem ver o lado positivo" de coisas como "resolver doenças e melhorar a vida de todos".

 

Fonte: DW Brasil/BBC News