Palavra de Sá

IA: risco de "perda de controle" abre batalha pela regulação

Uma frase resume o espírito dos dias atuais: "Soltamos a besta". Foi dita por Maliyka Muhammad, analista nova-iorquina de 46 anos, em uma série de entrevistas realizadas pela agência de notícias AFP com pessoas de oito países, e reflete um sentimento que atravessa fronteiras, gerações e ideologias.

Nesta semana, a preocupação com a inteligência artificial (IA) se instalou quase ao mesmo tempo no Vaticano, em Bruxelas, Genebra, na Casa Branca e no Vale do Silício. Já não se discute apenas o que essa tecnologia pode fazer, mas até onde ela deveria ser autorizada a avançar.

É aí que surge a divisão no Ocidente: entre aqueles que pedem uma desaceleração diante do risco de perder o controle e aqueles que acreditam que fazê-lo agora significaria ceder terreno à China.

Esse choque de visões também pode ser percebido longe dos gabinetes. Em Roma, a arquiteta Frida Awrohum usa IA no trabalho, mas admite que continua sentindo medo.

Na Indonésia, uma estudante se pergunta se algum ser humano conseguiria responder tão bem quanto um chatbot. Em Xangai, um empresário teme que as futuras gerações enfrentem "verdadeiras dificuldades" para encontrar emprego. E, no Chile, uma jovem de 19 anos acredita que a tecnologia "está nos tornando mais burros".

Nem todos, porém, enxergam uma ameaça. O italiano Diego Sermattei, de 18 anos, comemora o fato de a ferramenta resolver pesquisas instantaneamente, enquanto a japonesa Konno Hazuki, de 29 anos, não se sente ameaçada porque, segundo ela, a ausência de emoções limita algumas das capacidades que uma pessoa pode oferecer aos clientes.

Mas o debate já não se limita às percepções individuais. Também chegou às instituições religiosas e às grandes empresas de tecnologia, onde uma parcela crescente da discussão gira em torno de quem deve estabelecer os limites e até onde convém permitir que esses sistemas avancem.

<><> Vaticano e Vale do Silício emitem alertas

No Vaticano, o papa Leão 14 advertiu na quarta-feira (16/09) contra a possibilidade de "delegar a algoritmos decisões que pertencem exclusivamente à consciência humana" e pediu que as relações sociais preservem "substância real e profundidade pessoal".

Não foi sua primeira manifestação sobre o assunto. Em maio, ele publicou uma encíclica na qual defendia o "desarmamento" da IA para impedir que ela "domine a humanidade".

De dentro do próprio setor tecnológico, os alertas se intensificaram no fim de semana. O diretor-executivo da Anthropic, Dario Amodei, publicou um ensaio no qual pediu "um ritmo mais lento" para a indústria e propôs auditorias independentes obrigatórias para os modelos mais avançados. Em uma rara convergência entre rivais, ele recebeu o apoio de Sam Altman, da OpenAI, e de Elon Musk, da xAI.

Altman alertou posteriormente para dois perigos que, em sua avaliação, poderiam conduzir o desenvolvimento da IA por um caminho indesejado. Um deles é perder o "controle do futuro"; o outro é concentrar poder demais nas mãos de uma única empresa, laboratório ou país.

Segundo o executivo, uma IA extraordinariamente poderosa utilizada para impor uma determinada visão de mundo poderia produzir resultados "extremamente distópicos". Por isso, ele defendeu um marco legal federal que estabeleça avaliações preventivas dos modelos durante seu desenvolvimento.

Nem todos os grandes empresários de tecnologia compartilham a mesma receita. Mark Zuckerberg disse ser favorável ao uso de avaliadores independentes, mas rejeitou a ideia de frear o desenvolvimento. O chefe da Meta sustenta que cada laboratório tem "a responsabilidade e o incentivo" para adotar por conta própria medidas destinadas a tornar seus modelos mais seguros.

O clima de preocupação aumentou ainda mais com a renúncia de Jacob Coxon, pesquisador que trabalhou na Anthropic e na OpenAI. Ele afirmou que ambas as empresas avançavam rumo a sistemas superinteligentes que, segundo seu alerta, poderiam chegar a extinguir a humanidade "antes do fim da década".

O debate coincidiu também com movimentos nos mercados. A agência de notícias Reuters reportou quedas nas ações ligadas à IA depois que diversos líderes do setor defenderam uma redução no ritmo de desenvolvimento da tecnologia.

<><> EUA e China disputam os rumos da regulação

A discussão tecnológica acabou atravessando divisões políticas incomuns em Washington. Bernie Sanders, senador de esquerda, e Steve Bannon, ex-assessor de Donald Trump, participaram do mesmo encontro promovido pelo Future of Life Institute e coincidiram ao expressar fortes reservas sobre a direção tomada pelo setor, apesar de partirem de posições políticas radicalmente diferentes.

Sanders anunciou que pretende apresentar uma lei para "proibir permanentemente" o desenvolvimento de uma superinteligência artificial, que comparou às armas nucleares. Já Bannon defendeu o rompimento dos vínculos dos Estados Unidos com o setor chinês de IA.

A convergência terminou aí. Sanders defendeu negociações com Pequim para conter os sistemas mais avançados, enquanto Bannon propôs isolar o setor chinês de IA do ecossistema tecnológico americano. Seu plano prevê restringir o acesso chinês a componentes avançados, afastar cidadãos chineses dos laboratórios americanos de IA e impedir o acesso de entidades chinesas aos mercados de capitais dos Estados Unidos.

Em Pequim, o jornal oficial rejeitou a ideia de que a corrida pela IA deva ser encarada como um jogo de soma zero, ou seja, uma disputa em que o avanço de uma potência necessariamente implique perdas para a outra.

O periódico afirmou nesta semana que a IA "não é um monopólio das grandes potências" e defendeu que Washington e Pequim cooperem na gestão dos riscos associados ao desenvolvimento da tecnologia.

Ao mesmo tempo, acusou os Estados Unidos de adotar um "duplo padrão" ao questionar a destilação de modelos chineses quando, segundo o jornal, as próprias empresas americanas também recorrem à prática.

Trump e o presidente chinês, Xi Jinping, têm reunião prevista para a próxima semana em Washington, num momento em que a IA desponta também como um dos temas centrais das conversas bilaterais.

<><> Trump minimiza riscos

Em contraste com os que defendem maior cautela, Trump adotou o discurso oposto. O presidente americano classificou como uma "farsa" a ideia de que a IA possa destruir a humanidade e afirmou que impor freios ao desenvolvimento da tecnologia favoreceria a China.

Durante uma conversa com o diretor-executivo da Nvidia, Jensen Huang, na cúpula All-In, em Los Angeles, Trump brincou sobre os chips de IA e descreveu os centros de dados como "o petróleo dos próximos 20 ou 25 anos".

Seu vice-presidente, JD Vance, também demonstrou ceticismo em relação às propostas de regulação e afirmou considerar "estranho" que as próprias empresas de IA estejam pedindo ao governo que as regulamente.

A tensão com a Anthropic acrescenta mais um elemento ao debate. O conflito começou depois que a empresa rejeitou determinados usos militares do Claude, entre eles vigilância dentro dos Estados Unidos e armas autônomas, posição que acabou lhe custando acesso a alguns contratos do Pentágono. A companhia reagiu na Justiça e obteve decisão favorável em um dos processos.

<><> Bruxelas e ONU elevam exigências

Na Europa, a resposta combina restrições, supervisão e coordenação regulatória. A presidente da Comissão Europeia, Ursula von der Leyen, propôs na quarta-feira estabelecer novas barreiras de acesso às redes sociais com base na idade. O plano impediria o acesso de menores de 13 anos e prevê contas especiais sob supervisão para adolescentes entre 13 e 15 anos.

Ao defender maior proteção para crianças e adolescentes, Von der Leyen alertou para o risco de que menores sejam "arrastados para conteúdos cada vez mais extremos".

A proposta abre potencialmente uma nova frente de atrito com Trump, que há tempos critica a regulamentação tecnológica europeia. Ao mesmo tempo, a presidente anunciou que a Comissão Europeia discutirá com as grandes empresas de tecnologia medidas para avaliar e reduzir os riscos dos sistemas de IA mais avançados e coordenará esse trabalho com parceiros como Canadá e Reino Unido.

Mas as propostas europeias também enfrentam críticas. Simeon de Brouwer, assessor de políticas da organização EDRi, argumentou que as restrições etárias "apenas adiam" a exposição dos jovens a determinados riscos, sem alterar o modelo de negócios que, segundo ele, os mantém dependentes das plataformas.

De Genebra, o alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, elevou ainda mais o tom dos alertas. Ele afirmou que falhas em sistemas cada vez mais autônomos poderiam provocar consequências sobre infraestruturas e serviços essenciais. Também advertiu que o avanço da IA pode enfraquecer mecanismos criados para evitar cenários relacionados a armas de destruição em massa.

Sua avaliação resume boa parte do dilema que atravessa o debate mundial. Para Türk, nenhum país nem nenhuma empresa deveria decidir sozinho quais riscos o restante do mundo deve assumir.

 

Fonte: DW Brasil