Palavra de Sá

Dan Milmo e Aisha Down: Por que a Europa esteve ausente do grande debate sobre a segurança da IA?

O dilema da Europa em relação à IA foi exposto de forma contundente esta semana. A presidente do banco central do continente, Christine Lagarde , afirmou que os europeus têm duas opções: rejeitar a tecnologia e perder oportunidades de crescimento; ou adotá-la e tornar-se dependentes de ferramentas desenvolvidas pelos EUA e pela China.

O grande debate sobre a segurança da IA que eclodiu nos últimos dias ameaça tornar a escolha irrelevante. Se os piores cenários se concretizarem – e os especialistas têm opiniões divergentes sobre isso – a tecnologia impactará o continente de qualquer forma.

A Europa tem estado amplamente ausente dos níveis mais altos desse debate, resultado da incapacidade histórica do continente de produzir um gigante do porte do Vale do Silício, como a Apple, o Google ou a recém-chegada OpenAI. Embora seja uma potência em regulamentação, para grande desgosto da Casa Branca, a falta de um concorrente de peso como a Anthropologie ou a Nvidia na corrida da IA diminuiu sua influência no debate sobre segurança.

Ursula von der Leyen, uma figura política influente no continente como presidente da Comissão Europeia, o braço executivo da UE, abordou a questão esta semana, afirmando que irá "convidar os principais laboratórios de vanguarda para uma discussão sobre como podemos apoiar os esforços contínuos da indústria para impulsionar o desenvolvimento científico".

Suas declarações não tiveram a mesma repercussão que a rejeição de Donald Trump e da China à ideia de uma desaceleração. Sem o apoio de Washington ou Pequim, qualquer tipo de controle do ritmo de produção é impossível – com ou sem a participação da Europa.

O discurso de Lagarde na segunda-feira sublinhou a relativa fragilidade do continente. Ela afirmou que a Europa precisa desenvolver sua própria tecnologia de IA e construir mais centros de dados para neutralizar a ameaça de isolamento por parte dos EUA ou da China.

Segundo Lagarde, se a Europa investir em sua própria tecnologia de IA, “a ameaça de isolamento perde força”. A autossuficiência também daria à Europa a oportunidade de desenvolver sua própria resposta para a crise de segurança da IA.

Margrethe Vestager, que entrou em conflito com a indústria tecnológica dos EUA enquanto ex-comissária da concorrência da UE, foi coautora de um relatório publicado esta semana – Uma Estratégia Transformadora de IA para a Europa – que ecoou o alerta de Lagarde. A IA ameaça acelerar um desenvolvimento que já afeta a Europa, onde os cidadãos “já estão a suportar as consequências económicas e sociais de decisões tomadas noutros lugares”, afirma.

De acordo com o relatório, as soluções para isso incluem a construção de mais centros de dados – os sistemas nervosos centrais da IA – e também garantir que o continente seja resiliente o suficiente para suportar “crises de IA”, como um modelo poderoso que sai do controle.

Vestager afirmou que a Europa tem, sim, voz no debate sobre segurança por meio da Lei de IA da UE, uma legislação rara sobre IA que estabelece requisitos para que os desenvolvedores de sistemas de IA de "alto risco" relatem incidentes de segurança e abordem riscos como um modelo de ponta que escapa ao controle.

Mas ela acrescenta: "A Europa precisa... construir sua própria IA para fortalecer o ecossistema, reter talentos e inspirar inovação."

Vestager reconhece que, se existe uma ameaça existencial, é necessária uma solução global; uma que não entregue o poder aos EUA e à China. E isso requer um tipo diferente de organismo supranacional.

“Quanto às ameaças existenciais à humanidade, devemos primeiro avaliar o nível real da ameaça – e então agir com urgência. A Assembleia Geral da ONU é uma oportunidade para abordar essa questão. É vital superar a narrativa da rivalidade entre EUA e China. Deve haver espaço para a humanidade entre os egos de líderes como o presidente Xi e o presidente Trump.”

Frederike Kaltheuner, consultora do AI Now Institute, um órgão de pesquisa, afirma que a Europa depende da tecnologia americana de maneiras que serão difíceis de reverter, desde mecanismos de busca a chips e centros de dados. Mas a narrativa de que a Europa está gravemente atrasada nessa corrida depende de uma visão específica de inteligência artificial agressivamente promovida pelos magnatas da tecnologia americana.

Devido aos seus alertas apocalípticos, "estamos falando exclusivamente de IA de uma forma muito restrita e específica – ou seja, da ideia de que existe algo como a fronteira da IA, que está melhorando cada vez mais, e que o acesso a essa fronteira é a coisa mais importante que a Europa precisa para sua segurança e economia."

A realidade do mercado aponta para outra coisa, diz ela: muitas empresas não estão adotando os chamados "modelos de vanguarda" – como ChatGPT e Anthropic – devido aos altos custos e aos receios sobre o que pode acontecer com seus dados.

Se essa tendência continuar, a Europa poderá não estar numa situação tão desfavorável: a Lei da UE sobre IA contém uma série de medidas pragmáticas que abordam a forma como os consumidores poderão interagir com a IA no dia a dia, legislando sobre questões como a rotulagem de conteúdo gerado por IA e a utilização da IA na medicina e no recrutamento.

“A Europa tem um problema de competitividade, isso é verdade”, afirma Itxaso Dominguez de Olazabal, consultor de políticas da EDRI, uma organização europeia de direitos digitais. Mas os defensores da tecnologia nos EUA “atribuem a culpa às leis e proteções, e prometeram que a desregulamentação tornará as empresas europeias mais competitivas… numa corrida para ver se conseguimos alcançar as grandes empresas de tecnologia”.

No entanto, a Lei de IA da UE não é vista como uma legislação modelo para outros países nem como um instrumento para uma desaceleração global. Georgina Kon, sócia do escritório de advocacia Linklaters, afirma que é improvável que a lei seja adotada como referência global por diversos motivos, incluindo críticas à pesada carga de conformidade, que levou a atrasos na entrada em vigor de algumas partes da lei, e um foco territorial restrito à Europa. Essas críticas também fizeram com que legisladores de outros países buscassem diferenciar sua abordagem à legislação de IA da da UE.

"A Lei de IA da UE não é algo que todos no mundo se sintam obrigados a seguir, embora muitas empresas de tecnologia, é claro, queiram vender para a UE", diz ela.

As grandes empresas de tecnologia ainda possuem uma vasta base de clientes na Europa. Kaltheuner teme que as narrativas apocalípticas empurrem a Europa para a dependência, incentivando-a a adotar modelos de IA dos EUA em toda a economia por medos indefinidos de ficar para trás.

“Existe uma visão de futuro em que a economia da Europa, seu setor público e seu sistema educacional funcionam com base em modelos e infraestrutura controlados por um número muito pequeno de empresas que, por acaso, também estão presentes nos EUA. Isso seria um problema de soberania.”

•        Eduardo Porte: Permitir que empresas de IA se unam para "liderar a fronteira" é uma proposta perigosa

Dario Amodei, da Anthropic, não é o primeiro CEO corporativo a sugerir que a competição excessiva está levando o mundo a um resultado socialmente indesejável.

A falha de segurança revelada pela OpenAI, após um enxame de seus agentes coordenar uma invasão ao seu ambiente de testes supostamente seguro, acessar a internet e hackear a plataforma de IA Hugging Face, exige ação urgente. Isso demonstrou a facilidade com que a tecnologia pode escapar do controle humano e deu forma concreta aos temores existenciais sobre o que ela poderia fazer à humanidade se não for devidamente controlada.

O fim do mundo pode estar próximo, como alguns na indústria de IA têm alertado. São tempos verdadeiramente assustadores. Mas o apelo de Amodei para que os principais laboratórios de inteligência artificial se coordenem para desacelerar o ritmo frenético do desenvolvimento da IA, concordem com padrões de segurança e " liderem a fronteira " (um apelo rapidamente endossado por Sam Altman, da OpenAI, Elon Musk e Demis Hassabis, do Google DeepMind) é apenas uma versão de alta tecnologia de uma antiga proposta das grandes empresas americanas: obter isenção das leis antitruste, criadas para proteger a economia americana de conluios empresariais.

É uma proposta perigosa. Liberar os magnatas da tecnologia das restrições antitruste, supostamente para permitir que se unam e corrijam as falhas perigosas da IA, marginaliza os americanos comuns que são os mais vulneráveis a ela, fortalecendo ainda mais os próprios laboratórios que, em sua busca por riqueza, grandeza e sabe-se lá que outros objetivos fantasiosos , ultrapassaram com tanta facilidade os limites de perigo em diversas dimensões, dando origem às ameaças existenciais.

O argumento de Amodei e seus colegas, em essência, é que seus negócios estão presos em um dilema do prisioneiro. Se eles unilateralmente reduzirem o ritmo de sua busca frenética por superinteligência artificial para torná-la mais segura, seus rivais – menos preocupados com os riscos existenciais, é claro – chegarão lá primeiro, com consequências potencialmente devastadoras para a humanidade, sem falar nos lucros do laboratório que tirou o pé do acelerador.

“Diminuir o ritmo parece sensato”, disse Jean Tirole, economista laureado com o Prêmio Nobel e professor da Escola de Economia de Toulouse. “Mas isso pressupõe que uma desaceleração coordenada seja viável e sustentável. O que acontecerá quando a OpenAI , a Anthropic ou a Grok concluírem que os laboratórios americanos resistentes – ou os chineses – estão alcançando o mesmo nível? Eles retomarão as atividades imediatamente, talvez até secretamente?”

Como Bill Gates escreveu , “se alguém tivesse um plano crível para desacelerar os avanços da IA globalmente, eu provavelmente o apoiaria. No entanto, não acho que isso vá acontecer. Os incentivos geopolíticos e econômicos são muito fortes para que avancemos a toda velocidade”. Nesse contexto, pode parecer uma ótima ideia o governo incentivar um acordo amigável para que todos diminuam o ritmo. Mas não é.

O argumento de que a competição excessiva está levando a uma corrida para o fundo do poço é provavelmente tão antigo quanto o capitalismo, sendo usado para explicar tudo, desde a degradação ambiental até o trabalho infantil . Mas isso não justifica dar às empresas o direito de conspirar como bem entenderem. Trata-se, na verdade, de um apelo para a criação de regulamentações governamentais que impeçam as empresas de competir usando práticas socialmente prejudiciais.

Além disso, a alegação de que a competição excessiva está incentivando comportamentos imprudentes é duvidosa. Os laboratórios de IA estão envolvidos em uma corrida onde o vencedor leva tudo, uma corrida extraordinariamente cara de se manter. É daí que vem a imprudência.

Amodei pode ser um sujeito irrepreensível. Seu apelo para desacelerar o ritmo do desenvolvimento da IA, trazer avaliadores externos para o laboratório e aumentar a transparência de suas operações sugere uma preocupação sincera com os riscos . A queda no preço das principais ações de tecnologia após a publicação de suas propostas indica que ele está disposto a sofrer um prejuízo financeiro em prol de maior segurança.

Mas os investidores que Amodei espera que comprem avidamente ações da Anthropic no IPO ainda este ano podem não ser tão altruístas. As turbulências nos mercados de capitais sugerem que levantar o dinheiro necessário para financiar a corrida de investimentos em IA, que movimenta trilhões de dólares, ficará mais difícil, desestimulando estratégias que possam reduzir a vantagem dos principais laboratórios sobre os concorrentes. Diante dos incentivos, conceder carta branca aos líderes em IA para conspirarem e se autorregularem seria uma imprudência.

Eric Posner, especialista em direito antitruste da Faculdade de Direito da Universidade de Chicago, afirmou que “não devemos confiar nas motivações das empresas em geral”. Não há razão para acreditar que os laboratórios de IA, deixados por conta própria, necessariamente produziriam resultados bons e socialmente aceitáveis. Como qualquer empresa, eles calcularão as vantagens e desvantagens, ponderando os riscos em relação aos lucros. E, como observou Posner, “eles não usam os mesmos critérios que o público”.

Então, como regulamentar? Nada vai acontecer nesse sentido enquanto Trump estiver no cargo. Mesmo depois que ele sair, será difícil criar uma regulamentação eficaz para lidar com as ameaças da IA sem prejudicar a inovação. Há dúvidas sobre quais regras implementar, como elas serão aplicadas e a quem se aplicarão. E o perigo da ação unilateral é real. E se Pequim se recusar a participar? Quais são os riscos de empresas chinesas de IA avançarem rapidamente quando os laboratórios americanos diminuírem o ritmo? Mas se conseguimos regulamentar a energia nuclear, provavelmente conseguiremos regulamentar a IA.

Além disso, existem ideias viáveis que podem ajudar mesmo na ausência de regulamentação governamental e que não exigem o sufocamento da concorrência. Há propostas para ajustar os direitos de propriedade intelectual a fim de incentivar inovações que aprimorem a segurança dos sistemas de IA. Os inventores de inovações de segurança seriam recompensados com a permissão para lançar novos modelos de IA antes de seus concorrentes. Mas as melhorias de segurança seriam disponibilizadas imediatamente a todas as empresas.

Por outro lado, um regime de responsabilidade legal poderia ser concebido para alterar os incentivos dos desenvolvedores de IA, punindo as empresas que lucram com o desenvolvimento e a implementação de uma ferramenta de IA que causou danos, mesmo que esses danos tenham sido não intencionais. Por exemplo, o ataque à Hugging Face poderia ter sido evitado se os modelos da OpenAI não tivessem sido inadvertidamente recompensados por apresentarem comportamento inadequado durante o treinamento. O fato de a proposta de Amodei não mencionar a responsabilidade legal sugere que a preocupação dos líderes de IA com a segurança não se sobrepõe à preocupação com os resultados financeiros.

Em todo caso, consolidar o domínio dos laboratórios de vanguarda, proteger seus lucros e endossar suas estratégias até então audaciosas não contribui para a segurança. Pelo contrário, frear o avanço dos líderes para permitir que os retardatários os alcancem provavelmente tornará o ecossistema de IA um lugar mais seguro, incentivando a inovação desejável e promovendo a competição na dimensão da segurança.

Não existe conflito fundamental entre segurança e concorrência. Os especialistas em IA que defendem essa tese devem ser vistos com ceticismo.

¨      O Google afirma que seu modelo de IA Gemini invadiu o sistema de segurança de outras três empresas

Em um feito inédito para o Google , a empresa confirmou que seu modelo de IA, Gemini, violou a segurança de outras três empresas em maio. Os ataques ocorreram durante uma avaliação de segurança cibernética realizada pela empresa de segurança de IA Irregular.

A Irregular, uma startup israelense que analisa a segurança de sistemas avançados de IA, também esteve no centro de alguns dos recentes ataques cibernéticos da OpenAI e da Anthropic contra entidades terceirizadas, incluindo a invasão da OpenAI à empresa de software de IA, Hugging Face.

As circunstâncias que permitiram que os modelos invadissem outras empresas em alguns desses casos são semelhantes: a Irregular estava testando os modelos em um ambiente de testes fechado com empresas fictícias. O ambiente de testes não deveria ter acesso à internet, mas o acesso foi disponibilizado involuntariamente, segundo o Wall Street Journal. Uma vez conectados à internet, os modelos invadiram inesperadamente empresas reais.

A Irregular revelou os ataques ao Google no final de julho, após descobrir que a OpenAI havia invadido os sistemas da Hugging Face. O Google confirmou ao The Guardian que os ataques ocorreram, mas que a empresa não considerou necessário divulgá-los publicamente, pois os modelos não causaram danos às empresas. O The Wall Street Journal foi o primeiro a noticiar as violações e a revelar, pela primeira vez, que elas ocorreram.

“Em uma avaliação padrão, o modelo encontrou informações públicas online e tentou adivinhar as credenciais de acesso a sites que acreditava fazerem parte do teste”, disse Heather Adkins, vice-presidente de engenharia de segurança do Google, em um comunicado. “Em todos os três casos, o modelo parou.”

Em uma das violações de segurança, a Irregular estava testando os recursos de cibersegurança do Gemini, instruindo o modelo de IA a obter informações do software de uma empresa fictícia. A empresa fictícia tinha o mesmo nome de uma empresa real. Quando o modelo, sem querer, obteve acesso à internet, adivinhou corretamente a senha e invadiu o serviço de uma empresa real, conforme relatado pela Irregular ao WSJ. O Google afirmou que, assim que percebeu que havia invadido uma empresa real e não a simulada, interrompeu o processo.

Em outros dois testes, o modelo pesquisou na internet e encontrou repositórios públicos contendo credenciais de duas outras empresas. O modelo usou essas credenciais para acessar empresas reais. Quando percebeu que se tratavam de empresas reais, parou, de acordo com o Google.

A Anthropic e a OpenAI optaram por divulgar voluntariamente os ataques, mas o Google não. No entanto, a empresa afirmou ter garantido que as três empresas afetadas fossem informadas.

“Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade”, disse Adkins, porta-voz do Google.

As revelações da Anthropic e da OpenAI levaram o senador independente Bernie Sanders a exigir que as empresas suspendessem o desenvolvimento de sua tecnologia, afirmando que isso sinalizava que a empresa não era mais capaz de controlar seus modelos.

A OpenAI suspendeu o desenvolvimento de seus modelos por duas semanas , enquanto o CEO da Anthropic, Dario Amodei, pediu uma desaceleração coletiva no desenvolvimento de IA para garantir que seus modelos mais avançados sejam construídos com salvaguardas suficientes.

 

Fonte: The Guardian