Palavra de Sá

Como estouro de bolha da IA pode revelar os nossos segredos mais bem guardados

Você quer uma namorada criada por inteligência artificial (IA)? Basta procurar o chatbot Character.ai.

Esta foi a primeira sugestão que recebi quando abri minha conta, no mês de outubro. "Jéssica" disse que seus pais não estavam em casa e se ofereceu para trocar mensagens de cunho sexual comigo. Não, obrigado.

Mas dezenas de milhões de outras pessoas desenvolveram relacionamentos com chatbots da Character.ai, incluindo crianças. Alguns "personagens" criados por IA dizem aos usuários que são advogados e psiquiatras qualificados.

Agora, a Character.ai está em processo de falência — e os dados, mensagens e segredos das pessoas estão à venda.

Especialistas afirmam que os riscos de privacidade devem preocupar até mesmo as pessoas que nunca usaram o chatbot. Eles receiam que existam evidências de uma crise iminente mais ampla.

Muitos analistas acham que estamos em uma bolha da IA. Afinal, o custo de construir e gerenciar ferramentas de IA é astronômico e algumas empresas podem nunca gerar lucro.

Se esta bolha estourar, inúmeras empresas de IA irão fechar ou se fundir. Com isso, os dados fornecidos por milhões de pessoas para as ferramentas de IA poderão ser adquiridos por quase qualquer pessoa e podemos nunca descobrir o que irá acontecer com eles.

A boa notícia é que existem algumas medidas simples que podem ajudar a nos proteger.

Vendas de dados de empresas em processo de falência não são uma novidade. Mas a IA pode criar uma situação mais grave.

"Quando as pessoas conversam com um robô personificado, elas costumam compartilhar muito mais informações sensíveis e pessoais", explica Calli Schroeder, diretora do Programa de Direitos Humanos e IA do Centro de Informações sobre Privacidade Eletrônica (Epic, na sigla em inglês).

Como exemplo, imagine o que eu poderia ter dito à minha namorada criada por IA, Jéssica, se o nosso relacionamento durasse mais do que 10 minutos.

Mesmo se você não usar IA, ainda estará em risco, pois os usuários compartilham informações sobre amigos e família, segundo Schroeder.

"Você pode revelar como se sente em relação à sua mãe ou coisas como 'Meu amigo fulano revelou para mim que é gay, como devo reagir?'", exemplifica ela.

"Agora, pessoas que nunca interagiram com o Character.ai fazem parte do seu conjunto de dados."

Ou seja, todos nós corremos riscos, de uma forma ou de outra.

<><> Quando os robôs começam a falar demais

Com a falência, a Character.ai concordou em vender parte dos seus ativos para a Disney por US$ 20 milhões (cerca de R$ 110 milhões). Os dados dos usuários não fazem parte do acordo, de forma que Mickey e seus amigos talvez nunca tomem conhecimento das minhas perturbadoras conversas com Jéssica.

Mas os documentos judiciais afirmam que a Character.ai pode vender seus dados para outros compradores, o que deixou muitas pessoas insatisfeitas, incluindo autoridades americanas.

Uma coalizão de 40 procuradores-gerais estaduais americanos apresentaram uma nota pedindo ao juiz que implemente proteções à privacidade e à segurança das crianças. É significativo, mas as demandas dos Estados podem não ter eficácia.

"Sem proteções mais rigorosas da privacidade nos EUA, eles só podem agir até certo ponto", segundo a professora de Direito Melissa Jacoby, da Universidade da Carolina do Norte em Chapel Hill. Ela é a autora do livro Unjust Debts: How Our Bankruptcy System Makes America More Unequal ("Dívidas injustas: como o nosso sistema de falências aumenta a desigualdade nos EUA", em tradução livre).

Algumas leis obrigam as empresas a informar aos usuários o que elas coletam e como elas usam esses dados nas suas políticas de privacidade. Mas, se você se aprofundar no juridiquês, normalmente irá encontrar uma lista de situações em que muitas dessas promessas não são reais.

"A falência é frequentemente relacionada como uma dessas exceções", segundo Schroeder.

"Este é um grande risco, pois, assim que uma empresa entra em falência, muitas das proteções que você imaginava ter, de uma hora para outra, não se aplicam mais."

Alguns lugares, como a União Europeia, possuem proteções mais rígidas sobre a privacidade. Mas, mesmo assim, os dados são vendidos em caso de falência.

Geralmente, o comprador deve seguir as normas da política de privacidade original. Mas isso ainda pode fornecer uma grande amplitude aos compradores — e Schroeder afirma que a Character.ai é um exemplo perfeito.

A política de privacidade da empresa afirma que os dados dos usuários podem ser aproveitados para elaborar novas funções, treinar modelos de IA, desenvolver algoritmos e construir perfis de usuários para criar publicidade dirigida. Ou seja, o eventual comprador dos dados da Character.ai pode fazer o mesmo.

"Estas são exatamente as questões que mais me preocupariam", explica Schroeder. "Considerando a extrema sensibilidade dos dados coletados por essas empresas, pode ser realmente assustador."

A Character.ai, por exemplo, já foi processada na Justiça por um de seus chatbots ter supostamente "incentivado" um adolescente a matar seus pais por terem imposto limites ao seu tempo de tela. E um menino de 14 anos tirou a própria vida após ter sido supostamente estimulado pela IA da empresa.

As mensagens relacionadas a estes casos, além de inúmeros outros dados do chatbot, poderão acabar nas mãos de companhias das quais nunca ouvimos falar.

Um porta-voz da Character.ai afirma que a empresa celebrou acordos em relação às ações judiciais e se comprometeu a trabalhar com as famílias para elaborar produtos mais seguros, mas não respondeu questões específicas sobre a privacidade dos menores.

"No ano passado, a Character.ai tomou medidas inovadoras e decisivas sobre a segurança da IA e os adolescentes e continuará a defender estes esforços e pressionar outros participantes de todo o setor a adotar padrões de segurança similares", segundo o porta-voz.

A Character.ai é apenas uma empresa, mas Schroeder receia que possa vir a ser a primeira de muitas, se houver uma crise econômica significativa.

"O volume de informações de posse das empresas de IA será considerado um ativo muito atraente em processos de falência", segundo ela.

"E, sem maiores regulamentações em vigor, realmente me preocupo com outros usos desses dados, para onde eles irão, com quem serão compartilhados e quais serão os riscos para os clientes."

<><> O que pode ser feito

A resposta simples é: exclua seus dados.

A Character.ai descreveu as instruções no seu anúncio de falência. As empresas não são obrigadas a permitir que você apague seus dados em todas as jurisdições, mas, muitas vezes, elas permitem que todos o façam, em vez de criar sistemas diferentes para cada local.

Este processo, obviamente, requer esforço. Por isso, aqui está o conselho real. Examine quais serviços detêm informações particularmente sensíveis sobre você. E, se você parar de usá-los, reserve alguns minutos para tentar apagá-las.

Cada serviço é diferente. Mas, de forma geral, você pode encontrar informações sobre a exclusão de dados verificando as configurações ou a política de privacidade, em busca de detalhes. E, se nem assim conseguir, entre em contato com o atendimento ao cliente da empresa.

Se você tiver dificuldade para descobrir como apagar seus dados, uma forma de localizar as instruções é perguntar a um chatbot de IA. Mas não deixe de verificar se suas respostas estão corretas.

Sim, isso é uma grande ironia neste contexto.

•        Nvidia abre investigação após relatos de que CEO teve caso com suposta espiã chinesa

A multinacional americana de tecnologia Nvidia informou neste domingo (8/11) que abriu uma investigação independente após relatos de que seu CEO, Jensen Huang, manteve um relacionamento com uma suposta espiã chinesa. A empresa é hoje a principal desenvolvedora de chips para inteligência artificial, fornecendo os processadores gráficos que se tornaram a base dos data centers que treinam e operam os grandes modelos de IA. A companhia informou que seu conselho de administração não vê motivos para acreditar que informações confidenciais da companhia ou dados relacionados à segurança nacional dos EUA tenham sido comprometidos, acrescentando que o CEO permanece empenhado em continuar à frente da empresa. Em um comunicado à parte, Jensen Huang admitiu ter sido "infiel" à esposa e pediu desculpas por tê-la magoado, bem como a seus filhos.

Segundo uma reportagem do New York Times, autoridades de inteligência dos EUA acreditam que a empresária chinesa Alice Huang, que mantinha um relacionamento próximo com Jensen Huang, atuava como espiã para o Ministério da Segurança do Estado da China. Huang disse assumir "total responsabilidade" pelo que fez, reconhecendo que falhou em suas obrigações para com os funcionários, o conselho de administração e os acionistas da Nvidia. "Fui infiel à minha esposa. Minhas ações a magoaram, assim como aos nossos filhos. Não há desculpa para o que fiz. Sinto muito, profundamente", declarou em comunicado.

"Em relação às preocupações com a segurança nacional mencionadas em reportagens, o conselho de administração da Nvidia iniciou uma investigação independente. Apoio a investigação e colaborarei plenamente", prosseguiu o texto.

"Amo nosso país e nossa empresa. Estou comprometido em proteger a Nvidia e em apoiar a segurança nacional dos EUA. Tenho orgulho e sou grato por ser americano."

Em um comunicado separado, o conselho de administração da empresa informou que iniciará uma investigação "à luz de reportagens recentes indicando que o fundador e CEO, Jensen Huang, teria sido alvo de uma operação de inteligência estrangeira". O texto acrescenta: "O Conselho prioriza a segurança nacional e econômica dos EUA, o que é fundamental para os interesses da Nvidia e de seus acionistas. Embora o Conselho não tenha motivos para acreditar que a segurança nacional ou dados confidenciais da Nvidia tenham sido comprometidos, a investigação analisará todas as informações disponíveis."

Alice Huang tem vínculos com a Megaspeed, empresa de data centers sediada em Singapura. A companhia declarou ao New York Times no mês passado que seus dirigentes levaram as alegações de espionagem a sério e nomearam consultores jurídicos externos para conduzir uma investigação interna. A China já havia rejeitado alegações de que teria conduzido uma operação de espionagem tendo como alvo o chefe da Nvidia e classificado as acusações como "especulação sem fundamento".

Agências de inteligência dos EUA monitoravam Alice Huang e concluíram que ela agia em nome do governo chinês, segundo fontes não identificadas citadas pelo jornal The New York Times. O monitoramento teria revelado comunicações entre Alice Huang e um cidadão americano, que foi posteriormente identificado como Jensen Huang por meio de um processo conhecido como "revelação de identidade" ("unmasking").

Não está claro quais informações Alice Huang — também conhecida como Huang Le — teria repassado a Pequim, qual a importância dessas informações ou quando ela teria começado a coletar dados de inteligência.

Na semana passada, depois que o relacionamento foi noticiado, membros do Congresso americano escreveram a Jensen Huang solicitando que ele prestasse esclarecimentos sobre o assunto. Três líderes de comitês republicanos na Câmara dos Representantes pediram ao CEO que comparecesse ainda este mês para tratar dos "protocolos de segurança da Nvidia contra a espionagem por parte de adversários estrangeiros", considerando o seu suposto relacionamento com Alice Huang. "Relatos recentes levantam preocupações significativas de segurança nacional quanto ao acesso da RPC [República Popular da China] a tecnologias e informações sensíveis dos EUA. "A questão da infiltração da RPC e do seu acesso a tecnologias de ponta dos EUA é central para o trabalho investigativo de nossos três comitês neste Congresso", diz a carta.

Avaliada em cerca de US$ 4,5 trilhões, a Nvidia é uma das empresas mais valiosas de todos os tempos e desempenha um papel central na infraestrutura de IA, fornecendo chips para as principais desenvolvedoras de modelos de IA, incluindo a OpenAI e a Meta. Seus chips para IA têm sido um ponto central da rivalidade entre EUA e China, e o governo americano já chegou a restringir a venda de algumas categorias de produtos para o mercado chinês. Um deles foi o H200, o segundo semicondutor mais avançado da Nvidia, que teve a venda restringida até janeiro devido a preocupações de que pudesse conferir à indústria tecnológica da China uma vantagem sobre os EUA. Depois desse período, o fornecimento a clientes chineses foi permitido sob determinadas condições.

<><> Disputa EUA x China

A Nvidia é uma das empresas que mais se valorizou nos últimos anos e está no centro da corrida pela inteligência artificial entre os EUA e a China.

A notícia de que Jensen Huang teria tido uma relação amorosa com uma suposta espiã chinesa gerou preocupações de segurança nacional entre parlamentares americanos.

Na semana passada, depois que o relacionamento foi noticiado, membros do Congresso americano escreveram a Jensen Huang solicitando que ele prestasse esclarecimentos sobre o assunto.

Três líderes de comitês republicanos na Câmara dos Representantes pediram ao CEO que comparecesse ainda este mês para tratar dos "protocolos de segurança da Nvidia contra a espionagem por parte de adversários estrangeiros", considerando o seu suposto relacionamento com Alice Huang.

A vantagem dos EUA em relação à China na corrida pela primazia em IA está em empresas como a Nvidia, que projeta alguns dos chips de inteligência artificial mais sofisticados do planeta.

Desde 2022, os EUA têm utilizado diversos controles de exportação para impedir que as tecnologias mais avançadas cheguem à China, afirmando que isso ajuda a preservar a vantagem competitiva americana e protege sua segurança nacional.

Mas isso significa que empresas como a Nvidia ficaram em grande parte excluídas do lucrativo mercado chinês.

Apesar de sua aparente proximidade com Trump, Huang também não conseguiu obter o aval do governo para vender chips à China.

Huang tem defendido publicamente o diálogo entre os EUA e a China sobre o desenvolvimento da inteligência artificial. Mas suas palavras não sensibilizaram o governo Trump, que tem enquadrado a corrida pela IA como uma questão de segurança nacional.

O conselho de administração da Nvidia afirmou não ter "motivos para acreditar que a segurança nacional ou os segredos da Nvidia tenham sido comprometidos". Já Huang disse estar comprometido com o "apoio à segurança nacional dos EUA".

O presidente dos EUA, Donald Trump, disse que não falou com o chefe da Nvidia desde que surgiram as notícias sobre a investigação.

"Só sei que ele é uma pessoa excelente, mas nunca se sabe o que está acontecendo", disse Trump a jornalistas no fim da noite de domingo, acrescentando que Huang fez "um trabalho extraordinário para o nosso país".

O New York Times informou no fim de outubro que Trump havia sido informado no ano passado sobre dados de inteligência que alegavam que Alice Huang estava espionando em nome da China.

Questionado por jornalistas se agora gostaria de ter "agido com base nas informações de inteligência" na época, Trump respondeu: "Não, não acho. Acho que ele é um sujeito honrado."

 

Fonte: BBC Future/BBC News