Palavra de Sá

Eleições: legislação não é o suficiente para barrar conteúdos de IA nas redes sociais

A disseminação de conteúdos produzidos com Inteligência Artificial (IA) não é objeto de denúncia apenas no Tribunal Superior Eleitoral (TSE), apesar de o caso mais emblemático ser o vídeo com um ‘avatar’ do ex-presidente Jair Bolsonaro, produzido por IA, veiculado na convenção do Partido Liberal que oficializou a candidatura à presidência de seu filho, Flávio Bolsonaro (PL-RJ). Outros tribunais já têm decisões sobre o uso de conteúdo sintético na campanha eleitoral.

É o caso do Tribunal Regional Eleitoral da Bahia (TRE-BA), que determinou, em 27 de julho, a exclusão pela Meta de um vídeo feito com IA e publicado em uma conta no Instagram. A postagem associava o governador do estado, candidato à reeleição, Jerônimo Rodrigues (PT-BA) à imagem de um jegue, chamando-o pejorativamente de “Jegônimo”.

Foi a segunda vez que os advogados da Federação Brasil da Esperança, formada pelas siglas PT, PC do B e PV, tiveram que solicitar a remoção do vídeo. Na primeira, ele havia sido publicado no perfil, também do Instagram, do vereador Tenóbio (PL), do município de Lauro de Freitas. Além de exibir a figura ofensiva, o vídeo ironizava a promessa de entrega de uma ponte entre a capital Salvador e a ilha de Itaparica.

A determinação do TRE-BA, no entanto, esbarra na limitação técnica que as próprias plataformas têm de impedir a publicação de conteúdos alterados após a primeira remoção. Isso porque, ao serem modificados, mesmo que minimamente, eles não são mais identificados pelos filtros da plataforma.

De acordo com Fernando Neisser, professor de Direito Eleitoral da FGV/SP, não há uma solução tecnicamente possível em casos de replicação de arquivos, mesmo que o original já tenha sido removido por determinação da Justiça. A reportagem, inclusive, acessou na terça-feira, 4 de agosto, o mesmo vídeo postado em outro perfil. A nova publicação ainda não foi submetida pela defesa do governador ao TRE da Bahia.

“Não existem seres humanos olhando todos os conteúdos que as pessoas estão subindo [nas plataformas] para dizer o que pode e o que não pode. Se o material é alterado para enganar a plataforma, não tem nenhuma tecnologia hoje disponível no mundo que permita responsabilizar a plataforma por isso”, explica Neisser.

POR QUE ISSO IMPORTA?

Segundo o observatório da Aláfia Lab e Data Privacy Brasil, que monitora o uso das IAs com fins políticos no Brasil, houve um aumento nos casos de uso de IA para interferir no processo político de cerca de 50% nos últimos meses, 1,5 caso por dia.

“Estamos num cenário hoje em que há um gap de desenvolvimento tecnológico, ou seja, as plataformas que produzem o conteúdo de inteligência artificial evoluíram mais rápido do que os meios de detecção desse conteúdo. Essa diferença está causando muitos problemas”, avalia o professor.

Na decisão, do dia 27 de julho, o juiz Antonio Marcelo Oliveira Libonati retomou a Resolução do TSE que trata de condutas ilícitas em campanha eleitoral. Nela, está definido que cabe ao provedor de aplicação adotar medidas imediatas para impedir o acesso ao conteúdo e a sua circulação. O magistrado citou, também, a possível responsabilidade solidária dos provedores – ou seja, é obrigação da rede social retirar rapidamente outras postagens que tenham o mesmo material, no todo ou em parte, mesmo que não haja uma nova decisão da justiça para cada post replicado. Caso a plataforma não atue dessa maneira, ela poderá ser responsabilizada junto com quem publicou o vídeo originalmente.

“Nesse contexto, a permanência da replicação indicada nos autos, apesar da anterior determinação de remoção do conteúdo e de suas replicações, autoriza a atuação da Justiça Eleitoral no exercício do poder de polícia, destinada a fazer cessar a circulação da propaganda reputada ilícita, seja pelo uso desconforme do uso de IA, seja por conta da responsabilidade do Facebook diante da ordem judicial já existente e do conteúdo replicado”, escreveu Libonati na decisão.

<><> Mais repetições

O vídeo citado pelo juiz eleitoral não é o único publicado pelo vereador Tenóbio em suas redes sociais que usa IA e termos ofensivos para citar adversários. O governador da Bahia também é relacionado, nesse caso, ao termo “Jegônimo”. O ministro Alexandre de Moraes, do Supremo Tribunal Federal (STF), o senador Jaques Wagner (PT) e o presidente Luiz Inácio Lula da Silva também aparecem nas imagens. Lula é apresentado como “Molusco da Silva”, e Wagner como “Jackson Master”. A postagem foi denunciada à Justiça eleitoral e além de ter que remover o conteúdo, o vereador foi multado em 30 mil reais pelo TRE-BA, no dia 20 de julho. Tenóbio é candidato a deputado estadual pelo PL.

A sigla tem como principal expoente, nas eleições de outubro, a campanha de Flávio Bolsonaro, que tem sido colocada à prova no TSE. Após o uso do vídeo do ex-presidente Bolsonaro, feito com IA, na convenção do partido, o Tribunal deverá decidir sobre a utilização de deepfake em casos onde não há críticas sobre um adversário ou a divulgação de informações falsas.

Isso porque, após pedido do ministro Alexandre de Moraes, a defesa de Bolsonaro afirmou que o ex-presidente não sabia que sua imagem seria veiculada no evento. O caso configura, portanto, deepfake. A legislação atual do TSE proíbe o uso deste tipo de recurso na eleição quando há finalidade de ataque a outros candidatos ou tentativa de enganar eleitores.

<><> Planos de conformidade

No mesmo dia das decisões contra Tenóbio, o TSE publicou uma portaria determinando que os provedores de aplicação de internet apresentem quais medidas adotarão para cumprir a legislação eleitoral. Os chamados planos de conformidade devem ser apresentados ao Tribunal até o dia 16 de agosto por empresas com mais de 5 milhões de usuários, como Instagram, Facebook, X (ex-Twitter) e plataformas de IA, como a OpenAI.

Entre as exigências definidas pelo TSE que devem ser consideradas pelas plataformas estão a inclusão de regras contra a violência política, monitoramento de propaganda irregular, remoção de conteúdo e suspensão de perfis ou contas. De acordo com o texto da portaria, o plano de conformidade deverá conter informações específicas sobre as medidas que serão adotadas, incluindo os prazos de implementação, critérios aplicáveis e mecanismos de controle.

No documento, o TSE determina, inclusive, que as plataformas forneçam informações sobre as ferramentas para identificar e inibir a circulação de “conteúdos com sinais de risco sob revisão”, em referência a publicações que “veiculem fatos notoriamente inverídicos ou gravemente descontextualizados capazes de afetar a integridade eleitoral”. A portaria define, também, que seja apresentado a metodologia para a qualidade da detecção, com a inclusão de indicadores de referência à taxa de falsos positivos e à recorrência de conteúdos idênticos após remoção.

Apesar de inédita, a decisão do TSE de exigir os planos de conformidade das plataformas pode não fazer diferença no cumprimento da legislação eleitoral.

“Não é factível imaginar que as plataformas de inteligência artificial e de distribuição vão conseguir fazer adaptações profundas nos seus produtos em poucos dias. Nós estamos falando de algo que deveria ter acontecido há um ano, há seis meses, há muito mais tempo do que isso”, analisa Neisser.

Na visão do professor da FGV, houve uma “inércia” do TSE em relação ao tema, principalmente na última gestão, presidida pela ministra Carmen Lúcia. Ele cita como exemplo, também, os memorandos de entendimento, assinados entre as plataformas e o TSE somente neste mês. Nas eleições passadas, este tipo de memorando estava acordado pelo menos um ano antes do pleito; nestas eleições deveriam, portanto, ter sido assinados durante a presidência de Carmen Lúcia.

“Esse plano de conformidade vai ser um início de regulação, não vai resolver a questão, mas pelo menos vai trazer mais informações sobre como se dá a moderação, para permitir uma cobrança melhor da sociedade sobre isso”, finaliza Neisser.

•        A empresa de IA que destruiu milhões de livros para treinar seu modelo. Por Natalia Viana

A cena é de terror. E quando pensamos nas maiores disputas em torno da Inteligência Artificial, raramente pensamos na dimensão física, real, humana que está por trás dessas disputas. Modelos de IA como ChatGPT e Claude parecem vindos de uma força etérea, que vive na nuvem, fora da nossa mundana existência e, portanto, imparáveis, irrefreáveis, irreguláveis.

É por isso que essa história não me sai da cabeça.

Um processo judicial por violação de direitos autorais, movido em um tribunal da Califórnia, nos EUA, revelou a metodologia empregada pela empresa Anthropic para treinar seus modelos de IA com linguagem produzida por humanos.

O processo foi movido por três escritores – Andrea Bartz, Charles Graeber e Kirk Wallace – contra a Anthropic por ter roubado o conteúdo dos seus livros.

Eis o que a empresa fez para alimentar seu robô:

Em fevereiro de 2024, a empresa adquiriu milhões de cópias de livros nos EUA, e para obter o conteúdo – as palavras e frases escritas por seres humanos – rasgou as lombadas, cortou as páginas de cada um deles, ajustando as folhas ao tamanho do scanner. Depois, seus funcionários escanearam cada página através de um software que digitaliza textos, para incluir cada frase lapidada pelos autores na enorme base de dados que treinaria o Claude. Finalmente, aquela pilha de destroços foi picotada e jogada no lixo.

A cena, que relembra a história de Fahrenheit 451 – que retrata uma sociedade totalitária onde livros eram proibidos e queimados – é talvez o maior resumo da distopia que as Big Techs nos oferecem como caminho para o futuro.

Primeiro, porque elas escondem todos os vestígios profanos dos seus modelos de negócio: os trabalhadores do Quênia que adoecem filtrando vídeos e textos com imagens de violências e abusos indizíveis para os modelos de IAs poderem ser treinados, as cidades que estão passando sede porque a água está sendo usada para enormes datacenters, as festas nababescas e temáticas oferecidas para políticos de todo o mundo não atrapalharem seus negócios com leis e regulações.

A destruição de milhares de livros é apenas um destes elementos. Trata-se de uma decisão de negócios, tomada por executivos racionais, que visam superar obstáculos físicos ao desenvolvimento de softwares avançados rapidamente e com o menor custo possível.

No caso da Anthropic, ela precisava de literatura de alta qualidade para treinar seu robô “superior” e estava buscando reproduzir a metodologia empregada antes pelo Google para sua biblioteca virtual. O Google conseguiu argumentar nas cortes dos EUA que criar e disponibilizar uma cópia digital de um livro físico comprado regularmente, seria um uso justo para uma obra.

Mas, neste caso, não se trata de democratizar o uso de uma obra literária, mas de alimentar um modelo de IA que vai transformá-lo, e lucrar com ele em infinitas variedades de usos.

Por isso, o caso judicial é considerado um marco histórico.

E é mais brutal porque, vocês devem se lembrar, a Anthropic é a mesma empresa cujo fundador rompeu com a OpenAI sob o comando de Sam Altman para desenvolver IA que seria realmente “responsável” e segura.

A mesma Anthropic cuja IA foi usada para a invasão dos EUA na Venezuela, anos depois, assim como nos ataques ao Irã.

Assim, o destroçamento de milhões de livros é apenas uma lembrança do rastro de destruição que já se vê, e que se verá ainda pelas empresas de IA, diante da hesitação de nossos governantes de regularem contra ela, a nosso favor.

Como nossos deputados, que não tiveram ainda a coragem de aprovar o PL da IA (PL 2338/2023) que garantiria pelo menos uma compensação pelo uso de livros e obras criadas por humanos para treinar robôs. O projeto, aprovado em dezembro de 2024 no Senado, está parado na Câmara dos Deputados.

Não temos podido contar com aqueles que deveriam nos proteger.

Eu gostaria de finalizar essa coluna dizendo que, ao saber da metodologia medonha empregada pela Anthropic para treinar sua IA, sem nenhum consentimento dos autores, ou da editora, o juiz da Califórnia reconheceu que se trata de puro e simples roubo. 

Mas não foi assim.

O juiz William Alsup decidiu, na primeira decisão do tipo, que comprar, destroçar, e copiar obras literárias para treinar robôs a falarem como gente que sabe escrever é um exemplo de “fair use”, uso justo, dentro das leis de direito autoral americano. 

Tratar o roubo de conteúdo dos livros para treinar IA como ilegal seria como argumentar que “treinar crianças em idade escolar para escrever bem resultaria em uma explosão de obras concorrentes”, escreveu o juiz, alertando que a empresa ainda pode ser multada por ter baixado milhões de livros piratas da internet para treinar seu modelo.

Sim, o juiz equivaleu a inteligência sintética a treinar um ser humano.

A OpenAI saudou a decisão. “Estamos satisfeitos que o Tribunal reconheceu que usar ‘obras para treinar LLMs foi transformador — espetacularmente transformador’.”

 

Fonte: Por Maira Escardovelli, da Agencia Pública