A
família Bolsonaro e o uso de imagem por sistemas de IA
O
candidato à presidência da República, Flávio Bolsonaro, usou um vídeo sintético
do pai, Jair Bolsonaro, declarando apoio à sua candidatura em uma convenção
nacional do PL. Na peça em questão, o avatar do ex-presidente começa avisando
que trata-se de conteúdo sintético, faz críticas à prisão de Jair Bolsonaro e
conclui que o “o Brasil tem futuro e o futuro é Flávio Bolsonaro Presidente”. O
anúncio de que o vídeo não se tratava de uma mídia real ficou por conta de um
aviso verbal do avatar, logo ao início do vídeo, que informava que o conteúdo
havia sido fabricado artificialmente.
A
decisão de uso de mídia sintética do ex-presidente se deu em função da atual
proibição de que o mesmo demonstre apoio ou realize atos de apoio político no
decorrer das eleições de 2026. Ao optar por um avatar e não um vídeo
diretamente gravado, a campanha de Flávio Bolsonaro visava incendiar a base de
apoio ao bolsonarismo sem que isso representasse mais uma violação de Jair
Bolsonaro da decisão judicial que declarou a sua inelegibilidade. No entanto, o
ato não é novo.
Em
2024, nas eleições gerais da Indonésia, o ex-general do exército e ditador
Suharto foi ressuscitado por meio de vídeos sintéticos criados pelo partido
Golkar com o objetivo de lembrar eleitores sobre o valor do voto e para
demonstrar apoio ao candidato Prabowo Subianto. Já em 2025, na Bolívia,
conversas vazadas do candidato à vice-presidência Jorge Richter, onde ele
supostamente teria planejado um golpe contra o presidente Evo Morales, também
foram fabricadas com ferramentas de imagem e vídeo sintéticos. Mais
recentemente, o governo Trump manipulou uma imagem da ativista de direitos
humanos Nekima Levy Armstrong, detida em um protesto contra o ICE, com o
objetivo de retratá-la chorando e com uma tonalidade de pele mais escura.
Em
2026, com rápidos avanços em realismo, sincronização e geração de conteúdos
extensos, a capacidade de manipulação de eleitores e processos eleitorais com
mídias sintéticas fica cada vez maior. E, neste cenário, estamos passando de
casos isolados do uso de mídias sintéticas para um estado de incerteza
contínua.
Mídias
sintéticas agora podem gerar e manipular conteúdo em diversos formatos –
imagens, vídeo, voz e identidades totalmente sintéticas. O que estamos
presenciando é uma mudança mais profunda: a perda da verdade visual e um
desgaste significativo na realidade compartilhada. Uma vez que o que vemos já
não pode ser aceito pelo seu valor aparente, a dúvida não é mais algo ocasional
– é constante. Assim, a verdade não é apenas debatida – ela é continuamente
desestabilizada.
<><>
Resoluções do TSE e o uso de mídia sintética em eleições
Nas
resoluções lançadas para o pleito de 2026, o Tribunal Superior Eleitoral
regulamentou o uso de inteligência artificial em campanhas e propaganda
eleitoral. A resolução n. 23.755, de 2 de março de 2026, determina que o uso de
mídias sintéticas em propaganda eleitoral com o objetivo de criar, substituir,
omitir, mesclar ou alterar a velocidade ou sobrepor imagens ou sons prescinde
da obrigação de informar, de modo explícito, destacado e acessível, que o
conteúdo foi fabricado ou manipulado e qual tecnologia foi utilizada.
Adicionalmente, a nova resolução eleitoral veda a “publicação e a republicação,
ainda que gratuitas, bem como o impulsionamento pago de novos conteúdos
sintéticos produzidos ou alterados por inteligência artificial ou por
tecnologias equivalentes que utilizem imagem, voz ou manifestação de candidata
ou candidato ou de pessoa pública, mesmo que rotulados e em conformidade com as
demais exigências deste artigo, no período compreendido entre as 72 horas que
antecedem e as 24 horas que sucedem o término do pleito”.
Mais
recentemente, o órgão lançou uma cartilha de boas práticas sobre inteligência
artificial com o objetivo de orientar eleitores e partidos em torno do uso
responsável da IA, protegendo a democracia e as eleições gerais 2026. O
documento incentiva a atuação de campanhas, coligações e candidatos dentro da
legalidade, reforça a necessidade do compromisso com a verdade e incentiva a
transparência sobre o uso e origem dos conteúdos, dentre outras coisas.
Apesar
do caso da campanha de Flávio Bolsonaro não ser um fato novo, ele revela
algumas falhas ou ausências na resolução eleitoral e que merecem uma reflexão:
(a) como incentivar transparência sobre conteúdos sintéticos por meio da adoção
de práticas de proveniência de conteúdo, (b) mais proteções sobre o uso de
imagem, voz ou manifestação de pessoas públicas e individuais a fim de evitar a
manipulação de eleitores e (c) medidas mais concretas por parte das plataformas
e demais atores parte do ecossistema digital na implementação de ferramentas de
detecção de deepfakes.
Em
linhas gerais, isso significa que apesar dos repetidos e bem vindos esforços do
TSE em delimitar o uso de inteligência artificial e mídias sintéticas em
campanhas políticas, a corte ainda precisa incrementar as medidas relativas à
transparência de conteúdos compartilhados e também discutir a proteção dos
usuários quando confrontados com conteúdos sintéticos que possuem o objetivo de
manipular eleitores.
<><>
Transparência de IA precisa ser exigida e não apenas esperada
Na
organização WITNESS temos trabalhado diretamente com casos de mídias sintéticas
e em torno de tentativas de reforçar os compromissos assumidos pelas empresas a
respeito da transparência de conteúdos de IA. Isso porque não estamos mais
lidando com incidentes isolados e o próprio ambiente se transformou.
A mídia
sintética instaurou um estado persistente de dúvida, onde a incerteza deixa de
ser exceção para se tornar a regra. Essa dúvida, chamada de “dividendo do
mentiroso”, permite que evidências reais sejam descartadas como “falsas” e
enfraquece a confiança nas vítimas, abrindo caminho para a negação, a
postergação e a impunidade. O impacto da inteligência artificial, neste
sentido, não se limita à tecnologia em si, mas resulta da convergência de
quatro fatores críticos: a facilidade de acesso (o processo tornou-se simples,
exigindo pouco input), a alta qualidade e realismo dos outputs, a sofisticação
das capacidades (movimento, voz e interação em tempo real) e, por fim, a escala
massiva, que sobrecarrega as plataformas e torna cada vez mais difícil distinguir
o que é real do que é sintético.
No
entanto, algumas soluções ajudam a fortalecer a necessidade de mais
transparência sobre conteúdo sintético.
A
primeira delas é a proveniência e autenticidade de conteúdos, uma prática que
se refere à fonte e à história do conteúdo de mídia online, funcionando como
uma “receita” que detalha como uma peça foi criada, editada e distribuída,
permitindo traçar sua cadeia de custódia e verificar a autenticidade da mesma.
Esses conceitos são pilares essenciais para a transparência de IA, pois
fornecem sinais verificáveis que restauram a confiança em um ambiente digital
onde a fronteira entre o real e o sintético se tornou fluida. Ao disponibilizar
essa infraestrutura de transparência, capacitamos usuários, reguladores e
defensores de direitos humanos a distinguir fatos de ficção, combatendo o
fenômeno do “dividendo do mentiroso” e garantindo que o público possa avaliar a
veracidade das informações com base em dados concretos, e não apenas na
aparência visual do conteúdo.
No caso
da resolução eleitoral, o texto poderia recomendar a implementação de
proveniência dos conteúdos por meio de metadados encriptados que informam como
o conteúdo foi feito, somados a um simples rótulo que avisa se o conteúdo é
feito ou manipulado com ferramentas de inteligência artificial. Essa sugestão
seria importante para evitar que ferramentas de edição ou corte de vídeos
retirem eventuais disclaimers que sejam feitos verbalmente – como no vídeo da
campanha de Flávio Bolsonaro – e permitam que a “receita” do conteúdo de IA
viaje com ele.
A
segunda diz respeito a implementação de ferramentas de detecção de deepfakes
que consigam reconhecer e limitar o alcance de conteúdos sintéticos com
potencial de influenciar eleitores e o processo eleitoral. Ao longo dos últimos
anos, a experiência da Deepfakes Rapid Response Force demonstrou que modelos
hiper-realistas de áudio e vídeo produzem fraudes difíceis de identificar,
sobretudo quando os arquivos passam por recompressão em redes sociais, edições
regionais cirúrgicas (inpainting) ou retratam cenários de conflito sem rostos
humanos. Além disso, a facilidade de criar falsificações provocou um aumento na
desconfiança do público, que passou a contestar registros reais autênticos sob
a justificativa de serem gerados por IA.
Fatores
como este denotam o quão urgente é a necessidade de promoção de melhorias nas
ferramentas de detecção de deepfakes a fim de promover a remoção e retirada de
conteúdos desinformadores a partir da sua ocorrência. Isso significa criar
sistemas que funcionem com a mídia que as pessoas realmente compartilham –
reenvios de arquivos compactados, gravações de tela e áudio com qualidade
reduzida – e não apenas com arquivos originais de alta qualidade. Significa
também priorizar métodos capazes de lidar com os cenários do mundo real mais
desafiadores (e comuns): imagens dinâmicas ou sem rostos visíveis, áudio
multilíngue com ruído e edições sutis e “cirúrgicas”. Além disso, implica
tratar a explicação como parte da intervenção – não apenas determinar se algo
foi gerado por IA, mas apresentar as evidências e o grau de confiança na
análise.
Por
fim, precisamos evoluir na direção de mais proteções ao uso de imagem, voz ou
manifestação de pessoas públicas e individuais a fim de evitar a manipulação de
eleitores. A “likeness protection” (proteção do direito à própria imagem e voz)
emerge como uma pauta essencial no advocacy atual, exigindo uma abordagem que
transcenda a lógica de direitos autorais ou propriedade comercial. O foco deve
ser uma resposta baseada em direitos humanos que centre a proteção de pessoas
comuns, ativistas e jornalistas contra a manipulação indevida de sua
identidade, evitando danos reais à dignidade, à reputação e à segurança. O
desafio regulatório é desenvolver diretrizes que impeçam o uso de avatares ou
vozes sintéticas para difamar ou silenciar indivíduos, sem, contudo, criar
mecanismos que possam ser instrumentalizados pelo Estado para censurar o
ativismo, a sátira ou a documentação de direitos humanos. Essa agenda deve ser
articulada de forma integrada a outras proteções contra abusos digitais, como a
divulgação de imagens íntimas não consentidas (NCII), garantindo que a proteção
da identidade seja um direito universal e não apenas um ativo de mercado.
A
emergência das mídias sintéticas exige uma transição urgente de uma postura
reativa para um compromisso proativo com a integridade do ecossistema de
informação e promoção de transparência de sistemas de IA. O uso crescente de
avatares e manipulações visuais em campanhas eleitorais sublinha que a
transparência sobre a origem do conteúdo, o aprimoramento das ferramentas de
detecção para cenários reais e a implementação de proteções à identidade
baseadas em direitos humanos não são apenas diferenciais técnicos, mas pilares
indispensáveis para a preservação da democracia. Apesar de estarmos lidando com
um problema “novo”, o futuro do processo eleitoral brasileiro depende de nossa
capacidade coletiva de restaurar a confiança na evidência visual, garantindo que
o debate público permaneça ancorado na realidade e não seja refém da
desestabilização contínua proporcionada pela manipulação algorítmica.
Fonte:
Por Bruna Martins dos Santos, em Le Monde
Nenhum comentário:
Postar um comentário