Carlos Castilho: Estamos
entrando na era da distopia informativa
A sensação de que não
sabemos mais no que acreditar tornou-se perturbadoramente real neste início de
ano, depois que programas de inteligência artificial foram usados na produção
de vídeos fake envolvendo cobrança de impostos em transações
Pix e na posse de animais de estimação. Fora do Brasil, a revista
norte-americana Time informou que o exército israelense usa rotineiramente
programas que identificam alvos palestinos com a ajuda da IA sem uma checagem
prévia para distinguir objetivos militares e instalações civis. O cenário fica
ainda mais sombrio quando se sabe que metade dos 241 milhões de emails enviados
por minuto em todo mundo já é operada por robôs (algoritmos).
São casos reais cujas
consequências vão muito além de especulações ou conjeturas. Segundo a Receita
Federal brasileira, o vídeo falso do imposto sobre Pix foi visualizado 22,5
milhões de vezes entre os dias 9 e 12 de janeiro, como parte de uma tentativa
de abalar a imagem do governo numa conjuntura em que o presidente Lula enfrenta
resistências do setor financeiro e da extrema direita. No caso do falso
pronunciamento do ministro da Fazenda, as imagens foram produzidas com
sofisticados recursos de inteligência artificial para imitar fielmente a
entonação, sotaque e vocabulário de Fernando Haddad.
Ainda segundo dados
oficiais, no auge da circulação do vídeo falso nas plataformas, o número de
operações Pix caiu 10,9%, atingindo um total de 1,25 bilhão de transações,
quando o normal é de 1,38 bilhão de operações diárias. Ficou evidente como a
manipulação das percepções do público por meio de fake news pode
danificar seriamente a credibilidade pública num sistema eletrônico complexo
considerado absolutamente seguro e que se tornou a mais popular operação financeira
tanto entre empresas como entre o público em geral.
O falso imposto sobre o
Pix foi uma operação política. A maior parte da viralização aconteceu em
consequência de postagens feitas por políticos oposicionistas como os deputados
Osmar Terra (MDB-RS), Nikolas Ferreira (PL-MG) e Julia Zanatta (PL-SC). Só
Osmar Terra compartilhou a fake news com 100 mil seguidores. O
pastor Romildo Ribeiro Soares, mais conhecido como missionário R.R. Soares, da
Igreja Internacional da Graça de Deus, usou seu programa na TV para disseminar
a fake news do Pix.
Aqui no Brasil, a
inteligência artificial na produção de fake news ainda não
produziu mortes, mas em Gaza ela é responsável por muitas das mais de 38 mil
vítimas fatais de bombardeios na mais populosa cidade da Palestina (dados do
Hamas). No final de dezembro, a revista norte-americana Time informou que o exército israelense usa rotineiramente os
programas Gospel e Lavender, ambos baseados em inteligência artificial, para
selecionar alvos palestinos a serem bombardeados.
·
A tragédia humana na
guerra tecnológica
O Gospel identifica
prédios e instalações considerados suspeitos de abrigarem unidades do grupo
Hamas que luta contra a ocupação israelense do território palestino. Já o
programa Lavender seleciona alvos humanos, guerrilheiros, informantes e líderes
do Hamas. As autoridades israelenses reconheceram que os dois programas
apresentam uma margem de erro de 10% na seleção dos alvos, o que indica a
possibilidade de no mínimo 3.800 palestinos terem sido mortos por engano.
Um estudo da
revista científica Lancet sugere,
no entanto, que o número de vítimas, consideradas “efeito colateral” da
guerra, pode chegar a 6,5 mil (10% de um total estimado de 64 mil
mortos). Num cenário de guerra, é pouco provável que
os estrategistas militares dediquem muito tempo para avaliar o custo humano
real de um bombardeio em áreas densamente povoadas, como é a situação em Gaza.
Ainda mais quando o objetivo é exterminar o grupo Hamas.
Ainda em dezembro do
ano passado, os principais clubes de futebol da Inglaterra manifestaram
preocupação com a intensificação dos ataques racistas a jogadores negros e
latinos depois que a plataforma X passou a disponibilizar a
seus usuários o programa Grok de produção de imagens falsas. A empresa Signify e o Center for Countering Digital Hate (Centro de Combate ao Ódio Digital), ambos na
Inglaterra, investigaram o problema e se alarmaram com a sofisticação da
tecnologia usada pelo Grok, cujo acesso foi liberado a todos os usuários da
plataforma X. Estima-se que cerca de 5 milhões de pessoas acessem o
Grok diariamente em todo o mundo.
Os casos mencionados
indicam que a distopia informativa (1) já é uma realidade entre nós, um
fenômeno agravado pela politização crescente das plataformas digitais e da
maioria dos grandes veículos de imprensa, afetados pela perda de público e pela
crise no seu modelo de negócios. Trata-se de uma conjuntura favorável à
desinformação em larga escala, principalmente se levarmos em conta que metade
do fluxo de informações na internet já é realizado por algoritmos, que são
programados por pessoas e organizações com óbvios interesses políticos, sociais
e econômicos (2).
·
A era das incertezas
O ingresso na era da
distopia informativa significa que caminhamos para um sistema de incerteza
estrutural, onde conceitos como verdadeiro ou falso, certo ou errado, sobre os
quais se apoia a cultura atual, já não conseguem mais dar conta dos desafios
criados por novas tecnologias como a inteligência artificial, plataformas
digitais e pela avalanche informativa. Parece assustador, porque afeta todos os
nossos comportamentos, crenças e valores. Mas há alternativas viáveis.
A globalização,
politização e algoritmização das plataformas digitais começa a desagradar um
número crescente de pessoas, como mostram tanto a migração de usuários da X em
direção a redes alternativas, especialmente a Bluesky (3). Duplicou
o número de buscas no Google sobre como abandonar a
plataforma Facebook, segundo dados divulgados pelo site Google Trends.
Donald Trump, por
exemplo, criou a sua rede, a Truth, enquanto
jornalistas, pesquisadores e personalidades públicas engrossam a audiência de
grandes redes alternativas como Medium, Snapchat, Mastodon e
Nexdoor. Aqui no Brasil, grupos de esquerda fundaram a FatoFlix, e instituições como a governamental Agência Brasileira
de Desenvolvimento Industrial (ABDI)
implantaram a rede UNA, para troca de mensagens entre funcionários
e clientes, usando a mesma tecnologia utilizada pelo Exército brasileiro e que
é semelhante à adotada pela plataforma X. Tudo isto configura uma complexa
transição de hábitos informativos associada à mudança de modelos de comunicação
num processo caracterizado por altas doses de incertezas tanto humanas como
tecnológicas.
- Distopia
é um antônimo da expressão utopia. Expressa uma situação de pessimismo,
pesadelo ou opressão. Uma utopia negativa.
- Ver
entrevista de Rodrigo Tozzi que representa no Brasil a Tools for
Humanity (TFH – Ferramentas Humanitarias), braço operacional do
grupo OpenAI, de Sam Altman, o criador do software de
inteligência artificial ChatGPT.
- A
rede Bluesky afirma estar recebendo cerca de um milhão de
imigrantes digitais oriundos das plataformas da Meta.
Fonte: Observatório
da Imprensa
Nenhum comentário:
Postar um comentário