Cian
Barbosa: Fantasmas na máquina - IAs podem 'reviver' os mortos?
Anteriormente
nesta coluna, comentei sobre casos de delírio que aparentemente foram
catalisados por interações constantes com chatbots, algo que foi relacionado ao
caráter “sicofântico” dessas arquiteturas de IA como o ChatGPT – termo usado
para designar a característica bajuladora, excessivamente elogiosa e
condescendente que encontra-se frequentemente em chatbots. Aquilo que vem sendo
chamado de psicose por IA anuncia uma nova etapa da constituição subjetiva
humanas em interface com a tecnologia, uma etapa onde dispositivos digitais
“inteligentes” participam ativamente da constituição do aparelho psíquico,
afetando diretamente sua formação, os modos de sofrimento e a maneira como
constituímos e experimentamos a própria realidade.
Dentre
tantos aspectos afetados pelo desenvolvimento acelerado das novas tecnologias
digitais (especificamente as inteligências artificiais baseadas em LLMs), uma
das experiências de sofrimento mais radicais da humanidade obviamente não
poderia ficar de fora. Uma das maiores, senão a maior questão existencial da
humanidade – o enfrentamento da finitude expresso na sua dimensão mais crua, a
própria morte –, torna-se área de interesse (fundamentalmente mercadológico) a
ser explorada. Os chamados griefbots [literalmente ‘bots de luto’, também
chamados de deathbots, thanabots, ghostbots ou avatares postmortem] já começam
a despontar no mercado, levantando questões éticas fundamentais acerca da
aplicabilidade de bots para lidar com a experiência de luto, até questões
relativas à própria ideia de imortalidade ou vida após a morte.
De
fato, o desenvolvimento de IAs sempre teve em sua órbita questões relativas ao
“pós-humano” e a superação da finitude, ao menos aquela relativa ao corpo
biológico – algo curioso, na medida em que essas tecnologias são frequentemente
encaradas também como fonte da aniquilação total de nossa espécie. O físico
Stephen Hawking, por exemplo, cogitou tanto a possibilidade de transpor a mente
humana para um computador, quanto a extinção da própria humanidade com a
evolução das IAs. Apesar de tais temas em nosso imaginário serem extremamente
influenciados pela ficção científica hollywoodiana, cada vez mais nossa
realidade caminha para se tornar uma versão menos cinematográfica porém tão
abismal quanto algum episódio saído de séries como Star Trek ou Black Mirror.
É este
o caso dos griefbots, IAs que prometem auxiliar no processo de luto ao
simularem a experiência de conversar com algum ente perdido. Trata-se de um
mercado em pleno crescimento, especialmente na China e nos EUA. Existem pacotes
definitivos que podem chegar a 15 mil dólares, mas plataformas como Replika, ou
Project December, já vendem o serviço por preços que variam entre 6 a 20
dólares mensais —–como é o caso da plataforma You, Only Virtual, que cunhou o
termo ‘versonas’ para designar a produção de uma versão digital de um ente
querido, serviço anunciado como “mais do que uma ferramenta de luto”,
supostamente “mantendo aquela conexão única viva, exatamente como um
relacionamento real”. Já a Project December anuncia diretamente: “Simulate the
Dead” [simule os mortos]! Obviamente, as evidentes questões éticas implicadas
em tais serviços são relativizadas pelas empresas, que via de regra pretendem
imiscuir nas ferramentas de “assistência ao luto” que vendem não só
propagandas, mas toda a lógica de mercado inerente à forma mercadoria.
Implicações
novas em outros campos também já chamam atenção: em maio, no Arizona, a família
de um homem alvejado fatalmente em uma briga de trânsito recriou digitalmente,
através de IA, uma “versão” da vítima para gerar um vídeo apresentado na
sentença do assassino, com essa versão da vítima – digitalizada – oferecendo
seu perdão e provocando uma reação inesperada do juiz, que relatou ter “amado a
IA”, agradecendo o uso da ferramenta, e dizendo que “ouviu o perdão” e “sentiu
que foi genuíno”. Os possíveis usos e efeitos dessa tecnologia em instâncias
legais, por exemplo, ainda são difíceis de prever, mas algumas pistas já estão
dadas, como mostra esse caso.
Como se
já não bastassem todos esses elementos, o uso de bots para manejar o luto em
momentos ainda mais sensíveis, como é o caso dessa experiência na infância,
ainda permanece pouco questionado. A empresa anteriormente mencionada, You,
Only Virtual, permite que pessoas a partir de 13 anos utilizem sua plataforma,
enquanto os efeitos na formação subjetiva são tratados como benéficos ou
“imprevisíveis”, mesmo que interações com chatbots já tenham gerado
experiências de delírio e mania, e mesmo que usuários dos griefbots já tenham
relatado agravamento da condição subjetiva de luto. Além disso, características
como os chamados “delírios” de IA e sua abordagem sicofanta de respostas podem
tornar essa experiência ainda mais danosa.
Apesar
dos bots de luto serem fundamentalmente grandes modelos de linguagem (LLMs)
possivelmente combinados com a mesma tecnologia de deepfakes, a experiência de
investimento libidinal em uma dessas ferramentas durante o processo do luto
pode ser devastadora, postergando o sofrimento e promovendo mesmo a experiência
de uma “segunda morte” para o usuário, ao desconectar-se ou mesmo ao “desligar”
a réplica digital de seu ente querido. As questões morais, éticas e
existenciais que perpassam o uso dessas plataformas para tais fins não são de
menor interesse ao mercado, e suas ofertas tornam-se cada vez mais ostensivas.
É também fundamental questionarmos a natureza e o valor das informações
ofertadas durante a interação com tais bots, especialmente na medida em que
fornecem substrato para a datificação de uma experiência de extrema
vulnerabilidade.
O uso
de chatbots para diversos tipos de “auxílio” terapêutico – seja para o
desabafo, conselhos afetivos, conforto emocional ou até mesmo uma pretensa
escuta clínica – precisa passar, necessariamente, pela crítica técnica e
epistemológica que fundamenta essas arquiteturas abstratas, mas também por uma
crítica da própria economia política que as promove e é, ainda, sua própria
condição de possibilidade. Para além da euforia e fantasmagoria proporcionada
pela aparente convergência entre ficção e realidade, é fundamental relembrarmos
que a ficção faz parte dessa própria realidade, mas as consequências reais dos
usos indiscriminados dessas tecnologias não ficam apenas nas telas,
especialmente quando sua mediação é relegada ao livre mercado, permitido a
explorar todas as dimensões de sofrimento da condição humana para o fim único
da acumulação e valorização.
• O Facebook não é uma rede social e isto
afeta o jornalismo. Por Carlos Castilho
Facebook,
X, TikTok, Instagram e YouTube não funcionam como redes sociais. Estas empresas
e outras do gênero são plataformas digitais que usam dados, fatos, eventos e
ideias obtidos gratuitamente de seus usuários e que, depois de processados, são
vendidos por quantias milionárias a anunciantes na internet. Neste ponto,
seguem o mesmo modelo de negócios da imprensa tradicional que usa a notícia
para atrair a atenção do público e orientá-la para anúncios pagos.
A
grande maioria dos usuários das plataformas acha que está participando de redes
sociais, porque manda e recebe mensagens, combina iniciativas e divulga
realizações com outras pessoas. Mas tudo isto é matéria-prima para algoritmos
que identificam tendências, preferências e perfis sociais que serão depois
vendidos a terceiros ou usados pelas próprias plataformas para incrementar seus
negócios e também os seus lucros. Facebook e Instagram (ambas do conglomerado
Meta), por exemplo, lucraram 15,69 bilhões de dólares no terceiro trimestre,
enquanto seu dono acumulou uma riqueza pessoal estimada em aproximadamente 215
bilhões de dólares pela revista Forbes.
As
redes sociais surgiram no final do século XX, quando a internet e os
computadores ainda estavam num estágio bem primitivo, se comparado com o que
são hoje. As redes foram criadas como
estruturas sociais, sem fins lucrativos, autogovernadas e centradas no diálogo
livre, horizontal entre seus usuários. A
primeira rede a ter relevância mundial foi a WELL (Whole Earth Eletronic Link –
Rede Global de Conexões Eletrônicas), lançada em 1985 pelo ativista digital
Howard Rheingold, na Califórnia. Seis anos mais tarde surgiu em Amsterdã, na
Holanda, a rede Cidade Digital (De Digital Stad) que foi a pioneira na
prestação de serviços aos seus membros, como por exemplo ajudar contribuintes a
pagar impostos, orientando no acesso aos serviços públicos ou com informações
sobre horários de cinemas, ônibus e trens.
Marc
Zuckerberg, criador do Facebook, Larry Page e Sergei Brin, fundadores do Google
e Jack Dorsey, idealizador do Twitter, hoje X, só para citar os exemplos mais
conhecidos, começaram montando redes sociais, mas depois descobriram como
ganhar dinheiro usando o conteúdo de mensagens deixadas por usuários. Ao
monetizar dados alheios sem pagamento, estes empreendedores digitais acumularam
fortunas, prestígio político e uma enorme visibilidade pública.
O
sucesso da monetização foi tão grande que as plataformas praticamente se
apossaram da expressão redes sociais, que apesar disto continuaram a existir,
assumindo em muitos casos a denominação de comunidades sociais digitais (1), a
maioria delas aglutinada em torno de temas específicos como educação, finanças,
saúde, direitos humanos e questões de gênero. Mais recentemente surgiram as
redes sociais centradas na informação, como é o caso da CHAY, uma rede formada
por mulheres que trocam dados sobre como combater a violência doméstica e o
feminicídio. No âmbito acadêmico e corporativo, surgiram versões específicas de
redes sociais chamadas de comunidades de prática e, aqui no Brasil, temos as
redes de programadores, como Guru-SP, Grupy, PHPSP e Rails Girls, todas focadas
na troca de informações visando o desenvolvimento de novos aplicativos e
softwares.
<><>
A guerra entre imprensa e plataformas
Como
boa parte das interações entre usuários tem origem em notícias publicadas por
jornais, revistas e telejornais, os donos destes veículos de comunicação
começaram a exigir o pagamento de direitos de republicação, numa guerra
financeira que ainda está em curso e que já envolve governos nacionais.
Facebook, X, Instagram, YouTube, Google e outras plataformas alegam que são
estruturas tecnológicas e que não produzem informação, logo não podem ser
cobradas.
A
guerra financeira entre plataformas e a imprensa é complicada porque envolve
diferentes abordagens de questões chaves como o caráter social do noticiário
jornalístico, a produção de conhecimento na internet, as novas funções da
informação em ambiente digital e o crescente protagonismo do público alimentado
pela avalanche informativa nas plataformas digitais. São questões afetadas
diretamente pela diferença na maneira de tratar a informação como, por exemplo,
o fato de a notícia ter deixado de ser um produto físico em papel, áudio ou
vídeo, para se tornar um conjunto de códigos digitais altamente mutáveis e
fluidos.
Criou-se
assim um paradoxo curioso. De um lado, uma tecnologia velha e ultrapassada
(como a das mídias impressas) preconizando uma nova relação entre produtores e
consumidores de notícias. De outro, uma nova tecnologia (plataformas digitais)
defensora do velho colonialismo informativo, que se baseia na captura sem
remuneração de bens alheios. Temos, assim, uma tecnologia velha propondo algo
novo e uma tecnologia nova defendendo algo velho.
A
relação da imprensa convencional com as plataformas digitais é igualmente
complexa porque apesar de compartilharem a mesma estratégia de negócios, as
tecnologias sobre as quais apoiam seus sistemas operacionais levam a resultados
financeiros opostos. A notícia publicada em papel não consegue mais atrair
publicidade suficiente para ser rentável diante da concorrência desigual com
informações online. Com isto, as tentativas da imprensa de controlar as
plataformas através de regulamentação governamental dificilmente passarão de
meros paliativos.
<><>
Porque o jornalismo precisa das redes de informação
Por
volta de 2010, a maioria dos grandes jornais achava que sua salvação estava nas
plataformas. Muitos, inclusive o The New York Times, disponibilizaram seu
conteúdo no Facebook, achando que isto aumentaria a audiência e assinantes. Mas
aconteceu justamente o contrário. A plataforma ficou com os leitores do NYT e
com os anunciantes, levando o jornal a admitir o fracasso da estratégia. As
redes são essenciais ao exercício do jornalismo em ambiente digital não para
aumentar o seu faturamento, mas para atender às necessidades informativas de
públicos cada vez mais desorientados pela quantidade e diversidade de notícias
que recebem diariamente.
O
jornalismo não consegue mais dar conta do processamento, edição e
disseminação de novos dados, fatos e
eventos publicados na internet. Nada menos que 402,72 milhões de terabites em
dados são agregados à web por dia. Ainda segundo estatísticas internacionais,
cada usuário da internet é bombardeado diariamente por 74 gigabytes de novos
dados. A recombinação destes dados numa plataforma digital cria uma massa de
informações tão grande que supera em muito a capacidade de um jornalista
processar apenas o que é mais relevante e atual.
Portanto,
o exercício do jornalismo profissional torna inevitável a colaboração e
participação de pessoas comuns aglutinadas em redes ou comunidades, cujo
objetivo é produzir informações, e não lucros, como nas plataformas digitais.
Só que a parceria entre jornalistas e usuários de redes sociais vai exigir uma
série de mudanças na cultura profissional:
1. O jornalismo deixará de ser a atividade
que sabe o que é bom para o público;
2. O jornalista terá que desenvolver um novo
tipo de relacionamento com as pessoas para poder identificar suas verdadeiras
necessidades informativas e poder funcionar como um curador de notícias, na
hora de flagrar fake news ou desinformação;
3. A sustentabilidade do jornalismo
dependerá da parceria, inclusive financeira, com o público e não dos anúncios;
4. Será indispensável existir uma confiança
total entre as pessoas e o jornalismo, porque sem ela ninguém vai querer tirar
dinheiro do próprio bolso para pagar por notícias;
5. Caberá ao jornalismo mostrar às pessoas
comuns porque a informação se tornou tão importante na era digital e como elas
poderão usá-la em benefício próprio.
A busca
de um novo tipo de relacionamento entre jornalismo e as pessoas ganha uma
relevância ainda maior porque donos de plataformas digitais como Elon Musk já
não se contentam apenas em acabar com a influência da imprensa convencional,
outrora conhecida como o ‘quarto poder’. Ao se associar a Donald Trump, próximo
presidente dos Estados Unidos, Musk já deixou claro que seu objetivo é
transformar as plataformas em um poder político alternativo, numa outra
internet, só que privatizada.
Fonte:
Opera Mundi/Observatório da Imprensa
Nenhum comentário:
Postar um comentário