Palavra de Sá

Cian Barbosa: Idiocracia digital e o totalitarismo do entretenimento

Dentre os muitos aspectos da digitalização contemporânea, um deles é tão presente quanto tácito. Com a plataformização generalizada, as mídias digitais passaram a organizar, a partir de redes proprietárias, a circulação da informação condicionada a formatos determinados e cada vez mais homogêneos. Umas das características desse processo é a submissão de toda diferença qualitativa das informações e conteúdos à forma das redes estruturadas a partir de princípios da propaganda e do condicionamento, de inspiração behaviorista na sua origem (levando ao que pode ser chamado de behaviorismo de dados hoje), além da parametrização algorítmica, voltada para a captura da atenção, que automatiza a distribuição dos conteúdos, sua circulação e alcance. Isso descamba no imperativo do engajamento, que acaba produzindo aberrações midiáticas decadentes, com consequências mais sérias do que pode parecer em uma análise menos atenta.

A demanda pelo engajamento e pela captura da atenção organiza, nas redes, a produção de ganchos, formatos, clichês e cacoetes que passam a compor a própria estética dos conteúdos midiáticos de redes como o Instagram e o Tik Tok, onde a “produção de conteúdos” turva a distância entre consumidor e produtor. Ao mesmo tempo, a necessidade de ampliar uma base cativa de “seguidores” – um termo revelador, que poderia ser levado mais a sério em suas implicações e polissemias – tende à adesão e reprodução acrítica de tendências que, por outro lado, parecem se tornar cada vez mais apelativas. O exagero, o absurdo, o ridículo e, por vezes, até mesmo o risco, tornam-se instrumentos da própria demanda por engajamento, revelando dimensões perversas desse imperativo.

Assim, todo tipo de conteúdo, toda gama de gêneros, assuntos, temas, toda a variedade de questões possíveis; tudo é achatado sob a lógica da tela e do scroll infinito, onde receitas culinárias, músicas, piadas, cortes de filmes, entrevistas, escândalos políticos, manifestações culturais, polêmicas baratas, imagens de destruição e morticínio em guerras, dentre tantas outras coisas extremamente discrepantes em termos qualitativos, são dispostas lado à lado de acordo com a metrificação do usuário, orientada para mantê-lo engajado, aumentando seu “tempo de tela” – o tempo de tela médio dos brasileiros hoje, a propósito, excede 9 horas diárias, passando o tempo médio de sono e sendo um dos maiores registrados mundialmente.

Essa justaposição de conteúdos completamente díspares, que chega a ser um tanto quanto obscena, implica também em outra tendência: cada vez mais, todas as coisas são organizadas a partir da forma e pelo imperativo do entretenimento. De canais esportivos até debates políticos, passando por programas culturais e notícias econômicas, chegando enfim na divulgação científica e até mesmo na comunicação de políticas governamentais: tudo precisa tornar-se entretenimento. Assim, a esfera do entretenimento se expande e passa a formatar, em alguma medida, praticamente todas as outras. Não apenas formatar; os princípios do entretenimento passam a infiltrar diversos campos, inclusive aqueles onde a lógica própria é (ou deveria ser) radicalmente oposta a tais princípios.

A incompatibilidade entre o entretenimento enlatado e o debate sobre a vida política de um país ou o estatuto corrente de um genocídio são (ou deveriam ser) auto-evidentes, mas a pervasividade do entretenimento generalizado parece descambar para um cinismo geral de ordem “prática”, uma espécie de realismo midiático: é mais fácil imaginar o fim do mundo do que o fim do midiatismo digital de plataformas. Absolutamente tudo deve ser submetido ao princípio do entretenimento porque essa é a regra imutável do jogo e, assim, produzindo conteúdos, produz-se também seus consumidores com uma promessa de “politização” pelo entretenimento “político”; com a promessa de criticidade pela espetacularização da “crítica”; tendo como justificativa de efetividade o argumento mais tecnocrático possível: números, alcances, estatísticas, dados, tabelas, gráficos. Somos impelidos a nos tornar empreendedores de nossas próprias audiências, sem sequer questionar isso. 

Vemos isso hoje nos “debates” políticos em canais do Youtube, que são pensados, em primeiro lugar, para produzir cortes de vídeos curtos viralizáveis, fomentar engajamento e angariar seguidores para distintos membros. Não há política aí, ao menos não em qualquer sentido emancipatório. É assim desde a parceria entre “comunicadores”, que são fundamentalmente influenciadores, até os formatos “berlinda” onde, em uma espécie de gangbang ideológico, uma pessoa precisa “debater” com outras vinte que sustentam uma posição contrária. É curioso inclusive como o crescente moralismo das últimas gerações, com sua famosa retórica anti-pornografia, parece autorizar a dissipação de características reprimidas do excesso pornográfico a muitas outras formas de “conteúdo” – que são muitas vezes moralmente condenáveis, apesar de não serem sexualmente obscenos.

O assim chamado “debate público”, cada vez mais organizado por empresas e plataformas privadas que têm como princípio a parametrização voltada à lógica da mercadoria, passa à radicalização de tendências que já eram presentes no século passado, mas agora se agudizam, na medida em que não só os espaços para tratar de assuntos complexos passam a ser cada vez mais suprimidos, mas as próprias condições de possibilidade para lidar com a complexidade são minadas de saída, por dentro. A redução da atenção, a aceleração da produção e circulação de informação, a imediatez, o hiper-estímulo e a espetacularização somam-se ao totalitarismo do entretenimento: aquilo que não é moldado para entreter, não interessa, perde espaço, por vezes não é sequer produzido por não atender às demandas do consumo vazio. Assim, a própria esfera política é corroída pela lógica do entretenimento, que se torna o próprio meio estético de implosão do político. Um exemplo recente desse colapso de absurdos é o Ultimate Fighting Championship, o UFC, do trumpista Dana White, ter sido levado para dentro da própria Casa Branca: o espetáculo contemporâneo de gladiadores passa a ocorrer na sede da presidência estadunidense. 

O exercício da reflexão e do pensamento crítico, basilares para qualquer formação de pensamento real e para todo processo de politização, dependem justamente de um espaço negativo, de lacunas e hiâncias que por vezes são angustiantes, de tempo e espaço que não sejam decompostos pela fragmentação oriunda do enxame de estímulos constantes. Ao mesmo tempo, uma característica central do entretenimento é a abordagem do espectador enquanto consumidor passivo, algo diametralmente oposto com o que seria necessário para lidar com assuntos complexos, sensíveis, com a formação política e o debate teórico, as disputas ideológicas e os temas centrais para o trato da chamada “coisa pública”. A digitalização, somada à infraestrutura digital da informação, que se reduz a um restrito monopólio de algumas poucas empresas, também é capaz de produzir pseudo-relevâncias – tanto de assuntos quanto de personalidades.

Esse é inclusive parte do mercado midiático das redes e de seu apelo: a “oportunidade” de todos disputarem uma posição de destaque no horizonte da influência de pequenas, médias ou grandes massas, desde que se dobrem ao totalitarismo da forma espetacular de entretenimento vazio que deve ser o imperativo obedecido em todas as esferas. Os efeitos disso são evidentes, apesar de cinicamente ignorados: o esvaziamento, a superficialidade, a ridicularização, a infantilização do “público”, ganham escala e atualização imprescindíveis. A indústria digital da imbecilização é não só efeito, mas o objetivo final do entretenimento totalitário.

Como na comédia pastiche de 2006, Idiocracy, onde um imbecil médio é congelado por um experimento científico, acordando 500 anos no futuro, onde confronta-se com a imbecilidade geral das massas e, por contraste, parece um gênio, temos hoje a aceleração desse cenário fictício, em uma dimensão que pretende-se cômica mas é cada vez mais trágica, a começar pelo lapso temporal: não foram necessários 500 anos, mas apenas duas décadas de aceleração do complexo digital global para nos encontrarmos às portas do reino da idiotia.

Nossa crítica aqui, todavia, não deve ser lida como uma defesa elitista do pensamento, e sim como um alerta de que, para podermos desfrutar da frivolidade necessária, do humor idiota e da imbecilidade pueril que, por muitas vezes, nos resgata da dimensão acachapante de uma realidade global em vias de colapso (afinal, todos deveriam ter o direito de desfrutar de alguma bobagem ou futilidade vez ou outra), é fundamental reconhecermos que a generalização dessa mesma imbecilidade, por vezes, é o próprio pavimento para o colapso do qual ela supostamente nos alivia.

•        O que é violência algorítmica e como enfrentar esse problema

Há dez anos, o influenciador digital e cientista da comunicação Christian Gonzatti, de 33 anos, denuncia a violência algorítmica, argumentando que os algoritmos de redes sociais costumam dar menos visibilidade a alguns conteúdos de temática LGBTQIA+ produzidos por ele sem transparência quanto aos termos que seriam supostamente "proibidos" pelo sistema.

Gonzatti, que também é professor na Universidade do Vale do Rio dos Sinos (Unisinos), começou a publicar conteúdos culturais classificados como "nerd" dentro do segmento LGBTQIA+ em um canal chamado Viado Nerd.

"O algoritmo não lê contexto. Não via ‘viado' como uma ressignificação, da maneira que historicamente o movimento faz a partir de termos criados originalmente para difamar e caluniar. A página começou a ser denunciada e a plataforma as acatou, como se o espaço fosse de veiculação de discursos de ódio", recorda ele.

De lá para cá, mesmo rebatizando o projeto de Diversidade Nerd, ele continua sendo frequentemente classificado de forma errônea pelas plataformas ou, acredita, muitas vezes tendo seus posts rebaixados em relevância conforme algumas terminologias adotadas. "Se coloco a palavra gay ou lésbica na legenda, por exemplo, o alcance é menor", afirma.

Esse não é um caso específico. Há violência algorítmica quando sistemas de reconhecimento facial classificam de forma pejorativa traços ligados a etnias não brancas, quando a inteligência artificial (IA) produz e distribui deep fakes para destruir a reputação de alguém e até quando modelos automatizados buscam interferir no comportamento das pessoas.

"Muitas vezes estou já dirigindo há 10 horas, 12 horas, sem parar e, quando penso em encerrar o dia, recebo mensagem no aplicativo que estou a uma corrida de ganhar um bônus. Quando vejo, fico 14 horas trabalhando direto, sem parar nem para comer", conta um motorista de aplicativo que atua em São Paulo – mas pede para não ser identificado.

"Neste caso, os algoritmos forçam as pessoas a aumentar a produtividade de um jeito que não reconhece os limites naturais da humanidade. É violência", afirma o cientista da computação e jornalista Alexandre Gonçalves, professor e pesquisador na Universidade de Illinois Urbana-Champaign, nos Estados Unidos.

<><> Agressão automatizada

Professor de mídia e democracia na Universidade de Maryland, também nos Estados Unidos, o jornalista Daniel Trielli explica que violência algorítmica é um "tipo de agressão ou ataque que depende ou se integra a sistemas computacionais automatizados". Isto inclui não só algoritmos de redes sociais, mas também plataformas de vigilância digital e ferramentas de inteligência artificial. Esses meios podem intensificar os modos tradicionais de violência e também possibilitam novas maneiras de violência.

O exemplo mais corriqueiro seria a disseminação de fake news via redes sociais. "Quando alguém espalha esse conteúdo, os algoritmos amplificam o alcance de mensagem que têm apelo emocional", explica Trielli.

O termo violência algorítmica passou a ser utilizado no início da década passada – por acadêmicos, intelectuais e artistas engajados na problemática. Pesquisadores na Unisinos, a jurista e professora Haide Maria Hupffer e o advogado Gabriel Cemin Petry explicam que o termo foi fundamentado com propriedade a partir do livro Topologia da Violência, do filósofo Byung-Chul Han.

"Não há uma pessoa única que tenha ‘inventado' a expressão. Ela faz parte de um campo mais amplo de debates sobre discriminação algorítmica, opressão, racismo, colonialismo de dados e injustiça automatizada", comenta a assistente social Bruna Irineu, professora na Universidade Federal de Mato Grosso e coautora do livro Violência Algorítmica e Vidas LGBTQIAPN+.

No cerne da questão está o fato de que os algoritmos não são neutros. Criados por pessoas, empresa e instituições que foram alçadas a ocupar papéis hegemônicos em sociedades alicerçadas em pilares de racismo, sexismo e outras desigualdades estruturais, esses sistemas tendem a reproduzir este "pensamento" preponderante. Afinal, de forma muito simplificada, as ferramentas de inteligência artificial são treinadas a partir da exposição de milhões de conteúdos e decisões oriundos da mente humana.

"Podemos dizer que violência algorítmica acontece quando sistemas automatizados, plataformas digitais, inteligências artificiais, mecanismos de busca, redes sociais ou bancos de dados produzem, reproduzem e amplificam desigualdades sociais", define a antropóloga Larissa Pelúcio, professora na Universidade Estadual Paulista (Unesp) e coautora do livro Violência Algorítmica e Vidas LGBTQIAPN+.

"Ela aparece quando uma tecnologia decide quem será visto, quem será silenciado, quem será considerado suspeito, quem terá acesso a oportunidades, crédito, emprego, circulação, reconhecimento ou proteção", acrescenta.

Irineu completa frisando que a violência algorítmica não cria a desigualdade, mas organiza, amplifica, potencializa, automatiza e dá mais relevância a uma desigualdade que já estava presente na sociedade.

<><> Discriminação digital

No Brasil, o problema é potencializado por diversas razões. Pelúcio ressalta que a sociedade brasileira já é marcada por formas "naturalizadas de violência institucional". No caldo nacional, há uma combinação peculiar entre "intensa presença digital e profundas desigualdades sociais".

Para a antropóloga, são ingredientes fundamentais para conferir gravidade à questão. Ela frisa ainda que há, no panorama brasileiro, uma "centralidade da violência contra populações negras, indígenas, periféricas e LGBTQIAPN+".

Hupffer e Petry dão um exemplo que ilustra o problema. Em 2021, o Conselho Nacional de Justiça criou um grupo de trabalho para realizar um diagnóstico em processos criminais para evitar condenação de inocentes. Partiram de estudos da Defensoria Pública do Estado do Rio de Janeiro que demonstravam os efeitos do racismos estrutural no sistema, em âmbito nacional. Segundo a pesquisa, em 83% dos casos de reconhecimento facial equivocado que levou pessoas inocentes à prisão preventiva, os encarcerados eram pessoas negras.

Se dados assim forem usados para treinamento de algoritmos, argumentam os pesquisadores, a consequência seria a automatização de falhas que prejudicam os afrodescendentes. É o racismo estrutural, portanto, se tornando racismo digital.

Além disso, para as pesquisadoras Pelúcio e Irineu há a questão do "pânico moral" ligado às plataformas digitais. "Os algoritmos de engajamento tendem a favorecer conteúdos que provocam medo, indignação e conflito. Isso faz com que discursos de ódio e desinformação ganhem escala e velocidade", pontua Irineu.

O cientista da computação Gonçalves explica que esse cenário tende a ser mais complicado no Brasil pelo papel periférico que o país ocupa na construção dessas tecnologias. Como é um setor que importa muito as soluções, os dados muitas vezes não são adequados para as diferenças demográficas brasileiras. "Pode gerar decisões ainda mais enviesadas", argumenta ele.

Mas os juristas Hupffer e Petry lembram que o Brasil "explicitamente reconheceu" a proteção de dados pessoais como um direito fundamental, a partir de emenda constitucional de 2022. Além disso, a Lei Geral de Proteção de Dados do país carrega o princípio da não discriminação. Ou seja: ao menos no arcabouço jurídico e legislativo, há um amparo.

<><> Educação e regulação

Não há uma panaceia para resolver o problema. Há um conjunto de medidas que precisam ser tomadas. A começar pela educação, os esforços de letramento digital em busca do exercício consciente de uma cidadania online. "É muito importante educar para que todos entendam a maluquice que é o fato de darmos todos os nossos dados para as empresas de tecnologia", comenta Gonçalves.

Especialistas também cobram regulação do setor das big techs. "Precisamos de leis e políticas públicas que responsabilizem plataformas e empresas de tecnologias por danos algorítmicos", afirma a antropóloga Pelúcio. O influenciador Gonzatti também defende que as plataformas tenham mais transparência em suas diretrizes algorítmicas.

Em um espectro mais profundo, Pelúcio e Irineu entendem ser necessária uma técnica amparada por justiça social, em um esforço envolvendo auditorias independentes e revisão em bases de dados com participação de grupos afetados pelo desenho das tecnologias. "Não se trata de corrigir viés como se fosse um pequeno defeito técnico, mas de reconhecer que muitos sistemas são construídos sobre desigualdades históricas", afirma Irineu.

 

Fonte: Opera Mundi/DW Brasil