Palavra de Sá

Joao Pedro Malar: A questão da transparência no uso de IA - o caso Folha de S. Paulo

Um assunto que dominou as rodas de conversas dos jornalistas recentemente foi a coluna da atual ombudsman da Folha de S. Paulo Alexandra Moraes sobre o uso de ferramentas de inteligência artificial generativa por uma das colunistas do jornal. A revelação gerou diversas discussões, críticas e defesas, algo esperado considerando o quão quente o tema é atualmente.

A explosão da IA generativa desde o final de 2022 também atingiu o jornalismo, com múltiplos impactos. De novas disrupções para modelos de negócios a temores (e concretizações) de substituição de jornalistas pelas ferramentas, poucos assuntos são um gatilho tão grande para jornalistas, com muitos enxergando a tecnologia como mais uma ameaça para uma profissão cada vez mais questionada, atacada e precarizada.

Para que não acompanhou o caso, um breve resumo: tudo começou quando um leitor da Folha entrou em contato com Moraes criticando uma das colunas da empresária Natalia Beauty, e afirmando que o texto parecia ter sido escrito por uma IA. Procurada por Moraes, a empresária confirmou o uso e o defendeu.

Segundo Natalia Beauty, a ferramenta de IA não é usada para gerar textos do zero, mas sim para estruturar e organizar as ideias da empresária compartilhadas via áudio. Nesse sentido, a inteligência artificial seria auxiliar, e não protagonista, no processo de produção da coluna.

Longe de querer compartilhar um juízo de valor sobre a qualidade dos textos e o impacto da adoção da IA no processo, acredito que o caso elenca uma série de considerações importantes.

A primeira é que o caso não é o primeiro, e não será o último, de um colunista que, na prática, não está exatamente escrevendo os conteúdos do seu espaço no jornal. Uma prática pouco divulgada junto ao público, mas bastante conhecida entre jornalistas, é o uso dos chamados ghost writers, profissionais pagos para escrever os textos sem a atribuição de autoria.

A substituição de um ghost writer por uma ferramenta de IA, por mais que seja um triste sinal dos tempos, não é exatamente uma surpresa. A novidade, talvez, seja o fato das “marcas de estilo” das ferramentas de IA deixarem mais óbvia a autoria terceirizada dos textos, o que acaba criando possíveis constrangimentos para o suposto autor.

Mas, a meu ver, temos aqui um problema maior, e mais complexo. Desde 2024, venho pesquisando junto com o grupo de pesquisa COM+, da ECA-USP, a adoção de ferramentas de IA por veículos jornalísticos e, principalmente, as políticas editoriais públicas que delimitam o uso dessas ferramentas.

Em linhas gerais, essas políticas são importantes para definir os usos liberados dessas ferramentas, quais poderão ser usadas, quando poderão ser usadas ou não, por quem, processos de verificação e supervisão e políticas de identificação desses usos junto ao público. Cumprem, assim, uma função dupla, orientando tanto o público quanto os próprios funcionários sobre o que esperar do uso dessas ferramentas.

A Folha de S. Paulo divulgou uma proto-política de uso de IA em 2023, no formato de um verbete no seu tradicional Manual de Redação. Em resumo, o veículo autoriza o uso das ferramentas, responsabiliza o jornalista por possíveis problemas decorrentes, exige revisão e verificação e reconhece as “diversas oportunidades para aumentar a eficiência” do veículo.

Em comparação com outros veículos, a política da Folha chama atenção por três fatores. Primeiro, apresenta uma das posturas mais flexíveis e livres em relação ao uso por seus funcionários, focando nos supostos aspectos positivos da tecnologia. Segundo, é uma das menores e mais vagas dentre as divulgadas (não sabemos, porém, se a política interna para os funcionários é mais extensa). Terceiro, não traz nenhuma obrigação de identificar nas matérias o uso dessas ferramentas, e como foram usadas, com exceção do uso para produzir imagens.

A falta de identificação é, na prática, uma falta de transparência, já que o leitor nunca sabe quando está lendo um texto potencialmente produzido ou “retocado” por uma IA. O tópico não estava no radar do debate público, mas o caso recente trouxe o tema à tona da pior forma possível.

O erro, porém, está mais com o veículo. Ao primar pela falta de transparência, contrata-se uma crise potencial dupla: críticas pelo uso em si da ferramenta e pela falta de identificação desse uso, o que acaba “furando” um contrato de expectativas entre o público e o veículo. Se a identificação de uso fosse obrigatória a priori, talvez o caso não tivesse atraído na mesma magnitude a polêmica e críticas resultantes.

Jornais como a Folha constantemente divulgam seus quadros de colunistas como um dos motivos para assinar os veículos. Seria, em teoria, a forma de ter acesso a análises exclusivas, profundas, únicas. Para parte do público, o uso de IA pode ameaçar tudo isso. Além disso, a falta de identificação de uso de IA pode colocar outras produções do jornal em xeque para essa fatia do público, que agora terá essa “pulga atrás da orelha”.

A situação de Natalia Beauty é diferente pelo uso acessório da ferramenta, algo que merece um debate à parte. Mas, pessoalmente, acredito que explicita uma necessidade clara da Folha, e de outros veículos com posturas semelhantes, atualizarem suas políticas de uso de IA com a obrigatoriedade de identificação de uso para além da criação de imagens, em especial na produção de textos (e incluindo dos colunistas, que ficaram de fora do verbete de 2023).

Em um momento em que o jornalismo é alvo de ataques intensos e enfrenta uma forte perda de credibilidade — com impactos comerciais diretos — é preciso primar pela manutenção da boa relação com o seu público. E, neste e em outros casos, a transparência parece ser o melhor caminho para se evitar novas crises.

•        Caso Washington Post revela tendências na diferenciação da imprensa. Por Carlos Castilho

O mega passaralho  que dizimou a redação do The Washington Post deu um novo significado ao lema do jornal norte-americano: “A democracia morre no escuro”. Além de mandar sumariamente embora 300 profissionais, foram fechados cerca de 20 editorias e 10 postos de correspondentes no exterior. A brutal decisão de Jeff Bezos, o dono do jornal, fornece a prova mais convincente de que a imprensa está irremediavelmente dividida entre publicações locais e globais.

Quase todas as editorias desativadas, porque ficaram sem pessoal, cobriam notícias locais na capital, Washington, e arredores, bem como temas especializados como esporte, cultura, arte, moda e gastronomia. Os sobreviventes do massacre funcional se concentram basicamente na política nacional, na economia e na cobertura de questões diplomáticas relacionadas a temas europeus, russos e chineses.

A agenda de notícias do The Washington Post será, daqui por diante, mais concentrada na luta pelo poder nos Estados Unidos, relegando a um plano secundário as preocupações locais, o que deixará os leitores do jornal no “escuro” no debate sobre questões relacionadas à democracia, contrariando o lema do jornal.

A divisão, obviamente, não passou pela cabeça de Bezos, um bilionário dado a excentricidades e que não está nem aí para o futuro do jornalismo. Suas duas grandes preocupações são a inteligência artificial nos negócios da sua rede de comércio eletrônico Amazon e a corrida espacial como aposta numa futura colonização planetária.

<><> O circuito do poder mundial

Ele viu que o jornalismo atual deixou de ser uma fábrica de dólares como foi até a virada do século e nem o apoio político a Trump funcionou como Bezos esperava. Assim, ele atirou no que viu, a perda de dólares, e matou o que não viu, o futuro do jornal que ele comprou em 2013 por 250 milhões de dólares para alavancar o seu ego no mundo empresarial e na política. O The Washington Post, também conhecido pela sigla WaPo, terá agora que disputar leitores entre grandes empresários, políticos, lobistas, governantes estrangeiros e formadores de opiniões.

Trata-se de um público já dominado pelo The New York Times e Wall Street Journal, sem falar nas dezenas de newsletters políticas e influenciadores de alto nível que ocupam os grandes fluxos informativos no chamado Beltway Circuit, a área de Washington onde se concentram os principais núcleos de poder dos Estados Unidos. É uma escolha editorial com desenlace incerto, porque de seu sucesso dependerá a sobrevivência financeira do que restou do The Washington Post. E tudo indica que a polarização entre seguidores e desafetos do governo Trump pode acabar empurrando o jornal para o lado da direita norte-americana.

A segmentação entre imprensa local e global confirmada pela crise no Post ajuda a entender um pouco mais o futuro do jornalismo. A imprensa global atende os interesses das elites e tomadores de decisões, envolvidos na guerra de narrativas visando a tomada do poder político, econômico e militar. É o que já assistimos hoje na maior parte da imprensa mundial. Este segmento noticioso não terá problemas de sustentação financeira porque sempre haverá algum lobby, partido, governo ou empresa disposto a pagar anúncios e narrativas que favoreçam seus interesses. Neste segmento a informação é uma arma política e o jornalismo uma ferramenta executiva.

<><> Bilhões de pessoas no ‘escuro’

O grande espaço novo que se abre é o do noticiário local, cuja importância cresce na medida em que a imprensa convencional se concentra cada vez mais na temática global e no acompanhamento dos grandes mercados financeiros. O jornalismo local tem diante de si um público órfão em matéria de dados, fatos e eventos relacionados ao seu cotidiano e ao seu orçamento doméstico. São bilhões de indivíduos, no mundo inteiro, que estão literalmente no escuro em matéria de participação democrática porque não dispõem de ferramentas informativas locais.

O futuro da imprensa e do jornalismo local é fascinante, mas seu presente é desafiador, para dizer o mínimo. A implantação de um ecossistema informativo local em regiões urbanas e rurais deve levar meses ou anos, porque depende da população entender o valor da notícia no seu orçamento doméstico e no seu dia a dia. Depende também da superação da desconfiança em relação à imprensa, de aceitar o jornalismo como parceiro, admitir a necessidade de pagar pelo noticiário local e adotar uma postura mais crítica em relação ao material divulgado pelos influenciadores.

Por seu lado, os jornalistas também terão que mudar seu comportamento no relacionamento com pessoas comuns. Eles passarão a ser parceiros, portanto iguais, deixando de ser aqueles que sabem o que é bom para o público. A meta de cada profissional será a prestação de serviços às comunidades, em lugar de almejar um emprego em Brasília, São Paulo ou Rio de Janeiro ou se tornar um correspondente estrangeiro no circuito Londres, Paris, Washington e Nova Iorque.

Os 300 profissionais demitidos pelo The Washington Post provavelmente terão que fazer uma difícil opção em termos de sobrevivência financeira. A capacitação adquirida na produção de notícias globais lhes dá as credenciais para buscar realização profissional na cobertura jornalística comunitária ou em áreas especializadas como   esportes, cultura, gastronomia ou política municipal. O dilema será a adaptação ao novo meio e conseguir alguma fonte suplementar de renda para recompor seu orçamento.

A divisão da imprensa, escancarada pelo passaralho do WaPo, é um revés para todos os que acreditam que o jornalismo tem uma função essencial no empoderamento das pessoas comuns no combate à desinformação alimentada pela guerra de narrativas promovida pelos participantes da luta pelo poder nas altas cúpulas da política e da economia.

•        A opacidade da IA e o risco de confiar no que não entendemos. Por Suzy Azevedo

O avanço da inteligência artificial marca uma mudança inédita: passamos a depender de respostas cujo funcionamento não compreendemos. Diferentemente de tecnologias anteriores, que podiam ser explicadas passo a passo, muitos sistemas atuais operam por processos internos opacos e difíceis de interpretar em detalhe, mesmo para especialistas que compreendem seu funcionamento geral. Esse fenômeno é conhecido na literatura científica como “caixa-preta algorítmica”. Ainda assim, essas ferramentas são cada vez mais consultadas para tarefas intelectuais, da escrita à análise de dados. O paradoxo é evidente: quanto mais recorremos a elas, mais confiamos em resultados cujo mecanismo permanece fora do nosso alcance.

Essa dependência afeta diretamente nosso modo de julgar informações. O cérebro humano tende a confiar mais quando consegue perceber a lógica de um processo; quando essa lógica não é visível, passa a recorrer a atalhos mentais para decidir em que acreditar. Esses atalhos (conhecidos como heurísticas) estão ligados a fenômenos bem documentados na psicologia, como o viés de autoridade, o efeito halo e a fluência cognitiva.

Sistemas de inteligência artificial acabam se beneficiando desse ponto cego cognitivo: produzem respostas claras e plausíveis mesmo quando o processo que as gerou não é acessível à interpretação humana. Casos recentes ilustram esse risco. Em 2023, um advogado apresentou em tribunal um documento elaborado com auxílio de inteligência artificial contendo decisões judiciais inexistentes. As citações eram plausíveis, bem redigidas e juridicamente verossímeis, mas falsas. O erro só foi descoberto quando o juiz tentou localizar os precedentes citados no processo contra a companhia aérea Avianca. Episódios assim mostram como plausibilidade formal pode ser confundida com confiabilidade factual.

Essa vulnerabilidade aumenta porque esses sistemas não apenas informam: apresentam respostas em tom seguro e adaptado à linguagem do interlocutor, sinais que a mente associa automaticamente a credibilidade. Não é o conteúdo que primeiro convence, mas a forma. Estudos em psicologia cognitiva mostram que julgamentos de confiabilidade costumam surgir antes da análise racional detalhada. Ao produzir linguagem que transmite segurança, sistemas automatizados ativam atalhos mentais que reduzem o impulso crítico. O efeito é sutil: passamos a confiar antes mesmo de compreender.

Quando respostas persuasivas surgem antes da compreensão, o impacto deixa de ser individual e passa a ser coletivo. O critério de confiança começa a migrar da verificação para a plausibilidade. Em vez de perguntar se algo é verdadeiro, pergunta-se se parece verdadeiro. Essa mudança altera o próprio julgamento público: não vence quem explica melhor, mas quem produz a resposta mais convincente. Em ambientes mediados por sistemas opacos, a evidência corre o risco de ser substituída pela aparência.

O marco decisivo da inteligência artificial talvez não tenha sido quando máquinas aprenderam a responder, mas quando humanos passaram a aceitar respostas sem exigir explicação. Quando a confiança substitui a compreensão, o critério de verdade deixa de ser conhecimento e passa a ser persuasão. Uma sociedade que troca explicação por plausibilidade não perde apenas rigor intelectual, transfere o próprio julgamento a quem apenas pareça confiável.

 

Fonte: Observatório da Imprensa