Palavra de Sá

A indústria global de falsos médicos feitos por IA que usa o medo para viralizar entre idosos no Brasil

Celi Ferreira, de 82 anos, decidiu não fazer a cirurgia de catarata recomendada por seu oftalmologista. Avaliou que ainda enxerga bem e que o procedimento não seria necessário.

Enquanto assistia a vídeos no YouTube, recebeu uma recomendação sobre o tema, narrada por um suposto médico que prometia proteger a visão por meio do consumo de frutas.

"Não me animei [com a orientação do oftalmologista], pois ainda vejo bem. Agora vou seguir sua orientação", escreveu ela nos comentários do vídeo.

O médico do YouTube não existe. É um avatar criado por inteligência artificial.

Embora o YouTube sinalize que o conteúdo foi gerado por IA, o vídeo alcançou quase 300 mil visualizações e cerca de 300 comentários, muitos de pessoas como Celi, que buscam informações sobre saúde na terceira idade e acreditam estar recebendo orientação de um profissional de saúde real.

A publicação faz parte de uma estratégia adotada há pelo menos um ano por criadores de conteúdo em diversos países, que enxergam no público idoso um nicho lucrativo.

O modelo também se espalhou pelo Brasil, muitas vezes copiado e adaptado de canais estrangeiros e impulsionado por criadores brasileiros, que produzem e ensinam a produzir esse tipo de conteúdo.

O lucro pode vir tanto das visualizações no próprio YouTube quanto da venda de e-books e produtos anunciados nos canais.

Para aumentar a audiência, tutores ensinam a criar títulos e roteiros que despertem medo e sensação de urgência, levando o espectador a acreditar que corre um risco imediato à saúde e incentivando-o a assistir ao vídeo até o fim.

Segundo esses criadores, os idosos são um público ideal porque passam horas assistindo a vídeos longos, podem ter renda disponível para gastar e tendem a confiar em quem promete ajudá-los.

A produção desse tipo de material pode ainda configurar crimes, segundo professores de direito ouvidos pela reportagem, como falsa identidade e exercício ilegal da medicina.

<><> 'Achei que fosse um médico real'

Celi disse à BBC News Brasil que a decisão de não fazer a cirurgia nos olhos não foi motivada pelo vídeo e que costuma seguir apenas dicas de alimentação encontradas no YouTube.

Ela se surpreendeu, porém, ao descobrir pela reportagem que o médico do vídeo não existia.

"Esse vídeo apareceu para mim. Uso muito o YouTube. Não percebi que era inteligência artificial. Achei que fosse um médico de verdade, até porque o que ele falava parecia plausível. Não eram coisas absurdas. Pela minha idade, até me considero esperta com computador, mas ainda não sei distinguir o que é IA e o que é real", afirmou.

Ela contou à reportagem que esse tipo de conteúdo aparece com frequência em seu feed porque saúde é um dos assuntos que mais pesquisa na internet. Seus comentários estão espalhados por vários canais de IA do tipo.

"Quando entro, aparecem vários vídeos. Aí acabo clicando para assistir."

Celi disse que nunca seguiria recomendações de um vídeo para tomar ou interromper medicamentos e que é acompanhada pelo mesmo médico há mais de 20 anos.

"Jamais seguiria um estranho. Eu sigo o meu médico."

Ela afirma, porém, que coloca em prática orientações sobre alimentação.

"Há canais que falam sobre prevenção de quedas, sarcopenia, quais frutas e vegetais fazem bem... Essas dicas eu sigo porque parecem ser verdade."

A BBC News Brasil chegou até Celi depois de coletar cerca de 27 mil comentários publicados nos vídeos desses canais no YouTube e utilizar uma triagem para identificar relatos de mudanças de comportamento relatados por usuários.

Dezenas de comentários atribuídos a pessoas que dizem ser idosas relatam ter seguido orientações dos "médicos" gerados por IA, seja iniciando tratamentos caseiros, seja interrompendo medicamentos já prescritos.

Em um deles, um usuário que afirma ter 85 anos diz ter trocado o omeprazol por batata-doce. Em outro, uma mulher de 77 anos afirma que não vai ao médico há três anos e agradece ao "médico" de IA pelos conselhos sobre Alzheimer.

Há também o relato de uma mulher de 80 anos que diz acordar cinco vezes por noite para urinar.

Ela conta que interrompeu o medicamento prescrito por sua ginecologista e passou a tomar, por conta própria, 20 gramas de óleo de abóbora por dia.

<><> 70 milhões de visualizações

Esta reportagem partiu de uma pesquisa da organização sem fins lucrativos CTRL+Z, que mapeou 29 canais em português dedicados a esse tipo de conteúdo, a maioria deles criada no último ano.

Juntos, esses canais já somam ao menos 70 milhões de visualizações, de acordo com a CTRL+Z. A produção dos vídeos ocorre em "escala industrial", segundo a organização: são cerca de 10 vídeos por dia e aproximadamente 267 mil visualizações diárias.

O levantamento aponta ainda indícios de uma operação em rede — a reportagem encontrou vídeos com conteúdo idêntico publicados em diferentes canais do mapeamento.

A partir desses dados, a BBC localizou vídeos com títulos praticamente iguais em inglês e espanhol, além de tutoriais que ensinam a produzir material para esse nicho, conhecido como "saúde sênior".

Ele é apresentado como uma forma de faturar milhares de reais por mês trabalhando sozinho, apenas com um computador e ferramentas gratuitas de IA.

Tatiana Dias, jornalista e diretora de programas da CTRL+Z, diz que viu um dos vídeos por acaso, e que os seguintes vieram por recomendação do próprio YouTube.

"Deixou claro que se tratava de uma rede organizada, com conteúdos que se retroalimentavam impulsionados pelos algoritmos de recomendação", disse.

Ela avalia que um dos principais achados da pesquisa foi o tamanho da rede.

"Isso mostra um problema massivo e premiado pelo YouTube com alcance e monetização. Porque não haveria esse tipo de conteúdo se não houvesse incentivo financeiro do YouTube para isso."

Para a organização, a remoção dos vídeos não resolve o problema. "Nossa ideia não é fazer (de graça) o trabalho que o Google/YouTube deveria estar fazendo, mas sim que essas plataformas sejam responsabilizadas legalmente por incentivarem e lucrarem com conteúdos nocivos para a saúde pública", diz Luã Cruz, diretor de litigância da CTRL+Z.

Em nota, o Google afirmou que todo o conteúdo do YouTube, inclusive gerado por IA, deve seguir as diretrizes da comunidade.

"Isso abrange nossas políticas sobre desinformação médica, que proíbem informações incorretas a respeito de prevenção e tratamentos capazes de causar, comprovadamente, danos graves no mundo real."

A empresa diz que adicionou rótulos a conteúdos gerados por IA "para garantir que os espectadores estejam informados sobre o que estão assistindo."

Após o contato da BBC News Brasil, o Google excluiu alguns dos maiores canais que aparecem no levantamento, que somavam cerca de 41 milhões de visualizações.

<><> Chá para gastrite?

Os canais seguem uma fórmula.

"Doutores" de aparência confiável, que podem ser homens ou mulheres, de jaleco branco e voz calma, falam diretamente para a câmera. Revelam um "segredo que não querem que você saiba", apresentam alimentos milagrosos e terminam pedindo curtidas, inscrições e, algumas vezes, a compra de um e-book.

O rosto e a voz são gerados por inteligência artificial. Os roteiros podem ser escritos por plataformas como o ChatGPT, a narração é produzida por ferramentas de voz sintética e as imagens também são criadas por IA.

A prática é uma versão dos chamados canais dark ou faceless (sem rosto), em que o criador não aparece nem utiliza a própria voz, prática que se popularizou em canais em inglês e foi impulsionada com a chegada da inteligência artificial, que reduziu custos de produção.

Os conteúdos dos canais de bem-estar para idosos misturam informações reais, exageros e pseudociência.

Um dos vídeos, por exemplo, fala sobre "o chá que pode curar a gastrite em 15 dias".

Para ser convincente, o falso médico de IA cita o caso de um paciente idoso que chegou ao seu consultório com gastrite severa e diagnóstico de H. pylori (bactéria que causa infecção no estômago ou duodeno) e que se recusava a tomar antibióticos. E que o convenceu a fazer um tratamento com plantas medicinais que funcionou.

Essa estratégia de citar pacientes com nomes se repete em diversos vídeos.

Jaime Zaladek Gil, médico gastroenterologista do Einstein Hospital Israelita, diz que o uso de chás pode até aliviar os sintomas, mas que a presença da bactéria exige o tratamento com antibióticos.

“O risco maior é a pessoa tomar substâncias que não são eficazes, que podem piorar o quadro ou até mesmo atrasar o diagnóstico. Ainda mais em pacientes idosos, que têm maior risco de lesões nessa área, mais graves. É necessária uma investigação, uma rede de diagnóstico melhor, não só um vídeo que fala que algo vai resolver todos os seus problemas", diz.

<><> Criadores podem responder por crimes de falsa identidade e exercício ilegal da medicina

Especialistas ouvidos pela BBC News Brasil afirmam que esse tipo de material pode levar a situações perigosas, ao desestimular tratamentos legítimos ou incentivar práticas sem respaldo científico.

"A saúde das pessoas é algo individualizado. Uma medicação ou orientação pode ser benéfica a uma pessoa e maléfica a outra, a depender das comorbidades, da interação com outros medicamentos. Vemos isso como um grande risco", diz o vice-presidente do Conselho Federal de Medicina (CFM), Jeancarlo Cavalcante.

O risco, segundo ele, é maior entre idosos, que podem deixar de buscar atendimento adequado — como visto pela reportagem nos relatos de idosos em diversos comentários dos vídeos.

Ele afirma que o Conselho pode denunciar esses conteúdos ao Ministério Público e à polícia.

Para Thiago Bottino, professor da FGV Direito Rio, o conteúdo em si não é crime — mas passa a ser quando o falso médico age como profissional.

"O problema é quando alguém que não é médico, seja pessoa real ou inteligência artificial, atua como médico, prescrevendo medicação, dizendo qual seria o tratamento adequado. É um caso de exercício irregular da medicina, que é crime previsto no Código Penal."

Ele acrescenta que os criadores também podem responder por falsa identidade ao se passarem por médicos sem avisar que são personagens de IA — algo comum nos vídeos analisados pela reportagem, em que os apresentadores alegam anos de experiência e relatam supostos casos de pacientes.

<><> Personagens de IA se apresentam como médicos de verdade

Uma análise da BBC News Brasil da descrição dos vídeos e das legendas mostra que praticamente todos os perfis tentam se passar por médicos de verdade, com afirmações de que possuem "anos de experiência" ou menções a títulos acadêmicos e especializações.

Filipe Medon, professor da FGV Direito Rio e coordenador adjunto do AI Hub, resume onde está o problema: "Você pode criar um canal que fale sobre conteúdos de medicina, pegue artigos científicos e fale sobre eles. O que você não pode, e aí que mora o dano, é criar uma persona que simula uma pessoa real e, a partir dessa simulação, enganar pessoas que, por conta desse engano, podem adotar condutas que causem danos à sua saúde."

Para ele, um aviso claro de que se trata de um personagem de IA mudaria a natureza do conteúdo.

Medon afirma ainda que o crime pode respingar nas próprias plataformas.

Com a recente decisão do Supremo Tribunal Federal (STF) sobre o Marco Civil da Internet, avalia ele, um avatar que finge ser médico pode configurar falsa identidade — o que torna o YouTube corresponsável caso não retire o conteúdo após ser avisado.

"A plataforma passa a ser responsabilizada civilmente se, após uma notificação extrajudicial, ela não retirar esse conteúdo."

A responsabilidade é ainda maior, segundo ele, quando há impulsionamento pago: nesse caso, a plataforma teria de remover os vídeos mesmo sem qualquer notificação, por se tratarem de contas inautênticas.

<><> Conteúdo é copiado e reproduzido em massa com apoio de IA

O conteúdo dos vídeos é, em boa parte, produzido em escala, sem qualquer revisão, em um esquema deliberado de copiar e adaptar roteiros com apoio de IA.

A BBC News Brasil identificou ao menos 50 vídeos em português com avatares de médicos que tinham títulos semelhantes aos de outros publicados em canais em outros idiomas dias ou até meses antes.

Algumas adaptações nem sequer trazem exemplos do Brasil. Citam supostos pacientes americanos, futebol americano e estatísticas de saúde dos Estados Unidos.

Identificamos que um mesmo roteiro foi reaproveitado entre canais sem sequer alterar a identidade apresentada pelo narrador.

Em um dos vídeos analisados, por exemplo, a voz se apresenta como uma médica cardiologista com mais de 15 anos de experiência, apesar do vídeo ter sido publicado em um canal que utiliza a identidade de um falso médico homem.

Essas situações não são por acaso.

Instrutores de criação de conteúdo com dezenas de milhares de seguidores ensinam como produzir canais com base na cópia e na produção em massa, para aumentar o número de visualizações.

Um dos tutoriais, por exemplo, ensina a capturar a tela de um canal em inglês, enviar a imagem ao ChatGPT e solicitar a criação de títulos e roteiros equivalentes em português. Há também o caminho inverso, de fazer em português e depois traduzir para outros idiomas.

"Vou mostrar a vocês um dos nichos mais lucrativos do YouTube, sem apresentadores, que está bombando no momento: o nicho de saúde e nutrição para idosos. Estes canais estão crescendo a uma velocidade insana, usando vídeos 100% criados por IA, avatares simples e edição básica. Mesmo assim, alcançam dezenas de milhares de inscritos em apenas alguns meses."

A descrição acima é de um vídeo publicado em novembro do ano passado pelo canal AI Maskman no YouTube. Tem 18 mil visualizações. A identidade de quem o produz não é divulgada.

"O público da terceira idade é enorme, pouco atendido e altamente receptivo. Essas pessoas assistem por mais tempo, compram mais produtos e confiam nos criadores de conteúdo que as ajudam com problemas reais, como pernas fracas, dores nas articulações, dificuldades para dormir, perda muscular e nutrição", explica o canal AI Maskman.

O mesmo canal ensina a fazer vídeos virais com personagens fictícios e até de acidentes de carro para viralizar, tudo feito com IA.

A página divulga em sua descrição um clube de criadores de conteúdo de IA com cerca de 6 mil membros. Há ainda um grupo no WhatsApp com dicas de como criar os vídeos que já tem quase 10 mil números cadastrados.

A BBC News Brasil tentou entrar em contato com o canal, mas não obteve resposta até o fechamento da reportagem.

<><> 'Não, não dá problema': brasileiros estimulam criação de vídeos e prometem ganhos elevados

A prática de ensinar outros criadores a fazer vídeos de IA para idosos também chegou ao Brasil.

Um desses instrutores é Jhef Coimbra, que tem 10,7 mil inscritos em seu canal. Ele cita ganhos de R$ 30 mil por mês e afirma que o uso de avatares de médicos gerados por IA não é um problema.

Ao mostrar um canal do tipo com uma médica falsa, ele diz:

"Antes que você pergunte: não, não dá problema. O YouTube, o que ele vai pegar mais é a questão da sua cópia, a questão de que você fala dentro do vídeo e o que você coloca dentro do link de afiliado."

O exemplo que ele cita leva para uma página que vende um "guia médico para proteger a próstata depois dos 60", com um avatar de médico gerado por IA.

A BBC procurou Coimbra por um número de WhatsApp que ele divulga em seu canal, mas não obteve resposta. Após o contato, o acesso ao vídeo foi bloqueado.

Outro canal no YouTube, Lucrando com IA, ensina como criar páginas que usam médicos gerados por IA e até a copiar outros perfis semelhantes com o ChatGPT.

"Muita gente não gosta desse nicho porque é um doutor e tudo mais. Mas pra quem não tem frescura e já quer entrar no nicho que monetiza fácil, você passando informações verdadeiras, ou seja, ajudando as pessoas, então você consegue monetizar."

A reportagem tentou entrar em contato com o canal por meio de um número de WhatsApp deixado pelo criador da página nos comentários, mas não obteve resposta.

<><> Objetivo é fazer espectador 'sentir algo forte' e 'realizar uma ação final'

Alguns dos tutores divulgam guias em texto com orientações sobre como falar com os chatbots para produzir o roteiro dos vídeos.

Um deles, compartilhado pelo canal Marcos de Castro, que tem 56 mil inscritos, sugere que o objetivo é "fazer o espectador sentir algo forte (medo, esperança, admiração, choque, inspiração, desconforto ou empatia), assistir até o fim e realizar uma ação final (comentar, compartilhar ou comprar)."

O canal Jhef Coimbra também cita em um dos seus vídeos modelos e estratégias de como pegar o espectador pelo medo. "Antes de se deitar, tome cuidado com isso. Cuidado para não morrer dormindo. Pegando realmente pesado."

Castro descreve o nicho em seus vídeos como uma "mina de ouro" que "monetiza rápido". Em uma das publicações, ele resume por que recomenda o público idoso:

"Esse é o melhor público que existe para você conseguir escalar os ganhos do seu canal."

O argumento, explica, é que "essas pessoas mais idosas assistem a vídeos longos, passam horas no YouTube, compram por confiança, e não só porque a pessoa aparece, têm tempo para consumir um produto atrás do outro e têm renda para gastar".

Diferentemente de outros canais analisados pela reportagem, seu tutorial não usa rostos de falsos médicos gerados por IA, e sim imagens genéricas que ilustram o tema.

Ele também orienta que criadores coloquem um aviso na descrição do vídeo de que as informações "não têm o intuito de substituir a consulta médica".

Procurado pela BBC News Brasil, Castro afirmou que ensina seus alunos, que diz já serem 8 mil, a produzir conteúdo informativo e educativo, sempre com um aviso de que os vídeos não foram feitos por um médico.

"O profissional que ensina a fazer conteúdo para vender encapsulado, remédio, algo que pode afetar a saúde do idoso, o próprio YouTube se encarrega de punir esses canais. Sou completamente contra. Mas conteúdo informativo e educativo, no sentido de saúde física, emocional e principalmente mental, você pode criar tranquilamente, com disclaimer."

Castro afirma ser contrário a qualquer conteúdo ilegal, enganoso ou que coloque pessoas em risco, seja produzido por IA ou por um ser humano.

"A tecnologia é uma ferramenta. O problema não está na ferramenta, mas na forma como ela é utilizada", disse. "Não responsabilizamos uma câmera por uma notícia falsa nem um editor de vídeo por um conteúdo enganoso. A responsabilidade é de quem cria e publica a informação."

Para ele, o debate relevante "não é se existe IA envolvida, mas se o conteúdo é verdadeiro, transparente e está dentro das regras".

<><> Guias em português são vendidos até de fora do Brasil

A reportagem identificou ao menos quatro guias de saúde em português sendo vendidos nos canais de YouTube brasileiros com apresentadores de IA. São receitas para diabéticos, dicas de saúde para quem tem mais de 60 anos, um guia de saúde masculina e outro sobre glicose.

A partir dos metadados das páginas desses e-books, chegamos aos e-mails de alguns dos produtores que colocaram esse material no ar.

Os endereços estavam vinculados a uma advogada no Rio de Janeiro, a uma empresa de games, a uma loja de eletrônicos em São Paulo e a um homem que diz em suas redes sociais que é de Maputo (Moçambique).

Apesar de terem seus e-mails vinculados como vendedores desses guias, a reportagem não conseguiu confirmar se de fato essas pessoas produziram os livros ou se são responsáveis pelos canais que os divulgam. Como também não foi possível contatá-los, eles não serão identificados.

 

Fonte: BBC News Brasil