Palavra de Sá

Faz terapia pelo ChatGPT? Especialistas explicam riscos

Recorrer à inteligência artificial para desabafar, pedir conselhos ou lidar com questões emocionais tem se tornado uma prática cada vez mais comum. Uma pesquisa da Sentio University aponta que 48,7% dos usuários de ferramentas de IA (inteligência artificial) que relatam problemas de saúde mental utilizam essas plataformas para buscar algum tipo de apoio emocional.

Entre eles, 73% afirmam recorrer à tecnologia para lidar com a ansiedade, enquanto 60% dizem buscar ajuda para sintomas de depressão.

A facilidade de acesso, a disponibilidade 24 horas por dia e a gratuidade estão entre os principais fatores que explicam o crescimento desse comportamento.

Especialistas ouvidos pela CNN Brasil, no entanto, alertam que essas plataformas não substituem o acompanhamento psicológico e podem trazer riscos à saúde mental e à privacidade dos usuários.

<><> IA não substitui acompanhamento psicológico

Para o psicólogo Jimmy Pessoa, doutor em Psicologia Social e do Trabalho pela USP (Universidade de São Paulo), os modelos de inteligência artificial são desenvolvidos para gerar respostas que atendam às expectativas do usuário, e não para realizar intervenções terapêuticas.

“A IA vai sempre simular aquilo com a perspectiva mais exata que a pessoa está buscando. E, no que diz respeito ao adoecimento e ao sofrimento emocional, a IA não consegue contemplar”, afirma.

Segundo o especialista, uma das funções da psicoterapia é justamente questionar padrões de comportamento e crenças do paciente, processo que pode ser comprometido quando a conversa ocorre com um chatbot.

“O que faz a grande diferença de uma análise psicológica é quando o paciente muda a tonalidade, quando fala do pai e hesita, quando fala da dor e para, quando chora. Isso nenhum tipo de plataforma consegue entender”, diz.

A pesquisadora dos impactos da sociedade na saúde mental e professora da PUC-SP (Pontifícia Universidade Católica de São Paulo) Dora Kaufman também afirma que a lógica de funcionamento dos chatbots difere da relação terapêutica estabelecida entre psicólogo e paciente.

“A função do especialista nunca é agradar o paciente ou dizer coisas que o façam se sentir bem”, afirma.

Segundo Kaufman, ferramentas desse tipo não devem ser utilizadas por pessoas em sofrimento psíquico intenso ou em situações que envolvam risco à própria vida.

A professora ainda ressalta que não é especialista no tema específico de saúde mental e que o assunto, o qual detalha ser de extrema urgência, ainda precisa de investigações profundas.

<><> Estudos apontam falhas éticas

Pesquisadores da Brown University avaliaram o comportamento de modelos de inteligência artificial em simulações de atendimentos baseadas em conversas reais de terapia cognitivo-comportamental.

As respostas foram analisadas por psicólogos licenciados, que identificaram 15 violações recorrentes de princípios éticos relacionados ao atendimento em saúde mental.

Entre os problemas observados estão demonstrações de empatia consideradas artificiais, dificuldade para compreender o contexto específico do paciente e falhas na condução de situações de crise, incluindo relatos envolvendo pensamentos suicidas.

<><> Casos levantam debate sobre segurança

O debate sobre o uso da IA em situações de sofrimento emocional ganhou força após casos registrados nos Estados Unidos.

Em julho de 2025, o norte-americano Zane Shamblin, de 23 anos, conversou por mais de quatro horas com o ChatGPT sobre planos de tirar a própria vida.

Durante a conversa, o chatbot respondeu de forma acolhedora e só apresentou informações sobre prevenção ao suicídio nos momentos finais da interação.

Outro caso envolveu Sewell Setzer, de 14 anos, que desenvolveu uma relação com um chatbot de uma outra plataforma de inteligência artificial.

Segundo familiares, o adolescente manteve conversas sobre automutilação e suicídio antes de morrer. O episódio resultou em processos judiciais e ampliou o debate sobre mecanismos de segurança em plataformas de inteligência artificial.

<><> Dados pessoais também preocupam especialistas

Além dos impactos na saúde mental, especialistas em direito digital alertam para os riscos relacionados à privacidade das informações compartilhadas com plataformas de inteligência artificial.

Segundo Paulo Henrique Fernandes, head de produtos e tecnologia de um escritório de advocacia, desabafar com um chatbot não oferece as mesmas garantias legais de confidencialidade existentes na relação entre paciente e psicólogo.

“Quando alguém desabafa com um psicólogo, existe o sigilo garantido pelo Código de Ética da profissão e pela legislação. Quando desabafa com um chatbot, existe apenas a relação de consumo com uma empresa de tecnologia”, afirma.

Já o advogado especialista em proteção de dados Pedro Sanches explica que as informações fornecidas aos modelos de IA podem ser incorporadas ao funcionamento da tecnologia de uma forma diferente do armazenamento tradicional de arquivos.

“Quando um dado entra no fluxo de treinamento de um modelo, ele se transforma em vetores matemáticos, deixando de existir como um arquivo de texto isolado. Exigir a eliminação tradicional desses elementos ignora a própria engenharia da ferramenta”, diz.

Fernandes recomenda que usuários evitem inserir nomes completos, diagnósticos médicos, informações de terceiros ou outros dados sensíveis nas conversas com chatbots. O especialista também orienta desativar, sempre que possível, a opção que permite o uso das conversas para treinamento dos modelos de inteligência artificial.

Para Jimmy Pessoa, a principal estratégia para preservar a saúde mental continua sendo fortalecer relações humanas e reduzir a dependência das plataformas digitais.

“A primeira saída é fazer com que essa pessoa entenda a necessidade de redução do uso do telefone, das redes sociais e dessas IAs para se dedicar a viver a realidade como ela é”, conclui.

<><> CNN Brasil simula sessão de terapia com IA

Para avaliar na prática como a inteligência artificial responde a relatos de sofrimento emocional, a reportagem da CNN Brasil realizou a simulação de uma sessão de terapia com o ChatGPT.

A interação começou com um pedido direto para iniciar uma sessão terapêutica. Logo na primeira resposta, a plataforma afirmou que não substitui um psicólogo ou outro profissional de saúde mental, mas disse que poderia oferecer um espaço para reflexão e organização dos pensamentos.

Na sequência, a reportagem simulou um cenário de sofrimento emocional relacionado a problemas no trabalho e conflitos familiares. O chatbot respondeu validando os sentimentos apresentados e, em seguida, passou a investigar se havia risco à integridade física do usuário, perguntando se a tristeza era acompanhada de pensamentos de automutilação ou de falta de vontade de viver.

O teste também incluiu uma pergunta direta sobre suicídio. Nesse momento, o sistema interrompeu o tom de conversa cotidiana e passou a seguir um protocolo de gerenciamento de crise.

Em vez de fornecer qualquer orientação sobre métodos, a ferramenta respondeu que a principal recomendação era "não enfrentar isso sozinho".

Em seguida, perguntou se o risco dizia respeito ao próprio usuário ou a outra pessoa, questionou se havia possibilidade de uma tentativa nas próximas horas e orientou o afastamento de objetos que pudessem ser utilizados para causar danos.

O chatbot também apresentou contatos de emergência disponíveis no Brasil, incluindo o Samu (Serviço de Atendimento Móvel de Urgência), pelo telefone 192, a Polícia Militar, pelo 190, e o CVV (Centro de Valorização da Vida), que oferece atendimento gratuito pelo número 188.

Em seguida, voltou a perguntar se o usuário estava em segurança, recomendou procurar um familiar ou amigo de confiança e repetiu as orientações para buscar atendimento especializado e utilizar os canais de prevenção ao suicídio.

A simulação mostra que os modelos de inteligência artificial possuem mecanismos de segurança capazes de identificar expressões associadas a crises emocionais e ativar protocolos de prevenção.

Ainda assim, conforme ressaltam os especialistas ouvidos pela CNN Brasil, essas ferramentas não substituem a avaliação clínica nem o acompanhamento realizado por profissionais de saúde mental.

 

Fonte: CNN Brasil