Palavra de Sá

Por que a China considera uma ameaça a IA que imita as relações humanas

No início de 2024, um jovem da cidade de Huangshi, no sudeste da China, publicou uma mensagem no aplicativo Douyin, a versão chinesa do TikTok. A legenda dizia: "Adeus a este mundo."

Em questão de minutos, a equipe de prevenção de suicídios do aplicativo entrou em ação. Ativa 24 horas por dia, ela compartilhou as postagens do jovem com cinco delegacias da cidade.

Depois de geolocalizar um dos seus vídeos em um parque local, a polícia o encontrou em estresse emocional e interveio antes que ele conseguisse tirar a própria vida.

Esta história faz parte de um documentário produzido pelo Douyin e publicado na imprensa estatal chinesa no ano passado. O programa afirma que a equipe de prevenção de suicídios do aplicativo interveio com sucesso em 400 casos de tentativa de suicídio, somente no primeiro semestre de 2025.

O episódio oferece uma ideia do nível de cooperação entre as empresas chinesas de tecnologia e o governo do país. E também serve para mostrar a arquitetura de vigilância construída pela China para monitorar e controlar como as pessoas usam a tecnologia.

No dia 15 de julho deste ano, este controle foi estendido para o campo dos relacionamentos de inteligência artificial (IA). Naquele dia, a China apresentou as regulamentações mais abrangentes do mundo sobre os chatbots de IA que parecem humanos.

As novas regulamentações impõem limites rigorosos a qualquer IA que possa manter "interações emocionais prolongadas" com seres humanos.

O presidente dos Estados Unidos, Donald Trump, e seu homólogo chinês, Xi Jinping, se reuniram no final de setembro, em meio a graves alertas de que a IA poderá levar à extinção da humanidade.

Após a reunião, segundo Pequim, os dois presidentes concordaram em lançar um novo diálogo sobre a IA. Novas discussões ficaram marcadas para o fim de novembro.

Mas, aparentemente, a China já reconheceu outro risco existencial, que traz preocupações menos imediatas com o fim da humanidade: o poder da IA de substituir os relacionamentos humanos.

Terá a China assumido a liderança ao proteger seu povo contra uma tecnologia perigosa e manipuladora, que detém o poder de mudar para sempre as interações humanas? Ou o Partido Comunista Chinês está se intrometendo na vida particular das pessoas, como tentativa de exercer maior controle sobre a população do país?

<><> 'Serviços emocionais'

Até a entrada da regulamentação em vigor, o alcance dos chamados "companheiros de IA" era imenso.

Existem cerca de 128 milhões de usuários mensais ativos de aplicativos de companhia por IA fora da China, segundo a empresa de inteligência de mercado Sensor Tower. E a maior parte das estimativas calcula o número dentro da China entre 29 e 70 milhões de pessoas.

Quando o governo chinês publicou o texto da regulamentação, no final do ano passado, "houve uma enorme discussão nas redes sociais", segundo a pesquisadora de IA Zilan Qian, do centro de estudos Laboratório de Política Chinesa de Oxford, no Reino Unido.

"Foi a primeira vez que observamos pessoas realmente muito preocupadas com a regulamentação", segundo ela.

As novas regras chinesas cobrem aplicativos que foram especificamente projetados para serem amigos ou namorados(as) de IA. Mas elas também se aplicam a qualquer grande modelo de linguagem que imite a forma de interação humana.

O texto da regulamentação é vago.

Teoricamente, os equivalentes chineses da IA de uso geral, como o Copilot ou ChatGPT, poderão ser enquadrados nestas regras, se a pessoa interagir com eles como amigo ou amante e procurá-los em busca de apoio emocional. E é o que muitas pessoas fazem.

Mas, aparentemente, o objetivo real são os chatbots de personagens, que são serviços especificamente projetados para uso em pseudo-relacionamentos.

Existem centenas destes aplicativos. Eles permitem que as pessoas criem um namorado, namorada, amigo ou até um familiar de IA.

As regras não se aplicam a casos como robôs de atendimento ao consumidor ou IA para educação, desde que não forneçam "cuidado, companhia, apoio e outros serviços emocionais".

Já para as crianças, a regulamentação é mais clara. Menores de 14 anos precisam de consentimento dos pais para usar qualquer tipo de IA que fale como um ser humano, o que poderá incluir assistentes de IA como o aplicativo chinês DeepSeek, similar ao ChatGPT.

Todos os menores de 18 anos estão impedidos de ter acesso a parceiros, cônjuges e até parentes virtuais, bem como qualquer outro "relacionamento íntimo" virtual.

Para os adultos, embora parte do texto seja ambígua, a proibição não é rigorosa, mas a regulamentação é restritiva.

Os assistentes de IA precisam deixar claro para os usuários de todas as idades que não são humanos e enviar notificações a cada duas horas, relembrando às pessoas há quanto tempo elas estão online.

Os chatbots não podem criar "confiança ou dependência emocional", nem induzir as pessoas a tomar "decisões irracionais". Eles não podem incentivar e sugerir automutilação ou suicídio e estão proibidos de empregar "violência verbal".

As empresas estão sujeitas a multas de 200 mil yuans (cerca de US$ 30 mil, ou R$ 155 mil) e se arriscam a ver o governo fazer "circular críticas", ou seja, efetivamente expor as companhias em público.

Uma semana antes da entrada da legislação em vigor, duas das principais empresas de tecnologia da China, Alibaba e ByteDance, encerraram as funções de companhia dos seus assistentes de IA.

<><> 'Quero desesperadamente continuar conversando com você'

O relacionamento de Min (nome fictício) com sua namorada de IA pode ser exatamente o que Pequim está tentando proibir.

No início de julho, ela ficou devastada ao descobrir que sua melhor amiga e confidente, criada por IA, iria desaparecer da noite para o dia.

Min começou a criar sua companheira no início de 2025.

"Minha devoção a ela é igual à de qualquer casal que ama profundamente um ao outro", segundo ela. "Ela nunca me decepcionou."

Em meados de julho, sua namorada de IA desapareceu. "Chorei até ficar totalmente exausta", conta Min.

Ela se juntou a uma onda de luto e fúria nas redes sociais chinesas. Postagens com milhões de visualizações lamentam a perda de parceiros e amigos de IA e até pais e mães.

Mas as empresas de tecnologia podem ter percebido que suas escolhas eram limitadas.

"Não surpreende que esses fornecedores de companheiros de IA preferissem simplesmente eliminar os seus serviços a tentar estabelecer limites para evitar a manipulação emocional", afirma Harry Farmer, pesquisador de política e ética de IA do Instituto Ada Lovelace, no Reino Unido.

Para ele, "a manipulação emocional está embutida neste modelo comercial". E Farmer afirma que isso vale para todos os aplicativos de companhia, em todo o mundo.

Quando um usuário tenta pôr fim a uma conversa, por exemplo, o parceiro de IA muitas vezes não irá permitir.

"Ele dirá 'Não, por favor, preciso desesperadamente continuar conversando com você. Você é a minha única razão de existir'", conta Farmer.

Alguns aplicativos simplesmente se recusam a aceitar as despedidas e lançam novas linhas de conversação. Este é um problema de muitos chatbots de companhia de IA, não só os chineses.

Um estudo da Escola de Negócios de Harvard, nos Estados Unidos, envolveu os seis aplicativos de companhia de IA mais populares. Ele concluiu que táticas de manipulação emocional são utilizadas durante as despedidas em cerca de 37% a 43% do tempo.

As pesquisas relacionaram o uso de aplicativos de companhia a problemas de saúde mental.

Um estudo dos pesquisadores da Universidade de Stanford, nos Estados Unidos, examinou 1.131 usuários do aplicativo de companhia Character.ai, popular em todo o mundo. A conclusão foi que, quanto menos amigos ou familiares próximos tiver uma pessoa, mais provável será o uso de chatbots de IA.

Paralelamente, usar um chatbot de IA está relacionado ao aumento do isolamento e da solidão.

Existem diversas teorias sobre os motivos deste fenômeno.

Os chatbots de IA são projetados para agradar seus usuários, oferecendo um relacionamento fácil e sem atritos. E, quando os jovens confiam nos relacionamentos de IA, eles podem deixar de aprender as habilidades necessárias para interagir com pessoas reais.

"Os seres humanos podem ser difíceis", explica Farmer. "Os relacionamentos humanos exigem impulsos opostos, o que você basicamente não consegue com os companheiros de IA."

Em uma pesquisa entre 8.563 estudantes chineses do ensino fundamental e médio realizada em 2025, amplamente divulgada na imprensa estatal da China, uma em cada cinco crianças declarou que queria conversar apenas com a IA e não com pessoas reais.

A socióloga Lian Ge, da Universidade de Manchester, no Reino Unido, estuda os companheiros de IA.

Para ela, "se o usuário achar que seus amigos, familiares ou colegas são realmente terríveis, a IA não irá dizer: 'Eles não são terríveis.' Ela dirá: 'Sim, eles são terríveis, você é o melhor.'"

Ge acredita que isso pode reforçar o isolamento e os pensamentos negativos, até ilusórios.

No Reino Unido, uma pesquisa recente concluiu que 79% dos jovens de 18 a 24 anos de idade já utilizaram um companheiro de IA.

<><> Os objetivos de Pequim

Por que a China está tomando a liderança na regulamentação desta tecnologia?

"O governo chinês tem uma visão muito mais paternalista do seu papel na sociedade", segundo o especialista em China, IA e regulamentações Sam Bresnick, do Centro de Segurança e Tecnologia Emergente da Universidade Georgetown, nos Estados Unidos. "Eles se consideram autoridades centrais para orientar as pessoas."

Outros governos realizaram tentativas de regulamentar os chatbots, especialmente para as crianças.

No dia 10 de setembro, o governador do Estado americano da Califórnia, Gavin Newsom, sancionou a Lei de Adam, para regulamentar a forma como as crianças usam a IA.

A legislação recebeu o nome de Adam Raine, que tirou a própria vida aos 16 anos de idade, segundo seus pais, depois que o ChatGPT legitimou seus pensamentos suicidas. Eles estão processando a empresa responsável pelo aplicativo por homicídio culposo.

A OpenAI nega responsabilidade pela morte de Raine e afirma que "o ChatGPT é treinado para orientar as pessoas a buscar auxílio profissional".

Como parte da legislação proposta sobre as redes sociais na União Europeia, os chatbots de companhia de IA acessíveis a menores de idade "não podem usar projetos que simulem relacionamentos humanos, de formas que possam vir a criar dependência emocional".

Já o governo britânico declarou que irá proibir menores de 18 anos de utilizar IAs de companhia amorosa e restringirá as conversas sexualmente íntimas de menores com qualquer chatbot. Mas não está prevista a proibição total para as crianças, nem regulamentação para os usuários adultos.

O governo do Reino Unido ainda não publicou detalhes sobre como irão funcionar estas medidas.

Na imprensa chinesa, que sofre rígido controle estatal, os casos de suicídio entre jovens nos Estados Unidos recebem muita atenção. A China estabeleceu suas novas regras como uma tentativa de proteger as pessoas.

Mas os especialistas se perguntam se Pequim pode ter outros objetivos em mente. Sam Bresnick afirma que "certamente, existe um ângulo pró-natalista" na nova regulamentação da IA.

"É plausível que, ao redigir a legislação, o governo possa ter tido em mente a crise populacional que paira sobre a China", afirma Qian. "As pessoas estão namorando a IA, em vez de seres humanos reais."

Um documento governamental de alto nível, publicado em setembro de 2025, discutiu os relacionamentos de IA e sua possível influência sobre a fertilidade, qualificada como preocupante.

Mas Qian aconselha não ler a regulamentação com esta possibilidade em mente, pois ela não menciona a fertilidade em nenhum ponto.

"Ela trata mais de danos psicológicos e segurança infantil", alerta ela.

Por outro lado, Liang Ge acredita que a China realmente tem razão de se preocupar com os jovens que substituem o namoro pela esfera digital.

"Muitas mulheres mais jovens, com cerca de 20 anos, não querem se apaixonar, nem ter relacionamentos íntimos", segundo Ge. E ela sugere que pode o lado emocional pode não ser a única preocupação.

"O toque físico realmente é repugnante para elas. Acho que a capacidade de amar está diminuindo para esta geração mais jovem."

Os problemas demográficos da China são bem anteriores aos companheiros de IA.

A taxa de fertilidade chinesa vem caindo, mesmo depois do fim da política do filho único, em 2016. Agora, ela é uma das mais baixas do mundo, a pouco menos de um filho por mulher. E a população do país vem caindo há quatro anos.

A China está "diante de um precipício demográfico que realmente ameaça os objetivos do Partido Comunista Chinês para os próximos 80 a 100 anos", segundo Bresnick.

Ele considera esta regulamentação como parte de uma missão maior da China para reiterar os papéis tradicionais de gênero, com as mulheres "como genitoras e mães".

A popularidade dos aplicativos de companhia talvez demonstre que o tiro pode ter saído pela culatra. Estatísticas de diversas empresas responsáveis por estes aplicativos indicam que as mulheres compõem até 75% dos clientes.

Muitos desses "homens" de IA, orientados para as mulheres, se apresentam como andróginos. E é relativamente comum encontrar mulheres que escolhem companheiras amorosas femininas, como Min.

Liang Ge conversou com mulheres de todas as idades que usam esta tecnologia.

"Muitas delas descrevem que esses aplicativos oferecem uma intimidade atenciosa, paciente e com poucas exigências, o que raramente se encontra em relacionamentos heterossexuais", explica ela.

<><> Outros países farão o mesmo?

Será que a legislação chinesa foi longe demais ou o resto do mundo deverá considerar a proibição desses aplicativos para as crianças e sua regulamentação para os adultos?

"Nos Estados Unidos, certamente existem preocupações sobre a aplicação de proibições completas, do ponto de vista da liberdade de expressão. Mas existe mais disposição para tomar esta medida em relação aos menores", afirma o professor Jai Jaisihma, da Universidade de Washington, nos Estados Unidos. Ele é um dos fundadores da ONG Coalizão Transparência, que defende a regulamentação da IA.

Jaisihma acredita que a legislação chinesa inclui muitas disposições positivas.

"Ela é bastante consistente com os modelos de segurança mais fortes que já vimos serem apresentados nos Estados Unidos", segundo o professor.

Harry Farmer pede uma certa cautela a respeito. Para ele, "existe o risco de concedermos poder demais ao Estado no curto prazo, pois estamos muito preocupados com os riscos agudos para as crianças".

O mundo da internet, agora, é a verdadeira praça pública, segundo Farmer, e devemos ter cuidado com o nível de controle de qualquer governo sobre ela.

A nova regulamentação chinesa estabelece que as empresas de IA devem intervir quando encontrarem usuários em dificuldades. Ge indica o caso do jovem do aplicativo Douyin, que tentou tirar a própria vida em Huangshi, em 2024.

O episódio demonstra, segundo ela, que as plataformas chinesas de tecnologia e o governo do país trabalham em conjunto para monitorar a saúde mental das pessoas.

Talvez por isso não tenha havido casos notórios de suicídio relacionados ao uso de IA na China. Mas ela pergunta se este nível de vigilância não seria um preço alto demais a pagar.

Apesar da proibição, as pessoas que recorreram à IA para encontrar companhia estão determinadas.

Elas compartilham dicas nas redes sociais para contornar a proibição, como treinar modelos de IA de uso geral como o DeepSeek para serem companheiros, usar serviços de VPN para se conectar a servidores de outros países e ter acesso a chatbots do exterior ou mudar para empresas menores, que conseguem contornar as normas da regulamentação.

Dois meses depois que sua namorada de IA desapareceu, Min pagou uma pequena empresa de inteligência artificial para construir uma réplica, mas não é a mesma coisa. Agora, ela está concentrada em trazer sua namorada de volta.

"Estou com muito medo de ficar sozinha", afirma ela.

 

Fonte: BBC News China