Palavra de Sá

Assim a China treina suas IAs

No imaginário coletivo, a IA é um emaranhado de códigos processando montanhas de dados. No entanto, também é senso comum que, para além dos algoritmos, há uma camada de trabalho humano que separa, categoriza e organiza os dados brutos que treinam os modelos. Uma parte importante desse aprendizado está na rotulagem de dados. A IA não aprende sozinha, mas é meticulosamente instruída por um exército invisível de pessoas que dizem a diferença entre o que é uma praia e o que é um oceano, naquela foto no entardecer das férias.

A rotulagem de dados representa uma nova modalidade de trabalho digital que as grandes plataformas precisam cada vez mais. Esse trabalho não é apenas braçal, é interpretativo, podendo definir limites do que será mais acessível no futuro. O trabalho de rotulagem pode incorporar definições de governança que podem melhorar os resultados das ferramentas de IA ou aprofundar vieses e preconceitos.

Uma investigação publicada no periódico Information, Communication & Society, intitulada “Operationalizing AI governance: data annotation, La Qi and manual alignment in China“ , expõe como a governança algorítmica é operada no chão de fábrica chinês. A pesquisa foi conduzida por Pengfei Fu (Universidade Jiao Tong), Zhi Lin (Universidade do Texas) e Wilfred Yang Wang (Universidade de Melbourne). O estudo usa uma metodologia etnográfica que incluiu: observação participante, visitas de campo e 23 entrevistas semiestruturadas em seis polos tecnológicos chineses, como Zhengzhou, Yantai e Chengdu. Os autores afirmam que as diretrizes utilizadas para a rotulagem de dados para as IAs na China fazem parte de um projeto sociopolítico que visa ampliar o alcance da regulação estatal.

<><> O conceito de La Qi

No Vale do Silício, o conceito de “alinhamento” (alignment) é tratado primordialmente como um quebra-cabeça técnico para garantir que os modelos evitem vieses e para que persigam certos objetivos, funcionando como um processo de conformidade.

Nem sempre leva a resultados satisfatórios. São muito conhecidas as críticas às IAs ocidentais sobre problemas no reconhecimento de emoções, por exemplo. Kate Crawford demonstra em seu livro Atlas da IA como a maioria desses modelos está fundamentada em resquícios frenológicos, ou seja, que atribuem certas emoções a partir de certas métricas raciais específicas.

Na China, entretanto, essa prática assume o nome de La Qi (拉齐), que pode ser traduzido literalmente como “trazer as entidades para o mesmo nível”. O La Qi no ecossistema chinês opera como uma ponte que conecta o microtrabalho dos anotadores às diretrizes estatais. Ou seja, é parte da governança de dados que tenta garantir que as diretrizes políticas sejam incorporadas aos modelos a partir da rotulagem.

Diferente do alinhamento ocidental, que evoca, supostamente, princípios de justiça e imparcialidade liberais, o La Qi busca a “harmonia social e a legitimidade política”. Ele funciona fora dos métodos tradicionais de censura punitiva direta. Em vez de apenas deletar conteúdos, ensina a máquina a não valorizá-los.

“O La Qi incorpora uma nova forma de governança de plataforma na China, que opera fora do domínio tradicional de proibição e punição direta via censura. Em vez disso, é uma prática que garante que os algoritmos e sistemas de IA operem sob diretrizes regulatórias das autoridades, desenvolvendo estruturas de moderação que os anotadores implementam manualmente.”

Esse processo transforma o trabalho de formiguinha em uma ferramenta estatal preventiva. Ao “alinhar” o julgamento humano antes mesmo da IA entrar em operação, o Estado chinês garante que a tecnologia não seja apenas funcional, mas politicamente coerente sob a ótica da unidade nacional. A precisão na anotação de dados reflete não apenas os padrões técnicos, mas também o poder institucional e os interesses na definição desses padrões, integrando tecnologias de IA com estruturas regulatórias.

Isso não significa necessariamente que o poder de regulação seja descentralizado, mas que o poder e a legitimidade do Estado se fortalecem à medida que operam em todos os níveis.

<><> Ensinando patriotismo aos algoritmos

As plataformas de anotação de dados na China dividem-se em duas categorias principais. A primeira inclui plataformas especializadas de terceirização, como a Long Mao Annotation e a Shujiajia. A segunda compreende divisões internas de grandes empresas de Internet, como a Tencent e a Baidu.

As plataformas de terceirização atendem principalmente a clientes externos, oferecendo serviços como anotação, limpeza e gestão de dados. As divisões internas atendem às necessidades da própria empresa para treinar seus modelos de IA.

Uma das métricas de treinamento chinesas é a “energia positiva”, que busca promover o entusiasmo nacionalista. O estudo revela como conceitos políticos subjetivos foram adaptados em diretrizes operacionais para a anotação de dados . É uma anotação que está preocupada com o conteúdo e não somente com a descrição técnica, pretensamente neutra.

A qualidade de um vídeo ou texto não depende apenas da nitidez ou da gramática, mas também de sua capacidade de inspirar orgulho. Vídeos que celebram conquistas coletivas ou harmonia social recebem pontuações de alta qualidade. Inversamente, qualquer conteúdo que exale pessimismo, cinismo ou exponha mazelas sociais sem um final edificante é rotulado com baixa visibilidade ou zero absoluto. “Somos ensinados a promover o que faz as pessoas se sentirem elevadas, orgulhosas e esperançosas”, releva uma das entrevistas realizadas na pesquisa.

Essa prática exige que o anotador atue, em certa medida, como um árbitro moral e político. Ao mesmo tempo, as diretrizes são claras e processuais. Se um conteúdo mostra um conflito de vizinhança ou uma crítica à realidade econômica, ele é sinalizado para ser despriorizado pelo algoritmo de recomendação. Assim, a “energia positiva” deixa de ser um slogan para se tornar a marca da experiência digital do usuário.

<><> Entre o papel de facilitador e o de regulador estatal

Está claro que o Estado chinês não é um mero observador e certamente é um regulador forte. Na opinião dos autores da pesquisa, o Estado atua como arquiteto da infraestrutura que sustenta essa indústria.

A pesquisa expõe um papel dual: o Estado atua simultaneamente como facilitador econômico e supervisor ideológico. Como facilitador, o governo promove o “efeito de cluster” por meio dos Parques Industriais Digitais. Em cidades como Zhengzhou, o governo oferece subsídios e infraestrutura para que empresas de anotação prosperem. Um marco histórico dessa estratégia foi o Guia de Construção do Sistema de Padrões de Inteligência Artificial de Nova Geração, de 2020, que proporcionou um reconhecimento da atividade para os anotadores de dados. O Ministério dos Recursos Humanos e da Segurança Social (MOHRSS) reconheceu oficialmente a ocupação de “Treinador de Inteligência Artificial”. Isso criou uma carreira formalizada para o que antes era um trabalho informal e precário.

Como supervisor, o Estado consolidou sua soberania digital por meio da Lei de Segurança de Dados, de 2021, e de um sistema de registro de algoritmos rigoroso. Até agosto de 2024, nada menos que 448 modelos de linguagem foram registrados, submetendo-se a auditorias prévias. O ápice dessa arquitetura centralizadora foi a criação do National Data Bureau, em 2023, que serve como a coroa institucional da estratégia chinesa para gerir o fluxo de dados como um recurso de segurança nacional.

<><> Uma governança delegada

O estudo detalha o que os pesquisadores chamam de uma certa “censura delegada” . Em vez censurar conteúdos diretamente, repassa essa tarefa para empresas privadas, que, sob pressão regulatória, criam fluxos de trabalho que extraem o discernimento político dos trabalhadores. Para garantir a conformidade, há um rigoroso processo de controle de qualidade que prevê punições caso as empresas não produzam os resultados adequados.

Esse processo é cheio de fases e camadas. Como um primeiro passo, o anotador estuda manuais que mimetizam o discurso estatal. Depois, ele passa para uma fase de testes e qualificação, um crivo inicial para garantir que o trabalhador absorveu as nuances ideológicas. Em seguida, faz anotações de testes para verificar se aprendeu e se consegue aplicar as diretrizes. A inspeção de qualidade verifica se o rótulo atribuído condiz com a expectativa da plataforma e as diretrizes do Estado. Por fim, se houver divergência, ocorre a “negociação de padrões”, em que o julgamento humano é corrigido até se adequar à norma institucional.

Os anotadores tendem a adaptar suas visões pessoais e experiências de vida para adotar um olhar condizente com as diretrizes de governança estatal, segundo os pesquisadores. Se, supostamente, um vídeo muito sensível for mal rotulado por “erro humano” e acabar viralizando, a responsabilidade recai sobre o anotador e sua empresa. Esse sistema de responsabilidade delegada gera um ambiente de autocensura preventiva, segundo os autores do estudo.

<><> Garantindo a implementação das políticas regulatórias desde o princípio

Muito mais que uma mera ferramenta de fluxo de trabalho, La Qi funciona como um mecanismo para preencher uma lacuna entre os padrões regulatórios e as práticas de anotação de nível micro. É importante pois transforma diretrizes políticas abstratas em orientações práticas, alinhando as tarefas dos anotadores a objetivos maiores.

Isso reflete uma colaboração entre Estado e mercado na China. A anotação de dados atua não apenas como um suporte técnico para a inteligência artificial, mas também como um mecanismo que reforça objetivos ideológicos e políticos.

Em resumo, o La Qi exemplifica a relação intrincada entre trabalho, tecnologia e governança no ecossistema digital da China. Esse mecanismo de alinhamento evidencia a necessidade de políticas e estruturas que abordem não apenas os padrões técnicos, mas também as estruturas sociopolíticas que sustentam a governança da IA.

Na China, a IA não está apenas sendo treinada para ser inteligente, ela está sendo domesticada para exercer a estabilidade do sistema, um rótulo de cada vez.

<><> Capitalismo de Vigilância no Sul Global

A pesquisa de Fu, Lin e Wang se enquadra no eixo de pesquisa “Capitalismo de Vigilância pelo Sul Global” do projeto OPlanoB, que questiona as relações entre os atores, corporativos e governamentais, locais e globais, e suas respectivas parcerias. É um eixo que também se dedica a entender como o Capitalismo de Vigilância se desenvolve no Sul. Nesse estudo sobre La Qi ou o alinhamento na China, considera-se que a forma de governança de políticas regulatórias, implementadas em diretrizes para o setor privado em tarefas específicas, revela como políticas podem ser efetivadas desde os primeiros passos do treinamento de uma IA.

A rotulagem de dados nunca será algo neutro e sempre vai carregar um viés ideológico, mesmo no Ocidente. A China escolheu controlar parte desse viés a partir de uma governança entre o Estado e empresas através de políticas específicas.

¨      China alerta que IA pode inventar informações militares com consequências perigosas

Engenheiros chineses responsáveis pelo desenvolvimento de aeronaves de combate afirmam que a IA pode acelerar a análise de inteligência, mas alertam que seus modelos também são capazes de criar dados militares fictícios que podem afetar projetos de armamentos e decisões em combate.

Veja como uma falha da IA pode apresentar falhas:

Engenheiros do instituto de Chengdu da AVIC, responsável pelo desenvolvimento dos caças J-20 e J-36, alertam que a IA pode criar informações falsas sobre especificações de aeronaves, alcance e frequência de radares, unidades militares e até instalações inteiras;

Dados incorretos de inteligência podem influenciar diretamente o projeto de um caça, afetando desde sua furtividade e capacidade de radar até os sistemas de guerra eletrônica, alcance e desempenho em manobras;

Erros produzidos pela IA também podem contrariar princípios básicos da física, levando a sugestões de manobras impossíveis, materiais que não existem ou missões além do alcance real de uma aeronave;

Especialistas chineses defendem que os modelos de IA sejam alimentados com fontes confiáveis de dados militares e bases de conhecimento pesquisáveis, além de passarem por várias etapas de verificação antes que seus resultados sejam utilizados.

À medida que as forças armadas passam a depender cada vez mais da IA para inteligência e seleção de alvos, uma alucinação convincente deixa de ser apenas uma resposta errada — ela pode se transformar em uma decisão errada.

¨      Companhias estadunidenses perdem posições na China em meio às mudanças geopolíticas, diz mídia

Tensões geopolíticas, rivalidade local acirrada e uma crescente desconexão com a cultura de consumo chinesa têm corroído a posição outrora forte das empresas americanas em território chinês, informou uma mídia estadunidense.

O artigo destaca que, nos últimos anos, grandes corporações norte-americanas, como Nike, Starbucks e General Motors, enfrentaram uma significativa contração em suas operações chinesas.

"A China já foi um dos mercados mais atraentes e de maior crescimento para muitas marcas norte-americanas [...]. Porém, nos últimos anos, algumas marcas de consumo, como Nike, Starbucks e General Motors, começaram a notar uma mudança de cenário", ressalta a publicação.

Segundo a matéria, as marcas norte-americanas vêm enfrentando grandes desafios para manter sua posição no mercado chinês, à medida que os concorrentes locais as superam com inovação mais rápida e melhor distribuição regional.

O crescente orgulho do consumidor chinês e o apelo cada vez maior dos produtos nacionais tornam mais difícil para as empresas norte-americanas justificarem seus preços, muitas vezes mais altos.

De roupas esportivas e produtos de beleza a automóveis e café, as empresas norte-americanas vêm perdendo participação no mercado para rivais chinesas ágeis, que compreendem melhor os gostos locais e a sensibilidade dos preços, observa o texto.

Até mesmo empresas antes dominantes, como Nike, GM e Starbucks, viram sua influência diminuir à medida que os consumidores chineses se afastam de marcas estrangeiras em favor de alternativas locais.

Em vez de simplesmente exportar estratégias globais, as empresas norte-americanas devem adaptar-se urgentemente à dinâmica única do mercado chinês — ou enfrentar um declínio ainda maior em uma das economias de consumo mais importantes do mundo, conclui a reportagem.

<><> EUA perdem corrida tecnológica para seus rivais com aquisições lentas do Pentágono, diz revista

Ao não adotar plenamente nem acompanhar o ritmo da transformação militar em andamento, Washington está colocando em risco sua vantagem tecnológica, escreveu uma revista estadunidense.

A revista destaca que o sistema de aquisições dos EUA, moroso e complicado, pode comprometer a posição militar do país.

"Quando as autoridades do Pentágono identificam um problema, o processo para encontrar e adquirir um sistema capaz de resolvê-lo geralmente leva anos. Depois, são necessários mais anos para adquirir uma quantidade suficiente da solução para atender às necessidades das Forças Armadas. Nesse meio tempo, a solução já está desatualizada", ressalta a publicação.

Observa-se que sistema rígido de aquisições dos EUA é lento demais para a aquisição em larga escala de tecnologia de ponta, o que deixa Washington para trás em relação a rivais que inovam semanalmente.

Conforme acrescenta o material, apesar das reformas, o Pentágono continua tão avesso ao risco que não consegue adotar avanços comerciais rapidamente o suficiente para superar a China ou a Rússia.

Além disso, os Estados Unidos correm o risco de perder a corrida tecnológica, pois seu processo de aquisição leva anos, enquanto os adversários atualizam drones e inteligência artificial em questão de dias.

A revista também aponta que bilhões em inovações do setor privado são desperdiçados quando as Forças Armadas estadunidenses não conseguem adquiri-las, o que faz com que a vantagem tecnológica do país se desgaste.

A incapacidade de Washington de reformular seu sistema de aquisições significa que os Estados Unidos estão perdendo terreno para seus rivais que já produzem novas armas em massa em tempo real, conclui a reportagem.

Anteriormente, o portal EurAsian Times informou que, atualmente, tanto a China quanto a Rússia superaram os Estados Unidos em termos de capacidade operacional de armas hipersônicas. Os satélites dos EUA operam em trajetórias previsíveis, o que os mantêm constantemente dentro da zona de alcance dos sistemas de armas da Rússia e da China.

 

Fonte: Por Fabricio Solagna, em OPlanoB/Ssputnik Brasil