A
repórter que desnudou o ChatGPT
No
final de 2019, Karen Hao tornou-se a primeira jornalista a visitar os
escritórios da OpenAI. Naquela época, a startup de inteligência artificial era
desconhecida fora do Silicon Valley. Seu líder, Sam Altman, insistia que sua
missão era criar uma máquina com a capacidade de aprendizagem e raciocínio da
mente humana para salvar o mundo, mas Hao soube detectar muitas fissuras nesse
discurso idealista. Após publicar sua reportagem crítica e rigorosa, a empresa
proibiu que ela voltasse a entrar em sua sede. “No começo me senti muito mal
(…) mas o importante não é manter o acesso, e sim dizer a verdade”, explica a
El Periodico. Dois anos depois, o lançamento do ChatGPT desencadeou uma
competição comercial e geopolítica que já alterou nossa realidade.
Hao
usou o desprezo da OpenAI como motivação. Suas habilidades jornalísticas e
conhecimentos técnicos profundos — ela é engenheira mecânica formada pelo MIT —
cristalizaram-se em The IA Empire [O Império da IA, recém-publicado na Espanha
pela Edições Península], uma pesquisa enciclopédica que disseca com precisão
cirúrgica o impacto global da indústria de IA. Baseia-se em mais de 200
entrevistas, documentos internos e uma lucidez narrativa que transforma o
primeiro livro de Karen hao, um ensaio de quase 600 páginas, numa leitura
fascinante. Sam Altman ficou tão perturbado que tuitou que ninguém deveria ler
a obra.
>>>
LEIA A ENTREVISTA
• Você compara a indústria da IA com os
antigos impérios. Por quê?
Porque
essas empresas estão acumulando uma quantidade histórica de poder econômico e
político.
• Como?
Faço
quatro paralelos. O primeiro é a apropriação de recursos que não são delas,
como os dados que coletam da internet para treinar seus modelos. O segundo é a
exploração de trabalhadores que não recebem quase nada em troca e que também se
manifesta no desenho de sistemas que automatizam o trabalho e corroem os
direitos trabalhistas. Isso não é uma característica inerente à IA, e sim uma
escolha política. O terceiro é que monopolizam a produção de conhecimento,
capturam o talento dos pesquisadores em IA e distorcem a compreensão
fundamental que o público tem das limitações e capacidades dessas tecnologias,
permitindo apenas determinados tipos de pesquisa e censurando a pesquisa
crítica. E o quarto é que recorrem a um discurso moral imperativo sobre sua existência.
• Ganhar a corrida para evitar que a China
o faça.
Dizem
que são os impérios bons com uma missão civilizatória de levar o progresso e a
modernidade a toda a humanidade. Precisam de acesso sem restrições a todos
esses recursos porque estão imersos numa intensa corrida existencial com o
suposto império malvado: a China, segundo o Vale do Silício. E se os maus
chegarem primeiro à meta, isso levará ao desaparecimento da humanidade. Em
contrapartida, se os Estados Unidos vencerem, a humanidade terá a oportunidade
de elevar-se a uma utopia ou a um paraíso da IA.
• Muitos políticos abraçam acriticamente
essa narrativa de que a IA equivale a progresso. Mas para um império prosperar,
sempre é preciso sacrificar uma parte da população.
Exato.
Devemos rebater a crença de que precisamos de impérios e das zonas de
sacrifício que acarretam para obter os benefícios da IA. Há certos tipos de IA
que podem ser profundamente benéficos para a Saúde ou as oportunidades
econômicas. Mas é preciso separar isso da concepção que o Vale do Silício vende
– a de que se requer uma forma imperial para controlar toda a terra, a energia,
a água, os dados, a mão de obra e o capital e produzir algo que, em última
instância, não gera tantos rendimentos e não é realmente um modelo de negócio
viável. Por isso creio que, quando os políticos caem na armadilha de que só há
um caminho para o desenvolvimento da IA, também caem no erro de que há certos
tipos de danos planetários que temos que aceitar.
• Danos ambientais, trabalhistas…
Não
apenas. O que está ocorrendo é muito perigoso porque não falamos de danos
isolados, e sim de um perigo para a democracia. Com o governo Trump 2.0 temos
visto como estas corporações estão despojando tanta gente de seus recursos, de
sua capacidade de ação, a ponto de pensarem que já não podem controlar seu
futuro. E então voltamos a uma época em que um pequeno grupo de pessoas no topo
pode ter uma profunda influência na vida de bilhões de pessoas em todo o mundo.
E essa erosão fundamental da liberdade é o que permite a proliferação desses
impérios.
• A OpenAI passou da promessa de curar o
câncer à criação de algo parecido com um chatbot pornô. A empresa está a
caminho de perder 27 bilhões de dólares nos próximos dois anos. O boom de
investimentos em IA são sete empresas fazendo empréstimos umas às outras de
forma circular. E o investidor Michael Burry, que antecipou a crise hipotecária
de 2008, vendeu suas ações na Nvidia. É um negócio viável?
Não é
de forma alguma um negócio viável. As corporações já estão ficando sem meios
para monetizá-lo. Testaram com assinaturas, mas a maioria das pessoas e
empresas não quer pagar por esta tecnologia. Por isso, agora estão tentando
montar uma estratégia para oferecer anúncios. Mas nem mesmo isso funciona para
o Google, que tem o maior negócio publicitário da história. A OpenAI está
tentando tapar um buraco de 1,4 bilhão de dólares. Também estão tentando lançar
um monte de produtos de consumo que, como o Sora 2, viralizaram e depois
decaíram. Não vejo como vão fechar este buraco, porque nunca existiu um modelo
de negócio na indústria tecnológica que tenha gerado os rendimentos
necessários. A coisa não parece nada bem.
• Com as redes sociais nos acostumamos a
ceder nossa privacidade. O que muda com a IA?
No
passado, as pessoas forneciam todos os seus dados sem se dar conta de que essas
empresas podiam corroer as democracias em todo o mundo. Depois vimos como a
Meta estava fomentando uma limpeza étnica em Mianmar e a violência em todo o
mundo. Os impérios da IA elevaram os danos a outro nível. O ritmo atual de
construção de data centers está provocando um aumento histórico da demanda
energética tanto nos EUA quanto na Europa, e está começando a colocar em perigo
os objetivos de luta contra a mudança climática, a reverter todos os avanços
climáticos que conseguimos, a aumentar a contaminação atmosférica nas
comunidades, a agravar a crise da água.
• O que você diria então aos usuários do
ChatGPT?
Que
quando fornecem dados a essas empresas, o que realmente estão fazendo é
fornecer poder aos impérios, para que sejam cada vez mais fortes e menos
responsáveis. Não estão apenas erodindo nosso meio ambiente, nossa saúde, nossa
privacidade, nossa propriedade intelectual e nossa capacidade futura de ter
oportunidades econômicas. Também estão erodindo as liberdades e capacidades
fundamentais para determinarmos nosso futuro. Que ferramenta pode valer nossa
liberdade?
• É preciso apostar em alternativas?
Há
muitas formas de desenvolver tecnologias de IA benéficas que não requerem
impérios, nem esse comportamento exploratório e extrativista. Quanto mais se
reforça a imagem de marca de empresas como a OpenAI, menos investimento é
destinado a alternativas que não nos prejudiquem. No primeiro trimestre de
2025, quase 50% do capital de risco foi destinado unicamente à OpenAI e à
Anthropic. O investimento em tecnologias climáticas diminuiu drasticamente
porque os mesmos investidores estão retirando seu dinheiro e destinando-o à
ampliação desses modelos de IA. Esses impérios estão prejudicando nosso futuro
de muito mais formas do que pensamos.
• O código aberto é essa alternativa?
Claro
que sim. Quando se utilizam modelos de código aberto, não se cede poder ao
império. Os dados não saem do seu dispositivo. Não vão parar no servidor de
alguma empresa que depois os utiliza para construir modelos cada vez maiores. A
forma-chave de desafiar os impérios é minar sua monopolização do conhecimento.
O código aberto permite isso, porque pesquisadores independentes que não são
financiados por essas empresas, podem investigar os modelos, compreender as
limitações e capacidades das tecnologias e criar conhecimento de interesse
público sobre como queremos utilizar essas ferramentas, como regulá-las e
governá-las. Precisamos de mais dessa produção de conhecimento independente
para minar o monopólio narrativo que os impérios possuem.
• Os gigantes que querem implantar seus
centros de dados vendem, a políticos locais que não entendem de tecnologia e só
pensam em ciclos eleitorais, promessas de grandes investimentos e criação de
postos de trabalho. Essa assimetria de poder é uma ameaça para as comunidades?
Sem
dúvida. Vão às cidades mais vulneráveis e economicamente subdesenvolvidas, para
seduzir o governo local de plantão. E o fazem a portas fechadas, ocultando suas
atividades, de modo que os moradores não possam protestar. Nos EUA já estão
pedindo aos funcionários públicos que assinem acordos de confidencialidade
antes mesmo de negociar esses acordos sobre data centers. Estão tornando
impossível o funcionamento da democracia. Negam que as pessoas possam se opor a
como utilizam enormes quantidades de recursos públicos, como a água, ou a como
aumentam as contas de energia das pessoas. Atuam na obscuridade porque querem
instalar sua infraestrutura antes que os cidadãos reajam, o que demonstra até
que ponto suas ações são impopulares.
• Não podemos falar de IA sem mencionar
que as tarefas cruciais são terceirizadas de forma precarizada no Sul Global.
Qual é essa outra realidade que tentam ocultar?
O
usuário médio do ChatGPT não percebe que a razão pela qual não é inundado por
discursos de ódio tóxicos, e por assédio, é o fato de haver outras pessoas
expostas a isso – cujo papel é ensinar aos filtros de moderação de conteúdo o
que bloquear. A OpenAI contratou esses trabalhadores no Quênia. Sua tarefa é
similar à dos moderadores de conteúdo das redes sociais – ou até pior, porque
não só lhes é mostrado o mais daninho que as pessoas publicam na internet, mas
também o mais prejudicial criado pelos próprios modelos de IA. É como um espaço
infinito de dor.
Fonte:
Por Karen Hao, em entrevista a Carles Planas Bou, em El Periodico | Tradução:
Antonio Martins, para Outras Palavras
Nenhum comentário:
Postar um comentário