Palavra de Sá

IA ameaça vida digna e impacto social da tecnologia vai ser cobrado nas urnas, diz Karen Hao

Um ano se passou desde que a jornalista estadunidense Karen Hao colocou no mundo “Empire of AI”, um livro-reportagem com uma investigação minuciosa sobre a OpenAI, criadora do ChatGPT, e sobre a indústria de tecnologia que sustenta hoje o desenvolvimento de inteligência artificial.

Apesar do curto período, muita coisa mudou. Nos Estados Unidos, a resistência aos data centers cresceu e se espalhou a ponto de data centers virarem uma questão eleitoral. Elon Musk, um dos co-fundadores da OpenAI, processou o CEO da empresa, Sam Altman, e perdeu. Os executivos que lideram a corrida da IA se aproximaram ainda mais do presidente Donald Trump. As big techs se integraram de tal maneira à máquina de guerra dos Estados Unidos que data centers passaram a ser alvos militares na guerra do Pentágono contra o Irã.

“Estamos, sem dúvida, chegando a um ponto de virada. Acho notável como, nos Estados Unidos, a narrativa e a percepção pública sobre a IA mudaram completamente em relação a quando comecei a trabalhar no livro”, disse Hao em entrevista ao Intercept Brasil em São Paulo. A jornalista, que já trabalhou em veículos como The Atlantic e MIT Technology Review, esteve no Brasil para lançar a versão brasileira de “O Império da IA”, pela Editora Rocco, com tradução de Ananda Alves e André Sequeira.

O livro chega ao Brasil no momento em que o país se torna palco dessa corrida global. Atraídas pela promessa de energia limpa e abundante, empresas de tecnologia têm buscado se instalar por aqui enquanto o governo federal tenta emplacar uma política nacional de incentivo a investimentos em data centers.

Às vésperas das eleições, a IA se impõe como uma questão política no Brasil. Nos Estados Unidos, a oposição à tecnologia e a exigência por regulação formam um dos poucos temas que unem a população, explica a autora.

“O que acontece nos EUA deve ser visto como um sinal claro de que a IA ganhou uma importância tamanha que as pessoas estão dispostas a votar com base nessa questão — e a tirar do poder qualquer autoridade que não queira proteger os interesses do cidadão comum e da comunidade diante da forma como essa indústria está devorando os próprios fundamentos de uma vida digna.”

Leia a entrevista abaixo:

•        Muita coisa aconteceu desde que “Empire of AI” foi publicado em maio do ano passado. Vimos a indústria de IA se alinhar ainda mais a Trump e a resistência aos data centers crescer nos Estados Unidos. Estamos chegando a um ponto de virada? O que mudou neste ano?

Sem dúvida, estamos chegando a um ponto de virada. É notável como a narrativa e a percepção pública nos Estados Unidos sobre a IA mudaram completamente em relação a quando comecei a trabalhar no livro. Antes, havia um enorme hype e a crença de que a IA seria a próxima revolução a entregar tudo o que as empresas de tecnologia prometiam. Agora, as pessoas percebem que se trata de uma indústria profundamente exploratória e extrativista, que, na verdade, está desapropriando e prejudicando muitas pessoas ao redor do mundo.

Quanto aos sinais desse ponto de virada, o que vemos, em primeiro lugar, é que agora existem consequências políticas reais para quem está no poder e se alia à indústria de IA.

Há autoridades eleitas perdendo seus cargos ao tentarem ajudar a perpetuar as práticas da indústria de IA. Há estudantes vaiando executivos em cerimônias de formatura quando a IA é mencionada. Crescem relatos de pessoas que trabalham para a indústria de IA — como eletricistas que lucram com o boom dos data centers — que sofrem exclusão social ao mencionar que participam do suporte ao desenvolvimento da IA.

Todos esses são sinais diferentes de que veremos uma mudança bastante drástica na forma como a indústria de IA continua avançando e em como governos e outras forças de fiscalização se posicionarão em relação a ela.

•        Os impactos da IA – alertados há tempos por especialistas, jornalistas e ativistas – tornaram-se mais visíveis para o público em geral?

Sim, acho que há algumas razões para esses impactos terem se tornado mais visíveis. Uma delas é que há muito mais conscientização pública acontecendo agora; há mais jornalistas cobrindo essas histórias e mais educadores falando sobre o assunto em sala de aula.

Outra questão é que a IA se tornou cada vez mais difundida, e seu desenvolvimento e implementação agora afetam diretamente a vida das pessoas. Elas não precisam mais aprender sobre o impacto dessas tecnologias apenas lendo jornais, porque estão aprendendo isso agora apenas observando o que as cercam.

E essa é parte da razão pela qual essa percepção mudou radicalmente: os mitos da indústria de IA prosperam quando há um vácuo de informações, e esse vácuo está sendo preenchido agora pela realidade.

•        ‘Os mitos da indústria de IA prosperam quando há um vácuo de informações, e esse vácuo está sendo preenchido agora pela realidade’.A indústria de tecnologia, com a ajuda da grande mídia, tem promovido com sucesso a narrativa de que a IA é inevitável. Vemos isso no próprio jornalismo, com a adoção de ferramentas de IA nas redações e acordos para treinar modelos com conteúdo jornalístico. Como retomar o controle sobre isso e mostrar às pessoas que não é algo inevitável?

Bem, há alguns pontos. Acho que o primeiro é que os jornalistas precisam continuar fazendo o que sempre fizemos diante de forças poderosas: cobrar responsabilidade desse poder.

E isso envolve investir mais em jornalismo investigativo e mostrar como o dinheiro circula no sistema, como ideologias alimentam a expansão dessas indústrias e como o setor se alinha a outros centros de poder na sociedade — o que inclui a própria mídia. Outra coisa que precisamos fazer, como jornalistas, é ter uma visão muito clara de qual é, de fato, nossa relação com essas tecnologias e empresas. Como jornalistas, somos defensores da democracia.

Nunca devemos participar de nada que enfraqueça a democracia. Isso também comprometeria nosso próprio propósito como o “quarto poder”. Por isso, acredito que as empresas de mídia não devem, de forma alguma, firmar parcerias com essas companhias.

Ao fazer parcerias e fornecer conteúdo para a próxima geração de seus modelos, ou ao utilizar tecnologias que enraízam seus tentáculos em nossa capacidade de operar e realizar nosso trabalho, acabamos perpetuando ainda mais esse império. Validamos e viabilizamos a continuidade de sua exploração e extração de recursos. Minamos nossa própria independência para contestá-los quando abusam do poder.

Para os jornalistas que não são executivos de mídia, acredito que parte do que precisamos fazer é considerar a organização como trabalhadores do setor, cobrando responsabilidade de nossos próprios executivos para evitar que fechem esses acordos.

Ao mesmo tempo, surge a questão: como jornalistas, podemos nos beneficiar das tecnologias de IA. Então, como tirar proveito delas sem apoiar a expansão desse império? Isso envolve, então, investir em mais tipos de modelos de IA que sejam alternativas ao que os impérios oferecem. Isso inclui soluções de código aberto.

•        Teremos eleições gerais em outubro no Brasil, e o debate sobre IA costuma focar no uso de deepfakes e propagandas pelas campanhas. Mas há outro aspecto: a IA se tornar, por si só, uma questão política. Nos Estados Unidos, por exemplo, candidatos já se posicionam contra data centers por ser um tema polêmico e o setor de IA injeta dinheiro em campanhas para influenciar resultados eleitorais. Como você vê esse cenário se desenrolar? Para onde devemos olhar?

Concordo plenamente que a IA se tornou um tema extremamente sensível e debatido nos EUA — algo, honestamente, bastante extraordinário. Se pensarmos em todas as questões que geram conflito entre os americanos, é notável que a IA tenha assumido um papel central em meio a tantos outros assuntos em pauta, como direitos reprodutivos, guerras e economia. De alguma forma, a IA ganhou destaque e, ao mesmo tempo, uniu os estadunidenses.

Hoje, 80% dos estadunidenses compartilham a mesma opinião sobre a IA: estão preocupados com a tecnologia e querem que o setor seja responsabilizado. Não me lembro da última vez que 80% da população concordou com algo. Acredito que o mesmo acontecerá em outros países, caso não levem a sério o que está ocorrendo nos Estados Unidos como um alerta.

No Brasil, na União Europeia e em outros lugares, se os formuladores de políticas ignorarem a ameaça que esse setor representa para a qualidade de vida, a economia e o pensamento crítico das próximas gerações, enfrentarão uma mudança na opinião pública contra si. Eles perderão seus cargos nas urnas. Serão responsabilizados da mesma forma por não refletirem, de fato, a vontade da população ao elaborar políticas públicas.

Acredito que o que acontece nos Estados Unidos deve ser visto como um sinal claro de que a IA ganhou uma importância tamanha que as pessoas estão dispostas a votar com base nessa questão. Inclusive, a tirar do poder qualquer autoridade que não queira proteger os interesses do cidadão comum e da comunidade diante da forma como essa indústria está devorando os próprios fundamentos de uma vida digna.

•        A energia virou a principal barreira para a expansão da indústria de IA. Em muitos países, a rede elétrica é incapaz de absorver a demanda dos mega data centers, o que significa recorrer a combustíveis fósseis para abastecê-los. O Brasil é um caso à parte: temos uma matriz renovável e o governo tenta agora oferecer o excedente elétrico do país para atrair essa indústria. Com isso, as empresas de tecnologia começam a vender a imagem de que suas operações por aqui são sustentáveis. A narrativa do data center limpo seria uma forma de greenwashing – ou seja, uma maneira de vender a ilusão de sustentabilidade?

O Intercept Brasil produziu reportagens incríveis sobre essa questão específica. Portanto, vou apenas repetir o que aprendi com elas: trata-se, sem dúvida, de uma estratégia de greenwashing. A questão da energia é que existe uma quantidade finita disponível. Mesmo que a indústria utilize energia hidrelétrica, essa é uma energia que deixa de ser usada por outro setor — para produzir alimentos, por exemplo, ou outros itens de que realmente necessitamos. Esse é um aspecto do problema.

Outra questão é que o impacto dos data centers vai muito além da energia. As reportagens do Intercept também me mostraram como a indústria mapeia as comunidades atingidas ou devastadas por crises climáticas — como inundações e secas — para oferecer uma solução ou “salvação” econômica, quando, na verdade, o objetivo é aprofundar a exploração dos recursos dessas comunidades.

Não se trata apenas de energia. Há muitos desafios interconectados que os data centers aceleram e alimentam. Esse é um ponto que, a meu ver, comunidades e formuladores de políticas precisam manter em destaque.

Os data centers estão na intersecção de várias dimensões da policrise. Precisamos ter uma visão muito clara e realista do que isso representa.

•        Qual é a mensagem mais importante que você espera que os leitores brasileiros tirem de “O Império da IA”?

Acredito que há duas coisas principais que espero que as pessoas extraiam deste livro. A primeira é que a IA é um conjunto de tecnologias. Portanto, quando discutimos que tipo de IA queremos usar, há uma enorme margem de escolha envolvida nessa questão. Da mesma forma que falamos sobre a transição do nosso sistema de transporte — deixando de priorizar os combustíveis fósseis para focar em modais mais sustentáveis e coletivos —, deveríamos abordar a IA sob essa mesma ótica. Como queremos conceber e selecionar o conjunto adequado de tecnologias de IA para que elas, em última análise, ajudem a promover uma abordagem social mais sustentável, democrática e voltada para a comunidade?

E, em segundo lugar, uma vez reconhecida a existência de uma margem significativa de escolha, espero que as pessoas percebam que isso significa ter voz ativa na definição de quais tipos de tecnologias de IA vamos desenvolver e implementar no nosso futuro.

Não importa se você trabalha na indústria de tecnologia ou não, ou se é pesquisador de IA ou não. Independentemente de onde você esteja na sociedade, pode participar da definição da trajetória futura dessa tecnologia e, consequentemente, do nosso futuro coletivo.

•        Qual foi um acontecimento na indústria de IA no último ano que você não previu? Por quê?

A velocidade com que as pessoas começaram a se organizar em movimentos de base para resistir à indústria de IA tem sido notável para mim. Eu imaginava que haveria resistência à indústria, mas não esperava que isso acontecesse tão rapidamente e que viesse de tantos segmentos diferentes da sociedade ao redor do mundo. Isso tem sido realmente lindo e me traz muita esperança.

 

Fonte: Por Laís Martins, Samantha Prado e Rafaela Soli, em The Intercept