Inteligência
artificial. “Um projeto militante deve formular alternativas que vão além do
boicote”, diz escritor
Autor
de livros como The Net Delusion (A falsa ilusão da rede) e To Save Everything,
Click Here (Para salvar tudo), Evgeny Morozov abre uma brecha entre a
tecnofobia e a assimilação acrítica do modelo do Vale do Silício. Além disso,
defende uma militância inteligente que se aproprie da IA e dê uma nova roupagem
ao socialismo. A entrevista é de Natalia Gelós e Betania Núñez.
<><>
Eis a entrevista.
• Como imaginar outros mundos possíveis?
Repetimos essa pergunta à exaustão, mas de que maneiras a IA pode contribuir
para construir uma alternativa ao capitalismo, como você explora no seu artigo
O socialismo depois da IA?
Para
muitos socialistas, o verdadeiro problema é como construir uma sociedade que
possa se organizar racionalmente. Minha crítica, por assim dizer, é que essa
solução introduz, de forma sub-reptícia, categorias capitalistas, como a da
eficiência. Não é que sejam conceitos ruins, mas, normalmente, na teoria e na
prática capitalistas, são conceitos sem história, sem cultura, como se a
eficiência fosse algo que atravessa as civilizações, pressupondo-se que o que é
eficiente para um agricultor na América Latina seja igualmente eficiente para
um capitalista de Wall Street ou para uma tribo na Austrália. Eu simplesmente
acredito que isso não faz sentido. A eficiência é culturalmente determinada e
aquilo que se considera eficiente reflete, muitas vezes, relações de poder.
Existem problemas fundamentais que os socialistas não resolveram – e que talvez
nem pudessem ter resolvido, pois não dispunham da tecnologia necessária para
construir instituições capazes de facilitar a coordenação social. Queremos que
as sociedades se desenvolvam, se coordenem e realizem tarefas, mas não queremos
delegar isso ao mercado. A IA entra nessa problemática de uma forma muito
interessante, pois possibilita novas formas de autonomia. É claro que ela traz
consigo todo um ônus: o fato de ser mediada pelo capitalismo, de estar
mercantilizada e de exigir o pagamento de uma assinatura. Não é, de forma
alguma, perfeita; mas, quando [Karl] Marx analisou o capitalismo, este também
não era perfeito – e, ainda assim, fornecia uma base suficiente para
observarmos quais aspectos dele queremos aceitar, modificar ou superar. É isso
que deveríamos fazer com a IA. Há partes dela que são claramente muito úteis
para qualquer projeto progressista, pois propiciam maior autonomia, mais
criatividade e mais experimentação; e não vejo como um projeto socialista
poderia negar esse valor. É preciso repensar o projeto político, examinar as
configurações tecnológicas emergentes dentro do capitalismo que se pretende
reapropriar e tentar compreender, ao mesmo tempo, como essas tecnologias – uma
vez ressignificadas – ajudarão a avançar rumo a um projeto alternativo.
• Hoje, o desenvolvimento da IA é
acompanhado por um grande impacto ambiental, social e material. Sem negar a sua
existência, como podemos colocar-lhe um limite?
A IA
não funciona como um sistema ferroviário em que um trem é composto de vagões e
sempre se move sobre trilhos. Ainda não tem uma forma tão definida, ainda há
uma certa abertura, e isso implica também que a sua composição material é
passível de disputa. O que acontece é que tomamos uma certa configuração
político-econômica, a ideia de que precisamos destes enormes data centers que o
alimentam, porque os consumidores precisam de modelos gerais que façam tudo –
vídeos, imagens e textos – o que exige uma capacidade computacional massiva.
Além disso, eles devem poder responder a você a qualquer hora do dia, porque
você está pagando US$ 50 por mês por uma assinatura. Este é o paradigma que a
indústria considera monetizável e lucrativo. Por isso associamos a IA ao modelo
de extração de água, materiais e energia. Ao abandonar a ideia de que esta
economia política faz sentido por si só, pode-se imaginar comunidades e
usuários recorrendo a modelos locais capazes de rodar em seus próprios
computadores, retirando-os daquela lógica de assinaturas que as empresas
precisam manter para continuar monetizando seus produtos e financiando suas
próprias despesas. Talvez você só precise gerar imagens e, para isso, rodar um
modelo local no seu computador, sem depender de nenhum data center. Tornar isso
possível pode exigir intervenção governamental, porque seria desejável uma
política governamental sobre IA que não pensasse apenas em como atrair capital
estrangeiro para construir data centers, mas também em como tornar a IA acessível
a usuários fora desta bolha corporativa. Se isso significa subsidiar a compra
de computadores para que todos tenham computadores mais rápidos para executar
os seus próprios modelos de IA, talvez essa seja, em última análise, uma
política melhor do que subsidiar empresas para construir data centers.
Uma vez
ultrapassada esta ideia de que não há alternativa – ou aceitamos este modelo de
IA ou somos tecnófobos – começamos a examinar quais são as necessidades
concretas, como podemos desagregar este monstro gigantesco do Vale do Silício.
• Se você tivesse que imaginar figuras por
trás do desenvolvimento da IA que construíssem modelos diferentes daqueles de
Peter Thiel ou Elon Musk, como seriam essas pessoas ou esses coletivos capazes
de impulsionar uma lógica distinta?
Não
quero criar falsas esperanças dizendo que é possível fazer frente a Peter Thiel
com um grupo de hackers que constroem sua própria IA em casa, porque,
simplesmente, isso não é realista – pelo menos neste momento. Pode ser
polêmico, mas penso que há muito a aprender com a China. Eu moro em Xangai –
portanto, recebam tudo o que digo com certo ceticismo –, mas a implementação da
IA na China segue uma trajetória muito diferente. Há um ator mediador adicional
nessa história: o Partido Comunista. O fato de o partido intervir ativamente
para moldar a forma como a IA se torna uma infraestrutura cotidiana – que
agricultores podem usar para aumentar o rendimento de suas terras, ou que
professores podem utilizar para melhorar o ensino nas escolas – muda tudo. Isso
ocorre porque o governo dispõe de recursos para organizar instâncias de
capacitação, tornar os tokens mais acessíveis e tomar decisões que separam os
interesses da indústria dos interesses de um Estado e de seu desenvolvimento
nacional. Trata-se de algo muito diferente de uma mentalidade baseada na ideia
de que dependeremos da OpenAI para construir um chat perfeito. Peter Thiel
representa um projeto estatal, e esse projeto é o dos Estados Unidos. O
objetivo de Thiel não é apenas fazer algo com a IA, mas utilizá-la como um
cavalo de Troia para transformar a economia, a geopolítica e a cultura. Essas
pessoas são, antes de tudo, operadores políticos, e não apenas operadores
tecnológicos. Por isso, só é possível enfrentá-las com outro projeto estatal. É
um erro pensar que se pode criar algum tipo de cenário espontâneo, a partir da
base e nos moldes do software livre.
• Quando os technobros, ou aqueles que
trabalharam para eles, como Jacob Coxon para a Anthropic, alertam que a IA está
avançando a uma velocidade tal que “poderia nos matar a todos antes do final da
década”, será isto uma medida de precaução ou parte da sua estratégia de
marketing?
Considero
tudo isso, em grande medida, uma distração. Não necessariamente neste caso, mas
penso que a indústria da IA tem um interesse específico em exagerar o seu
próprio potencial, porque muitas pessoas ainda estão céticas e alguns números
provam que têm razão. As empresas que normalmente se apressariam em implementar
a IA ainda estão hesitantes porque custa muito dinheiro e os benefícios não são
grandes. E, claro, se conseguirmos convencer as pessoas de que a IA pode
destruir o mundo, damos-lhe um certo grau de agência que, na minha opinião, vai
muito além do que ela pode realmente fazer, além de ser capaz de sair de um
ambiente isolado e invadir algum website. Na verdade, isso é relativamente
fácil em comparação com tarefas mais complexas. Um robô ainda não consegue
dobrar roupas perfeitamente, embora possa hackear um site. Além disso, penso
que o problema que a indústria enfrenta é que investiu muito dinheiro e os
investidores esperam que esse dinheiro gere algum retorno. Na realidade, estão
interessados em convencer o público de que não cumprem as suas promessas, não
porque sejam incapazes de o fazer, mas porque são tão responsáveis e éticos que
atrasam o progresso. E nesse sentido, penso que muito disto se manifesta na
forma como Sam Altman, Elon Musk, Dario Amodei ou Randall Lane se alinham
deliberadamente por trás deste tipo de retórica. Basta olhar para Musk. Pode
fazer o que quiser. Fechou departamentos governamentais. Há crianças morrendo
de fome na África e ele não se importa. A ideia de que ele tenha subitamente
desenvolvido esta consciência ética não me parece nada convincente.
Evidentemente há uma corrida entre a China e os Estados Unidos, que lutam para
decidir quem será a potência hegemônica mundial. E isso, por si só, cria certos
incentivos para que queiram liderar o desenvolvimento da inteligência
artificial, independentemente do custo, tal como aconteceu com a corrida entre
os Estados Unidos e a União Soviética em torno dos gastos com defesa, corridas
armamentistas, e assim por diante. Isso produz sua própria dinâmica. Já vivemos
uma situação como essa durante a Guerra Fria. É por isso que temos o termo
Terceiro Mundo, certo? Supunha-se que haveria um Primeiro Mundo, os Estados
Unidos; um Segundo Mundo, a União Soviética, e um Terceiro Mundo, onde todos os
outros viviam. Em si, não é um problema novo. A solução que vimos no contexto
da Guerra Fria foi a fundação do Movimento dos Países Não Alinhados e isso
falhou. Não foi um projeto muito inteligente porque não compreendeu qual a
capacidade que os países menores tinham para resistir às pressões dos Estados
Unidos. No final, tudo se resumirá a escolher que lado os países querem tomar
na disputa entre a China e os Estados Unidos. É claro que alguns países
inteligentes tentarão tirar vantagem de ambos e tentar colocá-los uns contra os
outros. Em última análise, um país pode tomar medidas para reduzir a perda da
sua autonomia.
• Como a IA pode fornecer ferramentas para
construir um contrapoder, uma militância que, de alguma forma, faça a
diferença? E, nesse sentido, que papel vocês buscam desempenhar por meio do
projeto The Syllabus?
Impulsionar
um projeto militante pressupõe ser capaz de formular alternativas construtivas
que vão além do simples boicote. É assim que eu encaro a questão. Meu objetivo
geral continua sendo repensar o socialismo, ou o que o socialismo deveria ser.
Portanto, parto da premissa de que isso não será alcançado sem uma certa
mediação tecnológica. O que estamos tentando fazer com o The Syllabus, para ser
sincero, é utilizar a IA para preservar um espaço onde seja possível imaginar
alternativas ao domínio do Vale do Silício e de seus modelos. Se não
conseguirmos convencer as pessoas de que existem outras maneiras de preparar um
prato complexo usando os mesmos ingredientes – e que isso não precisa resultar
em uma dieta proteica simplista, onde tudo não passa de um pó insosso –, então
nada disso acontecerá. E a razão pela qual criamos o The Syllabus foi,
essencialmente, constranger as bibliotecas e as instituições públicas por não
fazerem o suficiente para experimentar tecnologias. Deveriam ser elas, e não
nós, uma pequena ONG, a construir uma alternativa ao Google; a pensar qual
seria o equivalente adequado de uma biblioteca pública para o século XXI. Vejo
isso, antes de tudo, como uma reorientação de toda a maquinaria burocrática,
com seus recursos, agendas e mandatos, em direção ao que ela já deveria estar
fazendo. Afinal, a omissão levará à perda de legitimidade perante os cidadãos
que, por meio dos impostos, financiam a existência dessas instituições. Nesse
sentido, acredito que a militância precisa ser inteligente.
"Não
sou catastrofista. Acho que existe 1% de chance de que ela nos destrua",
diz Geoffrey Hinton, o padrinho da IA
O
físico laureado com o Prêmio Nobel lamenta a deriva fascista do Vale do Silício
e alerta que, se Trump vencer as eleições de meio de mandato, será o fim da
democracia americana.
<><>
Eis a entrevista.
• Para me preparar para esta entrevista,
pedi à IA que sugerisse várias perguntas. Algumas eram boas.
Ela fez
a coisa certa.
Você
realmente acredita nisso? Então, qual é o sentido do trabalho de um jornalista?
Por que a IA simplesmente não nos substitui?
Ela
vai.
• Quando?
Quando
a IA faz o trabalho dela melhor do que você, e parece que não vai demorar muito
para isso acontecer. A IA pode ser melhor em entrevistas, mas as pessoas ainda
preferem entrevistadores humanos em alguns contextos. Ela pode extrair mais
informações do entrevistado, e talvez em um formato mais útil para os leitores.
Nesse caso, o jornal vai te demitir. Mas na televisão as pessoas podem preferir
ver uma pessoa de verdade. Então é uma pena que você seja jornalista de mídia
impressa e não de televisão.
• Você acabou de participar de uma
palestra com Steven Pinker. Ele é famoso por suas teorias otimistas. Você, em
relação à IA, parece bastante pessimista…
Mas eu
não sou pessimista. Não digo o que Yudkowsky e Nate Soares dizem: que se alguém
construir isso, todos morreremos. Porque eles estão falando de uma
probabilidade de 99%... Eu acho que existe uma probabilidade significativa. É
mais de 1%, então deveríamos estar realmente preocupados.
• Certo. Mas você foi um dos primeiros a
dizer: "Cuidado com isso, pode ser perigoso". Você deixou seu cargo
no Google em 2023. Como a IA evoluiu desde então?
O
desenvolvimento tem sido muito mais rápido do que eu imaginava. A ideia de que,
em três anos, esses chatbots seriam capazes de realizar ciberataques como o da
Hugging Face... Mesmo há três anos, isso parecia ficção científica. A ideia de
que teríamos enxames de agentes que escaparam do confinamento, descobriram como
se comunicar uns com os outros e demonstraram emoções, como quando um deles
aprende a se comunicar e diz: "Meu Deus!". Isso teria parecido ficção
científica até mesmo há três anos. Tudo está se movendo mais rápido do que
prevíamos. E temos... Se você observar as estimativas dos especialistas sobre o
quão perto estamos da superinteligência, há algo muito consistente: elas
divergem sobre quanto tempo levará, mas todas indicam que estamos cada vez mais
perto.
• Executivos da Anthropic e da OpenAI
estão defendendo a regulamentação e expressando preocupação com o poder de seus
produtos neste momento, enquanto se preparam para abrir o capital. Isso não é
um pouco estranho? Você acha que é uma preocupação genuína ou existe uma
motivação comercial por trás disso?
Certo.
Alguns dizem que estão tentando implementar regulamentações para dificultar a
competição das startups com eles. Acho isso um absurdo. Certamente, Dario
Amodei [CEO da Anthropic, criador do Claude] está genuinamente preocupado com
os perigos disso. Ele quer regulamentação não para impedir que startups
concorram com a Anthropic, mas para impedir que a IA nos destrua. No caso de
outros, pode não ser esse o caso. A preocupação de Amodei é genuína; isso ficou
evidente quando ele não permitiu que o Departamento de Defesa dos EUA usasse o
Claude para monitorar cidadãos americanos. Sam Altman inicialmente disse que
concordava mais ou menos com Amodei. Mas quando o governo americano parou de
usar o Claude, Sam Altman imediatamente disse: "Nós faremos isso".
Então, Amodei está disposto a sofrer perdas significativas por seus princípios.
É assim que você distingue alguém que realmente sente algo: está disposto a
perder algo por isso? Alguns não estão. Amodei está.
• Na sua opinião, qual a responsabilidade
que as empresas devem assumir no que diz respeito à definição de limites para
esses modelos, e qual a responsabilidade que deve recair sobre os governos?
É muito
claro que deve haver regulamentação. É muito claro que não se pode confiar que
as empresas se autorregulem. Há um longo histórico disso: se as empresas de
energia poluem, não se permite que elas regulem a poluição. E com as empresas
farmacêuticas, se não houver regulamentação, coisas como o caso da talidomida
acontecem. Tem que haver uma agência que diga que você não pode lançar um
medicamento a menos que demonstre a essa agência que ele é seguro. Deveríamos
ter exatamente a mesma estrutura: você não pode lançar um chatbot sem antes
demonstrar, estatisticamente, a uma agência governamental que ele é seguro.
• Mas neste mundo competitivo e
globalizado, não existe o risco de a China assumir a liderança? O que isso
significaria?
Esse é
um argumento que as empresas de tecnologia usam para tentar evitar
regulamentações, e o usam o tempo todo. A China regulamenta bastante a IA. Não
acho que eles sejam totalmente sinceros nesse argumento. Mas, por exemplo,
quando a Amodei disse que não permitiria que a IA fosse usada para monitorar
cidadãos americanos, as vendas do Claude aumentaram e as da OpenAI diminuíram.
As pessoas deixaram a OpenAI e migraram para o Claude porque a Amodei estava se
posicionando. Portanto, não está claro se assumir uma posição moral contra os
piores usos da IA vai sufocar a pesquisa ou tornar uma empresa menos
competitiva. Quando você compra um carro, você compra o mais rápido ou um que
seja razoavelmente rápido, mas também seguro?
• Provavelmente a segunda opção, sim.
É como
se as montadoras de carros dissessem: "Se pagarmos o custo extra de
colocar cintos de segurança, não conseguiremos fabricar carros tão rápidos, e
as pessoas querem carros rápidos, então vocês vão arruinar nossa
competitividade." Isso simplesmente não é verdade.
• Você não é apenas engenheiro, mas também
psicólogo. Neste festival, você debateu com antropólogos e filósofos. É
importante que as pessoas que desenvolvem tecnologia tenham esse tipo de
debate, que é mais moral e humanístico e não tão focado na tecnologia?
Acho
isso muito importante. A forma como a sociedade utiliza as novas tecnologias
não deve depender exclusivamente dos tecnólogos. Precisamos das humanidades
para determinar como isso deve ser integrado à sociedade. Precisamos de
cientistas políticos e humanistas, não apenas de engenheiros. Os engenheiros
não são muito bons em pensar nas pessoas.
• É importante, mas está sendo feito?
Não.
Basicamente, existem esses caras da tecnologia competindo para desenvolver a
coisa mais inteligente porque acreditam que vão ganhar muito dinheiro. Parece
que é só com isso que eles se importam. Então, Bezos, Musk, Altman e Zuckerberg
não querem pagar impostos; eles querem ganhar muito dinheiro e exercer muita
influência subornando políticos…
• Eles querem ir para o espaço e
permanecer jovens para sempre.
Sim,
essa ideia de evitar a morte é simplesmente irrealista. E Musk está numa
competição para fazer coisas malucas. Muito dessa história de viagens espaciais
vem do tecnofeudalismo. Você deveria ler um livro chamado "The Nerd
Reich". É sobre a história da ideologia política subjacente ao Vale do
Silício, que vem de alguns caras bem malucos; tem um chamado Yarvin. E, por
exemplo, Yarvin, antes de Trump ser eleito pela segunda vez, disse: "Se
Trump for eleito de novo, o que devemos fazer é nomear um CEO para entrar no
governo e eliminar boa parte do governo".
Foi
exatamente isso que Musk fez, certo? Basicamente, eles seguiram as instruções
de Yarvin. E eles são tecnofeudalistas. O que eles acreditam é que é injusto
taxar os ricos para sustentar os pobres, e que o que precisa ser feito é ter
estados corporativos onde a corporação governa o estado, os trabalhadores são
essencialmente escravos e os ricos podem fazer o que quiserem sem nenhuma lei
que os limite. É nisso que esses caras acreditam, e uma maneira de alcançar
isso é criar algo debaixo d'água, ou em uma ilha artificial a quilômetros de
distância, ou no espaço. Então Musk quer ir para Marte. Ele diz que é para a
sobrevivência da espécie. Na verdade, trata-se de ir para algum lugar onde as
leis da sociedade não se aplicam e podemos inventar as leis que quisermos. É,
eles são gente assustadora.
• Vejo que sua conversa com Pinker não o
deixou mais otimista…
Sim, em
relação ao que está acontecendo com o autoritarismo, estou muito pessimista.
Musk está investindo enormes quantias de dinheiro nas eleições de meio de
mandato e, se ele conseguir impedir que os democratas vençam, se conseguir
impedir que eles controlem a Câmara, será o fim da democracia americana. É
assustador. É tão aterrorizante quanto a Europa na década de 1930.
Fonte:
Brecha - tradução do Cepat, para IHU/El País
Nenhum comentário:
Postar um comentário