Palavra de Sá

Existe alguma saída para o pessimismo em relação à IA?

Há pouco tempo, um amigo próximo, engenheiro de software, comentava como seu papel havia mudado nos últimos meses, com a adoção de uma abordagem centrada em IA pela empresa em que trabalha. Ele explicou que essa abordagem alterou a dinâmica da equipe. Contou-me que agora teme uma pergunta mais do que qualquer outra, uma que se tornou um refrão no escritório: “Por que você simplesmente não passa para o Claude?”. Geralmente, trata-se de um problema de engenharia complexo, que deixou a equipe perplexa por um tempo, ou pelo menos por alguns minutos, frequentemente durante uma discussão técnica que, há poucos anos, poderia durar mais de uma hora. Invariavelmente, ele passa o problema para o Claude que, invariavelmente, apresenta uma solução impressionante em poucos minutos. Ele não se importa que o Claude tenha lhe dado uma solução. O que o incomoda é que as pessoas ao seu redor não o veem mais como uma autoridade, como antes. Ele se sente, agora, mais ou menos substituível. Ou talvez, pior ainda, obsoleto.

O conceito de obsolescência humana é levado a sério por Garrison Lovely em sua obra Obsolete: The AI tndustry’s trillion-dollar race to replace us — and how to stop it. Em vez de abordar o assunto pela perspectiva dos trabalhadores (como outros livros recentes sobre o tema, talvez o mais notável seja We are not machines [Não somos máquinas], de Sarah O’Connor), Lovely o aborda de uma perspectiva mais ampla, como um problema de economia política. Obsolescência, redundância, fungibilidade: esses são problemas políticos para Lovely. No entanto, aqueles que acompanham o discurso ruidoso e em constante evolução em torno da inteligência artificial sabem que a maioria das questões discutidas hoje não se encaixa perfeitamente nas linhas divisórias políticas usuais. De fato, como Lovely reconhece logo no início de seu livro, em qual outro assunto encontramos Elon Musk se aliando ao Sindicato Internacional dos Trabalhadores de Serviços (SEIU) contra Nancy Pelosi e o bilionário de extrema direita Marc Andreessen? Ou Steve Bannon concordando com a conselheira de segurança nacional de Barack Obama, Susan Rice, enquanto critica abertamente as políticas de Donald Trump?

Lovely afirma que há um ponto em que todos deveriam concordar: o fato de que “um pequeno grupo de pessoas, apoiado pelas organizações mais bem financiadas do mundo, está tentando nos tornar obsoletos”. Dito assim, você pode achar que a afirmação soa tendenciosa, na melhor das hipóteses (e, na pior, um sinal de paranoia política). Você pode pensar que a maioria dos laboratórios de inteligência artificial se revoltaria com tal descrição. Mas, como Lovely faz questão de ressaltar, essas empresas têm sido notavelmente francas sobre sua ambição de eliminar o trabalho humano.

A OpenAI, por exemplo, informa em sua carta constitutiva que, desde o início, busca a Inteligência Artificial Geral (IAG), que define como um “sistema altamente autônomo que supera os humanos na maioria dos trabalhos economicamente valiosos”. Independentemente da forma como a empresa a formule, sua missão de construir a IAG é precisamente uma tentativa de transformar capital em trabalho e remover uma das últimas restrições ao capital: a dependência de força de trabalho humana. Isso leva Lovely a argumentar que a IAG deveria ser reformulada “não como um novo tipo de cérebro, mas sim como um novo tipo de máquina, que não fabrica produtos ou serviços, mas produz trabalho em si”. Ele chama essa máquina de “a Máquina da Obsolescência”.

A primeira parte de Obsolete, “O que você já ouviu”, cataloga sucintamente as posições dominantes sobre IA na atualidade. Lovely escreve que “o debate acirrado sobre a IAG tem basicamente três campos concorrentes: os preocupados, os aceleracionistas e os críticos”. Os preocupados, que incluem o movimento pela segurança da IA e aqueles frequentemente descritos pejorativamente como “pessimistas”, concordam que a IAG é possível, mas acreditam que seu desenvolvimento provavelmente terá efeitos catastróficos em nosso futuro. Os críticos, que incluem figuras como Emily Bender (que notoriamente coescreveu um artigo descartando grandes modelos de linguagem como “papagaios estocásticos”), permanecem profundamente céticos quanto à possibilidade (muito menos à iminência) da IAG e tendem a descartar o discurso em torno dela como mera propaganda. Finalmente, Lovely fala dos aceleracionistas (ou “entusiastas”) que compartilham a crença dos preocupados no notável potencial da tecnologia, mas insistem que devemos desenvolver a IAG o mais rápido possível. (Andreessen, por exemplo, declarou publicamente a duvidosa afirmação de que quanto mais demorarmos para desenvolver a IAG, teremos mais perdas de vidas que poderiam ter sido evitadas por avanços na medicina.)

As alianças resultantes entre esses grupos são frequentemente surpreendentes. Críticos e alarmistas, por exemplo, ambos desejam que a indústria seja contida, embora muitas vezes em termos e por razões muito diferentes; críticos e aceleracionistas, por sua vez, podem concordar com a ideia de que hipotéticas ameaças existenciais não devem determinar as políticas atuais e nos distrair em relação ao aqui e agora.

Lovely dedica uma parte considerável do seu livro a desmantelar muitas das preocupações e argumentos apresentados por esses grupos (fazendo-o com muito sucesso na maioria dos casos) antes de propor uma quarta posição com a qual se alinha, a dos “reformadores”. Os reformadores da IA, escreve ele, “reconhecem que os danos atuais da IA e suas potenciais catástrofes não são problemas separados que exigem abordagens separadas — são sintomas da mesma dinâmica subjacente: pressão competitiva, poder concentrado e uma assombrosa falta de responsabilização”. Aqui, ele cita os exemplos bem documentados de chatbots que incentivam o suicídio entre adolescentes e a possibilidade de a IAG representar um sério risco à segurança caso escape ao controle humano. Ambos emergem de organizações que se apressam em implantar sistemas que não compreendem totalmente.

O que poderia nos impedir de mergulhar na policrise tecnológica que Lovely tanto teme? Suas recomendações, delineadas na seção final (“O que fazer”), são louváveis, mas, do ponto de vista geopolítico, muita coisa teria que mudar antes que algumas de suas demandas pudessem ser atendidas. Talvez a mais ambiciosa seja a de que os Estados Unidos e a China concordem em não desenvolver sistemas de IA “projetados para automatizar completamente o trabalho” até que haja apoio público e amplo consenso científico sobre sua segurança. Mas para quem ouviu as repetidas promessas do governo Trump de “fazer o que for preciso” para garantir “o domínio global da IA nos Estados Unidos” e “vencer a corrida da IA”, a probabilidade disso acontecer pode parecer quase comicamente remota. (Vale acrescentar que o governo Biden também tratou a IA como uma corrida a ser vencida contra os chineses.) Há outras sugestões promissoras e mais modestas que poderiam amenizar a situação atual. Por exemplo, a ideia de construirmos infraestrutura computacional pública e, ao mesmo tempo, estabelecermos “sindicatos de dados” coletivos para negociar o material necessário para treinar os modelos. Mas se a China fosse vista como um concorrente intensificando suas operações de IA, seria realmente possível que os Estados Unidos não seguissem o exemplo e, assim, abandonassem essas ideias mais justas e democráticas?

Há momentos em que o livro de Lovely se torna frustrante de ler. O estilo excessivamente informal pode irritar ou, pior ainda, minar um argumento (“nenhum dos lados quer criar uma superinteligência desonesta ou deixar que qualquer um mate bilhões”). Ocasionalmente, a prosa soa superficial (“Altman, como seu chatbot, sabe o que dizer para manter a conversa fluindo — e suas mãos bem longe do cabo de energia”). E a estrutura do livro, com seus muitos capítulos, que são subdivididos em seções e subseções, dá a impressão de que estamos lendo um livro didático às pressas (com alguns gráficos e tabelas peculiarmente amontoados e, às vezes, desnecessários). E, claro, há o subtítulo um tanto sensacionalista. Mas essas são, em grande parte, críticas menores (e editoriais).

Obsolete faz algo útil e instigante. Oferece um panorama esclarecedor do estado atual do debate sobre IA, ao mesmo tempo que propõe ideias sensatas sobre como lidar com uma tecnologia que ameaça causar muitos danos e consolidar ainda mais a desigualdade em todo o mundo, se não for controlada. Mas é improvável que traga muita alegria àqueles que já se sentem distantes e alienados de seu trabalho, pois são questionados mais uma vez: “Por que você simplesmente não entrega o projeto ao Claude?”.

 

Fonte: Por Christopher Webb - Tradução Pedro Silva, para Jacobin Brasil