Palavra de Sá

Colocar a IA sob propriedade social para fins sociais

Um debate acirrado tem ocorrido na Jacobin sobre o que fazer com a Inteligência Artificial (IA). A IA é claramente uma tecnologia com potencial de trazer enormes benefícios e malefícios — e talvez ambos simultaneamente. Financeiramente, ela poderia colocar ainda mais renda nas mãos de bilionários, ou poderia gerar uma bolha cujo estouro levaria o patrimônio líquido de investidores, inocentes e culpados, a um precipício. De qualquer forma, ela precisa ser redirecionada, deixando de lado os imperativos financeiros restritos e passando a ser voltada para fins sociais, e isso exige uma mudança de controle.

Mas que mudança, e como? A solução óbvia para os socialistas é dar ao governo uma participação majoritária, e é isso que Bernie Sanders propôs: usar um imposto único para transferir metade do capital social de empresas de IA sediadas nos EUA para um novo fundo soberano, que teria poder de veto sobre decisões futuras que afetem a tecnologia, além de compartilhar os lucros gerados. Mas também há desconforto com a ideia, principalmente porque Donald Trump também mencionou a participação federal — e mesmo uma semelhança remota é motivo de suspeita. Mais precisamente, dado o estado da democracia estadunidense e o grotesco desequilíbrio de poder político que favorece os ultrarricos, é razoável duvidar que uma grande participação pública produza os resultados que desejamos.

Para conceber a propriedade social de forma que ela realmente reflita os propósitos sociais em um mundo globalizado, precisamos repensar a questão desde a sua base. Por que exatamente precisamos retirar a propriedade e o controle das mãos de investidores ricos? Que mudanças, afinal, estamos tentando promover?

O porquê e o como da propriedade pública

Aprimeira pergunta tem uma resposta em três partes. Primeiro, estamos sofrendo com o poder opressivo de uma oligarquia que transforma uma riqueza desmedida em uma influência política e social sufocante. Se a IA gerar os benefícios econômicos prometidos, riquezas ainda maiores virão. Empresas de IA convertem vastos acervos de conhecimento e cultura produzidos coletivamente, juntamente com pesquisas financiadas com recursos públicos, em riqueza privada. Se a IA de fato produzir os benefícios econômicos que seus defensores prometem, esses ganhos deveriam ser amplamente compartilhados, em vez de se acumularem nas mãos de um pequeno grupo de plutocratas. Segundo, a busca desenfreada pela dominação do mercado está gerando custos imensos, sem, no entanto, proporcionar benefícios que não possam ser facilmente comercializados. Ela é empreendida ou descaradamente para enriquecimento pessoal ou em nome de uma noção perversa e de soma zero de patriotismo (qualquer perda de participação de mercado para empresas chinesas, dizem alguns, coloca em risco a “segurança nacional” dos Estados Unidos). Finalmente, a IA é uma tecnologia complexa e em rápida evolução e, como tal, é quase impossível de regular.

Sim, regulamentações amplas sobre o uso da IA e os recursos que ela consome são viáveis e devem ser implementadas o mais rápido possível. Pessoalmente, eu começaria com a proibição de qualquer chatbot ou programa similar que use a primeira pessoa em suas mensagens: “Eu” é uma mentira. Mas não a regulamentação de como os modelos são treinados, como respondem a comandos e como podem ser integrados a mecanismos de raciocínio — são questões quase impossíveis de regular de fora. É um jogo de recuperação sem fim que os reguladores, mesmo que agressivos e bem-intencionados, dificilmente vencerão.

“A tecnologia de IA precisa ser redirecionada, deixando de lado os imperativos financeiros restritos e passando a se concentrar em fins sociais, e isso exige uma mudança de propriedade.”

Resumindo o porquê, precisamos compartilhar a riqueza, reduzir a motivação do lucro e incorporar a regulamentação pública nas empresas que desenvolvem e aplicam IA.

O que nos leva ao problema crucial de como. A propriedade pública resolveria o primeiro problema e, sem dúvida, essa é uma das principais razões pelas quais Sanders e outros querem dar esse passo. Também poderia ajudar com o terceiro, já que, no mínimo, o governo, como investidor, poderia exigir que todas as informações relevantes para a regulamentação fossem tornadas públicas em tempo real. Essas são duas vantagens significativas que não devem ser menosprezadas.

Mas a propriedade pública também apresenta seus próprios problemas. Um deles, como um artigo anterior da revista Jacobin enfatizou corretamente, é que o controle governamental e o controle democrático geralmente estão bastante distantes. Mesmo nas melhores circunstâncias, as pessoas votam em representantes políticos apenas periodicamente. Quando a tomada de decisões chega aos níveis mais baixos da burocracia, o mandato democrático já está enfraquecido. E hoje, essas circunstâncias estão a anos-luz da perfeição democrática.

Pluralidades públicas

Mas o problema com a propriedade pública é ainda mais fundamental. Para compreendê-lo, precisamos pensar concretamente sobre o que queremos que a IA faça — e o que não faça — e questionar como os modelos de propriedade, por si só, podem resolver potenciais conflitos. Aqui estão algumas áreas problemáticas que me vêm à mente:

•        Privacidade e liberdade individual. A IA está sendo usada para criar sistemas de vigilância privada e pública sem precedentes na história da humanidade. Isso abrange desde a precificação da vigilância, em que o valor que pagamos é determinado por um agente de IA que considera que estamos dispostos a pagar, até a criação de perfis estatais com base em nossos valores políticos para fins de controle social. Uma perspectiva assustadora é o uso da IA para atingir e aniquilar lugares e pessoas além do alcance da supervisão humana, como exemplificado pelo programa israelense Lavender.

•        Gestão e emprego. Grande parte do suposto valor econômico da IA deriva de sua alegada capacidade, agora ou em breve, de assumir a gestão direta de empresas, agências governamentais e outras organizações, com a demissão em massa dos seres humanos que atualmente realizam esse trabalho. Isso pode levar a serviços frustrantemente lentos ou ineficazes — um aspecto da “enshittificação” apontada por Cory Doctorow  — e, é claro, levanta o espectro do desemprego em massa. No entanto, substituir o trabalho árduo pela automação também pode ser um enorme benefício social; basta pensar nos milhões de secretárias cujas tarefas de digitação, arquivamento e outras tarefas administrativas repetitivas foram assumidas por aplicativos de processamento de texto. (Eu já estive entre elas.) Decisões cruciais sobre como as organizações devem ser administradas e quem será necessário para administrá-las estão em jogo.

•        Meio ambiente e recursos. Ao contrário das versões anteriores da tecnologia digital, a IA impõe demandas massivas, quase incompreensíveis, sobre nossos recursos hídricos, sistemas de energia e minerais raros. Isso se deve aos seus métodos de treinamento de força bruta, e poderia ser mitigado por um treinamento mais especializado combinado com maior uso da lógica. De qualquer forma, há questões importantes a serem resolvidas sobre como equilibrar a capacidade computacional e o uso de recursos, bem como sobre a quem os recursos devem ser utilizados e como devem ser compensados por isso.

•        Aplicações em toda a sociedade. Embora a atenção tenha se concentrado nas questões acima, isso pode ser igualmente importante a longo prazo. Educadores já estão enfrentando os efeitos devastadores da IA nas salas de aula. Os impactos na escrita, na música e na cultura visual podem ser extremamente positivos, negativos ou (muito provavelmente) ambos. A IA demonstra grande potencial na pesquisa, mas muito dependerá de se ela ampliará nossa compreensão das áreas em que a aplicamos ou se simplesmente extrairá resultados de uma caixa-preta. Isso seria importante mesmo que os agentes fossem perfeitamente confiáveis, o que não são. Em quem podemos confiar para projetar essas aplicações de uma forma que expanda nosso potencial como aprendizes e criadores?

Mesmo com essa análise superficial, podemos chegar a conclusões importantes. Uma delas é que muitas escolhas precisam ser feitas. Algumas são distributivas — quem ganha, quem perde —, mas outras envolvem valores fundamentais. Outra é que, dadas as múltiplas dimensões do desenvolvimento futuro da IA, é impossível especificar um único interesse público que todos nós concordaríamos em defender. É difícil exagerar a importância de entender isso. O público cujos interesses devem nos guiar é o público real, com toda a sua diversidade de atitudes e prioridades — não um público imaginário em que todos pensam exatamente como você ou eu.

Mesmo que todos nos Estados Unidos adotassem valores progressistas, ainda seria preciso fazer escolhas entre prioridades concorrentes. A questão não é a existência de data centers em todos os lugares versus nenhum, ou documentos gerados por IA versus documentos escritos apenas por humanos, ou qualquer outra escolha dicotômica. Trata-se de prioridades, ênfases, ajustes e projetos repensados. As opções atuais são mercenárias e terríveis, mas não existe uma alternativa simples com a qual todos concordem.

<><> Finalidade específica

Precisamos não apenas de democracia no mundo da IA, mas também de verdadeiro pluralismo: diferentes implementações coexistindo para que possamos escolher. Isso também é necessário por razões econômicas básicas, já que não saberemos de antemão quais abordagens para o desenvolvimento da IA se mostrarão as melhores, seja em termos técnicos ou sociais. Novamente, pluralismo.

Felizmente, já temos os primórdios da alternativa de que precisamos: a propriedade por meio de trustes de finalidade específica. Até agora, esse processo tem avançado aos poucos, com proprietários de espírito público, como Yvon Chouinard, da Patagonia, que optaram por colocar o controle de suas empresas nas mãos de administradores fiduciários legalmente obrigados a proteger objetivos específicos. No caso da Patagonia, esse objetivo era o ambiental.

Na versão mais robusta do modelo aqui proposto, o lucro se tornaria um meio, e não um fim. O contrato fiduciário estipularia que os rendimentos, após os reinvestimentos necessários, seriam destinados à promoção dos objetivos primordiais da empresa, em vez de serem distribuídos a investidores privados. Se você consultar um diretório de empresas desse tipo, encontrará uma variedade de objetivos obrigatórios, que vão desde o benefício dos trabalhadores ao desenvolvimento comunitário e ao aprimoramento dos sistemas alimentares locais, sendo que muitas delas designam mais de um. E assim deve ser: somos uma sociedade diversa, e nossos objetivos são muitos e nem sempre levam às mesmas escolhas.

“Dadas as muitas dimensões do desenvolvimento futuro da IA, é impossível especificar um único interesse público que todos nós concordaríamos em apoiar.”

No entanto, para adaptar esse modelo à IA, precisamos fazer duas mudanças muito significativas. Primeiro, o público, por meio de seus representantes eleitos, teria que iniciar a conversão de empresas existentes em trustes de finalidade específica. Isso exigiria um processo para recrutar administradores e, sobretudo, financiar a aquisição de ações das empresas. Algum tipo de imposto sobre os lucros seria obviamente essencial. Segundo, os propósitos precisariam ser escolhidos não por empreendedores esclarecidos e majoritários, mas pela própria sociedade. Como vários trustes poderiam coexistir, eles poderiam buscar uma gama de propósitos que nem sempre coincidiriam entre si. Algum método minimamente democrático seria necessário para garantir que a alocação de recursos entre os fundos correspondesse à proporção da comunidade que apoia os respectivos propósitos.

Uma observação à parte: a Anthropic não é um truste em si, mas sua estrutura de governança inclui um fundo de benefícios de longo prazo. Ela difere do modelo descrito aqui em vários aspectos cruciais: os investidores mantêm seus direitos sobre os lucros; o mandato da Anthropic estava focado nos riscos de longo prazo representados pela IA, deixando a maioria das questões comerciais sem resposta. É relativamente fácil para os acionistas dissolverem o fundo quando desejarem. Não é segredo que a Anthropic está se preparando para uma oferta pública inicial (IPO).

A vantagem do truste de finalidade específica

Outra grande vantagem da abordagem dos trustes de finalidade específica, em comparação com a propriedade pública, é que ela é muito mais adequada para lidar com as pressões e os desafios da economia global. Pode estabelecer parcerias com empresas estrangeiras, se assim o desejar. Pode seguir estratégias internacionais consistentes com seus propósitos, independentemente das preferências passageiras dos políticos — uma consideração crucial, visto que a China também é um ator fundamental. E pode usar esses relacionamentos para promover causas que beneficiem as pessoas além de nossas fronteiras, o que pode adicionar um viés potencialmente progressista à globalização. Essa flexibilidade decorre do modelo: uma vez capitalizadas, as empresas pertencentes a fundos fiduciários são operacionalmente autônomas e regidas por seus propósitos juridicamente vinculativos.

Este último ponto é crucial. Considere uma empresa de IA pertencente a um truste de finalidade específica, cujo objetivo legalmente vinculativo é ajudar os usuários a serem mais criativos e produtivos. Isso obrigaria a empresa a desenvolver ferramentas que aprimorem as capacidades dos usuários e a proibir o desenvolvimento de aplicativos de uso rotineiro ou que os desempoderem. Mas um propósito tão amplo só poderia ser alcançado por meio da interação contínua com os usuários. Parte dessa interação se daria por meio do feedback padrão do mercado, como quando um jardineiro compra um assistente de IA que torna a jardinagem mais proveitosa, ou quando alguém aprendendo um novo idioma adquire uma ferramenta de ensino de IA. Nossa hipotética empresa pertencente a um fundo fiduciário ainda precisaria gerar receita suficiente para cobrir seus custos, assim como qualquer outra.

Agora imagine que suas ferramentas fossem destinadas ao uso por pessoas no ambiente de trabalho, possibilitando que sindicatos e grupos profissionais ou de defesa de direitos tivessem voz em seu design e implementação. Organizações de todos os tipos poderiam se associar ao nosso desenvolvedor de IA, já que a propriedade fiduciária é uma forma de propriedade social que preserva a independência da empresa. Uma empresa pertencente a um trustes de finalidade específica também poderia colaborar com outra quando suas missões se sobrepõem ou se atuam em setores relacionados da economia — por exemplo, um desenvolvedor de IA unindo forças com uma empresa farmacêutica, ambas pertencentes a trustes de finalidade específica. E, como mencionado anteriormente, as fronteiras nacionais não impõem limites a esse tipo de parceria, a menos que leis específicas sejam aprovadas para regulamentá-las.

Por outro lado, duas empresas pertencentes a trustes de finalidade específica com missões opostas podem competir se estiverem no mesmo mercado — não para extrair o maior lucro possível, mas para promover suas respectivas missões. Isso seria uma propriedade social sem o mito de uma sociedade homogênea e com a mesma mentalidade.

É claro que, ao contrário da propriedade pública, a propriedade social por meio de trustes de finalidade específica não surge pronta. Nossa experiência é limitada e questões importantes permanecem sem resposta. Certamente haverá uma curva de aprendizado. Mas a necessidade de uma economia alternativa vibrante, diversificada e orientada por um propósito é mais urgente do que nunca, e a maneira de descobrir como criá-la é começar a fazê-lo.

 

Fonte: Por Peter Dorman - Tradução Pedro Silva