Palavra de Sá

Por que a tecnologia cria novos problemas para cada um que resolve?

Hoje, os chamados tecno-otimistas compõem as fileiras dos bilionários do Vale do Silício. Eles proclamam um futuro brilhante para a humanidade, proporcionado pela busca rápida por avanços tecnológicos.

É claro que esses tecno-otimistas estão certos ao afirmar que a tecnologia e a ciência estão, indiscutivelmente, entre os maiores ativos da humanidade e representam a esperança para o futuro. Mas eles vão longe demais, pois também é verdade que a tecnologia sempre cria novos problemas, mesmo quando resolve outros – isso também é algo que aprendemos com a ciência. Como resultado, a fé ingênua na tecnologia é uma receita para alcançar repetidamente um sucesso de curto prazo, ao mesmo tempo em que incorre em custos de longo prazo. Extrair o máximo da tecnologia requer uma abordagem mais cautelosa e equilibrada.

Por que a tecnologia frequentemente dá errado – mesmo acertando em muitas coisas? O antropólogo Sander van der Leeuwe esboçou uma resposta há cerca de uma década, e parece ser algo como uma lei da natureza. Quando enfrentamos um problema, pensamos sobre ele e construímos um modelo conceitual de como parte do mundo funciona. Usamos isso para propor uma solução para o nosso problema. Com base nessa compreensão, agimos, e a tecnologia que criamos frequentemente resolve o problema. No entanto, normalmente descobrimos que nosso modelo – é claro – não era, na verdade, um modelo completo do mundo. Nosso modelo simples deixou algumas coisas de fora. Não surpreendentemente, então descobrimos que nossa tecnologia, operando no mundo real, tem efeitos sobre esse mundo que não havíamos previsto – consequências imprevistas.

Encontramos esse padrão repetidamente porque modelos simples são tão poderosos, sedutores e úteis. Além disso, modelos simples omitem detalhes, de modo que sempre percebemos mal as consequências completas de nossas ações. Inventamos tecnologias de pesca melhores para alimentar mais pessoas e, então, descobrimos que eliminamos populações de peixes. Criamos superfícies antiaderentes maravilhosas para panelas e, mais tarde, descobrimos que os produtos químicos nesses materiais causam problemas de saúde e se infiltraram no meio ambiente, espalhando-se essencialmente por toda parte. Produzimos plásticos superconvenientes que acabam como micropartículas nos oceanos e em nossos próprios corpos. Esta também é a história da tecnologia, juntamente com as grandes vitórias.

Por entendermos isso, a antecipação de problemas deve fazer parte do próprio desenvolvimento tecnológico. Uma visão clara da nossa ignorância não significa não buscar tecnologia, mas aconselha cautela e sabedoria, empregando a previsão, sem esperar nada próximo de uma presciência impecável. Significa também tomar medidas práticas para regular o desenvolvimento e dar tempo para corrigir os problemas emergentes, evitando, no mínimo, os piores resultados possíveis.

Nossa abordagem atual para pesquisa e desenvolvimento em inteligência artificial ou IA oferece um exemplo de abordagem imprudente. Neste momento, algumas das maiores empresas de tecnologia do mundo estão batalhando entre si para controlar o mercado dessa tecnologia, lançando um modelo após o outro o mais rápido possível, com pouca supervisão. Como argumentou o neurocientista Gary Marcus, essa corrida pelo domínio a curto prazo tem um custo óbvio: expõe todos aos riscos desconhecidos de tecnologias novas e não testadas. Também tem um custo menos óbvio: a urgência da competição significa que praticamente todos os recursos disponíveis são investidos em pesquisa na área mais promissora da atualidade, atualmente os chamados modelos de linguagem ampla. Isso afasta recursos de outras áreas da ciência da computação que podem, em última análise, se revelar mais importantes para um dia alcançar a verdadeira IA.

Felizmente, nem todos os líderes do Vale do Silício aceitam a demanda tecno-otimista por aceleração tecnológica descontrolada. Dario Amodei, CEO da empresa de IA Anthropic, certamente compartilha desse otimismo, como revelou em um ensaio recente expressando sua visão de que a pesquisa em IA poderia levar a melhorias incríveis no bem-estar humano. Explorando um cenário reconhecidamente otimista, ele sugere que, em poucas décadas, poderemos eliminar essencialmente todas as doenças, disseminar o crescimento econômico benéfico entre as nações e até mesmo melhorar significativamente a capacidade coletiva dos humanos de formar consenso sobre questões de fundamental importância social.

Mas Amodei também reconhece que há muito espaço para que as coisas deem errado – a IA pode não alcançar nenhum desses benefícios e, em vez disso, exacerbar radicalmente a desigualdade, ou fornecer a uma nova classe de autocratas poderes de vigilância e controle sem precedentes por meio de propaganda aprimorada pela IA. O que acontecerá depende das escolhas que fizermos.

E, com isso, ele sugere que manter um foco rigoroso nos riscos e na regulamentação deve ser o caminho certo a seguir, em vez de correr ingenuamente para o futuro, guiados pela esperança. As pessoas não apenas subestimam o quão boa a IA poderá ser um dia, ele acredita, mas também o quão ruins os riscos poderão ser. E há uma assimetria natural que precisamos respeitar.

“O desenvolvimento básico da tecnologia de IA e muitos (não todos) dos seus benefícios parecem inevitáveis”, como ele os vê, como resultado de poderosas forças de mercado. “Por outro lado, os riscos não são predeterminados e nossas ações podem alterar significativamente sua probabilidade.”

Como acontece frequentemente em culturas como Wall Street ou o Vale do Silício, a tensão essencial reside entre forças que buscam lucros a curto prazo – independentemente dos resultados a longo prazo – e outras que preferem equilibrar oportunidades e riscos e, assim, buscar benefícios mais sustentáveis. Nos argumentos a favor e contra essas visões opostas, há um desequilíbrio natural, já que lucros potenciais atraentes e óbvios agora são ponderados em relação a riscos mais difíceis de prever e menos definidos, em um futuro desconhecido. Não é uma comparação justa.

Especialmente quando é tão fácil cometer erros catastroficamente enormes ao pensar no futuro, mesmo no futuro próximo. Em seu manifesto tecno-otimista, o empreendedor Marc Andreessen expressa casualmente seu sonho de que possamos aumentar os recursos de energia limpa tão rapidamente que todos na Terra possam, em breve, usar 1.000 vezes mais energia por dia do que a média atual para pessoas em países desenvolvidos. Imagine o que as pessoas poderiam conseguir! Parece ótimo. Só que um pouco de reflexão sobre física também mostra que usar tanta energia causaria imediatamente um aquecimento planetário cerca de 30 vezes mais rápido do que o que estamos vivenciando hoje, e todos estaríamos mortos em poucos anos. Afinal, não é tão bom assim.

Claro, qualquer um pode cometer esse tipo de erro, porque em nosso mundo complexo, causa e efeito são complexos. A tecnologia é complexa, e o que pode acontecer está longe de ser óbvio. É assim que as coisas são – e é por isso que precisamos pensar mais cuidadosamente sobre os riscos e adotar uma abordagem mais cautelosa.

 

Fonte: The Guardian