Palavra de Sá

Por que uma desavença entre matemáticos alimenta temores de que a IA prejudica a ciência

Em uma antiga fábrica de relógios no centro de Londres, uma fileira de freezers brancos mantém armazenadas dezenas de pequenas caixas com tubos de vidro identificados por códigos de barras. Juntos, esses tubos contêm 100 bilhões de genes. Segundo o médico Oliver Vince, um dos fundadores do laboratório, se considerarmos apenas duas dessas caixas, elas poderiam armazenar juntas dez vezes mais informações do que todos os textos disponíveis na internet.

A empresa de Vince, a Basecamp Research, pretende coletar a maior quantidade possível de DNA para desenvolver uma inteligência artificial (IA) capaz de compreender a linguagem da biologia. A estratégia é semelhante à adotada por empresas de tecnologia dos Estados Unidos e da China, que reuniram enormes volumes de textos disponíveis na internet para criar os chamados Large Language Models (LLMs, grandes modelos de linguagem como, por exemplo, o ChatGPT ou o Gemini) que servem de base para os atuais sistemas de IA.

Vince, assim como muitos profissionais do setor empresarial e da pesquisa acadêmica, diz acreditar que a IA dará um grande impulso à pesquisa científica. Mas seu uso também tem provocado cada vez mais controvérsias.

No mês passado, a OpenAI, criadora da ferramenta ChatGPT, anunciou ter resolvido um dos grandes problemas ainda sem solução da matemática, relacionado às famosas equações de Navier-Stokes. Segundo a empresa, seus agentes de IA conseguiram solucionar o problema em 88 horas. A organização responsável por conceder um prêmio a quem encontrar a solução afirmou que a questão "aparentemente foi resolvida", mas ressaltou que a análise do resultado levará tempo.

Mas horas antes do anúncio, o matemático Tristan Buckmaster, da Universidade de Nova York, nos EUA, tornou públicas suas preocupações. Buckmaster formou uma equipe independente com Levent Alpöge, matemático que também trabalha para a Anthropic, empresa concorrente da OpenAI.

Os dois pesquisadores buscavam resolver o mesmo problema e armazenavam os rascunhos de seu trabalho no Codex, ferramenta de programação da OpenAI. Buckmaster afirmou que seu colega havia sido informado de que notícias sobre o avanço da pesquisa tinham "chegado" à OpenAI, mas não explicou como isso teria ocorrido. Ele questionou se a pesquisa armazenada no Codex poderia ter sido utilizada no trabalho da própria OpenAI, embora tenha ressaltado que "não estava acusando ninguém de nada".

A OpenAI afirmou que ninguém na empresa, seja humano ou IA, teve acesso ao trabalho da outra equipe antes de sua publicação. Inicialmente, a empresa disse que, embora fosse improvável, não poderia "descartar" a possibilidade de que dados anonimizados do uso de seus produtos tivessem contribuído para aprimorar seus modelos. Dias depois, afirmou que os comandos inseridos por Buckmaster no Codex nos dois meses anteriores ao anúncio "não poderiam ter influenciado o sistema de forma alguma".

O caso é complexo, e ainda não sabemos exatamente o que aconteceu. Mas ele chama a atenção para uma preocupação crescente com o uso da IA na ciência. Em geral, quando pensamos nesse assunto, imaginamos robôs criando vírus perigosos por meio de engenharia genética ou armas químicas capazes de exterminar a humanidade. No entanto, há um problema mais sutil, que não recebe a mesma atenção da imprensa: a possibilidade de a IA abalar a confiança no processo científico, levantando dúvidas sobre a originalidade e a precisão das pesquisas.

Há ainda outra preocupação. Sabe-se que ferramentas de IA como Claude e Gemini, do Google, podem, às vezes, produzir informações falsas, fenômeno conhecido como "alucinação". Elas podem, por exemplo, mencionar um filme que nunca existiu ou atribuir a alguém uma frase que jamais foi dita. Agora, há evidências de que isso ocorre com frequência cada vez maior também na ciência. O temor é que, com o tempo, se torne difícil distinguir descobertas científicas verdadeiras de informações fictícias geradas por IA.

Tudo isso pode ameaçar enfraquecer, ou até destruir, o alicerce sobre o qual se sustenta a pesquisa científica: a confiança.

<><> Um 'marco histórico'

Uma das ameaças recai sobre as revistas científicas, responsáveis por preservar a integridade da ciência, que parecem não estar conseguindo lidar com uma avalanche de informações distorcidas geradas por IA.

"A IA generativa basicamente transformou todo o processo científico", afirma Dalmeet Singh Chawla, jornalista especializado em ciência que há uma década cobre casos de má conduta na pesquisa científica.

Singh Chawla disse à BBC que as equipes responsáveis por verificar a integridade das publicações científicas, analisando a precisão e a confiabilidade dos estudos submetidos, precisarão "aumentar drasticamente [em número de profissionais e esforço] para ter alguma chance de enfrentar o problema".

"No momento, parece que não estão conseguindo", afirma Singh Chawla.

À primeira vista, a IA parece ser a ferramenta ideal para impulsionar a pesquisa científica. Os cientistas trabalham com volumes enormes de informações. Telescópios e aceleradores de partículas, por exemplo, coletam bilhões de dados, em uma quantidade impossível de ser processada pelo cérebro humano. A IA consegue identificar as informações cientificamente mais relevantes em meio a essa imensidão de dados.

Um dos maiores exemplos do potencial da IA na ciência é a empresa Google DeepMind, sediada no Reino Unido, que em 2020 resolveu um dos maiores desafios da biologia: descobrir como as proteínas dos seres vivos se dobram até adquirir suas formas tridimensionais específicas.

Isso pode parecer pouco interessante, mas as proteínas são minúsculas máquinas que tornam a vida possível. A forma que elas assumem determina as suas funções, desde a formação das células e o combate a infecções até a constituição dos tecidos e órgãos do corpo.

Antes da IA, os cientistas precisavam realizar experimentos demorados em laboratório. Então, a Google DeepMind desenvolveu um modelo de IA chamado AlphaFold, que conseguiu prever com precisão as estruturas de 200 milhões de proteínas em apenas um ano.

Realizar o trabalho equivalente por meio de experimentos em laboratório levaria centenas de milhões de anos. A empresa disponibilizou gratuitamente os resultados aos pesquisadores. O diretor da DeepMind e o principal cientista do projeto receberam o Prêmio Nobel de Química.

Foi um momento de comemoração geral.

O pesquisador Pushmeet Kohli, responsável pela área científica da DeepMind, disse à reportagem que o AlphaFold pode ser considerado um "marco histórico".

<><> Questionamentos sobre o trabalho da IA

Mas, em outras áreas, o uso da IA na ciência tem provocado acusações de exagero. Alguns modelos computacionais são acusados de superestimar a importância de suas descobertas, enquanto os pesquisadores responsáveis por supervisioná-los acabam aceitando certas afirmações sem o devido senso crítico.

Após o sucesso do AlphaFold, a DeepMind voltou sua atenção para a previsão da estrutura de novos materiais. Esse trabalho poderia levar ao desenvolvimento de baterias mais eficientes, células solares mais baratas e componentes eletrônicos que não dependam de elementos de terras raras. (Em tese, ninguém mais precisaria disputar direitos de exploração mineral, e a Groenlândia estaria livre de ameaças de invasão.)

Mas um modelo da DeepMind identificou o que a empresa afirmou serem mais de 2 milhões de novas estruturas cristalinas, anunciadas como o equivalente a "quase 800 anos de conhecimento" disponibilizados de uma só vez. Desse total, cerca de 380 mil foram consideradas promissoras o suficiente para serem produzidas em laboratório.

Mas um alerta veio de dois químicos da Universidade da Califórnia, nos EUA. Anthony Cheetham e Ram Seshadri analisaram uma amostra aleatória dos supostos novos cristais.

Em artigo publicado na revista científica Chemistry of Materials, concluíram que "ainda não encontraram nenhum composto realmente inovador" e argumentaram que muitos eram "adaptações triviais de materiais conhecidos". Os pesquisadores não consideraram que o método estivesse errado, mas defenderam que os resultados precisam passar por uma análise mais rigorosa e ser validados por químicos.

A DeepMind rejeita as críticas e afirma que verificou a originalidade de cada composto. Segundo a empresa, descartar uma nova estrutura por sua semelhança com materiais conhecidos é ignorar um aspecto fundamental: a substituição de um único átomo permitiu o desenvolvimento de muitos dos materiais mais úteis da atualidade, desde componentes de celulares até protetores solares.

<><> Pesquisas de 'baixa qualidade'

Nesses casos, pelo menos, as pesquisas tinham, em grande parte, fundamento científico. O problema era a possibilidade de a IA exagerar a importância dos resultados.

Uma preocupação ainda maior é o risco crescente de que as revistas científicas sejam inundadas pelo chamado AI slop (conteúdo 'tosco' gerado por inteligência artificial). Nesse cenário, os estudos passam a ser escritos por computadores, em vez de pesquisadores, o que pode levar à inclusão de referências falsas e à citação de artigos científicos inexistentes.

Em 2024, o cientista da computação Dmitry Kobak, professor da Universidade de Ghent, na Bélgica, analisou mais de 1 milhão de artigos científicos da área biomédica em busca de palavras e expressões frequentemente usadas por grandes modelos de linguagem (LLMs) para gerar textos. Sua equipe constatou que, até dezembro do ano passado, quase 90% dos artigos apresentavam indícios de uso de IA.

As tecnologias de detecção de IA não são infalíveis. Alguns programas chegaram a classificar a Constituição dos Estados Unidos, escrita na década de 1780, como um texto "gerado por IA". Ainda assim, Kobak afirmou ter ficado chocado com a dimensão do aparente uso da tecnologia. Em entrevista à revista científica Nature, alertou para o risco de que "quaisquer vieses presentes nos grandes modelos de linguagem acabem se espalhando rapidamente por toda a literatura científica".

Kobak está entre os muitos pesquisadores preocupados com a possibilidade de que a IA esteja, aos poucos, comprometendo a qualidade das revistas científicas.

E isso é importante: os artigos científicos são essenciais para o avanço da ciência. Quando uma descoberta é publicada, pesquisadores de outras partes do mundo podem conseguir financiamento para dar continuidade ao trabalho e desenvolver novas pesquisas com base nos resultados.

O processo de revisão por pares, no qual outros cientistas avaliam os artigos antes de sua publicação, também está sendo comprometido.

Uma equipe liderada por Weixin Liang e James Zou, da Universidade Stanford, nos EUA, analisou pareceres de avaliadores enviados a quatro importantes conferências de ciência da computação e constatou que até 17% dos textos haviam sido substancialmente alterados por modelos de linguagem.

Uma etapa fundamental para garantir a integridade de um artigo científico é a apresentação de pesquisas anteriores pelos autores principais, para demonstrar que seu trabalho traz descobertas realmente novas. Essas referências são chamadas de citações bibliográficas. Uma equipe da Universidade Cornell, nos EUA, descobriu que pesquisadores estavam usando IA para compilar essas referências e que a tecnologia acabava inventando estudos inexistentes. No ano passado, cerca de 147 mil trabalhos científicos inexistentes foram citados.

Se a IA continuar comprometendo a integridade da produção científica dessa forma, pesquisadores poderão perder tempo e recursos seguindo caminhos que não levam a resultados, haverá desperdício de dinheiro público e os benefícios de pesquisas legítimas, como novos medicamentos e tecnologias sustentáveis, poderão demorar mais para chegar à sociedade ou até nunca se concretizar.

<><> 'IA para pesquisa científica'

Algumas editoras de revistas científicas, como a Elsevier, estão adotando medidas para conter essa crescente crise de confiança.

A equipe responsável pela integridade científica da Elsevier desenvolveu cerca de 100 indicadores que ajudam a identificar artigos que precisam passar por uma avaliação humana mais rigorosa.

As revistas do grupo Nature proíbem o uso de imagens geradas por IA e orientam os revisores a nunca inserir manuscritos em sistemas de IA. Já o arXiv, plataforma na qual cientistas compartilham resultados preliminares de suas pesquisas, suspende por um ano os pesquisadores que apresentam referências bibliográficas inventadas.

Sarah Main, professora e vice-presidente da Elsevier, está entre os profissionais da empresa que buscam formas de utilizar a IA de maneira responsável na pesquisa científica.

"O que chamamos de research-grade AI (inteligência artificial voltada à pesquisa científica, em tradução livre) tem como objetivo garantir que o pesquisador mantenha o controle do trabalho", afirma Main.

À medida que agentes de IA analisam enormes volumes de dados obtidos por aceleradores de partículas, observações do Universo e estudos da natureza, como saber se os resultados estão corretos?

Há ainda outra preocupação: como garantir que esses sistemas não descartem descobertas importantes por considerá-las anomalias? A penicilina, a radioatividade e os pulsares, estrelas com características incomuns, foram descobertos a partir de resultados inesperados que poderiam facilmente ter sido ignorados. Foi a intuição dos cientistas que permitiu reconhecer a importância dessas observações e transformá-las em algumas das maiores descobertas científicas do século passado.

Mas será que a IA é capaz de fazer descobertas inesperadas e demonstrar a mesma criatividade dos seres humanos?

Kohli, da DeepMind, não acredita que a solução seja abandonar a inteligência artificial. Isso seria "como defender que as pessoas façam cálculos sem usar calculadoras", disse à reportagem. Mas ele reconhece que é necessário manter a supervisão humana: "Os agentes de IA atuais ainda são imperfeitos. Alguém precisa assumir a responsabilidade".

Para Kohli, o princípio é simples: "É preciso entender o que o agente fez e assumir a responsabilidade pelo resultado. Não basta apresentar um problema, deixar que a máquina escreva o artigo científico e depois submetê-lo para publicação como se suas conclusões fossem verdadeiras."

A professora Andrea Pauli, do Vienna BioCenter, centro de pesquisa em Viena, na Áustria, seguiu esse princípio. Ela passou quase dez anos investigando uma questão que ninguém havia conseguido responder: como o espermatozoide penetra no óvulo. O uso responsável da IA ajudou a pesquisadora a avançar na busca por uma resposta. Seu laboratório identificou uma proteína na superfície dos óvulos do peixe-zebra que indica a existência de um mecanismo semelhante ao de uma chave que se encaixa em uma fechadura, permitindo a entrada do espermatozoide.

A pesquisa de Pauli oferece motivos para otimismo em meio à proliferação de estudos científicos de baixa qualidade gerados por IA. Ela mostra que a tecnologia pode ajudar.

Mas esta também é uma história sobre pessoas. Pouco depois da criação da Basecamp, o laboratório que visitei em uma antiga fábrica de relógios em Londres, um de seus cofundadores, Oliver Vince, foi internado com leucemia, doença da qual se recuperou. A experiência o motivou a desenvolver um sistema de IA com maiores chances de encontrar a cura para diferentes tipos de câncer. Ele reconhece que a iniciativa pode não dar certo, mas acredita que vale a pena tentar.

"Temos um caminho tecnicamente viável para curar o câncer", afirma Vince.

Vince não faz uma promessa, mas aponta uma possibilidade. A grande questão é saber se a IA ajudará a ciência a alcançar esse objetivo ou se acabará enfraquecendo, de maneira silenciosa, os próprios fundamentos da pesquisa científica.

¨      Estouro da bolha de IA? Por que ações da Alphabet, dona da Google, tiveram maior queda da história

A Alphabet, empresa controladora do Google, perdeu pouco mais de US$ 500 bilhões (R$ 2,7 trilhões) em valor de mercado na quinta-feira (29/10), após revelar que seus próprios resumos de inteligência artificial (IA) — as respostas que aparecem resumidas no topo da página — estão afetando a receita de publicidade em seu mecanismo de busca.

Para dimensionar a magnitude dessa perda de valor, o montante equivale a mais da metade dos US$ 885 bilhões de valor de mercado de todas as empresas listadas na B3, a bolsa de valores de São Paulo, segundo levantamento da empresa de análise de dados financeiros Elos Ayta.

A queda de 12,64% registrada na quinta-feira foi a maior desvalorização diária das ações da companhia desde a abertura de capital do Google, em 2004.

O diretor comercial Philipp Schindler afirmou que o "modo IA" do Google, em que a plataforma responde a perguntas de forma conversacional, está reduzindo a receita obtida com anúncios exibidos ao lado dos resultados de buscas tradicionais.

No entanto, Schindler disse que se sentia "muito bem com a nossa trajetória" com a versão do mecanismo de busca focada em IA.

O papel central do Google em responder às dúvidas do mundo foi desafiado pelo boom da IA, com milhões de pessoas usando programas como ChatGPT e Claude, em lugar do buscador.

Kim Scott, ex-diretora da área de publicidade do Google, declarou ao programa Today da BBC que a empresa "prefere prejudicar a si mesma a permitir que outros a prejudiquem", ao ter seus próprios resumos de IA impactando sua receita de buscas.

Ela disse que o Google foi fundado na ideia de fazer apostas de longo prazo em tecnologia — mesmo que isso prejudique a empresa no curto prazo.

"Acho que eles estão fazendo uma aposta de longo prazo na IA", disse ela.

Em seus resultados divulgados na quarta-feira, a Alphabet revelou que a receita total cresceu 25% nos três meses até o final de setembro, em comparação com o mesmo período do ano passado, atingindo US$ 127,6 bilhões.

No entanto, a empresa não lucrou tanto quanto os analistas previam, principalmente em seu braço publicitário, o que assustou muitos investidores.

Após a divulgação dos resultados, as ações da empresa atingiram seu menor valor em seis meses.

Ao final da quinta-feira, o valor total de mercado da empresa havia caído para US$ 3,46 trilhões, ante US$ 3,97 trilhões no dia anterior.

<><> Investidores céticos com a Amazon

A Microsoft e a Amazon também divulgaram sus balanços esta semana e se juntaram ao Google nos planos de continuar investindo grandes somas de dinheiro na corrida pela inteligência artificial.

Mas os investidores pareceram consternados com os impactos que esses planos estão tendo na capacidade de cada uma delas de continuar expandindo suas principais linhas de negócios.

As ações da Amazon sofreram um baque na quinta-feira, com uma queda de 6% nas negociações após o fechamento do mercado.

Juntamente com um crescimento trimestral de vendas de 11%, atingindo US$ 201 bilhões, a empresa divulgou um número impressionante de fluxo de caixa negativo de US$ 42 bilhões.

Esse número mostra que a Amazon não só está gastando mais dinheiro do que ganha, como também que seus gastos aumentaram seis vezes em apenas três meses.

O diretor executivo Andy Jassy afirmou que a empresa está investindo em parte porque tem a chance de passar a ter não apenas um, mas dois negócios que podem acabar gerando US$ 1 trilhão para a Amazon no futuro.

Jassy não especificou quais seriam esses dois negócios da Amazon. Mas, durante uma teleconferência com analistas financeiros, ele mencionou repetidamente a oportunidade financeira representada pela Amazon fabricando e vendendo seus próprios chips de computador, bem como sua plataforma de desenvolvimento de IA, a Bedrock, que oferece aos usuários pagantes acesso à maioria dos principais modelos e ferramentas de IA.

"Uma das lições que aprendemos ao longo de mais de 20 anos é que não existe uma única ferramenta que domine o mundo", disse Jassy.

"As pessoas sempre presumem que o que estiver na liderança no início será a única coisa que todos usarão — isso nunca é verdade."

Ao ser questionado diversas vezes sobre os gastos da empresa, Jassy admitiu que "seria mais conveniente" se eles fossem distribuídos ao longo dos próximos 25 anos. "Mas não é assim que funciona", acrescentou.

"Podemos financiar este plano, e acredito que ele mudará para sempre o tamanho, a receita e o fluxo de caixa livre da Amazon."

<><> Microsoft levanta a questão do valor real da IA

A reação de Wall Street ao balanço da Microsoft foi mais discreta, com as ações caindo menos de 1% na quinta-feira.

A empresa, que também é uma das maiores investidoras da OpenAI, criadora do ChatGPT, gastou cerca de US$ 5 bilhões a menos em investimentos dedicados à IA.

Além disso, revelou no início da semana planos para demitir milhares de funcionários, o que reduzirá ainda mais os custos da empresa.

A receita da empresa cresceu 19% em relação ao ano anterior, atingindo US$ 92,3 bilhões no trimestre. Seu crucial negócio de computação em nuvem cresceu 30%, chegando a US$ 63 bilhões.

O diretor executivo Satya Nadella afirmou que o uso do Copilot, o chatbot e ferramenta de IA da Microsoft, viu "as tarefas automatizadas quase dobrarem desde julho", com um crescimento de 500% no número de usuários diários em relação ao ano anterior.

Normalmente, a redução de gastos e o aumento das vendas geram uma reação positiva dos investidores.

Tracy Woo, analista sênior da consultoria Forrester, afirmou que Wall Street está tentando olhar mais para o futuro quando se trata de quais empresas realmente cumprirão suas grandes promessas em relação à IA.

"Os resultados da Microsoft reforçam a ideia de que a demanda corporativa por IA permanece forte, mas também destacam uma questão muito maior que o setor de tecnologia enfrenta: onde o valor da IA será, em última análise, capturado", disse Woo.

 

Fonte: BBC News