Por que uma desavença entre matemáticos alimenta temores de que a IA prejudica a ciência
31/10/2026
(Foto: Reprodução) A IA pode fazer as pessoas duvidarem da qualidade e da originalidade das pesquisas científicas?
Getty Images via BBC
Em uma antiga fábrica de relógios no centro de Londres, uma fileira de freezers brancos mantém armazenadas dezenas de pequenas caixas com tubos de vidro identificados por códigos de barras. Juntos, esses tubos contêm 100 bilhões de genes. Segundo o médico Oliver Vince, um dos fundadores do laboratório, se considerarmos apenas duas dessas caixas, elas poderiam armazenar juntas dez vezes mais informações do que todos os textos disponíveis na internet.
A empresa de Vince, a Basecamp Research, pretende coletar a maior quantidade possível de DNA para desenvolver uma inteligência artificial (IA) capaz de compreender a linguagem da biologia. A estratégia é semelhante à adotada por empresas de tecnologia dos Estados Unidos e da China, que reuniram enormes volumes de textos disponíveis na internet para criar os chamados Large Language Models (LLMs, grandes modelos de linguagem como, por exemplo, o ChatGPT ou o Gemini) que servem de base para os atuais sistemas de IA.
Vince, assim como muitos profissionais do setor empresarial e da pesquisa acadêmica, diz acreditar que a IA dará um grande impulso à pesquisa científica. Mas seu uso também tem provocado cada vez mais controvérsias.
No mês passado, a OpenAI, criadora da ferramenta ChatGPT, anunciou ter resolvido um dos grandes problemas ainda sem solução da matemática, relacionado às famosas equações de Navier-Stokes. Segundo a empresa, seus agentes de IA conseguiram solucionar o problema em 88 horas. A organização responsável por conceder um prêmio a quem encontrar a solução afirmou que a questão "aparentemente foi resolvida", mas ressaltou que a análise do resultado levará tempo.
Agora no g1
Mas horas antes do anúncio, o matemático Tristan Buckmaster, da Universidade de Nova York, nos EUA, tornou públicas suas preocupações. Buckmaster formou uma equipe independente com Levent Alpöge, matemático que também trabalha para a Anthropic, empresa concorrente da OpenAI.
Os dois pesquisadores buscavam resolver o mesmo problema e armazenavam os rascunhos de seu trabalho no Codex, ferramenta de programação da OpenAI. Buckmaster afirmou que seu colega havia sido informado de que notícias sobre o avanço da pesquisa tinham "chegado" à OpenAI, mas não explicou como isso teria ocorrido. Ele questionou se a pesquisa armazenada no Codex poderia ter sido utilizada no trabalho da própria OpenAI, embora tenha ressaltado que "não estava acusando ninguém de nada".
A OpenAI afirmou que ninguém na empresa, seja humano ou IA, teve acesso ao trabalho da outra equipe antes de sua publicação. Inicialmente, a empresa disse que, embora fosse improvável, não poderia "descartar" a possibilidade de que dados anonimizados do uso de seus produtos tivessem contribuído para aprimorar seus modelos. Dias depois, afirmou que os comandos inseridos por Buckmaster no Codex nos dois meses anteriores ao anúncio "não poderiam ter influenciado o sistema de forma alguma".
O caso é complexo, e ainda não sabemos exatamente o que aconteceu. Mas ele chama a atenção para uma preocupação crescente com o uso da IA na ciência. Em geral, quando pensamos nesse assunto, imaginamos robôs criando vírus perigosos por meio de engenharia genética ou armas químicas capazes de exterminar a humanidade. No entanto, há um problema mais sutil, que não recebe a mesma atenção da imprensa: a possibilidade de a IA abalar a confiança no processo científico, levantando dúvidas sobre a originalidade e a precisão das pesquisas.
Há ainda outra preocupação. Sabe-se que ferramentas de IA como Claude e Gemini, do Google, podem, às vezes, produzir informações falsas, fenômeno conhecido como "alucinação". Elas podem, por exemplo, mencionar um filme que nunca existiu ou atribuir a alguém uma frase que jamais foi dita. Agora, há evidências de que isso ocorre com frequência cada vez maior também na ciência. O temor é que, com o tempo, se torne difícil distinguir descobertas científicas verdadeiras de informações fictícias geradas por IA.
Tudo isso pode ameaçar enfraquecer, ou até destruir, o alicerce sobre o qual se sustenta a pesquisa científica: a confiança.
Um 'marco histórico'
Uma das ameaças recai sobre as revistas científicas, responsáveis por preservar a integridade da ciência, que parecem não estar conseguindo lidar com uma avalanche de informações distorcidas geradas por IA.
"A IA generativa basicamente transformou todo o processo científico", afirma Dalmeet Singh Chawla, jornalista especializado em ciência que há uma década cobre casos de má conduta na pesquisa científica.
Singh Chawla disse à BBC que as equipes responsáveis por verificar a integridade das publicações científicas, analisando a precisão e a confiabilidade dos estudos submetidos, precisarão "aumentar drasticamente [em número de profissionais e esforço] para ter alguma chance de enfrentar o problema".
"No momento, parece que não estão conseguindo", afirma Singh Chawla.
À primeira vista, a IA parece ser a ferramenta ideal para impulsionar a pesquisa científica. Os cientistas trabalham com volumes enormes de informações. Telescópios e aceleradores de partículas, por exemplo, coletam bilhões de dados, em uma quantidade impossível de ser processada pelo cérebro humano. A IA consegue identificar as informações cientificamente mais relevantes em meio a essa imensidão de dados.
Um dos maiores exemplos do potencial da IA na ciência é a empresa Google DeepMind, sediada no Reino Unido, que em 2020 resolveu um dos maiores desafios da biologia: descobrir como as proteínas dos seres vivos se dobram até adquirir suas formas tridimensionais específicas.
Isso pode parecer pouco interessante, mas as proteínas são minúsculas máquinas que tornam a vida possível. A forma que elas assumem determina as suas funções, desde a formação das células e o combate a infecções até a constituição dos tecidos e órgãos do corpo.
Antes da IA, os cientistas precisavam realizar experimentos demorados em laboratório. Então, a Google DeepMind desenvolveu um modelo de IA chamado AlphaFold, que conseguiu prever com precisão as estruturas de 200 milhões de proteínas em apenas um ano.
Realizar o trabalho equivalente por meio de experimentos em laboratório levaria centenas de milhões de anos. A empresa disponibilizou gratuitamente os resultados aos pesquisadores. O diretor da DeepMind e o principal cientista do projeto receberam o Prêmio Nobel de Química.
Foi um momento de comemoração geral.
O pesquisador Pushmeet Kohli, responsável pela área científica da DeepMind, disse à reportagem que o AlphaFold pode ser considerado um "marco histórico".
Questionamentos sobre o trabalho da IA
Demis Hassabis, chefe da DeepMind, comemorou o fato de sua empresa ter usado IA para resolver um dos maiores problemas da biologia
Getty Images via BBC
Mas, em outras áreas, o uso da IA na ciência tem provocado acusações de exagero. Alguns modelos computacionais são acusados de superestimar a importância de suas descobertas, enquanto os pesquisadores responsáveis por supervisioná-los acabam aceitando certas afirmações sem o devido senso crítico.
Após o sucesso do AlphaFold, a DeepMind voltou sua atenção para a previsão da estrutura de novos materiais. Esse trabalho poderia levar ao desenvolvimento de baterias mais eficientes, células solares mais baratas e componentes eletrônicos que não dependam de elementos de terras raras. (Em tese, ninguém mais precisaria disputar direitos de exploração mineral, e a Groenlândia estaria livre de ameaças de invasão.)
Mas um modelo da DeepMind identificou o que a empresa afirmou serem mais de 2 milhões de novas estruturas cristalinas, anunciadas como o equivalente a "quase 800 anos de conhecimento" disponibilizados de uma só vez. Desse total, cerca de 380 mil foram consideradas promissoras o suficiente para serem produzidas em laboratório.
Mas um alerta veio de dois químicos da Universidade da Califórnia, nos EUA. Anthony Cheetham e Ram Seshadri analisaram uma amostra aleatória dos supostos novos cristais.
Em artigo publicado na revista científica Chemistry of Materials, concluíram que "ainda não encontraram nenhum composto realmente inovador" e argumentaram que muitos eram "adaptações triviais de materiais conhecidos". Os pesquisadores não consideraram que o método estivesse errado, mas defenderam que os resultados precisam passar por uma análise mais rigorosa e ser validados por químicos.
A DeepMind rejeita as críticas e afirma que verificou a originalidade de cada composto. Segundo a empresa, descartar uma nova estrutura por sua semelhança com materiais conhecidos é ignorar um aspecto fundamental: a substituição de um único átomo permitiu o desenvolvimento de muitos dos materiais mais úteis da atualidade, desde componentes de celulares até protetores solares.
Pesquisas de 'baixa qualidade'
Nesses casos, pelo menos, as pesquisas tinham, em grande parte, fundamento científico. O problema era a possibilidade de a IA exagerar a importância dos resultados.
Uma preocupação ainda maior é o risco crescente de que as revistas científicas sejam inundadas pelo chamado AI slop (conteúdo 'tosco' gerado por inteligência artificial). Nesse cenário, os estudos passam a ser escritos por computadores, em vez de pesquisadores, o que pode levar à inclusão de referências falsas e à citação de artigos científicos inexistentes.
Em 2024, o cientista da computação Dmitry Kobak, professor da Universidade de Ghent, na Bélgica, analisou mais de 1 milhão de artigos científicos da área biomédica em busca de palavras e expressões frequentemente usadas por grandes modelos de linguagem (LLMs) para gerar textos. Sua equipe constatou que, até dezembro do ano passado, quase 90% dos artigos apresentavam indícios de uso de IA.
As tecnologias de detecção de IA não são infalíveis. Alguns programas chegaram a classificar a Constituição dos Estados Unidos, escrita na década de 1780, como um texto "gerado por IA". Ainda assim, Kobak afirmou ter ficado chocado com a dimensão do aparente uso da tecnologia. Em entrevista à revista científica Nature, alertou para o risco de que "quaisquer vieses presentes nos grandes modelos de linguagem acabem se espalhando rapidamente por toda a literatura científica".
Kobak está entre os muitos pesquisadores preocupados com a possibilidade de que a IA esteja, aos poucos, comprometendo a qualidade das revistas científicas.
E isso é importante: os artigos científicos são essenciais para o avanço da ciência. Quando uma descoberta é publicada, pesquisadores de outras partes do mundo podem conseguir financiamento para dar continuidade ao trabalho e desenvolver novas pesquisas com base nos resultados.
Os pulsares são um tipo incomum de estrela de nêutrons, como mostra a imagem. Sua descoberta, nos anos 1960, se deveu em parte a um palpite de cientistas
Getty Images via BBC
O processo de revisão por pares, no qual outros cientistas avaliam os artigos antes de sua publicação, também está sendo comprometido.
Uma equipe liderada por Weixin Liang e James Zou, da Universidade Stanford, nos EUA, analisou pareceres de avaliadores enviados a quatro importantes conferências de ciência da computação e constatou que até 17% dos textos haviam sido substancialmente alterados por modelos de linguagem.
Uma etapa fundamental para garantir a integridade de um artigo científico é a apresentação de pesquisas anteriores pelos autores principais, para demonstrar que seu trabalho traz descobertas realmente novas. Essas referências são chamadas de citações bibliográficas. Uma equipe da Universidade Cornell, nos EUA, descobriu que pesquisadores estavam usando IA para compilar essas referências e que a tecnologia acabava inventando estudos inexistentes. No ano passado, cerca de 147 mil trabalhos científicos inexistentes foram citados.
Se a IA continuar comprometendo a integridade da produção científica dessa forma, pesquisadores poderão perder tempo e recursos seguindo caminhos que não levam a resultados, haverá desperdício de dinheiro público e os benefícios de pesquisas legítimas, como novos medicamentos e tecnologias sustentáveis, poderão demorar mais para chegar à sociedade ou até nunca se concretizar.
'IA para pesquisa científica'
Algumas editoras de revistas científicas, como a Elsevier, estão adotando medidas para conter essa crescente crise de confiança.
A equipe responsável pela integridade científica da Elsevier desenvolveu cerca de 100 indicadores que ajudam a identificar artigos que precisam passar por uma avaliação humana mais rigorosa.
As revistas do grupo Nature proíbem o uso de imagens geradas por IA e orientam os revisores a nunca inserir manuscritos em sistemas de IA. Já o arXiv, plataforma na qual cientistas compartilham resultados preliminares de suas pesquisas, suspende por um ano os pesquisadores que apresentam referências bibliográficas inventadas.
Sarah Main, professora e vice-presidente da Elsevier, está entre os profissionais da empresa que buscam formas de utilizar a IA de maneira responsável na pesquisa científica.
"O que chamamos de research-grade AI (inteligência artificial voltada à pesquisa científica, em tradução livre) tem como objetivo garantir que o pesquisador mantenha o controle do trabalho", afirma Main.
O cientista escocês Alexander Fleming descobriu a penicilina na década de 1920
Getty Images via BBC
À medida que agentes de IA analisam enormes volumes de dados obtidos por aceleradores de partículas, observações do Universo e estudos da natureza, como saber se os resultados estão corretos?
Há ainda outra preocupação: como garantir que esses sistemas não descartem descobertas importantes por considerá-las anomalias? A penicilina, a radioatividade e os pulsares, estrelas com características incomuns, foram descobertos a partir de resultados inesperados que poderiam facilmente ter sido ignorados. Foi a intuição dos cientistas que permitiu reconhecer a importância dessas observações e transformá-las em algumas das maiores descobertas científicas do século passado.
Mas será que a IA é capaz de fazer descobertas inesperadas e demonstrar a mesma criatividade dos seres humanos?
Kohli, da DeepMind, não acredita que a solução seja abandonar a inteligência artificial. Isso seria "como defender que as pessoas façam cálculos sem usar calculadoras", disse à reportagem. Mas ele reconhece que é necessário manter a supervisão humana: "Os agentes de IA atuais ainda são imperfeitos. Alguém precisa assumir a responsabilidade".
Para Kohli, o princípio é simples: "É preciso entender o que o agente fez e assumir a responsabilidade pelo resultado. Não basta apresentar um problema, deixar que a máquina escreva o artigo científico e depois submetê-lo para publicação como se suas conclusões fossem verdadeiras."
A professora Andrea Pauli, do Vienna BioCenter, centro de pesquisa em Viena, na Áustria, seguiu esse princípio. Ela passou quase dez anos investigando uma questão que ninguém havia conseguido responder: como o espermatozoide penetra no óvulo. O uso responsável da IA ajudou a pesquisadora a avançar na busca por uma resposta. Seu laboratório identificou uma proteína na superfície dos óvulos do peixe-zebra que indica a existência de um mecanismo semelhante ao de uma chave que se encaixa em uma fechadura, permitindo a entrada do espermatozoide.
A pesquisa de Pauli oferece motivos para otimismo em meio à proliferação de estudos científicos de baixa qualidade gerados por IA. Ela mostra que a tecnologia pode ajudar.
Mas esta também é uma história sobre pessoas. Pouco depois da criação da Basecamp, o laboratório que visitei em uma antiga fábrica de relógios em Londres, um de seus cofundadores, Oliver Vince, foi internado com leucemia, doença da qual se recuperou. A experiência o motivou a desenvolver um sistema de IA com maiores chances de encontrar a cura para diferentes tipos de câncer. Ele reconhece que a iniciativa pode não dar certo, mas acredita que vale a pena tentar.
"Temos um caminho tecnicamente viável para curar o câncer", afirma Vince.
Vince não faz uma promessa, mas aponta uma possibilidade. A grande questão é saber se a IA ajudará a ciência a alcançar esse objetivo ou se acabará enfraquecendo, de maneira silenciosa, os próprios fundamentos da pesquisa científica.
