![](\"https:\/\/hashdigital.com.br\/teste\/wp-content\/uploads\/2026\/11\/localimages\/fotos-g1-1920-x-1080-px-2026-10-31t192727.017.png\")
A IA pode fazer as pessoas duvidarem da qualidade e da originalidade das pesquisas cient\u00edficas?
\nGetty Images via BBC
\nEm uma antiga f\u00e1brica de rel\u00f3gios no centro de Londres, uma fileira de freezers brancos mant\u00e9m armazenadas dezenas de pequenas caixas com tubos de vidro identificados por c\u00f3digos de barras. Juntos, esses tubos cont\u00eam 100 bilh\u00f5es de genes. Segundo o m\u00e9dico Oliver Vince, um dos fundadores do laborat\u00f3rio, se considerarmos apenas duas dessas caixas, elas poderiam armazenar juntas dez vezes mais informa\u00e7\u00f5es do que todos os textos dispon\u00edveis na internet.
\nA empresa de Vince, a Basecamp Research, pretende coletar a maior quantidade poss\u00edvel de DNA para desenvolver uma intelig\u00eancia artificial (IA) capaz de compreender a linguagem da biologia. A estrat\u00e9gia \u00e9 semelhante \u00e0 adotada por empresas de tecnologia dos Estados Unidos e da China, que reuniram enormes volumes de textos dispon\u00edveis na internet para criar os chamados Large Language Models (LLMs, grandes modelos de linguagem como, por exemplo, o ChatGPT ou o Gemini) que servem de base para os atuais sistemas de IA.
\nVince, assim como muitos profissionais do setor empresarial e da pesquisa acad\u00eamica, diz acreditar que a IA dar\u00e1 um grande impulso \u00e0 pesquisa cient\u00edfica. Mas seu uso tamb\u00e9m tem provocado cada vez mais controv\u00e9rsias.
\nNo m\u00eas passado, a OpenAI, criadora da ferramenta ChatGPT, anunciou ter resolvido um dos grandes problemas ainda sem solu\u00e7\u00e3o da matem\u00e1tica, relacionado \u00e0s famosas equa\u00e7\u00f5es de Navier-Stokes. Segundo a empresa, seus agentes de IA conseguiram solucionar o problema em 88 horas. A organiza\u00e7\u00e3o respons\u00e1vel por conceder um pr\u00eamio a quem encontrar a solu\u00e7\u00e3o afirmou que a quest\u00e3o “aparentemente foi resolvida”, mas ressaltou que a an\u00e1lise do resultado levar\u00e1 tempo.
\nAgora no g1
\nMas horas antes do an\u00fancio, o matem\u00e1tico Tristan Buckmaster, da Universidade de Nova York, nos EUA, tornou p\u00fablicas suas preocupa\u00e7\u00f5es. Buckmaster formou uma equipe independente com Levent Alp\u00f6ge, matem\u00e1tico que tamb\u00e9m trabalha para a Anthropic, empresa concorrente da OpenAI.
\nOs dois pesquisadores buscavam resolver o mesmo problema e armazenavam os rascunhos de seu trabalho no Codex, ferramenta de programa\u00e7\u00e3o da OpenAI. Buckmaster afirmou que seu colega havia sido informado de que not\u00edcias sobre o avan\u00e7o da pesquisa tinham “chegado” \u00e0 OpenAI, mas n\u00e3o explicou como isso teria ocorrido. Ele questionou se a pesquisa armazenada no Codex poderia ter sido utilizada no trabalho da pr\u00f3pria OpenAI, embora tenha ressaltado que “n\u00e3o estava acusando ningu\u00e9m de nada”.
\nA OpenAI afirmou que ningu\u00e9m na empresa, seja humano ou IA, teve acesso ao trabalho da outra equipe antes de sua publica\u00e7\u00e3o. Inicialmente, a empresa disse que, embora fosse improv\u00e1vel, n\u00e3o poderia “descartar” a possibilidade de que dados anonimizados do uso de seus produtos tivessem contribu\u00eddo para aprimorar seus modelos. Dias depois, afirmou que os comandos inseridos por Buckmaster no Codex nos dois meses anteriores ao an\u00fancio “n\u00e3o poderiam ter influenciado o sistema de forma alguma”.
\nO caso \u00e9 complexo, e ainda n\u00e3o sabemos exatamente o que aconteceu. Mas ele chama a aten\u00e7\u00e3o para uma preocupa\u00e7\u00e3o crescente com o uso da IA na ci\u00eancia. Em geral, quando pensamos nesse assunto, imaginamos rob\u00f4s criando v\u00edrus perigosos por meio de engenharia gen\u00e9tica ou armas qu\u00edmicas capazes de exterminar a humanidade. No entanto, h\u00e1 um problema mais sutil, que n\u00e3o recebe a mesma aten\u00e7\u00e3o da imprensa: a possibilidade de a IA abalar a confian\u00e7a no processo cient\u00edfico, levantando d\u00favidas sobre a originalidade e a precis\u00e3o das pesquisas.
\nH\u00e1 ainda outra preocupa\u00e7\u00e3o. Sabe-se que ferramentas de IA como Claude e Gemini, do Google, podem, \u00e0s vezes, produzir informa\u00e7\u00f5es falsas, fen\u00f4meno conhecido como “alucina\u00e7\u00e3o”. Elas podem, por exemplo, mencionar um filme que nunca existiu ou atribuir a algu\u00e9m uma frase que jamais foi dita. Agora, h\u00e1 evid\u00eancias de que isso ocorre com frequ\u00eancia cada vez maior tamb\u00e9m na ci\u00eancia. O temor \u00e9 que, com o tempo, se torne dif\u00edcil distinguir descobertas cient\u00edficas verdadeiras de informa\u00e7\u00f5es fict\u00edcias geradas por IA.
\nTudo isso pode amea\u00e7ar enfraquecer, ou at\u00e9 destruir, o alicerce sobre o qual se sustenta a pesquisa cient\u00edfica: a confian\u00e7a.
\nUm ‘marco hist\u00f3rico’
\nUma das amea\u00e7as recai sobre as revistas cient\u00edficas, respons\u00e1veis por preservar a integridade da ci\u00eancia, que parecem n\u00e3o estar conseguindo lidar com uma avalanche de informa\u00e7\u00f5es distorcidas geradas por IA.
\n“A IA generativa basicamente transformou todo o processo cient\u00edfico”, afirma Dalmeet Singh Chawla, jornalista especializado em ci\u00eancia que h\u00e1 uma d\u00e9cada cobre casos de m\u00e1 conduta na pesquisa cient\u00edfica.
\nSingh Chawla disse \u00e0 BBC que as equipes respons\u00e1veis por verificar a integridade das publica\u00e7\u00f5es cient\u00edficas, analisando a precis\u00e3o e a confiabilidade dos estudos submetidos, precisar\u00e3o “aumentar drasticamente [em n\u00famero de profissionais e esfor\u00e7o] para ter alguma chance de enfrentar o problema”.
\n“No momento, parece que n\u00e3o est\u00e3o conseguindo”, afirma Singh Chawla.
\n\u00c0 primeira vista, a IA parece ser a ferramenta ideal para impulsionar a pesquisa cient\u00edfica. Os cientistas trabalham com volumes enormes de informa\u00e7\u00f5es. Telesc\u00f3pios e aceleradores de part\u00edculas, por exemplo, coletam bilh\u00f5es de dados, em uma quantidade imposs\u00edvel de ser processada pelo c\u00e9rebro humano. A IA consegue identificar as informa\u00e7\u00f5es cientificamente mais relevantes em meio a essa imensid\u00e3o de dados.
\nUm dos maiores exemplos do potencial da IA na ci\u00eancia \u00e9 a empresa Google DeepMind, sediada no Reino Unido, que em 2020 resolveu um dos maiores desafios da biologia: descobrir como as prote\u00ednas dos seres vivos se dobram at\u00e9 adquirir suas formas tridimensionais espec\u00edficas.
\nIsso pode parecer pouco interessante, mas as prote\u00ednas s\u00e3o min\u00fasculas m\u00e1quinas que tornam a vida poss\u00edvel. A forma que elas assumem determina as suas fun\u00e7\u00f5es, desde a forma\u00e7\u00e3o das c\u00e9lulas e o combate a infec\u00e7\u00f5es at\u00e9 a constitui\u00e7\u00e3o dos tecidos e \u00f3rg\u00e3os do corpo.
\nAntes da IA, os cientistas precisavam realizar experimentos demorados em laborat\u00f3rio. Ent\u00e3o, a Google DeepMind desenvolveu um modelo de IA chamado AlphaFold, que conseguiu prever com precis\u00e3o as estruturas de 200 milh\u00f5es de prote\u00ednas em apenas um ano.
\nRealizar o trabalho equivalente por meio de experimentos em laborat\u00f3rio levaria centenas de milh\u00f5es de anos. A empresa disponibilizou gratuitamente os resultados aos pesquisadores. O diretor da DeepMind e o principal cientista do projeto receberam o Pr\u00eamio Nobel de Qu\u00edmica.
\nFoi um momento de comemora\u00e7\u00e3o geral.
\nO pesquisador Pushmeet Kohli, respons\u00e1vel pela \u00e1rea cient\u00edfica da DeepMind, disse \u00e0 reportagem que o AlphaFold pode ser considerado um “marco hist\u00f3rico”.
\nQuestionamentos sobre o trabalho da IA
\nDemis Hassabis, chefe da DeepMind, comemorou o fato de sua empresa ter usado IA para resolver um dos maiores problemas da biologia
\nGetty Images via BBC
\nMas, em outras \u00e1reas, o uso da IA na ci\u00eancia tem provocado acusa\u00e7\u00f5es de exagero. Alguns modelos computacionais s\u00e3o acusados de superestimar a import\u00e2ncia de suas descobertas, enquanto os pesquisadores respons\u00e1veis por supervision\u00e1-los acabam aceitando certas afirma\u00e7\u00f5es sem o devido senso cr\u00edtico.
\nAp\u00f3s o sucesso do AlphaFold, a DeepMind voltou sua aten\u00e7\u00e3o para a previs\u00e3o da estrutura de novos materiais. Esse trabalho poderia levar ao desenvolvimento de baterias mais eficientes, c\u00e9lulas solares mais baratas e componentes eletr\u00f4nicos que n\u00e3o dependam de elementos de terras raras. (Em tese, ningu\u00e9m mais precisaria disputar direitos de explora\u00e7\u00e3o mineral, e a Groenl\u00e2ndia estaria livre de amea\u00e7as de invas\u00e3o.)
\nMas um modelo da DeepMind identificou o que a empresa afirmou serem mais de 2 milh\u00f5es de novas estruturas cristalinas, anunciadas como o equivalente a “quase 800 anos de conhecimento” disponibilizados de uma s\u00f3 vez. Desse total, cerca de 380 mil foram consideradas promissoras o suficiente para serem produzidas em laborat\u00f3rio.
\nMas um alerta veio de dois qu\u00edmicos da Universidade da Calif\u00f3rnia, nos EUA. Anthony Cheetham e Ram Seshadri analisaram uma amostra aleat\u00f3ria dos supostos novos cristais.
\nEm artigo publicado na revista cient\u00edfica Chemistry of Materials, conclu\u00edram que “ainda n\u00e3o encontraram nenhum composto realmente inovador” e argumentaram que muitos eram “adapta\u00e7\u00f5es triviais de materiais conhecidos”. Os pesquisadores n\u00e3o consideraram que o m\u00e9todo estivesse errado, mas defenderam que os resultados precisam passar por uma an\u00e1lise mais rigorosa e ser validados por qu\u00edmicos.
\nA DeepMind rejeita as cr\u00edticas e afirma que verificou a originalidade de cada composto. Segundo a empresa, descartar uma nova estrutura por sua semelhan\u00e7a com materiais conhecidos \u00e9 ignorar um aspecto fundamental: a substitui\u00e7\u00e3o de um \u00fanico \u00e1tomo permitiu o desenvolvimento de muitos dos materiais mais \u00fateis da atualidade, desde componentes de celulares at\u00e9 protetores solares.
\nPesquisas de ‘baixa qualidade’
\nNesses casos, pelo menos, as pesquisas tinham, em grande parte, fundamento cient\u00edfico. O problema era a possibilidade de a IA exagerar a import\u00e2ncia dos resultados.
\nUma preocupa\u00e7\u00e3o ainda maior \u00e9 o risco crescente de que as revistas cient\u00edficas sejam inundadas pelo chamado AI slop (conte\u00fado ‘tosco’ gerado por intelig\u00eancia artificial). Nesse cen\u00e1rio, os estudos passam a ser escritos por computadores, em vez de pesquisadores, o que pode levar \u00e0 inclus\u00e3o de refer\u00eancias falsas e \u00e0 cita\u00e7\u00e3o de artigos cient\u00edficos inexistentes.
\nEm 2024, o cientista da computa\u00e7\u00e3o Dmitry Kobak, professor da Universidade de Ghent, na B\u00e9lgica, analisou mais de 1 milh\u00e3o de artigos cient\u00edficos da \u00e1rea biom\u00e9dica em busca de palavras e express\u00f5es frequentemente usadas por grandes modelos de linguagem (LLMs) para gerar textos. Sua equipe constatou que, at\u00e9 dezembro do ano passado, quase 90% dos artigos apresentavam ind\u00edcios de uso de IA.
\nAs tecnologias de detec\u00e7\u00e3o de IA n\u00e3o s\u00e3o infal\u00edveis. Alguns programas chegaram a classificar a Constitui\u00e7\u00e3o dos Estados Unidos, escrita na d\u00e9cada de 1780, como um texto “gerado por IA”. Ainda assim, Kobak afirmou ter ficado chocado com a dimens\u00e3o do aparente uso da tecnologia. Em entrevista \u00e0 revista cient\u00edfica Nature, alertou para o risco de que “quaisquer vieses presentes nos grandes modelos de linguagem acabem se espalhando rapidamente por toda a literatura cient\u00edfica”.
\nKobak est\u00e1 entre os muitos pesquisadores preocupados com a possibilidade de que a IA esteja, aos poucos, comprometendo a qualidade das revistas cient\u00edficas.
\nE isso \u00e9 importante: os artigos cient\u00edficos s\u00e3o essenciais para o avan\u00e7o da ci\u00eancia. Quando uma descoberta \u00e9 publicada, pesquisadores de outras partes do mundo podem conseguir financiamento para dar continuidade ao trabalho e desenvolver novas pesquisas com base nos resultados.
\nOs pulsares s\u00e3o um tipo incomum de estrela de n\u00eautrons, como mostra a imagem. Sua descoberta, nos anos 1960, se deveu em parte a um palpite de cientistas
\nGetty Images via BBC
\nO processo de revis\u00e3o por pares, no qual outros cientistas avaliam os artigos antes de sua publica\u00e7\u00e3o, tamb\u00e9m est\u00e1 sendo comprometido.
\nUma equipe liderada por Weixin Liang e James Zou, da Universidade Stanford, nos EUA, analisou pareceres de avaliadores enviados a quatro importantes confer\u00eancias de ci\u00eancia da computa\u00e7\u00e3o e constatou que at\u00e9 17% dos textos haviam sido substancialmente alterados por modelos de linguagem.
\nUma etapa fundamental para garantir a integridade de um artigo cient\u00edfico \u00e9 a apresenta\u00e7\u00e3o de pesquisas anteriores pelos autores principais, para demonstrar que seu trabalho traz descobertas realmente novas. Essas refer\u00eancias s\u00e3o chamadas de cita\u00e7\u00f5es bibliogr\u00e1ficas. Uma equipe da Universidade Cornell, nos EUA, descobriu que pesquisadores estavam usando IA para compilar essas refer\u00eancias e que a tecnologia acabava inventando estudos inexistentes. No ano passado, cerca de 147 mil trabalhos cient\u00edficos inexistentes foram citados.
\nSe a IA continuar comprometendo a integridade da produ\u00e7\u00e3o cient\u00edfica dessa forma, pesquisadores poder\u00e3o perder tempo e recursos seguindo caminhos que n\u00e3o levam a resultados, haver\u00e1 desperd\u00edcio de dinheiro p\u00fablico e os benef\u00edcios de pesquisas leg\u00edtimas, como novos medicamentos e tecnologias sustent\u00e1veis, poder\u00e3o demorar mais para chegar \u00e0 sociedade ou at\u00e9 nunca se concretizar.
\n‘IA para pesquisa cient\u00edfica’
\nAlgumas editoras de revistas cient\u00edficas, como a Elsevier, est\u00e3o adotando medidas para conter essa crescente crise de confian\u00e7a.
\nA equipe respons\u00e1vel pela integridade cient\u00edfica da Elsevier desenvolveu cerca de 100 indicadores que ajudam a identificar artigos que precisam passar por uma avalia\u00e7\u00e3o humana mais rigorosa.
\nAs revistas do grupo Nature pro\u00edbem o uso de imagens geradas por IA e orientam os revisores a nunca inserir manuscritos em sistemas de IA. J\u00e1 o arXiv, plataforma na qual cientistas compartilham resultados preliminares de suas pesquisas, suspende por um ano os pesquisadores que apresentam refer\u00eancias bibliogr\u00e1ficas inventadas.
\nSarah Main, professora e vice-presidente da Elsevier, est\u00e1 entre os profissionais da empresa que buscam formas de utilizar a IA de maneira respons\u00e1vel na pesquisa cient\u00edfica.
\n“O que chamamos de research-grade AI (intelig\u00eancia artificial voltada \u00e0 pesquisa cient\u00edfica, em tradu\u00e7\u00e3o livre) tem como objetivo garantir que o pesquisador mantenha o controle do trabalho”, afirma Main.
\nO cientista escoc\u00eas Alexander Fleming descobriu a penicilina na d\u00e9cada de 1920
\nGetty Images via BBC
\n\u00c0 medida que agentes de IA analisam enormes volumes de dados obtidos por aceleradores de part\u00edculas, observa\u00e7\u00f5es do Universo e estudos da natureza, como saber se os resultados est\u00e3o corretos?
\nH\u00e1 ainda outra preocupa\u00e7\u00e3o: como garantir que esses sistemas n\u00e3o descartem descobertas importantes por consider\u00e1-las anomalias? A penicilina, a radioatividade e os pulsares, estrelas com caracter\u00edsticas incomuns, foram descobertos a partir de resultados inesperados que poderiam facilmente ter sido ignorados. Foi a intui\u00e7\u00e3o dos cientistas que permitiu reconhecer a import\u00e2ncia dessas observa\u00e7\u00f5es e transform\u00e1-las em algumas das maiores descobertas cient\u00edficas do s\u00e9culo passado.
\nMas ser\u00e1 que a IA \u00e9 capaz de fazer descobertas inesperadas e demonstrar a mesma criatividade dos seres humanos?
\nKohli, da DeepMind, n\u00e3o acredita que a solu\u00e7\u00e3o seja abandonar a intelig\u00eancia artificial. Isso seria “como defender que as pessoas fa\u00e7am c\u00e1lculos sem usar calculadoras”, disse \u00e0 reportagem. Mas ele reconhece que \u00e9 necess\u00e1rio manter a supervis\u00e3o humana: “Os agentes de IA atuais ainda s\u00e3o imperfeitos. Algu\u00e9m precisa assumir a responsabilidade”.
\nPara Kohli, o princ\u00edpio \u00e9 simples: “\u00c9 preciso entender o que o agente fez e assumir a responsabilidade pelo resultado. N\u00e3o basta apresentar um problema, deixar que a m\u00e1quina escreva o artigo cient\u00edfico e depois submet\u00ea-lo para publica\u00e7\u00e3o como se suas conclus\u00f5es fossem verdadeiras.”
\nA professora Andrea Pauli, do Vienna BioCenter, centro de pesquisa em Viena, na \u00c1ustria, seguiu esse princ\u00edpio. Ela passou quase dez anos investigando uma quest\u00e3o que ningu\u00e9m havia conseguido responder: como o espermatozoide penetra no \u00f3vulo. O uso respons\u00e1vel da IA ajudou a pesquisadora a avan\u00e7ar na busca por uma resposta. Seu laborat\u00f3rio identificou uma prote\u00edna na superf\u00edcie dos \u00f3vulos do peixe-zebra que indica a exist\u00eancia de um mecanismo semelhante ao de uma chave que se encaixa em uma fechadura, permitindo a entrada do espermatozoide.
\nA pesquisa de Pauli oferece motivos para otimismo em meio \u00e0 prolifera\u00e7\u00e3o de estudos cient\u00edficos de baixa qualidade gerados por IA. Ela mostra que a tecnologia pode ajudar.
\nMas esta tamb\u00e9m \u00e9 uma hist\u00f3ria sobre pessoas. Pouco depois da cria\u00e7\u00e3o da Basecamp, o laborat\u00f3rio que visitei em uma antiga f\u00e1brica de rel\u00f3gios em Londres, um de seus cofundadores, Oliver Vince, foi internado com leucemia, doen\u00e7a da qual se recuperou. A experi\u00eancia o motivou a desenvolver um sistema de IA com maiores chances de encontrar a cura para diferentes tipos de c\u00e2ncer. Ele reconhece que a iniciativa pode n\u00e3o dar certo, mas acredita que vale a pena tentar.
\n“Temos um caminho tecnicamente vi\u00e1vel para curar o c\u00e2ncer”, afirma Vince.
\nVince n\u00e3o faz uma promessa, mas aponta uma possibilidade. A grande quest\u00e3o \u00e9 saber se a IA ajudar\u00e1 a ci\u00eancia a alcan\u00e7ar esse objetivo ou se acabar\u00e1 enfraquecendo, de maneira silenciosa, os pr\u00f3prios fundamentos da pesquisa cient\u00edfica.<\/p>\n","protected":false},"excerpt":{"rendered":"