Horror e desdém varreram as redes sociais dos cientistas na quinta-feira, enquanto vários números terrivelmente ruins gerados pela inteligência artificial circulavam de… Artigo revisado por pares Publicado recentemente em uma revista de prestígio. Estes números – que os autores reconhecem no texto do artigo serem criação de Midgourney – são todos inexplicáveis. Eles contêm texto incompreensível e, o mais surpreendente, um deles inclui a imagem de um rato com genitália estranhamente grande e estranha, bem como o título do texto “dck”.
Na quinta-feira a editora do artigo de revisão Frontiers Postou uma “Expressão de Preocupação” Ressaltando que ela está ciente das preocupações relacionadas ao artigo publicado. “Uma investigação está em andamento e este aviso será atualizado adequadamente após a conclusão da investigação”, escreveu o editor.
O artigo em questão é intitulado “Funções celulares das células-tronco espermatogênicas em relação à via de sinalização JAK/STAT” e foi escrito por três pesquisadores na China, incluindo o autor correspondente Dingjun Hao, do Hospital Xi'an Honghui. Foi publicado online terça-feira na revista Frontiers in Cell and Developmental Biology.
A Frontiers não respondeu imediatamente ao pedido de comentário de Ars, mas atualizaremos esta postagem com qualquer resposta.
A primeira figura do artigo, aquela que contém um rato, atraiu atenção imediata quando os cientistas começaram a partilhá-la amplamente e a comentar sobre ela em plataformas de redes sociais, incluindo Bluesky e a plataforma anteriormente conhecida como Twitter. À distância, fica claro que o quadro anatômico está completamente errado. Mas um olhar mais atento revela mais falhas, incluindo as designações “dissilada”, célula-tronco, “iollotte serotgomar” e “dck”. Muitos pesquisadores expressaram surpresa e consternação com o fato de uma imagem tão flagrantemente ruim gerada pela inteligência artificial poder passar pelo par. – O sistema de revisão e qualquer processamento interno presente na revista.
Mas a matilha de ratos não é o único problema. A Figura 2 é menos gráfica, mas igualmente distorcida. Embora deva ser um diagrama de uma via de sinalização complexa, na verdade é uma bagunça confusa. Um especialista em integridade científica Eu me perguntei se ela estava dando uma explicação muito complicada de “como fazer um donut com granulado colorido”. Assim como a primeira imagem, o diagrama está cheio de textos sem sentido e imagens confusas. A Figura 3 não é melhor, apresentando uma coleção de pequenas imagens circulares contendo anotações com muitos jargões. A imagem deve fornecer representações visuais de como a via de sinalização da Figura 2 regula as propriedades biológicas das células-tronco espermatogênicas.
Alguns estudiosos online se perguntaram se o texto também teria sido gerado por inteligência artificial. Um usuário observou que o software de detecção de IA determinou que provavelmente foi gerado por IA; No entanto, como Ars relatou anteriormente, tais programas não são confiáveis.
As imagens, embora sejam exemplos flagrantes, destacam um problema crescente na publicação acadêmica. O sucesso dos cientistas depende em grande parte do seu registo de publicações, com um elevado volume de publicações, publicações frequentes e artigos publicados nas principais revistas, todos conferindo aos cientistas um maior estatuto. O sistema incentiva investigadores menos escrupulosos a publicar artigos de baixa qualidade, que provavelmente serão gerados com a ajuda da inteligência artificial na era dos chatbots alimentados por IA. Os investigadores estão preocupados que o uso crescente da inteligência artificial torne as pesquisas publicadas menos confiáveis. Como tal, revistas científicas desenvolveram recentemente novas diretrizes para a autoria de textos gerados por IA para tentar resolver o problema. Mas, por enquanto, como mostra o artigo da Frontiers, existem claramente algumas lacunas.