Искусственный интеллект подделывает научные работы: в чем опасность

Искусственный интеллект начал создавать серьёзную проблему для науки: в научных статьях всё чаще появляются ссылки на исследования, которых никогда не существовало.

Новое исследование, результаты которого опубликованы на сервере препринтов arXiv, показало, что только за 2025 год в научной литературе могло появиться около 146 тысяч «галлюцинированных» цитат — полностью вымышленных источников, созданных ИИ.

Учёные проанализировали 111 миллионов ссылок из 2,5 миллиона научных работ, размещённых в крупнейших научных базах — включая PubMed Central, bioRxiv и SSRN. Исследователи обнаружили резкий скачок числа несуществующих ссылок после массового распространения чат-ботов и языковых моделей вроде ChatGPT. Особенно быстро проблема начала расти с середины 2024 года.

Главная опасность заключается в том, что такие ссылки выглядят абсолютно правдоподобно. ИИ способен «собрать» название статьи, имена авторов, научный журнал и даже DOI-номер так, что подделку сложно заметить. Иногда существует даже настоящий DOI, но он ведёт совсем к другой статье. В результате фиктивные исследования начинают цитировать уже другие авторы, и ложная информация постепенно проникает в научную среду.

Авторы исследования подчёркивают: речь идёт не о нескольких мошенниках, а о системной проблеме. Чаще всего фальшивые ссылки встречались у небольших исследовательских групп и молодых учёных, активно использующих ИИ для написания текстов. При этом существующие механизмы проверки — редакторы журналов, рецензенты и автоматические фильтры — пропускают большую часть таких ошибок. По оценке исследователей, почти 79% фиктивных ссылок спокойно проходят модерацию даже на arXiv.

Особое беспокойство вызывает ситуация в медицине. Отдельный аудит, проведённый учёными из Колумбийского университета, выявил почти 3000 медицинских статей с несуществующими ссылками. Некоторые из этих работ уже используются в обзорах и рекомендациях для врачей. Исследователи предупреждают: если фиктивные данные начнут влиять на клинические решения, последствия могут выйти далеко за пределы академической среды.

На фоне растущей проблемы научные платформы начали ужесточать правила. Например, arXiv уже объявил, что авторы, публикующие статьи с очевидными ИИ-галлюцинациями и фальшивыми ссылками, могут получить годичный запрет на публикации.

Учёные считают, что наука столкнулась с новым типом кризиса доверия: искусственный интеллект не просто помогает писать статьи, а постепенно начинает загрязнять сам фундамент научного знания — систему ссылок и проверяемых источников. 

Подпишитесь на нас также в Telegram։

Загрузите приложение Iravunk и всегда будьте в курсе событий: