В научной литературе зафиксировано распространение несуществующего термина «вегетативная электронная микроскопия», который на данный момент обнаружен как минимум в 22 опубликованных статьях, при этом часть из них уже подверглась корректировке или отзыву.
ИИ придумал научный термин, которого никогда не существовало: теперь он встречается в десятках научных статей
Расследование выявило в десятках научных работ фантомный термин «вегетативная электронная микроскопия», возникший из-за сбоев оцифровки и трудностей перевода.
Unsplash
Расследование, проведенное изданием Retraction Watch, указывает на то, что это словосочетание возникло из-за двух независимых технических ошибок, которые позже закрепились в базах данных крупных языковых моделей, включая GPT-4o и Claude 3.5.
Возникновение ошибки ведет аж к 1959 году, когда при цифровой обработке архивов журнала Bacteriological Reviews программа оптического распознавания текста некорректно объединила слова из двух соседних колонок: слово «вегетативная» из левого столбца оказалось в одной связке с «электронной микроскопией» из правого.
Продолжение ниже
Видео
Продолжение
Второй источник аномалии связан с работами иранских исследователей 2017 и 2019 годов. На языке фарси термины «сканирующая» (robeshi) и «вегетативная» (royashi) различаются всего одной точкой в письменном начертании, а соответствующие им клавиши на клавиатуре расположены рядом.
Это привело к тому, что при машинном переводе или из-за опечаток в текстах на фарси стандартная «сканирующая электронная микроскопия» трансформировалась в «вегетативную». В Польской академии наук уже подтвердили вероятность такой подмены, отметив также практику использования готовых текстовых шаблонов в некоторых исследовательских группах, где авторы просто заменяют названия образцов с помощью функции поиска и замены.
После 2020 года бессмысленное словосочетание интегрировалось в обучающие выборки нейросетей и начало систематически воспроизводиться в работах, созданных или отредактированных с помощью ИИ-инструментов. Исследователи отмечают устойчивость ошибки: она сохраняется даже в последних поколениях моделей.
Термин проник и в масс-медиа, появившись в 2023 году в публикации крупной испанской газеты El País. Несмотря на технический характер ошибки, эксперты уверены, что в ряде случаев появление термина стало прямым результатом копирования фрагментов или неконтролируемого использования генеративного ИИ.
Ситуация с «вегетативной микроскопией» послужила поводом для масштабного анализа присутствия ИИ в научной среде. Изучение 15 миллионов биомедицинских аннотаций в базе PubMed показало, что не менее 13,5% рефератов, вышедших в 2024 году, прошли через обработку языковыми моделями, а в некоторых дисциплинах этот показатель достигает 40%.
Другое исследование, опубликованное в Nature Human Behaviour и охватившее 1,1 миллиона препринтов и статей, выявило признаки нейросетевого редактирования в 22,5% предложений в аннотациях по компьютерным наукам.
Ретроспективный анализ 7,3 миллиона статей за период с 2020 по 2025 год показал, что признаки влияния ИИ — от коррекции стиля до генерации целых блоков — присутствуют более чем в половине публикаций 2025 года.
Хотя использование ИИ для улучшения грамматики формально не является нарушением, проблемы возникают при отсутствии проверки фактов и сокрытии степени участия машины.
Для мониторинга таких случаев используется автоматизированный инструмент Problematic Paper Screener, созданный Гийомом Кабанаком. Система еженедельно проверяет 130 миллионов статей на наличие «искаженных фраз».
Так, в одном из журналов издательства Springer Nature инструмент уже выявил 78 работ с признаками некорректного использования ИИ. Примечательно, что издательство Elsevier изначально пыталось обосновать научную легитимность термина «вегетативная электронная микроскопия», прежде чем признать ошибку и опубликовать официальное исправление.
Загружаем