Искусственный интеллект начал применяться для выявления неточностей в научных данных, которые считались достоверными на протяжении десятилетий.
На страже истины: ИИ нашел ошибки там, где все считалось доказанным много десятилетий назад
Искусственный интеллект обнаружил неточности в фундаментальных данных, которые десятилетиями использовались учеными как достоверные.
Unsplash
В работе, опубликованной в журнале Nature, утверждается, что использование алгоритмов позволило обнаружить ошибки в химических справочниках, которыми специалисты пользовались около 75 лет, а также выявить тенденцию к росту числа фактических ошибок в современных публикациях.
История с выявлением ИИ скрытых ошибок началась в Чжэцзянской лаборатории в Ханчжоу, где химик-теоретик Себастьян Пиос обучал нейросеть прогнозировать температуры кипения молекул.
В процессе работы алгоритм стал выдавать результаты, которые систематически расходились с данными авторитетной справочной базы, используемой химиками по всему миру на протяжении 75 лет.
Продолжение ниже
Видео
Продолжение
Первоначально исследователь предположил наличие ошибки в самой модели, однако ручная проверка оригинальных публикаций и первоисточников показала обратное: неверными оказались данные в справочнике. ИИ помог выявить ошибки в работах столетней давности, которые десятилетиями копировались из одного источника в другой.
Среди них оказались как обычные опечатки, так и неверные экспериментальные измерения, попавшие в литературу еще в начале XX века. При этом данные критически важны для науки и промышленности, так как на их основе планируются процессы дистилляции, проводится идентификация веществ и обучаются новые алгоритмы.
Практика использования ИИ для верификации знаний начала распространяться и на современные исследования. Так, специалисты компании SAI Labs применили систему ИИ-агентов SAI Review для анализа 168 научных статей, отобранных для конференции по машинному обучению ICML 2026 года.
Алгоритмы автоматически выделяли ключевые выводы авторов, изучали дополнительные материалы и пытались воспроизвести заявленные эксперименты.
Из 92 работ, в которых было обнаружено не менее пяти проверяемых утверждений, нейросеть смогла воспроизвести более 40% выводов только в 34 случаях. Более того, лишь в восьми статьях из этого списка удалось полностью подтвердить более 80% заявленных результатов.
Параллельно с этим группа ученых из Стэнфордского университета под руководством Джеймса Цзоу проанализировала публикации крупнейшей конференции NeurIPS. Специализированный ИИ-инструмент искал в работах объективные ошибки: некорректные формулы, неверные вычисления и неточности в таблицах.
Исследование показало, что среднее число подобных ошибок в статьях выросло с 3,8 в 2021 году до 5,9 в 2025 году, то есть на 55%.
Впрочем, несмотря на способность ИИ быстро обрабатывать массивы информации, ученые указывают на технические ограничения нейросетей. По словам специалиста Норвежского университета науки и технологий Одда Эрика Гундерсена, алгоритмы способны совершать ошибки, аналогичные человеческим, поэтому каждый выявленный случай требует ручного подтверждения.
Современные тесты показывают, что лучшие модели обнаруживают лишь около 20% неточностей, которые замечают профессиональные рецензенты-люди. Алгоритмы могут пропускать важные исходные предположения авторов или ошибочно помечать корректные результаты как недостоверные.
Проверка сложных доказательств в таких областях, как математика, по-прежнему требует последовательного анализа каждой строки рецензентом, что может занимать несколько дней.
Тем не менее сочетание скорости работы нейросетей и экспертной оценки ученых становится новым методом проверки научных работ, где ИИ выступает в роли инструмента, указывающего на подозрительные места в тысячах публикаций одновременно.
Загружаем