Математики против искусственного интеллекта: современные модели угрожают науке

Такой подход, считают авторы обращения, может расходиться с главной целью математических исследований — не просто получать правильные ответы, а находить новые идеи и глубже понимать закономерности.

Декларация опубликована на сайте движения Math and AI. Среди ее подписантов — лауреаты премии из разных поколений, в том числе Терри Тао, Максим Концевич, Питер Шольце, Седрик Вилани, Мэри́на Вязовская и другие.

Авторы документа обращают внимание на разницу между тем, как математическое сообщество и технологические компании воспринимают решение задачи. Для разработчиков ИИ возможность получить правильный ответ может быть важным показателем прогресса системы. В математике же решение — лишь начало работы. Исследователи разбирают доказательство, пытаются понять лежащие в его основе идеи, упрощают аргументацию, сопоставляют ее с уже существующими результатами и ищут новые области применения.

На это могут уходить годы. В декларации отмечается, что важные математические результаты постепенно проходят через лекции, обсуждения и публикации, пока не превращаются в понятные и пригодные для дальнейшего использования методы. Иногда идеи, появившиеся в ходе такого процесса, становятся частью математического инструментария спустя десятилетия.

Ученые опасаются, что конкуренция между ИИ-компаниями способна нарушить этот порядок. Если новые решения будут появляться и публично объявляться с максимально возможной скоростью, у математиков может не хватить времени на полноценную проверку результатов, выделение новых методов и сопоставление их с предыдущими исследованиями.

Отдельное беспокойство связано с авторством. По мнению подписантов, если ИИ создает математические идеи, их необходимо проверять, развивать и связывать с уже существующими знаниями. В противном случае возникает риск проблем с указанием авторства и заимствованием чужих идей.

Декларация появилась на фоне острого спора вокруг заявления OpenAI о решении проблемы Навье — Стокса — одной из семи «задач тысячелетия». 8 сентября компания сообщила, что ее внутренняя система построила аналитическое доказательство и его формализацию в Lean. По данным OpenAI, на поиск решения ушло около 88 часов, а последующая формализация и проверка заняли еще 17 часов.

При этом Бакмастер не утверждает, что OpenAI напрямую использовала их черновики. Он говорил о сходстве подходов и ставил вопрос о том, могла ли работа, которую он проводил с использованием Codex, повлиять на результат компании.

OpenAI отрицает использование конкретных пользовательских данных для решения задачи. В опубликованном 10 сентября обновлении компания сообщила, что провела внутреннюю проверку и пришла к выводу: запросы Бакмастера в Codex за два месяца до публикации не могли повлиять на систему, в том числе через обучение модели. OpenAI также заявила, что ее доказательство существенно отличается от результатов Бакмастера и Алпёге: исследователи работали с уравнениями с внешней силой, тогда как система компании получила результат для случая без внешнего воздействия.

Тем не менее, Твиттер шумит уже несколько дней, а Сэма Альтмана обвиняют едва ли не во всех смертных грехах. Заслуженно или нет — покажет время, но история однозначно некрасивая.