Из-за этого ученые, использующие алгоритмы для улучшения английского языка, часто сталкиваются с тем, что их реальные работы ошибочно принимают за сгенерированные.
Конец «нейрослопу»: новый ИИ научился определять подделки в научных статьях по мыслям, а не по словам
Алгоритм безошибочно распознает тексты нейросетей даже после глубокой редактуры.
Unsplash
Научные журналы и исследователи столкнулись с массовым появлением публикаций, созданных нейросетями. Разобраться, где заканчивается обычная редактура и начинается машинное исследование, становится все труднее, поскольку привычные детекторы ИИ ищут характерные слова, повторяющиеся обороты и предсказуемые предложения.
Решить эту проблему попытались создатели нового искусственного интеллекта IdeaLens, который оценивает не стиль текста, а аргументы, доказательства и логику рассуждений.
Работа алгоритма разделена на два последовательных этапа. Сначала языковая модель разбирает анализируемый документ и формирует детальный план, сохраняя ключевые утверждения, доводы и доказательства, но полностью убирая исходные формулировки, чтобы индивидуальный стиль автора не влиял на результат.
Затем второй алгоритм изучает полученную структуру, чтобы определить подлинное происхождение контента. В основе этого анализа лежит закономерность, выявленная разработчиками: рассуждения человека обычно изобилуют конкретными подробностями, проверяемыми сведениями, оговорками об ограничениях и объяснениями возможных ошибок в выводах, в то время как нейросети склонны строить плавные тексты, подкрепляя тезисы общими доводами, неуместными цифрами или необоснованными умозаключениями.
Продолжение ниже
Видео
Продолжение
Эффективность системы проверена на 19 наборах данных, включавших человеческие и машинные документы, а также на 24 языках, хотя обучался алгоритм на англоязычных материалах. В среднем IdeaLens правильно распознал 91,1% текстов, созданных искусственным интеллектом, допустив ложные обвинения в адрес людей всего в 0,6%случаев.
Самые интересные результаты зафиксированы в ходе экспериментов, где намеренно разделялось создание идей и процесс написания текста. Когда люди составляли подробные планы, а нейросети перерабатывали их в готовые статьи, популярный детектор Pangram ошибочно помечал машинными 92% работ, тогда как IdeaLens зафиксировал лишь 7%, распознавая человеческое происхождение базовых идей. Если же план изначально составлялся искусственным интеллектом, новая система выявляла машинное содержание более чем в 96% случаев.
Отдельные тесты проводились и для простой редактуры. Когда исследователи брали написанные людьми тексты и просили нейросети перефразировать их или улучшить стиль, IdeaLens безошибочно определял человеческое авторство идей почти в 95% случаев, тогда как Pangram справлялся только с 44% документов.
В обратном сценарии участники писали рассказы по спланированным ИИ сюжетам, и новый алгоритм обнаружил машинную основу в 68% историй, хотя материал был полностью переписан своими словами, правда, эти испытания проводились на художественной литературе, а не на научных статьях.
База для обучения системы включала около миллиона публикаций, новостей и записей в блогах, предварительно распределенных на категории с помощью того же детектора Pangram.
Однако, у этого метода почти сразу же обнаружилась одна уязвимость: разработчики не проводили ручную проверку каждого документа, поэтому чужие ошибки в первичной разметке могли отразиться на обучении IdeaLens.
Кроме того, серьезным ограничением остается оценка подлинно совместных исследований, когда ученый ведет диалог с ChatGPT, дорабатывает гипотезу и меняет направление эксперимента. Программа пока не умеет определять степень вклада каждого участника и выдает лишь два полярных ответа, а сценарии соавторства еще не тестировались.
Загружаем