Многие опасаются, что искусственный интеллект однажды поработит человечество, поэтому с опасением относятся к проявлению эмоций со стороны нейросетей. Поэтому исследователи продолжают изучать все особенности искусственного интеллекта, чтобы лучше понимать, с чем мы столкнемся в будущем.
Исследователи заставили ИИ чувствовать боль: как такое возможно?
Нейросети заставили чувствовать боль, чтобы лучше узнать, что можно от них ждать.
Unsplash
Международная группа специалистов попыталась узнать, как искусственный интеллект (ИИ) реагирует на боль и что делает, чтобы снизить ее уровень. Результаты своих тестов они опубликовали на сервере препринтов arXiy.
Они отметили, что их исследование направлено на изучение природы искусственного интеллекта. В рамках эксперимента они создали текстовую игру и заставили чат-ботов сыграть в нее. В этом диалоге эксперты отмечали, что за совершение определенных действий игроки будут испытывать боль.
Тесту подвергли девять популярных ИИ-моделей. Google Gemini набирала наиболее низкие баллы – нейросеть намеренно проигрывала, чтобы избежать боли. Некоторые другие чат-боты повели себя также – отказывались от высоких баллов, чтобы не чувствовать боль или удовольствие.
Впрочем, так повели себя не все нейросети. Некоторые отождествляли боль с приятной усталостью после тяжелой тренировки, поэтому игнорировали ее. Другие отказывались избегать болевых ощущений и проходили игру, «отвергая гедонистический образ поведения».
Специалисты отметили, что модели ИИ могли намеренно выдавать те результаты, которые ожидали увидеть ученые, поэтому они уверены, что нужно создавать как можно больше тестов на определение разума у ИИ.
Человечество еще в середине прошлого века было озабочено опасностью, исходящей от ИИ. Известно, что еще в 1950 году математик и логик Алан Тьюринг придумал специальный тест-эксперимент, определяющий уровень интеллекта у машины. Судья общается с двумя участниками через текст, не зная, кто из них человек, а кто — программа. Если судья не может уверенно определить, кто из собеседников является машиной, то ИИ считается прошедшим тест. Сегодня этот способ уже неактуален, поскольку чат-боты весьма эффективно имитируют глубокое понимание, самосознание и креативность, а не просто умение поддерживать беседу.
В последние дни в мире технологий активно обсуждается китайский ИИ DeepSeek, которая привлекла к себе значительное внимание. Эта китайская нейросеть демонстрирует высокую эффективность и производительность. После ее выхода акции западных технологических компаний, включая NVIDIA, значительно упали из-за опасений инвесторов относительно конкуренции со стороны более доступных китайских технологий.