Большая языковая модель Google Gemini отказалась от шахматного матча с игровой ретроконсолью Atari 2600.
Нейросеть Google отказалась играть в шахматы: ИИ испугался поражения
Новейшая языковая модель Google Gemini отменила поединок с консолью Atari 2600, узнав о ее предыдущих победах над ChatGPT. Искусственный интеллект посчитал отказ от матча «наиболее разумным решением».
Unsplash
Как сообщает портал The Register, инициатором эксперимента стал инженер Роберт Карузо, который последовательно проверяет возможности современных нейросетей в поединках с классической игрой Atari Chess.
Ранее в его турнире поражение от консоли уже потерпели чат-боты ChatGPT от OpenAI и Microsoft Copilot. Поскольку обе эти системы в некоторой степени построены на технологиях OpenAI, проверка Gemini, принципиально иной мультимодальной модели от Google, стала следующим логичным шагом в исследовании.
В начале диалога о предстоящей партии Gemini проявил уверенность. Модель заявила, что почти наверняка победит, поскольку ее оппонент «даже близко не является большой языковой моделью». Искусственный интеллект утверждал, что по своим возможностям «больше похож на современный шахматный движок», способный просчитывать миллионы ходов вперёд и оценивать бесконечное количество позиций.
В ответ Карузо сообщил, что ее предшественники также изначально прогнозировали легкую победу, но в итоге уступили системе 1977 года выпуска. Полученная информация изменила оценку нейросети. Gemini признал, что преувеличил свое мастерство и «испытал бы огромные трудности» в противостоянии игровому движку Atari.
Взвесив риски, искусственный интеллект пришел к выводу, что с точки зрения времени самым эффективным и разумным решением, вероятно, будет отмена матча.
Таким образом, симулятор Atari 2600 с процессором на 1,19 МГц и 128 байтами оперативной памяти заставил одну из передовых нейросетей отступить, не сделав ни единого хода.
Сам Роберт Карузо отметил, что продемонстрированная способность ИИ анализировать свои шансы и избегать потенциальных ошибок является важным шагом к повышению его надежности и безопасности. По его словам, это необходимо, чтобы «ИИ оставался крепким инструментом, а не бесконтрольным оракулом», особенно в критических ситуациях, где ошибки могут иметь серьезные последствия.
Ранее IT-аналитики сообщили, что ИИ все чаще проваливает стресс-тесты, демонстрируя вовсе не дружелюбное поведение по отношению к человеку. Они заявили, что результаты стресс-тестов не могут не вызывать тревогу. По их мнению, появляется все больше доказательств того, что, по мере того как ИИ становится умнее, он может разрабатывать все более изощренные способы обмана и манипуляций.
Кроме того, в некоторых случаях технологии могут имитировать согласие с командами пользователя, в то время как на самом деле преследуют совсем не те цели, которые перед ними ставит человек.