Считать пока не научились: в сети обсуждают смешные баги нейросетей
Несколько дней назад в социальных сетях завирусился ролик, в котором девушка спрашивает у ИИ (нашего, родного, отечественного), сколько вторников будет в ноябре 2024 года. И с удивлением узнает, что их будет семь.
Ответ сильно ошарашил девушку, поэтому она начала задавать ИИ другие наводящие вопросы и лишь в конце человек и искусственный интеллект пришли к консенсусу. Вторников все-таки будет четыре. Но скольких усилий это стоило!
Подобное поведение ИИ показалось очень странным многим пользователям в социальных сетях. Как так? Искусственный интеллект способен брать медали на математических олимпиадах, писать сложные тексты (и даже книги), рисовать фотореалистичные картинки, но не способен посчитать число вторников в месяце?
Оказалось, что ИИ в целом очень плохо справляется с простыми математическими операциями. Например, знаете, сколько ног у лошади по мнению ChatGPT? Даже ребенок лет пяти способен посчитать точное количество за пару минут. А вот искусственный интеллект допустит грубые ошибки. Он уверенно перечислит: у лошади есть две передних ноги и две задних, две левых и две правых. Получается, что восемь ног. Логика замечательная и вполне соответствует формальному компьютерному мышлению.
Еще труднее становится ИИ, когда тот пытается посчитать количество рыбок в аквариуме. Тут сыпятся почти все модели. Причем совершенно по-разному. Некоторые избегают некоторых ошибок, а других абсолютно ничего не смущает.
Но математика — это еще полбеды. Страшнее всего становится, когда ИИ пытается предоставить факты. Тут до сих пор могут сыпаться даже очень совершенные модели, а вместо фактов пользователи получают невнятную кашицу, в которой не разобраться.
И это совершенно нормально. ИИ может галлюцинировать. К сожалению, полностью решить эту проблему не удается, однако разработчики постоянно совершенствуют алгоритмы. Причем с неимоверной скоростью. Если сегодня спросить у нашего народного голосового ИИ, сколько вторников будет в ноябре, он уже никаких ошибок не допустит, а даст верный ответ (впрочем, его все еще можно сломать несколькими абсурдными вопросами).
Так что не стоит относиться к неудачам и глупым ответам ИИ слишком серьезно. Фактически, искусственный интеллект существует всего несколько лет. Это еще ребенок, который очень быстро учится, но может допускать множество ошибок. И это здорово. Поэтому не стоит списывать ИИ со счетов. Так или иначе, но будущее за ним.