Пользователи соцсетей обнаружили серьезный недостаток в работе нейросети AI Overviews от Google Gemini: она выдает выдуманные объяснения для случайных наборов слов, выдавая их за реальные поговорки и фразеологизмы.
ИИ от Google сошел с ума: он придумывает несуществующие поговорки и выражения
Нейросеть начала генерировать объяснения для выдуманных поговорок, превращая абсурд в «народную мудрость».
Unsplash
Как сообщает портал Digital Trends, этот баг, уже названный в интернете «галлюцинациями» ИИ, вызвал новые споры по поводу проблемы достоверности информации, генерируемой нейросетями. Дело в том, что в отличие от некоторых других ИИ, Gemini не признает своего незнания, а вместо этого сочиняет правдоподобные, но полностью вымышленные ответы.
Пользователи соцсетей случайно обнаружили забавную особенность нейросети Google Gemini: она с легкостью сочиняет значения для несуществующих поговорок. Они вводят в поиск любую бессмысленную фразу со словом «значение», и Gemini выдает развернутое и часто весьма абсурдное объяснение, приписывая фразу к ирландскому сленгу, интернет-мемам или даже политическому контексту. Например, такие:
«Как ослиный зонтик» — якобы ирландское выражение, означающее «категорически нет». По версии Gemini, его чаще используют женщины.
«Лягушки вылезли» — по словам ИИ, так говорят, когда тихони неожиданно начинают проявлять активность.
«Не у каждого насекомого есть ипотека» — шутливый способ напомнить, что «не все так сложно».
«Никогда не ешь жука на обочине» — Gemini заявила, что это популярная в соцсетях фраза для критики власти.
«Чувства можно ранить, но рыбы все помнят» — нейросеть «объяснила», что рыбы, оказывается, более обидчивы, чем люди.
Как поясняют техноэксперты, этот феномен связан с особенностями работы генеративных нейросетей. В отличие от некоторых других ИИ, Gemini не признает свое незнание, а пытается найти ответ на любой запрос, даже если он абсурден. Система анализирует статистические связи между словами и генерирует наиболее вероятное, с ее точки зрения, объяснение.
В результате получаются правдоподобные, но полностью вымышленные интерпретации. Тред с примерами таких «поговорок» набрал в одной известной соцсети более 4,4 миллиона просмотров, а некоторые пользователи даже начали использовать их в своей речи. Например, фраза «Две сухие лягушки — это ситуация» теперь описывает неловкое молчание, а «Нет лута без бобра» стала частью игрового сленга.
К сожалению, жители России не могут лично насладиться «творчеством» нейросети, так как AI Overviews недоступна в нашей стране. Однако баг подтвержден и в других версиях Gemini, включая чат-бот и AI Studio.
И если, по мнению экспертов, нейросети, несмотря на прогресс, все еще слабо разбираются в контексте и склонны к таким вот «глюкам», то совсем не исключено, что сами люди скоро начнут использовать в соцсетях такие выражения как «ослиный зонтик» (категорическое «нет» по версии Gemini) в качестве новых мемов.