Fable — свежая ИИ-модель от компании Anthropic. Она вышла всего несколько дней назад (хотя шум вокруг нее уже давно), но уже исчезла из свободного доступка. Anthropic заявила, что по требованию властей США модель пришлось отключить.
Самый мощный ИИ в мире запретили через 3 дня после релиза: Anthropic отключили Fable по требованию властей США
США потребовали запретить модель для иностранцев, но отделить одних от других не представляется возможным.
Архивы пресс-службы
«Правительство США, ссылаясь на органы национальной безопасности, издало директиву по экспортному контролю, чтобы приостановить весь доступ к Fable 5 и Mythos 5 для любого иностранного гражданина, будь то внутри или за пределами Соединенных Штатов, включая иностранных сотрудников Anthropic», — сказано в официальном сообщении компании.
Отделить иностранцев от американцев не представляется возможным. Разве что вводить биометрию для всех, что убьет популярность сервиса, а это губительно в свете приближающегося IPO. Поэтому в Anthropic приняли волевое решение — отключить искусственный интеллект для всех.
Представители компании явно недовольны политикой властей США. Они пишут, что создали все необходимые условия, чтобы модель была безопасной для окружающих. Часть пользователей даже сетовала — ограничения слишком серьезны. Подтверждаем: мы протестировали модель — даже в безобидных задачах, если они касаются безопасности, Fable наотрез отказывается отвечать.
«Мы ввели строгие гарантии, которые значительно снижают вероятность того, что Fable будет злоупотребляться для задач, связанных с кибербезопасностью (среди прочего). На самом деле, наши гарантии настолько сильны, что многие пользователи жаловались, что они слишком широкие», — заявили в компании.
Anthropic осталась без своего главного козыря в преддверии IPO. Но учитывая тональность сообщения, да и сам факт запрета, компании не о чем беспокоиться — она станет самым дорогим ИИ-стартапом в мире. Власти США сделали и без того известному и востребованному проекту лучшую рекламу из возможных. И пусть превзойти Илона Маска не удастся (он собрал рекордную сумму на IPO), можно не сомневаться, что инвесторы понесут Anthropic миллиарды.
Что касается Fable — это модель из семейства Mythos. В профессиональном сообществе о моделе заговорили несколько недель назад, как о чрезвычайно опасной. Компания Anthropic даже отказалась выпускать ее в свободный доступ, потому что модель была способна взламывать любые системы и находить баги, о которых никто не подозревал годами. Например, она нашла несколько критических уязвимостей в MacOS — самой защиенной операционной системе из популярных.
Так что модели семейства действительно представляют некоторую угрозу, однако просто запрещать — не выход. Мы уже добрались до точки, когда ИИ становится опасным, поэтому важно искать серьезные решения, которые не останавливают научно-технический прогресс.