Власти Индонезии объявили о временной блокировке доступа к чат-боту Grok, разработанному компанией Илона Маска xAI.
Индонезия заблокировала нейросеть Grok: ИИ от Илона Маска использовали для создания порно
То, чего опасались многие, случилось довольно быстро: искусственный интеллект начали активно использовать для создания дипфейков.
Freepik
Как сообщает The Guardian, решение, принятое 11 января, стало прецедентом: Индонезия стала первой страной в мире, официально ограничившей доступ к нейросети из-за опасений, связанных с генерацией порнографического и иного недопустимого контента.
Маск представил умнейшую нейросеть в мире: Grok 4 умеет может заменить ученых и самостоятельно ведет бизнес
Илон Маск выпустит свой аналог «Википедии» уже через 2 недели. Что нового предложит «Грокипедия» пользователям?
«Обдолбанный Носферату»: Белый дом выступил с шокирующими обвинениями в адрес Илона Маска
Илон Маск выпустит свой аналог «Википедии» уже через 2 недели. Что нового предложит «Грокипедия» пользователям?
«Обдолбанный Носферату»: Белый дом выступил с шокирующими обвинениями в адрес Илона Маска
Основным поводом для блокировки стало активное использование функции генерации изображений в Grok, который интегрирован в социальную медиа-платформу X (ранее Twitter).
Пользователи применяли инструмент для создания фейкового контента сексуального характера, включая так называемые дипфейки, где изображения реальных людей без их согласия помещались в откровенные или компрометирующие ситуации. Кроме того, были зафиксированы случаи создания изображений детей в неподобающей одежде.
«Правительство рассматривает практику несогласованных сексуальных дипфейков как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — заявила министр коммуникаций и цифровых технологий Индонезии Меутья Хафид.
В рамках расследования министерство также вызвало представителей социальной сети X для обсуждения сложившейся ситуации и выработки дальнейших шагов. Стоит отметить, что Индонезия, страна с крупнейшим мусульманским населением в мире, имеет строгие законы, запрещающие создание и распространение контента, который считается непристойным.
Ранее правительства других стран, а также исследователи и регуляторы от Европы до Азии выразили обеспокоенность и в некоторых случаях даже начали официальные расследования в отношении Grok.
Так, например, премьер-министр Австралии Энтони Альбанезе раскритиковал платформу, назвав использование генеративного ИИ для сексуализации людей без их согласия «просто отвратительным». Он также добавил, что этот случай является еще одним примером того, как социальные медиа не демонстрируют должной социальной ответственности.
Австралийский надзорный орган eSafety Office подтвердил, что, хотя общее количество жалоб остается небольшим, в последнее время наблюдается рост обращений, связанных именно с использованием Grok для создания эксплуатационного и сексуализированного контента.
Ведомство предупредило, что будет использовать все свои полномочия, включая выдачу предписаний об удалении материалов, если они будут соответствовать критериям, определенным в Законе о безопасности в интернете.
В Великобритании Маску также угрожали штрафами, регуляторными мерами и даже возможной блокировкой платформы X на территории страны.
В ответ на нарастающий общественный резонанс и давление со стороны регуляторов, компания xAI предприняла ответные шаги. Незадолго до блокировки в Индонезии стартап объявил об ограничении функций генерации и редактирования изображений. Теперь эти возможности доступны только для платных подписчиков платформы.
В компании заявили, что таким образом пытаются устранить уязвимости в защитных механизмах, которые и позволили создавать нежелательный контент.
Сам Илон Маск на своей странице в X отметил, что любой пользователь, использующий Grok для создания незаконного контента, будет нести такую же юридическую ответственность, как если бы он загрузил эти материалы напрямую, без помощи ИИ.