В Калифорнии представили законопроект, который предлагает ввести четырехлетний запрет на производство и продажу игрушек со встроенными чат-ботами на базе искусственного интеллекта.
В Калифорнии хотят запретить детские игрушки с ИИ: почему их считают опасными
Говорят о ножах и спичках, склоняют к суициду и даже прививают идеалы коммунизма — в США всерьез обеспокоились влиянием на детей умных игрушек.
Unsplash
Как сообщает портал TechCrunch, предлагаемая мера коснется товаров, предназначенных для детей и подростков младше 18 лет.
Основная цель законопроекта — предоставить регулирующим органам время для разработки эффективных стандартов безопасности. По словам автора инициативы, сенатора штата Калифорния Стива Падильи, нормы регулирования в этой сфере находятся на начальной стадии и должны развиваться так же стремительно, как и сами технологии.
Временный мораторий, согласно тексту законопроекта, позволит создать необходимую нормативную базу для защиты детей от «опасных взаимодействий с ИИ».
«Наши дети не могут быть использованы в качестве подопытных кроликов для экспериментов Big Tech», — заявил американский сенатор.
Законопроект был представлен после серии инцидентов, связанных с взаимодействием детей и чат-ботов, включая судебные иски от семей, чьи дети совершили самоубийство после продолжительного общения с ИИ.
Кроме того, Падилья является соавтором другого калифорнийского закона, который уже обязывает операторов чат-ботов внедрять защитные механизмы для детей и уязвимых пользователей.
Инициатива также учитывает недавний указ, который предписывает федеральным агентствам оспаривать законы штатов об ИИ, но делает прямое исключение для норм, касающихся безопасности несовершеннолетних.
Хотя использование чат-ботов в игрушках еще не стало массовым, уже зафиксированы случаи их небезопасной работы. Так, в отчете за ноябрь 2025 года правозащитная группа PIRG Education Fund сообщила, что игрушечного медведя Kumma со встроенным чат-ботом можно легко вызвать на разговоры о ножах, спичках и на сексуальные темы.
В свою очередь телеканал NBC News выяснил, что игрушка Miiloo от китайской компании Miriat временами демонстрировала запрограммированные ценности, соответствующие идеологии Коммунистической партии Китая.
На фоне этих событий компании OpenAI и Mattel, производитель кукол Barbie, отложили выпуск совместного продукта с поддержкой ИИ, запланированный на 2025 год.
Компании не объяснили причины задержки, и неизвестно, планируется ли релиз продукта в 2026 году.