Житель китайской провинции Чжэцзян подал в суд на компанию, управляющую популярным чат-ботом Doubao от ByteDance. Мужчина утверждает, что ИИ дал ему противоречивые советы при выборе даты похорон матери, после чего в семье начались конфликты. Дело уже рассмотрел суд уезда Цзяшань, решение пока не опубликовано.
Житель Китая подал в суд на разработчиков ИИ: он обвинил их в семейных несчастьях
Советы ИИ привели к путанице и проблемам.
Unsplash
Мать мужчины по фамилии Ши умерла 17 апреля. Семья первоначально собиралась провести похороны 20-го числа, но Ши решил дополнительно спросить совета у Doubao. Чат-бот назвал 19 апреля наиболее подходящей датой с точки зрения местных обычаев и традиционного календаря. Родственников предупредили, подготовка началась.
«Мы утратим над ним контроль»: почему создатели искусственного интеллекта требуют замедлить его развитие
Бизнес просит у государства миллиарды рублей: они пойдут на закупку оборудования для искусственного интеллекта
Искусственный интеллект отправят в космос: Илон Маск начнет запускать суперкомпьютеры Nvidia уже в 2027 году
Бизнес просит у государства миллиарды рублей: они пойдут на закупку оборудования для искусственного интеллекта
Искусственный интеллект отправят в космос: Илон Маск начнет запускать суперкомпьютеры Nvidia уже в 2027 году
Продолжение ниже
Видео
Продолжение
Когда мужчина позже уточнил у ИИ подходящее время для церемонии, Doubao внезапно сообщил, что 19 апреля, наоборот, не считается благоприятным днем. Ши несколько раз переспросил чат-бота и получил тот же ответ, однако менять уже согласованную дату семья не стала.
Через некоторое время после похорон один из родственников серьезно пострадал в ДТП. Часть семьи связала происшествие с неправильно выбранной датой и стала винить Ши. Сам мужчина утверждает, что противоречивые ответы ИИ ухудшили отношения между родственниками, после чего потребовал от оператора Doubao извинений и компенсации. Размер выплаты он не раскрывает. Никаких оснований связывать аварию с датой похорон, разумеется, нет — это убеждение членов семьи, а не установленная причинно-следственная связь.
Оператор Doubao — Beijing Chuntian Zhiyun Technology — в суде отверг претензии. Компания ссылается на пользовательское соглашение, где прямо указано, что ответы ИИ носят справочный характер и не должны использоваться как профессиональные рекомендации при принятии важных решений. Ши, в свою очередь, считает такие условия слишком общими и перекладывающими всю ответственность на пользователя.
У истории есть и ироничное продолжение: составить иск против разработчиков мужчине помог тот же Doubao. По словам Ши, чат-бот объяснил ему, кого нужно указывать ответчиком, как оформить документы и в каком порядке обращаться в суд.
Это уже не первый подобный спор вокруг Doubao. В мае другой пользователь подал в суд на оператора сервиса после того, как чат-бот неверно объяснил правила возврата авиабилета. ИИ обещал комиссию в 5%, тогда как фактически при возврате мужчина потерял около 40% стоимости билета.
И даже в этом случае требовать денег у разработчиков — абсурд. Они не способны в полной мере контролировать ответы искусственного интеллекта. И прямо проговаривают, что к результатам выдачи нужно относиться осторожнее. Проблема людей, что они игнорируют это правило.
Загружаем