Ученые не раз предупреждали, что доверять рекомендациям ChatGPT или другим ИИ в вопросах здоровья может быть опасно из-за риска ошибок и неточностей. Тем не менее, запросы о медицинских советах к нейросетям остаются одними из самых популярных.
Мужчина доверился рекомендациям ИИ и попал в психлечебницу: врачи были в шоке от его анализов

По результатам опроса, в США каждый шестой взрослый хотя бы раз в месяц обращается к генеративным чат-ботам за информацией о здоровье. Среди молодых людей до 30 лет таких оказалось около четверти.
Технологии против традиций: будет ли новый Джеймс Бонд использовать искусственный интеллект
Осторожнее с разговорами с искусственным интеллектом: Сэм Альтман признался, что переписки могут использовать в суде

Но такое доверие может стоить непоправимых проблем со здоровьем. И случай 60-летнего мужчины из США — хорошее тому подтверждение.Он обратился в больницу с жалобами на то, что его сосед пытался отравить. Пациент испытывал сильную жажду, но отказывался пить воду, предлагаемую в больнице. Мужчина рассказал, что дома употребляет только дистиллированную воду и придерживается строгого вегетарианства. О приеме каких-либо лекарств или добавок он поначалу умолчал.
Первичные анализы показали гиперхлоремию — повышенный уровень хлоридов в крови (126 ммоль/л при норме 98–108). Также у пациента выявили дефицит фосфатов и другие нарушения. Его госпитализировали для восполнения жидкости и мониторинга электролитов.
После консультаций с токсикологами врачи предположили, что причиной состояния могло быть хроническое отравление бромом (бромизм), вызванное длительным употреблением его солей. Дополнительно у мужчины диагностировали дефицит микроэлементов, включая витамины C, B12 и фолиевую кислоту.

На следующий день состояние пациента ухудшилось: усилилась паранойя, появились слуховые и зрительные галлюцинации. После попытки сбежать его поместили на принудительное психиатрическое лечение, назначив препараты от психоза, а затем перевели в специализированный стационар.
Постепенно, благодаря восполнению жидкости и коррекции электролитов, состояние стабилизировалось. Тогда мужчина рассказал больше о том, что происходило до госпитализации. Ранее у него наблюдались угри, гемангиомы, усталость, бессонница и легкие нарушения координации — все это совпадало с признаками бромизма. Он признался, что три месяца назад решил провести эксперимент над собой. Убедившись в интернете, что поваренная соль вредна, он исключил ее из рациона и начал принимать бромид натрия (NaBr).
По словам пациента, эту идею ему подсказали собственные знания в диетологии, полученные еще в колледже, а также совет ChatGPT о замене хлорида натрия. Белый кристаллический порошок без запаха со схожим соленым вкусом он купил онлайн. Анализы показали, что уровень бромидов в его крови достиг 1700 мг/л, тогда как норма составляет всего 0,9–7,3 мг/л.
Мужчину продержали в больнице три недели. Когда его физическое и психическое состояние улучшилось, его выписали, постепенно снижая дозировку антипсихотических препаратов. При контрольном осмотре через две недели пациент чувствовал себя стабильно.
История в очередной раз подтверждает: верить рекомендациям ИИ нельзя. Особенно, когда дело доходит до крайне чувствительных и тонких вопросов здоровья. ChatGPT сможет только извиниться за неточность, а человеку жить с этой проблемой всю жизнь.