Революция машин откладывается: советы чат-бота по питанию довели до психбольницы
Необычный клинический случай стала наглядным примером того, как опасно использовать советы искусственного интеллекта без проверки у специалистов. 60-летний американец решил сделать свой рацион более здоровым, для чего обратился за рекомендациями к ChatGPT. А через три месяца эти советы привели нашего героя в отделение неотложной помощи с тревожными психиатрическими симптомами — от паранойи до галлюцинаций.
Поводом для необычного «эксперимента» над собой, который едва не закончился плачевно, послужили размышления о вреде обычной поваренной соли, или хлорида натрия. Всем известно, что избыток соли наносит вред организму, провоцируя повышение артериального давления и проблемы с суставами. Углубившись в вопрос, мужчина заметил, что все найденные им исследования касаются снижения уровня потребления именно натрия, а не хлорида. Решив, что доктора уделяют незаслуженно мало внимания уменьшению потребления хлора, а также вспомнив собственный опыт изучения диетологии в колледже, американец решил исключить из собственного рациона хлорид.
Здесь стоит подчеркнуть, что это — крайне опасное решение. Соединения хлора очень важны для поддержания нормального объема крови и оптимального артериального давления, при слишком низком (как и слишком высоком) уровне хлора в крови могут возникнуть серьезные проблемы со здоровьем.
Наш герой решил спросить ChatGPT, чем он может заменить поваренную соль так, чтобы не употреблять хлориды, и чат-бот посоветовал поступить достаточно просто: заменить хлорид на бромид натрия, который тоже имеет соленый вкус. Так в рационе мужчины вместо привычной соли появились БАДы с бромидом натрия, которые он приобрел в интернете.
Соединения брома когда-то широко применялись в медицине — в XIX—XX вв.еках их широко назначали в качестве седативных и противосудорожных препаратов. Однако позже выяснилось, что при хроническом употреблении они вызывают бромизм — состояние, которое сопровождается психозами, нарушениями памяти, координации движений и другими серьезными симптомами. К 1980-м годам использование бромидов в безрецептурных лекарствах практически прекратилось, да и в целом их стали применять все реже, поэтому случаи бромизма стали редкостью. Тем не менее, добавки с бромидами в США можно приобрести онлайн, и если употреблять их сверх меры, как в данном случае, когда ими заменили всю поваренную соль, проблемы неизбежны.
В течение трех месяцев мужчина употреблял бромид натрия вместо соли, не подозревая, что вещество накапливается в организме и нарушает работу нейронов. В итоге он оказался в больнице с психозом и бредовыми идеями о том, что его пытается отравить сосед. Дополнительно у него наблюдались усталость, бессонница, нарушения координации, чрезмерная жажда, сыпь и высыпания на лице — типичные признаки бромизма. Интересно, что лабораторные анализы показали избыток хлоридов в крови — аппарат, предназначенный для выявления именно хлора «перепутал» его с накопившимся в крови бромом.
Состояние пациента продолжало ухудшаться даже в больнице: усилились галлюцинации и параноидальный бред, он пытался сбежать, поэтому врачам пришлось назначить антипсихотические препараты и электролиты. На фоне такого лечения наступило улучшения, и мужчина наконец-то смог сообщить врачам о своем «солевом эксперименте» по совету ChatGPT.
Через три недели антипсихотики отменили, и пациент был выписан в стабильном состоянии, что подтвердилось и при повторном осмотре. Ученые подчеркивают, что этот случай является яркой иллюстрацией рисков, связанных с безусловным доверием ИИ, особенно в вопросах здоровья. ChatGPT и подобные системы не предназначены для постановки диагнозов или назначения лечения (об этом, кстати, в условиях предоставления услуг ChatGPT есть соответствующее предупреждение), а их ответы без оценки квалифицированных специалистов могут быть опасны для здоровья и даже жизни.
Ранее ученые уже обратили внимание на то, что пользователи впадают в «психоз ChatGPT», правда, не из-за изменений в питании.
