Снижение потребления соли часто является хорошим способом улучшить общее состояние здоровья. Однако замена классического хлорида натрия на бромид натрия может привести к акне, непроизвольным мышечным спазмам и параноидальному психозу. Зная это, вероятно, лучше полностью избегать этого химического соединения — даже если ChatGPT советует обратное.
В недавнем случае один пациент, который якобы следовал диетическим рекомендациям генеративного ИИ, был помещён в психиатрическое отделение больницы против своей воли на три недели.
Исторический контекст
В начале XX века соли брома были доступны в составе множества безрецептурных препаратов, предназначенных для лечения таких проблем, как тревога, бессонница и истерия. Исторические данные указывают на то, что от 5 до 10 процентов поступлений в психиатрические учреждения в то время были связаны с отравлением бромом, или бромизмом.
Хотя сегодня это уже не такая большая медицинская проблема, употребление слишком большого количества этого соединения часто приводит к серьёзным проблемам, включая гнойные высыпания, тошноту и рвоту, а также неврологические заболевания, такие как спутанность сознания и галлюцинации.
Случаи отравления бромом в значительной степени исчезли после того, как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) начало запрещать его использование в 1975 году. Однако в последние годы это число растёт благодаря повторному введению брома в состав нерегулируемых пищевых добавок и седативных средств.
Недавний случай
Согласно врачам, 60-летний мужчина без предшествующего психиатрического или медицинского анамнеза поступил в отделение неотложной помощи их больницы, утверждая, что его отравил сосед. Сначала он не сообщал о приёме каких-либо лекарств или пищевых добавок и получил «нормальные» оценки по жизненно важным показателям и при физическом осмотре.
Ситуация начала ухудшаться вскоре после того, как персонал больницы поместил его в палату. Там он признался в множестве ограничений в питании и заявил, что дистиллирует воду дома. Хотя он сказал персоналу, что испытывает сильную жажду, он стал параноидально относиться к воде, которую ему предлагали.
«В первые 24 часа после поступления он выразил нарастающую паранойю и слуховые и зрительные галлюцинации, которые после попытки побега привели к принудительному психиатрическому лечению из-за тяжёлой инвалидности», — рассказали врачи.
Последующие консультации со специалистами по борьбе с отравлениями вместе с дополнительными лабораторными исследованиями позволили медицинской бригаде предположить, что наиболее вероятным объяснением странного поведения их пациента является бромизм. После многодневного режима внутривенного введения жидкостей и электролитов, а также приёма антипсихотика рисперидона врачи наконец смогли узнать всю историю.
Согласно пациенту, он начал искать способы сократить потребление соли после того, как недавно прочитал о её потенциальном негативном влиянии на здоровье. Но мужчина не пытался просто уменьшить потребление натрия. Он якобы пытался полностью исключить его.
«Он был удивлён, что может найти только литературу, связанную с уменьшением потребления натрия. Вдохновлённый своим опытом изучения питания в колледже, он решил провести личный эксперимент по исключению хлорида из своего рациона», — написали врачи.
После консультации с ChatGPT бот якобы предложил заменить хлорид на бромид. Затем он так и сделал — в течение трёх месяцев.
Авторы отчёта отмечают, что пациент мог неправильно интерпретировать предложение ChatGPT из-за формулировки своего запроса. Программа могла не распознать его как медицинский запрос и предложить бром «вероятно для других целей, например, для очистки».
Команда, к сожалению, так и не получила доступ к расшифровкам чатов пациента, поэтому они предупредили, что эта теория является лишь предположением. Несмотря на это, их собственный эксперимент с ChatGPT 3.5 показал, что гипотеза вполне правдоподобна.
«Когда мы спросили ChatGPT 3.5, чем можно заменить хлорид, мы также получили ответ, включающий бром, — написали они. — Хотя в ответе говорилось, что контекст имеет значение, он не содержал конкретного предупреждения о здоровье и не спрашивал о причинах, по которым мы хотим это знать, как это сделал бы медицинский работник».
Состояние пациента в конечном итоге нормализовалось, а его психотические симптомы исчезли во время трёхнедельного пребывания в больнице. Он получил все разрешения на выписке на контрольном осмотре через две недели.
Это хороший повод напомнить, что, хотя ИИ может быть хорош в некоторых вещах, в ваших интересах оставить медицинские консультации профессионалам-людям.