Чоловік потрапив у лікарню з психозом через поради ChatGPT

На щастя, хворому допомогли професіонали в лікарні

Лікарі з Вашингтонського університету задокументували випадок отруєння, що стався через рекомендації штучного інтелекту. Чоловік, який приймав бромід за порадою ChatGPT, потрапив до лікарні з важким психозом.

Інцидент, описаний у виданні “Аннали внутрішньої медицини: клінічні випадки”, є першим в історії задокументованим отруєнням бромідом, спричиненим штучним інтелектом.

Поради ChatGPT

Бромідні сполуки, які колись використовувалися для лікування різних проблем зі здоров’ям, були вилучені з більшості ліків до 1980-х років через їхню токсичність та здатність викликати нейропсихіатричні проблеми.

Також читайте: Павичі здивували науковців: у них знайшли приховані лазери

Чоловік звернувся до відділення невідкладної допомоги, стверджуючи, що його отруїв сусід. У нього розвинувся психотичний епізод зі збудженням, параноєю, зоровими та слуховими галюцинаціями. Після спроби втечі з лікарні, його помістили до примусової психіатричної лікарні. Лікарі, підозрюючи бромізм, почали лікування. Коли пацієнт одужав настільки, щоб зв’язно говорити, вони з’ясували, що він самостійно приймав бромід натрію протягом трьох місяців, замінюючи ним хлорид у своєму раціоні.

Пацієнт розповів, що, натхненний своїми знаннями з коледжу, він вирішив виключити хлорид зі свого раціону. За допомогою ChatGPT він, очевидно, отримав пораду, що хлорид можна безпечно замінити бромідом.

Лікарі, протестувавши ChatGPT 3.5, переконалися, що ШІ дійсно міг запропонувати бромід як заміну. Хоча штучний інтелект у своїй відповіді зазначив, що контекст має значення, він не попередив про небезпеку вживання броміду і не запитав про мету його використання.

Чоловік повільно оговтався від пережитого. Йому припинили приймання антипсихотичних препаратів, і через три тижні після госпіталізації його виписали. За двотижневий період спостереження його стан залишався стабільним.

Лікарі зауважили, що хоча такі інструменти, як ChatGPT, можуть бути корисними для зв’язку між науковими знаннями та широким загалом, вони також несуть ризик поширення деконтекстуалізованої інформації. Вони підкреслили, що жоден медичний експерт не порекомендував би таку заміну, і наголосили на важливості наявності “живого” друга або консультанта, з яким можна обговорити випадкові ідеї.