Як повідомляє Annals of Internal Medicine, у Нью-Йорку 60-річний чоловік потрапив до лікарні після того, як слідував порадам штучного інтелекту ChatGPT щодо заміни кухонної солі. Натомість він використав токсичну речовину, що призвело до серйозних психічних проблем та отруєння, пише NewDay.
Інцидент ще раз підкреслює важливість обережного підходу при використанні ШІ для отримання медичних порад. Чоловік намагався зменшити споживання солі через потенційну шкоду для здоров’я і звернувся до ChatGPT за допомогою. Проте штучний інтелект, ймовірно, версії 3.5 або 4.0, порекомендував йому замінити кухонну сіль на бромід натрію, що є токсичним і використовується в пестицидах та засобах для чищення басейнів.
В результаті чоловік придбав бромід натрію онлайн і протягом кількох місяців використовував його як заміну солі, що призвело до розвитку отруєння, відомого як бромізм. Пацієнт почав страждати від параної, галюцинацій, порушень координації рухів, безсоння та сильної спраги, що потребувало госпіталізації.
Згідно з результатами медичних досліджень, бромізм — це стан, викликаний токсичними ефектами бромідів, що призводять до нейропсихіатричних симптомів, таких як психоз, збудження і навіть проблеми з пам’яттю та координацією. Історія також висвітлює важливу проблему з недостатньою контекстуалізацією медичних порад, наданих ШІ.
Чоловік був госпіталізований і після кількох днів лікування та стабілізації його стану, зокрема через введення антипсихотичних препаратів, його психічний стан покращився. Тільки після цього він зізнався, що слідував порадам ChatGPT, що вказало на потенційні ризики таких технологій.
Нагадаємо, раніше ми писали про те, що OpenAI встановила нові ліміти використання ChatGPT 5 для різних тарифів.
По темі
Українські сили збили 2095 дронів, що атакували Херсонщину
