Современные системы искусственного интеллекта могут помочь с выбором ресторана или составлением электронного письма, но как источник медицинских рекомендаций они пока далеки от совершенства. Наглядный пример — случай мужчины, который оказался в больнице с редкой формой токсического отравления, следуя совету чат-бота.
Пациент решил улучшить своё здоровье, сократив потребление поваренной соли (хлорида натрия). В поисках альтернативы он, как и многие сегодня, обратился к ChatGPT. Искусственный интеллект предложил ему использовать бромид натрия, который мужчина заказал в интернете и начал добавлять в пищу.
Хотя технически бромид натрия действительно может заменять хлорид натрия, обычно это применяется в промышленных целях, например для очистки воды в джакузи, а не в кулинарии. Однако ИИ упустил этот важный нюанс.
Спустя три месяца мужчина попал в отделение неотложной помощи с параноидальным бредом, убеждённый, что сосед пытается его отравить.
Обратите внимание: MIT и IBM хотят изменить наш мир с помощью искусственного интеллекта.
В первые сутки госпитализации его состояние ухудшилось: появились слуховые и зрительные галлюцинации, а попытка сбежать из больницы привела к принудительной психиатрической госпитализации.После курса антипсихотических препаратов пациент смог объяснить врачам, что следовал диете, рекомендованной ИИ. Анализы подтвердили диагноз — бромизм, редкое отравление, вызванное накоплением бромида в организме. Уровень бромида в его крови составил 1700 мг/л при норме менее 10 мг/л.
Бромизм был относительно распространён в начале XX века и, по оценкам, являлся причиной до 8% психиатрических госпитализаций. Однако после 1970-х годов случаи заболевания резко сократились, поскольку препараты с бромидом были выведены из оборота.
После трёх недель лечения мужчина был выписан без серьёзных последствий для здоровья. Этот случай поднимает важный вопрос: несмотря на прогресс, ИИ пока не способен заменить экспертов в вопросах, требующих глубоких знаний и критического мышления.
«ChatGPT и другие ИИ-системы могут допускать научные неточности, не способны анализировать данные критически и в итоге способствуют распространению дезинформации», — отмечают авторы исследования.
Медицинский эксперт вряд ли предложил бы бромид натрия в качестве замены поваренной соли. Этот случай ещё раз подчёркивает, что доверять ИИ в вопросах здоровья опасно.
Исследование опубликовано в журнале .
12.08.2025 18 FacebookXVKontakteOdnoklassnikiTelegram Подпишитесь на нас:Вконтакте / Telegram / Дзен НовостиБольше интересных статей здесь: Новости науки и техники.
- Исследователи из Йокогамского национального университета создали новую технологию, позволяющую достичь сверхбыстрой левитации объектов без трения
- Зонд Hope, входящий в состав миссии Emirates Mars Mission Космического агентства ОАЭ и находящийся на орбите Марса с 2021 года, впервые предоставил полную картину ночных облаков на Красной планете