Соляный эксперимент почти стоил ему жизни

Искусственная интеллектуальная технология (ИИ) становится частью нашей повседневной жизни, но ее потенциал не только приносит выгоды, но и риски. Недавний случай 60-летнего мужчины, чье здоровье значительно ухудшилось после неверной линии Chatgpt, опять же подчеркивает риски преувеличенной уверенности в этих передовых инструментах. Человек в конечном итоге оказался госпитализированным с психозом и галлюцинациями после того, как начал экспериментировать с заменой кухонной соли на основе рекомендаций искусственного интеллекта.

Чрезмерное использование бромида привело к бромизму

Проблемы начались невинно, когда человек подозревал, что сосед намеренно отравил его. После своего собственного расследования в Интернете он столкнулся с статьями об причине вреда кухонной соли, а затем обратился за советом в CHATGPT. Система рекомендовала использовать бромид натрия в качестве альтернативы хлориду натрия. Хотя ИИ упомянул в своем ответе, что контекст важен, он не предоставил необходимые предупреждения о здоровье. В результате человек начал долго принимать бромид натрия, что приводит к бромизму – болезнь почти неизвестна в современной медицине.

В прошлом бромизм был связан с использованием солей брома в наркотиках. Это состояние может вызвать неврологические проблемы, включая паранойю, галлюцинации, простуды, запятую и другие тяжелые симптомы. После ограничения таких веществ в медицине в 1970 -х годах эти случаи стали чрезвычайно редкими. В этом случае, однако, нестабильное психологическое состояние и отсутствие критических рассуждений, связанных с использованием самодиагностических инструментов, резко усугубили ситуацию.

ИИ как инструмент, а не замена экспертов

Медицинская группа, которая получила пациента, проверила CHATGPT 3.5 отвечает на тот же вопрос, который, вероятно, задал пациент. Результаты показали, что модель действительно предложила использование Bromuro в качестве замены соли в своих возможностях, но не дала четкого предупреждения о возможных рисках для здоровья. По словам экспертов, это ясно показывает ограничения на искусственный интеллект для решения сложных медицинских проблем.

OpenAI, который разработал CHATGPT, отметил, что его модели не предназначены для замены профессиональных медицинских консультаций. Хотя он пытается включить больше контролей и оповещений, всеобъемлющее мнение пациента по -прежнему находится вне возможностей нынешнего ИИ. Вот почему этот случай возвращает необходимость осторожности при использовании этих инструментов.

Границы и ответственность искусственного интеллекта

Работа искусственного интеллекта основана на анализе данных и статистических прогнозах. Хотя это кажется очень сложным инструментом, его неспособность полностью понять вопросы или рассмотреть индивидуальные факторы является самой большой проблемой. ИИ, как это, в случае, часто генерирует ответы на основе вероятности, а не контролируемых фактов. Этот -назван. Феномен «галлюцинаций» может быть смертельным, когда речь заходит о здоровых советах.

Важным аспектом также является отсутствие юридической и этической ответственности искусственного интеллекта. В то время как врач отвечает за рекомендации врача, система ИИ служит только инструментом, который отвечает на входы пользователя без дополнительных долгов. Отсутствие личного контакта или эмпатии – это другие факторы, которые подчеркивают границы ИИ в медицине.

Эксперты призывают ИИ технологии оставаться в медицине только вспомогательные инструменты в руках квалифицированных специалистов. Слебо полагаясь на предложение с помощью генерируемых алгоритмов, может привести к важным осложнениям для здоровья или трагическим последствиям.