Использование нейросетей для решения вопросов, касающихся здоровья, несет в себе серьезные угрозы. Как пояснила в беседе с РИА Новости Марина Холод, доцент РЭУ им. Г. В. Плеханова, искусственный интеллект не обладает доступом к медицинской карте пациента и имеет склонность подтверждать любые суждения пользователя, даже если они ошибочны.
Подобные риски подтверждает трагический инцидент в Соединенных Штатах Америки. Согласно сообщениям СМИ, местная жительница скончалась из-за синдрома внезапной смерти при эпилепсии после того, как последовала рекомендациям ChatGPT по планомерному отказу от приема противосудорожных лекарств. В настоящее время родственники погибшей подали судебный иск против компании OpenAI, создавшей данный чат-бот.
