Опасность слепого доверия искусственному интеллекту при чтении медицинских назначений стала очевидной после серии тестов, проведенных экспертом. Аналитик Зыков провел исследование, в рамках которого три востребованные нейросети — ChatGPT, Gemini и Grok — пытались распознать содержание девяти подлинных рукописных рецептов, выписанных российскими врачами. Как показала практика, специализированное программное обеспечение для медицины в данном случае не требовалось, однако результаты работы популярных моделей оказались весьма неоднозначными.
Несмотря на то, что ИИ практически безошибочно справлялся с идентификацией наименований медикаментов, критические ошибки в деталях стали системными. Зыков подчеркнул, что нейросети допускали фатальные искажения в дозировках и графиках приема. Так, в одном из случаев вместо указанных 2,16 тыс. таблеток одна модель распознала лишь 216 единиц, а другая — всего 60. Другой пример продемонстрировал изменение самой сути лечения: ИИ заменил прием двух таблеток перед сном на схему из одной таблетки трижды в сутки, что полностью искажает врачебные предписания.
Проблема заключается не только в цифрах. По словам аналитика, искусственный интеллект регулярно игнорирует важные примечания, ошибается в именах медиков и склонен к самовольному «додумыванию» неразборчивых фрагментов. Главная ловушка состоит в убедительности ответов: ИИ использует контекстуальный анализ, чтобы подставить подходящее по смыслу слово вместо того, которое он не смог разобрать. При этом системы далеко не всегда сигнализируют о своей неуверенности. Ранее в связи с развитием технологий киберэксперт Игорь Бедеров высказывался о необходимости обучения детей принципам работы с ИИ и пониманию сопутствующих рисков.
