Аналитик Зыков: ИИ не стоит всецело доверять расшифровку рецептов от врача
- Сгенерировано с помощью ИИ
«Причём для этого не нужны какие-то специальные медицинские программы. Мы провели эксперимент: взяли девять настоящих российских рукописных рецептов и предложили трём популярным нейросетям — ChatGPT, Gemini и Grok — их расшифровать. Результаты оказались довольно интересными», — поделился он.
По его словам, названия лекарств нейросети определяли практически безошибочно, но дальше начались проблемы.
«Например, в одном рецепте было указано 2,16 тыс. таблеток, но одна нейросеть прочитала 216, а другая вообще 60. В другом случае вместо двух таблеток на ночь ИИ предложил принимать одну таблетку три раза в день. То есть фактически изменил назначенную врачом схему лечения», — отметил он.
Также нейросети регулярно пропускали дополнительные указания, путали фамилии врачей, иногда уверенно дополняли неразборчивый текст собственными предположениями, добавил эксперт.
«Причём внешне ответы выглядели убедительно, и здесь главный подвох. Нейросеть не просто распознаёт буквы, она пытается понять написанное по контексту. Если какой-то фрагмент разобрать не получается, ИИ может предположить, какое слово или название лекарства там должно быть, и подставить его вместо настоящего», — предупредил он.
При этом ИИ далеко не всегда предупреждает, что не уверен в ответе, подытожил Зыков.
Ранее киберэксперт Игорь Бедеров заявил, что школа должна объяснять детям принцип и риски работы с ИИ.