Киберэксперт Бедеров: нужно проверять ответы ИИ в диалогах
- Сгенерировано с помощью ИИ
«Если речь о бытовом вопросе, достаточно здравого смысла. Если ответ влияет на деньги, здоровье, право, безопасность, репутацию, публикацию или государственное решение — проверка обязательна. Генеративная модель лишь предсказывает правдоподобный текст и может уверенно ошибаться», — объяснил специалист.
Самопроверка ИИ, по его словам, полезна как дополнительный фильтр, но не как единственный способ.
«Если попросить модель проверить собственный ответ, она найдёт часть ошибок, противоречий и неудачных формулировок, но может и защитить свою же галлюцинацию, повторить ложный источник или просто переупаковать неверный вывод в более уверенный тон. Поэтому правильная схема предполагает, что сначала мы классифицируем риск, затем требуем от ИИ источники, даты, цитаты и границы применимости, после чего ключевые факты сверяем по первичным источникам — официальным реестрам, нормативным документам, судебным актам, техническим логам, метаданным, публикациям», — заключил Бедеров.
Ранее главный редактор аналитического издания Runet Владимир Зыков напомнил, что не стоит всецело доверять ИИ расшифровку рецептов от врача.
Подробнее — в материале RT.