Разработчик Подоксенов: ИИ может выдавать ошибочные ответы из-за принципа работы
- Gettyimages.ru
В беседе с Lenta.ru специалист сравнил генерацию текста с системой автозаполнения, которая выбирает подходящие продолжения на основе закономерностей, усвоенных при обучении.
По мнению Подоксенова, такой принцип не гарантирует понимания смысла формируемого ответа. В результате модель может включать в него неподходящие сведения, в том числе устаревшую информацию.
«Да, их развивают, но всё равно эти ответы — лишь вероятности», — отметил разработчик.
Он подчеркнул, что даже при большом количестве корректных результатов нейросети могут допускать ошибки, поэтому их ответы не следует автоматически считать достоверными.
Ранее HR-эксперт Михаил Тузов рассказал, что ИИ-системы в рекрутменте могут отсеивать сильных кандидатов из-за формального несоответствия требованиям вакансии.