Аналитик Зыков: попытка снять стресс с помощью ИИ может ухудшить ситуацию

Сам по себе сочувственный тон ИИ при обсуждении стресса не гарантирует, что его совет будет уместным, рассказал в беседе с RT главный редактор аналитического издания Runet Владимир Зыков.

«Нейросеть может ответить «понимаю, как вам тяжело», а следом выдать длинный список рекомендаций, даже не уточнив, что произошло. Или не распознать серьёзность ситуации и ограничиться шаблонной отпиской. Человек пришёл за поддержкой, а в ответ получил ощущение, что его не услышали», — поделился он.

Подобные недостатки уже отмечали исследователи, которые проверяли ответы чат-ботов в психологически сложных ситуациях, продолжил эксперт.

«Отдельный риск — поддакивание. Нейросеть может настолько стараться поддержать собеседника, что начнёт соглашаться с его тревожными выводами. Условный пример — начальник не ответил на сообщение, и человек решил, что его собираются увольнять. Если бот примет эту догадку за факт и начнёт рассуждать о признаках скорого увольнения, он может помочь человеку ещё сильнее себя накрутить», — предупредил он.

Причём весь разговор будет идти в заботливом тоне, обратил внимание Зыков.

«Поддержать переживания человека и подтвердить его худшие опасения — разные вещи. Американская психологическая ассоциация отдельно предупреждает о риске, что чат-боты будут усиливать тревожные размышления и закреплять ошибочные убеждения», — отметил он.

Поэтому при сильном потрясении полагаться только на чат рискованно, добавил собеседник.

«Стоит поговорить с человеком, которому доверяешь, а при необходимости — со специалистом. Если после переписки тревога растёт, лучше прервать разговор с ботом и обратиться за поддержкой к людям. Нейросеть может быть дополнительным помощником, но доверять ей роль единственного советчика в таком состоянии не стоит», — подытожил он.

Ранее киберэксперт Игорь Бедеров посоветовал проверять ответы ИИ в диалогах.