Киберэксперт Бедеров: ИИ может ошибаться и выдумывать факты
- Сгенерировано с помощью ИИ
«Чем яснее вы опишете задачу, тем точнее будет результат. При этом важно понимать: ИИ не обладает сознанием и не несёт ответственности. Это вероятностная модель, которая может ошибаться, а иногда и откровенно выдумывать факты. Он как стажёр, который прочитал много книг, но не всегда понимает контекст. Поэтому любой ответ, особенно в юридической, медицинской, технической или финансовой сфере, требует проверки. Как минимум, я порекомендовал бы заставлять ИИ следующим запросом проверять свой ответ, а также выводить список источников, на которые модель ссылалась при его формировании», — объяснил специалист.
Киберэксперт уточнил: всё, что пользователь не хотел бы увидеть в открытом доступе, ИИ лучше не сообщать.
«К таким данным относятся: фамилия, имя, отчество, адрес проживания, номер телефона, паспортные данные, СНИЛС, ИНН, номера банковских карт и счетов. Не стоит загружать фотографии документов, биометрию, а также сведения о третьих лицах без их согласия. Коммерческая тайна, служебная информация, пароли и ключи доступа — категорически не для ИИ. Даже если сервис обещает конфиденциальность, технически данные могут сохраняться, использоваться для обучения или оказаться в утечке», — добавил Бедеров.
Собеседник RT напомнил, что в России действует 152-ФЗ о персональных данных, который требует особого режима обработки.
«Зарубежные сервисы часто обрабатывают информацию за пределами нашей юрисдикции, что создаёт дополнительные риски. Поэтому для чувствительных задач лучше выбирать отечественные решения, работающие в правовом поле России», — заключил Бедеров.
Ранее главный редактор аналитического издания Runet Владимир Зыков напомнил, что при походе в лес не стоит доверять искусственному интеллекту вопрос распознания грибов по фото.
Подробнее — в материале RT.