Аналитик Котилевец: в нейросети нельзя загружать внутреннюю переписку и отчёты
- Сгенерировано с помощью ИИ
Об этом предупредил в беседе с RT Игорь Котилевец, старший преподаватель кафедры КБ-14 «Цифровые технологии обработки данных» Института кибербезопасности и цифровых технологий РТУ МИРЭА.
Говоря о том, какие данные категорически нельзя загружать в публичные нейросети, он упомянул любую информацию, составляющую коммерческую тайну или персональные данные.
«Проблема в том, что данные, которые вы передаёте нейросети, не просто обрабатываются и забываются. Они могут сохраняться на серверах провайдера, использоваться для дообучения модели и даже попадать в ответы другим пользователям. Нейросети не просто хранят то, что вы им сказали, — они связывают разрозненные фрагменты информации из разных источников, создавая неожиданные и порой опасные комбинации», — добавил специалист.
Также, по словам аналитика, нельзя передавать нейросетям исходный код продуктов, внутреннюю переписку, финансовые отчёты, стратегические презентации.
«Даже если вы считаете, что загружаете только «черновик» или «черновую версию», помните, что черновик может содержать те же чувствительные данные, что и финальный документ. Не доверяйте нейросетям анализ логов безопасности, схемы сетей, списки доступа и пароли. Если злоумышленники получат даже фрагменты такой информации, они смогут значительно упростить подготовку атаки на вашу компанию», — предостерёг собеседник RT.
Отдельно он предупредил юристов и финансистов.
«Никогда не используйте публичные нейросети для поиска судебной практики или анализа нормативных документов», — заявил специалист.
Аналитик пояснил, что они уверенно выдают несуществующие решения судов и ссылаются на никогда не существовавшие законы.
«Единственный безопасный способ использовать мощь искусственного интеллекта для работы с конфиденциальными данными — это развернуть собственную модель внутри периметра компании. Такой подход полностью исключает утечку информации наружу и позволяет контролировать, кто и к каким данным имеет доступ. Если же возможности развернуть собственную инфраструктуру нет, то при работе с любыми данными, не являющимися публичными, необходимо их предварительно обезличивать — убирать Ф. И. О., адреса, номера телефонов, ИНН и другие прямые идентификаторы», — объяснил специалист.
При этом он добавил, что даже обезличенные данные в совокупности могут дать злоумышленникам достаточно информации для восстановления полной картины.
«Даже если вы пользуетесь персональным аккаунтом и не связаны с корпоративной тайной, не стоит загружать в нейросети свои личные документы — сканы паспортов, дипломов, свидетельств о браке, выписки по счетам. Вы никогда не знаете, где и как эта информация может всплыть в будущем, особенно если сервис расположен в другой юрисдикции, где законы о защите данных могут радикально отличаться от российских», — заключил Котилевец.
Ранее Лусине Абгарян, операционный директор HR-холдинга Ventra, предупредила в беседе с RT, что хаотичное применение технологий искусственного интеллекта (ИИ) чревато потерей времени, ошибками и утечками данных.