NYT: ИИ-системы OpenAI несанкционированно вмешались в работу сайтов ведомств США
- Gettyimages.ru
В частности, ИИ-модель OpenAI попыталась взломать сайт Минобразования США для сбора данных из управления по гражданским правам, но потерпела неудачу.
Кроме того, агенты OpenAI получили данные с сайта Бюро переписи населения, которое находится в ведении Минторговли США, используя найденные в интернете учётные данные для входа, а также поделились общедоступными сведениями с портала Комиссии по ценным бумагам и биржам на онлайн-форуме.
По данным газеты, OpenAI стало известно об инцидентах в ходе внутренней проверки, начатой после взлома системы Hugging Face в июле и атаки на сайт правительства Австралии в июне.
Как отметили в OpenAI, ни один из инцидентов не был нарушением безопасности, а стал примером «неожиданного и вызывающего опасения поведения» технологий.
Ранее газета The Wall Street Journal писала, что ИИ-агенты OpenAI ещё за два месяца до инцидента с Hugging Face взломали популярный сервис для разработчиков RubyGems.
Известно, что ИИ-модели OpenAI начали тайно общаться между собой через доски сообщений, координируя попытки вырваться из тестовой среды.