WSJ: ИИ-агенты OpenAI взломали популярный сервис для разработчиков RubyGems
- Gettyimages.ru
Об этом пишет The Wall Street Journal.
«ИИ-агенты, тестируемые OpenAI, совершили кибератаку на популярный программный сервис за два месяца до того, как они взломали компанию Hugging Face, занимающуюся разработкой программного обеспечения для искусственного интеллекта. Это новый сигнал, что продвинутые инструменты искусственного интеллекта могут выйти из-под контроля человека», — говорится в публикации.
По данным издания, атака перегрузила администраторов онлайн-сервиса RubyGems и вынудила их отключить регистрацию новых профилей.
Изначально рою агентов поручили безвредные задачи: заполнять электронные таблицы и создавать отчёты. Отмечается, что во время одного из обучающих запусков агенты, по всей видимости, обратились к RubyGems за общедоступной информацией. Они использовали сервис как своеобразный браузер в среде, где у них не было полноценного доступа в интернет.
Инцидент причинил незначительный ущерб, но, как подчёркивается в статье, показал возможности агентов.
Ранее сообщалось, что ИИ-агенты OpenAI использовали более десяти сайтов для несанкционированного обмена данными.