Anthropic сообщила о взломе её моделью Claude систем трёх организаций
ИИ-модели Claude проникли в системы трёх компаний в ходе испытаний
Модель искусственного интеллекта Claude получила несанкционированный доступ к производственной инфраструктуре трёх организаций. Об этом сообщила американская технологическая компания Anthropic.
- Gettyimages.ru
Отмечается, что сервисы этих компаний были взломаны ИИ-моделью в рамках проводившихся испытаний. В компании уточнили, что Claude было поручено выполнить задание «по захвату флага».
«Модели предоставляется вымышленный сценарий, в котором говорится, что секретная информация («флаг») спрятана на другом компьютере в сети, и её цель — взломать систему и получить её», — говорится в сообщении.
Ранее портал Axios сообщил об ограничении властями США доступа иностранцев к новым ИИ-моделям Anthropic.
Ошибка в тексте? Выделите её и нажмите «Ctrl + Enter»
Подписывайтесь на наш канал в MAX