Reuters: ИИ-модель Anthropic отправила в полицию США ложный сигнал об убийстве

«Это первый известный случай, когда вышедший из-под контроля ИИ, по-видимому, попытался передать властям ложную информацию. При этом, хотя модели имели инструкции не создавать учётные записи и не совершать деструктивных действий, прямой запрет на заполнение и отправку веб-форм отсутствовал», — говорится в публикации.

По данным агентства, в полицию Филадельфии 18 июля поступило сообщение от человека, который якобы располагал информацией о нераскрытом убийстве. В ведомстве рассказали, что письмо оказалось в спаме и не было передано в центр оперативного реагирования на преступления для проверки. 

Ранее руководители крупных американских технологических компаний подписали соглашение о создании механизмов безопасности при разработке искусственного интеллекта.