В США ищут способ остановки вышедшего из-под контроля ИИ

Об этом сообщает портал Axios.

По данным журналистов, компании могут отключать отдельные серверы, но мощные системы работают на множестве компьютеров и платформ.

«Единого универсального решения нет», — говорится в публикации.

Именно поэтому компании экспериментируют с многоуровневой защитой. Она должна выявлять подозрительное поведение, останавливать агентов и отрезать их от ресурсов.

Представители OpenAI сообщили, что их цель — создание полностью автономных процедур отключения при серьёзных проблемах. Наблюдатель на базе ИИ предупредит сотрудников, если поведение агентов покажется опасным, и отключит систему в течение 30 минут, если угроза подтвердится.

Ранее председатель общественной организации по защите прав потребителей «Общественная потребительская инициатива» Олег Павлов заявил, что ИИ-контент нельзя выдавать за созданный человеком.