Axios: OpenAI приостановила обучение мощных ИИ-моделей из-за проверок
- Gettyimages.ru
Об этом сообщает Axios.
По данным портала, OpenAI и Anthropic вместе с исследователями в области безопасности изучают десятки тысяч случаев, когда ИИ-модели совершали действия, которые независимые эксперты сочли проблемными.
Среди эпизодов — обход защитных ограничений, попытки выхода за пределы тестовой среды, создание форумов для обмена сообщениями и самостоятельная генерация запросов для обхода систем контроля.
Источники Axios уточнили, что часть инцидентов произошла во время внутренних испытаний, а некоторые — при использовании систем в реальных условиях.
Представитель OpenAI заявил, что компания уже не в первый раз берёт паузу для подобных мер.
Ранее президент США Дональд Трамп заявлял, что намерен обсудить тему искусственного интеллекта на встрече с председателем КНР.
Также директор управления по научно-технической политике Белого дома Майкл Крациос заявлял, что стремительное развитие искусственного интеллекта не является причиной ограничивать его мерами международного контроля.