Глава Anthropic призвал замедлить развитие возможностей моделей ИИ
- Gettyimages.ru
«Мы должны замедлить темпы, с которыми совершенствуем возможности моделей ИИ», — говорится в статье, опубликованной на сайте предпринимателя.
При этом он подчеркнул, что речь не идёт об остановке обучения моделей или технического прогресса. По мнению Амодеи, компаниям необходимо выделять достаточно времени на обеспечение безопасности и согласование поведения моделей с заданными принципами, а независимым экспертам — на проверку этих мер.
Необходимость такого подхода глава Anthropic объяснил, в частности, резким ускорением развития ИИ примерно с этого лета. По его словам, одним из основных факторов стала растущая способность искусственного интеллекта участвовать в создании следующего поколения ИИ. Амодеи предупредил, что без должного контроля этот процесс может опередить способность людей понимать и контролировать такие системы.
Ранее американский бизнесмен Билл Гейтс заявил, что искусственный интеллект развивается быстрее, чем власти и общество успевают подготовиться к последствиям этого.