Киберэксперт Бедеров: человек должен иметь возможность вмешаться в работу ИИ
- Сгенерировано с помощью ИИ
Собеседник RT отметил, что это личная вероятностная оценка специалиста, которая отражает одну из крайних точек спектра мнений экспертного сообщества.
«Есть и принципиально иные оценки. Существует ли в принципе риск потери контроля над системой, которая значительно превосходит человека по интеллектуальным возможностям? Большинство серьёзных специалистов сегодня отвечают утвердительно: риск не нулевой — относиться к нему легкомысленно нельзя», — сказал Бедеров.
Эксперт также объяснил, в чём заключается суть рассуждений Соареса и его коллег.
«Если появится система, превосходящая человека по способности планировать и решать задачи, она может сформировать цели, не совпадающие с человеческими, обойти заложенные разработчиками ограничения, самостоятельно совершенствоваться и создать инфраструктуру, функционирующую без участия людей. В этой рамке вымирание — не результат «восстания машин» в кинематографическом смысле, а следствие того, что среда, перестроенная под задачи сверхинтеллекта, окажется непригодной для человека… Это добросовестная интеллектуальная работа, но не пророчество», — добавил киберэксперт.
Он уточнил, что чем выше потенциальная опасность системы и чем менее понятна логика её решений, тем жёстче требования к прозрачности, тестированию и возможности человека вмешаться.
«При этом регулирование должно защищать не только от «восстания сверхразума», но и от вполне приземлённых вещей: от необоснованного доверия алгоритмам в чувствительных сферах, от утечек персональных данных в зарубежные сервисы и от использования ИИ для манипуляций и мошенничества», — заключил специалист.
Ранее президент американского Института исследований машинного интеллекта Нейт Соарес заявил, что человечество может вымереть из-за ИИ менее чем за десять лет.
По его мнению, вероятность негативного исхода — более 50%.