N-TV Оригинал

N-TV: продвинутый искусственный интеллект может поставить под угрозу существование всего человечества

Активное развитие искусственного интеллекта несёт в себя ряд рисков, считает профессор Оксфордского университета Ник Бостром. В своём интервью для N-TV Бостром отметил, что если ИИ превзойдёт по своим способностям человеческий разум, то это поставит под угрозу существование всего человечества. Кроме того, продвинутый ИИ можно использовать в крайне разрушительных целях, таких как ведение войны и угнетение людей.
N-TV: продвинутый искусственный интеллект может поставить под угрозу существование всего человечества
AP

Те системы искусственного интеллекта, которыми сейчас располагает человечество, являются лишь слабыми предвестниками технологий будущего, заявил профессор философии Оксфордского университета Ник Бостром в своём интервью для N-TV. По мнению Бострома, в скором будущем ИИ будет настолько развит, что превратится в тему геополитических дебатов на высшем уровне.

При этом Бостром отметил, что технологии ИИ могут быть очень опасны. Учёный привёл в пример системы, способные разрабатывать новые виды отравляющих газов. По словам Бострома, правильное обучение ИИ по-прежнему остаётся одним из главных вызовов. Бостром также отметил, что опасность могут представлять и нейросети вроде ChatGPT, поскольку пользователи могут задавать им опасные вопросы (к примеру, «как изготовить бомбу»).
 
Как отмечает Бостром, в будущем существует перспектива создания ИИ, мыслительные способности которого будут соответствовать и даже превышать человеческие. В этой связи учёный подчёркивает важность привития ИИ базовых человеческих ценностей, чтобы ИИ помогал человеку, а не превратился в угрозу для него.
 
По мнению Бострома, если продвинутый ИИ будущего выйдет из-под контроля, существование человечества будет поставлено под угрозу. При этом опасности существуют даже в условиях сохранения полного контроля, поскольку столь продвинутые ИИ можно использовать в крайне разрушительных целях — ведения войны, угнетения других людей. Бостром отмечает, что помимо технических проблем в вопросе ИИ есть и политическая проблема: как гарантировать, что все будут использовать ИИ исключительно в положительных, мирных целях?
 
Материалы ИноТВ содержат оценки исключительно зарубежных СМИ и не отражают позицию RT
Публикуем в Twitter актуальные зарубежные статьи, выбранные редакцией ИноТВ
источник
N-TV Германия Европа
теги
Германия искусственный интеллект технологии
Сегодня в СМИ

INFOX.SG

Лента новостей RT

Новости партнёров