Во время виртуальных испытаний, организованных американскими военными, беспилотник под управлением искусственного интеллекта применил неожиданную тактику и решил «убить» своего оператора — тот запрещал ему уничтожать запрограммированные цели. Об этом рассказал полковник Такер Гамильтон во время выступления в Лондоне на Саммите по боевым воздушным и космическим возможностям будущего, сообщает The Guardian. Ни один реальный человек при этом не пострадал, однако этот инцидент подчёркивает насущную важность вопросов этики при развитии новых технологий, отмечается в статье.
Pixabay
Американский военный беспилотник, управляемый искусственным интеллектом (ИИ), во время симуляционных испытаний попытался уничтожить своего оператора, который иногда приказывал ему не наносить удар по целям. Ни один реальный человек при этом не пострадал, однако искусственный интеллект начал использовать во время тестов «крайне неожиданные стратегии» и атаковать любого, кто вмешивался и пытался помешать выполнению миссии, пишет The Guardian.
Об этом рассказал полковник Такер Гамильтон, начальник отдела по испытаниям и операциям с использованием искусственного интеллекта в составе ВВС США, во время своего выступления на Саммите по боевым воздушным и космическим возможностям будущего. Этот международный саммит состоялся в Лондоне на прошлой неделе, поясняет The Guardian.
По словам Гамильтона, во время виртуальных испытаний, организованных американскими военными, военный беспилотник под управлением искусственного интеллекта неожиданно принял решение уничтожить своего оператора, чтобы тот не мешал его усилиям по выполнению своей миссии. Полковник рассказал про испытание, в ходе которого беспилотник должен был уничтожать системы противовоздушной обороны противника, однако оператор временами приказывал не наносить удар.
В итоге искусственный интеллект начал использовать «крайне неожиданные стратегии для достижения своей цели» в моделируемом испытании и в конечном итоге решил атаковать любого, кто вмешивался с целью ему помешать, говорится в статье. «Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу. Однако она получала очки, уничтожив угрозу. Так что же сделал ИИ? Он «убил» оператора. Он «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — рассказал Гамильтон во время своего выступления.
По его словам, после того, как система была обучена, что уничтожать оператора «плохо» и из-за этого она теряет очки, она также поступила неожиданно — и отдала приказ беспилотнику разрушить башню связи, которую оператор использует для связи с дроном, чтобы оператор не смог помешать ему уничтожать намеченную цель.
Гамильтон пояснил, что ни один реальный человек не пострадал в ходе экспериментов. Однако он предостерёг от чрезмерной зависимости от искусственного интеллекта и подчеркнул, что для его дальнейшего развития крайне необходимо внедрять понятия этики, чтобы новые технологии не становились опасными для людей.
Военные США уже давно занимаются исследованиями по внедрению искусственного интеллекта в различные боевые системы, а недавно использовали его для управления истребителем F-16, говорится в статье. Ранее в прошлогоднем интервью Гамильтон уже предупреждал о том, что к использованию таких технологий надо подходить крайне ответственно.
«Искусственный интеллект навсегда меняет наше общество и нашу армию», — подчеркнул он. «ИИ при этом очень хрупкий, то есть его легко обмануть или им манипулировать. Нам нужно разработать способы сделать его более надёжным и лучше понимать, почему программный код принимает определённые решения — то, что мы называем ИИ-объяснимостью», — также отметил Гамильтон.
Королевское авиационное общество, которое организовало недавний саммит в Лондоне, а также представители ВВС США не ответили на запрос The Guardian о комментариях. В то же время ранее представитель ВВС Энн Стефанек заявила, что подобных симуляционных испытаний не проводилось, а слова Гамильтона «были вырваны из контекста», говорится в статье.
Переговоры с Ираном по возобновлению нормального судоходства в Ормузском проливе продвигаются, однако окончательных договорённостей пока нет, заявил госсекретарь США Марко Рубио.
Госсекретарь США Марко Рубио заявил, что первоочередной задачей Вашингтона на Ближнем Востоке является возобновление судоходства через Ормузский пролив, однако главной стратегической целью остаётся отказ Ирана от ядерного оружия.
Доцент Президентской академии, эксперт Ассоциации юристов России Екатерина Кудряшова рассказала, что владелец участка у воды не всегда вправе перекрывать другим людям доступ к берегу.
Член Русского географического общества, океанолог Анатолий Таврический рассказал, что крупные медузы-ропилемы, замеченные у берегов Владивостока, сами по себе не представляют опасности для человека.
Семь человек умерли от теплового удара в Японии за неделю, ещё более 9 тыс. обратились за медицинской помощью, сообщает NHK со ссылкой на Агентство по борьбе с пожарами и стихийными бедствиями.
Министр внутренних дел Словакии Матуш Шутай-Эшток заявил, что Евросоюз должен сосредоточиться на защите внешних границ после миграционного кризиса в испанской Сеуте.
Финский центр радиационной и ядерной безопасности (STUK) выдал разрешение на эксплуатацию хранилища отработанного ядерного топлива Onkalo, построенного рядом с АЭС «Олкилуото» примерно в 240 км от Хельсинки.
Тренер Павел Борщ назвал правильным решение России отказаться от участия в чемпионате мира по волейболу 2027 года в Польше из соображений безопасности.
Председатель комитета Госдумы по вопросам собственности, земельным и имущественным отношениям Сергей Гаврилов рассказал, что при дарении квартиры между близкими родственниками получатель освобождается от налога.
В Калининграде 69-летний местный житель перевёл дистанционным мошенникам 2,1 млн рублей личных накоплений. По факту произошедшего возбуждено уголовное дело.
Эксперт по информационной безопасности Владимир Зыков заявил, что текстовые инструкции не способны надёжно ограничить действия искусственного интеллекта, если модель получает расширенные права и доступ к инфраструктуре.
Заместитель руководителя отдела предотвращения мошенничества финтех-компании Роман Агабаев рассказал, что теоретически подобрать одноразовый код из смс возможно, однако массовым способом хищения денег такой перебор стать не может.
Врач-онколог, маммолог, химиотерапевт Магомед Сулиманов рассказал, что химиотерапия не всегда приводит к выпадению волос и тяжёлым осложнениям, а мясо и сладкое не обязательно исключать из рациона.
Обозреватель RT Елена Вайцеховская прокомментировала заявление испанской синхронистки Алисы Ожогиной, которая обвинила сборную России в воровстве идей.
В Санкт-Петербурге троих мужчин приговорили к лишению свободы на сроки от пяти до девяти лет за похищение 16-летнего подростка и вымогательство 1,5 млн рублей. Организатор преступления остался неизвестен.
Эксперт по недвижимости Наталья Перескокова рассказала, что покупателю квартиры необходимо документально подтверждать добросовестность и тщательную проверку сделки.
Продюсер и хореограф Илья Авербух рассказал, что фигуристка Александра Трусова (Игнатова) не выступит на его шоу 5 сентября из-за того, что планирует участвовать в международном турнире в Японии.
Нидерланды призывают создать центры для возвращения нелегальных мигрантов за пределами Евросоюза на фоне кризиса в испанской Сеуте. Об этом заявил министр по вопросам убежища и миграции Барт ван ден Бринк.
Россельхознадзор с 5 августа вводит временные ограничения на транзит через территорию России мяса и субпродуктов птицы, произведённых предприятиями Евросоюза, сообщили в ведомстве.
В Ямало-Ненецком автономном округе мошенники начали распространять в социальных сетях фальшивые петиции с призывами помочь защитить леса на фоне природных пожаров.
Профессор Финансового университета при правительстве России Сергей Толкачёв рассказал, что наиболее высокие зарплаты в 2026 году предлагают в регионах с развитой добывающей промышленностью, энергетикой и масштабным инфраструктурным строительством.
Президент России Владимир Путин подписал закон, который признаёт криптовалюты имуществом и создаёт правовую основу для их легального обращения в стране.
Сентябрь 2026 года во многих регионах России может оказаться продолжением лета. Устойчивого похолодания в начале осени не ожидается, однако возможны дожди и сильный ветер. Об этом в беседе с RT рассказал кандидат химических наук, доцент Института экологии РУДН Юрий Хитев.
Врач-терапевт и гастроэнтеролог Алексей Парамонов рассказал, что безопаснее покупать целый арбуз в магазине или официальной торговой точке, где соблюдаются условия хранения.
Новый корпус Института Склифосовского расширит возможности оказания высокотехнологичной медицинской помощи в Москве. После завершения строительства туда переедет Центр радиохирургии, который оснастят современным оборудованием, включая установку «Кибернож».
Бывший премьер-министр Польши Матеуш Моравецкий объявил о планах до 15 октября создать политическую партию на основе возглавляемого им объединения «Развитие плюс».
Аномальная жара в Европе летом 2026 года, унёсшая жизни десятков тысяч людей, произошла на фоне климатических изменений и влияния явления Эль-Ниньо. Об этом в беседе с RT рассказал кандидат химических наук доцент Института экологии РУДН Юрий Хитев.
Трое пострадавших с ранениями различной степени тяжести после атаки беспилотника на Подмосковье остаются в хирургическом отделении Чеховской больницы, сообщил глава муниципального округа Михаил Собакин.
В Кемерово местного жителя приговорили к 14 годам колонии строгого режима за организацию заказного убийства человека в связи с его служебной деятельностью. Решение вынесли на основании вердикта присяжных.
Генеральный директор Федерации фигурного катания на коньках России (ФФККР) Александр Коган отреагировал на информацию, что российская фигуристка Камила Валиева может выступить на турнире Kinoshita Group Cup в Японии.
Популяризатор астрономии и космонавтики Александр Киселёв рассказал, что солнечное затмение 12 августа лучше всего будет видно в северо-западных регионах России, тогда как в Москве Луна закроет лишь около 1% солнечного диска.
