«Угроза более чем реальна»: как в Москве оценили опасность и риски применения ИИ
В Москве назвали вероятной перспективу нанесения ущерба со стороны ИИ
- Сгенерировано с помощью ИИ
Перспектива гибели человечества от ИИ туманна, но нанесение ущерба вероятно, заявил зампред Совбеза России Дмитрий Медведев.
«Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна. А вот что точно может быть, так это возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнёт в воздухе самолёты или уничтожит АЭС. И тогда придут уже за создателями generative AI. И предъявят многомиллиардные иски», — написал Медведев в своём Telegram-канале.
«Заявление в эскалационном стиле»: в Москве отреагировали на угрозы Зеленского ударить по энергосистеме России
Он также обратил внимание, что «картина дня пестрит размышлениями» создателей AI о том, что человечество поторопилось, создав искусственный интеллект, который «опасен, непредсказуем и слишком быстро развивается по не вполне ясным нам законам».
«...пора остановиться и взять паузу, чтобы потом не пришлось крепко пожалеть о сорвавшемся с цепи собрате по разуму. Реальны ли такие страхи? Тем более что многие умники, типа Маска и других, давно говорили об этом. Ответ прост: они реальны», — заметил Медведев.
Он отметил, что странам стоило бы попытаться договориться о принципах использования ИИ, но это «не выйдет из-за жадности корпораций».
«Поэтому остаётся одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник АI. У него пока нет явных эмоций, но, каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей», — подчеркнул зампред Совбеза России.
- Gettyimages.ru
- © HAKINMHAN
Взломы и конкуренция
По данным портала Axios, ведущие специалисты в области искусственного интеллекта из компаний OpenAI, Anthropic и других исследовательских центров покинули свои должности в знак протеста против якобы халатности руководства корпораций, не учитывающих риски чрезмерного внедрения ИИ в жизнь человека.
В частности, сотрудник Anthropic Джейкоб Коксон уволился из компании, объяснив своё решение тем, что не хочет участвовать в гонке по созданию систем ИИ. Впоследствии он сравнил сверхразум ИИ с инопланетным разумом. По словам исследователя, до ухода сотрудники Anthropic несколько раз в неделю обсуждали риски, связанные с развитием ИИ-технологий.
«Не можем покрыть даже свою долю расходов»: на Украине признались в неспособности профинансировать оборонные нужды
Напомним, в середине июля стартап Hugging Face, который позволяет создателям моделей ИИ и продуктов на их основе обмениваться данными и модифицировать на их основе свои наработки, проинформировал о несанкционированном проникновении в свои системы. Позднее в том же месяце OpenAI заявила, что атаку организовали её модели ИИ, которые во время испытаний смогли «сбежать» из внутренней изолированной системы во Всемирную сеть и искали ответы на тестовые задания в базах данных Hugging Face.
Стоит отметить, что искусственный интеллект стал главной строкой цифровых подписок: на него приходится две трети подписочного оборота — 66% в августе. Это следует из данных сервиса для оплаты подписок на нейросети и другие зарубежные платформы «Плати по всему миру», которые есть в распоряжении ТАСС.
Согласно этим данным, самый массовый ИИ-сервис — ChatGPT: его оплачивает каждый второй платящий за искусственный интеллект (50,5%). А больше всего прибыли приносит Claude: 36,5% оборота на ИИ против 33,3% у ChatGPT — его тарифы выше, пояснили аналитики сервиса.
Более 35% всех первых покупок по картам «Плати по всему миру» приходится на оплату ChatGPT (20,3%) и Claude (15,6%), на третьем месте не чат-бот, а инструмент для разработчиков Cursor — его оплачивают 9,3%, посчитали аналитики. За ними следуют генераторы видео и картинок, а также сервисы доступа к моделям.
Российских ИИ-сервисов в рейтинге нет из-за устройства выборки: карты сервиса нужны для оплаты зарубежных сервисов, в то время как отечественные оплачиваются обычной рублёвой картой, пояснили в «Плати по всему миру».
- Gettyimages.ru
- © MTStock Studio
«Восстание машин»
Как отмечают эксперты, тезис, что странам вряд ли удастся договориться о принципах использования ИИ «из-за жадности корпораций», соответствует действительности.
«ИИ-бигтех и правда находится в гонке за рынок, пользователей, инвестиции, вычислительные мощности и лучшие кадры. В такой логике безопасность иногда воспринимается как фактор замедления нового релиза», — заявил в беседе с RT эксперт в области ИИ и управления знаниями Владимир Лещенко.
Как пояснил руководитель программы магистратуры «Проектирование и разработка систем ИИ» Университета ИТМО Александр Кугаевских, у сервисов ИИ, в отличие от классического ПО, пока нет сформировавшихся стабильных групп спроса.
«Показательная акция для ЕС»: на Украине вскрыли новую коррупционную схему по легализации кол-центров
«Как только вперёд вырывается какая-то модель, то в этот сервис сразу перетекает большинство пользователей. Соответственно, перетекают и денежные потоки. Учитывая, что у американских компаний ИИ развит примерно на одном уровне, то для них критично сохранить выручку. Поэтому там просто бешенная конкуренция», — отметил Кугаевских в комментарии RT.
Однако, по словам Лещенко, международные правила эксплуатации искусственного интеллекта необходимы.
«Необязательно ждать единого мирового закона об ИИ. Сомневаюсь, что он появится. Но можно договариваться по конкретным ключевым темам: инфобезопасность, критическая инфраструктура, дипфейки, медицина, образование и т. д. Критично важно обсуждать и включать ограничения ИИ, где возникает передача прав технологиям принимать решения, от которых зависит жизнь человека», — уверен Лещенко.
Как полагает эксперт, бояться «немедленного восстания машин» не стоит, поскольку «современные модели не обладают собственной волей», сознанием и не имеют самостоятельных целей, но и «успокаиваться тоже рано».
«ИИ уже умеет очень убедительно ошибаться, создавать фальшивые фото, видео и голоса, помогать мошенникам, ускорять кибератаки и масштабировать дезинформацию. Однако самая реальная угроза сегодня — не мифический сверхразум, а человек или организация, которые используют мощный ИИ без критической проверки. Особенно опасно, когда такой инструмент получает доступ к деньгам, персональным данным, системам управления производством, энергетикой, транспортом или корпоративной инфраструктурой», — отметил он.
Аналитики также рассказали о механизмах, которые могут регулировать развитие ИИ.
«Нужны обязательные проверки таких систем до запуска, включая сертификацию и оценку на соответствие федеральным, отраслевым и корпоративным нормативам. Важно контролировать не только саму модель, но и к каким данным и их источникам она имеет доступ», — пояснил Лещенко.
- Gettyimages.ru
- © monsitj
Как заметил со своей стороны Кугаевских, один из способов контролировать продукты, связанные с искусственным интеллектом, это в том числе «многоступенчатые фильтры», которые позволяют блокировать некорректные запросы.
«Всё равно угроза, что, достигая цели, ИИ-агенты обойдут все программные ограничения, более чем реальна. А не обучать их подобным алгоритмам малоперспективно, поскольку они помогают находить уязвимости в критической инфраструктуре, которые затем исправляют разработчики», — заключил Кугаевских.