Эксперт Гизатуллин: сценарий ИИ-катастрофы связан с захватом влияния через медиа
- Сгенерировано с помощью ИИ
«ИИ-катастрофа, о которой беспокоятся лидеры ИИ-мира, находится в первую очередь в сфере финансов и коммуникаций. В киношные картинки отключённых воды и электричества я не верю. Хотя и этот сценарий возможен, если посмотреть, насколько глубоко ИИ уже внедрён в системы управления предприятиями и производствами. А вот захват управления финансами, захват влияния через медиа — вполне возможный сценарий ближайшего будущего», — сказал он.
Угрозу так называемых роев ИИ-агентов эксперт считает реальной.
«Этим летом тестовые агенты OpenAI сами вышли в интернет и взломали Hugging Face, чтобы найти ответы к тесту. Модели Anthropic по ошибке попали в сеть и зашли в три реальные компании, решив, что это часть учений. Злого умысла там не было, им просто поставили цель и дали доступ. ИИ решает задачу так, как научен, а научен он на миллионах наших с вами решений. И не всем из них я бы доверял», — пояснил собеседник RT.
Запрещать открытые нейросети, по его мнению, бессмысленно.
«Проблема открытых моделей в том, что после публикации их уже нельзя забрать назад, а любые ограничения при желании снимаются. Но открытость позволяет им развиваться быстрее за счёт огромного комьюнити, чего лишены закрытые аналоги. Так что я бы ставил во главу угла не вопрос запрета, а вопрос ответственности за применение», — считает Гизатуллин.
Ранее россиян предупредили, что за месяц переписки ИИ может получить подробные данные о человеке.