«Подспорье в руках профессионала»: филолог — о применении генеративных нейросетей в школах и вузах

— В Китае обсуждается введение обязательной маркировки контента, сгенерированного ИИ, поскольку эта технология якобы создаёт новые вызовы общественной и национальной безопасности. Если говорить о работе с текстами, есть ли реальные основания для беспокойства?

— Как правило, люди побаиваются новых технологий, это нормально. Чтобы технологии работали на благо, нужно их правильно применять. И именно этому нужно учить школьников и студентов, это задача системы образования. Не думаю, что сейчас ИИ представляет какую-то угрозу и его «произведения» нужно специально маркировать. Хотя не исключено, что это и потребуется в будущем.

— Как именно передовые генеративные нейросети создают тексты? Похоже ли это на процесс написания текста человеком?

— В основе любой нейросети — математическая модель, организация которой напоминает биологические нейронные сети, которые присутствуют в мозгу человека. Однако не следует забывать, что мозг функционирует намного сложнее, чем любая современная нейросеть.

Генеративные нейросети, которые могут создавать тексты, представляют собой большую языковую вероятностную модель. Её на больших корпусах данных обучают предсказывать следующее слово в предложении, а также предложение в тексте. Это подобно старой программе Т9 в телефонах. Современные нейросети могут генерировать новый контент на основе уже готовых образцов, на которых их учили. При этом, разумеется, принципы создания текста человеком намного более сложные.

• Gettyimages.ru
• © Patrick Pleul

— Сегодня ученики легко могут уже не просто «списывать» работы в интернете, а генерировать их с помощью нейросетей. По каким признакам можно определить, что текст написан ИИ?

— Написанный человеком текст всегда более сложен синтаксически. Например, в зависимости от стиля текста мы можем использовать повторы, эллиптические конструкции, когда какой-то член предложения опускается. Иногда мы применяем особую пунктуацию, которая имплицирует наши эмоции. Ничего этого нейросети пока делать не умеют. Кроме того, с лексической точки зрения нейросеть имеет довольно низкую вариативность словарного запаса. И при этом в сгенерированном тексте может вдруг возникнуть какое-то редко употребляемое слово, которое тоже выдаёт его искусственность.

Также по теме

«Этическая дилемма»: психолог — о перспективах использования искусственного интеллекта для помощи одиноким людям

Группа иностранных учёных пришла к выводу, что специальные голосовые помощники способны скрасить одиночество пожилых людей, имеющих...

В том, что касается смысла, должно сразу настораживать слишком логичное повествование. Это ещё одна особенность сгенерированных текстов. Кроме того, в таких текстах не бывает оценочных импликатур — то есть когда информация передаётся не прямо, а скрыто, в косвенной форме, как намёк. Такая подача свойственна человеческому мышлению, но недоступна для нейросетей, как и сарказм.

— Какие ещё практические советы можно дать преподавателям, чтобы они могли сразу понять, что перед ними цифровой продукт?

— Опытный специалист, который постоянно работает с текстами, обладает, как правило, языковой интуицией. Прежде всего насторожить может излишняя «правильность» текста: он напоминает стену, через которую сложно пробиться к смыслу. Банальные сравнения, клишированные словосочетания, однообразный синтаксис. Такие навыки нужны были преподавателям и до появления нейросетей, потому что школьники и студенты списывали всегда. Раньше точно так же нас настораживало появление в текстах учеников нетипичной для них лексики и оборотов. Ведь у каждого человека есть собственный стиль, и если мы долго с ним работаем, то уже можем с ходу угадать автора сочинения или другой работы.

Вообще, искусственный интеллект может лишь имитировать человеческую мысль. Как сказал австрийский философ Людвиг Витгенштейн, «границы моего языка означают границы моего мира». У нейросети нет своего «мира», это просто математическая модель. Мы же с вами мыслим, пишем текст здесь и сейчас, в условиях подлинной реальности, ощущая её всеми пятью органами чувств, испытывая эмоции.

Кстати, ещё один признак «цифрового» текста — отсутствие эмоциональной коннотации или, напротив, излишняя эмоциональность. В общем, чувствуется неестественность.

• Gettyimages.ru
• © Johner Images

— Вообще, допустимо ли применение ИИ в образовании? Если да, в каких случаях и на каких условиях?

— Московский городской педагогический университет первым легализовал для студентов использование технологий искусственного интеллекта при подготовке выпускных квалификационных работ. Но тут важно понимать, что ИИ — только инструмент, способный облегчить работу, но не выполнить её за студента. Правильно использовать его мы учим на нашей магистерской программе «Текстовые технологии: создание и редактирование текстов на иностранных языках». Например, у нас есть курс «Нейронные сети в лингвистическом исследовании», мы учим студентов применять инструменты ИИ для анализа языка и литературы в сочетании с традиционными методами.

Также по теме

«Пройти между Сциллой и Харибдой»: российский специалист — о проблемах правового и этического регулирования ИИ

Законотворчество пока отстаёт от темпов развития технологий машинного обучения. Законодателям всех стран только предстоит выработать...

Нейросеть — хорошее подспорье в руках профессионала, оно расширяет его возможности. Так, например, с помощью нейросети можно быстро выбрать все прецедентные имена (широко известные имена. — RT) в тексте. Это значительно ускорит работу по сравнению с традиционными методами сплошной выборки, когда ты сидишь, читаешь текст и выписываешь нужные слова. Нейросеть сделает это очень быстро и ещё объяснит культурный бэкграунд, исторический подтекст каждого имени. Но, конечно, нужно помнить, что все сгенерированные ИИ данные нуждаются в проверке. Это одно из основных условий правильного использования нейросетей.

Ещё генеративные нейросети можно использовать как инструмент мозгового штурма. Искусственный интеллект может набросать перечень каких-то идей, пусть обычно и банальных, но они могут натолкнуть вас на стоящую мысль. Так, методом исключения вы можете прийти к какой-то интересной гипотезе.

— А с какого возраста нейросети уместны и полезны в образовательном процессе?

— Работа с генеративными нейросетямиочень хорошо структурирует наше мышление. Поэтому, чтобы получить хорошую отдачу от ИИ, вы должны заранее чётко понимать, какой именно результат вам нужен, с какой конкретной целью вы применяете нейросеть, иначе не будет и результата, интуитивно и ситуативно работать с этой технологией не получится. И конечно, нужно обладать достаточными данными и профессионализмом, чтобы оценить полученные результаты. И от этого будет зависеть то, какой промт (запрос. — RT) вы составите для ИИ.

Поэтому младшим школьникам, которые ещё только учатся структурировать свои мысли, прибегать к помощи нейросетей рано, на мой взгляд. В более старших классах можно начинать учиться применять ИИ, развивать эти навыки. И при правильном использовании это ещё и поможет развить навыки критического мышления, когда человеку придётся самому сначала оценивать результаты.

— Получается, если человек не обладает способностью мыслить структурно и критическим мышлением, то он не сможет и должным образом воспользоваться нейросетями?

— Верно. Я думаю, что повсеместное внедрение нейросетей даже отчасти может способствовать развитию критического мышления у людей с более раннего возраста. Потому что правильная работа с ними требует постоянно подвергать многие вещи сомнению и проверять.

• Gettyimages.ru

— Если дети будут привыкать к такому контенту с раннего возраста, не получится ли так, что критерии оценки литературы, например, сдвинутся и цифровые романы уже никто не сможет отличить от произведения талантливого писателя? 

— Я понимаю эти опасения, но напомню, что великая литература пережила уже многие исторические, технологические сдвиги. Не думаю, что цифровые тексты будут когда-то восприниматься как образец литературного мастерства. Вообще, чтобы скомпилировать низкопробное чтиво, необязательно быть математической моделью, нейросетью. Люди сами прекрасно справляются с этой нехитрой задачей — такой продукции было много во все времена. В этом мы с нейросетями равны. Но только человек способен создать действительно великое произведение. Талант останется талантом, а творец — творцом.