Дисклаймер: изначально это был комментарий на другую статью, но та статья оперативно улетела в черновики, а @0xKubik — в readonly (?!). Так что пишу тут, в надежде что однажды автор ответит тут, или свяжется иначе.

Мне доводилось слышать мнение, что образование не торопится принимать использование ИИ исключительно из ретроградства и страха перемен. Я бы сказал, ситуация на деле сложнее, и языковые модели — палка о двух концах. Но для начала — то, что я принимаю за аксиому.

Цель образования — обеспечить заданный уровень оговоренного набора навыков у обучаемого. Навыки могут быть базовыми (школа) или нет, относиться к разным областям физического и/или умственного труда (ПТУ/ВУЗ), но от этого цель не меняется. Разговоры про «учить учиться» или «формирование мышления» при ближайшем рассмотрении сводятся к тому же самому — это навыки умственного труда.

А дальше эта замечательная цель сталкивается с реальностью. Во‑первых, обучение обычно требуется вести по нарастающей, от простого к сложному. Это особенно верно в ситуации, когда уровень образования, предоставляемый предыдущей ступенью, оказывается очень неравномерным и/или недостаточным. Во‑вторых, залезть человеку в голову и оценить уровень навыков объективно сейчас невозможно (и это не так уж и плохо, учитывая возможные применения такой технологии). Это делает неизбежным необходимость косвенных оценок — например, способность справляться с учебными задачами. В‑третьих, образование происходит в условиях жёсткой конкуренции за время и внимание как обучаемого, так и учителя. И ситуация в последние годы усложняется: как укрупнением классов/групп, так и внесением всё большего числа идеологически заряженных дисциплин.

Это делает неизбежным разрыв в сложности между учебными и реальными задачами — на проработку реальных задач просто нет достаточного времени, да и доходить до этого уровня нужно постепенно. И именно в этот разрыв попадают популярные языковые модели. С одной стороны, они недостаточно способны к самостоятельному решению реальных задач без тщательного надзора со стороны специалиста. Хуже, они пока ещё недостаточно способны, чтобы оценивать границы своих возможностей, что проявляется в галлюцинациях (впрочем, люди не всегда лучше). Но с другой стороны, они достаточно способны, чтобы щёлкать учебные задачи как орешки, невзирая на мелкие вариации условия, используемые для противодействия классическому списыванию.

Отсюда можно вывести четыре возможных сценария самостоятельного использования языковых моделей обучаемым:

не использовал, вникал — идеал классического образования;
не использовал, не вникал — классическое списывание, приёмы противодействия которому более‑менее отработаны;
использовал, вникал — идеал, о котором говорят апологеты ИИ в образовании;
использовал, не вникал — кризис, о котором говорят критики ИИ в образовании.

Это приводит к следующему фактору: мотивация. Иными словами, люди — существа ленивые, это эволюционный механизм, который не так‑то просто подавить. Поэтому «вникал/списывал» — это спектр, положение на котором будет индивидуально для каждой пары человек‑дисциплина. Оно определяется балансом рисков каждого подхода и мотивацией обучаемого. И есть мнение, что видимое «всемогущество» ИИ будет негативно сказываться как на рисках (шансы, что ИИ лучше решит учебную задачу, выше), так и на мотивации (зачем вообще прилагать усилия, если есть волшебная кнопочка?). Да, сценарий «использовал, вникал» вполне возможен — но сам по себе он может оказаться недостаточно массовым, чтобы полагаться на него. И это не затрагивая проблему всё тех же галлюцинаций. По личному опыту, LLM начинает нести пургу с большей вероятностью, если вопрос задан неточно и неполно — а ведь чтобы задать правильный вопрос, нужно знать половину ответа. Таким образом, LLM начинает действовать как своего рода сепаратор: мотивированные и умные учащиеся могут эффективно пользоваться ИИ‑инструментами, но те, кто пренебрегает обучением, будут сползать ещё ниже. А современное образование — это конвейер по необходимости, средний результат там более важен, чем единицы лучших.

Таким образом, промежуточный вывод простой: если пускать всё на самотёк, то риски неконтролируемого применения LLM в образовании перевешивают выгоду. А вот как это контролировать...

Понятно, что преподаватели в той или иной мере ощущают это давление. В частности, рассмотрим проблему использования LLM для пост‑обработки текстов. Во‑первых, последовательно и грамотно формулировать свои мысли — это тоже навык, и им не стоит пренебрегать. Каллиграфия ушла в прошлое, так как пишущая машинка (а потом — принтер) не искажала смысл текста. С LLM это не так, их выхлоп может отличаться по смыслу от исходного текста. А раз так, навык нужно развивать — а это означает самостоятельное выполнение учебных задач.

Во‑вторых, обработанный LLM текст делает два сценария — «использовал, вникал» и «использовал, не вникал» — неразличимыми для преподавателя при заочной оценке работы. Ну, за исключением случаев, когда студент сдаёт откровенный слоп — но это не тот сценарий, к которому хочется стремиться. Стоит ли удивляться, что преподаватели автоматически предполагают худшее из двух? Разумеется, можно задаться вопросом: почему тогда не оценивать работу очно (защита лабораторных)? И это было бы самым хорошим вариантом, но... см. выше про конкуренцию за время и внимание. Часто у преподавателя может просто не хватать времени, чтобы всерьез проэкзаменовать каждого студента по каждой работе. И улучшений в этом плане не предвидится от слова «совсем».

Так что требование писать своими словами (требование писать от руки я считаю экстремальным вариантом, и не слишком полезным) — это, по сути, локальный оптимум, в который попадает преподаватель, пытающийся «по‑быстрому» поднять уровень вовлечённости наименее мотивированных студентов («пусть хотя бы прочитают, что сдают»), пусть даже и в ущерб наиболее мотивированным.

Образование vs ИИ с точки зрения преподавателя