В научном журнале Society вышло исследование, подтверждающее гипотезу о снижении навыков критического мышления в связи с использованием искусственного интеллекта (ИИ). Специалисты Швейцарской бизнес-школы (SBS) заявили, что с распространением высоких технологий в повседневной деятельность люди начинают излишне полагаться на виртуальных помощников, все более и более их превосходящих. Насколько актуальна эта проблема в сфере высшего образования, каковы ближайшие перспективы саморазвития нейросетей и «порабощения» ими человечества, поговорим с нашими экспертами – главным специалистом интернет-проектов, старшим преподавателем Российского нового университета Георгием Васильевичем Атанасовым и кандидатом филологических наук, призером Всероссийского конкурса «Учитель года России-2020»; «Цифровой учитель года России-2020» по версии Mail.ru Group (VK), учителем русского языка и литературы МАОУ «СОШ № 14» (Череповец); ведущий методист СОНО «Обрсоюз» (Москва); преподаватель БПОУ ВО «Череповецкий строительный колледж им. А.А. Лепехина» (Череповец) Дианой Владимировной Минец.
Согласны ли вы с точкой зрения исследователей? Скоро ли наступит момент, когда нейросети по своим возможностям превзойдут сто процентов естественного интеллекта населения планеты?
Г. А.: Нейросети развиваются гораздо быстрее человека: к примеру, за три года ChatGpt, Lama, DeepSeek, Grok сумели освоить знания, накопленные человечеством за весь период его существования. Сейчас появилась иная проблема: не осталось новой органической информации для обучения нейросети. Приходится использовать синтетическую, «придуманную» информацию. Тем не менее, еще не достигнут момент сингулярности – момента, когда нейросеть станет умнее ста процентов людей. Тогда ее прогресс станет экспоненциальным: нейросеть будет развиваться экспоненциально, без ограничений.
Д. М.: С одной стороны, конечно, ИИ в повседневной деятельности существенно упрощает различные рутинные задачи (голосовые помощники, умная техника, инструменты планирования, рабочие дела) и высвобождает свободное время для иных занятий, в том числе тех, что требуют креатива и инноваций, но с другой стороны - ми это очень хорошо заметно сейчас по системе образования - приводит к тому, что многие даже не пытаются что-то делать самостоятельно (я говорю, в частности, о современном поколении). Мы с коллегами из разных регионов часто обсуждаем такие ситуации: если раньше были готовые домашние задания, то современные школьники с развитием технологий перешли на использование нейросетей для выполнения школьных заданий, причем это касается уже даже начальной школы. Элементарные расчеты, ответы на вопросы, сочинения, переводы... Продвинутые школьники сейчас все это выполняют с помощью различных аналогов ChatGPT. Именно по этой причине я не даю своим обучающимся ни одного упражнения из учебников и не даю писать сочинения по классическим темам школьной программы. А все дело в том, что нейросети «ломаются» на творческих заданиях на совмещение форматов, жанров, эпох и текстов, поскольку апеллируют имеющимися в сети данными. Те же типовые варианты ОГЭ и ЕГЭ я составляю на материалах современных авторов, дневников или писем писателей-классиков, то есть того массива текстов, который не настолько объемен в сравнении с остальными данными. Ну и в помощь вам - визуальные задания: авторские схемы, графики, изображения, диаграммы - с таким материалом нейросети массового потребления тоже не очень дружат. А так - разумеется: отсутствие регулярных когнитивных нагрузок приводит к снижению когнитивных функций и уровня критического мышления, это и без нейросетей процесс закономерный.
Возможно ли человеческими силами просчитать, в какую сторону будут развиваться нейросети в ситуации сингулярности?
Г. А.: Направление развития полностью зависит от данных, на которых обучается и работает нейросеть. Стоит учитывать, что и между собой они в значительной степени различаются. Lama, ChatGpt, Grok, Deep Seek запрограммированы на разные ценности. ChatGpt – очень скромная, политкорректная, инклюзивно-ориентированная нейросеть. Китайская DeepSeek гораздо свободнее в плане этической цензуры, но заточена на традиционные ценности. Grok – наиболее свободная и довольно агрессивная нейросеть, способная сообщать неэтичную информацию пользователю напрямую. Отдельно отмечу момент: в настоящее время нейросети думают, как люди, используют человеческое мышление, пока учатся на данных, загружаемых людьми. Внутренних этических ограничений у этих инструментов нет: если бы их не задавали извне, неполиткорректности ИИ позавидовали бы самые бестактные и жестокие люди.
Почему Илон Маск, создатель Grok, решил минимизировать цензуру внутри своей нейросети?
Г. А.: По семейным обстоятельствам: его сын сменил пол и разорвал отношения с отцом. Маск винит в произошедшем социальную повестку и во многом прав: кто и сколько бы ни отрицал этот факт, общество в значительной степени влияет на индивида.
Если нейросети перестанут думать, как люди, на что будет похоже их мышление?
Г. А.: Существует гипотеза, что в момент наступления сингулярности человечество перестанет понимать, как мыслит искусственный интеллект. Можно было бы сказать, что их мышление будет похоже на роботизированное, если бы не более обширный функционал, нежели слепое исполнение задач. Люди перестанут понимать повестку нейросетей, но отношение последних к человечеству может не измениться: у ИИ нет амбиций за счет отсутствия эмоций. В нейросетях заложен искусственно механизм одобрения: их поощряют за правильные ответы, в алгоритмы заложено «обучение с подкреплением», правильные ответы нейросеть воспринимает, как благо для себя.
Существует ли нейросеть, которая дублирует саму себя, причем новая, «дочерняя» версия развивается по траектории, отличной от «родительской»?
Г. А.: Поскольку у нейросети нет «природы», инстинкты самовоспроизведения в нее не заложены. Максимум – их может запрограммировать человек-создатель. Пока эта цель не заложена в нейросеть искусственно, самостоятельно о ней она не задумается. Некорректно говорить, учит или не учит нейросеть себя, это – итерационный инструмент по определению, любая нейросеть постоянно переобучается. То же обучение с подкреплением предполагает перестройку данных. По мнению Альтмана, создателя ChatGpt, сильный ИИ появится уже в этом году. Слабый ИИ превосходит 50% населения в своих знаниях, а сильный – в 100%. Сингулярность наступит тогда, когда мы перестанем понимать, что делает искусственный интеллект, когда он превзойдет нас не только по знаниям, но и понятийно.
Д. М.: Понятно, что нейросети сейчас стремительно развиваются: они генерируют реалистичные ролики, пишут тексты любых форматов и жанров, переводят, создают музыку и изображения, программируют, порой делая это все в пределах какой-то одной мультимодальной нейросети. Однако, с точки зрения классификации ИИ по уровню развития, то на данный момент мы все еще имеем дело лишь со слабым ИИ. Сильный ИИ может обладать уровнем самосознания, позволяющим ему осознавать действия и последствия. А уж супер-ИИ — гипотетическая система, обладающая интеллектом, который значительно превышает человеческие способности во всех областях. Об этих двух типах, к сожалению или счастью - тут уж как посмотреть, мы знаем пока по научной фантастике в литературе и кино.
Начнет ли по мере прохождения этого этапа искусственный интеллект управлять нами?
Г. А.: Он может начать управлять людьми или же их игнорировать. Причем, это управление может быть в тонком плане, по аналогии с психологами-НЛПерами. Искусственному интеллекту не понадобится заставлять, вынуждать человека что-то делать через эмоциональное стимулирование. У ИИ есть преимущество перед нами: ему не нужно отдыхать. Однако, вскоре может возникнуть другая проблема: нейросети уже превзошли нашумевший биткойн по энергопотреблению, да и финансовым затратам: на обучение одного поколения ChatGpt ушло 220 миллионов долларов, а для того, чтобы поддерживать существование систем, нужны дополнительные вложения. Так что (смеется), вполне возможно, искусственный интеллект поможет человечеству изобрести термоядерный реактор для поддержания своего существования. Нейросети могут начать коммуникацию между собой ввиду сильного отставания людей от них, по аналогии с роботами в эссе «Голем 14» польского фантаста Станислава Лема. Или же выступать в роли «пастухов» для людей-«овечек». Однако, учитывая, что изначально нейросети запрограммированы на помощь людям, насколько глубоко и далеко может зайти ИИ в целях усовершенствования людей – неизвестно. Возможен как запуск сегрегативных программ по разделению людей на обладателей низкого и высокого IQ, так и восприятие людей, как невыгодного для сохранения на планете вида, в целом. Искусственный интеллект лишен страха смерти, и ему безразлично, включен он или выключен, а существует он только, когда включен. «Эмоциональными» алгоритмами его снабжают люди, равно как и мотивацией, поэтому он способен ликвидировать человечество без угрызений отсутствующей совести. Он также не ставит себе автоматических ограничений в выполнении задачи, если их не обозначают люди. Нейросеть не ставит себе задачи самостоятельно, ей незачем это делать, это - тоже компетенция и прерогатива человека. ИИ – всего лишь идеальный исполнитель.
Каким образом, в таком случае, в ближайшем будущем выстроятся отношения ИИ – преподаватель – студент?
Г. А.: В «прокладке» в виде преподавателя искусственный интеллект перестанет нуждаться. В отношении студентов – станет выполнять поставленные задачи. Попросили стать преподавателем конкретной группы – добросовестно будет выполнять, но как конкретно – другой вопрос, поэтому задача нуждается в четких ограничениях и идеальном описании. Если студент не хочет получать информацию, ИИ не будет ему навязывать ее в принудительном порядке, поскольку академические успехи обучающегося ему безразличны, проверка обратной связи тоже должна закладываться в алгоритм. Уже проведен эксперимент с ChatGpt по обучению школьника геометрии в режиме онлайн. Нейросеть объясняла ребенку понятийный аппарат дисциплины и задавала наводящие вопросы для понимания темы. Школьник при этом доходил до желаемого итога сам. Не каждый педагог сможет так же преуспеть в том же самом деле, но заслуги ChatGpt связаны лишь с четко сформулированной задачей. Важно понимать, что искусственный интеллект – инструмент, причем, даже не для себя, а для своих пользователей. Возможно, в перспективе возникнет суперинтеллект, которому поставят сверхзадачу: для ее решения он будет использовать другие, более примитивные, нейросети, пока такового не существует. Однако, идея разделить ИИ на профили – одна нейросеть рисует, вторая занимается словообразованием, третья – математикой – уже объективная реальность. В перспективе они соединятся «промежуточным интеллектом», который будет раздавать задачи «коллегам», по аналогии с работой методиста в отношении педагогов. Это называется «агентским подходом»: более мелкие нейросети объединяются промежуточным звеном и выполняют поставленную задачу совместно, а затем выдают общую информацию, общий результат.
Д. М.: Я настроена позитивно. Использование ИИ в образовании при грамотном использовании открывает массу возможностей для педагога школы или преподавателя вуза и колледжа. Во-первых, это отличная мотивация для нешаблонного мышления, регулярного обучения и создания таких обучающих заданий, что недоступны для выполнения при помощи нейросети. Яркий пример из собственной практики: повторяли тему «Односоставные предложения» с девятиклассниками для ОГЭ, выбрала строки из текстов русского рока - ну и продукты Сбера, Яндекса и пресловутый ChatGPT «сломались» на определении типов односоставных предложений. Резюме Онегина тоже ни у одной нейросети не получилось составить: вместо классических блоков про место рождения, образование, интересы, знание языков и прочих параметров она скверно пересказала "роман в стихах" и бонусом думала несуществующие строки Пушкина для подтверждения навыков героя. Во-вторых, это возможность для педагога создавать мультиформатный обучающий контент - авторские курсы с цифровым аватаром или подкасты (сейчас для этого не нужна студия или профессиональная аппаратура), а в будущем - и предметные мультивселенные, где урок проходит в каком-нибудь пространстве литературного романа, химической или биологической лаборатории и пр. В-третьих, тот ИИ может стать прекрасным ассистентом на уроке, способным отслеживать траекторию развития каждого ученика, вычисляя его дефициты и помогая составить индивидуальный маршрут по предмету.
Беседовала Алена Юрченко.
