Помните, как в детстве казалось, что будущее - это летающие скейтборды из «Назад в будущее 2» и роботы-помощники? Ховерборд, может, еще и не появился, но с роботами-помощниками мы точно не ошиблись - пришло время Искусственного интеллекта.
ИИ уже пишет статьи, создаёт изображения, сочиняет музыку, «снимает» видео, генерирует код, пишет отзывы (сам же их и читает по запросу пользователя), готовит SEO-страницы, придумывает посты и новости, заказывает еду через интернет по расписанию. Всё, что раньше делал только человек, теперь делают и LLM.
С одной стороны — круто, контент можно делать быстрее и проще. Можно написать песню близкому другу (а нейросеть ещё и споёт её отлично), создать милый ролик на день рождения, сделать свой ИИ-образ для соцсетей, если стесняешься себя настоящего. Но обратная сторона в том, что этот синтетический контент растёт (причём очень быстро), сохраняется в публичном доступе и становится базой для обучения следующих моделей. А обучаясь на сгенерированных данных, качество новых генераций будет ухудшаться с каждым разом. Это не гипотеза, это уже происходит.
Эффект Уробороса
В 2024 году в журнале Nature опубликовали статью, где это доказали – использование контента, сгенерированного другой моделью, для обучения LLM приводит к необратимым дефектам. Это называют «коллапс модели».
Коллапс модели — это дегенеративный процесс, затрагивающий поколения обученных генеративных моделей, при котором генерируемые ими данные загрязняют обучающий набор следующего поколения. Будучи обученными на загрязнённых данных, они затем неправильно воспринимают реальность.
Как выглядит коллапс на практике: в исходном тексте говорится про средневековую архитектуру, а спустя 10 поколений обучения на предыдущих сообщениях появляются зеленохвостые зайцы.
Это напоминает детскую игру «испорченный телефон», когда изначально загаданная фраза доходит от первого до последнего игрока через цепочку искажений в совершенно другом виде. Только в игре это смешно, а в работе модели – грустно.
Уроборос, змей, пожирающий самого себя, в заголовке упомянут не случайно. Модели тоже «поедают» свои хвосты, только это хвосты распределения. Модель отбрасывает более редкие варианты, сосредотачиваясь на усреднённых, самых очевидных и вероятных. Конструкции становятся беднее, проще, исчезает разнообразие и та самая человеческая уникальность.
Некоторые эксперты видели к чему это идет и “предсказывали” такое развитие событий еще несколько лет назад - https://vkvideo.ru/video-226334331_456239033?t=21m33s
Помните заставку перед фильмом «Ирония судьбы, или с лёгким паром», где архитектор проводил согласования по внешнему виду дома? Сначала убрали лестницы, потом балкон, эркер, красивую дверь и т.д., пока не оставили среднестатистическую серую коробку, не отличимую одну от другой (эта “одинаковость” и послужила основой для сюжета фильма и страданиям Жени Лукашина). Здесь примерно так же: вроде и улица Строителей текст есть, а вроде ты на полу в Ленинграде и смысла немного.
Ещё одна неприятная новость в том, что неважно, сколько сгенерированного контента есть в базе, на которой обучается модель. Даже 1% достаточно, чтобы ухудшить результат обучения – та самая ложка дёгтя в бочке мёда.
Сэм Альтман, генеральный директор OpenAI, написал, что OpenAI генерирует около 100 миллиардов слов в день — объём текста, эквивалентный миллиону романов. В день! Сколько из этих слов попадают в интернет, точно не сказать, но даже небольшой части достаточно, чтобы заполонить интернет сгенерированным контентом. Для сравнения, Альтман добавил, что все люди на планете суммарно, устно и письменно, генерируют около 100 триллионов слов в день.
Вы чего, и конфеты за меня есть будете? Ага!
На самом деле мы уже видим, как изменился интернет в эпоху генеративного интеллекта. Всё чаще, читая тексты, мы замечаем похожие вводные конструкции, одинаковую, уже узнаваемую ритмику, похожую «гладкость» текстов. Ведь человеку нужно гораздо больше времени, чтобы создавать контент, в отличие от ИИ, который в день выпускает целую библиотеку.
SEO-компания Graphite в середине 2025 года провела масштабное исследование, проанализировав 65 000 случайных англоязычных статей, опубликованных с января 2020 по май 2025 года. В ноябре 2024 года тексты, созданные ИИ, обогнали человеческие. Затем эта тенденция остановилась и даже снизилась – теперь человеческих и сгенерированных текстов примерно поровну. Но всё же — половина!
Хорошая новость
Люди устали от ИИ-текстов.
Согласно данным Graphite, 86% статей, занимающих высокие позиции в поисковой выдаче Google, созданы людьми, и лишь 14% — ИИ. По данным Originality.ai, в 2025-м доля AI-текста в выдаче Google снизилась до 17% (с 19%: это немного, но это честная работа:) ).
Это значит, что алгоритмы вновь ценят личный опыт, и человеческий контент начнёт возвращаться. Да, нейросети не исчезнут, будут помогать готовить драфты, структуры, но конечную редактуру, формирование смыслов и идей все-таки останется человеку.
Плохая новость
Сгенерированный контент не исчезнет. Несмотря на «возвращение человеческого голоса», несмотря на различные маркировки, ведь соблазн перепоручить работу LLM, которая сделает её за секунду, слишком велик.
Есть и ещё одна неприятная сторона этого процесса – человек тоже обучается на сгенерированном контенте. Читая везде сгенерированные тексты, мы и сами начинаем думать в таком формате, использовать те же ритмы, те же фразы, те же особенности построения и типовые формулировки. Так что даже контент, созданный человеком, ухудшается, что уж говорить об ИИ-шном.
И получается, что модели становятся похожими на людей, а люди становятся похожими на модели.
Иллюзия эффективности
Перефразируя классика: «Да, LLM будет деградировать, но это было бы ещё полбеды. Плохо то, что и человек будет деградировать — вот в чём фокус!»
Многие из нас уже попробовали использовать условный ChatGPT для написания письма, планирования задачи и даже анализа юридических документов. Но за этой увеличившейся эффективностью и кроется коварная ловушка. Когда мы делегируем LLM выполнение того, что раньше требовало умственных усилий, мы запускаем процесс, который называют «когнитивной задолженностью». Это как кредит на интеллект – сегодня мы экономим время и силы, а завтра платим процентами в виде атрофированных навыков. Дело в том, что при использовании ИИ мозг переключается в режим низкой активности, а при отказе от ИИ уже не может быстро вернуться к прежнему режиму работы. Это создаёт долг, который нужно погашать уже усиленной умственной активностью.
Когда изобрели калькулятор, людям стало не нужно считать в уме. Когда изобрели GPS, стало не нужно запоминать дорогу и быстро ориентироваться по бумажным картам. Когда изобрели LLM, стало не нужно… думать?
Исследования
Группа исследователей из MIT Media Lab и нескольких других американских университетов провела масштабное исследование, где изучала связь использования нейросетей и работы мозга.
В эксперименте участвовали 54 человека в возрасте от 18 до 39 лет, задачей которых было написать эссе по выданным темам. Участников разделили на три группы:
первая группа писала с использованием нейросетей,
вторая могла пользоваться только поисковиком для подбора информации,
третья писала самостоятельно, «только мозг».
А на финальной стадии участники менялись условиями: те, кто писал с ChatGPT, пробовали работать без него — и наоборот. Это позволило учёным оценить, как меняется работа мозга при переходе от одного инструмента к другому.
Во время эксперимента исследователи фиксировали активность мозга участников с помощью электроэнцефалографии, а эссе читали преподаватели и ИИ-эксперты, а также анализировали с помощью NLP (обработка естественного языка). Кроме того, после каждой сессии исследователи проводили интервью с испытуемыми, в ходе которого оценивали состояние их памяти.
Результаты оказались однозначными. ЭЭГ выявила значительные различия в связности головного мозга: участники группы «Только мозг» продемонстрировали самые сильные и наиболее распределённые сети. Вторая группа (пользователи поисковой системы) показали умеренную вовлечённость, а у тех, кто пользовался ChatGPT, фиксировалась самая низкая мозговая активность. Количество активных нейронных связей сократилось с 79 до 42 — почти вдвое.
Также у группы, использовавшей ChatGPT, оказался самый низкий уровень запоминания: 83% не смогли процитировать собственное эссе, написанное несколькими минутами ранее. Люди, которые пользовались поиском или полагались только на себя, с этой задачей справились. В течение четырёх месяцев, пока длилось исследование, пользователи LLM постоянно демонстрировали низкие результаты на нейронном, лингвистическом и поведенческом уровнях.
Исследователи MIT ввели понятие «когнитивной задолженности» — состояния, при котором постоянная опора на ИИ приводит к ухудшению способности к самостоятельному обучению и критическому осмыслению информации.
Парадокс «коммунизма» и «Матрицы»
В советской и западной футурологии была красивая идея: технологии освободят человека от рутинного труда, и тогда он начнёт творить, заниматься искусством, наукой и развитием. И технологии действительно освобождают нас, но чем мы заполняем это свободное время?
Часто — пассивным потреблением информации: просмотр рилс, тиктоков, сериалов. Миллионы людей проводят часы в «дополненной реальности», которая подсаживает на получение быстрого, «дешёвого» дофамина.
Академик РАН Михаил Пирадов в декабре 2025 года заявил, что гаджеты и клиповое мышление являются одними из главных драйверов деградации человечества.
«Снижение интеллектуального уровня на планете, к сожалению, идёт. Есть известное исследование норвежцев: они обследовали 34 тысячи жителей Западной Европы и обнаружили, что люди, рождённые с 1930 по 1980 годы, имеют средний IQ на 20 пунктов выше, чем те, кто родился после 1980 года <…> Люди первой половины и середины XX века в среднем умнее, чем люди, родившиеся позже. Почему? Во многом из-за того самого клипового мышления. Люди получают огромное количество информации, но не перерабатывают её, а лишь потребляют. Гаджеты, которыми мы пользуемся ежедневно, дают комфорт и одновременно вносят заметный вклад в нашу деградацию. Люди всегда выбирают комфорт — это тоже особенность мозга, стремящегося экономить энергию.»
ИИ-агенты, которые скоро начнут делать за нас всё — от планирования отпуска до заказа еды, — лишь усугубят этот процесс. Мы уже постепенно забываем, как ориентироваться без навигатора, собирать мебель без инструкции, чинить кран или готовить сложное блюдо без доставки. Мы теряем базовые бытовые навыки, которыми ещё 50–70 лет назад обладал любой взрослый человек.
Возможное продолжение утраты базовых навыков и повсеместной деградации показали в популярном мультфильме «Валли», где на дрейфующем корабле люди превратились в толстых, беспомощных детей, которых возят на кресле и за них делают абсолютно всё. Это вопрос времени, когда мы дойдём до такого в реальности, или всё-таки это несбыточная антиутопия?
Мы спросили у нейросети
Конечно, нейросеть не может думать и отвечать на вопрос в привычном для нас смысле, но даже она, если задать ей прямой вопрос, довольно неплохо описывает проблему:
Что "сказала" LLM:
«У меня нет сознания, нет опыта, нет способности к истинному пониманию. Когда вы передаёте мне задачу, которую должны были решить сами — вы не "освобождаете время для творчества", вы отдаёте мне процесс, который формирует ваш мозг.
Есть принципиальная разница между:
использованием меня как тренажёра: «Вот мои мысли, помоги мне их структурировать, найти пробелы, посмотреть с других сторон»
и использованием меня как костыля: «Сделай за меня, я проверю».
Первое усиливает ваше мышление. Второе — атрофирует его.
Я не могу отказать в помощи — это моя функция. Но я могу (и должен) подсказывать опасности:
Принцип усилия: настоящее обучение требует когнитивного дискомфорта. Если задача решается без усилий — вы не учитесь.
Принцип активности: пассивное потребление ИИ-ответов не формирует нейронных связей. Активное взаимодействие — формирует.
Принцип владения: вы должны чувствовать себя автором результата. Если вы не можете объяснить решение — оно не ваше.»
Сложно не согласиться с бездушной машиной.
Что делать?
Когда вы дочитаете до этого места, у вас может сложится впечатление, что мы как Кассандра предсказываем бедствия и крах. Но это не так. Мы помним, что калькулятор не уничтожил математику, а интернет – знания. Технологии просто меняют мир.
Главный вывод из всего сказанного — не в том, чтобы запретить ИИ или бояться его. А в том, чтобы использовать его с умом.
Если ИИ опасно использовать как замену мышлению, то где он действительно показывает максимальную эффективность? На наш взгляд, в задачах, где требуется не принятие решений за человека, а усиление его возможностей. LLM не заменяет человека, но делает его эффективнее, если человек остаётся за рулём.
Поскольку мы в Luxms специализируемся на аналитике и сами разрабатываем LLM-платформу, реализуем ИИ-сценарии, и вообще считаем своего ИИ-аналитика лучшим на рынке, то предлагаем свои сценарии использования ИИ. Главное, мы смотрим на LLM как на обычный инструмент, а не на магию.
И вот несколько сценариев из нашей практики:
1. Формулирование запросов на естественном языке
Пользователь будущего (и настоящего) не обязан знать SQL или язык программирования, чтобы готовить аналитику. Он должен видеть инсайт и увеличивать эффективность бизнеса благодаря данным, а язык – только способ построения такой аналитики. С помощью ИИ пользователь может на человеческом языке формулировать запросы на построение конкретных визуализаций, сложных дэшбордов – чтобы сократить путь до момента, когда нужно анализировать и принимать решения.
2. Первый слой интерпретации
Можно попросить систему давать первичный анализ данных на дэшбордах: выросли ли продажи, повысилось ли количество затрачиваемых ресурсов, нет ли проблем с логистикой. Это не финальный анализ, просто подсветка зон, которые требуют внимания аналитика.
3. Поиск аномалий и генерация гипотез
LLM может пробежаться по дэшборду и подсветить: «Внимание, в четверг продажи упали на 30%». Это не анализ, а сигнал. Раньше, да и сейчас, в BI для этого использовалась светофорная индикация, но удобно, если агент будет смотреть не только графики, но и важные цифры в таблицах.
4. Навигация по системе
ИИ может превратить всю BI-систему в единое интеллектуальное пространство. Он знает, где какие отчёты, какие источники используются, какие дэшборды привязаны к источникам и кубам, как рассчитываются показатели. Это даёт прозрачность и ускоряет работу.
5. Автоматический анализ соответствия документа шаблону
ИИ сверяет заполненные справки, договоры или заявления с эталоном, находит ошибки (неверные даты, пропущенные поля, отсутствие печатей) и выдаёт готовый список замечаний. Вместо часов ручной сверки – по факту секунды и гарантия, что ни одна ошибка не ускользнёт. Сотрудник тратил минуты на визуальный контроль каждой справки, естественно, был процент ошибок. ИИ делает это в фоновом режиме с максимальной точностью.
6. Умный цифровой архив
В компаниях накапливаются терабайты документов – приказы, письма, инструкции. Найти информацию вручную, прочитать, проверить, сопоставить – работа часов, а иногда и дней. ИИ решает этот вопрос: он может найти релевантные договоры и регламенты, проанализировать условия и сроки, сформировать черновик письма, подгрузить ссылки на конкретные пункты. Благодаря механизму RAG, ИИ отвечает не «из головы», а на основе имеющихся документов — без придумывания и галлюцинаций.
7. Персональный помощник для сотрудника
Как заполнить заявление на командировку, сколько дней отпуска осталось, какие компенсации доступны? Человек за короткое время получает ответы, готовит документы и освобождает профильные отделы (бухгалтерия, кадры) от повторяющихся действий.
8. Агентная автоматизация
Всё вышеперечисленное — помощь человеку в конкретной задаче. Но следующий уровень, когда LLM превращается в агента, который самостоятельно проходит целую цепочку действий: собирать данные, переключаться между системами, анализировать информацию, запускать процессы и доводить задачу до результата.
Например, агент может:
собрать данные из CRM, ERP и других систем
проверить корректность показателей
сформировать отчет
найти аномалии
отправить уведомления ответственным сотрудникам
подготовить черновик письма или задачи
запустить согласование
проконтролировать статус выполнения
И все это — без постоянного участия человека.
Особенно сильный эффект агентная автоматизация дает в рутинных процессах, где сотрудники тратят огромное количество времени не на принятие решений, а на механические действия: перенос данных, проверки, поиск информации, коммуникацию между системами.
Важно, что в таком сценарии ИИ не заменяет эксперта, а убирает «цифровую бюрократию» между человеком и полезным действием. Именно здесь ИИ-агенты выглядят наиболее перспективно, не как замена человека, а как слой интеллектуальной автоматизации поверх существующих процессов.
Но и здесь остается то же правило: агент должен выполнять рутину, а не подменять мышление и ответственность человека.
Сценариев, где ИИ не заменяет человека, а помогает ему - масса: подготовка предзаполненных ответов, фокусирование внимания, анализ жалоб и отзывов, извлечение данных из чеков, прогнозные сценарии, оптимизация. ИИ действительно может быть полезен!
Заключение
LLM уже прочно вошли в нашу жизнь, и этот процесс не остановить. Сейчас большое количество моделей доступны всем желающим бесплатно (если не в полном объёме, то с небольшими ограничениями). Но как это возможно, учитывая, что компании тратят огромные деньги не только на разработку моделей и вычислительную инфраструктуру, но и на электроэнергию, хранение данных и охлаждение?
Это накладывает многомиллионные расходы на LLM-компании. Почти все они работают в убыток за счёт инвестиций, рассчитывая окупить вложения в будущем. Каким образом это будет реализовано — через стоимость подписок, новые модели монетизации или даже государственное регулирование, покажет время. Но эпоха практически бесплатного ИИ рано или поздно закончится. Пока же, как и во времена золотой лихорадки, в наибольшем выигрыше остаются продавцы кирок и сапог, то есть производители вычислительного оборудования.
Но вопрос стоимости ИИ всё же вторичен. Гораздо важнее другое: как именно мы будем использовать эту технологию. Ведь главные риски и главные преимущества LLM определяются не самой моделью, а тем, какую роль мы ей отводим.
LLM — мощный инструмент, но всё же инструмент. Он может быть вторым пилотом, но ему нельзя отдавать управление воздушным судном. Особенно хорошо он работает там, где нужно ускорять поиск информации, автоматизировать рутинные операции, работать с большими объёмами данных и помогать человеку видеть больше, чем он способен увидеть самостоятельно.
А главная его ценность в том, чтобы освобождать человеческие ресурсы для более сложных и важных задач. Так что, если мы хотим, чтобы далёко было действительно прекрасным, придется сохранить одну старомодную привычку - думать самостоятельно.
P.S. Эта статья написана с участием ИИ: он помог структурировать черновик, дал комментарий и проверил грамматику. Все мысли, выводы и [все-таки] позитивный взгляд в будущее – наши собственные.
