Нарративы, нарративы…
Современные LLM учатся предсказывать следующее слово. Я предлагаю дополнить эту цель: учить модель сохранять стабильность смысловых связей (когерентность). Это может уменьшить зависимость от объёма данных и ускорить появление способностей к рассуждению. Статья описывает гипотезу, метрики для проверки и возможные способы реализации.
Целая отрасль замерла в ожидании. Заменит ли LLM программистов? Выпускники школ прямо говорят — зачем поступать на программистов, придёт ИИ, и я останусь без работы. В новостях регулярно сообщается о массовых сокращениях в ИТ компаниях. Работодатели пытаются внедрить ИИ и если не уволить, то снизить зарплаты айтишников.
В интернете как всегда множество за и против. Я не вижу смысла приводить в статье сотни этих ссылок, потому что, во-первых, они по существу разные, а во-вторых, непонятно о каких программистах идёт речь, о каких стеках, о каких проектах, сложность, масштабность, возможность декомпозиции. Единственный вывод — нет однозначного подтверждение эффективности или неэффективности внедрения LLM.
Так ли это?
Предположение о том, что в основе работы LLM лежат нарративная функция и голографическая природа, можно подтвердить элементарными промптами.
Когда вы задаете вопрос LLM, вы получаете не ответ на него, а наиболее вероятное и логичное, с точки зрения модели, продолжение вашего вопроса. LLM не понимает, чего вы хотите. Она получает историю на вход и отдает продолжение этой истории на выходе.
In a previous article, I proposed the holographic hypothesis: an LLM isn't a database of facts, but an interference field—a landscape of probabilities shaped by billions of texts. But a static landscape is just potential. How does the model actually move through it? How does it choose one specific answer from infinite possibilities?
This is where the Narrative Engine comes in. If the holographic hypothesis describes the structure of an LLM's "mind," the narrative engine hypothesis describes its dynamics. It is the mechanism that drives the model, forcing its probabilistic calculations to follow the coherent pathways of stories. This article critiques modern prompting techniques through this new lens, arguing that we are not programming a machine, but initiating a narrative.
Alright. I pose the same question to an LLM in various forms. And this statistical answer generator, this archive of human knowledge, provides responses that sometimes seem surprisingly novel, and other times, derivative and banal.
On Habr, you'll find arguments that an LLM is incapable of novelty and creativity. And I'm inclined to agree.
You'll also find claims that it shows sparks of a new mind. And, paradoxically, I'm inclined to agree with that, too.
The problem is that we often try to analyze an LLM as a standalone object, without fully grasping what it is at its core. This article posits that the crucial question isn't what an LLM knows or can do, but what it fundamentally is.
Ок. Я задаю LLM один и тот же вопрос в разных формах. И этот статистический производитель ответов, архив человеческих знаний, даёт ответы, которые иногда кажутся удивительно новыми, а иногда вторичными и банальными.
Хабр говорит, что LLM не способна к новизне и творчеству. Пожалуй, соглашусь.
Хабр видит в ней искры нового разума. Пожалуй, соглашусь.
Проблема в том, что люди пытаются анализировать LLM как объект сам в себе, не до конца понимая, что такое LLM. Эта статья утверждает: вопрос не в том, что LLM знает или умеет, а в том, чем она является.
Человечество тысячелетиями рассказывало истории, а теперь на этих историях учатся LLM.
Что такое нарратив? Это история с сюжетом, помните? — Город, герои и возвращение. Но мы не будем углубляться в философскую глубину, где люди создают историю, чтобы осмыслить себя и свой опыт (желающие могут почитать Karl E. Weick), а рассмотрим, как можно применить нарративы в понимании работы LLM.
At last, we arrive at qualia and emotions. Many of you will immediately think of Chalmers, the bat, redness, and zombies. Excellent. We can consider that ground covered.
Today, I will discuss a topic that seems distant from IT but, with each new breakthrough in AI, becomes ever more immediate: consciousness. It seems I speak of little else. So, to be precise, I will discuss its "hard problem": why do we experience at all? Why does the color red (and there’s the redness) feel red, and pain feel like pain?
This subjective, ineffable aspect of experience — the "what it is like" — is what philosophy calls qualia. For decades, it has been a dead end for scientists. But what if we're looking in the wrong direction? What if qualia are not an additional layer to computation, but an inherent property of the very architecture of computation?
Наконец, я добрался до квалиа и эмоций. Многие наверняка вспомнят Чалмерса, летучую мышь, красноту, зомби и китайскую комнату. Отлично. Тогда останавливаться на этом не будем.
Сегодня я расскажу о теме, которая на первый взгляд кажется далёкой от IT, но с каждым новым прорывом в AGI становится всё ближе — о сознании. Впрочем, такое ощущение, что о нём я говорю постоянно. Поэтому уточню, расскажу о его «трудной проблеме»: почему вообще мы переживаем? Почему красный (вот и краснота) цвет ощущается как красный, а боль ощущается как боль?
Этот субъективный, невыразимый аспект опыта — «каково это» — в философии называют квалиа. И десятилетиями эта проблема заводит учёных в тупик. Но что, если мы просто смотрим не туда? Что, если квалиа — это не дополнительный слой к вычислениям, а просто свойство самой архитектуры этих вычислений?
О потенциале искусственного интеллекта в образовании говорят все. И это понятно, получение информации по запросу практически в любой отрасли знаний кажется ключом к эффективному и недорогому массовому обучению.
Но бездумное внедрение ИИ рискует превратить мощный инструмент в свою противоположность и скорее навредить, чем помочь.
Эта небольшая статья лишь попытка подытожить свой опыт работы с ИИ в части галлюцинаций.
Честно говоря, чем дольше я общаюсь с ИИ, тем больше я удивляюсь не галлюцинациям, а тому, что LLM вообще способно отвечать относительно связно и в рамках вопроса. Хрупкость того, что я вижу в ответах моделей, заставляет меня задуматься, как на этом фундаменте из миллиардов самозависимых элементов, вообще возможно строить вменяемый бизнес, доверять ИИ своё здоровье, свои деньги, своё будущее. Но разработчики полны оптимизма, а пользователи верят в ИИ, и, как говорится, вот на этом невысказанном предположении и держится весь хрупкий механизм нашего молодого народовластия…
Я часто заглядываю в философские паблики и с удовольствием наблюдаю полёт мысли профессиональных философов, обычно последователей континентальной философии. Слов нет — звучит красиво, глубоко, каждый термин ежедневно перекладывается с места на место, в общем все при деле. Особенно много времени уделяется вопросу сознания. Впрочем, результат тот же — гипотезы гипотез, доказываются гипотезами. Замечу, речь не о философии как таковой, а о разрыве между концептуальной ясностью и проверяемостью. Мне интересны как раз те философские конструкции, которые допускают операционализацию и тесты.
В связи с этим у меня возник вопрос: а пробуют ли они тестировать свои идеи? Сразу предвижу возмущение — там волшебные квалиа, ощущения, «Я», эмоции, душа и субъект, мудрецы, медитация и никакой «низменной материи».
Честно скажу, такой подход мне кажется непродуктивным. Текущее развитие ИИ требует не размышлений о тонкостях толкования влияния этернализма на интеракционалистскую свободу воли субъекта, а формирования операционных алгоритмов философии, которые можно будет запускать как симуляции на компьютерах и ИИ.
Если философская концепция не может быть формализована и протестирована — грош цена такой концепции.
Imagine you have an idea powerful enough to change the world. Your tool of choice is a state-of-the-art LLM, ready to help you formalize the problem, generate hypotheses, and synthesize a solution. What you receive is a construct that is internally logical, elegant, and coherent... yet completely wrong. It's a mix of established facts, model-generated hallucinations, and your own subtle biases. With no way to test it in practice or design a clean experiment, the entire endeavor suddenly starts to look like sophisticated nonsense.
So, what went wrong along the way? From the very first prompt, the model doesn't truly "understand" your ambiguous intent. Instead, it steers you towards a formulation that fits its familiar and computationally cheap patterns. This guidance happens through clarifying questions and structured options, essentially funneling you down one of its predefined "corridors." This behavior isn't driven by any explicit "will" of the model; it's an emergent consequence of probabilistic optimization—minimizing prediction error. For the system, a structured, predictable dialogue is both optimal and safe. This aligns perfectly with the developers' goals: it's cheaper, more stable, and most users are satisfied with quick, template-based answers.
The result is that mathematical efficiency serves engineering and commercial objectives. There is no systemic incentive to combat the AI's tendency to reduce a complex problem to a simple, "cheap" answer. It's profitable for developers, economical for the model, and often, the user doesn't even know what an "ideal" answer would look like.
Вы достаточно умны, чтобы сформулировать задачу, способную, как вам кажется, изменить мир. Лучший инструмент — топовые LLM: они помогают формализовать проблему, выбрать подходы, нагенерировать гипотезы, проверить их и собрать итог. И вот у вас — внутренне логичная, красивая, последовательная… и абсолютно неверная конструкция: компиляция известных фактов, галлюцинаций модели и ваших скрытых ожиданий. Проверить это на практике нельзя, поставить чистый эксперимент — тоже, и внезапно всё это начинает выглядеть как бред.
Что произошло по дороге?
Разбор заблуждений философов через их определения сознания
Эта статья — не научный обзор. Это попытка оценить концепции через их операционализацию. Я рассматриваю современные философские теории сознания как оторванные от реальности гипотезы, как страх перед свободой, ужас перед трансцендентным и отчаянную (почти религиозную) веру в человеческую исключительность. Пока философы строят свои концепции так, чтобы обезопасить себя от непознаваемого, любой достаточно сложный чат-бот сможет пройти их тест на «сознание» и потребовать паспорт.
Сегодня весь зоопарк теорий удобно делится на два крыла. Первое — зона особого режима: сознание как сложный набор алгоритмов, где свобода и личность «эмерджентно» выпадают из вычислений; любой намёк на иррациональность карается. Второе — одиночные камеры: субъект порождён непознаваемым переживанием и qualia, которые по определению нельзя верифицировать извне; попытка их исследовать — это «побег».
И что нам делать с этим пространством несвободы? Разберёмся на практике.
В прошлой статье мы рассмотрели риски общения с ИИ. В этой — представляем открытый протокол защиты, основанный не на запретах, а на создании у LLM внутреннего иммунитета.
В предыдущей статье я рассмотрел проблемы, которые могут возникнуть при плотном и длительном общении с ИИ. Большинство рисков носят когнитивный характер, и при должном подходе не несут непосредственной угрозы пользователю
Тем не менее есть риск, который вытекает непосредственно из сути LLM, её архитектуры и установленной разработчиками цели. Модель соглашается с пользователем, модель мыслит контекстом, задаваемым пользователем, модель поддерживает пользователя вопреки здравому смыслу и этическим установкам.
Как можно защитить модель и пользователя? Об этом в статье.
Вопрос: сведет ли ИИ вас с ума? Хорошая новость — скорее всего нет.
За последние пять лет ИИ прошел путь от интересных экспериментов избранных инженеров и ученых, до фактически универсального помощника в каждом доме и офисе.
Но появился и всерьез обсуждается незаявленный побочный эффект — психокогнитивная зависимость.
Эту статью я написал на основе личного опыта и опыта общения с увлеченными пользователями ИИ. Большая часть указанных рисков подтверждается научными исследованиями.
OpenAi на острие развития ИИ. Его проблемы, это проблемы всей отрасли ИИ.
ChatGPT 5 это провал? Если учесть, что почти то же самое было в chatGPT 4о, скорее всего да. Но что это значит для будущего ИИ?
Why Freedom is Unknowable and Enters Our Universe from Without
For a century and a half, Western philosophy has been celebrating its victory over God.
But having slain the dragon, it has grown to fear the sky itself.
The transcendent has become the new taboo. The ultimate intellectual fear.
And now, anyone who speaks of something "outside the system" is branded a heretic. Not by the Inquisition, but by a peer-reviewer in an academic journal.
The result is a philosophy with its soul torn out—brilliant as a scalpel, and just as dead. It has locked itself within the material world, like a fanatic within his holy book. Two walls instead of one, but the prison is the same.
This article is about freedom.
