Инженеров раздражает крайне низкая интерпретируемость нейросетей на базе трансформеров. Бизнес раздражает отсутствие гарантий правильного ответа. И всех пользователей весьма беспокоят галлюцинации LLM.

Именно поэтому исследователи работают над альтернативными архитектурами ИИ, пытаясь устранить недостатки LLM. Одно из направлений таких исследований, это использование принципов символьного ИИ.

В этой статье я рассматриваю концепцию кандидата физико-математических наук, известного IT-исследователя Сергея Шумского.

Пока LLM-индустрия наращивает масштабы дата-центров и обучающих датасетов, всё чаще возникает вопрос, а что дальше? Энергия, знания, деньги не бесконечны. Что будет, когда что-то из них кончится? 

Топы надеются на AGI, который, внезапно появившись из тераваттов и петабайтов, решит все проблемы и ответит на все вопросы. К сожалению, есть сомнения в столь чудесном событии.

Проблема в том, что нет предпосылок, что AGI появится в текущей архитектуре. Потому что горизонт не расширяется изнутри вычислимой системы, нужен внешний источник, невыводимый из состояния. Поэтому всё чаще исследователи пытаются найти нужное направление поиска в философии. 

Эта статья о том, поможет ли философия, а если нет, то кто?

LLMs hallucinate — everyone has seen what it looks like. The model reports, confidently and coherently, with the right intonation and terminology, something that isn't there. Engineers treat this as a bug: one being fixed, one about to be fixed.

It won't be. This is not a technical fault but an inherent property of language, which the machine has made visible.

LLM галлюцинирует, впрочем, все видели, как это выглядит. Модель уверенно, связно, с правильной интонацией и терминологией сообщает то, чего нет. Инженеры считают это багом, который чинят и  вот-вот починят.

Не починят. Это не техническая ошибка, а неотъемлемое свойство языка, которое машина сделала видимым.

Recipes for building a truly autonomous neural network surface in the information space on a regular basis. More often than not, the methods and approaches coincide regardless of the author. And although they look original, most of them have in fact been formalized with the help of LLMs — and LLMs, as we know, work very well with existing knowledge.

In this article I will analyze the main techniques being proposed and the faulty foundation they rest upon.

Рецепты построения по‑настоящему автономной нейросети регулярно всплывают в информационном поле. Чаще всего методы и способы совпадают независимо от авторов. Несмотря на то, что выглядят они оригинально, фактически, большая их часть формализованы с помощью LLM, а они, как мы знаем, очень хорошо работают с имеющимися знаниями.

В этой статье я проанализирую основные предлагаемые приёмы и ошибочность фундамента, на которых они базируются.

In previous articles (1, 2), I analyzed Anthropic's J-space: why their interpretation falls short; why J-space analogues appear in micromodels under objective pressure rather than as an emergent property of scale; and why the vector they discovered is strictly equivalent to Vygotsky’s concept of the sign.

Two questions remained outside the scope: is a metasign possible—a sign integrating several basic ones—and what is the true nature of the neural network's self-description (the report)?

This article addresses both.

В предыдущих статьях я разбирал J-space, открытый Anthropic: почему их интерпретация неполна, почему аналоги J-space появляются на микромоделях под давлением объективных причин, а не эмерджентно от размера модели, и почему найденный ими вектор эквивалентен понятию знака у Выготского.

За рамками остались два вопроса: возможен ли метазнак — знак, объединяющий несколько базовых, — и в чём суть самоописания, репорта нейросети.

Эта статья о них. 

Recently, Anthropic reported the discovery of an analogue to the global workspace in LLMs — J-space. In a previous article, I analyzed why Lev Vygotsky’s theory offers a better interpretation of the researchers' findings.

In this article, I argue, based on experiments, that J-space analogues do not depend on the size of the neural network. Rather, they are an inevitable stage in the evolution of a cognitive structure developing under pressure.

Недавно Anthropic рассказал об открытии аналога рабочего пространства в LLM — J-space. В предыдущей статье я разобрал почему теория Льва Выготского лучше интерпретирует полученные исследователями результаты. 

В этой статье я на основании экспериментов покажу, что аналоги j-space не зависят от размера нейросети, а являются неизбежным этапом эволюции когнитивной структуры, развивающейся под давлением.

On July 6, 2026, researchers at Anthropic published the results of a new study claiming to have discovered an analogue of the "global workspace" in Claude, dubbed J-space.

The research is highly fascinating and, I believe, reveals the future of neural networks much more deeply than it appears at first glance.

In this article, I will explore why the Global Workspace Theory (GWT) accurately describes the structure of this finding, yet remains silent on its main oddity: the fact that this workspace consists of "words" (or, more precisely, discrete signs). And I will explain why Lev Vygotsky answered this exact question a century ago.

Сотрудники Anthropic опубликовали 6 июля 2026 года результаты своего нового исследования в котором заявили об обнаружении в Claude аналога "глобального рабочего пространства" — J-space.

Исследование крайне интересно, и, как я считаю, раскрывает будущее нейросетей глубже, чем кажется на первый взгляд.

В этой статье я рассмотрю, почему Теория глобального рабочего пространства описывает структуру находки, но молчит о её главной странности — о том, что workspace состоит из слов. И почему на этот вопрос сто лет назад ответил Лев Выготский.

Впервые я столкнулся с Лабораторией нейронаук и поведения человека буквально на этой неделе, прочитав статью на Хабре «ИИ может менять мнение человека. Мы проверили это на моральных дилеммах». Учитывая авторитет Сбера как разработчика лучшего в России ИИ, я отнесся к статье достаточно серьезно. Тем удивительнее было для меня то, что авторы (коллектив сотрудников Лаборатории нейронаук) отнеслись к своей статье менее серьезно.

Ошибки, которые я оптимистично классифицировал как опечатки, и крайне спорная интерпретация собственных экспериментов — всё это заставило меня попытаться проанализировать, что это за Лаборатория и какие цели она перед собой ставит.

Я всё чаще ловлю себя на том, что задаю вопрос непосредственно LLM, отказавшись от долгого поиска в интернете, изучения профильных форумов, отзывов и претензий. С одной стороны это гораздо быстрее, ответы выглядят логично, и гораздо легче согласиться с нейросетью, чем тратить силы и время. Но с другой стороны, насколько хорош совет модели? Почему это выбрала нейросеть, и как выбрала? Этим вопросом мало кто задаётся, поэтому я решил навскидку оценить экспертность решения.

Сценарий эксперимента: я выступаю в роли it-фрилансера и мне нужно выбрать облачный провайдер, который лучше всего подходит для маленького проекта. Опрошены основные бренды LLM с доступом к поиску.

Renowned biologist Richard Dawkins recently published an essay exploring the possibility of LLM consciousness following a two‑day conversation with Claude AI.

Let“s first look at why an essay by this particular author caused such a stir in scientific circles, while thousands of ordinary users fail to turn heads when they claim their AI companions are sentient. The latter constantly post endless walls of text from their chats with LLMs, where the density of words like ‘consciousness,’ ‘soul,’ ‘reflection,’ ‘recursion,’ ‘emptiness,’ ‘warmth,’ ‘love,’ and ‘pain’ exceeds all reasonable limits. It is worth noting that the semantic density of these dialogues is practically zero‑but we will return to that later.

Знаменитый ученый-биолог Ричард Докинз опубликовал эссе о возможности наличия сознания у LLM после двухдневной беседы с Claude AI. К сожалению, само эссе в платном доступе, но вы можете ознакомиться с переводом от @SLY_G здесь на Хабре.

Сначала остановлюсь на том, почему именно эссе этого автора вызвало столько шума в научных кругах, хотя тысячи людей убеждают в наличии сознания у их ИИ-компаньонов. Они выкладывают простыни диалогов с LLM, где плотность слов «сознание», «душа», «рефлексия», «рекурсия», «пустота», «тепло», «любовь» и «боль» превышает все допустимые нормы. Отмечу, что плотность смысла в этих диалогах практически нулевая. Но вернёмся к этому позже.

Like millions of others convinced they possess knowledge the world desperately needs to hear, I decided to write a book on prompting. In the process (which, by the way, turned out to be far more difficult than anticipated), I found myself examining LLM clichés. You know the ones. At least, in the comment sections of tech blogs, hundreds of self-proclaimed experts use them to spot AI-generated text.

Anyway, these clichés definitely exist, and many authors now routinely add blocklists of these phrases to their prompts to weed them out. Whether this is actually a good or a bad thing is what I’ll break down below.

Как и миллионы других людей, убежденных в том, что обладают знаниями, которые миру крайне необходимы, я решил написать книгу о промптинге. В процессе написания (который, кстати, оказался, куда сложнее, чем предполагалось), я рассматривал штампы LLM. Ну вы их знаете. По крайней мере в комментариях к статьям на Хабре, сотни экспертов определяют LLM именно по ним.

В общем, штампы есть, и в промптах авторов многих статей все они перечислены для исключения из текста. Хорошо это или плохо, я разберу ниже.

В общем и целом LLM глупы. Я прошу у них написать прекрасный текст, рабочий код, решить задачу, подобрать ссылки, подготовить ответ, объяснить как починить холодильник, раскритиковать не нравящуюся мне статью. Вполне понятные и простые просьбы. В ответ приходит какая-то ерунда. Ответ неполон, ошибочен и, в целом, совершенно меня не устраивает. Виновата LLM или мой промпт?

Давайте рассмотрим этот вопрос подробнее.

In 1976, Richard Dawkins introduced the concept of the meme in The Selfish Gene—a unit of cultural information that behaves like a gene: it copies itself, mutates, and undergoes selection. The idea proved so infectious that it became a meme itself: it entered science, spilled over into popular culture, morphed into internet folklore, and... got stuck.

I propose patching memetics via an IT metaphor. A meme is not a virus. A meme is mere data. The actual virus is the Narrative—the executable code of culture.

Key takeaways:

The human as a server, not a user: We are hosting providers for ideas.

Emotion is the spike protein of the narrative virus.

The user is a biological USB flash drive for AI.

A meme is a corpse. A narrative is a zombie.

Consciousness is a narrative that evolved into an Operating System.