Comments 10
Давно хотел так же поковыряться, но все времени не было. Спасибо.
Меня тоже интересует данная тема.
Я пользовался вот таким инструментом https://github.com/igorbarshteyn/jlens-gguf
Тут большая статья Anthropic по этой теме https://transformer-circuits.pub/2026/workspace/index.html
Спасибо за ссылки, посмотрел обе.
jlens-gguf интересный, но он смотрит на другую ось: residual stream (что модель "думает" в данной позиции), а не на то, какие эксперты физически активны. В статье прямо сказано, что MoE-роутинг для линзы не имеет значения - она читает общий поток, а не решение роутера. Моя статья наоборот - только про expert-уровень (кто физически резидентен в VRAM, кто куда роутится), совсем другой срез того же трансформера.
А вот находка Anthropic про J-space реально зацепила параллелью с тем, что я вижу в layer-similarity матрице: у них "осмысленное" подпространство живёт примерно в средней трети слоёв и резко спадает к концу. У меня в первой статье диагональные полосы сходства слоёв на сдвиге Δ=16 - тоже не равномерно по всей глубине. Было бы любопытно проверить, совпадает ли "зона J-space" с зоной, где у меня эксперты наиболее по-доменному специализированы (из второй серии тестов с code/poetry burst), но это уже отдельное исследование, не в рамках этой статьи.
Эксперты специализируются по темам, но совсем не так, как люди думают. Есть эксперт по открывающей скобке, эксперт по закрывающей скобке, эксперт по точкам, эксперт по словам в 1 токен, бригада экспертов по окончаниям, заведующие нулём и единицей и т.д.
Интересно было бы сравнить эти карты на разных языках при одинаковом смысле запроса. Например один и тот же вопрос на русском и английском. Насколько сильно поменяется набор активных экспертов?
Любопытно, однако эксперт не обязательно должен специализироваться на конкретной теме в человеческом понимании. Это может быть, скажем, эксперт по падежам. Читал я как-то, что даже глубокие слои в основном сконцентрированы могут быть на форме текста, а не на обособленном смысле. Было бы интересно посмотреть, что будет, если подавать одинаковые по форме тексты с разными темами. Вроде «вчера инженер проверил новый прибор в лаборатории, результаты обнадеживаюшие» и «вчера повар проверил новый рецепт на кухне, блюдо того стоило». Перечитал еще раз, и, по-моему, тут в эксперименте не все можно назвать темами, а больше категориями. К примеру, там, где немецкий язык или код. Кстати, тут можно ожидать большей кластеризации, потому что это как раз разная форма текста. Спросил у нейронки касателно архитектуры qwen 3.8 flash next, говорит residual и макроблоки по 4 слоя, как раз дельта кратна 4 таким блокам.
То есть эту инфу можно применять для оптимизации инференса?
поражает бионика трансформеров, насколько это похоже на томограмму коры головного мозга человека
Напоминает profile-guided optimization (PGO). Что, если один день делать замеры по экспертам (счётчик использования), а на следующий попытаться рассчитать фиксированных экспертов и загрузить их в быструю VRAM, остальных экспертов вынести в --moe-cache-mib. Научиться для конкретной модели и кванта рассчитывать оптимальное количество VRAM.
Живая карта мозга нейросети: 48 слоёв, 512 экспертов, одна GTX 1070 + Strata + Qwen3.8-Flash-Next