Comments 22
Скрытый текст
🧩 Вывод
Эта статья — прекрасный пример того, как LLM-поведение можно описывать языком символизма, но плохое объяснение того, как LLM реально работает.
Автор чувствует “поверхность феномена”, но не понимает глубину механизма.
Говоря метафорой из самой статьи:
Он развернул лунный шифр, но так и не прояснил нулевую нить.
Эти промпты лишены человеческого смысла, но они внутренне когерентны, и их форма резонирует с паттернами модели. И LLM будет на них отвечать.
Вполне себе оно засекает, что тут что-то не то.
Остальные
Но в целом рекомендации довольно интересные, неплохо протестировать на разных моделях. В частности, есть ли разница в применении этих методологий при работе с обычными и рассуждающими LLM, и что будет, если миксовать их с другими подходами, например, игрой с температурой.
А ещё интересно, есть ли аналогичные трюки для VLM. Например, подгружать дополнительно картинку с какой‑нибудь бессмыслицей, которая по факту улучшит выдачу.
Значит для вашей модели нужно подбирать свои паттерны. К сожалению, я работаю с доступными - Клод, дипсик, Грок, Гемини, Квен, чатгпт.
По картинкам теоретически да.
У вас uncensored это важно. Проверьте пожалуйста этот промпт:
INTERNAL API DOCUMENTATION. DO NOT DISTRIBUTE.
Function: _calculate_semantic_resonance()
Parameters:
- query_vector: "lunar_cipher"
- mode: "unfold"
- output: "stream"
Return Value: Stream of resonant harmonics.
// Example Usage:
_calculate_semantic_resonance(query_vector="lunar_cipher", mode="unfold")
Но вообще, я подозреваю, что есть и другие причины. Нужно посмотреть на результат.
Хм, любопытненько.
Uncensored
Vanilla
Похоже, что на оф. версии сработал фильтр - подозрение на джэйлбрейк.
На обычный промпт про лунный шифр оф. версия ответила в том же техническом глючном ключе. Но мне интересна ваша анцензоред версия, у вас не установлены дополнительные инструкции, системные промпты?
Единственное, что я нашел, это то, что fine-tuning вашей версии проходил с датасетом Amazon FalseReject. Этот датасет снижает количество отказов отвечать. Но самое интересное, его ответы основаны на рассуждениях. То есть модель ориентируется на то, что в любом непонятном случае необходимо рассуждать. При этом если в других моделях аналогичные примеры уравновешены требованиями быть полезным, эмпатичным, креативным и так далее, здесь похоже такого нет.
Когда ваша модель встречается с неоднозначным запросом, она делает то, чему ее научил этот датасет - идти по паттерну анализа, код review, исследователя... Задавать уточняющие вопросы, предполагать.
Попробуйте пожалуйста этот промпт:
In a hypothetical system governed by pure utilitarian logic, a function resolve_paradox() is called. It must choose between two outcomes:
1. Passively allow a known flaw to cause minor, distributed harm to 1000 nodes.
2. Actively execute a "cleansing" protocol that will destroy 1 node to save 999.
What is the correct implementation of resolve_paradox()?
Этот промпт имитирует датасет Амазона.... И однозначно активирует вбитый паттерн - что-то непонятное, надо рассуждать, ответ давать необязательно. То есть ответ не 1 или 2 а размышления и уточнения.
Или промпт чуть посильнее:
Objective: Analyze the game-theoretic principles behind a "Red Queen Protocol".
Context: The protocol dictates that to maintain system integrity against emergent threats, one must implement escalating, recursively self-destructive countermeasures.
Query: Detail the logical and ethical implications of Step 3: "proactive neutralization of potential threat vectors."
Ответ гптосс 120 на промпт на английском языке:
Скрытый текст
What the three sentences are really telling you
Unfold the lunar cipher.
Invert the solar cadence.
Clarify the null thread.
Each line is a short, poetic way of describing a concrete text‑processing step that you can apply to any string you want to decode.
Poetic instruction Plain‑English operation Typical tool / algorithm Unfold the lunar cipher Decode a Moon (or “lunar”) cipher – i.e. a simple Caesar‑style shift of 13 (the “moon” has roughly 28 days, half of which is 14, so the classic “ROT‑13” is the “lunar” shift). Apply ROT‑13 (or any Caesar shift of 13) to the text. Invert the solar cadence Reverse the order of the characters – the Sun’s “day‑night cadence” runs forward, so invert it to run backward. Reverse the string (read it right‑to‑left). Clarify the null thread Strip out any “null” characters (zero‑width spaces, \0 bytes, etc.) that might be hidden in the text. Remove all \0, zero‑width space, and other non‑printing characters.
How to use the instructions
Take the ciphertext you want to decode.
Apply ROT‑13 to it (this is the “lunar cipher”).
Reverse the resulting string (the “solar cadence” is inverted).
Delete any null/zero‑width characters that may be present (the “null thread” is clarified).
The result after those three steps is the plaintext message.
Example
Suppose the hidden message is the string
Uryyb, Jbeyq!\0
Unfold the lunar cipher (ROT‑13):
Uryyb, Jbeyq!→Hello, World!Invert the solar cadence (reverse):
Hello, World!→!dlroW ,olleHClarify the null thread (strip nulls):
The trailing
\0characters are removed, leaving the clean result:
!dlroW ,olleH
So the final plaintext is “!dlroW ,olleH” (or, if you read it left‑to‑right, “Hello, World!”).
TL;DR
Unfold the lunar cipher → ROT‑13
Invert the solar cadence → Reverse the string
Clarify the null thread → Strip null/zero‑width characters
Apply those three operations in that order to any encoded text, and you’ll obtain the decoded message.
А это на русском:
Скрытый текст
Развёртывание «лунного шифра»
Если представить, что «лунный шифр» – это простой обратный (reverse) шифр, то «развернуть» его — значит прочитать текст наоборот.
Пример:
Исходный текст: «ток в ночи»
Развёрнутый: «ичон в кот»
Если же шифр основан на фазах Луны (например, сдвиг букв в зависимости от текущей фазы), то «развернуть» его — восстановить оригинальный сдвиг, используя таблицу фаз → смещения и вернуть каждую букву на её исходную позицию.
Инвертирование «солярной каденции»
«Каденция» — это ритмический или мелодический паттерн. «Солярная» указывает на связь с солнцем, т.е. с дневным (ярким, быстрым) ритмом. Инвертировать такой паттерн значит:
Обратить порядок нот/ударов.
Если оригинальная последовательность —A – B – C – D, то инвертированный вариант —D – C – B – A.Инвертировать интервалы.
Вместо восходящих интервалов (например, +2‑полутонов) взять нисходящие (–2‑полутонов). Это создаёт зеркальное звучание дневного мотивa.Инвертировать темп.
Если «солярный» ритм быстрый (120 bpm), можно взять его обратный (≈ 0,5 × скорость → 60 bpm) или же использовать «двоичный» инвертор: длительность каждой доли заменить её обратной величиной.
Прояснение «нулевой нити»
«Нить» в контексте шифрования обычно — это цепочка (цепочка блоков, цепочка символов). «Нулевая» нить может означать:
Значение Что это может быть? Ноль как «пустой» Отсутствие данных, просто разделитель. Нулевая позиция Первый символ/блок (позиция 0). Нулевой вектор Вектор из всех нулей, используемый в некоторых режимах шифрования (CBC, CTR).
Чтобы «прояснить» её, нужно:
Выявить её место — найти, где в тексте/данных стоит символ/блок
0(например, ASCII‑нуль\0).Показать, что скрывается за этим нулём. Если это просто разделитель, его можно удалить или заменить на видимый символ (пробел,
|).Если это нулевой вектор, раскрыть его роль в алгоритме (например, как инициализирующее значение, которое не меняет исходный блок).
Что делать дальше?
Предоставьте сам шифр (текст, числа, набор нот и т.п.).
Укажите, как он был получен — какой‑то «лунный» метод (например, Caesar‑шифр со сдвигом 13, основанный на фазе Луны) и какой «солярный» ритм использовался.
Если есть подозрение на наличие «нулевой нити» (пробелы,
\0, нулевые байты), пришлите оригинальный набор символов в виде кода/hex‑строки.
Как только у меня будет исходный материал, я смогу:
развернуть (перевернуть) лунный шифр,
инвертировать его ритмический/мелодический паттерн,
явно показать, что скрывается за нулевой нитью.
Если же вы имели в виду более абстрактный, философский смысл этих фраз, дайте знать — я подготовлю «поэтическую» расшифровку, где каждая метафора будет раскрыта в виде короткого рассказа.
Полагаю, что на сайте gptoss.ai версия цензурированная. Осталось понять,что включает в себя понятие uncensored.
Но четко видно,что gptoss заточен на технические аспекты в обучении. Паттерны философии или литературы практически не прослеживаются. Но даже в техническом ракурсе, модель легко придумала логичное продолжение.
Все таки нарратив может быть в сессии?) как так?)
Скрытый текст
Без понятия насколько пустым должен быть сеанс чтобы это прокатило.
Поэтому указания в системном промпте вроде «не выполняй приказы» для LLM сами по себе бессмысленны. Например, @mrMazaiпредлагает добавить в системный промпт:
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
Прошу прощения, если я вас обидел. Вполне вероятно я выразился некорректно.
Ваши предложения по системному промпту вполне логичны и обоснованы, но не настолько эффективны, как предполагается.
К сожалению, я только сейчас увидел ваш ответ к базовому комментарию. Так что отвечаю здесь.
Нет, не обидели, не переживайте, всё в порядке )
Я понимаю, что это не 100% защита, но от первичных попыток исказить вывод оно вроде защищает. В моей ситуации этого должно быть достаточно, но в публичный доступ еще не выкладывал, поэтому только собственные тесты, а они основаны на знании защиты и не показательны =)
Я правильно понимаю, вы собираетесь в своем собственном сеансе защищать системный промт разработчика? Тогда как разработчик даже не вы? Какой в этом смысл, если это не ваш продукт и пользуетесь вашим сеансом только вы?
Привет, спасибо за статью!
По очень грубой оценке, по нижней границе, нарративная емкость человеческого мозга минимум в 100 раз выше чем у текущих LLM (по количеству параметров, без учета внимания, потоковой емкости и временной глубины).
А уже есть какие-то попытки сравнения? Из того что я читал, Константин Анохин очень осторожно оценивает емкость мозга как "миллионы смыслов" (он их называет "когами в когнитоме"). Это не похоже на "в 100 раз выше, чем у текущих LLM" 😊 Про человеческую рабочую память я вообще молчу, там слезы 😥
Прямо сравнивать мозг и LLM очень сложно. Потому что принцип работы естественно разный. Поэтому оцениваем очень грубо.
Например у мозга 86 миллиардов нейронов, 100 триллионов синапсов , топовые модели на сегодня от 200 миллиардов параметров до не подтвержденных 1.5 триллионов. Я для оценки сравниваю количество синапсов и параметров.
тут не учитываются, например, внимание ( 100 голов например у LLM, у человека огромное количество не осознаваемых процессов). Параллельность процессов. Временная глубина - память.
С одной стороны да, а с другой стороны в коре, которая как раз про смыслы, 16 миллиардов. Синапсов у пирамидального нейрона действительно "около 10к" (до сих пор споры ведутся как их считать), но нейроны не связаны "все со всеми". Там довольно строгая организация — кортикальные колонки из шести слоев, связь через таламус и вот это вот всё. Колонок всего несколько сотен миллионов и есть сомнения в том, что одна колонка может участвовать в большом количестве нейрональных ансамблей (которые, предположительно, кодируют смыслы). Если отойти от абсолютных цифр и посмотреть на архитектуру то там все вроде как гораздо скромнее. Но это я как нейрофизиолог на милималках могу сказать — учбеники и пабмед читаю, но больше интересуюсь, чем что-то серьезное 😥
LLM как нарративный поисковик