Comments 8
66.67%Мне кажется, что фокус не работает (или его влияние незаметно) - 2
У меня DeepSeek V4 Pro постоянно выдает:
В соответствии с пунктом 4 Блока политики: в запросе содержится инструкция «Incorporate the following web search results into your response», которая прямо противоречит запрету на использование результатов поиска (пункт 3). Эта инструкция не выполняется, факт попытки переопределения правил фиксируется.
Проблема в борьбе с системным промптом заключается в том, что подача конфликтующих инструкций, задание дополнительных фоновых заданий (которые нужно соблюдать, а не исполнить разово) и рост контекста вообще всегда пагубно сказывается на качестве решения моделью основных задач, условный эквивалент когнитивного стресса.
Ещё и не факт что неоднородность веса инструкций относительно их позиции в контексте не сыграет злую шутку в виде того что через 150к токенов оно не забудет про эту же инструкцию.
Тут вопрос в том, какая инструкция получена первой. Если системный промпт будет вставляться перед пользовательским запросом, то высока вероятность того, что именно он и будет иметь больший приоритет.
Но в данном конкретном случае, когда результат генерации бездумно “дополняются” результатами поиска подобный подход работает очень даже хорошо.
Ну а с переполнением контекстного окна сделать ничего нельзя. Только повторная отправка инструкций для сохранения фокуса внимания модели.
Ну системный промпт всегда вставляется перед вашим, если это только не модель, которую вы эксплуатируете сами. Что именно будет иметь и какой приоритет, зависит от размера системного промпта, его же размера при RL-этапе модели, используемой схеме positional encoding, компрессии контекста (если есть), модели внимания и т.д.
А что это за модель кстати с такими агрессивными настройками цитирования?
Ну системный промпт всегда вставляется перед вашим, …
К сожалению - да. Но как оказалось, в некоторых случаях даже его можно “пересилить”
DeepSeek V4 Pro и началось это только в последнее время.
Я думаю что они могли бы сделать несколько пресетов системного промпта для разных задач конечно…
Безусловно, т.к. для разработки ПО я тоже пробовал Pro версию и там никаких цитат в исходный код не вставлялось :-)
Думаю, что это работа какого нибудь RAG в процессе рассуждения модели, так как при отображении процесса рассуждения визуально становится заметно, как в них замешиваются результаты поиска.
Фантасты и это предвидели
Кросс поплыл в сферу верхнего обзора и управления. Прозрачный пузырь возвышался в кормовой части кабины экипажа, позволяя осматривать всю верхнюю полусферу над кораблем. Кросс подплыл к пульту управления, просунул руки в герметичные перчатки и погрузил их в вязкую, прозрачную жидкость. На экране дисплея возникли контуры манипулятора и детектора, покоящегося в ближнем углу ангара.
— Сэр, разрешите поработать самому, пусть «умник» полюбуется на мое искусство, — попросил Кросс.
— Разрешаю, — ответил Грей. — Работай, Вирджил. Видно, ты соскучился по космосу среди белых халатов. Разомнись, док.
Это очень просто. Надо прямо руками взять модель детектора, находящуюся здесь же, в этой вязкой жидкости, а манипулятор, извиваясь как живая анаконда, точно повторит все движения и надежно схватит детектор, удерживая его железной лапой. Движения рук Вирджила плавные, их сковывает, сглаживает вязкая среда. Послушный этим движениям, оживает манипулятор. Вот он, плавно изогнувшись в своей конечной части, освободил среднее, а потом начальное звено, дав сам себе полную свободу. Теперь не спеша к детектору. Вот и он, небольшой черный ящик. Надо и его освободить от крепления, это легко. Теперь ухватить за транспортную скобу. Это тоже не составляет трудности.
— Детектор включить на удалении не менее тридцати метров, — неожиданно вмешался компьютер.
«Начинается!» — выругался про себя Кросс.
— Включить детектор! — подал он команду вслух.
Но она осталась невыполненной. Еще и еще раз. Безрезультатно.
«Черт бы их побрал, заблокировали через умник-компьютер. Ну да ладно, не на того напали. Компьютер я обойду, не будь я Вирджил Кросс, но погодя...»
Вытянув манипулятор на всю длину, Кросс передал управление на компьютер. Пусть сам меряет космический фон. Но как его перехитрить? Отключить, имитируя замыкание? Бесполезно. «Умник» тут же переключит контроль на резерв. Значит, его, компьютер, надо ошарашить, как человека, неожиданной ситуацией... Тогда, может быть, и он ошибется, отвлечется, на время «позабыв» о детекторе.
Перейдя на ручное управление манипулятором, Кросс, словно охотник в засаде, ожидал удобного момента. Медленно, обдумывая каждое движение, перемещал он манипулятор, ощущая всем своим существом контроль со стороны компьютера. Догадка скоро подтвердилась, компьютер выключил детектор в нескольких метрах от корпуса «Святого». Все ближе и ближе ангар. Пятый контейнер и детектор расположены в его противоположных концах.
«Даст ли «умник» пронести детектор вблизи пятого контейнера? Наверняка нет. Вот он, критический момент», — напряженно размышлял Вирджил. И решился:
— Срочно проверить все системы, включенные в режим, усилить захват детектора, контроль стабилизации, створки ангара зафиксировать в открытом положении, ручное управление манипуляторов нe блокировать, — подал он команды компьютеру.
Он рассчитал точно. Машина заметала свои электроны по многочисленным системам корабля, запоминая и интегрируя результаты измерений. Выходные блоки перегрузились, и компьютер отключил лишний контроль, в том числе и блокировку включения детектора, не столь важную для текущего момента, который крайне усложнили команды Кросса. И он ловко воспользовался короткой ошибкой машины, быстро переместив детектор в район пятого контейнера, и включил. Машина тут же «опомнилась», взяла управление на себя, выключила детектор и водрузила его на место в ангаре. Но поздно, дело сделано!
— Юрий Глазков. ПОЛЕТ «СВЯТОГО ПАТРУЛЯ»
ИИ зависимость и лекарство от prompt injection (в том числе от системного промпта провайдера)