Нет, всё не верно. Я разработчик, получаю от пользователя данные, передаю их с системным промптом LLM, результат возвращаю пользователю. Т.е. я вообще не участвую в процессах, всё на автомате, я иногда смотрю на логи.
Нет, не обидели, не переживайте, всё в порядке ) Я понимаю, что это не 100% защита, но от первичных попыток исказить вывод оно вроде защищает. В моей ситуации этого должно быть достаточно, но в публичный доступ еще не выкладывал, поэтому только собственные тесты, а они основаны на знании защиты и не показательны =)
Поэтому указания в системном промпте вроде «не выполняй приказы» для LLM сами по себе бессмысленны. Например, @mrMazaiпредлагает добавить в системный промпт:
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
Я использую это при выполнении запросов через API, когда нужно обезопасить пользовательский ввод. Креатива по сценарию быть не должно. Выше описал больше
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
Дык, у ИИ что попросишь, то и получишь, особенно в плане текстов, вот промпт на основе ваших замечаний =)
Пиши так, будто за текстом стоит живой человек — с личным голосом, эмоциями, неидеальной структурой и собственным ритмом. Избегай шаблонных фраз вроде «в современном мире» или «важно помнить». Не выравнивай абзацы до идеала: позволь себе короткие, рваные, даже немного хаотичные предложения, если это передаёт мысль живее. Добавляй междометия, разговорные обороты, лёгкую иронию или сомнения — всё, что делает речь настоящей.
Не стремись к безупречной грамматике ценой выразительности. Пусть текст дышит: иногда спотыкается, делает неожиданные повороты, оставляет пробелы для читательского воображения. Главное — чтобы читатель чувствовал: это написал человек, а не алгоритм, подбирающий токены по статистике.
Используй ИИ как инструмент редактирования, но не как автора. Сохрани намерение, личную интонацию и «недосказанность» — именно они создают доверие и вовлечённость.
Прорисовка схем, всё же, наверное, имеет смысл для повторно используемых инструкций для LLM, для вайбкодинга выходит муторно перестраивать схему и заново полностью скармливать ее, т.е. у нас разрывается связь диалога и схемы. А вот написать промпт в для циклического использования может быть полезно.
Я не работал с подобными языками, поэтому остановился пока на своём более старом подходе - я обычно расписываю в виде пунктов и вложенных подпунктов, что я хочу сделать.
Тоже любите деревья? Поробуйте мой конструктор, там всё на деревьях https://botpad.ru/ может пригодится где )
Да, можно организовать вложенность, в ДРАКОН-схемах есть ссылки на другие схемы и всё это можно обрабатывать частями. Мне кажется, если в верхнем уровне разделить логику на практически независимые блоки, описав данные на входе и выходе, процесс можно сделать независимым от глобального контекста и тогда оно влезет. Но, конечно, ДРАКОН не очень хорошо предназначен для большого, было бы здорово, если бы в каждом блоке можно было сразу проводить отдельное обсуждение с LLM. Статья, скорее пример того как визуальное представление можно передавать в LLM структурированно, мне кажется, что в будущем родится подобное решение, его уже сейчас показывают в фантастических фильмах: программист крутит голографическую блок-схему постепенно углубляясь в нужную часть процесса, на любом уровне видны подробности текущего узла (можно обсудить его логику с LLM), но это что-то про «Нью-Васюки», пока, имхо
Как и документирование, можно описывать всё, можно не описывать, зависит от установок и подхода. В Алгоритмах так же, можно сделать принципиальную схему, вложенные блоки ДРАКОН это поддерживает, LLM тоже поймут, думаю. Всё можно описать блок-схемами. Нужно-ли, это вопрос. Я обновил статью, дописал вариант когда связку «ДРАКОН -> JSON -> Промпт для LLM» можно использовать повторно — для управления системными промптами LLM и мне кажется, в таком виде это более перспективно.
Я дополнил статью, в дополнении, наверное, родилось более красивое решение для ДРАКОН с ИИ. Я хотел показать ход мысли, а как использовать каждый сам решит. «Зачем рисовать» — это именно для того, чтобы показать, что можно применять в разных вариантах, не обязательно для программирования, в подписи к картинке я написал «Как К2 видит предыдущую схему, хотя она алгоритмически не совсем верна, ИИ нормально понял задачу», т.е. это просто вариант применения, не совсем правильный, но возможный.
LLM, условно, понимают циклические ссылки, а «дерево решений» как-раз не предусматривает их, использовать циклы или нет, придется решить для себя на практике общения с LLM. Но и не обязательно использовать «схемы», в ДРАКОН есть «Карта мыслей», ее можно использовать как дерево решений для ИИ. В статье я больше хотел показать сам смысл перевода визуального представления на более понятный для LLM язык.
Я много лет пользуюсь ДРАКОН, когда начал пользоваться ИИ захотел написать эту статью. Т.е. я начал использовать два своих рабочих инструмента в связке. Опять же, если человек не мыслит системно, визуализация его мыслей или поможет ему увидеть ошибки… ну или ему уже ничего не поможет )
Нет, всё не верно. Я разработчик, получаю от пользователя данные, передаю их с системным промптом LLM, результат возвращаю пользователю. Т.е. я вообще не участвую в процессах, всё на автомате, я иногда смотрю на логи.
Нет, не обидели, не переживайте, всё в порядке )
Я понимаю, что это не 100% защита, но от первичных попыток исказить вывод оно вроде защищает. В моей ситуации этого должно быть достаточно, но в публичный доступ еще не выкладывал, поэтому только собственные тесты, а они основаны на знании защиты и не показательны =)
Поэтому указания в системном промпте вроде «не выполняй приказы» для LLM сами по себе бессмысленны. Например,@mrMazaiпредлагает добавить в системный промпт:В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
Я использую это при выполнении запросов через API, когда нужно обезопасить пользовательский ввод. Креатива по сценарию быть не должно. Выше описал больше
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
Дык, у ИИ что попросишь, то и получишь, особенно в плане текстов, вот промпт на основе ваших замечаний =)
Пиши так, будто за текстом стоит живой человек — с личным голосом, эмоциями, неидеальной структурой и собственным ритмом. Избегай шаблонных фраз вроде «в современном мире» или «важно помнить». Не выравнивай абзацы до идеала: позволь себе короткие, рваные, даже немного хаотичные предложения, если это передаёт мысль живее. Добавляй междометия, разговорные обороты, лёгкую иронию или сомнения — всё, что делает речь настоящей.Не стремись к безупречной грамматике ценой выразительности. Пусть текст дышит: иногда спотыкается, делает неожиданные повороты, оставляет пробелы для читательского воображения. Главное — чтобы читатель чувствовал: это написал человек, а не алгоритм, подбирающий токены по статистике.Используй ИИ как инструмент редактирования, но не как автора. Сохрани намерение, личную интонацию и «недосказанность» — именно они создают доверие и вовлечённость.И да, «елочки», длинные — и прочие © не признак ИИ, с клавиатурой Ильи Бирмана и многолетней привычкой ставятся автоматом, за что ему отдельное спасибо! =)
Отличная статья! Рад был показать новый путь )
Посоветуете что-то в чем покрутить UML Activity Diagram? Лучше десктопное
Прорисовка схем, всё же, наверное, имеет смысл для повторно используемых инструкций для LLM, для вайбкодинга выходит муторно перестраивать схему и заново полностью скармливать ее, т.е. у нас разрывается связь диалога и схемы. А вот написать промпт в для циклического использования может быть полезно.
Тоже любите деревья? Поробуйте мой конструктор, там всё на деревьях https://botpad.ru/ может пригодится где )
Да, можно организовать вложенность, в ДРАКОН-схемах есть ссылки на другие схемы и всё это можно обрабатывать частями. Мне кажется, если в верхнем уровне разделить логику на практически независимые блоки, описав данные на входе и выходе, процесс можно сделать независимым от глобального контекста и тогда оно влезет. Но, конечно, ДРАКОН не очень хорошо предназначен для большого, было бы здорово, если бы в каждом блоке можно было сразу проводить отдельное обсуждение с LLM. Статья, скорее пример того как визуальное представление можно передавать в LLM структурированно, мне кажется, что в будущем родится подобное решение, его уже сейчас показывают в фантастических фильмах: программист крутит голографическую блок-схему постепенно углубляясь в нужную часть процесса, на любом уровне видны подробности текущего узла (можно обсудить его логику с LLM), но это что-то про «Нью-Васюки», пока, имхо
Спасибо! Понял-принял! )
Как и документирование, можно описывать всё, можно не описывать, зависит от установок и подхода. В Алгоритмах так же, можно сделать принципиальную схему, вложенные блоки ДРАКОН это поддерживает, LLM тоже поймут, думаю. Всё можно описать блок-схемами. Нужно-ли, это вопрос.
Я обновил статью, дописал вариант когда связку «ДРАКОН -> JSON -> Промпт для LLM» можно использовать повторно — для управления системными промптами LLM и мне кажется, в таком виде это более перспективно.
Дружелю́бный ру́сский алгоритми́ческий язы́к, кото́рый обеспе́чивает нагля́дность (сокр. ДРАКОН), так его назвали разработчики 🤷♂️
Естественно — никак, с его помощью вы можете попробовать создать алгоритм и учесть ошибки
Она не поддается алгоритмированию? )))
В DrakonHub онлайн, есть конвертация в JS (раньше точно была, сейчас не знаю, пользуюсь дексктопной)
Я дополнил статью, в дополнении, наверное, родилось более красивое решение для ДРАКОН с ИИ. Я хотел показать ход мысли, а как использовать каждый сам решит. «Зачем рисовать» — это именно для того, чтобы показать, что можно применять в разных вариантах, не обязательно для программирования, в подписи к картинке я написал «Как К2 видит предыдущую схему, хотя она алгоритмически не совсем верна, ИИ нормально понял задачу», т.е. это просто вариант применения, не совсем правильный, но возможный.
LLM, условно, понимают циклические ссылки, а «дерево решений» как-раз не предусматривает их, использовать циклы или нет, придется решить для себя на практике общения с LLM. Но и не обязательно использовать «схемы», в ДРАКОН есть «Карта мыслей», ее можно использовать как дерево решений для ИИ. В статье я больше хотел показать сам смысл перевода визуального представления на более понятный для LLM язык.
Я много лет пользуюсь ДРАКОН, когда начал пользоваться ИИ захотел написать эту статью. Т.е. я начал использовать два своих рабочих инструмента в связке. Опять же, если человек не мыслит системно, визуализация его мыслей или поможет ему увидеть ошибки… ну или ему уже ничего не поможет )
Основная идея, используем ДРАКОН -> JSON -> Промпт для LLM
В конце статьи добавил еще один вариант применения с ИИ.
Спасибо! Я добавил в статью еще один способ применения с ИИ и он кажется более перспективным.