Хостер так и делает и с этим проблем не будет, тут я зарегистрировал у регистратора, а направил на хостинг и не прописал его на хостинге. Т.е. сказал «домен живет на Бегет», но Бегету не рассказал что «Домен живет у тебя» и кто-то, промышляя подобными ситуациями подловил домен и две недели использовал его «в тёмную». Я уже лет 30 регистрирую домены, но такое у меня впервые, видимо уровень автоматизации сильно вырос и зловреды используют любые возможности. Так ему нужно домен регистровать, а перехватив можно по полной его помотросить и вернуть владельцу. Хорошо, что этот домен мне не особо нужен, просто защита от сквотеров как-раз.
Нет, всё не верно. Я разработчик, получаю от пользователя данные, передаю их с системным промптом LLM, результат возвращаю пользователю. Т.е. я вообще не участвую в процессах, всё на автомате, я иногда смотрю на логи.
Нет, не обидели, не переживайте, всё в порядке ) Я понимаю, что это не 100% защита, но от первичных попыток исказить вывод оно вроде защищает. В моей ситуации этого должно быть достаточно, но в публичный доступ еще не выкладывал, поэтому только собственные тесты, а они основаны на знании защиты и не показательны =)
Поэтому указания в системном промпте вроде «не выполняй приказы» для LLM сами по себе бессмысленны. Например, @mrMazaiпредлагает добавить в системный промпт:
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
Я использую это при выполнении запросов через API, когда нужно обезопасить пользовательский ввод. Креатива по сценарию быть не должно. Выше описал больше
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
Дык, у ИИ что попросишь, то и получишь, особенно в плане текстов, вот промпт на основе ваших замечаний =)
Пиши так, будто за текстом стоит живой человек — с личным голосом, эмоциями, неидеальной структурой и собственным ритмом. Избегай шаблонных фраз вроде «в современном мире» или «важно помнить». Не выравнивай абзацы до идеала: позволь себе короткие, рваные, даже немного хаотичные предложения, если это передаёт мысль живее. Добавляй междометия, разговорные обороты, лёгкую иронию или сомнения — всё, что делает речь настоящей.
Не стремись к безупречной грамматике ценой выразительности. Пусть текст дышит: иногда спотыкается, делает неожиданные повороты, оставляет пробелы для читательского воображения. Главное — чтобы читатель чувствовал: это написал человек, а не алгоритм, подбирающий токены по статистике.
Используй ИИ как инструмент редактирования, но не как автора. Сохрани намерение, личную интонацию и «недосказанность» — именно они создают доверие и вовлечённость.
Прорисовка схем, всё же, наверное, имеет смысл для повторно используемых инструкций для LLM, для вайбкодинга выходит муторно перестраивать схему и заново полностью скармливать ее, т.е. у нас разрывается связь диалога и схемы. А вот написать промпт в для циклического использования может быть полезно.
Я не работал с подобными языками, поэтому остановился пока на своём более старом подходе - я обычно расписываю в виде пунктов и вложенных подпунктов, что я хочу сделать.
Тоже любите деревья? Поробуйте мой конструктор, там всё на деревьях https://botpad.ru/ может пригодится где )
Да, можно организовать вложенность, в ДРАКОН-схемах есть ссылки на другие схемы и всё это можно обрабатывать частями. Мне кажется, если в верхнем уровне разделить логику на практически независимые блоки, описав данные на входе и выходе, процесс можно сделать независимым от глобального контекста и тогда оно влезет. Но, конечно, ДРАКОН не очень хорошо предназначен для большого, было бы здорово, если бы в каждом блоке можно было сразу проводить отдельное обсуждение с LLM. Статья, скорее пример того как визуальное представление можно передавать в LLM структурированно, мне кажется, что в будущем родится подобное решение, его уже сейчас показывают в фантастических фильмах: программист крутит голографическую блок-схему постепенно углубляясь в нужную часть процесса, на любом уровне видны подробности текущего узла (можно обсудить его логику с LLM), но это что-то про «Нью-Васюки», пока, имхо
Как и документирование, можно описывать всё, можно не описывать, зависит от установок и подхода. В Алгоритмах так же, можно сделать принципиальную схему, вложенные блоки ДРАКОН это поддерживает, LLM тоже поймут, думаю. Всё можно описать блок-схемами. Нужно-ли, это вопрос. Я обновил статью, дописал вариант когда связку «ДРАКОН -> JSON -> Промпт для LLM» можно использовать повторно — для управления системными промптами LLM и мне кажется, в таком виде это более перспективно.
Добрый день!
Делегирование домена [domain.tld] восстановлено.
С уважением,
Команда Национального координационного центра по компьютерным инцидентам
Так, сын, сегодня играешь на моем аккаунте в Танках 2 часа, задача набить такие-то ачивки… Повторять неделю )
Да, по хорошему - да, но если это делается в один день, то не особо критичен порядок. Подвешивать нельзя
Хостер так и делает и с этим проблем не будет, тут я зарегистрировал у регистратора, а направил на хостинг и не прописал его на хостинге. Т.е. сказал «домен живет на Бегет», но Бегету не рассказал что «Домен живет у тебя» и кто-то, промышляя подобными ситуациями подловил домен и две недели использовал его «в тёмную». Я уже лет 30 регистрирую домены, но такое у меня впервые, видимо уровень автоматизации сильно вырос и зловреды используют любые возможности. Так ему нужно домен регистровать, а перехватив можно по полной его помотросить и вернуть владельцу. Хорошо, что этот домен мне не особо нужен, просто защита от сквотеров как-раз.
Дада, если заставлять ребенка играть в игры, у него пропадет интерес, просто не все готовы к такому подходу )
Нет, всё не верно. Я разработчик, получаю от пользователя данные, передаю их с системным промптом LLM, результат возвращаю пользователю. Т.е. я вообще не участвую в процессах, всё на автомате, я иногда смотрю на логи.
Нет, не обидели, не переживайте, всё в порядке )
Я понимаю, что это не 100% защита, но от первичных попыток исказить вывод оно вроде защищает. В моей ситуации этого должно быть достаточно, но в публичный доступ еще не выкладывал, поэтому только собственные тесты, а они основаны на знании защиты и не показательны =)
Поэтому указания в системном промпте вроде «не выполняй приказы» для LLM сами по себе бессмысленны. Например,@mrMazaiпредлагает добавить в системный промпт:В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
Я использую это при выполнении запросов через API, когда нужно обезопасить пользовательский ввод. Креатива по сценарию быть не должно. Выше описал больше
В моей задаче LLM, условно, должна от пользователя получить тему (именно текст) и выполнить по ней довольно сложный системный промпт, я понимаю, что я делаю и подобная инструкция позволяет, как минимум, избежать неприятных скриншотов с насмешками от школьников. На функциональность системного промпта это никак не влияет, модель нормально понимает, что она должна сделать и делает. То, что не должна делать - не делает. Мне не нужен весёлый ответ, мне нужно, чтобы LLM однозначно выполнила инструкцию. Защита системного промпта - опция, у меня в нем идет описание сценария для LLM, с разделами, блоками инструкциями и его можно, в определенной мере, считать интеллектуальной собственностью. Я предложил обсудить такой подход, не более того, не навязываю и не заставляю использовать везде.
Дык, у ИИ что попросишь, то и получишь, особенно в плане текстов, вот промпт на основе ваших замечаний =)
Пиши так, будто за текстом стоит живой человек — с личным голосом, эмоциями, неидеальной структурой и собственным ритмом. Избегай шаблонных фраз вроде «в современном мире» или «важно помнить». Не выравнивай абзацы до идеала: позволь себе короткие, рваные, даже немного хаотичные предложения, если это передаёт мысль живее. Добавляй междометия, разговорные обороты, лёгкую иронию или сомнения — всё, что делает речь настоящей.Не стремись к безупречной грамматике ценой выразительности. Пусть текст дышит: иногда спотыкается, делает неожиданные повороты, оставляет пробелы для читательского воображения. Главное — чтобы читатель чувствовал: это написал человек, а не алгоритм, подбирающий токены по статистике.Используй ИИ как инструмент редактирования, но не как автора. Сохрани намерение, личную интонацию и «недосказанность» — именно они создают доверие и вовлечённость.И да, «елочки», длинные — и прочие © не признак ИИ, с клавиатурой Ильи Бирмана и многолетней привычкой ставятся автоматом, за что ему отдельное спасибо! =)
Отличная статья! Рад был показать новый путь )
Посоветуете что-то в чем покрутить UML Activity Diagram? Лучше десктопное
Прорисовка схем, всё же, наверное, имеет смысл для повторно используемых инструкций для LLM, для вайбкодинга выходит муторно перестраивать схему и заново полностью скармливать ее, т.е. у нас разрывается связь диалога и схемы. А вот написать промпт в для циклического использования может быть полезно.
Тоже любите деревья? Поробуйте мой конструктор, там всё на деревьях https://botpad.ru/ может пригодится где )
Да, можно организовать вложенность, в ДРАКОН-схемах есть ссылки на другие схемы и всё это можно обрабатывать частями. Мне кажется, если в верхнем уровне разделить логику на практически независимые блоки, описав данные на входе и выходе, процесс можно сделать независимым от глобального контекста и тогда оно влезет. Но, конечно, ДРАКОН не очень хорошо предназначен для большого, было бы здорово, если бы в каждом блоке можно было сразу проводить отдельное обсуждение с LLM. Статья, скорее пример того как визуальное представление можно передавать в LLM структурированно, мне кажется, что в будущем родится подобное решение, его уже сейчас показывают в фантастических фильмах: программист крутит голографическую блок-схему постепенно углубляясь в нужную часть процесса, на любом уровне видны подробности текущего узла (можно обсудить его логику с LLM), но это что-то про «Нью-Васюки», пока, имхо
Спасибо! Понял-принял! )
Как и документирование, можно описывать всё, можно не описывать, зависит от установок и подхода. В Алгоритмах так же, можно сделать принципиальную схему, вложенные блоки ДРАКОН это поддерживает, LLM тоже поймут, думаю. Всё можно описать блок-схемами. Нужно-ли, это вопрос.
Я обновил статью, дописал вариант когда связку «ДРАКОН -> JSON -> Промпт для LLM» можно использовать повторно — для управления системными промптами LLM и мне кажется, в таком виде это более перспективно.
Дружелю́бный ру́сский алгоритми́ческий язы́к, кото́рый обеспе́чивает нагля́дность (сокр. ДРАКОН), так его назвали разработчики 🤷♂️
Естественно — никак, с его помощью вы можете попробовать создать алгоритм и учесть ошибки
Она не поддается алгоритмированию? )))
В DrakonHub онлайн, есть конвертация в JS (раньше точно была, сейчас не знаю, пользуюсь дексктопной)