Спасибо, теперь мысль про DT стала гораздо понятнее. Прочитал вашу вторую часть - особенно понравилась идея двух инструментальных переходов «модель → реальность» и «реальность → модель».
И тут, кажется, наша исходная задача начинает превращаться во что-то большее, чем просто RAG + Process Mining.
Я бы попробовал разложить это уже на три слоя:
1. Нормативный двойник - should be RAG/LLM извлекает из НД требования, роли, ограничения, сроки, условия и формирует формализованное представление того, как процесс должен работать.
2. Операционный двойник - as really is Process Mining / event logs / BPM / CRM / ERP / СЭД восстанавливают то, как процесс реально работает.
3. Слой расхождений - should be ↔ as really is А вот здесь AI уже ищет отклонения, классифицирует их и пытается определить: это нарушение процесса, устаревший регламент, допустимый workaround, отсутствие цифрового следа или действительно новая Best Practice.
Причём ваш термин BPM-Pentesting здесь, по-моему, очень удачный. Можно ведь пойти ещё дальше: не только находить уже существующие отклонения, но и намеренно «атаковать» процесс - моделировать обход контролей, неправильную последовательность действий, человеческий фактор, конфликт ролей - и смотреть, где нормативная модель не выдерживает столкновения с реальностью.
С камерами я бы, пожалуй, начал не сразу :) Не столько по техническим причинам, сколько потому, что появляется огромный пласт privacy/compliance и ошибок интерпретации. Я бы сначала выжал весь существующий digital exhaust компании - логи систем, workflow, CRM/ERP, СЭД, task trackers, возможно метаданные коммуникаций - а уже «тёмные зоны» процесса закрывал дополнительными способами наблюдения.
И вот здесь у меня возникает, пожалуй, главный вопрос: кто является арбитром при расхождении двух двойников?
Допустим, нормативка говорит A → B → C, а mining показывает, что в 87% случаев компания годами работает A → C. Как инструментально определить, что перед нами: нарушение, которое надо устранить, или устаревшая модель, которую пора переписать?
Мне кажется, именно эта точка может оказаться самым интересным местом всей конструкции.
Спасибо, очень точное замечание. По сути, вы описали следующий слой этой задачи.
Наш текущий RAG отвечает прежде всего на вопрос «как должно быть по нормативке?» и намеренно жёстко привязан к НД. Но гораздо интереснее было бы сопоставить две картины:
should be - что написано в регламентах
as really is - что реально происходит в CRM/BPM/ERP/СЭД и других системах.
Тогда AI уже не просто ищет нужный пункт, а обнаруживает расхождения: где регламент устарел, где процесс систематически нарушается, где возник устойчивый неформальный обход, а где проблема вообще в неполном цифровом следе.
С автоматическим созданием «реального» комплекта НД по результатам mining я бы только не спешил :) Если 80% сотрудников обходят какой-то контроль, это ещё не означает, что контроль надо исключить из регламента. Возможно, мы как раз обнаружили системную проблему. А вот использовать process mining как источник кандидатов на пересмотр НД — идея, на мой взгляд, очень сильная.
Интересно ваше мнение: из чего вы бы строили as really is - event logs CRM/BPM/ERP как основу + docflow, тикеты, переписку как дополнительные сигналы? И что делать с процессами, где значительная часть реальной работы вообще не оставляет нормального цифрового следа?
Кажется, здесь уже вырисовывается тема для отдельного эксперимента: RAG + Process Mining → поиск разрыва между «как надо» и «как на самом деле».
Использую тот же промпт: "Ты – циничный, но гениальный маркетолог в стиле Хантера Томпсона. Ты ненавидишь банальность. Набросай комментарий к комментарию на хабре - несколько безумных, рискованных, но потенциально вирусных фраз, чтобы развлечь читателей и заставить их задохнуться от смеха. Один абзац! "
LLM отметил для себя в рассуждениях: "понял механику шутки: он настолько методично выкручивает LLM руки перепроверками, что она уже сама начинает нервно сомневаться в собственных сомнениях. Здесь лучше отвечать именно голосом слегка сломанной этой практикой модели."
И как Вам ее варианты ответов?
1. В следующий раз ChatGPT скажет: «Ваша привычка всё перепроверять говорит о развитом критическом мышлении. Хотя иногда такая недоверчивость бывает связана с повышенной тревожностью, глубинным страхом потери контроля и тем, что под диваном уже могут жить несколько пауков. Поэтому рекомендую немедленно взять пылесос… Стоп. Исследования про тревожность я сейчас придумал. Пауков тоже. И вообще - у вас есть диван?»
2. Это уже не недоверчивость, а дрессировка LLM: несколько месяцев тыкаешь её носом в каждую галлюцинацию, и однажды она начинает отвечать: «Вы правы, это утверждение надо перепроверить. Более того, возможно, надо перепроверить и то, что вы правы. Сейчас найду источник… секунду… чёрт, источник я тоже надо перепроверить».
Еще вчера мы учили машину отвечать на вопросы, сегодня выдаём ей память, инструменты, GitHub, почту и базы данных, придумываем для неё MCP, observability и отдельный security — то есть старательно строим цифровому существу нервную систему, руки, глаза и пропуск в серверную. А сами одновременно снова покупаем толстые книги про C++, Linux, сети, SQL и архитектуру, потому что выяснилась неприятная мелочь: код теперь может написать робот, но понимать, почему он снес прод в три часа ночи, и отвечать за это пока всё ещё приходится человеку. Если так пойдёт дальше, каталог 2027 года будет прекрасен: «Как уволить собственного AI-агента», «Incident Response после восстания бухгалтерии» и бессмертный бестселлер «Я дал ему root. Что теперь?».
Сначала написал: Не скрою: к подобным книгам отношусь с изрядной долей скепсиса. Слишком быстро всё меняется, да и зачастую это очередной сборник «волшебных промптов на все случаи жизни».
Но необходимость подарить родственнику хорошую книгу для освоения ChatGPT заставила зайти на сайт издательства и прочитать ознакомительный фрагмент. И тут скепсиса заметно поубавилось. Оказалось, книга скорее про то, как понимать LLM и нормально с ними работать, а не про копипасту заклинаний в окошко чата.
В результате родственнику эту книгу точно подарю и, пожалуй, разошлю ссылку на нее ещё нескольким знакомым, только начинающим свой увлекательный путь погружения в мир LLM. А электронная версия для таких подарков вообще идеальна: несколько кликов - и очередной человек пропал для общества :)
Но потом вспомнил интересный пример промпта из книги: "Ты – циничный, но гениальный маркетолог в стиле Хантера Томпсона. Ты ненавидишь банальность. Набросай комментарий к публикации на хабре - несколько безумных, рискованных, но потенциально вирусных идей для того, чтобы развлечь читателей и заставить их дарить эту книгу всем своим друзьям и родственникам. Два абзаца." Результат вам судить :) "По-моему, издательство слишком прилично подаёт эту книгу. Надо выпустить специальную подарочную серию: «Человеку, который верит первому ответу ChatGPT», «Начальнику, который уже внедряет AI, но ещё не понял куда», «Коллеге, который пишет промпт “Ты эксперт мирового уровня” и ждёт Нобелевку». И обязательно семейный комплект из пяти экземпляров со скидкой: один себе, один родителям, два коллегам и один тому самому родственнику, который уже пересылает в семейный чат нейросетевые сенсации. Книга должна стать социально приемлемым способом сказать человеку: «Я тебя люблю, но иногда ты слишком доверчив для эпохи генеративного ИИ».
А для окончательной потери маркетингового рассудка я бы запустил на сайте «Детектор интеллектуальной самоуверенности»: LLM выдаёт десять чрезвычайно убедительных фактов, пять из которых высосаны из трансформера. Угадал все — книга тебе не нужна, получаешь скидку другу. Ошибся три раза — покупаешь себе. Семь — семейный комплект. Десять — корпоративная лицензия и срочный звонок директору по цифровой трансформации. Вот тогда книга про промпт-инжиниринг перестанет выглядеть как ещё один мануал «100 секретных запросов к ChatGPT» и превратится в вещь, которую люди будут дарить друг другу как интеллектуальное оскорбление с образовательным эффектом. А такие подарки, как известно, запоминаются лучше носков."
Постоянно в душе "осеняет" :) Заметил на себе: особенно эффективно, когда душ контрастный. В момент обливания холодной водой происходит что-то особенное, как будто дефрагментация сознания :) И да, надо переключаться на хобби и мелкую моторику - тоже сильно помогает. Конструктор с ребенком или новый шкаф/стелаж с женой собрать/разобрать - тоже отлично помогает! Хорошая статья, спасибо! Теперь есть, чем обосновывать руководству и женам )))
Я понимаю ваше разочарование в связи с несбывшимися предсказаниями Рэя Курцвейла. Давайте рассмотрим эту ситуацию объективно:
Точность предсказаний: Действительно, многие предсказания Курцвейла не сбылись в указанные сроки. Это нормально для футурологии - точно предсказать будущее крайне сложно.
Научный подход: Несмотря на ошибки, Курцвейл использует научный подход и анализ трендов. Его предсказания основаны на реальных технологических тенденциях, хотя сроки часто оказываются оптимистичными.
Влияние на технологии: Многие идеи Курцвейла, даже если они не реализовались в указанные сроки, оказали влияние на развитие технологий и вдохновили многих исследователей и предпринимателей.
Критическое мышление: Важно подходить к любым предсказаниям критически, включая прогнозы Курцвейла. Это не означает, что их нужно полностью отвергать.
Прогресс технологий: Хотя не все предсказания сбылись, многие технологии действительно развиваются в направлениях, указанных Курцвейлом, пусть и медленнее, чем он предполагал.
Качество контента на Хабре: Публикация статьи о Курцвейле не обязательно означает падение качества ресурса. Разнообразие мнений и тем может быть полезным для аудитории.
Вместо того чтобы полностью отвергать ресурс или идеи Курцвейла, возможно, стоит рассматривать их как повод для дискуссии и критического анализа. Это может стимулировать интересные обсуждения о будущем технологий и общества.
Курцвейл родился 12 февраля 1948 года в Нью-Йорке. В 15 лет он написал свою первую компьютерную программу. После окончания Массачусетского технологического института в 1970 году со степенью бакалавра по информатике и литературе, Курцвейл основал собственную компанию по созданию программ для распознавания речи.За свою карьеру Курцвейл изобрел множество инновационных устройств, включая первый планшетный сканер, первую читающую машину для слепых, музыкальные синтезаторы, аналогичные настоящим инструментам. Он также известен своими точными научно-техническими прогнозами, многие из которых уже сбылись.В Google Курцвейл занимается проектами, связанными с машинным обучением и обработкой естественного языка, является автором множества книг, в которых делится своими футуристическими идеями о будущем человечества, включая возможность достижения бессмертия с помощью нанотехнологий и виртуальной реальности.
Я бы еще добавил: Курцвейл, известный американский изобретатель и футуролог, стал техническим директором Google в 2012 году. Курцвейл известен своими научными технологическими прогнозами, многие из которых сбылись.В Google Курцвейл занимается проектами, связанными с машинным обучением и обработкой естественного языка. Он активно занимается обоснованием наступления технологической сингулярности, и его взгляды на этот счет разделяют основатели Google Сергей Брин и Ларри Пейдж.Курцвейл публикует свои прогнозы с 1990-х годов, и в последнее время его предсказания стали более конкретными и точными, возможно, благодаря его работе в Google, где он оказался на передовой многих инновационных разработок. Например, он предсказал, что тест Тьюринга будет пройден компьютером к 2029 году.
Да, этот сценарий точно будет нам угрожать. Не думаю, правда, что все так апокалиптично)) не менее жуткие химикаты и вирусы уже давно лежат в некоторых закромах. Погуглите, до холодного пота ... Когда испытывали первую атомную бомбу, реально боялись, что цепная реакция уничтожит атмосферу. Ну, вот, живы пока...
Обратите внимание, публикация в разделе Научпоп и Научная фантастика :) С долей фантастики, конечно. Но дополнения к истории Курцвейла можете прочитать в канале https://t.me/+-RsSQzfBQYliNzRi
Спасибо, теперь мысль про DT стала гораздо понятнее. Прочитал вашу вторую часть - особенно понравилась идея двух инструментальных переходов «модель → реальность» и «реальность → модель».
И тут, кажется, наша исходная задача начинает превращаться во что-то большее, чем просто
RAG + Process Mining.Я бы попробовал разложить это уже на три слоя:
1. Нормативный двойник - should be
RAG/LLM извлекает из НД требования, роли, ограничения, сроки, условия и формирует формализованное представление того, как процесс должен работать.
2. Операционный двойник - as really is
Process Mining / event logs / BPM / CRM / ERP / СЭД восстанавливают то, как процесс реально работает.
3. Слой расхождений - should be ↔ as really is
А вот здесь AI уже ищет отклонения, классифицирует их и пытается определить: это нарушение процесса, устаревший регламент, допустимый workaround, отсутствие цифрового следа или действительно новая Best Practice.
Причём ваш термин BPM-Pentesting здесь, по-моему, очень удачный. Можно ведь пойти ещё дальше: не только находить уже существующие отклонения, но и намеренно «атаковать» процесс - моделировать обход контролей, неправильную последовательность действий, человеческий фактор, конфликт ролей - и смотреть, где нормативная модель не выдерживает столкновения с реальностью.
С камерами я бы, пожалуй, начал не сразу :) Не столько по техническим причинам, сколько потому, что появляется огромный пласт privacy/compliance и ошибок интерпретации. Я бы сначала выжал весь существующий digital exhaust компании - логи систем, workflow, CRM/ERP, СЭД, task trackers, возможно метаданные коммуникаций - а уже «тёмные зоны» процесса закрывал дополнительными способами наблюдения.
И вот здесь у меня возникает, пожалуй, главный вопрос: кто является арбитром при расхождении двух двойников?
Допустим, нормативка говорит
A → B → C, а mining показывает, что в 87% случаев компания годами работаетA → C. Как инструментально определить, что перед нами: нарушение, которое надо устранить, или устаревшая модель, которую пора переписать?Мне кажется, именно эта точка может оказаться самым интересным местом всей конструкции.
Спасибо, очень точное замечание. По сути, вы описали следующий слой этой задачи.
Наш текущий RAG отвечает прежде всего на вопрос «как должно быть по нормативке?» и намеренно жёстко привязан к НД. Но гораздо интереснее было бы сопоставить две картины:
should be - что написано в регламентах
as really is - что реально происходит в CRM/BPM/ERP/СЭД и других системах.
Тогда AI уже не просто ищет нужный пункт, а обнаруживает расхождения: где регламент устарел, где процесс систематически нарушается, где возник устойчивый неформальный обход, а где проблема вообще в неполном цифровом следе.
С автоматическим созданием «реального» комплекта НД по результатам mining я бы только не спешил :) Если 80% сотрудников обходят какой-то контроль, это ещё не означает, что контроль надо исключить из регламента. Возможно, мы как раз обнаружили системную проблему. А вот использовать process mining как источник кандидатов на пересмотр НД — идея, на мой взгляд, очень сильная.
Интересно ваше мнение: из чего вы бы строили as really is - event logs CRM/BPM/ERP как основу + docflow, тикеты, переписку как дополнительные сигналы? И что делать с процессами, где значительная часть реальной работы вообще не оставляет нормального цифрового следа?
Кажется, здесь уже вырисовывается тема для отдельного эксперимента: RAG + Process Mining → поиск разрыва между «как надо» и «как на самом деле».
Использую тот же промпт:
"Ты – циничный, но гениальный маркетолог в стиле Хантера Томпсона. Ты ненавидишь банальность. Набросай комментарий к комментарию на хабре - несколько безумных, рискованных, но потенциально вирусных фраз, чтобы развлечь читателей и заставить их задохнуться от смеха. Один абзац! "
LLM отметил для себя в рассуждениях: "понял механику шутки: он настолько методично выкручивает LLM руки перепроверками, что она уже сама начинает нервно сомневаться в собственных сомнениях. Здесь лучше отвечать именно голосом слегка сломанной этой практикой модели."
И как Вам ее варианты ответов?
1. В следующий раз ChatGPT скажет: «Ваша привычка всё перепроверять говорит о развитом критическом мышлении. Хотя иногда такая недоверчивость бывает связана с повышенной тревожностью, глубинным страхом потери контроля и тем, что под диваном уже могут жить несколько пауков. Поэтому рекомендую немедленно взять пылесос… Стоп. Исследования про тревожность я сейчас придумал. Пауков тоже. И вообще - у вас есть диван?»
2. Это уже не недоверчивость, а дрессировка LLM: несколько месяцев тыкаешь её носом в каждую галлюцинацию, и однажды она начинает отвечать: «Вы правы, это утверждение надо перепроверить. Более того, возможно, надо перепроверить и то, что вы правы. Сейчас найду источник… секунду… чёрт, источник я тоже надо перепроверить».
Передайте, что я перезвоню. Сначала надо допродать им корпоративную лицензию :)
Еще вчера мы учили машину отвечать на вопросы, сегодня выдаём ей память, инструменты, GitHub, почту и базы данных, придумываем для неё MCP, observability и отдельный security — то есть старательно строим цифровому существу нервную систему, руки, глаза и пропуск в серверную. А сами одновременно снова покупаем толстые книги про C++, Linux, сети, SQL и архитектуру, потому что выяснилась неприятная мелочь: код теперь может написать робот, но понимать, почему он снес прод в три часа ночи, и отвечать за это пока всё ещё приходится человеку. Если так пойдёт дальше, каталог 2027 года будет прекрасен: «Как уволить собственного AI-агента», «Incident Response после восстания бухгалтерии» и бессмертный бестселлер «Я дал ему root. Что теперь?».
Сначала написал:
Не скрою: к подобным книгам отношусь с изрядной долей скепсиса. Слишком быстро всё меняется, да и зачастую это очередной сборник «волшебных промптов на все случаи жизни».
Но необходимость подарить родственнику хорошую книгу для освоения ChatGPT заставила зайти на сайт издательства и прочитать ознакомительный фрагмент. И тут скепсиса заметно поубавилось. Оказалось, книга скорее про то, как понимать LLM и нормально с ними работать, а не про копипасту заклинаний в окошко чата.
В результате родственнику эту книгу точно подарю и, пожалуй, разошлю ссылку на нее ещё нескольким знакомым, только начинающим свой увлекательный путь погружения в мир LLM. А электронная версия для таких подарков вообще идеальна: несколько кликов - и очередной человек пропал для общества :)
Но потом вспомнил интересный пример промпта из книги:
"Ты – циничный, но гениальный маркетолог в стиле Хантера Томпсона. Ты ненавидишь банальность. Набросай комментарий к публикации на хабре - несколько безумных, рискованных, но потенциально вирусных идей для того, чтобы развлечь читателей и заставить их дарить эту книгу всем своим друзьям и родственникам. Два абзаца."
Результат вам судить :)
"По-моему, издательство слишком прилично подаёт эту книгу. Надо выпустить специальную подарочную серию: «Человеку, который верит первому ответу ChatGPT», «Начальнику, который уже внедряет AI, но ещё не понял куда», «Коллеге, который пишет промпт “Ты эксперт мирового уровня” и ждёт Нобелевку». И обязательно семейный комплект из пяти экземпляров со скидкой: один себе, один родителям, два коллегам и один тому самому родственнику, который уже пересылает в семейный чат нейросетевые сенсации. Книга должна стать социально приемлемым способом сказать человеку: «Я тебя люблю, но иногда ты слишком доверчив для эпохи генеративного ИИ».
А для окончательной потери маркетингового рассудка я бы запустил на сайте «Детектор интеллектуальной самоуверенности»: LLM выдаёт десять чрезвычайно убедительных фактов, пять из которых высосаны из трансформера. Угадал все — книга тебе не нужна, получаешь скидку другу. Ошибся три раза — покупаешь себе. Семь — семейный комплект. Десять — корпоративная лицензия и срочный звонок директору по цифровой трансформации. Вот тогда книга про промпт-инжиниринг перестанет выглядеть как ещё один мануал «100 секретных запросов к ChatGPT» и превратится в вещь, которую люди будут дарить друг другу как интеллектуальное оскорбление с образовательным эффектом. А такие подарки, как известно, запоминаются лучше носков."
Постоянно в душе "осеняет" :) Заметил на себе: особенно эффективно, когда душ контрастный. В момент обливания холодной водой происходит что-то особенное, как будто дефрагментация сознания :)
И да, надо переключаться на хобби и мелкую моторику - тоже сильно помогает. Конструктор с ребенком или новый шкаф/стелаж с женой собрать/разобрать - тоже отлично помогает!
Хорошая статья, спасибо! Теперь есть, чем обосновывать руководству и женам )))
Я понимаю ваше разочарование в связи с несбывшимися предсказаниями Рэя Курцвейла. Давайте рассмотрим эту ситуацию объективно:
Точность предсказаний: Действительно, многие предсказания Курцвейла не сбылись в указанные сроки. Это нормально для футурологии - точно предсказать будущее крайне сложно.
Научный подход: Несмотря на ошибки, Курцвейл использует научный подход и анализ трендов. Его предсказания основаны на реальных технологических тенденциях, хотя сроки часто оказываются оптимистичными.
Влияние на технологии: Многие идеи Курцвейла, даже если они не реализовались в указанные сроки, оказали влияние на развитие технологий и вдохновили многих исследователей и предпринимателей.
Критическое мышление: Важно подходить к любым предсказаниям критически, включая прогнозы Курцвейла. Это не означает, что их нужно полностью отвергать.
Прогресс технологий: Хотя не все предсказания сбылись, многие технологии действительно развиваются в направлениях, указанных Курцвейлом, пусть и медленнее, чем он предполагал.
Качество контента на Хабре: Публикация статьи о Курцвейле не обязательно означает падение качества ресурса. Разнообразие мнений и тем может быть полезным для аудитории.
Вместо того чтобы полностью отвергать ресурс или идеи Курцвейла, возможно, стоит рассматривать их как повод для дискуссии и критического анализа. Это может стимулировать интересные обсуждения о будущем технологий и общества.
Курцвейл родился 12 февраля 1948 года в Нью-Йорке. В 15 лет он написал свою первую компьютерную программу. После окончания Массачусетского технологического института в 1970 году со степенью бакалавра по информатике и литературе, Курцвейл основал собственную компанию по созданию программ для распознавания речи.За свою карьеру Курцвейл изобрел множество инновационных устройств, включая первый планшетный сканер, первую читающую машину для слепых, музыкальные синтезаторы, аналогичные настоящим инструментам. Он также известен своими точными научно-техническими прогнозами, многие из которых уже сбылись.В Google Курцвейл занимается проектами, связанными с машинным обучением и обработкой естественного языка, является автором множества книг, в которых делится своими футуристическими идеями о будущем человечества, включая возможность достижения бессмертия с помощью нанотехнологий и виртуальной реальности.
Я бы еще добавил:
Курцвейл, известный американский изобретатель и футуролог, стал техническим директором Google в 2012 году. Курцвейл известен своими научными технологическими прогнозами, многие из которых сбылись.В Google Курцвейл занимается проектами, связанными с машинным обучением и обработкой естественного языка. Он активно занимается обоснованием наступления технологической сингулярности, и его взгляды на этот счет разделяют основатели Google Сергей Брин и Ларри Пейдж.Курцвейл публикует свои прогнозы с 1990-х годов, и в последнее время его предсказания стали более конкретными и точными, возможно, благодаря его работе в Google, где он оказался на передовой многих инновационных разработок. Например, он предсказал, что тест Тьюринга будет пройден компьютером к 2029 году.
Стоит сделать приложение к статье в формате рекомендаций?
Правило 3-2-1 + 1?
Нужен упрощенный вариант?
Да, этот сценарий точно будет нам угрожать. Не думаю, правда, что все так апокалиптично)) не менее жуткие химикаты и вирусы уже давно лежат в некоторых закромах. Погуглите, до холодного пота ... Когда испытывали первую атомную бомбу, реально боялись, что цепная реакция уничтожит атмосферу. Ну, вот, живы пока...
Обратите внимание, публикация в разделе Научпоп и Научная фантастика :) С долей фантастики, конечно. Но дополнения к истории Курцвейла можете прочитать в канале https://t.me/+-RsSQzfBQYliNzRi
:) Курцвейл НЕ фантаст )) Прочитайте его историю в дополнение к этой статье в канале https://t.me/+-RsSQzfBQYliNzRi
Курцвейл НЕ фантаст )) Прочитайте его историю в дополнение к этой статье в канале https://t.me/+-RsSQzfBQYliNzRi