Нельзя так машину водить. Любую нельзя. Это опасно.
Дорога это не гоночный трек. Не надо быстрее. Особенно в таких местах как перекресток. Надо медленнее. Пропустить того у кого только что был зеленый. Пропустить того кто уже летит на только что загоревшийся зеленый. Пропустить того кто почему-то не тронулся через одну миллисекунду после того как ему зеленый загорелся. Вы от этого не приедете позже. Вообще, даже на пару минут. А безопасность сильно повысится.
При этом я вообще не против езды по трассе 150. Сам так езжу. Нормальная скорость если трасса ок. Москва-Питер как пример. По трешке или мкаду или зсд +20 ехать тоже нормально. Они рассчитаны на такое.
Шум появляется из-за некорректного эксперимента. Поверх вы его неверно интерпретируете. И пробуете в этом что-то найти. Наука так не работает уже лет 100.
Где хотя бы зачатки матстата? Какова вероятность случайных отклонений? Где сигмы? И это только интерпретация.
Дальше эксперимент. Почему это не поход в туалет и наводки от насоса?
Есть такие люди проджект менеджеры. Они уже заметное время ходят кругами вокруг разработки со словами "Надо добавить ИИ в проект. А то мы совсем отстаем от современного мира и скоро безнадежно устареем."
К лету 26 года причин отказывать им уже вообще не осталось. Вот я уже некоторое время строю разнообразные заборы и ставлю предохранители везде. Чтобы этот ИИ пользователю ничего не разломал даже в худшем сценарии.
У ИИ своя песочница без прав на БД вообще. Изоляция сервиса полная вообще от всего, отдельная виртуалка почти без сетевой связности. Даже интернет ей дан по белому списку. Общение с основной частью проекта только через АПИ или даже через отдельные прокси сервисы с ограничениями если АПИ страшно выглядит или прав многовато дает. Все обмазано MCP и скилами.
Вроде нормально вышло. И модными стали и работает вполне на уровне. Если туда Опус подложить то прямо заметную сразу пользу приносит пользователю новичку, с сетками подешевле все сложнее но польза тоже есть с виду.
Так что почему нет? Классические подходы отлично работают в 2к26.
Ревьюим не основной сервис где тайм ту маркет, фичи, пользователи и менеджеры бегают, а техническую прокладку. Которую хорошо написали один раз и обновляем раз в квартал максимум.
Всегда так было. Если разработчик делает ерунду и не исправляется после пары указываний пальцем где именно он ерунду сделал и что надо делать по другому то его надо увольнять.
Спорим поставлю? Там делов на пару дней с Клодом. До продакшен реди решения с мониторингами и прочим.
Так как у вас можно было до эпохи ллм генерации и доступом к проду. Сейчас уже нельзя.
Раньше недоверенная зона была только на входе ваших апи. Сейчас она на выходе любого навайбкоденного приложения. Значит добавляем еще один слой который даст доверие и обеспечит безопасность. Его пишем аккуратно, тщательно ревьюим, обновляем максимально редко и всё такое.
Когда-нибудь появятся отраслевые решения. Но пока их нет надо самому писать.
Еще лучше. А где защита от неверной версии кнопки? Ее делает ллм, а значит должна быть защита от произвольных багов. И снова та же самая прокся которая запретит все странное и не даст разрушить мир.
Читаю и радуюсь. Есть еще куча людей которые не в курсе про риски и поверхности атаки.
Поделюсь еще одной мудростью древних.
Есть риски которые мы принимаем. Есть риски от которых мы защищаемся. Где какой надо заранее разобраться, это очень важно.
Риск уязвимости мы принимаем. Уменьшаем его своевременным обновлением всего.
Риск легально дропа базы от юзера с правами на дроп базы мы не принимаем. И пишем какой-то код который гарантирует что ллмка базу не дропнет. Риска больше нет.
Это тоже давно известные проблемы с давно известными правильными решениями. И эти решения тоже проверены десятилетиями.
Я читаю статью. «Ллмка запустила». Прямо дословно. Значит у ллмки есть права на мутации. И значит нужны заборы от всего.
Конечно спасли. Если прокся запрещает более 10 отписок за сутки и разрешает только корректные запросы то что бы там ллмка не запускала ничего серьезно сломать она не сможет.
Рейтлимитеры и серкьютбрейкеры давно придуманы. Ставим проксю которая разрешает отменять не более N подписок в сутки. И заодно валидирует коррректность, вроде пустых строк. Дальше зажигает мониторинг и зовет человека.
Все уже давно придумано. Все эти проблемы уже решены.
В прошлый раз уже все в комментах сказали. Некорректный эксперимент, некорректная интерпретация, некорректное все. Искать что-то в таком шуме не имеет смысла.
Нельзя так машину водить. Любую нельзя. Это опасно.
Дорога это не гоночный трек. Не надо быстрее. Особенно в таких местах как перекресток. Надо медленнее. Пропустить того у кого только что был зеленый. Пропустить того кто уже летит на только что загоревшийся зеленый. Пропустить того кто почему-то не тронулся через одну миллисекунду после того как ему зеленый загорелся. Вы от этого не приедете позже. Вообще, даже на пару минут. А безопасность сильно повысится.
При этом я вообще не против езды по трассе 150. Сам так езжу. Нормальная скорость если трасса ок. Москва-Питер как пример. По трешке или мкаду или зсд +20 ехать тоже нормально. Они рассчитаны на такое.
Они уже не знают куда его деть. Красивый, вроде бегает, но абсолютно нигде не нужен. И тут тоже не нужен, стандартный чемодан на колесиках лучше.
Даже у нас в солнечной системе куча атмосфер которые не имеют отношения к органике.
Шум появляется из-за некорректного эксперимента. Поверх вы его неверно интерпретируете. И пробуете в этом что-то найти. Наука так не работает уже лет 100.
Где хотя бы зачатки матстата? Какова вероятность случайных отклонений? Где сигмы? И это только интерпретация.
Дальше эксперимент. Почему это не поход в туалет и наводки от насоса?
Рано. До бестпрактисов дожить надо. Пока все еще непонятно и изменчиво.
microHDMI не нужен. Для него тоже нужен переходник или отдельный кабель. Он вообще не дефолтный.
Уж лучше лишний type-c поставить. Тоже нужен переходник, но порт универсальный и дефолтный.
Есть такие люди проджект менеджеры. Они уже заметное время ходят кругами вокруг разработки со словами "Надо добавить ИИ в проект. А то мы совсем отстаем от современного мира и скоро безнадежно устареем."
К лету 26 года причин отказывать им уже вообще не осталось. Вот я уже некоторое время строю разнообразные заборы и ставлю предохранители везде. Чтобы этот ИИ пользователю ничего не разломал даже в худшем сценарии.
У ИИ своя песочница без прав на БД вообще. Изоляция сервиса полная вообще от всего, отдельная виртуалка почти без сетевой связности. Даже интернет ей дан по белому списку. Общение с основной частью проекта только через АПИ или даже через отдельные прокси сервисы с ограничениями если АПИ страшно выглядит или прав многовато дает. Все обмазано MCP и скилами.
Вроде нормально вышло. И модными стали и работает вполне на уровне. Если туда Опус подложить то прямо заметную сразу пользу приносит пользователю новичку, с сетками подешевле все сложнее но польза тоже есть с виду.
Так что почему нет? Классические подходы отлично работают в 2к26.
Кажется вам стоит перечитать учебник по терверу. Он не так работает.
Ревьюим не основной сервис где тайм ту маркет, фичи, пользователи и менеджеры бегают, а техническую прокладку. Которую хорошо написали один раз и обновляем раз в квартал максимум.
Это качественная разница.
Всегда так было. Если разработчик делает ерунду и не исправляется после пары указываний пальцем где именно он ерунду сделал и что надо делать по другому то его надо увольнять.
Сейчас таких просто больше стало.
Спорим поставлю? Там делов на пару дней с Клодом. До продакшен реди решения с мониторингами и прочим.
Так как у вас можно было до эпохи ллм генерации и доступом к проду. Сейчас уже нельзя.
Раньше недоверенная зона была только на входе ваших апи. Сейчас она на выходе любого навайбкоденного приложения. Значит добавляем еще один слой который даст доверие и обеспечит безопасность. Его пишем аккуратно, тщательно ревьюим, обновляем максимально редко и всё такое.
Когда-нибудь появятся отраслевые решения. Но пока их нет надо самому писать.
Это не тот спирт. Надо дальше искать.
Обычную умную колонку на батарейках примотали скотчем к шарику с гелием. Стартап!
Еще лучше. А где защита от неверной версии кнопки? Ее делает ллм, а значит должна быть защита от произвольных багов. И снова та же самая прокся которая запретит все странное и не даст разрушить мир.
«На самом деле» это ваша интерпретация. Она странная.
Важно кто нажал кнопку, не как устроена кнопка. Ограничиваем мы нажимающего, а не кнопку.
Тут целый блок комментариев про уязвиости.
Читаю и радуюсь. Есть еще куча людей которые не в курсе про риски и поверхности атаки.
Поделюсь еще одной мудростью древних.
Есть риски которые мы принимаем. Есть риски от которых мы защищаемся. Где какой надо заранее разобраться, это очень важно.
Риск уязвимости мы принимаем. Уменьшаем его своевременным обновлением всего.
Риск легально дропа базы от юзера с правами на дроп базы мы не принимаем. И пишем какой-то код который гарантирует что ллмка базу не дропнет. Риска больше нет.
Это тоже давно известные проблемы с давно известными правильными решениями. И эти решения тоже проверены десятилетиями.
Я читаю статью. «Ллмка запустила». Прямо дословно. Значит у ллмки есть права на мутации. И значит нужны заборы от всего.
Конечно спасли. Если прокся запрещает более 10 отписок за сутки и разрешает только корректные запросы то что бы там ллмка не запускала ничего серьезно сломать она не сможет.
Написать можно. Это вообще несложный код и маленький сервис. Клод справится.
Если у вас ллмка обладает правами на мутации, то продумать и написать заборы со всех сторон это очень важная задача.
Рейтлимитеры и серкьютбрейкеры давно придуманы. Ставим проксю которая разрешает отменять не более N подписок в сутки. И заодно валидирует коррректность, вроде пустых строк. Дальше зажигает мониторинг и зовет человека.
Все уже давно придумано. Все эти проблемы уже решены.
В прошлый раз уже все в комментах сказали. Некорректный эксперимент, некорректная интерпретация, некорректное все. Искать что-то в таком шуме не имеет смысла.