Ревьюим не основной сервис где тайм ту маркет, фичи, пользователи и менеджеры бегают, а техническую прокладку. Которую хорошо написали один раз и обновляем раз в квартал максимум.
Всегда так было. Если разработчик делает ерунду и не исправляется после пары указываний пальцем где именно он ерунду сделал и что надо делать по другому то его надо увольнять.
Спорим поставлю? Там делов на пару дней с Клодом. До продакшен реди решения с мониторингами и прочим.
Так как у вас можно было до эпохи ллм генерации и доступом к проду. Сейчас уже нельзя.
Раньше недоверенная зона была только на входе ваших апи. Сейчас она на выходе любого навайбкоденного приложения. Значит добавляем еще один слой который даст доверие и обеспечит безопасность. Его пишем аккуратно, тщательно ревьюим, обновляем максимально редко и всё такое.
Когда-нибудь появятся отраслевые решения. Но пока их нет надо самому писать.
Еще лучше. А где защита от неверной версии кнопки? Ее делает ллм, а значит должна быть защита от произвольных багов. И снова та же самая прокся которая запретит все странное и не даст разрушить мир.
Читаю и радуюсь. Есть еще куча людей которые не в курсе про риски и поверхности атаки.
Поделюсь еще одной мудростью древних.
Есть риски которые мы принимаем. Есть риски от которых мы защищаемся. Где какой надо заранее разобраться, это очень важно.
Риск уязвимости мы принимаем. Уменьшаем его своевременным обновлением всего.
Риск легально дропа базы от юзера с правами на дроп базы мы не принимаем. И пишем какой-то код который гарантирует что ллмка базу не дропнет. Риска больше нет.
Это тоже давно известные проблемы с давно известными правильными решениями. И эти решения тоже проверены десятилетиями.
Я читаю статью. «Ллмка запустила». Прямо дословно. Значит у ллмки есть права на мутации. И значит нужны заборы от всего.
Конечно спасли. Если прокся запрещает более 10 отписок за сутки и разрешает только корректные запросы то что бы там ллмка не запускала ничего серьезно сломать она не сможет.
Рейтлимитеры и серкьютбрейкеры давно придуманы. Ставим проксю которая разрешает отменять не более N подписок в сутки. И заодно валидирует коррректность, вроде пустых строк. Дальше зажигает мониторинг и зовет человека.
Все уже давно придумано. Все эти проблемы уже решены.
В прошлый раз уже все в комментах сказали. Некорректный эксперимент, некорректная интерпретация, некорректное все. Искать что-то в таком шуме не имеет смысла.
Любая программа на любом компьютере исполняется от имени какого-то пользователя. И она ничего не может сделать кроме того что разрешено этому пользователю. Пользователя можно ограничить вообще как угодно. Написать программу которая получит больше прав тоже невозможно.
Любой поход по апи детается с каким-то токеном. Ограничить права того кто пришел с конкретным токеном умеют все сервисы. Вообще все, кроме вайбкодерских. Ничего кроме разрешенных действий сделать никак нельзя. Другой токен с большими правами тоже получить нельзя.
Любой кто запустил недермининованную программу с правом на мутации заслужил свой дроп базы. Он сам проигнорировал отраслевые стандарты которые хорошо работают десятилетиями.
Им нужны. Но вы старательно выдумываете правила чтобы их запретить. Есть вероятность успеха.
Людей будут так засыпать рекламой, спец предложениями и розыгрышами что это не будет работать. Потратить рублей 500 на рекламу на в год на человека ерунда. Подписка подорожает на эти же 500 рублей.
Как-то он странно выглядит. Фургон для работы должен быть максимально скучным и максимально функциональным. Чтобы кузовной ремонт стоил как можно меньше.
На внешний вид покупателям таких машин все равно. А вот стоимость владения принципиальна.
Ревьюим не основной сервис где тайм ту маркет, фичи, пользователи и менеджеры бегают, а техническую прокладку. Которую хорошо написали один раз и обновляем раз в квартал максимум.
Это качественная разница.
Всегда так было. Если разработчик делает ерунду и не исправляется после пары указываний пальцем где именно он ерунду сделал и что надо делать по другому то его надо увольнять.
Сейчас таких просто больше стало.
Спорим поставлю? Там делов на пару дней с Клодом. До продакшен реди решения с мониторингами и прочим.
Так как у вас можно было до эпохи ллм генерации и доступом к проду. Сейчас уже нельзя.
Раньше недоверенная зона была только на входе ваших апи. Сейчас она на выходе любого навайбкоденного приложения. Значит добавляем еще один слой который даст доверие и обеспечит безопасность. Его пишем аккуратно, тщательно ревьюим, обновляем максимально редко и всё такое.
Когда-нибудь появятся отраслевые решения. Но пока их нет надо самому писать.
Это не тот спирт. Надо дальше искать.
Обычную умную колонку на батарейках примотали скотчем к шарику с гелием. Стартап!
Еще лучше. А где защита от неверной версии кнопки? Ее делает ллм, а значит должна быть защита от произвольных багов. И снова та же самая прокся которая запретит все странное и не даст разрушить мир.
«На самом деле» это ваша интерпретация. Она странная.
Важно кто нажал кнопку, не как устроена кнопка. Ограничиваем мы нажимающего, а не кнопку.
Тут целый блок комментариев про уязвиости.
Читаю и радуюсь. Есть еще куча людей которые не в курсе про риски и поверхности атаки.
Поделюсь еще одной мудростью древних.
Есть риски которые мы принимаем. Есть риски от которых мы защищаемся. Где какой надо заранее разобраться, это очень важно.
Риск уязвимости мы принимаем. Уменьшаем его своевременным обновлением всего.
Риск легально дропа базы от юзера с правами на дроп базы мы не принимаем. И пишем какой-то код который гарантирует что ллмка базу не дропнет. Риска больше нет.
Это тоже давно известные проблемы с давно известными правильными решениями. И эти решения тоже проверены десятилетиями.
Я читаю статью. «Ллмка запустила». Прямо дословно. Значит у ллмки есть права на мутации. И значит нужны заборы от всего.
Конечно спасли. Если прокся запрещает более 10 отписок за сутки и разрешает только корректные запросы то что бы там ллмка не запускала ничего серьезно сломать она не сможет.
Написать можно. Это вообще несложный код и маленький сервис. Клод справится.
Если у вас ллмка обладает правами на мутации, то продумать и написать заборы со всех сторон это очень важная задача.
Рейтлимитеры и серкьютбрейкеры давно придуманы. Ставим проксю которая разрешает отменять не более N подписок в сутки. И заодно валидирует коррректность, вроде пустых строк. Дальше зажигает мониторинг и зовет человека.
Все уже давно придумано. Все эти проблемы уже решены.
В прошлый раз уже все в комментах сказали. Некорректный эксперимент, некорректная интерпретация, некорректное все. Искать что-то в таком шуме не имеет смысла.
Конечно. Там ровно такие же компьютеры, могу лично подтвердить. И они точно так же работают.
Это та Хонда которая закончила 2025 год в глубоком минусе.
Это та Хонда которая в 2026 выпустила фейковый электромотоцикл.
Не ИИ им внедрять надо.
Давайте открою вам тайное знание древних.
Любая программа на любом компьютере исполняется от имени какого-то пользователя. И она ничего не может сделать кроме того что разрешено этому пользователю. Пользователя можно ограничить вообще как угодно. Написать программу которая получит больше прав тоже невозможно.
Любой поход по апи детается с каким-то токеном. Ограничить права того кто пришел с конкретным токеном умеют все сервисы. Вообще все, кроме вайбкодерских. Ничего кроме разрешенных действий сделать никак нельзя. Другой токен с большими правами тоже получить нельзя.
Любой кто запустил недермининованную программу с правом на мутации заслужил свой дроп базы. Он сам проигнорировал отраслевые стандарты которые хорошо работают десятилетиями.
Им нужны. Но вы старательно выдумываете правила чтобы их запретить. Есть вероятность успеха.
Людей будут так засыпать рекламой, спец предложениями и розыгрышами что это не будет работать. Потратить рублей 500 на рекламу на в год на человека ерунда. Подписка подорожает на эти же 500 рублей.
Как-то он странно выглядит. Фургон для работы должен быть максимально скучным и максимально функциональным. Чтобы кузовной ремонт стоил как можно меньше.
На внешний вид покупателям таких машин все равно. А вот стоимость владения принципиальна.
Придется создавать инквизицию для борьбы с хаоситами. А до этого как-то пережить темные века.
Мощности двигателей которые мы хотя бы в теории может построить не хватает на много десятичных порядков.
Энергия которой мы умеем управлять ничтожно мала по космическим меркам.
На полном приводе если вас понесло то полезнее всего Отче наш читать. Там уже ничего не спасет.