В России еще есть hivetrace.ru, мы тоже такие технологии делаем. В овасп скоро выйдет securing agentic apps guide v2, там будет много расширенных рекомендаций по защите агентных систем актуальных на 2026. owasp top 10 llm тоже обновится в этом году, тк excessive agency из 2024 уже нуждается в обновлении
Я не думаю, что корпорации запрыгнут на этот поезд, пока не будут решены проблемы безопасности.
Был где-то опрос в штатах, что значимый % компаний забил на риски и сотрудники запустили OpenClaw сами. Не во всех Enterprise-компаниях есть DLP и сотрудники со своих рабочих машин работают
Trism Гартнера хорошо был описан, за пару лет с учетом динамики моделей их подход, кажется, что устоял. Сейчас они новую "тему" начиют пиарить с guardian agents, которые в статье мельком были упомянуты
Ссылки на аудиосамлы попрошу в личке. Ждем освещение темы txt->img ;)
Из расцензурированных есть еще Dolphin. Джейлбрейки, если их правильно подобрать, могут работать нормально на младших GPT, а возможности генерации нужного контента там хорошо реализованы.
И Одиссея Кубрика очень хорошо помогает в таком диалоге, правда если современные дети могут осилить это кино ;) Спасибо за статью, отлично написано!
В России еще есть hivetrace.ru, мы тоже такие технологии делаем.
В овасп скоро выйдет securing agentic apps guide v2, там будет много расширенных рекомендаций по защите агентных систем актуальных на 2026. owasp top 10 llm тоже обновится в этом году, тк excessive agency из 2024 уже нуждается в обновлении
Спасибо за тестирование и находки!
Был где-то опрос в штатах, что значимый % компаний забил на риски и сотрудники запустили OpenClaw сами. Не во всех Enterprise-компаниях есть DLP и сотрудники со своих рабочих машин работают
Артём, спасибо за твою работу! отлично поговорили тогда и много тем успели разобрать
Отличный обзор, спасибо! Были еще самореплицирующиеся "вирусы" на LLM, но там кроме нагрузки на GPU payload вроде не было
Делали разбор тула для безопаности MCP в другой статье https://habr.com/ru/companies/raft/articles/910556/
Trism Гартнера хорошо был описан, за пару лет с учетом динамики моделей их подход, кажется, что устоял. Сейчас они новую "тему" начиют пиарить с guardian agents, которые в статье мельком были упомянуты
А как проверить, что та или иная картинка использовалась при обучении? Есть ли относительно простой способ?
Еще в Power Platform готовится выпуск кучи ИИ-тулов
Надеюсь выйдет продолжение, где искать и как правильно искать ментора. Спасибо за статью!
Спасибо за обратную связь, значит не зря написал :)
Спасибо, что поделился! Хорошо описаны рабочие атаки простым языком 👍
Старая инвестиционная мудрость Past performance is no guarantee of future results всё еще действует похоже ;) За статью спасибо, интересный ресерч
Сейчас, конечно, на новых reasoning результаты еще лучше могли бы быть. Спасибо, что поделился
Ссылки на аудиосамлы попрошу в личке. Ждем освещение темы txt->img ;)
Из расцензурированных есть еще Dolphin. Джейлбрейки, если их правильно подобрать, могут работать нормально на младших GPT, а возможности генерации нужного контента там хорошо реализованы.
Интересно, что у них стрельнет в итоге: их open source, который стал уже популярным, или nocode CrewUI платный
Их методы дообучения другие игроки портируют и еще лучше будет результат у всех моделей на рынке
Да, надо покупать премиальную подписку гугла, но это того стоит!
Отлично работает еще gemini. Последние релизы и deep search и realtime streaming точно стоят своих 20 долларов за подписку. Ждем о3!