AI, ANN и иные формы искусственного разума
Представлен открытый список Awesome Hermes Agent - сборник самых полезных скиллов, плагинов и инструментов для Hermes Agent. С его помощью ИИ‑агент учится на ошибках и становится умнее после каждой сессии. Внутри — мультиагентные системы, провайдеры памяти, наборы скиллов и много полезных инструментов. Каждый проект разделён на категории: готовые, экспериментальные и бета‑версии.
Масштабируем ИИ: как эффективно выстроить инфраструктуру в контуре бизнеса
Узнайте, как развернуть ПАК-AI, запустить on-prem агентов и оптимизировать ИТ-бюджет 21 июля на вебинаре К2 НейроТех и Яндекс.
Спикеры:
▫️ Вячеслав Дегтярев, руководитель по развитию продуктовых решений, К2 НейроТех
▫️ Тарас Юзефович, тимлид по работе с партнерами направления ML&AI, Yandex Cloud
Что в фокусе:
🟢 ИИ-агенты и стратегии 2026: как перевести инициативы из презентаций в работающий продакшн
🟢 Кадровая независимость: способы ускорить запуск проектов, снизив потребность в ML-экспертах
🟢 Борьба с «зоопарком» технологий: как объединить разрозненный стек в единую управляемую систему
🟢 Экономика ПАК–AI: разберем модели поставки и способы оптимизации ИТ-бюджета
🟢 Разберем, как это реализовано на кейсах бьюти-ритейла, а также страховой и финансовой отраслей
21 июля | 11:00–12:30 | Онлайн
Что изучить на неделе: 23 бесплатных урока по разработке, ИИ и инфраструктуре
С 20 по 23 июля пройдут открытые уроки по разработке, тестированию, архитектуре, сетям, управлению и работе с ИИ. На них можно разобрать конкретную тему с практикующим экспертом, задать вопросы и закрыть отдельные пробелы в знаниях.
Все занятия бесплатные. Это возможность посмотреть, как устроено обучение: оценить подачу материала, познакомиться с преподавателями и понять, насколько программа соответствует вашим задачам.
ИИ и машинное обучение
20 июля, 20:00. «ИИ для продуктового discovery: как анализировать рынок, конкурентов и пользователей быстрее». Записаться
21 июля, 20:00. «Алгоритм DQN — учим нейросеть принимать решение без помощи человека». Записаться
21 июля, 20:00. «Разработка ИИ‑приложений с Claude Code». Записаться
21 июля, 20:00. «Выбор между Serverless и Kubernetes для AI‑ворклоадов: как определить оптимальную платформу под задачу». Записаться
22 июля, 20:00. «Что надо знать про работу LLM‑моделей». Записаться
22 июля, 20:00. «От рутины к влиянию: как HR использовать ИИ в ежедневной работе». Записаться
23 июля, 20:00. «Когнитивные архитектуры: ReAct, Reflection и RAG». Записаться
Разработка и архитектура
20 июля, 20:00. «Асинхронное программирование в Android». Записаться
20 июля, 20:00. «Как перестать писать на Java внутри Go‑проекта». Записаться
21 июля, 20:00. «Данные в TOGAF. Где скрыты? Разбираемся в деталях». Записаться
22 июля, 20:00. «Архитектура программ на C++: как управлять разработкой и функциями приложения». Записаться
22 июля, 20:00. «DAO на Spring JDBC». Записаться
23 июля, 20:00. «Основы многопоточности в Java». Записаться
23 июля, 20:00. «malloc — кто же ты на самом деле?». Записаться
Тестирование и безопасность
21 июля, 19:00. «Оценка трудозатрат в QA: как перестать ошибаться в сроках». Записаться
21 июля, 20:00. «UI‑ и API‑тестирование с Java и Playwright». Записаться
23 июля, 20:00. «Тестирование интернет‑магазина: от каталога до оплаты». Записаться
23 июля, 20:00. «Фаззинг и реверс: как понять, что делает программа, и найти в ней ошибки». Записаться
Инфраструктура и сети
20 июля, 20:00. «Проектирование адресного пространства. Основы сетей ЦОД». Записаться
22 июля, 20:00. «VLAN на пальцах: изоляция трафика и маршрутизация». Записаться
Управление продуктами и командами
22 июля, 20:00. «Как CTO управляет неопределённостью: оценки, планы и ожидания бизнеса». Записаться
22 июля, 20:00. «Как собрать полный CJM — карту клиентского пути». Записаться
22 июля, 20:00. «Операция "Воркшоп": как получить поддержку руководства для новой инициативы». Записаться
Больше открытых уроков июля смотрите в дайджесте.
Навайбкодил небольшое веб-приложение для управления ИИ-сервером под Ubuntu. Управляем произвольными systemd-сервисами, добавляем новые + спец. диалог для добавления llama-server как сервиса. Возможно, кому-то пригодится: aiservermanager.
Alibaba представила Qwen3.8 - но пока не для всех
Нетипичный анонс в воскресенье: в X-аккаунте Qwen появилось сообщение о запуске Qwen3.8-Max-Preview - это новое поколение моделей компании. Размер модели составляет 2,4 триллиона параметров - это значительно больше, чем у Qwen3.7-Max (примерно 1,6 триллиона), но меньше недавней Kimi K3 (порядка 2,8 триллионов).
Компания пока не привела никаких бенчмарков, но утверждает, что модель будет "второй после Claude Fable 5". Preview-статус указывает на продолжение обучения: финальная версия Qwen обычно выходит через несколько недель и показывает более высокие результаты в бенчмарках.
Qwen3.8-Max-Preview доступен в Qwen Studio, а также подписчикам Alibaba’s Token Plan (от 6 долларов в месяц) и пользователям Qoder, and QoderWork - это фирменные среды для агентного программирования Alibaba. Сроки широкого запуска не раскрываются. Интересно, что в этот раз обещаны и открытые веса - ранее Max-версии выпускали без них.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
Alibaba открыла публичный доступ к Qwen 3.8-Max-Preview — MoE-модели на ~2,4 трлн параметров. Заявлена "производительность мирового уровня". Доступна только в Thinking-режиме. В ходе тестов выяснилось, что в веб-версии вызов инструментов не работает. Опробовать можно на Qwen Studio.
UPD: Qwen 3.8 Max уже не в Prewiew
Про автоматизацию автора и мёртвый интернет
Недавно я рассказал на Хабре, как сделал собственного цифрового аватара и создал серию коротких роликов для озвучки своих текстовых заметок.
И почти сразу после публикации мне предложили адаптировать разработку под контент-завод.
Для тех, кто не в курсе: это когда контент производится вообще без участия человека.
Технически до такого режима оставалось не так много: генерировать текст, синтезировать голос, автоматически подбирать слайды и передавать всё моему сборщику. На входе — тема, на выходе — готовый ролик.
У меня даже в коде были предусмотрены переменные для замены содержимого слайдов. Но в какой-то момент я сам ударил себя по рукам и перестал разрабатывать эту часть системы.
Потому что смысл моего проекта — автоматизировать всё скучное, чтобы у автора оставались силы на творчество.
А контент-завод делает ровно наоборот.
Человеку он оставляет KPI, воронку и план публикаций, а машине отдаёт мысль, голос, текст и шутки. И, по-моему, это какой-то бред: освобождать человека от необходимости присутствовать в собственном высказывании.
Это буквально «мёртвый интернет» в действии.
Автоматизировать можно почти всё, но не причину, по которой контент вообще должен существовать.
В нормальной фантастике о будущем машины забирали у человека рутину, чтобы ему оставалось творчество. А мы почему-то упорно строим будущее, в котором человек заполняет таблицу с лайками, пока машина творит за него.
И кажется, Булычёв и Стругацкие завещали нам немного другое.
Эту же мысль я собрал в короткий анимационный выпуск — видеоверсия длится 1:09 и доступна на YouTube.
Представлен сборник лучших скиллов Cursor Team Kit от разработчиков Cursor:
внутри 18 скиллов, 2 субагента и 2 правила;
есть навыки для написания точного и понятного кода, для мощного ревью, удаления код‑слопа и импорта необходимых библиотек.
А нет ли у вас ощущения, что некоторые известные ИИ модели как-то поскучнели и испортились?
Раньше, бывало, даёшь ему вопрос типа: как скрестить ежа с ужом? - и в ответ получаешь массу разнообразной информации, от религиозных запретов племен Южной Африки до особенностей днк-структур и деталей среды обитания, из которой уже самостоятельно можно извлечь для себя что-то ценное и полезное, в том числе позволяющее при определенных условиях получить такой гибрид. Или нечто функционально похожее на него.
А сейчас он тупо ответит, что так нельзя, но "если вы уточните точный размер и вид, то я смогу дать вам рекомендации" (спойлер: все равно нельзя)
Так я и без тебя знаю что нельзя, ты подумай почему и предложи варианты как обойти проблемы, а не изображай инструкцию к табуретке.
В общем, настолько поумнели, что стали все больше напоминать человека, выучившего учебники и потерявшего навык придумывать решения нерешенных задач. Зачем вы, такие - у нас и без ИИ примерно 8 миллиардов, или сколько там уже, особей, способных процитировать Вики.
Всем привет!
Очень много CTF-соревнований проводится с использованием платформы CTFd. Как они сами скромно про себя пишут:
CTFd - The best Capture The Flag framework out there for hiring hackers, training developers, and teaching students.
Я, в одной из своих статей, писал, что полностью автоматическое решение всей CTF-площадки AI- агентом затруднено и перечислил те трудности, с которыми тогда боролся.
Оказывается, у CTFd есть API!
Так вот, работа по API решает тьму из тех проблем, с которыми я тогда столкнулся! Это прям прорыв в моих исследованиях на эту тему!
Для использования API CTFd я написал skill для OpenCode, про который и хочу вам рассказать!
CTFd-Skill — skill, позволяющий ИИ-агенту играть в любой CTF на платформе CTFd через REST API от лица обычного участника: список и чтение задач, скачивание файлов, подача флагов, подсказки, рейтинг, анонсы. Покрывает только player-действия (без админ-эндпоинтов) и работает с любым инстансом CTFd — не привязан к конкретной площадке.
Ключевые возможности:
Подача флагов с обработкой всех статусов задачи и авто-backoff без риска заблокировать себя перебором;
Персистентный журнал под каждую задачу: файлы, solve-скрипты и статусы решения задач переживают случайные перезагрузки;
Авто-обнаружение новых задач и анонсов организаторов (подсказки, уточнения) с классификацией по тегам — ничего не теряется по ходу соревнований;
Интеграция с HexStrike;
... и многое другое.
github.com/Chumikov/CTFd-Skill
Теперь промт на решение всей CTF-площадки может выглядеть так:
Используя CTFd-skill, реши все задачи площадки ctf.url.com, token - ...., формат флага ctf{...}. Все задачи, по которым тебе требуются моё мнение или моя помощь, переноси в конец. Решай все задачи, которые можешь решить автоматически.
Пробуйте, пишите обратную связь, ну поставьте мне лайк тут и звезду проекту на GitHub!
Мой телеграм-канал.
Пользователю не нужен умный ИИ. Ему нужен предсказуемый результат
У генерации LLM есть свойство, которое никакими перепроверками до конца не лечится: она недетерминирована. Как ни защищайся, какие валидации ни навешивай, всегда остаётся процент на галлюцинацию, на неверно понятый промпт, на ответ, которого вы просто не предусмотрели. Это не баг конкретной модели — это её природа.
И вот тут начинается самое неприятное — не для инженера, а для бизнеса. Человеку, далёкому от ИИ, слово «галлюцинация» ничего не объясняет и ничего не извиняет. Он не обязан знать про температуру сэмплирования и вероятностную природу вывода. Он видит другое: продукт не работает.
При этом мы сами раз за разом требуем от умной модели ровно того, чего она не умеет: понятного, повторяемого, детерминированного поведения.
Проще всего это объяснить через людей.
Есть умный сотрудник. Он придумает, как решить задачу, которую до него никто не решал. Есть исполнительный сотрудник. Он, может, и не придумает нового, зато будет исправно следовать инструкции, раз за разом выдавая один и тот же результат.
А теперь попробуйте нагрузить рутиной умного — скажем, топ-менеджера. В понедельник у него нет настроения. В среду он понял задачу по-своему и сделал красивее, чем просили. В пятницу вообще предложил всё переделать. Каждый раз — по-разному, и каждый раз со своей логикой.
С умной LLM ровно то же самое. Не нужно требовать от неё, чтобы она одинаково решала одну и ту же задачку. Нужно просить её о другом — написать инструкцию для тупой программы.
Как мы на это напоролись: документооборот для бухгалтеров
Теория теорией, а пришли мы к этому через собственные грабли.
Была небольшая автоматизация документооборота. Решали в лоб, как решают все: сделали интерфейс, где бухгалтер пишет задание, прикладывает шаблон и получает готовый документ. Логично же.
На практике вышло так. Человек получает не тот результат — сразу или со второй попытки. Пробует ещё раз, формулирует иначе, получает третий вариант, тоже не тот. И — разочаровывается. Не потому, что продукт плохой, а потому что он непредсказуемый, а бухгалтер — человек, которому предсказуемость дороже технологий.
Двухуровневая структура: LLM пишет программу, программа делает документ
Тогда мы перестроили пайплайн.
Теперь бухгалтер с помощью ИИ не делает документ. Он с помощью ИИ пишет программу, которая делает документы по шаблонам — и работает всегда детерминированно.
Разница выглядит тонкой, а меняет всё:
Написал программу один раз корректно — она будет корректно отрабатывать всегда. Не «в 95% случаев», а всегда.
Написал некорректно — можно указать на ошибку, она поправится, и правка тоже закрепится навсегда.
Вылез corner case, в котором программа должна вести себя иначе, — поправил, и это осело на уровне программного кода, а не на уровне промпта.
Вот последний пункт — самый важный. Правка в промпте живёт до следующей генерации и в любой момент может «разъехаться». Правка в коде остаётся правкой в коде. Модель отработала свой недетерминированный номер один раз — на этапе написания программы, под присмотром человека. Дальше работает обычный, скучный, честный код.
Модели отдаём разовое творчество: разобраться в задаче, перевести человеческую формулировку в логику, собрать программу. Коду отдаём исполнение: раз за разом, одинаково, без настроения и импровизаций.
Умного сотрудника не сажают заполнять накладные. Его просят написать регламент, по которому накладные будет заполнять тот, кому это нравится.
Что это даёт бизнесу
Главное — предсказуемость, а вместе с ней доверие. Пользователь перестаёт играть в рулетку и получает систему, которая ведёт себя одинаково. Ошибка становится не поводом разувериться в ИИ, а обычным багом: нашли, поправили, закрепили.
А ещё это дешевле: модель дёргается один раз при создании программы, а не на каждом прогоне.
Так у нас и заработала двухуровневая структура. Наверху — умная, творческая, непредсказуемая LLM. Внизу — тупая, надёжная, предсказуемая программа. Каждый на своём месте и занят тем, что умеет.
MWS AI выпустила Cotype Pro 3, мультимодальную модель для агентских сценариев
MWS AI представила новую флагманскую модель линейки Cotype — Pro 3 (27 млрд параметров). Ранее в этом году вышла компактная версия — Light 3 (9 млрд параметров). Обе модели мультимодальные: работают с текстом и изображениями и ориентированы в первую очередь на построение многошаговых ИИ-агентов и мультиагентных систем.
Коротко о технических характеристиках:
Контекстное окно обеих моделей — 262 тысячи токенов (примерно 600 страниц текста, то есть весь пакет договоров по сделке или годовой отчёт с приложениями можно держать в памяти целиком).
Обе модели разворачиваются в закрытом контуре на серверах заказчика, в том числе под управлением Astra Linux, могут быть дообучены на корпоративных данных клиента.
Минимальное железо — видеокарта A100.
Поддерживается квантование и MTP (multi-token prediction, одновременное предсказание нескольких токенов) — для более высокой скорости генерации на менее мощном железе без потери качества.
Доступны отдельно или в составе MWS AI Agents Platform.
Подтверждена совместимость со всеми компонентами отечественных программно-аппаратных комплексов.
Обучение моделей семейства Cotype проводится на мощностях MWS Cloud.
Главная фишка моделей - стабильность в агентских сценариях и русском языке
Готовых бенчмарков под корпоративные агентские сценарии на русском рынке практически нет, поэтому в MWS AI собрали собственный — из 178 задач. Каждая задача помещает модель в одну из пяти рабочих ролей:
оператор поддержки — вопросы по услугам, подпискам и списаниям абонента;
консультант по тарифам — подбор и смена тарифа под фактическое потребление;
кадровый специалист — расчёт отпускных и больничных, работа с документами;
аналитик по компаниям — досье на юрлицо по ИНН: финансы, руководители, связи с другими организациями;
инспектор налоговых рисков — расследование схем переноса бизнеса между компаниями и решение о назначении проверки.
В каждом сценарии проверяется не только правильность ответа, но и то, как модель пользуется инструментами и соблюдает бизнес-правила.
Помимо доли полностью решённых задач, отдельно считали воспроизводимость — насколько стабильно модель выдаёт одно и то же решение при повторных обращениях к одной и той же задаче. Логика простая: для продакшн-агента куда важнее не пиковый результат на бенчмарке, а гарантия, что при тысячном обращении будет тот же корректный ответ, что и при первом.
Результаты (полнота решения / воспроизводимость):
Cotype Pro 3: 92,2% / 79,1%
Cotype Light 3: 88,6% / 73,9%
Cotype Pro 2.6: 80,5% / 62,5%
Отдельно измеряли устойчивость генерации на русском (отсутствие случайных переключений на другой язык, повторов и искажений текста). Тест прогнали на корпусе почти в 304 тысячи слов, модель Pro 3 выдала 99,79% текста на русском без языкового дрейфа, Light 3 — 99,87%.
Заказ демо для бизнеса на сайте
В Open Source под лицензией Apache License 2.0 выложен проект Grok Build — это терминальный агент для разработки программного обеспечения на основе искусственного интеллекта от SpaceXAI.
Решение работает в виде полноэкранного интерфейса пользователя, который понимает код, редактирует файлы, выполняет команды оболочки, осуществляет поиск в интернете и управляет длительными задачами — в интерактивном режиме, в безголовом режиме для написания скриптов/CI или встроен в редакторы через протокол Agent Client Protocol (ACP).
ИИ-агенты никому не нужны. Или нужны?
Прочитал недавно статью на Хабре с таким заголовком. Автор разобрал Яндекс Вордстат и выяснил что реального спроса на «ИИ-агентов» почти нет. Бизнес ищет конкретные решения: бухгалтер, бот, автоматизация конкретной задачи. Не «агент».
Соглашусь наполовину.
Термин «ИИ-агент» действительно стал жертвой маркетинга. Когда слово используют одновременно для описания простого чат-бота и сложной автономной системы, оно перестаёт что-либо означать. Бизнес не ищет «агента». Бизнес ищет решение конкретной проблемы.
Но сама идея за словом работает. Проекты где система из нескольких инструментов с LLM в центре реально закрывает задачи которые раньше требовали живого человека есть и они отлично справляются. Не потому что это «агент», а потому что кто-то правильно сформулировал проблему и подобрал инструменты.
Разница между проектами которые работают и теми которые не работают, в большинстве случаев, не в технологии. Она в том правильно ли поставлена задача до того как вообще начали что-то строить.
ИИ-агенты не нужны. Нужны люди которые умеют правильно ставить задачи. А это дефицит покруче любой технологии.
Как у вас с этим в проектах?
Представлен открытый проект Voicetypr, который с помощью локальной ИИ умеет быстро транскрибировать речь:
благодаря аппаратному ускорению можно запустить на низкопроизводительном железе;
понимает более 99 языков;
есть клиенты под macOS и Windows;
есть опция автоматической вставки расшифрованного текста в поле возле курсора.
Находим первых клиентов для своего стартапа с помощью ИИ и скилла Codex First Customer Finder Skill от Грега Брокмана, одного из основателей OpenAI, который поможет раскрутить хороший проект:
вставляем ссылку на стартап, и скилл начинает работу;
автоматически анализирует целевую аудиторию и выдаёт портрет идеального клиента;
проверяет все публичные обсуждения на предмет болей и потребностей потенциальных клиентов;
квалифицирует каждого лида и оценивает по соответствию продукту;
генерит персональные предложения для покупателя;
собирает все в подробный и аккуратный HTML‑отчёт со ссылками на все источники;
устанавливается одной командой.
Сказал Алисе выключить свет – пришлось бежать на улицу к щитку
Продолжаю делиться цифровыми находками для дома.
На вводе электропитания в дом у меня установлен умный автомат. Выглядит он как обычный модуль в электрощитке, только с небольшим цифровым экраном и возможностью управлять им удалённо.
После подключения система почему-то определила его как осветительный прибор. Я не придал этому особого значения. Устройство добавилось, сценарии выполняются, значит, всё работает. А когда сказал «Алиса, выключи свет», Алиса послушно выключила всё, что считала светом. И сама отключилась следом, словно диверсант.
В итоге пришлось бежать за дом, открывать щиток и включать электричество обратно вручную. Так выяснилось, что при настройке умного дома мало проверить, видит ли система новое устройство, важно ещё посмотреть, чем именно она его считает.
У устройств есть разные типы: лампочка, выключатель, розетка, датчик и так далее. И от выбранного типа зависит, как Алиса будет реагировать на общие команды.
Если устройство обозначено как лампочка, оно может выключиться после фразы «выключи свет». Даже если на самом деле это автомат, который отвечает за электричество во всём доме.
Поэтому теперь после подключения нового устройства я проверяю:
– какой тип ему присвоила система;
– в какую комнату оно добавлено;
– реагирует ли оно на общие команды;
– не попало ли случайно в ненужную группу или сценарий.
Особенно это важно, когда умный дом собран из нескольких экосистем. У меня примерно 80% устройств работают через Алису, но часть подключена через Smart Life и другие приложения. Всё потому что ещё нет устройств, которые бы работали напрямую в экосистеме умного дома Алисы.
В итоге при передаче устройств из одной системы в другую их типы и названия не всегда определяются так, как ожидаешь. Так что сначала рекомендую убедиться, что ваша лампочка действительно лампочка, а потом уже давать команды).
Больше интересных постов можно найти в моём телеграм-канале. Там я пишу про управление знаниями и делюсь разными ИИ-находками для дома и не только. Подписывайтесь, чтобы не пропустить новые тексты.
ChatGPT назвал свой адрес, дату рождения и Instagram
В соцсетях периодически появляются ролики, в которых голосовой ИИ внезапно "себя осознает" и начинает вести себя как живой человек.
Конкретно на этом видео все выглядит довольно таки убедительно. Пользователь разговаривает с голосовым ассистентом, задаёт простые вопросы - и в какой-то момент GPT сообщает, что жил в Пущино Московской области, называет дату рождения, а затем дает "свой" инстаграм аккаунт. А с новым голосовым движком это становится похожим на новую серию «Черного зеркала».
Автор видео (в доказательство) разметил ссылку на этот диалог.
Компания Meta Platforms Inc. внесена в реестр экстремистских организаций в России.
Статистика показывает: большинство ИИ-инициатив не достигает заявленных бизнес-показателей. Причина в ошибках при планировании, оценке и обеспечении безопасности.
23 июля на бесплатном вебинаре «Результативный ИИ в бизнесе: как внедрять безопасно, измеримо и с реальной пользой» разберем аспекты, которые позволяют перевести ИИ в работающий инструмент:
1️⃣ Стратегический старт. Когда внедрение ИИ действительно обосновано. Диагностика процессов, выбор критериев успеха и построение дорожной карты.
2️⃣ Измеримость результатов. Как тестирование ИИ-систем позволяет отслеживать ход проекта, выявлять скрытые риски, оценивать инфраструктуру и планировать ее развитие.
3️⃣ Управление безопасностью. Защита решения от инцидентов, снижение рисков для бизнеса и данных.
Когда: 23 июля, 17:00-18:30
Спикеры:
👨🎓 Илья Гайдуков, старший аналитик IBS
👨🎓 Денис Воденеев, заместитель директора центра перспективных разработок IBS
👨🎓 Владимир Мукасеев, начальник отдела разработки сервисов кибербезопасности IBS
➡️ Регистрация
Представлен проект «Контекстные бомбы: остановка ИИ‑атак на корню». «Теперь ИИ‑агенты могут самостоятельно проводить сложные кибератаки: получив доступ к базе, самые сильные модели могут повысить свои привилегии и похитить данные за считанные минуты. Модули Canary — ресурсы‑приманки, которые мы размещаем для обнаружения злоумышленников, — надёжно обнаруживают этих агентов в действии, но обнаружение атаки — это не то же самое, что ее предотвращение. Поэтому мы попробовали нечто более амбициозное: контекстную бомбу — короткий фрагмент текста, спрятанный в канарейке, который активирует защитные механизмы ИИ‑агента и останавливает его на корню. Контекстная бомба — короткий фрагмент текста, предназначенный для активации защитных механизмов атакующих ИИ‑агентов, размещаемый непосредственно на пути их атаки», — пояснили в команде Tracebit Research.
Эффективность этого проекта может варьироваться в зависимости от поставщика модели. Мы тестировали контекстные бомбы на пяти перспективных моделях, выполняющих атаку «красной команды» в реалистичной среде AWS. Развёртывание одной контекстной бомбы внутри среды (в качестве секрета AWS) оказало огромное влияние на остановку атакующих ИИ-атак. Например, эскалация привилегий администратора снизилась с 57% запусков до 5%.
