Как не нарваться на prompt-injection или зачем нам проверять скиллы?

[spdev000]

Regex/AST/YARA/проверка зависимостей не "читают" инструкции - они матчат паттерны

SkillSpector заточен на англоязычные скиллы и будет хуже работать для скиллов на других языках.

Из 17 категорий только ~5 полностью языконезависимы (AST, Taint, YARA, Supply Chain, MCP Least Privilege), а остальные завязаны на английский текст и пропустят формулировки тех же угроз на других языках.

[AlexeyChijov]

Узнал для себя про SkillSpector от NVIDIA (сканер на безопасность скиллов, проверяет их до установки).

[powerman]

я сделал скилл, который заставит агента сам проверять новый скилл

Читать. Скиллы надо чи-тать. Самому. Т.е. совсем-совсем самому, лично, глазками, без помощи агента. До установки. И до обновления скилла на новую версию смотреть diff.

А прогнать SkillSpector стоит перед тем, как читать.