Awesome AI Security Tools

В ходе обсуждений автотриажа Nuclei и других средств анализа защищенности родилась идея собрать в кучу все интересное про AI Cybersecurity. Сказанно #ёПРСТ - сделано!

https://github.com/scadastrangelove/awesome-ai-security-tools

Подборка общедоступных, исследовательских и коммерческих инструментов для обеспечения безопасности ИИ и кибербезопасности с использованием ИИ: автоматическая сортировка угроз, безопасность агентов, цепочка поставок ИИ/машинного обучения, агенты для пентеста, SAST ИИ, фаззинг на основе LLM, анализ угроз, сортировка угроз SOC/SIEM, обратное проектирование, редтим LLM и многое другое.

PS. Набор ключевых слов

• Autotriage of Security Findings

• AI Agent & Coding-Agent Security

• Scanners & Auditors

• Frameworks, Rule Standards & Benchmarks

• Runtime Protection & Enforcement

• AI/ML Supply Chain & Model Security

• Pentest & Red-Team Agents

• AI-Powered SAST & Secure Code Review

• LLM-Driven Fuzzing

• Harness / target generation

• Fuzzing the LLM

• Threat Intelligence

• Log Analysis / SIEM / SOC Triage

• Reverse Engineering

• LLM Red-Teaming & Guardrails

• Scanners, Evals & Guardrails

• Prompt-Injection Classifier Models

• LLM Honeypots & Deception

• CTF / Exploit / Bug-Bounty Agents & Benchmarks

• Cloud / IaC / DFIR / OSINT / Phishing