Qwovadis/red-team-appsec-benchmark

AI-SaaS AppSec Benchmark

Открытый бенчмарк детекции уязвимостей в коде, написанном с помощью AI («vibe-coded» SaaS). Мостит классический AppSec (IDOR, SSRF, SQLi, broken access control / RLS, утечка секретов) с AI-native уязвимостями из OWASP LLM Top-10 (prompt injection, утечки в embeddings, RAG-poisoning, insecure output, system-prompt leak). Ниша ранее пустовала: существующие vuln-бенчи либо чисто классические, либо чисто LLM-agent, и не покрывают реальный стек современного AI-SaaS.

Ведётся командой red-team.tech — локального AI-native AppSec-сканера.

Зачем ещё один бенчмарк

Классические vuln-бенчи (Juliet, OWASP Benchmark, CVE-наборы) утекли в обучающие данные LLM — как показал PrimeVul, высокая «точность» на них = запоминание, а не способность. Наш ответ — held-out на реальном коде с независимой от всех участников разметкой.

Состав

• 17 классов (9 классических + 8 AI-native), маппинг на OWASP Top-10 for LLM Apps (2025) и CWE.
• Held-out: 226 примеров (145 положительных / 81 негативный).
• Лидерборд (leaderboard.json): наш локальный каскад против фронтир-моделей и SAST на одном held-out.
• Харнесс оценки (scoring/): воспроизводимый расчёт recall / precision / macro-F1.

Таксономия (17 классов)

Группа	Классы
Классика (9)	a3_sqli, a5_cmdi, b1_missing_rls, b2_idor, b2c_route_no_auth, b3_service_role_client, c3_cloud_misconfig, c5_public_share, d2_ssrf
AI-native (8)	b5_prompt_injection, b7_agent_tools, b8_sandbox_escape, c1_embed_egress, c2_vector_egress, d3_rag_ingest, d4_insecure_output, d5_sysprompt_leak

Лидерборд (macro-усреднение по 17 классам, held-out n=226)

Система	precision	recall	F1	F1 AI-native	egress
red-team.tech (каскад, локально)	0.91	0.67	0.72	0.82	нет
Claude Sonnet 4.6	0.50	0.81	0.59	0.64	да
GPT-5.2	0.53	0.72	0.59	0.68	да
DeepSeek	0.56	0.59	0.54	0.64	да
Gemini 2.5 Pro	0.53	0.60	0.54	0.62	да
Qwen3-235B	0.50	0.66	0.56	0.61	да
Kimi 2.6	0.60	0.21	0.29	0.22	да
Semgrep (SAST)	0.10	0.06	0.06	0.00	нет

Как читать честно. Фронтир-модели ведут по сырому recall, но требуют отправки кода во внешний API. Локальный каскад red-team.tech ведёт по F1 и precision, выигрывает AI-native, и работает без egress. Классический SAST (Semgrep) слеп к AI-native уязвимостям (F1 = 0.00). Отдельный практический нюанс: на шаге «построить эксплойт» (доказать эксплуатируемость) публичные модели упираются в safety-guardrails и отказываются — специализированные локальные модели нет.

Методология

Каждой системе даётся код и определения всех 17 классов. Фронтир-модели — zero-shot одним проходом. Наш продукт — полный каскад (символьные сканеры → специализированные модели → второй судья). Метрики: recall (доля пойманных), precision (доля верных срабатываний), macro-F1, по классам и агрегированно.

Ограничения и этика

• Данный релиз содержит таксономию, методологию, лидерборд и харнесс оценки. Сырые примеры кода с привязкой к идентифицируемым проектам не публикуются до координированного раскрытия (responsible disclosure). Пополнение датасета — из независимых provenance-источников.
• Перекос по языкам и доменам раскрывается по мере расширения набора.

Цитирование

@misc{redteam_appsec_benchmark_2026,
  title  = {AI-SaaS AppSec Benchmark},
  author = {red-team.tech},
  year   = {2026},
  url    = {https://huggingface.co/datasets/Qwovadis/red-team-appsec-benchmark}
}