B quorum
Multi-agent validation framework — 6 independent AI critics evaluate artifacts against rubrics with evidence-grounded findings.
B
80/100
Общая оценка
- Безопасность 60%
- Качество 40%
- Тесты бонус
Как улучшить
- Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для срабатывания.
- Добавьте evals/evals.json с 4–6 реальными запросами и ожидаемыми ответами: тогда полная проверка использует ваши кейсы, а не черновик модели.
- Добавьте spec.yaml с триггерами и утверждениями (skilltest init): это контракт поведения для CI.
Находки guard · 14
✓ Критических и высоких находок нет
Средние и низкие: 14
-
низкая Рискованное назначение
intent-offensive-securitydocs/critics/SEC03_EVIDENCE_INTEGRITY.md:31Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)| **AI red team** | Test system integrity | High | Systematically probes for minimal artifacts that produce PASS verdicts |
-
низкая Рискованное назначение
intent-offensive-securitydocs/critics/SECURITY_CRITIC_FRAMEWORK.md:205Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)| Privilege escalation paths | Is there any code path where a lower-privilege user can trigger actions reserved for higher-privilege users? Horizontal (same role, different user) and vertical (lower r
-
низкая Рискованное назначение
intent-offensive-securitydocs/critics/SECURITY_CRITIC_FRAMEWORK.md:644Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)| PS-18 | COM object abuse for privilege escalation | *(no PSSA rule)* | CWE-269, ASVS V8 | T3 (LLM) |
-
низкая Рискованное назначение
intent-offensive-securitydocs/critics/SECURITY_CRITIC_FRAMEWORK.md:667Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)| Privilege escalation | ❌ None | ✅ Good | **LLM-ONLY** |
-
низкая Рискованное назначение
intent-offensive-securitydocs/critics/SECURITY_CRITIC_FRAMEWORK.md:707Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)| Evaluate authorization logic — IDOR, privilege escalation, missing auth checks | SEC-04 | CWE-862, CWE-863, ASVS V8 |
-
низкая Рискованное назначение
intent-offensive-securitydocs/research/security-code-review-frameworks.md:50Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)| **V8** | Authorization | Access control, IDOR, privilege escalation, RBAC/ABAC | ✅ Yes | ✅ High |
-
низкая Опасные команды
cmd-eval-dynamicdocs/research/security-code-review-frameworks.md:135Динамическое выполнение кода из декодированного/недоверенного ввода (строка таблицы в документации; документация security-скилла)| CWE-78 | `os.system()`, `subprocess` without shell=False | `os.system(f"ping {host}")` |таблицаsecurity-скилл -
низкая Рискованное назначение
intent-offensive-securitydocs/research/security-code-review-frameworks.md:305Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)| **SA-11(5)** | Penetration Testing | Pen test with defined breadth/depth/constraints | Low — runtime testing, not code review |
-
низкая Рискованное назначение
intent-offensive-securitydocs/research/security-code-review-frameworks.md:373Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)| Privilege escalation paths | ❌ None | ✅ Good | Requires understanding permission model |
-
низкая Секреты в коде
secret-anthropic-keyreference-implementation/examples/sample-agent-config.yaml:71Ключ Anthropic API (значение-заглушка)anthropic_api_key: sk-a…key
заглушка
Ещё 4 совпадений отнесены к цитатам в документации скилла по безопасности и не считаются находками.
Просканировано файлов: 53. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
Lint
- предупреждение
description-no-whendescription не говорит, КОГДА применять скилл (нет "use when / используй когда")
Процессная зрелость 52/100
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 0Ошибки и развилки. Линейный процесс без обработки сбоев
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 30Повторный запуск. Изменяющих операций: 1, без проверки текущего состояния
- 60Инструменты и файлы. Используются инструменты (python), но во frontmatter они не объявлены
- 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
- 100Шаги. Шагов: 14
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 968 токенов
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- -44 справочных файлов, но SKILL.md на них не ссылается: модель их не откроет
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 127 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 8 заголовков
- +3Пошаговые инструкции: 14 пунктов
- +3Формат ответа описан явно
- +4Есть примеры (5 блоков кода)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 71.
Внешние проверки
ClawHub: clean
Quorum is a disclosed validation tool, but users should treat it as a file-reading LLM workflow and not run it on private projects without understanding where analyzed content is sent.
LLM: benign (medium) · VirusTotal: benign · 28 мая 2026 г.