SKILLEMALL.ai

AC preflight-checks

Поведенческое тестирование с ориентацией на тесты для ИИ-агентов. Выявляет незаметную деградацию, когда агент загружает память, но не применяет усвоенное поведение. Используйте при создании агента с постоянной памятью, тестировании после обновлений или обеспечении поведенческой согласованности между сессиями.

машинный переводПоказать оригиналСкрыть оригинал«Test-driven behavioral verification for AI agents. Catches silent degr…»

Test-driven behavioral verification for AI agents. Catches silent degradation when agent loads memory but doesn't apply learned behaviors. Use when building agent with persistent memory, testing after updates, or ensuring behavioral consistency across sessions.

modbender/skill-library-mcp Agent Skills автор: modbender MIT 10 файлов · 2 скрипта тело ≈ 2 489 токенов Открыть источникgithub.com проанализирован 30 ч назад

Поведенческое тестирование с ориентацией на тесты для ИИ-агентов.

Как процесс C 51/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, входы и предусловия

АнализаторGitHubИИ и агентытип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
A
95/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
87
Прогон на моделях
не было
Процессный рейтинг
C
51/100
Есть пробелы
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
Ошибки и развилки вес 10
0
три самых слабых из десяти параметров · все десять

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 0

    ✓ Критических и высоких находок нет

    Просканировано файлов: 10. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    ✓ По спецификации Agent Skills замечаний нет

    Процессный рейтинг: все десять параметров 51/100

    • 0Результат и критерий готовности. Не сказано, что считать результатом
    • 0Входы и предусловия. Не сказано, что нужно иметь на входе
    • 0Ошибки и развилки. Линейный процесс без обработки сбоев
    • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
    • 20Когда включается. Не сказано, при каком запросе скилл включается
    • 85Шаги. Шагов: 103, расплывчатых формулировок: 2
    • 100Инструменты и файлы. Внешние инструменты не нужны
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Стоимость исполнения. Тело инструкции 2489 токенов
    • 100Повторный запуск. Изменяющие операции проверяют текущее состояние
    • low Разделов верхнего уровня: 16. Похоже на несколько доменов в одном скилле

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
    • +3Формат ответа не описан: модель каждый раз решает сама
    • +1Лицензия не указана
    • +2Инструкции на одном языке
    • +3Длина description 261 символов: достаточно сигнала, не съедает бюджет
    • +4Структура: 30 заголовков
    • +3Пошаговые инструкции: 103 пунктов
    • +4Есть примеры (13 блоков кода)
    • +3Все 2 скриптов описаны в инструкциях

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 87.