SKILLEMALL.ai

AC drift-guard

LLM sycophancy detection and behavioral drift prevention for AI agents. Audits responses for empty praise, verbosity waste, scope creep. Anti-sycophancy framework with scorecards and DRIFT_LOG. Keeps agents honest and useful over time.

modbender/skill-library-mcp Agent Skills автор: modbender MIT 3 файла тело ≈ 2 034 токенов Открыть источникgithub.com проанализирован 30 ч назад

LLM sycophancy detection and behavioral drift prevention for AI agents.

Как процесс C 56/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, входы и предусловия

АнализаторИИ и агентытип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
A
92/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
80
Прогон на моделях
не было
Процессный рейтинг
C
56/100
Есть пробелы
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
Когда включается вес 12
20
три самых слабых из десяти параметров · все десять

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 0

    ✓ Критических и высоких находок нет

    Просканировано файлов: 3. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    • заметка frontmatter-key неизвестное поле фронтматтера "homepage"
    • заметка frontmatter-key неизвестное поле фронтматтера "changelog"

    Процессный рейтинг: все десять параметров 56/100

    • 0Результат и критерий готовности. Не сказано, что считать результатом
    • 0Входы и предусловия. Не сказано, что нужно иметь на входе
    • 20Когда включается. Не сказано, при каком запросе скилл включается
    • 30Повторный запуск. Изменяющих операций: 13, без проверки текущего состояния
    • 55Ошибки и развилки. Развилок: 1
    • 85Шаги. Шагов: 55, расплывчатых формулировок: 1
    • 100Инструменты и файлы. Внешние инструменты не нужны
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Стоимость исполнения. Тело инструкции 2034 токенов
    • 100Отчётность по ходу. Скилл сообщает о ходе работы
    • low Разделов верхнего уровня: 14. Похоже на несколько доменов в одном скилле

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
    • +3Формат ответа не описан: модель каждый раз решает сама
    • -229 эмодзи в инструкциях: шум для модели
    • +1Лицензия не указана
    • +2Инструкции на одном языке
    • +3Длина description 235 символов: достаточно сигнала, не съедает бюджет
    • +4Структура: 22 заголовков
    • +3Пошаговые инструкции: 55 пунктов
    • +4Есть примеры (9 блоков кода)

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 80.