SKILLEMALL.ai

AD instructor

Структурированный вывод LLM, проверенный с помощью Pydantic.

машинный переводПоказать оригиналСкрыть оригинал«Structured LLM outputs validated with Pydantic.…»

Structured LLM outputs validated with Pydantic.

NousResearch/hermes-agent Hermes автор: NousResearch MIT 4 файла тело ≈ 4 060 токенов Открыть источникgithub.com проанализирован 19 ч назад

Структурированный вывод LLM, проверенный с помощью Pydantic.

Как процесс D 46/100 · Процесс не доведён — слабые места: результат и критерий готовности, когда включается, входы и предусловия

АнализаторGitHubИИ и агентытип и темы размечены автоматически по тексту скилла
Запускается в: Hermes Agent
JSON
Технический рейтинг
A
92/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
81
Прогон на моделях
не было
Процессный рейтинг
D
46/100
Процесс не доведён
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
Отчётность по ходу вес 2
0
три самых слабых из десяти параметров · все десять

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 0

    ✓ Критических и высоких находок нет

    Просканировано файлов: 4. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    • заметка frontmatter-key неизвестное поле фронтматтера "dependencies"

    Процессный рейтинг: все десять параметров 46/100

    • 0Результат и критерий готовности. Не сказано, что считать результатом
    • 0Входы и предусловия. Не сказано, что нужно иметь на входе
    • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
    • 20Когда включается. Не сказано, при каком запросе скилл включается
    • 50Ошибки и развилки. Развилок: 0, есть раздел про ошибки
    • 60Инструменты и файлы. Используются инструменты (python), но во frontmatter они не объявлены
    • 60Согласованность. Диалект Hermes требует category и tags
    • 70Стоимость исполнения. Тело инструкции 4060 токенов
    • 100Шаги. Шагов: 29
    • 100Повторный запуск. Изменяющих операций нет
    • low Разделов верхнего уровня: 12. Похоже на несколько доменов в одном скилле

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
    • +3Длина description 47: рекомендуется 120–800 символов
    • +3Формат ответа не описан: модель каждый раз решает сама
    • -2Ссылки на localhost: у другого пользователя не заработает
    • -220 эмодзи в инструкциях: шум для модели
    • +2Инструкции на одном языке
    • +4Структура: 47 заголовков
    • +3Пошаговые инструкции: 29 пунктов
    • +4Есть примеры (32 блоков кода)
    • +4Справочные файлы упоминаются в инструкциях (3 из 3)
    • +1Лицензия указана

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 81.