AB eval-driven-dev
Добавляйте инструментарий, создавайте эталонные наборы данных, пишите тесты на основе оценки, запускайте их, определяйте корневые причины сбоев и итерируйте — убедитесь, что ваше приложение Python LLM работает правильно. Обязательно используйте этот навык всякий раз, когда пользователь разрабатывает, тестирует, обеспечивает качество, оценивает или сравнивает производительность проекта Python, который вызывает LLM. Используйте для обеспечения правильной работы приложения LLM, отлова регрессий после изменений подсказок, исправления неожиданного поведения или проверки качества вывода перед выпуском.
машинный переводПоказать оригиналСкрыть оригинал«Add instrumentation, build golden datasets, write eval-based tests, ru…»
Add instrumentation, build golden datasets, write eval-based tests, run them, root-cause failures, and iterate — Ensure your Python LLM application works correctly. Make sure to use this skill whenever a user is developing, testing, QA-ing, evaluating, or benchmarking a Python project that calls an LLM. Use for making sure an LLM application works correctly, catching regressions after prompt changes, fixing unexpected behavior, or validating output quality before shipping.
Добавляйте инструментарий, создавайте эталонные наборы данных, пишите тесты на основе оценки, запускайте их, определяйте корневые причины сбоев и итерируйте —…
Как процесс B 75/100 · Почти готов — слабые места: стоимость исполнения
Как улучшить
- Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 4. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
body-longтело SKILL.md ≈ 9370 токенов (рекомендуется < 5000); вынесите детали в references/
Процессный рейтинг: все десять параметров 75/100
- 40Стоимость исполнения. Тело инструкции 9370 токенов: вытесняет саму задачу из окна
- 60Инструменты и файлы. Используются инструменты (bash, web, python), но во frontmatter они не объявлены
- 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 70Ошибки и развилки. Развилок: 19
- 85Шаги. Шагов: 86, расплывчатых формулировок: 1
- 100Когда включается. Сказано, когда применять и когда не применять
- 100Согласованность. Имя и обязательные поля на месте
- 100Повторный запуск. Изменяющие операции проверяют текущее состояние
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
- low Разделов верхнего уровня: 15. Похоже на несколько доменов в одном скилле
- low Ответ описан самодельной разметкой (4 тегов): типизированный вызов надёжнее
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +2Инструкции на одном языке
- +3Длина description 477 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 44 заголовков
- +3Пошаговые инструкции: 86 пунктов
- +3Формат ответа описан явно
- +4Есть примеры (26 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (1 из 1)
- +1Лицензия указана
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 82.