AA devtool-answer-monitor
Используйте, когда пользователь хочет отслеживать, как ChatGPT, Claude, Gemini и другие LLM описывают инструмент разработчика, API, SDK или проект с открытым исходным кодом. DevTool Answer Monitor — это вспомогательный навык для репозитория devtool-answer-monitor, охватывающий дизайн пула запросов, мониторинг по четырем метрикам, размещение контента для конкретной модели, проверку контента, исправление негативных ответов, анализ активации и проверку регрессии через T+7 или T+14.
машинный переводПоказать оригиналСкрыть оригинал«Use when the user wants to monitor how ChatGPT, Claude, Gemini, and ot…»
Use when the user wants to monitor how ChatGPT, Claude, Gemini, and other LLMs describe a developer tool, API, SDK, or open-source project. DevTool Answer Monitor is the companion skill for the devtool-answer-monitor repo and covers query pool design, four-metric monitoring, model-specific content placement, content checks, negative-answer repair, activation analysis, and T+7 or T+14 regression validation.
DevTool Answer Monitor — это вспомогательный навык для репозитория devtool-answer-monitor, охватывающий дизайн пула запросов, мониторинг по четырем метрикам…
Как процесс A 81/100 · Дойдёт до конца — слабые места: отчётность по ходу
Как улучшить
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 80. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
✓ По спецификации Agent Skills замечаний нет
Процессный рейтинг: все десять параметров 81/100
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 55Ошибки и развилки. Развилок: 1
- 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
- 70Когда включается. Сказано, когда применять, но не сказано, когда не стоит
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 100Инструменты и файлы. Инструменты объявлены во frontmatter
- 100Шаги. Шагов: 37
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 1726 токенов
- 100Повторный запуск. Изменяющие операции проверяют текущее состояние
- medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
- low Разделов верхнего уровня: 13. Похоже на несколько доменов в одном скилле
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +4Нет примеров входа/выхода
- +2Инструкции на одном языке
- +3Длина description 409 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 14 заголовков
- +3Пошаговые инструкции: 37 пунктов
- +3Формат ответа описан явно
- +4Справочные файлы упоминаются в инструкциях (2 из 4)
- +1Лицензия указана
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 88.