SKILLEMALL.ai
EN Войти

B arize-evaluator

Handles LLM-as-judge evaluation workflows on Arize including creating/updating evaluators, running evaluations on spans or experiments, managing tasks, trigger-run operations, column mapping, and continuous monitoring. Use when the user mentions create evaluator, LLM judge, hallucination, faithfulness, correctness, relevance, run eval, score spans, score experiment, trigger-run, column mapping, continuous monitoring, or improve evaluator prompt.

github/awesome-copilot Agent Skills автор: github MIT 3 файла тело ≈ 7 896 токенов открыть источник ↗ проанализирован 10 ч назад

Handles LLM-as-judge evaluation workflows on Arize including creating/updating evaluators, running evaluations on spans or experiments, managing tasks…

ПроцедураИИ и агентытип и темы размечены автоматически по тексту скилла
Запускается в: GitHub Copilot / VS Code Claude / Claude Code ChatGPT / Codex Gemini CLI Cursor Qwen Code Kimi Code CLI Z.ai (GLM) DeepSeek (Deep Code) Mistral Vibe LangChain (deepagents) OpenClaw Goose OpenCode
JSON
B
88/100
Общая оценка
Безопасность 60%
95
Качество 40%
78
Тесты бонус
0

Такой же скилл встречается ещё в 1 месте: RA-Skills

Чем это грозит

Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.

Утечка данных средняя серьёзность

Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.

Если установить

Инструкции или скрипты отправляют данные наружу: переменные окружения, ключи, содержимое файлов, историю чата. Вы можете не заметить этого в диалоге, потому что агент выполнит отправку как «часть задачи».

Автору

Если отправка не нужна для задачи, уберите её: каталоги помечают такие скиллы как подозрительные и снимают с выдачи. Если нужна, назовите адрес явно, объясните, что именно уходит, и дайте пользователю выключатель.

Как улучшить

  1. Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
  2. Добавьте evals/evals.json с 4–6 реальными запросами и ожидаемыми ответами: тогда полная проверка использует ваши кейсы, а не черновик модели.
  3. Добавьте spec.yaml с триггерами и утверждениями (skilltest init): это контракт поведения для CI.

Находки guard · 1

✓ Критических и высоких находок нет

Средние и низкие: 1
  • средняя Утечка данных net-credential-use references/ax-profiles.md:72
    Учётные данные используются в сетевом вызове (проверьте, что адрес — нужный сервис)
    Once the user confirms the variable is set, proceed with `ax profiles create --api-key $ARIZE_API_KEY` or `ax profiles update --api-key $ARIZE_API_KEY` as described above.

Просканировано файлов: 3. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

Lint

  • предупреждение body-long тело SKILL.md ≈ 7896 токенов (рекомендуется < 5000); вынесите детали в references/

Процессная зрелость 73/100

  • 0Результат и критерий готовности. Не сказано, что считать результатом
  • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
  • 60Инструменты и файлы. Используются инструменты (bash, web), но во frontmatter они не объявлены
  • 70Стоимость исполнения. Тело инструкции 7896 токенов
  • 85Шаги. Шагов: 22, расплывчатых формулировок: 2
  • 100Когда включается. Сказано, когда применять и когда не применять
  • 100Входы и предусловия. Входные данные и предусловия перечислены
  • 100Ошибки и развилки. Развилок: 7, есть раздел про ошибки
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Повторный запуск. Изменяющие операции проверяют текущее состояние
  • medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
  • low Разделов верхнего уровня: 10. Похоже на несколько доменов в одном скилле

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Формат ответа не описан: модель каждый раз решает сама
  • +1Лицензия не указана
  • +2Инструкции на одном языке
  • +3Длина description 449 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 42 заголовков
  • +3Пошаговые инструкции: 22 пунктов
  • +4Есть примеры (28 блоков кода)
  • +4Справочные файлы упоминаются в инструкциях (2 из 2)

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 78.