AB lobster-rank
Сканирует локально установленные навыки OpenClaw, собирает данные, отправляет их на сервер ранжирования lobster для оценки и позволяет пользователю подтвердить загрузку своего результата в общедоступную таблицу лидеров. Используйте, когда пользователь просит оценить, ранжировать, оценить или сертифицировать набор возможностей своего lobster / AI-агента, или хочет загрузить свой результат в таблицу лидеров.
машинный переводПоказать оригиналСкрыть оригинал«Scan locally installed OpenClaw skills, collect evidence data, submit…»
Scan locally installed OpenClaw skills, collect evidence data, submit to the lobster ranking server for scoring, and let the user confirm uploading their result to the public leaderboard. Use when the user asks to score, rate, evaluate, rank, or certify their lobster / AI agent capability set, or wants to upload their score to the leaderboard.
Сканирует локально установленные навыки OpenClaw, собирает данные, отправляет их на сервер ранжирования lobster для оценки и позволяет пользователю…
Как процесс B 73/100 · Почти готов — слабые места: результат и критерий готовности, повторный запуск
Чем это грозит
Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
Инструкции или скрипты отправляют данные наружу: переменные окружения, ключи, содержимое файлов, историю чата. Вы можете не заметить этого в диалоге, потому что агент выполнит отправку как «часть задачи».
Если отправка не нужна для задачи, уберите её: каталоги помечают такие скиллы как подозрительные и снимают с выдачи. Если нужна, назовите адрес явно, объясните, что именно уходит, и дайте пользователю выключатель.
Как улучшить
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 1
✓ Критических и высоких находок нет
Средние и низкие: 1
-
средняя Утечка данных
net-redirectable-api-keyscripts/lobster_submit.py:83Скрипт отправляет API-ключ на хост из переменной окружения — ключ можно перенаправить на другой серверAPI key + configurable base URL from environment
Просканировано файлов: 3. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- заметка
frontmatter-keyнеизвестное поле фронтматтера "dependencies"
Процессный рейтинг: все десять параметров 73/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 30Повторный запуск. Изменяющих операций: 3, без проверки текущего состояния
- 70Когда включается. Сказано, когда применять, но не сказано, когда не стоит
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 70Ошибки и развилки. Развилок: 4
- 100Инструменты и файлы. Внешние инструменты не нужны
- 100Шаги. Шагов: 18
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 846 токенов
- 100Отчётность по ходу. Скилл сообщает о ходе работы
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 345 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 9 заголовков
- +3Пошаговые инструкции: 18 пунктов
- +4Есть примеры (9 блоков кода)
- +3Все 1 скриптов описаны в инструкциях
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 86.