llm-checker

环境要求

• Node.js 18+（README 已验证 18、20、22 三个版本线）
• 已安装 Ollama（用于实际运行本地模型）
• 可用的 npm 包管理器（用于全局安装）

安装与启动步骤

1. 1安装 llm-checker

   通过 npm 全局安装，安装后可直接在任意目录使用 llm-checker 命令。

   npm install -g llm-checker

   复制

2. 2检测本机硬件

   扫描 CPU、内存、GPU 显存与磁盘等指标，是最基础的入口命令。

   llm-checker hw-detect

   复制

3. 3免安装直接运行

   不想全局安装时，可用 npx 临时拉取并执行同一条命令。

   npx llm-checker hw-detect

   复制

4. 4补装可选依赖

   若数据库类命令提示 sql.js 缺失，说明包管理器跳过了可选依赖，需重装启用。

   npm install -g llm-checker --include=optional

   复制

5. 5查看已装本地模型

   列出 Ollama 中已安装的模型，--verify 会额外校验每个模型的本地 blob 文件。

   llm-checker installed --verify

   复制

6. 6获取模型推荐

   按用途类别（如 coding）在打包的多源仓库中排序推荐，自动判断运行时。

   llm-checker registry-recommend --category coding

   复制

7. 7自动选择并运行

   自动挑选已安装的最优模型，通过 Ollama 流式对话，结束后输出实测 tokens/sec。

   llm-checker ai-run --category coding --prompt "Write a hello world in Python"

   复制

8. 8生成校准产物（可选）

   用 dry-run 生成校准契约与路由策略文件，供后续 --calibrated 使用。

   mkdir -p ./artifacts
   llm-checker calibrate --suite ./sample-suite.jsonl --models qwen2.5-coder:7b llama3.2:3b --runtime ollama --objective balanced --dry-run --output ./artifacts/calibration-result.json --policy-out ./artifacts/calibration-policy.yaml

   复制

关键配置

如何确认成功

运行 llm-checker hw-detect 能正常输出 CPU、内存、GPU 显存等硬件扫描结果，即表示安装成功。

常见问题

注意事项

• 必须先安装 Ollama 才能实际运行本地模型，本工具负责扫描与推荐。
• GitHub Packages 的 @pavelevich/llm-checker 属于遗留安装方式，版本可能落后于 npm，仅在明确需要时使用。
• mcp-setup --apply 合并配置时不会覆盖客户端配置文件中已有内容。
• 校准策略解析优先级为：--policy > --calibrated > 内置确定性选择器兜底。