项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 1004
技术标签
使用教程
环境要求
- Node.js 18 及以上
- npm / pnpm 等包管理器
安装与启动步骤
-
1安装依赖
在项目中安装 aimock 包。
npm install @copilotkit/aimock -
2创建并启动 Mock
用 LLMock 在本地起一个端口,预设对话响应。
import { LLMock } from "@copilotkit/aimock"; const mock = new LLMock({ port: 0 }); mock.onMessage("hello", { content: "Hi there!" }); await mock.start(); -
3把 SDK 指向本地 Mock
在构造 OpenAI 等客户端之前设置环境变量,使其请求打到本地 mock 而非真实 API。
process.env.OPENAI_BASE_URL = `${mock.url}/v1`; process.env.OPENAI_API_KEY = "sk-anything"; -
4运行测试
运行你的测试,断言返回由 mock 决定的内容。
如何确认成功
测试运行时,原本调用真实 OpenAI 的请求被本地 mock 拦截,返回预设的 'Hi there!',控制台无真实 API 调用与费用产生。
常见问题
Q:支持模拟哪些协议?
A:LLM API、MCP、A2A、AG-UI、向量数据库、搜索、rerank、moderation 等,统一由一个本地端口模拟。
注意事项
- 务必在构造 OpenAI 等客户端之前设置环境变量,否则 SDK 会缓存真实 base URL,绕过 mock。
核心亮点
- 一个包一个端口覆盖 LLM、MCP、A2A、AG-UI、向量库、搜索等多类依赖,接入成本低
- 零依赖设计,启动快,适合放进 CI 做确定性集成测试
- TypeScript 编写,对前端和 Node 生态的 AI 应用开发者友好
不足之处
- 早期项目,协议覆盖广但各协议的模拟深度和真实行为一致性待验证
- 社区和文档规模较小,遇到冷门协议问题可参考的资料有限
适用场景
- 在 CI 中跑 Agent 逻辑的集成测试,避免真实调用 LLM 产生费用和不确定性
- 离线或弱网环境下开发调试 AI 应用,不依赖外部 API 可用性
- 验证多协议协作流程,如 MCP 工具调用与 AG-UI 前端交互的联调
替代项目
msw、prism、wiremock
上一篇:chatllm.cpp
下一篇:openeverest
同类项目推荐
aitune
开源
自动调优 NVIDIA GPU 推理配置,省去手工调参
NVIDIA AITune is an inference toolkit designed for tuning and deploying Deep Learnin···
ComfyUI-Installer
开源
Linux 上一键装好 ComfyUI,省去手动配环境的麻烦。
Easily install ComfyUI on a Linux system. Installs completely inside a Python venv.
simple-llm
开源
1300行Python手写LLM推理引擎,读懂并魔改每一步
~1300 line, minimal, extensible LLM inference engine built from scratch.
optillm
开源
给 LLM 推理加个外挂,自动优化提示词和采样策略,提升答案质量与效率。
Optimizing inference proxy for LLMs
mlplatform-workshop
开源
用示例代码快速搭建机器学习平台骨架
Example code for a basic ML Platform based on Pulumi, FastAPI, DVC, MLFlow and more
zon-TS
开源
用 ZON 格式替代 JSON,提示词 token 成本直降 35-70%
ZON → 35-70% cheaper LLM prompts than JSON/TOON. Zero overhead.
FlexPrefill
开源
长序列推理加速,稀疏注意力省算力不掉精度
Code for paper: [ICLR2025 Oral] FlexPrefill: A Context-Aware Sparse Attention Mechan···
voyageai-python
开源
一行代码接入顶级文本嵌入和重排序,让语义搜索更准。
Voyage AI Official Python Library
mlx-openai-server
开源
在 Mac 上跑起 OpenAI 兼容的本地模型服务,一行代码接入现有工具。
A high-performance API server that provides OpenAI-compatible endpoints for MLX mode···
