项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 71
核心亮点
- 插件化架构，按需组合功能，避免臃肿依赖
- 深度集成 TypeScript 类型系统，编译期校验提升稳定性
- 统一模型接口，方便切换不同 LLM 提供商
不足之处
- 项目处于早期阶段，API 可能变动频繁
- 文档和社区生态尚不完善，示例较少
适用场景
- 在 TypeScript 后端服务中集成 LLM 调用，并需要统一管理提示词和日志
- 构建需要多模型切换或 A/B 测试的 LLM 应用
- 为现有 Node.js 应用添加 LLM 能力，且希望保持代码结构清晰可维护
替代项目
LangChain.js、OpenAI Node.js SDK、Vercel AI SDK
上一篇：hub
同类项目推荐
LocalLLMClient
开源
在苹果设备上轻松跑本地大模型，离线也能用
Swift package to run local LLMs on iOS, macOS, Linux
RecSys-MLops
开源
一套代码串起推荐系统训练到推理全链路
Highly Scalable RecSys ML & Data system
darwin
开源
一站式管理 ML 模型，从实验到上线更省心
ML Platform at Dream11
Claudoscope
开源
给 Claude Code 装上实时监控仪表盘，会话安全一目了然。
native macOS app that gives you a real-time dashboard for your Claude Code and Cowor···
langfuse-mcp
开源
让 AI 代理直接查询 Langfuse 追踪数据，实现自我调试与可观测性。
A Model Context Protocol (MCP) server for Langfuse, enabling AI agents to query Lang···
SLA
开源
让视频生成模型推理更快，画质不掉线
SLA: Beyond Sparsity in Diffusion Transformers via Fine-Tunable Sparse–Linear Atten···
nexus-llm-router
开源
一个接口接入所有大模型，自动选最优，省钱又省心
Drop-in LLM router and AI gateway speaking OpenAI Chat Completions, OpenAI Responses···
mlops-project-template
开源
在Azure上快速搭建企业级MLOps流水线，省时又规范。
Azure MLOps (v2) solution accelerators. Enterprise ready templates to deploy your ma···
Crane
开源
纯 Rust 多模态推理引擎，一个栈跑通文本、视觉、语音与 OCR。
A Pure Rust based LLM, VLM, VLA, TTS, OCR Inference Engine, powering by Candle & Rus···