lmstudio-js

用 TypeScript 轻松调用本地大模型,开发 AI 应用更高效

lmstudio-js 是 LM Studio 官方推出的 TypeScript SDK,用于在 JavaScript/TypeScript 环境中与 LM Studio 本地模型服务进行交互。它解决了开发者在 Node.js 或浏览器应用中调用本地大模型时缺乏统一、类型安全接口的问题。核心能力包括:提供完整的类型定义,支持聊天补全、文本补全、嵌入、模型列表管理、文件上传等 API;支持流式响应和 AbortSignal 取消请求;内置错误处理与重试机制;兼容 OpenAI API 风格,便于迁移。通过该 SDK,开发者可以快速构建基于本地模型的 AI 应用,无需手动处理 HTTP 请求和响应解析。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 1782
维护状态 活跃
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队lmstudio-ai
所属国家
官网地址
定价模式free
价格说明开源 TypeScript SDK,MIT 许可证,完全免费,无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言TypeScript
技术栈/模型llm,lm-studio,lmstudio,nodejs,typescript
GitHub 星标★ 1782
30天Star增速
HF 下载量
上线时间2023-09-15 00:00:00
最近更新2026-09-23 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

难度:入门 约 5 分钟 部署方式:库/依赖 4 步

环境要求

  • Node.js 或其他 Node 兼容环境(README 说明 SDK 支持 Node 兼容环境与浏览器)
  • 使用 npm 作为包管理器
  • 项目中需使用 TypeScript 或 JavaScript 开发环境
  • 已按 LM Studio 官方文档准备好本地模型服务(README 未给出服务端启动步骤)

安装与启动步骤

  1. 1安装 SDK

    在项目根目录执行 README 给出的安装命令,把 @lmstudio/sdk 添加为项目依赖,并写入 package.json。

    npm install @lmstudio/sdk --save
  2. 2导入并创建客户端

    在代码中从 @lmstudio/sdk 导入 LMStudioClient,README 示例即为 new LMStudioClient() 创建客户端实例。

    import { LMStudioClient } from "@lmstudio/sdk";
  3. 3选择运行环境

    README 说明 SDK 同时支持浏览器和任意 Node 兼容环境,按你的目标环境组织代码,浏览器端注意不要在服务端专属逻辑中使用。

  4. 4按需调用能力

    可参考官方文档使用聊天补全、文本补全、嵌入、模型加载/卸载与配置、工具函数智能体等能力。

如何确认成功

代码中 import { LMStudioClient } from "@lmstudio/sdk" 能正常解析、不报模块找不到,即说明 SDK 安装成功。

常见问题

Q:这个 SDK 支持浏览器吗?

A:支持。README 明确说明 lmstudio-js 同时支持浏览器和任何 Node 兼容环境。

Q:我主要用 Python,有对应 SDK 吗?

A:有。README 指向 lmstudio-python(github.com/lmstudio-ai/lmstudio-python),功能定位与 TypeScript 版对应。

Q:可以用它做工具调用和智能体吗?

A:可以。README 说明可以把函数定义为工具,让 LLM 变成完全本地运行的自主智能体,具体用法见官网 TypeScript 文档的 agent 章节。

Q:能管理本地模型吗?

A:可以。README 支持从内存中加载、配置参数和卸载模型,参见文档 manage-models 与 llm-prediction/parameters 章节。

注意事项

  • README 节选只提供了 npm 安装命令,未给出 LM Studio 本地服务的启动方式与端口,请以 LM Studio 官方文档为准。
  • README 中的 Quick Example 代码被截断(仅到 const client = new),完整示例请查阅官网 TypeScript 文档。
  • SDK 兼容 OpenAI API 风格,从 OpenAI 接口迁移时改动较小。
  • 所有命令与类名均以 README 为准,不要自行修改包名 @lmstudio/sdk。

核心亮点

  • 官方维护,与 LM Studio 功能同步更新
  • 完整的 TypeScript 类型定义,开发体验好
  • 支持流式响应和取消请求,适合交互式应用

不足之处

  • 依赖 LM Studio 桌面应用,无法独立运行
  • 文档和示例相对较少,社区资源待丰富

适用场景

  • 在 Node.js 后端集成本地 LLM 服务
  • 构建浏览器端 AI 聊天界面
  • 开发需要类型安全的 AI 工具链

替代项目

openai-node、langchain.js、ollama-js

项目介绍

lmstudio-js 是开发框架领域的开源项目,由 lmstudio-ai 开发,2023 年首次发布。

在全站 13,090 个收录项目中,它的 GitHub 星标数(1,782)位列前 30%,在开发框架分类中处于中上游。

近 42 天,它的 GitHub 星标从 1,750 增加到 1,782,净增 32。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-23。开源 TypeScript SDK,MIT 许可证,完全免费,无付费版本。

它主要面向的使用场景是:在Node.js后端集成本地LLM服务。同类可对比的替代方案包括 openai-node、langchain.js、ollama-js。

上一篇:llm-ui

下一篇:code-act

同类项目推荐

langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 146874 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 166529 2026-08-09
pi 开源

一套 TypeScript 工具包,快速搭出能写代码的 AI agent

AI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI

★ 108504 2026-09-12