llm-ls

给任意编辑器接上大模型，代码补全即插即用

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 编程开发 🍴 复刻 73 🐛 待处理 27 👀 关注 21
GitHub ↗
GitHub 星标 ★ 885
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源免费，需自行部署

项目预览

llm-ls 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类编程开发
开发团队huggingface
GitHubhttps://github.com/huggingface/llm-ls
定价模式🏷️完全免费
价格说明开源免费，需自行部署
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Rust
技术栈/模型ai,code-generation,huggingface,ide,llamacpp,llm,lsp,lsp-server,openai,self-hosted
GitHub 星标★ 885
上线时间2023-08-10 00:00:00
代码更新2026-09-23
仓库体积361 KB
本站数据更新2026-11-06
维护状态维护中
收录时间2026-09-22
浏览次数2

项目介绍

llm-ls 是一个用 Rust 编写的 LSP（语言服务器协议）服务器，核心目标是把大语言模型接入各类代码编辑器，提供代码补全等智能辅助能力。它本身不绑定特定编辑器，而是通过标准 LSP 协议与 VS Code、Neovim 等客户端通信，因此理论上任何支持 LSP 的编辑器都能接入。项目支持多种后端，包括 OpenAI 兼容接口、Hugging Face 推理端点以及本地 llama.cpp 自托管模型，用户可以在云端 API 和本地推理之间自由选择，兼顾效果与隐私。它解决的是编辑器原生补全不够智能、而各家 AI 补全插件又彼此割裂的问题，让开发者用统一协议接入任意模型。除补全外，项目还预留了更多 LLM 辅助能力的扩展空间。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-22 · 当前星标 ★ 885

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：进阶 约 20 分钟 部署方式：本地安装 4 步

环境要求

  • 对应编辑器扩展开发环境

安装与启动步骤

  1. 1看定位

    llm-ls 是给 IDE 扩展用的语言服务器，负责统一对接各家模型。

  2. 2装二进制

    从 release 下载对应平台文件，放进扩展能调用的路径。

  3. 3写扩展对接

    扩展只需按 LSP 协议发请求，模型交互由 llm-ls 处理。

  4. 4配模型

    通过初始化参数传模型服务配置，支持多家 provider。

如何确认成功

LSP 握手成功，能返回补全结果。

注意事项

  • 普通用户用不到，这是给扩展作者的基础设施。

核心亮点

  • 基于标准 LSP 协议，不绑定编辑器，VS Code、Neovim 等均可接入
  • 支持 OpenAI、Hugging Face、本地 llama.cpp 多种后端，可自托管保隐私
  • Rust 实现，性能与资源占用优于多数 Node/Python 同类方案

不足之处

  • 项目处于早期，功能与稳定性仍在演进
  • 配置项较多，本地模型接入对新手有一定门槛

适用场景

  • 在 Neovim 中接入本地大模型做离线代码补全
  • 团队用自托管 llama.cpp 统一为成员提供补全服务
  • 把 OpenAI 兼容接口快速接入任意 LSP 编辑器

替代项目

tabby、continue、llama.vim

上一篇：pyflyby

下一篇：distill

同类项目推荐

aspens 开源

让 AI 编程助手在大型项目里不迷路，自动拆解指令文件并随代码更新。

Your CLAUDE.md stopped working at 200 lines. Generate scoped skill files from your i···

★ 101 2026-08-09
codegraph 开源

给 AI 编程助手一张实时更新的代码地图

Pre-indexed code knowledge graph, auto syncs on code changes, for Claude Code, Codex···

★ 76920 2026-11-06
compose-skill 开源

让 AI 写出更靠谱的 Compose 代码，直接引用官方源码

Jetpack Compose Agent Skill — AI-powered coding guidance with actual androidx/andro···

★ 599 2026-08-09
my-git 开源

一本手册，搞定 Git 协作与 AI 时代的版本管理

Git as the control plane for AI-native software engineering | AI Native 软件工程的 G···

★ 7403 2026-08-09
IDAssist 开源

在 IDA 里直接问 AI，秒懂汇编函数

AI-Powered Reverse Engineering Plugin for IDA Pro

★ 905 2026-09-16
lobe-cli-toolbox 开源

让 Git 提交和翻译自动化，告别手写 commit 和语言文件

Lobe CLI Toolbox - AI CLI Toolbox, enhancing git commit and i18n workflow efficiency

★ 418 2026-08-09
codexqa 开源

给 AI 编程助手装上质量检查技能，改完自动查影响、审代码、生成测试

codexqa: 11 local-first Agent Skills for Cursor, Claude Code, Codex & OpenClaw — ch···

★ 236 2026-10-03
builder 开源

说句话就生成网站和应用，开源自部署版 Lovable

✨ AI Builder For Creating Sites and Apps! An open-source alternative to Lovable, Re···

★ 336 2026-10-18
finding-unknowns-skills 开源

让 AI 代理先问清楚再写代码，少返工

14 installable skills for Claude Code, OpenAI Codex, and Hermes: find unknowns, clar···

★ 364 2026-09-30