
llama.vscode
本地跑 Llama,离线也能智能补全代码
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1559
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- 已安装 VS Code(扩展本体运行在 VS Code 中)
- macOS 需已安装 Homebrew;Windows 需 Windows Package Manager (winget)
- Linux 需自行下载 llama.cpp 最新二进制并把其 bin 目录加入 PATH
- 一台能运行 llama.cpp 的本地机器(低端硬件也可,扩展支持智能上下文复用)
安装与启动步骤
-
1安装 VS Code 扩展
从 VS Code 扩展市场安装 llama-vscode(扩展 ID 为 ggml-org.llama-vscode),也可在 Open VSX 获取;安装后无需其他依赖即可在编辑器中使用。
code --install-extension ggml-org.llama-vscode -
2安装 llama.cpp
启动 llama-vscode 后会自动安装 llama.cpp(Mac 走 brew,Windows 走 winget)。也可点状态栏的 llama-vscode 或按 Ctrl+Shift+M 打开菜单,选择 Install/Upgra
-
3Linux 用户装 llama.cpp
Linux 不自动安装:从 llama.cpp 官方 releases 下载最新二进制,解压后把其中的 bin 目录加入系统 PATH,确保命令行可调用。
-
4选择环境 Env
在 llama-vscode 菜单中选 Select/start env...,选中一个包含模型的环境(Env 是一组模型,选中/取消会同时启用其中所有模型)。
-
5打开 Llama Agent
按 Ctrl+Shift+A 或从 llama-vscode 菜单选 Show Llama Agent 打开智能体视图,前提是已为 Agent 选择好 Env。
-
6发起对话/补全
在 Agent 中写查询,需要时可点 @ 按钮附加文件;在编辑器里正常输入即可触发补全建议。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
模型选择(Model selection) | 否 | 分别为补全、聊天、嵌入、工具选择所用模型 | 在 llama-vscode 菜单中配置 |
Max text generation time | 否 | 控制单次补全的最大文本生成时间 | 在扩展设置中按需调整 |
Context scope | 否 | 控制光标周围纳入提示的上下文范围 | 在扩展设置中按需调整 |
如何确认成功
状态栏出现 llama-vscode 图标;按 Ctrl+L 能手动触发补全建议;Ctrl+Shift+A 能打开 Llama Agent 并正常返回结果。
常见问题
Q:Linux 上 llama.cpp 怎么装?
A:自动安装仅覆盖 Mac 和 Windows。Linux 请到 llama.cpp 的 releases 页下载最新二进制,解压后把 bin 目录加入 PATH。
Q:补全建议怎么接受?
A:Tab 接受整条建议,Shift+Tab 只接受第一行,Ctrl/Cmd + 右方向键接受下一个词,Ctrl+L 手动开关建议。
Q:需要联网或云端 API 吗?
A:不需要,推理通过本地 llama.cpp 完成,代码不出本机;扩展也内置了部分本地与外部预定义模型。
Q:手机上能用吗?
A:可以,README 提到可通过 Telegram bot 访问 llama-vscode 的 agents。
Q:怎么管理多个模型?
A:在菜单里对模型和 Env 进行添加、删除、导出、导入,Env 作为一组模型的集合统一选中或取消。
注意事项
- 详情与更多用法见项目 wiki:https://github.com/ggml-org/llama.vscode/wiki
- 扩展还支持 Deep Link,如 vscode://ggml-org.llama-vscode?view=agent&prompt=Hello 可直接打开 Agent 并带入提示词
- 可通过扩展菜单导出/导入模型与 Env,便于在多台机器间复用配置
核心亮点
- 完全本地推理,代码不出本机,隐私安全
- 支持多种 Llama 系列模型,灵活切换
- 利用 llama.cpp 实现 GPU 加速,补全速度快
不足之处
- 需要用户自行配置模型和 llama.cpp,上手门槛较高
- 补全质量依赖模型大小,小模型效果一般
- 文档/社区待观察
适用场景
- 隐私敏感的开发环境,如金融、医疗项目
- 离线或弱网环境下需要 AI 辅助编程
- 希望深度定制补全模型和提示词的开发者
替代项目
Continue、Tabby、Fitten Code
同类项目推荐
noodle
开源
在终端里发 REST 请求,不切窗口直接调 API
A REST Client where the Repository is the Workspace
rsc-harness
开源
给编码代理装上记忆和手脚,还不让它拆家
Your agent invents things because it has no memory, and can't touch your database be···
gokin
开源
在终端里用自然语言指挥 AI 搞定编码杂活
A powerful CLI tool that brings AI assistance directly to your terminal. Gokin under···
everything-ai-coding
开源
每周更新,聚合 AI 编程扩展,一键安装省心
聚合精选编程 AI 扩展资源:MCP Servers、Skills、Rules、Prompts,周更索引 + 一键安装。
whatisit-nl2sh
开源
说人话就能生成 shell 命令,本地 CPU 一秒出结果
Local natural-language-to-shell command generator. A 941 MB fine-tuned Qwen2.5-Coder···
tmux-assistant-resurrect
开源
tmux 重启后,AI 编程会话自动接着聊
Persist and restore AI coding assistant sessions (Claude Code, OpenCode, Codex CLI, ···
rubberduck-vscode
开源
在 VSCode 里用 OpenAI 直接改代码、查报错,不用切窗口
Use AI-powered code edits, explanations, code generation, error diagnosis, and chat ···
probity
开源
给 AI 编码代理装上 TDD 强制护栏,让测试先行成为默认。
TDD enforcement and guardrails for Claude Code, Codex, and GitHub Copilot CLI
docs-governance
开源
给 AI 编程代理加文档护栏,防文档腐烂、留决策证据
Claude Code、Codex 与 ChatGPT 的文档驱动开发治理插件:防文档腐烂、维护上下文与决策、···