llama.vscode

本地跑 Llama,离线也能智能补全代码

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 173 🐛 待处理 53 👀 关注 10
GitHub ↗
GitHub 星标 ★ 1559
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源 VS Code 扩展,MIT 许可证,完全免费,无付费版本。

项目预览

llama.vscode 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队ggml-org
定价模式🏷️完全免费
价格说明开源 VS Code 扩展,MIT 许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言TypeScript
技术栈/模型copilot,developer-tool,extension,llama,llm,vscode
GitHub 星标★ 1559
上线时间2025-01-06 00:00:00
代码更新2026-11-13
仓库体积1.8 MB
本站数据更新2026-11-19
维护状态活跃
收录时间2026-08-09
浏览次数9

项目介绍

llama.vscode 是一个 VS Code 扩展,利用本地运行的 LLM(如 Llama 系列模型)提供代码和文本补全功能。它解决了在编辑器中依赖云端 API 进行 AI 补全的隐私和延迟问题,通过 llama.cpp 等后端在本地推理,实现离线、低延迟的智能补全。核心能力包括:基于上下文的代码补全、多模型支持(如 Llama 2/3、Code Llama)、自定义提示词模板、以及通过 llama.cpp 的 GPU 加速。该扩展强调用户对数据和模型的控制,适合注重隐私的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 1559

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:入门 约 15 分钟 部署方式:本地安装 6 步

环境要求

  • 已安装 VS Code(扩展本体运行在 VS Code 中)
  • macOS 需已安装 Homebrew;Windows 需 Windows Package Manager (winget)
  • Linux 需自行下载 llama.cpp 最新二进制并把其 bin 目录加入 PATH
  • 一台能运行 llama.cpp 的本地机器(低端硬件也可,扩展支持智能上下文复用)

安装与启动步骤

  1. 1安装 VS Code 扩展

    从 VS Code 扩展市场安装 llama-vscode(扩展 ID 为 ggml-org.llama-vscode),也可在 Open VSX 获取;安装后无需其他依赖即可在编辑器中使用。

    code --install-extension ggml-org.llama-vscode
  2. 2安装 llama.cpp

    启动 llama-vscode 后会自动安装 llama.cpp(Mac 走 brew,Windows 走 winget)。也可点状态栏的 llama-vscode 或按 Ctrl+Shift+M 打开菜单,选择 Install/Upgra

  3. 3Linux 用户装 llama.cpp

    Linux 不自动安装:从 llama.cpp 官方 releases 下载最新二进制,解压后把其中的 bin 目录加入系统 PATH,确保命令行可调用。

  4. 4选择环境 Env

    在 llama-vscode 菜单中选 Select/start env...,选中一个包含模型的环境(Env 是一组模型,选中/取消会同时启用其中所有模型)。

  5. 5打开 Llama Agent

    按 Ctrl+Shift+A 或从 llama-vscode 菜单选 Show Llama Agent 打开智能体视图,前提是已为 Agent 选择好 Env。

  6. 6发起对话/补全

    在 Agent 中写查询,需要时可点 @ 按钮附加文件;在编辑器里正常输入即可触发补全建议。

关键配置

配置项必填说明示例
模型选择(Model selection)否分别为补全、聊天、嵌入、工具选择所用模型在 llama-vscode 菜单中配置
Max text generation time否控制单次补全的最大文本生成时间在扩展设置中按需调整
Context scope否控制光标周围纳入提示的上下文范围在扩展设置中按需调整

如何确认成功

状态栏出现 llama-vscode 图标;按 Ctrl+L 能手动触发补全建议;Ctrl+Shift+A 能打开 Llama Agent 并正常返回结果。

常见问题

Q:Linux 上 llama.cpp 怎么装?

A:自动安装仅覆盖 Mac 和 Windows。Linux 请到 llama.cpp 的 releases 页下载最新二进制,解压后把 bin 目录加入 PATH。

Q:补全建议怎么接受?

A:Tab 接受整条建议,Shift+Tab 只接受第一行,Ctrl/Cmd + 右方向键接受下一个词,Ctrl+L 手动开关建议。

Q:需要联网或云端 API 吗?

A:不需要,推理通过本地 llama.cpp 完成,代码不出本机;扩展也内置了部分本地与外部预定义模型。

Q:手机上能用吗?

A:可以,README 提到可通过 Telegram bot 访问 llama-vscode 的 agents。

Q:怎么管理多个模型?

A:在菜单里对模型和 Env 进行添加、删除、导出、导入,Env 作为一组模型的集合统一选中或取消。

注意事项

  • 详情与更多用法见项目 wiki:https://github.com/ggml-org/llama.vscode/wiki
  • 扩展还支持 Deep Link,如 vscode://ggml-org.llama-vscode?view=agent&prompt=Hello 可直接打开 Agent 并带入提示词
  • 可通过扩展菜单导出/导入模型与 Env,便于在多台机器间复用配置

核心亮点

  • 完全本地推理,代码不出本机,隐私安全
  • 支持多种 Llama 系列模型,灵活切换
  • 利用 llama.cpp 实现 GPU 加速,补全速度快

不足之处

  • 需要用户自行配置模型和 llama.cpp,上手门槛较高
  • 补全质量依赖模型大小,小模型效果一般
  • 文档/社区待观察

适用场景

  • 隐私敏感的开发环境,如金融、医疗项目
  • 离线或弱网环境下需要 AI 辅助编程
  • 希望深度定制补全模型和提示词的开发者

替代项目

Continue、Tabby、Fitten Code

上一篇:tlm

下一篇:mex

同类项目推荐

noodle 开源

在终端里发 REST 请求,不切窗口直接调 API

A REST Client where the Repository is the Workspace

★ 405 2026-09-30
rsc-harness 开源

给编码代理装上记忆和手脚,还不让它拆家

Your agent invents things because it has no memory, and can't touch your database be···

★ 632 2026-10-30
gokin 开源

在终端里用自然语言指挥 AI 搞定编码杂活

A powerful CLI tool that brings AI assistance directly to your terminal. Gokin under···

★ 110 2026-08-09
everything-ai-coding 开源

每周更新,聚合 AI 编程扩展,一键安装省心

聚合精选编程 AI 扩展资源:MCP Servers、Skills、Rules、Prompts,周更索引 + 一键安装。

★ 207 2026-08-09
whatisit-nl2sh 开源

说人话就能生成 shell 命令,本地 CPU 一秒出结果

Local natural-language-to-shell command generator. A 941 MB fine-tuned Qwen2.5-Coder···

★ 649 2026-09-16
tmux-assistant-resurrect 开源

tmux 重启后,AI 编程会话自动接着聊

Persist and restore AI coding assistant sessions (Claude Code, OpenCode, Codex CLI, ···

★ 108 2026-10-16
rubberduck-vscode 开源

在 VSCode 里用 OpenAI 直接改代码、查报错,不用切窗口

Use AI-powered code edits, explanations, code generation, error diagnosis, and chat ···

★ 631 2026-08-09
probity 开源

给 AI 编码代理装上 TDD 强制护栏,让测试先行成为默认。

TDD enforcement and guardrails for Claude Code, Codex, and GitHub Copilot CLI

★ 250 2026-08-10
docs-governance 开源

给 AI 编程代理加文档护栏,防文档腐烂、留决策证据

Claude Code、Codex 与 ChatGPT 的文档驱动开发治理插件:防文档腐烂、维护上下文与决策、···

★ 326 2026-10-30