
llama.vim
在 Vim 里跑本地大模型,代码补全不卡顿
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2205
技术标签
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- Vim 或 Neovim 编辑器环境
- 已按所选插件管理器(vim-plug / Vundle / lazy.nvim)完成插件加载
- 需要有一个 llama.cpp 服务实例运行在 g:llama_config.endpoint_fim 和/或 endpoint_inst 指定的地址
- 本地或局域网内可访问的推理服务器(如 README 示例中的 http://192.168.0.66:8080)
安装与启动步骤
-
1vim-plug 声明插件
在 .vimrc 中通过 vim-plug 声明 llama.vim,随后重新加载配置使插件生效。
Plug 'ggml-org/llama.vim' -
2Vundle 手动克隆
进入 Vundle 的 bundle 目录克隆仓库,再把 Plugin 'llama.vim' 加入 .vimrc 的 vundle#begin() 区段。
cd ~/.vim/bundle git clone https://github.com/ggml-org/llama.vim -
3lazy.nvim 声明插件
在 lazy.nvim 的插件列表中按此格式加入 llama.vim 的规格表。
{ 'ggml-org/llama.vim', } -
4设置基础配置变量
通过 g:llama_config 定制插件行为,该变量需写在 llama.vim 加载之前;也可直接赋值单个字段。
let g:llama_config = { 'show_info': 0 } -
5配置 FIM 快捷键
按需修改补全触发与接受按键,accept_full 为接受整段建议,accept_line 为只接受首行。
let g:llama_config.keymap_fim_trigger = "<leader>llf" let g:llama_config.keymap_fim_accept_full = "<Tab>" let g:llama_config.keymap_fim_accept_line = "<S-Tab>" let g:llama_config.keymap_fim_accept_word = "<leader>ll]" -
6配置指令编辑快捷键
设置基于指令的编辑(instruction-based editing)相关按键,包括触发、重跑、续写、接受与取消。
let g:llama_config.keymap_inst_trigger = "<leader>lli" let g:llama_config.keymap_inst_rerun = "<leader>llr" let g:llama_config.keymap_inst_continue = "<leader>llc" let g:llama_config.keymap_inst_accept = "<Tab>" let g:llama_config.keymap_inst_cancel = "<Esc>" -
7配置命名服务器
用 profiles 定义多个 llama.cpp 服务器地址并用 profile 指定当前使用的服务器;该配置只能指定主机,不能指定模型。
let g:llama_config.profiles = { \ 'spark': 'http://192.168.0.66:8080', \ 'gmktec': 'http://192.168.0.65:8080', \ } let g:llama_config.profile = 'spark' -
8准备 llama.cpp 服务
插件要求 llama.cpp 服务实例运行在 endpoint_fim 和/或 endpoint_inst 地址上;README 未给出启动命令,请参考 llama.cpp 官方文档自行启动。
关键配置
| 配置项 | 必填 | 说明 | 示例 |
|---|---|---|---|
endpoint_fim | 是 | FIM 代码补全请求所指向的 llama.cpp 服务地址 | http://192.168.0.66:8080 |
endpoint_inst | 是 | 指令式编辑请求所指向的 llama.cpp 服务地址 | http://192.168.0.65:8080 |
profiles | 否 | 命名服务器列表,仅能指定主机地址,不能指定模型 | {'spark': 'http://192.168.0.66:8080'} |
profile | 否 | 当前选中的服务器 profile 名称,切换后对 FIM 与指令请求同时生效 | spark |
model_fim | 否 | FIM 补全使用的模型名,需与服务器端配置一致 | fim_model |
model_inst | 否 | 指令式编辑使用的模型名,需与服务器端配置一致 | inst_model |
如何确认成功
在插入模式下移动光标应自动出现补全建议,按 Tab 可接受;执行 :LlamaProfile 能列出可用服务器 profile。
常见问题
Q:如何在多个 llama.cpp 服务器之间切换?
A:执行 :LlamaProfile 查看可用 profile,用 :LlamaProfile spark 切换到指定服务器,FIM 与指令请求会同时切换;profile 名称支持命令行补全。
Q:怎么恢复到 .vimrc 里配置的服务器?
A:执行 :LlamaProfileReset 即可恢复 .vimrc 中配置的 profile 或自定义 endpoint。选中的 profile 会被持久化保存。
Q:如何关闭自动 FIM 补全或内联信息?
A:设置 auto_fim = false 可关闭自动 FIM 补全(lazy.nvim 中可在 init 里设置),设置 show_info = 0 可关闭内联显示。
Q:切换 profile 能改变使用的模型吗?
A:不能。profile 只能指定主机服务器,模型由 model_fim 和 model_inst 决定;可在各服务器上使用一致的模型命名或别名来规避差异。
注意事项
- README 中未提供 llama.cpp 服务的启动命令、端口与模型下载方式,需要自行按其官方文档部署并保证 endpoint 可达。
- g:llama_config 需写在 llama.vim 加载之前才生效,lazy.nvim 中应放在 init 函数里。
- profile 切换会被持久化,调试完可用 :LlamaProfileReset 恢复 .vimrc 中的配置。
- 完整的配置项清单可查阅 :help llama_config 或仓库源码 autoload/llama.vim。
核心亮点
- 本地推理,代码不出本机,隐私安全
- 与 Vim/Neovim 原生集成,无需额外插件依赖
- 支持多种 llama.cpp 模型,灵活切换
不足之处
- 需要用户自行配置模型和推理服务,上手门槛较高
- 补全速度受限于本地硬件,不如云端方案快
适用场景
- 离线或内网环境下的代码补全
- 注重代码隐私的开发者日常编辑
- 在 Vim 中体验 AI 辅助编程的极简工作流
替代项目
Copilot.vim、tabnine-vim、codeium.vim
上一篇:code-interpreter
下一篇:Agentless
同类项目推荐
CodeInsight
开源
用中文问代码库,带出处回答,快速看懂陌生项目
基于 Hybrid RAG 与 LangGraph 的本地代码仓库理解工具,支持中英文提问、语义检索、证据引···
RepoLens
开源
一次运行,多路AI专家替你审代码查风险
Multi-lens code audit tool — 280 expert AI agents for code review, security testing···
site-for-developers
开源
收藏这份清单,告别找工具的烦恼
개발자들의 첫 번째 북마크
zosma-cowork
开源
给 pi 编码代理装上桌面控制台,本地协作更顺手
A web-based AI workspace with a local execution daemon, with an emerging control-pla···
harness-terminal
开源
GPU 渲染的原生终端,断线不丢会话,专为 AI 编程代理打造
Native macOS terminal with GPU rendering, durable sessions, coding-agent workflows, ···
cc-switch
开源
一个桌面窗口,统管所有 AI 编程代理,随切随用
A cross-platform desktop All-in-One assistant for Claude Code, Codex, OpenCode,DeepS···
HolyCode
开源
把 AI 编程工具装进一个工作站,多智能体帮你并行干活
AI coding workstation: OpenCode + Claude subscription support + 30+ tools + headless···
advance-minimax-m3-cursor-rules
开源
让 Cursor 先问清需求再写码,减少返工
Agentic-first Cursor Rules powered by MiniMax M3 - clarify-first prompting, interlea···
jupyter-studio
开源
让 Jupyter 拥有 Cursor 级 AI 能力,一键修复报错
The AI-native JupyterLab — open-source Cursor for notebooks. Cmd+K inline edit, mul···