llama.vim

环境要求

• Vim 或 Neovim 编辑器环境
• 已按所选插件管理器（vim-plug / Vundle / lazy.nvim）完成插件加载
• 需要有一个 llama.cpp 服务实例运行在 g:llama_config.endpoint_fim 和/或 endpoint_inst 指定的地址
• 本地或局域网内可访问的推理服务器（如 README 示例中的 http://192.168.0.66:8080）

安装与启动步骤

1. 1vim-plug 声明插件

   在 .vimrc 中通过 vim-plug 声明 llama.vim，随后重新加载配置使插件生效。

   Plug 'ggml-org/llama.vim'

   复制

2. 2Vundle 手动克隆

   进入 Vundle 的 bundle 目录克隆仓库，再把 Plugin 'llama.vim' 加入 .vimrc 的 vundle#begin() 区段。

   cd ~/.vim/bundle
   git clone https://github.com/ggml-org/llama.vim

   复制

3. 3lazy.nvim 声明插件

   在 lazy.nvim 的插件列表中按此格式加入 llama.vim 的规格表。

   {
       'ggml-org/llama.vim',
   }

   复制

4. 4设置基础配置变量

   通过 g:llama_config 定制插件行为，该变量需写在 llama.vim 加载之前；也可直接赋值单个字段。

   let g:llama_config = { 'show_info': 0 }

   复制

5. 5配置 FIM 快捷键

   按需修改补全触发与接受按键，accept_full 为接受整段建议，accept_line 为只接受首行。

   let g:llama_config.keymap_fim_trigger     = "llf"
   let g:llama_config.keymap_fim_accept_full = ""
   let g:llama_config.keymap_fim_accept_line = ""
   let g:llama_config.keymap_fim_accept_word = "ll]"

   复制

6. 6配置指令编辑快捷键

   设置基于指令的编辑（instruction-based editing）相关按键，包括触发、重跑、续写、接受与取消。

   let g:llama_config.keymap_inst_trigger  = "lli"
   let g:llama_config.keymap_inst_rerun    = "llr"
   let g:llama_config.keymap_inst_continue = "llc"
   let g:llama_config.keymap_inst_accept   = ""
   let g:llama_config.keymap_inst_cancel   = ""

   复制

7. 7配置命名服务器

   用 profiles 定义多个 llama.cpp 服务器地址并用 profile 指定当前使用的服务器；该配置只能指定主机，不能指定模型。

   let g:llama_config.profiles = {
        'spark':   'http://192.168.0.66:8080',
        'gmktec':  'http://192.168.0.65:8080',
        }
   let g:llama_config.profile = 'spark'

   复制

8. 8准备 llama.cpp 服务

   插件要求 llama.cpp 服务实例运行在 endpoint_fim 和/或 endpoint_inst 地址上；README 未给出启动命令，请参考 llama.cpp 官方文档自行启动。

关键配置

如何确认成功

在插入模式下移动光标应自动出现补全建议，按 Tab 可接受；执行 :LlamaProfile 能列出可用服务器 profile。

常见问题

注意事项

• README 中未提供 llama.cpp 服务的启动命令、端口与模型下载方式，需要自行按其官方文档部署并保证 endpoint 可达。
• g:llama_config 需写在 llama.vim 加载之前才生效，lazy.nvim 中应放在 init 函数里。
• profile 切换会被持久化，调试完可用 :LlamaProfileReset 恢复 .vimrc 中的配置。
• 完整的配置项清单可查阅 :help llama_config 或仓库源码 autoload/llama.vim。