llm.nvim

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

• 已安装 Neovim，并已配置好一个插件管理器
• 可用的 LLM 后端：Hugging Face Inference API，或自建且符合 backend 规范的 HTTP endpoint
• 使用 Inference API 时需要 Hugging Face API token
• 网络可访问所配置的后端 HTTP 地址

安装与启动步骤

1. 1安装插件本体

   README 未给出具体插件管理器命令，可先把仓库克隆到 Neovim 插件目录；路径按自己的插件管理器调整。

   git clone https://github.com/huggingface/llm.nvim.git /your/path/site/pack/plugins/start/llm.nvim

   复制

2. 2确定后端与凭证

   插件通过 HTTP 请求调用后端，需要用 require('llm').setup 配置 backend、model 和 api_token。

3. 3写入 setup 配置

   在 Neovim 配置文件中加入 llm.setup，README 给出的字段可原样使用，按需修改 model 与 backend。

   local llm = require('llm')
   
   llm.setup({
     api_token = "sk-xxxxxxxx",
     model = "bigcode/starcoder2-15b",
     backend = "huggingface",
     url = nil,
     tokens_to_clear = { "<|endoftext|>" },
     request_body = {
       parameters = {
         max_new_tokens = 60,
         temperature = 0.2,
         top_p = 0.95,
       },
     },
     fim = {
       enabled = true,
       prefix = "<fim_prefix>",
       middle = "<fim_middle>",
       suffix = "<fim_suffix>",
     },
     debounce_ms = 150,
     accept_keymap = "<Tab>",
     dismiss_keymap = "<S-Tab>",
     tls_skip_verify_insecure = false,
     lsp = {
       bin_path = nil,
       host = nil,
       port = nil,
       cmd_env = nil,
       version = "0.5.3",
     },
     tokenizer = nil,
     context_window = 1024,
     enable_suggestions_on_startup = true,
     enable_suggestions_on_files = "*",
     disable_url_path_completion = false,
   })

   复制

4. 4按需覆盖后端地址

   不想在配置里写死 url 时，可用环境变量 LLM_NVIM_URL 覆盖后端地址；url 为 nil 则走默认 Inference API 地址。

   export LLM_NVIM_URL=https://your-endpoint.example.com

   复制

5. 5重启 Neovim 验证

   保存配置后重启 Neovim，编辑文件时观察是否出现补全提示，并用 Tab / Shift-Tab 接受或忽略。

关键配置

如何确认成功

重启 Neovim 后在文件中输入代码，若出现灰色 ghost-text 补全提示，说明插件与后端已连通。

常见问题

注意事项

• README 未提供具体的插件管理器安装示例，第一条命令中的 /your/path 需替换为自己实际的 Neovim 插件目录。
• 免费版 Inference API 存在调用限制，正式使用建议订阅 PRO 计划。
• url 留空（nil）时会回落到 Inference API 的默认地址，也可用环境变量 LLM_NVIM_URL 覆盖。