llm-vscode

环境要求

• 已安装 VSCode 桌面客户端
• 可访问 Hugging Face Inference API 的网络环境（默认推理方式）
• 如需自建推理服务，需提供符合 llm-ls backend API 规范的 HTTP 端点

安装与启动步骤

1. 1确认 VSCode 环境

   llm-vscode 是 VSCode 扩展，必须在 VSCode 编辑器内运行，先确认本机已装好 VSCode 并能正常打开。

2. 2安装扩展

   像安装其他 VSCode 扩展一样安装：在扩展市场搜索 HuggingFace.huggingface-vscode，或点击 README 中给出的 marketplace 链接。

3. 3打开设置页搜索 Llm

   用快捷键打开设置页，输入 Llm 即可查看该扩展的全部配置项，按需调整模型与端点。

4. 4选择模型与服务端点

   默认使用 bigcode/starcoder 搭配 Hugging Face Inference API；也可改为自己的 HTTP 端点，但必须符合 backend 列出的 API 规范。

5. 5使用幽灵文本补全

   在编辑器中正常写代码，扩展会以 ghost-text 形式给出内联补全建议，接受即可插入。

6. 6代码归属检查

   对生成的代码按 Cmd+Shift+A，快速检查其是否出现在 The Stack 数据集中，作为第一道归属核查。

如何确认成功

VSCode 扩展列表中出现该扩展且处于启用状态，在设置页搜索 Llm 能列出配置项，写代码时出现灰色 ghost-text 补全建议。

常见问题

注意事项

• 默认推理组合是 bigcode/starcoder + Hugging Face Inference API。
• 扩展后端为 llm-ls，推理请求由它负责。
• 发送给模型的提示词会按上下文窗口自动裁剪，token 数由 tokenizers 计算。
• 该项目曾用名 huggingface-vscode，搜索市场时注意包名。