TurboLLM

一条命令把 Claude Code 接到自己显卡上跑

TurboLLM 是一个面向本地大模型推理的基础设施工具，用 TypeScript 编写，目标是让任何人都能在自己的显卡上跑起任意本地 LLM 引擎。它自动检测并调优 GPU 参数，省去手动配置 llama.cpp 的繁琐过程，同时提供一个精致的 Web UI 用于模型管理和对话。更关键的是，它暴露了与 OpenAI 和 Anthropic 兼容的 API 接口，这意味着你可以把 Claude Code 等工具直接指向自己的机器，一条命令完成接入，无需改动客户端代码。项目强调离线优先、无 Electron 依赖、无 Python 环境要求，安装和启动都更轻量。适合希望在本地私有化运行模型、又想复用现有 AI 编程工具链的开发者，兼顾隐私、成本和可玩性。