xllm

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

• 可访问 GitHub 与官方文档站点 docs.xllm-ai.com 的网络环境
• 已下载目标模型权重（如 GLM-5.3-Flash、MiniMax-M3、DeepSeek-V4 等，README 仅给链接）
• C++ 构建/运行环境（项目以 C++ 实现，README 未给出具体依赖）
• 可用的推理硬件：CPU 或各类 AI 加速器（README 未列出具体要求）

安装与启动步骤

1. 1获取项目源码

   从 GitHub 克隆 xLLM 仓库到本地，README 未给出其他获取方式。

   git clone https://github.com/xLLM-AI/xllm.git

   复制

2. 2阅读快速开始

   README 的 Getting Started 只提供官方文档链接，安装命令以该页为准。

3. 3按文档启动 xLLM

   打开 Launch xLLM 文档，按其步骤完成引擎的启动配置。

4. 4选择在线或离线模式

   在线服务适合常驻接口调用，离线推理适合批量任务，按场景选其一。

5. 5确认模型是否支持

   在 Supported Models 页面核对你要部署的模型是否在支持列表中。

6. 6参考模型部署脚本

   README 对新模型给出 testspace 下的部署脚本，可作为配置示例参考。

如何确认成功

README 未提供启动命令、端口或日志，需以官方 Quick Start 文档给出的校验方式为准。

常见问题

注意事项

• 本教程严格依据 README 节选整理，README 未提供的命令、端口、路径一律未编写，实际安装请以 docs.xllm-ai.com 官方文档为准。
• xLLM 已于 2026-07-06 捐赠给开放原子基金会（OpenAtom Foundation），项目归属与许可信息请以仓库最新说明为准。
• 项目采用 Apache License 2.0 许可，商用前请阅读许可证条款。