halogen-flash-server

Strix Halo 一键跑 Qwen 本地大模型，开箱即用 OpenAI 接口

halogen-flash-server 是一个面向 AMD Strix Halo（gfx1151）平台的本地大模型推理部署脚本，目标是让用户以最快速度在搭载该 APU 的设备上跑起 Qwen3.8-Flash-Next 模型。它通过 Shell 脚本封装了 ROCm/HIP 环境配置、依赖安装、模型下载与推理引擎启动流程，屏蔽了手动编译和调参的繁琐步骤。核心能力包括：针对 gfx1151 架构的 GPU 推理优化、支持 MoE 混合专家模型与长上下文场景、暴露兼容 OpenAI API 的本地服务接口，方便接入现有客户端或应用。项目本质是「一键式」部署方案，解决的是 AMD 小主机/迷你 PC 用户想跑本地大模型却苦于生态支持不足、配置门槛高的问题，让本地 LLM 服务在 Strix Halo 上开箱可用。