ipex-llm

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

• 一台搭载 Intel 硬件的机器：集成显卡、独立显卡（Arc/Flex/Max）、NPU 或 Intel CPU
• Python 环境（项目为 Python 库，技术栈涉及 PyTorch、transformers）
• 已具备 PyTorch 运行环境（项目定位为 PyTorch 的 LLM 加速库）
• 可访问 GitHub 与对应的官方安装文档页面

安装与启动步骤

1. 1确认硬件平台

   先确认本机属于 Intel GPU（iGPU 或 Arc/Flex/Max）、NPU 还是 CPU，再决定用哪份安装文档。

2. 2选择安装方式

   README 提供 Install（本地安装）与 Docker 两条路线，Docker 下又分 C++、Python、vLLM、FastChat 等场景，按需选一份。

3. 3获取项目代码

   克隆仓库后可使用其中示例，示例脚本位于 python/llm/example 目录下。

   git clone https://github.com/intel/ipex-llm.git

   复制

4. 4按平台完成安装

   README 未给出具体安装命令，需打开对应平台的安装文档：Windows GPU、Linux GPU，或参考完整安装指南。

5. 5运行示例验证

   安装完成后按 README 指引运行示例，如 HuggingFace transformers、LangChain、LlamaIndex 等 GPU 示例。

如何确认成功

按所选安装文档运行示例脚本（如 python/llm/example/GPU/HuggingFace 下的示例），能正常加载模型并输出推理结果即成功。

常见问题

注意事项

• 项目已归档（ARCHIVED），Intel 不再维护、修复或发版，且已知存在安全问题，不建议用于生产环境。
• README 未提供可直接复制的安装/启动命令，所有安装步骤必须依据对应的分平台文档执行。
• 硬件加速效果依赖 Intel GPU（iGPU 或 Arc/Flex/Max）、NPU 或 Intel CPU，非 Intel 硬件不在支持范围内。