intel-extension-for-transformers

在英特尔硬件上，几分钟内打造并加速你的聊天机器人

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署对话助手 🍴 复刻 214 🐛 待处理 56 👀 关注 4 ⚠️ 作者已归档（停止维护）

GitHub ↗

GitHub 星标 ★ 2173

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可证，完全免费，可自行部署使用。

项目预览

intel-extension-for-transformers 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类对话助手

开发团队intel

GitHubhttps://github.com/intel/intel-extension-for-transformers

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可证，完全免费，可自行部署使用。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型4-bits,autoround,chatbot,chatpdf,gaudi3,habana,intel-optimized-llamacpp,large-language-model,llm-cpu,llm-inference,neural-chat,neural-chat-7b,rag,retrieval,speculative-decoding,streamingllm

GitHub 星标★ 2173

上线时间2022-11-11 00:00:00

代码更新2024-10-08

仓库体积599.0 MB

本站数据更新2026-11-09

维护状态低维护

收录时间2026-08-09

浏览次数6

项目介绍

Intel Extension for Transformers 是英特尔推出的开源工具包，旨在让开发者快速构建聊天机器人，并在英特尔平台上高效运行大语言模型（LLM）。它解决了 LLM 在 CPU、GPU 和 Habana Gaudi 等硬件上部署时面临的性能瓶颈和压缩难题。核心能力包括：提供 SOTA 的模型压缩技术（如 4-bit 量化、AutoRound 等），支持 LLM 推理加速，并集成了基于 llama.cpp 的优化实现。该工具包支持多种应用场景，如 ChatPDF、聊天机器人等，并针对英特尔硬件进行了深度优化，能显著降低推理延迟和资源占用。它适合希望在本地或英特尔服务器上部署 LLM 应用的开发者，尤其关注性能优化和成本控制。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2173

技术标签

chatbot large-language-model llm-inference rag retrieval

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：入门约 10 分钟部署方式：库/依赖 4 步

环境要求

Python 环境（具体系统要求见官方 Installation Guide）
pip 包管理工具
可选：英特尔 CPU/GPU 或 Habana Gaudi 硬件，以启用官方优化加速

安装与启动步骤

1确认系统要求

README 将系统要求与其他安装提示放在 docs/installation.md，安装前先按该文档核对环境，避免版本不匹配。
2从 PyPI 安装

README 提供的快速安装方式，一条命令即可装好 intel-extension-for-transformers 工具包。
```
pip install intel-extension-for-transformers
```
3获取示例代码

README 的 Examples 指向仓库内 docs/examples.md，克隆仓库后可本地查看示例与脚本。
```
git clone https://github.com/intel/intel-extension-for-transformers
```
4查阅文档跑示例

进入仓库后参考 docs/examples.md 与 NeuralChat 目录，按需选择聊天机器人、ChatPDF 等场景。