
ollama-intel-arc
让 Intel Arc 显卡跑起 Ollama 和 Stable Diffusion,一键部署 AI 全栈。
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 431
使用教程
环境要求
- Intel Arc 独显
- Docker
- 内存 16GB 起
安装与启动步骤
-
1确认显卡被识别
方案针对 Intel Arc 独显,核显跑不出效果。
-
2拉仓库
一个 compose 文件把界面与推理服务一起带起来。
git clone https://github.com/eleiton/ollama-intel-arc.git -
3按说明起容器
首次会拉镜像与模型,慢属正常。
docker compose up -d -
4打开界面拉一个小模型
先用小参数模型验证链路,再换成大的。
-
5确认走的是独显
在容器里看设备挂载与显存占用,别默默跑在 CPU 上。
如何确认成功
在界面里对话时容器内的显存占用明显上升,且回复速度明显快于纯 CPU 推理
注意事项
- 它把 Open WebUI 与适配 Intel Arc 的推理后端打包成一套 compose,省掉自己配驱动。
- 只对 Intel Arc 独显有效,NVIDIA 卡用官方镜像更顺。
- 驱动与内核版本不匹配是最常见的失败点,先跑官方验证步骤。
- 模型文件落在容器卷里,删容器前先确认卷挂载在宿主机。
- 只适合本地自用,暴露到公网前加认证。
核心亮点
- 针对 Intel Arc GPU 做了专门的 Docker 配置,解决了驱动和运行时的兼容性痛点
- 集成 Ollama、Stable Diffusion、Whisper、Open WebUI 四大组件,覆盖主流 AI 应用场景
- 提供清晰的安装脚本和文档,降低了 Intel 显卡用户使用 AI 工具的门槛
不足之处
- 项目处于早期阶段,文档和社区支持尚待完善
- 对非 Intel Arc 显卡用户无直接价值,适用范围有限
适用场景
- 在 Intel Arc 显卡上本地运行大语言模型聊天服务
- 使用 Intel GPU 进行 Stable Diffusion 图像生成
- 搭建集语音识别、对话、图像生成于一体的个人 AI 助手
替代项目
intel-extension-for-transformers、ipex-llm、stable-diffusion-webui
上一篇:selfhostedAI
同类项目推荐
sandlock
开源
无容器、无特权,轻量隔离 AI 代码执行
The lightest sandbox. A process-based sandbox for Linux, no container, no VM, no pri···
1flowbase
开源
自托管 AI 网关,协议转换+调度+日志,Agent 通过 MCP 全掌控
Build for agents — from the AI Gateway to the entire application stack.
brinicle
开源
低内存跑向量检索,小机器也能扛千万级索引
A resource-efficient C++ vector index engine built for low-RAM production workloads
TransformerEngine
开源
让 Transformer 在 NVIDIA GPU 上跑得更快更省显存
A library for accelerating Transformer models on NVIDIA GPUs, including using 8-bit ···
latticedb
开源
一个文件搞定图、向量和全文检索,给 RAG 用
Embedded single-file knowledge graph database with vector search and full-text searc···
pyseekdb
开源
用 Python 轻松连接 OceanBase,高效实现向量检索
A unified python SDK supports OceanBase or OceanBase seekdb, more efficient and easy···
Observal
开源
把 AI 组件管起来,共享复用还能看运行数据
Share and discover coding agent resources across your team. Self-hosted, Apache 2.0,···
containers
开源
一键拉取 Runpod 镜像,快速跑通 Stable Diffusion 生成任务
| Dockerfiles for the Runpod container images used for our official templates.
jangq
开源
把 GGUF 模型搬上 Mac 的 MLX,量化后照样跑得动
JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantiza···