项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-11-12 · 当前星标 ★ 121
核心亮点
- Live USB 形态免安装、不写本机硬盘，隐私与隔离性好
- 内置 Ollama 并预配环境，省去手动装驱动和依赖的步骤
- 同时支持 x86_64 与 ARM64，覆盖普通 PC 与 ARM 开发板
不足之处
- 项目仅 121 星，属于早期阶段，社区与文档积累有限
- Live 模式内存占用高，模型规模受 U 盘读写速度和内存容量限制
- 镜像体积较大，首次制作与启动耗时较长
适用场景
- 在无网络的隔离设备上演示或测试本地大模型
- 对隐私敏感的用户在临时电脑上离线推理，不留痕迹
- 教学或实验室环境中快速批量部署统一的本地 AI 环境
替代项目
Ollama、LM Studio、LocalAI
同类项目推荐
dns-aid-core
开源
用 DNS 让 AI 智能体像网站一样被找到和验证
DNS-based Agent Identification and Discovery - Reference Implementation for IETF BAN···
rwkv.cpp
开源
在 CPU 上跑 RWKV 大模型，量化省内存，推理快人一步
INT4/INT5/INT8 and FP16 inference on CPU for RWKV language model
Deepthink
开源
让大模型自动反复试错，批量搜出更优方案
Using LLMs for iteratively exploring the solution search space at scale.
truss-examples
开源
照着抄，把模型快速变成可调用的 HTTP 服务
Examples of models deployable with Truss
awesome-llmops
开源
一站式收藏 LLMOps 工具，快速上手大模型运维
Awesome series for LLMOps
aio2024-mlops
开源
跟着Notebook动手玩转MLOps全流程工具链
This project serves as a hands-on introduction to essential MLOps tools
csghub-server
开源
自建大模型资产平台，统一管模型数据推理微调
csghub-server is the backend server for CSGHub which helps user to manage datasets, ···
spark-dashboard
开源
本地跑大模型，显卡和推理状态一屏看清
Real-time hardware and LLM inference monitoring — GPU, CPU, memory, and vLLM metric···
portkey-python-sdk
开源
一键接入多模型，让 AI 应用稳定又安全
Build reliable, secure, and production-ready AI apps easily.