项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-11-21 · 当前星标 ★ 843
核心亮点
- 以 Notebook 形式给出端到端可运行示例,上手门槛低
- 聚焦离线/受限环境,数据不出域,贴合合规诉求
- 覆盖本地模型加载、检索增强等常见私有化环节,可直接改造复用
不足之处
- 以 Notebook 为主,工程化和生产部署能力较弱
- 项目处于早期,文档与社区生态待观察
适用场景
- 金融、医疗等敏感行业在内部网络做 LLM 原型验证
- 企业内网搭建基于私有文档的问答助手
- 离线环境下对本地模型能力做快速评测与演示
替代项目
Ollama、LocalAI、LangChain
同类项目推荐
TorchStream
开源
让 PyTorch 模型像流式 API 一样边输入边输出,实时响应
A library for making PyTorch models streamable
bentoctl
开源
一条命令,把模型部署到任意云
Fast model deployment on any cloud
awesome-ai-gateway
开源
100+ AI 网关选型指南,成本安全合规一网打尽
⚡ Awesome AI Gateway — pick an AI gateway from 240+ (LiteLLM, OpenRouter, Portkey,···
Remory
开源
给长上下文做减法,留住关键记忆再推理
Remory: Learning Residual Memory for Context Compaction
Reticulum
开源
用 LoRa 和无线电搭建打不垮的加密通信网
The cryptography-based networking stack for building unstoppable networks with LoRa,···
skald
开源
把 AI 上下文管起来,让应用更聪明更省钱
Context layer platform in your infrastructure
sealos
开源
一键把 GitHub 项目部署上云,AI 帮你持续运维
Deploy real projects from GitHub or your AI coding agent, then keep them running wit···
telnyx-code-examples
开源
拿来即用的 Telnyx 通信 API 示例,快速集成 AI 语音与短信。
Production-ready code examples for Telnyx AI Communications Infrastructure — Voice ···
LocalAI
开源
旧电脑不装显卡,也能本地跑起 AI 全家桶
LocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, vi···
