项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 99
技术标签
核心亮点
- 基于 Gradio 提供可视化界面，无需命令行即可完成模型加载和对话
- 同时支持 CPU 和 CUDA，兼容 GGUF 格式，适配多种硬件环境
- 集成 Ollama 和 LangChain，方便扩展和对接现有工作流
不足之处
- 项目处于早期阶段，文档和社区支持有待完善
- 功能相对基础，高级特性（如模型微调、多轮对话优化）尚未体现
适用场景
- 快速体验 Hugging Face 上的开源模型，无需编写代码
- 在本地或内网环境部署私有对话助手，保护数据隐私
- 教学演示或技术评估，对比不同模型的对话效果
替代项目
Ollama、Text Generation WebUI、LM Studio
上一篇：pasllm
下一篇：doc2vec-api
同类项目推荐
ollamaMQ
开源
多用户抢本地大模型？按人头公平排队，终端实时看板
High-performance LLM backends proxy with per-user fair-share queuing, round-robin sc···
one-api
开源
一个网关管所有大模型API，统一密钥、分发、监控
LLM API 管理 & 分发系统，支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSe···
backlot
开源
本地跑通企业SaaS API，带真实分页鉴权和ACL
A local emulator for enterprise SaaS APIs — Slack, Gmail, Google Drive, GitHub, Jir···
dynamo
开源
把大模型推理做成数据中心级集群服务
A Datacenter Scale Distributed Inference Serving Framework
stable-diffusion-nodejs
开源
在 Node.js 里直接跑 Stable Diffusion，GPU 加速出图
GPU-accelerated javascript runtime for StableDiffusion. Uses modified ONNX runtime t···
ml_in_production
开源
看多种ML模型部署方式，选型不踩坑
A set of demo of deploying a Machine Learning Model in production using various meth···
terraform-aws-metaflow
开源
用 Terraform 在 AWS 上快速搭建生产级 Metaflow 环境
Deploy production-grade Metaflow cloud infrastructure on AWS
dama
开源
一键容器化部署，快速跑通机器学习自动化流程
a simplified machine learning container platform that helps teams get started with a···
uteke
开源
给 AI 装上本地大脑，离线记忆秒级召回
Long-term memory for any AI agent. One Rust binary, offline, 98.2% recall@5 on LongM···