项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 319
核心亮点
- 分布式推理:利用志愿者 GPU 资源,降低大模型运行门槛
- 双接口支持:同时提供 HTTP 和 WebSocket,便于集成
- 模型覆盖广:支持 BLOOM、GPT、LLaMA 等主流模型
不足之处
- 依赖志愿者网络,推理稳定性与速度受节点影响
- 文档/社区待观察
适用场景
- 个人开发者快速体验大模型对话能力
- 在资源受限环境下搭建轻量级聊天机器人
- 研究分布式推理或模型并行技术
替代项目
Hugging Face Chat UI、text-generation-webui、FastChat
上一篇:AIVoiceChat
同类项目推荐
Recluse-Bot
开源
200+命令的Discord机器人,开箱即用,轻松管理服务器
200+ commands free open source code of discord bot
pistoBot
开源
用你的聊天记录,训练一个说话像你的 AI 机器人
Create an AI that chats like you
ChatGPT-Siri
开源
让 Siri 秒变 ChatGPT,一句话搞定复杂问答
Shortcuts for Siri using ChatGPT API, supports continuous conversations, configure t···
ovh-chatbot
开源
OVH 服务出问题?聊天机器人秒回解决方案
The goal of this tool is to help you to have fast responses when you have some probl···
raycast-g4f
开源
在 Raycast 里免费调用 GPT/Claude/Llama,一步直达 AI 对话
Raycast extension to use GPT, Claude, Llama, and more... all for FREE! + Full suppor···
SaveMyPhind-conversation-exporte···
开源
一键导出所有 AI 对话为 Markdown,永久保存不丢失。
Save my Chatbot: Download your ChatGPT, Claude, Perplexity and Phind conversations i···
NeuralDialogPapers
开源
一张清单看懂对话AI发展脉络,从论文到代码快速上手
Summary of deep learning models for dialog systems (Tiancheng Zhao LTI, CMU)
Epoch
开源
让AI对话直接生成可交互界面,聊天即操作
Where conversations become interfaces.
YesImBot
开源
给机器人装上人类心,跨平台智能对话即刻拥有。
机械壳,人类心。
