chitu

让大模型推理更快更省，轻松部署高并发服务

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 251 🐛 待处理 66 👀 关注 129

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 2999

维护状态活跃

是否开源开源

定价模式 🏷️完全免费开源项目，Apache-2.0许可证，可免费使用和部署。

项目预览

项目数据

分类开源模型

开发团队thu-pacman

官网地址https://chitu.ai

GitHubhttps://github.com/thu-pacman/chitu

定价模式🏷️完全免费

价格说明开源项目，Apache-2.0许可证，可免费使用和部署。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议Apache-2.0

主要语言Python

技术栈/模型deepseek,gpu,llm,llm-serving,model-serving,pytorch

GitHub 星标★ 2999

上线时间2025-02-20 00:00:00

代码更新2026-11-07

仓库体积119.8 MB

本站数据更新2026-11-09

维护状态活跃

收录时间2026-08-09

浏览次数5

项目介绍

chitu 是一个面向大语言模型的高性能推理框架，专注于效率、灵活性和可用性。它旨在解决 LLM 推理过程中的性能瓶颈和部署复杂性问题，通过优化的内核和调度策略，提供低延迟、高吞吐的模型服务能力。核心能力包括：支持多种主流模型架构、动态批处理、连续批处理、量化推理（如 INT8/FP8）以及分布式推理（张量并行）。项目基于 Python 实现，接口简洁，易于集成到现有 AI 应用或微服务中。chitu 强调对硬件资源的充分利用，并提供了灵活的配置选项，以适应不同场景下的性能与成本平衡需求。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2999

技术标签

deepseek gpu llm llm-serving model-serving

使用教程

⚠ 本教程由 AI 依据该项目 README 整理；原始文档不完整，部分步骤为通用流程推断，实际安装请以项目官方文档为准。

难度：进阶约 15 分钟部署方式：命令行工具 4 步

⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。

环境要求

可从 GitHub Releases 的 Assets 页面下载文件的网络环境
具备受支持的算力硬件（README 提到英伟达、昇腾、沐曦、海光、摩尔线程等多系列产品）
需要部署的模型需在官方支持列表内（见 docs/zh/SUPPORTED_MODELS.md）
建议先通读 docs/zh/DEVELOPMENT.md 开发手册获取完整安装使用说明

安装与启动步骤

1下载 chitu.run

打开 GitHub Releases 页面，在对应版本的 Assets 中下载 chitu.run 可执行文件。README 明确建议使用 chitu.run 进行部署。
2查阅开发手册

README 未给出具体命令与参数，安装使用与配置细节全部以 docs/zh/DEVELOPMENT.md 为准，请先按手册核对环境。
3确认模型支持

在 docs/zh/SUPPORTED_MODELS.md 中核对你要部署的模型是否被支持，避免选到未适配的模型架构。
4启动推理服务

chitu.run 为单文件可执行程序，v0.6.0 起可启动多结点、多实例、PD 分离等任务；具体启动参数请以开发手册为准。
```
./chitu.run
```