truss-examples

照着抄,把模型快速变成可调用的 HTTP 服务

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 64 🐛 待处理 80 👀 关注 16
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 234
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,无付费版本。

项目预览

truss-examples 项目界面预览图
图片来源:项目官网

项目数据

分类基础设施
开发团队basetenlabs
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型ai,docker,examples,machine-learning,mlops,python
GitHub 星标★ 234
上线时间2023-07-17 00:00:00
代码更新2026-11-06
仓库体积67.2 MB
本站数据更新2026-11-08
维护状态活跃
收录时间2026-08-09
浏览次数5

项目介绍

Truss 是一个将机器学习模型打包并部署为 HTTP 服务的开源框架,而 truss-examples 是其官方示例仓库,汇集了多种主流模型的部署范例。它解决了 AI 开发者从训练到上线之间的工程化难题,无需手动编写服务代码、处理依赖或配置推理环境。仓库覆盖了从经典机器学习(如 XGBoost、Scikit-learn)到深度学习(如 PyTorch、TensorFlow)以及大语言模型(如 Llama、GPT)的部署示例,每个示例都包含完整的 Truss 配置、依赖文件和调用说明。核心能力在于提供可直接运行的模板,帮助用户快速理解 Truss 的打包流程、依赖管理、资源分配和 API 暴露方式,从而缩短模型上线的周期。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 234

核心亮点

  • 覆盖模型类型广,从传统 ML 到 LLM 都有现成示例
  • 每个示例结构完整,含配置、依赖和调用代码,可直接复用
  • 与 Truss 框架深度绑定,展示最佳实践,降低学习成本

不足之处

  • 示例仓库本身不提供运行时支持,需配合 Truss 主项目使用
  • 部分示例依赖外部模型权重,需自行下载,上手略繁琐

适用场景

  • 快速将训练好的模型部署为内部 API 服务
  • 学习 Truss 框架的典型使用方式和配置技巧
  • 作为项目脚手架,基于示例改造适配自定义模型

替代项目

BentoML examples、Ray Serve examples、MLflow models

同类项目推荐

tpu-inference 开源

让 vLLM 推理直接跑在 TPU 上

Moving to vllm-project/vllm-jax. TPU inference for vLLM, with unified JAX and PyTorc···

★ 478 2026-10-25
testkube 开源

在 Kubernetes 上统一运行和管理所有测试,让 AI 工程交付更稳更快。

☸️ The Open Testing Platform for AI-Driven Engineering Teams

★ 1677 2026-08-09
pangolin 开源

自托管零信任网关,安全访问内网应用和 AI 服务

Modern networking and security platform providing secure access and connectivity to ···

★ 23357 2026-10-17
webclaw 开源

本地快速抓网页,一键转 Markdown 喂给大模型

Fast, local-first web content extraction for LLMs. Scrape, crawl, extract structured···

★ 2436 2026-08-09
cognitive-workspace 开源

让 LLM 拥有无限上下文,长任务不再失忆

Active memory management system enabling functional infinite context for LLMs throug···

★ 105 2026-08-09
EmbedAnything 开源

用 Rust 打造极速、安全的嵌入与索引流水线,让 AI 应用更快更稳

Highly Performant, Modular, Memory Safe and Production-ready Inference, Ingestion an···

★ 1323 2026-08-09
latticedb 开源

一个文件搞定图、向量和全文检索,给 RAG 用

Embedded single-file knowledge graph database with vector search and full-text searc···

★ 747 2026-10-02
post-modern-stack 开源

打通数据与AI,一套栈搞定从数据到模型上线

Joining the modern data stack with the modern ML stack

★ 203 2026-08-09
yantr 开源

自托管 AI 应用商店,一站式安装管理你的 AI 工具

A self-hosted homelab app store for rootless Podman — runs alongside your OS, not i···

★ 211 2026-08-09