项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2628
使用教程
ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。
环境要求
- 可访问 https://sh.boxlite.ai 的网络环境
- macOS / Linux 等支持 POSIX shell 与 curl 的系统
- (可选)需要 Rust 工具链 cargo 才能用 cargo install 方式安装
- (可选)$HOME/.local/bin 已加入 PATH,才能直接调用 boxlite
安装与启动步骤
-
1一键安装 CLI
README 推荐的安装方式,脚本会把 boxlite 装到 $HOME/.local/bin/boxlite,运行时已内嵌无需额外配置。
curl -fsSL https://sh.boxlite.ai | sh -
2运行 OCI 镜像
安装后直接在终端运行任意 OCI 镜像,无需写任何代码即可验证环境可用。
boxlite run python:slim python -c "print('Hello from BoxLite!')" -
3用 cargo 安装
README 给出的备选安装方式,适合已有 Rust 工具链、想固定版本的场景。
cargo install boxlite-cli -
4启动为 REST 服务
把 BoxLite 作为独立服务器部署,可用任何支持 HTTP 的客户端调用它。
boxlite serve
如何确认成功
执行 boxlite run python:slim python -c "print('Hello from BoxLite!')",终端打印出 Hello from BoxLite! 即表示安装成功。
常见问题
Q:安装完提示 boxlite: command not found 怎么办?
A:安装脚本将可执行文件放在 $HOME/.local/bin/boxlite,请确认该目录已在 PATH 中,或直接用 $HOME/.local/bin/boxlite 全路径调用。
Q:不想用 curl 脚本安装怎么办?
A:README 提供了备选方式:cargo install boxlite-cli,适合已安装 Rust 工具链并希望固定版本的用户。
Q:怎么把 BoxLite 部署成服务而不是命令行使用?
A:运行 boxlite serve 可将其作为独立 REST 服务启动,之后用任何能发 HTTP 请求的客户端驱动它。
注意事项
- 安装脚本会把 boxlite 装到 $HOME/.local/bin/boxlite,README 称运行时已内嵌,无需额外设置。
- 除 CLI 外项目还发布了 Python 包 boxlite、npm 包 @boxlite-ai/boxlite 和 crates.io 上的 boxlite。
- README 节选未给出端口、认证、配置文件等细节,涉及服务化部署的参数请查阅官方 CLI 文档 docs/reference/cli/README.md。
核心亮点
- Rust 实现,内存安全且性能高,适合资源受限的嵌入场景
- 启动速度快,资源占用低,能在笔记本上轻松运行多个实例
- 提供强隔离沙箱,有效保障 AI 智能体执行不可信代码的安全性
不足之处
- 项目较新,生态和文档尚不完善,上手可能需要摸索
- 功能聚焦于微型 VM,复杂编排能力可能不如成熟容器方案
适用场景
- 在本地开发环境中安全运行 AI 智能体的工具调用和代码执行
- 云端大规模部署智能体,实现资源隔离和弹性伸缩
- 作为嵌入式组件集成到现有 AI 应用,提供轻量级沙箱能力
替代项目
Firecracker、gVisor、Wasmtime
同类项目推荐
traceAI
开源
给 AI 应用装上监控,追踪调用链和成本
Open Source AI Tracing Framework built on Opentelemetry for AI Applications and Fram···
ttsim
开源
无芯片也能跑 Tenstorrent 全系统仿真
A fast full-system simulator of Tenstorrent hardware
nim-anywhere
开源
一键部署 NVIDIA NIM,让生成式 AI 应用秒级落地
Accelerate your Gen AI with NVIDIA NIM and NVIDIA AI Workbench
agentops
开源
给 AI 智能体装上监控仪表盘,实时追踪成本与性能
Python SDK for AI agent monitoring, LLM cost tracking, benchmarking, and more. Integ···
Strata
开源
一键把大模型装进自己电脑,本地 API 即开即用
Qwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. ···
gpt_server
开源
一套框架搞定多模态 AI 模型的生产级部署与调用
gpt_server是一个用于生产级部署LLMs、Embedding、Reranker、ASR、TTS、文生图、图片编辑和···
zeroid
开源
给 AI 智能体发身份证,让它们安全自主地访问服务
Highflame ZeroID: Autonomous Agent Identity Management System (AAIMS)
mlops-v2
开源
用模板在 Azure 上快速搭建企业级机器学习自动化流水线
Azure MLOps (v2) solution accelerators. Enterprise ready templates to deploy your ma···
awesome-free-llm-apis
开源
白嫖各种免费LLM API,开发测试不花钱
List of Permanent Free LLM API (API Keys)
