ai-infra
本站收录 18 个带「ai-infra」标签的 AI 开源项目
OpenSandboxOpenSandbox 是一个专为 AI 智能体设计的沙箱运行时，提供安全、快速且可扩展的执行环境。它解决了 AI 智能体在运行代码、操作文件或访问外部资源时面★ 15,587
AI-Infra-GuardAI-Infra-Guard 是一个全栈 AI 红队测试平台，旨在系统性评估和加固 AI 生态系统的安全性。它解决了 AI 应用从模型、代理、技能到基础设施各层★ 6,636
AI-Infra-from-Zero-to-Hero这是一个面向机器学习系统领域的精选资源合集，旨在帮助开发者从零开始系统学习AI基础设施。项目汇集了OSDI、NSDI、SIGCOMM、SoCC、MLSys等顶级★ 4,403
SwanLabSwanLab 是一个开源、现代设计的 AI 训练跟踪与可视化工具，支持云端和自托管两种使用方式。它解决了深度学习训练过程中实验管理混乱、指标监控不便、结果对比★ 4,235
TurboDiffusion面向视频扩散模型的极致加速方案，通过蒸馏与优化实现 100~200 倍推理加速，在保持生成质量的同时大幅缩短出片时间，让高质量视频生成从离线走向实时成为可能。★ 3,850
AI-fundamentalsAI-fundamentals 是一个面向 AI 学习者的开源知识库，系统整理了 GPU 架构、CUDA 编程、大模型基础以及 AI Agent 等核心主题。项★ 2,870
SpargeAttnSpargeAttn 是一个训练无关的稀疏注意力加速库，旨在加速任意模型（尤其是视频生成模型）的推理过程。它通过利用注意力分数中的稀疏性，动态跳过不重要的计算，★ 1,257
tensorlakeTensorlake 是一个面向智能体应用的无服务器运行时，专注于沙箱环境和后台任务部署。它解决了 AI 智能体在代码执行、工具调用和强化学习训练中需要隔离、安★ 1,015
curvinecurvine 是一个 AI 原生且云原生的文件语义层，专为云对象存储设计，集成了高速缓存，旨在解决 AI 工作负载在访问海量云端数据时面临的性能瓶颈和语义理解★ 954
mossmoss 是一个面向生产环境 AI 系统的检索层，主打闪电般的搜索速度（<10ms），且无需依赖向量数据库。它专为浏览器、边缘设备、端侧和云端场景设计，旨在解决★ 790
SLASLA（Sparse-Linear Attention）是一个面向扩散Transformer（DiT）的推理加速项目，通过引入可微调的稀疏线性注意力机制，在保持★ 548
bitloopsBitloops 是一个为 AI 编程代理提供上下文基础设施的开源工具，用 Rust 编写。它解决的核心问题是：AI 编码代理（如 Claude Code、Cu★ 242
raptorraptor 是一个用 Go 编写的开源基础设施工具，旨在将 Python 风格的研究代码转化为工程师可直接部署的产物。它解决了研究与工程之间的鸿沟问题，即数据★ 164
ai-infra-landscapeai-infra-landscape 是一个以 HTML 呈现的生成式 AI 基础设施全景图，旨在梳理和展示支撑生成式 AI 生态的底层技术栈与工具链。它解决了★ 156
ContextLatticeContextLattice 是一个面向 AI 智能体的本地优先智能层，旨在解决智能体在跨工具、跨会话场景中缺乏持久记忆和可解释检索的问题。它提供持久连续性、可★ 152
awesome-ai-infrastructure这是一个精选清单，汇总了构建可扩展、高效AI基础设施所需的工具、框架、平台和资源，覆盖分布式训练、模型服务、MLOps和部署等关键环节。项目本身是一个资源索引，★ 73
KsanaDiTKsanaDiT 是一个面向视频与图像生成场景的高性能 Diffusion Transformer（DiT）推理框架，专注于解决 DiT 模型在推理阶段计算量大★ 63
ai-eval-platform这是一个开源的 AI 应用评测平台，专注于解决 RAG、AI Agent、多轮对话等复杂场景的评估难题。它提供 LLM-as-Judge、接口评测、评测报告和人★ 11