nim-anywhere 是基础设施领域的开源项目,由 NVIDIA 开发,2022 年首次发布。
它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 279。
项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-23。基于Apache-2.0许可证,可免费使用和部署。
它主要面向的使用场景是:企业快速搭建生成式AI原型验证。同类可对比的替代方案包括 vLLM、Ollama、LocalAI。

一键部署 NVIDIA NIM,让生成式 AI 应用秒级落地
nim-anywhere 是一个面向生成式 AI 开发者的开源工具集,旨在通过 NVIDIA NIM 和 NVIDIA AI Workbench 加速 AI 应用的构建与部署。它解决了开发者在本地、云端或边缘环境中快速集成、测试和运行 NVIDIA 推理微服务(NIM)的痛点,提供了统一的接口和示例代码,使得开发者无需深入底层基础设施即可调用高性能的生成式 AI 模型。核心能力包括:一键部署 NIM 容器、跨环境(本地/云/边缘)的工作流编排、与主流 AI 框架(如 LangChain、LlamaIndex)的集成示例,以及基于 AI Workbench 的项目模板管理。该项目降低了 NVIDIA 专有 AI 服务的上手门槛,适合希望快速原型验证或生产落地的团队。
vLLM、Ollama、LocalAI
nim-anywhere 是基础设施领域的开源项目,由 NVIDIA 开发,2022 年首次发布。
它收录于基础设施分类,该分类目前共有 1,132 个项目,GitHub 星标数为 279。
项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-23。基于Apache-2.0许可证,可免费使用和部署。
它主要面向的使用场景是:企业快速搭建生成式AI原型验证。同类可对比的替代方案包括 vLLM、Ollama、LocalAI。
上一篇:llmdocparser
下一篇:YourMemory
freebuff-proxy
开源
聚合多账号,一键接入 OpenAI 兼容 API,轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭,快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm,简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型,免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···