langchain-nvidia

在 LangChain 里几行代码接入 NVIDIA 大模型推理

langchain-nvidia 是 LangChain 生态中对接 NVIDIA AI 能力的官方集成包，帮助开发者在 LangChain 应用里直接调用 NVIDIA NIM 微服务、NeMo 模型以及 NVIDIA 托管的推理端点。它解决的核心问题是：想让大模型应用跑在 NVIDIA GPU 或 NVIDIA 云上时，需要自己写大量适配代码，而该项目把模型调用、嵌入、重排序等能力封装成 LangChain 标准组件，几行代码即可接入。核心能力包括：通过 ChatNVIDIA 调用对话模型，通过 NVIDIAEmbeddings 生成向量，通过 NVIDIARerank 做结果重排，并支持本地 NIM 容器与云端 API 两种部署方式，方便在 RAG、Agent、问答等场景中替换模型后端。项目以 Jupyter Notebook 为主要载体，附带大量可运行示例，适合快速验证和教学演示。

开源 free 开发框架

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 215

维护状态较活跃

是否开源是

定价模式 free

项目数据

分类开发框架

开发团队langchain-ai

所属国家

官网地址

GitHubhttps://github.com/langchain-ai/langchain-nvidia

定价模式free

价格说明开源免费，需自行部署

访问状态

是否开源是

开源协议MIT

主要语言Jupyter Notebook

技术栈/模型

GitHub 星标★ 215

30天Star增速

HF 下载量

上线时间2024-02-21 00:00:00

最近更新2026-09-10 00:00:00

维护状态较活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-09-12

浏览次数0

使用教程

核心亮点

提供 ChatNVIDIA、NVIDIAEmbeddings、NVIDIARerank 等标准 LangChain 组件，替换模型后端几乎不用改业务代码
同时支持本地 NIM 容器和 NVIDIA 云端 API，便于在私有化部署与托管服务之间切换
配套 Jupyter Notebook 示例覆盖对话、RAG、重排等常见用法，上手验证成本低

不足之处

仓库以 Notebook 示例为主，工程化封装和测试覆盖相对有限
星标数仅 215，社区规模和第三方资料较少，遇到问题可参考的案例不多

适用场景

在 LangChain 搭建的 RAG 系统中，用 NVIDIAEmbeddings 和 NVIDIARerank 替换默认向量与重排组件
企业已有 NVIDIA GPU 服务器，通过本地 NIM 容器部署模型并接入 LangChain 应用
教学或原型验证时，用 Notebook 快速对比 NVIDIA 模型与其他模型在对话、检索任务上的效果

替代项目

langchain-openai、langchain-community

项目介绍

langchain-nvidia 是开发框架领域的开源项目，由 langchain-ai 开发，2024 年首次发布。

它收录于开发框架分类，该分类目前共有 783 个项目，GitHub 星标数为 215。

项目保持着较活跃的维护节奏，最近一次代码更新于 2026-09-10。开源免费，需自行部署。

它主要面向的使用场景是：在LangChain搭建的RAG系统中，用NVIDIAEmbeddings和NVIDIARerank替换默认向量与重排组件。同类可对比的替代方案包括 langchain-openai、langchain-community。

上一篇：langchain_dart

下一篇：deepagentsjs