langchain-nvidia

在 LangChain 里几行代码接入 NVIDIA 大模型推理

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开发框架 🍴 复刻 104 🐛 待处理 20 👀 关注 8
GitHub ↗
GitHub 星标 ★ 216
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,需自行部署

项目预览

langchain-nvidia 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开发框架
开发团队langchain-ai
定价模式🏷️完全免费
价格说明开源免费,需自行部署
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Jupyter Notebook
GitHub 星标★ 216
上线时间2024-02-21 00:00:00
代码更新2026-11-04
仓库体积12.3 MB
本站数据更新2026-11-05
维护状态活跃
收录时间2026-09-12
浏览次数1

项目介绍

langchain-nvidia 是 LangChain 生态中对接 NVIDIA AI 能力的官方集成包,帮助开发者在 LangChain 应用里直接调用 NVIDIA NIM 微服务、NeMo 模型以及 NVIDIA 托管的推理端点。它解决的核心问题是:想让大模型应用跑在 NVIDIA GPU 或 NVIDIA 云上时,需要自己写大量适配代码,而该项目把模型调用、嵌入、重排序等能力封装成 LangChain 标准组件,几行代码即可接入。核心能力包括:通过 ChatNVIDIA 调用对话模型,通过 NVIDIAEmbeddings 生成向量,通过 NVIDIARerank 做结果重排,并支持本地 NIM 容器与云端 API 两种部署方式,方便在 RAG、Agent、问答等场景中替换模型后端。项目以 Jupyter Notebook 为主要载体,附带大量可运行示例,适合快速验证和教学演示。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-12 · 当前星标 ★ 216

核心亮点

  • 提供 ChatNVIDIA、NVIDIAEmbeddings、NVIDIARerank 等标准 LangChain 组件,替换模型后端几乎不用改业务代码
  • 同时支持本地 NIM 容器和 NVIDIA 云端 API,便于在私有化部署与托管服务之间切换
  • 配套 Jupyter Notebook 示例覆盖对话、RAG、重排等常见用法,上手验证成本低

不足之处

  • 仓库以 Notebook 示例为主,工程化封装和测试覆盖相对有限
  • 星标数仅 215,社区规模和第三方资料较少,遇到问题可参考的案例不多

适用场景

  • 在 LangChain 搭建的 RAG 系统中,用 NVIDIAEmbeddings 和 NVIDIARerank 替换默认向量与重排组件
  • 企业已有 NVIDIA GPU 服务器,通过本地 NIM 容器部署模型并接入 LangChain 应用
  • 教学或原型验证时,用 Notebook 快速对比 NVIDIA 模型与其他模型在对话、检索任务上的效果

替代项目

langchain-openai、langchain-community

上一篇:langchain_dart

下一篇:deepagentsjs

同类项目推荐

Agents.jl 开源

用 Julia 快速搭建智能体仿真,跑得又快又灵活

Agent-based modeling framework in Julia

★ 924 2026-10-13
MakerAi 开源

在 Delphi 中直接调用大模型,构建 AI 原生应用

The AI Operating System for Delphi. 100% native framework with RAG 2.0, autonomous a···

★ 216 2026-08-09
eve 开源

用 TypeScript+Markdown 快速搭出可上线的 AI Agent

The Open Framework for Building Agents

★ 5789 2026-10-13
use-stick-to-bottom 开源

让 AI 聊天消息自动吸底,滚动顺滑不跳变

A lightweight React Hook intended mainly for AI chat applications, for smoothly stic···

★ 784 2026-08-09
rs-graph-llm 开源

用 Rust 图编排 LLM 工作流,快且稳

High-performance framework for building interactive workflow systems in Rust. Design···

★ 385 2026-09-16
webjs 开源

让 AI 直接读懂全栈代码,无需训练即可辅助开发。

WebJs is an AI-first full-stack JavaScript web components framework. You get product···

★ 28 2026-08-09
axar 开源

用 TypeScript 写智能体,简单直接,掌控每一行逻辑

Minimal typescript agent framework that keeps it simple and gives you control - no B···

★ 166 2026-08-09