ollama-ai-provider-v2

让 Vercel AI SDK 一键接入本地 Ollama 模型

开源 free 开发框架
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 104
维护状态 活跃
是否开源 是
定价模式 free

项目预览

项目数据

分类开发框架
开发团队opencomp-eu
所属国家
官网地址
定价模式free
价格说明开源免费,npm 包形式发布,需自行部署 Ollama
访问状态
是否开源是
开源协议Apache-2.0
主要语言TypeScript
技术栈/模型ai,ollama,vercel,vercel-ai,vercel-ai-sk
GitHub 星标★ 104
30天Star增速
HF 下载量
上线时间2025-02-03 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-15
浏览次数0

项目介绍

ollama-ai-provider-v2 是一个 TypeScript 开发框架,作为 Vercel AI SDK 的 Provider 适配器,让开发者能在本地通过 Ollama 运行大语言模型,并直接接入 Vercel AI SDK 的统一接口。它解决的问题是:Vercel AI SDK 原生面向云端模型服务,想在本地跑 Ollama 模型时需要自己写适配层,这个项目把 Ollama 的本地推理能力包装成标准 Provider,省去手写胶水代码。核心能力包括:支持流式文本生成、结构化对象输出、工具调用、多模态输入等 Vercel AI SDK 标准能力;通过统一 API 在云端模型和本地模型之间切换;兼容 Ollama 本地拉取的各类开源模型。适合已经在用 Vercel AI SDK 构建应用、又希望数据不出本机或降低推理成本的开发者。项目处于早期阶段,星标约 104,API 可能随上游 SDK 迭代调整。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

核心亮点

  • 把 Ollama 包装成标准 Vercel AI Provider,已有 AI SDK 代码几乎零改动即可切到本地模型
  • 支持流式输出、工具调用、结构化对象生成等 Vercel AI SDK 核心能力,不只是简单文本补全
  • TypeScript 编写,类型定义跟随 AI SDK 生态,前端/全栈项目接入成本低

不足之处

  • 项目早期,星标仅百余,API 稳定性和长期维护待观察
  • 能力受限于 Ollama 与本地模型本身,复杂工具调用和多模态效果不如云端大模型稳定

适用场景

  • 本地开发调试 AI 应用,避免调用云端 API 产生费用和延迟
  • 对数据隐私敏感的场景,用本地模型处理不想外传的文本
  • 在 Vercel AI SDK 项目中做云端/本地模型双轨切换和成本对比测试

替代项目

ollama-js、LangChain.js

上一篇:ollama-rs

下一篇:ruby_llm-mcp

同类项目推荐

dsh-our-free-model 开源

装个插件就能免密钥白嫖前沿大模型,不限量

在 dsh 里装上这个插件即可,无需登录、注册或填 API Key,就能使用包括 DeepSeek V4.1 Fl···

★ 16037 2026-10-04
langchain 开源

组装 AI 应用的乐高积木,从想法到上线不换工具

The agent engineering platform.

★ 147813 2026-08-09
ComfyUI-sol-attn 开源

在 ComfyUI 中让视频生成注意力更快更省显存

NVIDIA Sol-Attn for ComfyUI / Triton kernel on SM89 - SM121, with zero-copy MiniMax ···

★ 154 2026-08-09
transformers 开源

全球最大的模型仓库全家桶,想用的模型一把抓

Transformers: the model-definition framework for state-of-the-art machine learning m···

★ 167680 2026-08-09