llm-ollama

一条命令把本地 Ollama 模型接入 LLM 工具链

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 基础设施 🍴 复刻 39 🐛 待处理 4 👀 关注 2
GitHub ↗
GitHub 星标 ★ 374
维护状态 较活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费插件,需自部署Ollama服务

项目预览

llm-ollama 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类基础设施
开发团队taketwo
定价模式🏷️完全免费
价格说明开源免费插件,需自部署Ollama服务
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
GitHub 星标★ 374
上线时间2024-01-17 00:00:00
代码更新2026-10-26
仓库体积373 KB
本站数据更新2026-11-04
维护状态较活跃
收录时间2026-09-16
浏览次数1

项目介绍

llm-ollama 是 Simon Willison 的 LLM 命令行工具的一个插件,让用户通过统一的 llm 命令直接调用本地或远程 Ollama 服务器上运行的各类大模型。它解决的核心问题是:Ollama 自带命令行交互体验有限,而 LLM 工具提供了更灵活的提示词管理、对话记录、模板和管道能力,但默认只支持云端 API。安装该插件后,llm 会自动发现 Ollama 中已拉取的模型(如 llama3、qwen、mistral 等),支持流式输出、系统提示词、多轮对话和 JSON 输出模式,还能把结果通过 Unix 管道传给其他工具。对于希望在本地离线运行模型、又不想放弃 LLM 生态便利性的开发者来说,这是一个轻量且实用的桥接方案。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 374

核心亮点

  • 与 llm 命令行无缝集成,支持流式输出、系统提示词和对话历史
  • 自动列出 Ollama 已安装模型,无需手动配置模型名
  • 纯 Python 实现,安装简单,可配合管道与其他 CLI 工具组合使用

不足之处

  • 功能依赖 Ollama 服务运行,无法独立使用
  • 仅覆盖 LLM 插件层,缺少图形界面和高级编排能力

适用场景

  • 在终端快速测试本地拉取的多个 Ollama 模型效果
  • 把本地模型接入脚本或管道,做批量文本处理
  • 为 LLM 工具补充离线模型后端,避免依赖云端 API

替代项目

ollama-python、open-webui

上一篇:mirage

下一篇:LLMKube

同类项目推荐

pipelines 开源

在 Kubernetes 上编排机器学习流水线,一键运行和监控

Machine Learning Pipelines for Kubeflow

★ 4261 2026-08-09
VibeGuard 开源

用1%内存开销,在AI对话前自动脱敏,守住隐私底线

Uses just 1% memory while protecting 99% of your personal privacy.

★ 233 2026-08-09
LocalAI 开源

旧电脑不装显卡,也能本地跑起 AI 全家桶

LocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, vi···

★ 50186 2026-08-09
nndeploy 开源

一套代码搞定多端AI推理,省心又高效

一款简单易用和高性能的AI部署框架 | An Easy-to-Use and High-Performance AI Deployment···

★ 1894 2026-08-09
envd 开源

一条命令搞定可复现开发环境,人和 AI 都能用

️ Reproducible development environment for humans and agents

★ 2242 2026-08-09
lucebox 开源

消费级显卡也能跑出更快的本地大模型推理

LLM speculative inference server for heterogeneous hardware & consumer GPUs

★ 2977 2026-09-16
airllm 开源

4GB 显卡跑 70B 大模型,显存不够也能玩转

AirLLM 2.8T LLM inference with single 4GB GPU

★ 41688 2026-08-09
feathr 开源

一站式特征平台,让特征定义、计算和上线变得简单高效

Feathr – A scalable, unified data and AI engineering platform for enterprise

★ 1947 2026-08-09
TransformerEngine 开源

让 Transformer 在 NVIDIA GPU 上跑得更快更省显存

A library for accelerating Transformer models on NVIDIA GPUs, including using 8-bit ···

★ 3599 2026-10-31