chat-ollama

本地模型也能跑智能体,开箱即用对话界面

ChatOllama 是一个开源的智能体(Agentic)应用,用 TypeScript 编写,目标是让用户在本地或托管模型上运行 AI 智能体。它解决的核心问题是:目前多数 Agent 框架偏底层、需要写代码,而 ChatOllama 提供开箱即用的对话式界面,把 Ollama 本地模型与 OpenAI 等托管模型统一接入,通过工具调用、知识库检索(RAG)和多步推理完成复杂任务。核心能力包括:多模型切换、内置工具(网页搜索、代码执行、文件读取等)、知识库上传与向量检索、对话历史管理、以及可扩展的 Agent 工作流。用户无需搭建后端,即可在浏览器中体验本地大模型的智能体能力,适合个人开发者、研究者快速验证想法,也适合团队作为内部 AI 助手原型。项目星标约 3500,处于成长阶段,社区活跃度中等。

开源 freemium 智能体
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 3512
维护状态 较活跃
是否开源
定价模式 freemium

项目数据

分类智能体
开发团队sugarforever
所属国家
定价模式freemium
价格说明开源免费,云端服务可能提供付费增值,定价信息待确认
访问状态
是否开源
开源协议NOASSERTION
主要语言TypeScript
技术栈/模型agent,agentic,agents
GitHub 星标★ 3512
30天Star增速
HF 下载量
上线时间2024-02-17 00:00:00
最近更新2026-09-20 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-22
浏览次数0

使用教程

难度:入门 约 10 分钟 部署方式:命令行工具 4 步

环境要求

  • Node.js 24 或更高版本
  • 可用的模型提供商 API Key(如 OpenAI、Anthropic、Gemini、DeepSeek、OpenRouter 等,按需准备其一)
  • 可联网的 npm 环境(用于全局安装 npm 包)
  • 本地 Ollama 服务(可选,使用 Ollama 模型时需要)

安装与启动步骤

  1. 1检查 Node 版本

    确认本机 Node.js 版本不低于 24,版本过低会导致 CLI 无法运行,需先升级 Node.js 后再继续。

    node -v
  2. 2全局安装 CLI

    通过 npm 全局安装 chatollama-agent 命令,安装完成后即可在任意目录调用该命令。

    npm install --global chatollama-agent
  3. 3设置提供商密钥

    启动前为要使用的提供商设置对应环境变量,示例为 OpenAI;密钥请替换成自己的真实值。

    export OPENAI_API_KEY='replace-with-your-key'
  4. 4启动智能体

    直接运行 CLI 进入对话式交互界面,未设置任何提供商密钥则无法调用模型。

    chatollama-agent

关键配置

配置项必填说明示例
OPENAI_API_KEY使用 OpenAI 模型时的 API 密钥sk-xxxxxxxxxxxxxxxx
ANTHROPIC_API_KEY使用 Anthropic Claude 模型时的 API 密钥sk-ant-xxxxxxxxxxxx
GEMINI_API_KEY使用 Google Gemini 时的密钥,缺失时回退读取 GOOGLE_GENERATIVE_AI_API_KEYAIzaxxxxxxxxxxxxxxxx
DEEPSEEK_API_KEY使用 DeepSeek 模型时的 API 密钥sk-xxxxxxxxxxxxxxxx
OPENROUTER_API_KEY通过 OpenRouter 聚合调用模型时的 API 密钥sk-or-xxxxxxxxxxxxxx
OLLAMA_API_KEY对接 OpenAI 兼容的 Ollama 时可选,默认值为非机密的 ollamaollama

如何确认成功

执行 chatollama-agent 后能正常进入 CLI 交互界面并与模型对话,即表示安装与配置成功。

常见问题

Q:提示 Node 版本不支持怎么办?

A:本项目要求 Node.js 24 或更高版本,请先升级 Node.js,用 node -v 确认版本后再重新执行全局安装命令。

Q:不设置任何 API Key 能启动吗?

A:命令本身可以启动,但要实际调用模型必须为至少一个提供商配置对应的环境变量,否则无法完成对话。

Q:使用本地 Ollama 需要填密钥吗?

A:不需要,OLLAMA_API_KEY 是可选项,不设置时默认使用非机密值 ollama,指向 OpenAI 兼容接口即可。

Q:环境变量设置后换终端就失效了?

A:README 中的 export 只对当前 shell 会话生效,如需持久化需写入 shell 配置文件后重新打开终端。

Q:Windows 上怎么写 export 命令?

A:README 只提供了 bash 风格的 export 示例,Windows 用户请改用系统环境变量设置方式,具体命令请参考官方文档。

注意事项

  • 本项目必须使用 Node.js 24 或更高版本,低版本无法运行。
  • 当前主要入口是可安装的 chatollama-agent 命令行应用,README 未提供 Docker 或网页端自部署方式。
  • API Key 属于敏感信息,不要提交到代码仓库或公开分享。
  • Ollama 的 API Key 默认值为 ollama,属于非机密值,无需额外申请。

核心亮点

  • 同时支持 Ollama 本地模型和 OpenAI 等托管模型,切换成本低
  • 内置 RAG 知识库与工具调用,无需额外搭建向量库即可让模型查资料、执行动作
  • 提供完整 Web UI,非开发者也能直接上手体验 Agent 流程

不足之处

  • TypeScript 前端为主,复杂 Agent 编排能力相比 LangGraph 等框架仍偏轻量
  • 文档与中文社区资料较少,深度定制需阅读源码

适用场景

  • 个人开发者在本地用 Ollama 快速验证 Agent 想法
  • 团队搭建内部知识库问答助手,接入公司文档
  • 研究者对比不同本地/托管模型在工具调用任务上的表现

替代项目

Open WebUI、LibreChat

项目介绍

chat-ollama 是智能体领域的开源项目,由 sugarforever 开发,2024 年首次发布。

在全站 12,909 个收录项目中,它的 GitHub 星标数(3,512)位列前 30%,在智能体分类的 2,491 个项目里位列前 12%。

项目保持着较活跃的维护节奏,最近一次代码更新于 2026-09-20。开源免费,云端服务可能提供付费增值。

它主要面向的使用场景是:个人开发者在本地用Ollama快速验证Agent想法。同类可对比的替代方案包括 Open WebUI、LibreChat。

上一篇:agent-host-protocol

下一篇:mobile-use

同类项目推荐

xinchao-dynamic-mind 开源

给 AI 装上疲惫和欲望,让交互更真实

独立、可自托管的 AI 动态心智状态引擎:驱动力、念头池、疲惫、睡眠与意图。

★ 195 2026-08-09
deepseek-harness 开源

把 AI 能力拆成乐高积木,拼出你的专属智能体。

DeepSeek Harness: Everything is a Plugin.

★ 229933 2026-08-15
EvoAgentX 开源

让 AI 智能体自己迭代变强,越用越聪明

EvoAgentX: Building a Self-Evolving Ecosystem of AI Agents

★ 3345 2026-09-12
AutoGPT 开源

开箱即用的 AI 员工,交代任务就自己干完

AutoGPT is the vision of accessible AI for everyone, to use and to build on. Our mis···

★ 187446 2026-08-09