项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 509
技术标签
使用教程
环境要求
- JDK 17+
- Maven 或 Gradle
- 一个本地模型服务
安装与启动步骤
-
1备构建工具
它是 Java 库，用标准构建工具。
make build -
2跑单元测试
先确认本地环境没问题。
make unit-tests -
3跑集成测试
这条要连一个真实服务。
make integration-tests -
4引到自己的工程
按构建工具的坐标引依赖。
如何确认成功
单元测试与集成测试都通过，且在自己工程里能通过这个库完成一次对话请求并拿到流式返回
注意事项
- 它是某类本地模型服务的 Java 客户端封装。
- 集成测试要连真实服务，光跑单元测试不算验证过。
- 接口随服务端版本变化，注意对齐。
- 适合已有 Java 技术栈的团队接入本地模型。
核心亮点
- API 简洁直观，与 Ollama 官方接口一一对应，上手快
- 支持流式响应和同步响应，灵活适配不同场景
- 内置模型管理功能，可编程化操作模型生命周期
不足之处
- 项目处于早期阶段，API 可能随 Ollama 演进而不稳定
- 文档和示例相对有限，社区生态尚待完善
适用场景
- Java 后端服务中集成本地大模型推理能力
- 构建企业内部的 AI 工具链，需要统一管理 Ollama 模型
- 开发需要流式输出的聊天机器人或问答系统
替代项目
langchain4j、ollama-java-client、spring-ai
上一篇：AI-Blueprints
下一篇：hashformers
同类项目推荐
lollms-webui
开源
一键启动本地 AI 聊天界面，轻松对接多种模型
Lord of Large Language and Multi modal Systems Web User Interface
opencode-orchestrator
开源
在 OpenCode 里编排多个 AI Agent，自动接力写代码
Opencode Plugin for AI-Agent Orchestration
context
开源
把项目文档放本地，让 AI 助手真正读懂你的代码
Local-first documentation for AI agents
genai-cookbook
开源
照着做，快速搭出大模型应用原型
A mixture of Gen AI cookbook recipes for Gen AI applications.
ComfyUI_TiledKSampler
开源
分块采样，低显存也能出高清大图
Tiled samplers for ComfyUI
agentic
开源
按框架约定快速搭出能干活的 AI Agent
An opinionated framework for building sophisticated AI Agents
handmux
开源
手机远程操控终端，随时盯紧 AI 编程任务
A mobile vibe-coding cockpit — built on tmux: drive your live session, Claude Code ···
any-llm
开源
一个接口搞定所有大模型，切换模型不费劲
Communicate with an LLM provider using a single interface
haystack
开源
搭积木式编排 LLM 应用，从原型到生产一步到位。
Open-source AI orchestration framework for building context-engineered, production-r···