
quarkus-langchain4j
在 Quarkus 里用 Java 接口直接调用大模型
quarkus-langchain4j 是 Quarkus 官方生态下的 LangChain4j 扩展,把 LangChain4j 的 LLM 应用开发能力与 Quarkus 的构建时优化、依赖注入和原生镜像支持结合起来。它解决的是 Java 开发者在 Quarkus 项目中接入大模型时,需要手动配置模型客户端、管理对话记忆、拼装 RAG 流程、处理工具调用等重复劳动的问题。核心能力包括:声明式 AI Service 接口,只需定义 Java 接口并用注解描述提示词即可调用 LLM;内置对 OpenAI、Ollama、Hugging Face 等模型提供者的配置支持;集成对话记忆、嵌入模型、向量库检索、函数工具调用和内容审核等常见 AI 模式;借助 Quarkus 的 CDI 和配置体系,可注入式使用并编译为 GraalVM 原生可执行文件,降低启动时间和内存占用。适合已有 Quarkus/Java 技术栈、希望以熟悉方式快速构建 LLM 应用的团队。
项目数据
使用教程
核心亮点
- 声明式 AI Service:定义 Java 接口加注解即可调用 LLM,无需手写请求与解析逻辑
- 与 Quarkus CDI、配置体系深度集成,模型客户端和向量库可注入使用
- 支持 GraalVM 原生镜像编译,保留 Quarkus 低启动、低内存的部署优势
不足之处
- 项目处于早期阶段,星标数较少,API 和功能可能随版本快速变动
- 文档与示例相对有限,部分高级用法需参考 LangChain4j 上游资料
适用场景
- 用 Quarkus 构建企业级 Java 智能客服或问答服务
- 在已有 Java 微服务中快速接入 LLM 做文本摘要、分类或抽取
- 将 RAG 应用编译为原生镜像部署到资源受限环境
替代项目
spring-ai、langchain4j
项目介绍
上一篇:langchain-google
下一篇:langchain-aws
同类项目推荐
ComfyUI_Custom_Nodes_AlekPet
开源
给 ComfyUI 装上语音翻译和姿态检测,工作流更全能
Custom nodes that extend the capabilities of Comfyui
langchain
开源
组装 AI 应用的乐高积木,从想法到上线不换工具
The agent engineering platform.
transformers
开源
全球最大的模型仓库全家桶,想用的模型一把抓
Transformers: the model-definition framework for state-of-the-art machine learning m···
bruno
开源
把 API 测试当代码管理,用 Git 搞定协作与版本追踪
Opensource IDE For Exploring and Testing API's (lightweight alternative to Postman/I···