req_llm

Elixir 里统一调用各家大模型,管道式组合

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开发框架 🍴 复刻 221 🐛 待处理 3 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 602
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费库,基于 Req 和 Finch

项目预览

req_llm 项目界面预览图
图片来源:项目官网

项目数据

分类开发框架
开发团队agentjido
定价模式🏷️完全免费
价格说明开源免费库,基于 Req 和 Finch
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Elixir
技术栈/模型ai,ai-providers,elixir,elixir-package,llm,req
GitHub 星标★ 602
上线时间2025-09-05 00:00:00
代码更新2026-11-03
仓库体积44.1 MB
本站数据更新2026-11-03
维护状态活跃
收录时间2026-09-16
浏览次数1

项目介绍

req_llm 是一个用 Elixir 编写的可组合 LLM 交互库,构建在 Req 和 Finch 之上。它解决的是 Elixir 生态中调用大模型 API 时缺乏统一、轻量抽象的问题:开发者不必为每家厂商手写 HTTP 请求、重试和流式解析逻辑。核心能力包括:统一的 provider 接口,可切换 OpenAI、Anthropic、Google 等主流服务;基于 Req 的中间件机制,方便插入日志、鉴权、重试等自定义行为;支持流式输出与工具调用;与 Elixir 的管道和函数式风格自然融合,便于组合出多步对话、RAG 或 agent 流程。它不绑定特定框架,可作为 Phoenix 应用或后台任务中的底层 LLM 客户端,适合追求简洁、可测试、可扩展的 Elixir 团队。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-16 · 当前星标 ★ 602

技术标签

使用教程

难度:进阶 约 25 分钟 部署方式:本地安装 4 步

环境要求

  • Elixir 与构建工具
  • 模型服务密钥

安装与启动步骤

  1. 1加依赖

    Elixir 生态的包,在混入依赖里加一行即可。

  2. 2配密钥

    各家供应商密钥走配置,别写死在代码里。

  3. 3调一次

    统一接口下换供应商只改配置,不改调用代码。

  4. 4按它那套写重试

    它建在语言的请求抽象上,超时与重试要跟着这套。

如何确认成功

同一段调用切换到另一家供应商后代码不改,仍能返回结构一致的响应

注意事项

  • 它是语言生态里的统一调用层,跨语言用不上。
  • 统一的是请求与响应结构,流式等特性各家仍有差异。
  • 依赖该语言的任务处理机制,不熟悉会写得别扭。
  • 生态较小,文档以源码为主。

核心亮点

  • 基于 Req/Finch,复用成熟 HTTP 栈,重试、连接池、流式开箱可用
  • provider 抽象统一,切换 OpenAI/Anthropic 等只需改配置,业务代码不动
  • 函数式管道风格,天然可组合,便于拼装多步对话与工具调用流程

不足之处

  • 生态较新,provider 覆盖和边缘特性可能不如 Python/JS 同类库全面
  • 文档与示例相对有限,复杂场景需读源码

适用场景

  • Phoenix 后端集成聊天或摘要接口
  • 后台任务批量调用 LLM 做数据处理
  • 构建多步 agent 或 RAG 流程的底层客户端

替代项目

langchain、llm-elixir

上一篇:grace

下一篇:dsh-codex-connect

同类项目推荐

langchaingo 开源

用 Go 写 LLM 应用,像调库一样简单

LangChain for Go, the easiest way to write LLM-based programs in Go

★ 9755 2026-10-06
LoongFlow 开源

让AI边干边学,循环进化,搞定复杂任务

LoongFlow is an expert-grade Agent framework for Loop Engineering. Through a Plan-Ex···

★ 481 2026-08-09
LazyMind 开源

自托管 AI 技能运行时,知识工作全流程自己掌控

An AI Skill Runtime for knowledge-intensive work which makes everything under your c···

★ 545 2026-10-15
soorgeon 开源

一键把 Jupyter 笔记本变成生产级数据管道

Convert monolithic Jupyter notebooks into maintainable Ploomber pipelines.

★ 81 2026-08-09
RAGLight 开源

模块化 RAG 框架,轻松接入 MCP 工具,快速构建检索增强应用。

RAGLight is a modular framework for Retrieval-Augmented Generation (RAG). It makes i···

★ 673 2026-08-09
dsh-our-free-model 开源

装个插件就能免密钥白嫖前沿大模型,不限量

在 dsh 里装上这个插件即可,无需登录、注册或填 API Key,就能使用包括 DeepSeek V4.1 Fl···

★ 57439 2026-10-04
Graphite 开源

把多个 AI 模型拖进节点图,边想边画边出结果

A private, modular node based AI workspace for thinking and creation. Seamlessly con···

★ 146 2026-08-09
gear 开源

把智能体执行框架变成可自动演化的模块

Scikit-learn for Recursive Self-improvement (RSI). A modular framework for recursive···

★ 402 2026-10-30