开发框架

mistral-haystack 开源

用 Mistral 模型快速搭建 RAG 管道，让 AI 应用更聪明。

mistral-haystack 是一个将 Mistral AI 模型与 Haystack 框架集成的开源项目，旨在帮助开发者快速构···

generative-ai-application-builder-on··· 开源

在AWS上快速搭建生成式AI应用，无需深厚AI经验。

这是一个AWS官方推出的生成式AI应用构建框架，旨在降低生成式AI应用开发门槛。它提供了一套完整的解···

aici 开源

把提示词变成程序，动态控制AI生成过程。

AICI（Artificial Intelligence Controller Interface）是一个开源框架，它提出了一种全新的与大语···

sugarcane-ai 开源

像 npm 管理代码一样管理 Prompt，复用分发更高效。

sugarcane-ai 是一个面向 Prompt 的 npm 风格包生态系统，旨在解决 Prompt 复用、管理和分发难题。···

portkey-node-sdk 开源

一个SDK搞定多模型接入，让AI应用更稳更安全

portkey-node-sdk 是 Portkey 官方推出的 Node.js 开发工具包，旨在帮助开发者快速构建可靠、安全且···

lmstudio-js 开源

用 TypeScript 轻松调用本地大模型，开发 AI 应用更高效

lmstudio-js 是 LM Studio 官方推出的 TypeScript SDK，用于在 JavaScript/TypeScript 环境中与 LM···

generative-ai-cdk-constructs 开源

几行 CDK 代码，把 Bedrock 大模型能力接进你的 AWS 应用

AWS Generative AI CDK Constructs 是 AWS 官方提供的 CDK 构造库，用 TypeScript 把常见生成式 AI···

genai-stack 开源

一条命令拉起本地大模型+图数据库的 RAG 应用

genai-stack 是一个把 LangChain、Docker、Neo4j 和 Ollama 组合起来的开源示例栈，目标是让开发者···

openai-partial-stream 开源

把 token 流秒变 JSON，让 AI 应用界面不再干等。

openai-partial-stream 是一个轻量级工具库，核心功能是将 OpenAI 等 LLM 的 token 流实时解析为可···

easydist 开源

自动并行化，多框架通用，让分布式训练像单机一样简单。

easydist 是一个面向多生态系统的自动化并行化系统与基础设施，旨在简化分布式训练和推理的复杂性。···

AI 开源

Swift 应用快速接入生成式 AI，一套代码多模型

AI 是一个开源的 Swift 框架，旨在为开发者提供与生成式 AI 交互的统一接口。它解决了 Swift 生态中···

syncode 开源

让大模型输出严格符合语法，告别格式错误

syncode 是一个面向大语言模型的语法解码库，旨在通过约束解码过程来保证模型输出符合指定语法（如···

promptdesk 开源

一站式管理提示词与模型评估，让 LLM 应用开发更高效。

Promptdesk 是一个面向提示词工程与 LLM 评估的开源工具，旨在帮助开发者高效地创建、组织、测试和···

langfun 开源

用面向对象方式写 LLM 应用，提示词变可复用类

langfun 是 Google 开源的一个 Python 框架，核心思路是把面向对象编程（OO）引入大语言模型应用开···

bisheng 开源

一站式搞定企业大模型应用开发、微调与运维

bisheng 是一个面向企业级 AI 应用的开源 LLM DevOps 平台，旨在解决大模型应用从开发到上线的全生···

comfyui-tooling-nodes 开源

把 ComfyUI 变成外部工具的图像处理后端，免去文件上传下载，直接传图拿结果。

comfyui-tooling-nodes 是一个为 ComfyUI 设计的节点集合，目的是让 ComfyUI 作为外部工具的后端引···

lagent 开源

轻量级框架，快速搭建 LLM 智能体，支持多种推理模式和工具调用。

Lagent 是一个轻量级的 LLM 智能体构建框架，旨在简化基于大语言模型的智能体开发流程。它解决了开···

llm-openrouter 开源

终端一条命令，直连 OpenRouter 上百个模型

llm-openrouter 是 Simon Willison 的 LLM 命令行工具的一个插件，用于接入 OpenRouter 平台上托管···

graph-of-thoughts 开源

把AI思考画成图，复杂问题解得快又准

Graph of Thoughts（GoT）是一个将大语言模型推理过程建模为图结构的开源框架，由苏黎世联邦理工学···

ragna 开源

拖拽式搭建企业问答机器人，快速落地 RAG 应用

ragna 是一个基于 Python 的 RAG（检索增强生成）编排框架，旨在简化构建企业级问答系统的流程。它···

poe-api-wrapper 开源

一行代码免费调用 GPT-4、Claude 等大模型，省去多平台 API 费用。

poe-api-wrapper 是一个针对 Poe.com 的 Python API 封装库，让开发者无需付费即可调用 GPT-4、Cla···

sd-webui-go 开源

用 Go 优雅调用 Stable Diffusion，告别 JSON 繁琐操作

sd-webui-go 是一个基于 Go 语言的 stable-diffusion-webui SDK，旨在让开发者通过面向对象的方式直···

cumulative-reasoning 开源

让大模型像人一样一步步推理，复杂问题不再一步错步步错。

Cumulative Reasoning是一个基于大语言模型的推理框架，源自TMLR论文，旨在通过累积式推理解决复杂···

dexter 开源

把生产级 LLM 工具链直接搬进你的项目

dexter 是 Dexa 公司内部用于生产环境的 LLM 工具集，采用 TypeScript 编写。它解决的是将大型语言···