
llm-applications
照着学,快速搭出能上生产的 RAG 应用
这是一个面向生产环境的 RAG(检索增强生成)LLM 应用构建指南,基于 Jupyter Notebook 形式提供系统化教程。项目由 Anyscale 团队维护,核心解决开发者从原型到生产部署过程中遇到的检索质量、上下文管理、模型微调与推理性能等关键问题。内容覆盖 LlamaIndex、LangChain 等主流框架的使用,并深入讲解向量数据库选型、Embedding 优化、重排序策略、以及基于 Ray 的分布式推理和模型服务方案。通过可运行的代码示例,帮助开发者理解如何将 OpenAI、Llama2 等模型与业务数据结合,构建具备可靠知识库问答能力的应用。项目还涉及微调技术如何与 RAG 互补,以及生产环境中的监控、评估和迭代方法。整体上是一个兼具理论深度和工程实践的资源库,适合希望系统化提升 RAG 应用开发能力的工程师。
项目数据
核心亮点
- 教程基于可运行 Notebook,代码即学即用
- 覆盖 RAG 全链路,从检索到部署都有实例
- 结合 Ray 生态,提供生产级分布式推理方案
不足之处
- 内容偏教程性质,缺乏开箱即用的完整应用框架
- 文档/社区待观察
适用场景
- 系统学习 RAG 应用开发流程
- 参考生产级 LLM 服务部署方案
- 研究检索质量优化与微调结合实践
替代项目
LangChain、LlamaIndex、Haystack
项目介绍
上一篇:devdocs
下一篇:没有了!
同类项目推荐
firecrawl
开源
网页抓取像喝水一样简单,开发者省下整周加班
The context API to search, scrape, and interact with the web at scale.
qiaomu-youtube-ai-podcast
开源
一站式索引AI播客,快速找到有文字稿和总结的节目
AI 播客索引:整理 AI 播客、中文简介、Transcript 状态和总结入口 | Curated AI podcast ···
graphify
开源
整个代码库画成一张图,找问题一眼定位
Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable k···
KAG
开源
专业资料问 AI 也能答得准,知识库不再吃灰
KAG is a logical form-guided reasoning and retrieval framework based on OpenSPG engi···