OneGen

一次前向传播，边生成边检索，让 LLM 知识问答更快更准。

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 搜索知识 🍴 复刻 15 👀 关注 4
GitHub ↗
GitHub 星标 ★ 149
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目，MIT许可证，完全免费，可自行部署使用。

项目预览

OneGen 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类搜索知识
开发团队zjunlp
GitHubhttps://github.com/zjunlp/OneGen
定价模式🏷️完全免费
价格说明开源项目，MIT许可证，完全免费，可自行部署使用。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型artificial-intelligence,efficient,generation,large-language-models,llm,natural-language-processing,onegen,rag,retrieval,retrieval-augmented-generation,transformer
GitHub 星标★ 149
上线时间2024-07-29 00:00:00
代码更新2024-11-13
仓库体积862 KB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

OneGen 是一个针对大型语言模型（LLM）的高效统一生成与检索框架，发表于 EMNLP 2024。它解决了传统 RAG（检索增强生成）中生成与检索分离、需要多阶段处理导致效率低下的问题。OneGen 提出了一种单次前向传播（one-pass）的范式，将检索和生成任务整合到同一个解码过程中，模型在生成文本的同时能够直接输出检索到的文档或知识，无需额外的检索器或多次调用。其核心能力包括：统一的检索-生成训练目标、高效的注意力机制设计，以及支持多种下游任务（如开放域问答、知识密集型生成）的灵活适配。通过减少推理步骤和计算开销，OneGen 显著提升了 LLM 在知识密集型场景下的响应速度和准确性，为构建更高效的 RAG 系统提供了新的思路。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 149

核心亮点

  • 单次解码同时完成检索与生成，推理延迟显著低于传统多阶段 RAG
  • 统一训练目标，无需额外检索器，简化系统架构并降低部署成本
  • 在开放域问答等任务上，检索准确率和生成质量均优于基线方法

不足之处

  • 目前仅支持特定模型架构，迁移到其他 LLM 需要额外适配
  • 文档/社区待观察，项目处于早期，使用案例和生态尚不丰富

适用场景

  • 开放域问答系统，需快速获取外部知识并生成答案
  • 知识密集型文本生成，如报告撰写、新闻摘要
  • 实时对话助手，需在对话中动态检索并引用信息

替代项目

Self-RAG、Atlas、RETRO

上一篇：rapidfireai

下一篇：self-llm

同类项目推荐

redco 开源

一键自动化分布式训练推理，轻松搞定联邦学习与隐私保护

NAACL '24 (Best Demo Paper RunnerUp) / MlSys @ NeurIPS '23 - RedCoast: A Lightweight···

★ 69 2026-08-09
grafting 开源

像嫁接植物一样组合扩散模型架构，快速找到最优设计。

[NeurIPS 2025 Oral] Official Code for Exploring Diffusion Transformer Designs via Gr···

★ 77 2026-08-09
kikiri-tts 开源

给 Kokoro 模型加新语言，照着文档就能微调

This project provides a complete, documented training recipe for fine-tuning Kokoro-···

★ 138 2026-08-09
STEPQuant 开源

定位循环状态量化误差，让低比特 LLM 更稳

STEPQuant: When and Where Errors Matter in Delta-Rule Recurrent State Quantization

★ 103 2026-10-31
Time-R1 开源

用三阶段强化学习，让大模型真正理解时间、预测未来。

Time-R1: Framework and resources for endowing LLMs with comprehensive temporal reaso···

★ 72 2026-08-09
ml-mdm 开源

用更少数据和算力，训出高质量文生图模型

Train high-quality text-to-image diffusion models in a data & compute efficient mann···

★ 516 2026-09-17
gpt-neox 开源

在GPU集群上训练GPT级大模型的开源并行框架

An implementation of model parallel autoregressive transformers on GPUs, based on th···

★ 7472 2026-10-17
MirrorMetrics 开源

用 InsightFace 人脸识别，直观诊断 LoRA 过拟合与数据质量。

MirrorMetrics: How to evaluate Stable Diffusion LoRAs. A visual diagnostic tool to d···

★ 62 2026-08-09