Chain-of-Embedding

不生成文字,用嵌入链提前预判大模型输出质量

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 8 🐛 待处理 5 👀 关注 1
GitHub ↗
GitHub 星标 ★ 105
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,代码和数据仓库,可自由使用,无付费版本。

项目预览

Chain-of-Embedding 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队Alsace08
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,代码和数据仓库,可自由使用,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型hallucination-detection,iclr-2025,interpretability,large-language-models,mechanistic-interpretability,self-evaluation,trustworthy-ai
GitHub 星标★ 105
上线时间2024-12-09 00:00:00
代码更新2024-12-19
仓库体积3.8 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

Chain-of-Embedding 是 ICLR 2025 论文的官方代码与数据仓库,提出了一种无需生成输出即可让大语言模型进行自我评估的方法。它利用潜在空间中的嵌入链(Chain-of-Embedding),通过分析模型内部表示的变化来预测输出质量,从而在生成前或生成中早期发现问题,节省推理成本。核心能力包括:构建嵌入链、训练评估器、支持多种任务(如问答、摘要)的质量预估。该项目解决了传统自评估依赖生成完整文本、计算开销大的痛点,为高效模型监控和自适应生成提供了新思路。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 105

核心亮点

  • 创新性地在潜在空间做自评估,避免完整生成,大幅降低推理开销
  • 提供完整代码和实验数据,便于复现和扩展
  • 方法可适配多种下游任务,通用性强

不足之处

  • 项目处于早期,文档和社区支持待观察
  • 依赖模型内部嵌入,对黑盒API模型不适用

适用场景

  • 大模型推理时的质量监控与早停
  • 资源受限环境下的模型输出筛选
  • 自适应生成策略(如动态调整解码参数)

替代项目

SelfCheckGPT、GPT-4 Self-Evaluation、LLM-as-a-Judge

上一篇:CorDA

下一篇:automix

同类项目推荐

SuperPiano 开源

在 Colab 里用 Transformer 一键生成钢琴曲

Absolutely amazing SOTA Google Colab (Jupyter) Notebooks for creating/training SOTA ···

★ 91 2026-08-09
OpenRLHF 开源

基于 Ray 的强化学习框架,让大规模 RLHF 训练又快又稳

An Easy-to-use, Scalable and High-performance Agentic RL Framework based on Ray (PPO···

★ 10147 2026-08-09
neptune-client 开源

一键记录训练实验,自动追踪指标与模型,团队协作更高效

The experiment tracker for foundation model training

★ 622 2026-08-09
DeepSpeed 开源

几行配置把单卡训练扩到多机多卡,省显存提吞吐

DeepSpeed is a deep learning optimization library that makes distributed training an···

★ 43315 2026-11-08
merge-models 开源

按比例融合两个扩散模型,快速生成新风格模型

Merges two latent diffusion models at a user-defined ratio

★ 262 2026-08-09
Olive 开源

一条配置流水线,把模型量化优化到各种硬件上跑

Olive: Simplify ML Model Finetuning, Conversion, Quantization, and Optimization for ···

★ 2411 2026-10-17
ObsScaling 开源

看公开数据就能预测模型性能,省下巨额训练费

[NeurIPS'24 Spotlight] Observational Scaling Laws

★ 63 2026-08-09