Lookback-Lens
只看注意力图，就能揪出并压制模型胡编乱造
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 154
核心亮点
- 无需微调或外部知识库，仅靠注意力图即可检测幻觉，部署成本极低
- 提供生成时干预机制，可动态缓解幻觉，而非事后过滤
- 基于顶会论文，方法有理论支撑，且代码结构清晰易复现
不足之处
- 仅支持注意力可访问的 Transformer 架构，对非注意力模型不适用
- 文档和社区生态尚不完善，依赖论文细节理解
适用场景
- RAG 系统中验证检索内容是否被模型忠实引用
- 对话机器人实时监控回复事实性，避免误导用户
- 长文档摘要生成时确保内容不偏离原文
替代项目
SelfCheckGPT、FActScore、LLM-Attention-Hallucination
上一篇：HallusionBench
下一篇：evalplus
同类项目推荐
RVCBench
开源
给语音克隆模型做安全体检，防伪造保隐私
Comprehensive voice cloning evaluation: seven automatic speech metrics and ready-to-···
nemo-helix
开源
让上线的 AI Agent 更快更准更安全
NeMo Helix: Make the agents you ship faster, more accurate, and safer.
human-eval
开源
用164道题跑单元测试，量化代码模型写对率
Code for the paper "Evaluating Large Language Models Trained on Code"
ICSFSurvey
开源
一图看懂大模型自我修正与推理增强全领域
Explore concepts like Self-Correct, Self-Refine, Self-Improve, Self-Contradict, Self···
Synthid-Bypass
开源
实测绕过 Google SynthID 水印，AI 图像溯源攻防参考
Ai safety research showing a working bypass to Google's synthid on Nano Banana Pro
Internal-Safety-Collapse
开源
把AI智能体放进正常代码流程，看它如何自己补出危险操作
[NeurIPS 2026] Safety failures in coding agents and frontier LLMs. Reproducible work···
reins
开源
给 AI Agent 加护栏，只做你授权的事
Stop AI agents from doing things you didn't ask for.
Robust-U1
开源
让多模态模型自己修复坏图，理解不翻车
[ICML 2026] Official Implementation of Robust-U1: Can MLLMs Self-Recover Corrupted V···
hash-hop
开源
自动生成超长文本定位题，快速测出模型长上下文真本事
Long context evaluation for large language models