项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 563
使用教程
环境要求
- NVIDIA 显卡
- Python 环境
- 评测数据
安装与启动步骤
-
1看方法
靠对比不同层的输出分布来压制幻觉，不改模型权重。
-
2装环境
用仓库指定的框架版本，别用最新版。
pip install -e transformers-4.28.1 -
3装配套库
数据与加速库也要装。
pip install datasets accelerate -
4跑一次事实性评测
用公开数据集量一遍提升幅度。
python factor_eval.py --model-name huggyllama/llama-7b --data-path ./wiki_factor.csv --output-path out.json --num-gpus 1 -
5对比基线
关掉这个方法再跑一遍，看差多少。
如何确认成功
在同一模型上开启该方法后事实性指标高于基线，且生成流畅度没有明显下降
注意事项
- 它是解码策略，不训练模型。
- 多一次前向计算，推理成本上升。
- 效果与模型结构强相关，换模型要重验。
- 中间层选择是关键超参，别用默认值上线。
核心亮点
- 无需微调，直接替换解码策略即可提升事实性
- 官方实现，代码结构清晰，易于集成到现有推理流程
- 在 TruthfulQA 等基准上验证有效，有论文支撑
不足之处
- 仅支持特定架构（如 LLaMA），通用性有限
- 文档/社区待观察
适用场景
- 问答系统减少幻觉
- 知识密集型文本生成
- 事实性评估基准测试
替代项目
Contrastive Decoding、TruthfulQA、SelfCheckGPT
同类项目推荐
IPR
开源
逐步纠错，让LLM智能体每一步都走对
Watch Every Step! LLM Agent Learning via Iterative Step-level Process Refinement (E···
aikit
开源
一条命令微调并部署开源大模型，省去繁琐工程配置。
️ Fine-tune, build, and deploy open-source LLMs easily!
SIM-CoT
开源
让模型在内部悄悄思考，推理更快更省token
[ICLR 2026] An official implementation of "SIM-CoT: Supervised Implicit Chain-of-Tho···
XTTSv2-Finetuning-for-New-Langua···
开源
给XTTS v2添加新语言，微调后即可合成和克隆声音
production-ready-data-science-co···
开源
把 notebook 变成生产级代码，测试、CI/CD、MLOps 全搞定
Transform messy data science notebooks into production-ready code. Examples covering···
MedicalGPT
开源
一键训练你的医疗GPT，从预训练到对齐全流程搞定
MedicalGPT: Training Your Own Medical GPT Model with ChatGPT Training Pipeline. 训练···
CausalPFN
开源
用上下文学习，秒级估算因果效应，告别复杂建模
CausalPFN: Amortized Causal Effect Estimation via In-Context Learning
gokart
开源
让机器学习流水线可复现、可管理，告别混乱实验。
Gokart solves reproducibility, task dependencies, constraints of good code, and ease···
trl
开源
几行代码给大模型做 RLHF 对齐与偏好微调
Train transformer language models with reinforcement learning.