AAAI2025_MIA-Tuner

一句话识别文本是否来自模型预训练数据,助力隐私审计。

MIA-Tuner 是一个针对大语言模型的预训练文本检测器,核心任务是判断一段文本是否来自模型的预训练数据(即成员推断攻击,Membership Inference Attack)。它通过适配大语言模型,利用模型内部的概率分布和损失值等信号,训练一个轻量级的分类器,从而在不访问原始训练数据的情况下,有效识别文本是否属于模型的训练集。该项目解决了预训练数据泄露和隐私审计的难题,为模型安全评估提供了新工具。核心能力包括:基于模型输出的高效特征提取、针对不同模型的快速适配、以及较高的检测准确率。作为 AAAI 2025 Oral 论文的官方实现,代码结构清晰,便于复现和二次开发。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 130
维护状态 低维护
是否开源
定价模式 free

项目数据

分类开源模型
开发团队tsinghua-fib-lab
所属国家
官网地址
定价模式free
价格说明开源项目,无在线服务,需自行部署,完全免费。
访问状态
是否开源
开源协议
主要语言Python
技术栈/模型ai-alignment,large-language-models,membership-inference-attack,pretraining-data-detection
GitHub 星标★ 130
30天Star增速
HF 下载量
上线时间2023-12-20 00:00:00
最近更新2026-08-05 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数6

使用教程

核心亮点

  • 方法新颖,将成员推断攻击转化为适配任务,检测准确率高
  • 论文被 AAAI 2025 Oral 收录,方法经过严格学术评审
  • 代码结构清晰,基于 Python 实现,易于复现和扩展

不足之处

  • 项目处于早期阶段,文档和社区支持待观察
  • 依赖特定模型内部信号,对黑盒模型可能不适用

适用场景

  • 大模型预训练数据泄露检测与隐私审计
  • 模型合规性评估,判断生成文本是否来自训练集
  • 学术研究中成员推断攻击方法的基准对比

替代项目

Neural Network Intrusion Detection、Membership Inference Attack (MIA) 相关项目、TextObfuscator

项目介绍

AAAI2025_MIA-Tuner 是模型训练领域的开源项目,由 tsinghua-fib-lab 开发,2023 年首次发布。

它收录于模型训练分类,该分类目前共有 518 个项目,GitHub 星标数为 130。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-08-05。无在线服务,需自行部署,完全免费。

它主要面向的使用场景是:大模型预训练数据泄露检测与隐私审计。同类可对比的替代方案包括 Neural Network Intrusion Detection、Membership Inference Attack (MIA) 相关项目、TextOb…。

上一篇:train-deepseek-r1

下一篇:LLMEmb

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13