AAAI2025_MIA-Tuner

一句话识别文本是否来自模型预训练数据,助力隐私审计。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 6 👀 关注 7
GitHub ↗
GitHub 星标 ★ 130
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,无在线服务,需自行部署,完全免费。

项目预览

AAAI2025_MIA-Tuner 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队tsinghua-fib-lab
定价模式🏷️完全免费
价格说明开源项目,无在线服务,需自行部署,完全免费。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型ai-alignment,large-language-models,membership-inference-attack,pretraining-data-detection
GitHub 星标★ 130
上线时间2023-12-20 00:00:00
代码更新2025-03-17
仓库体积46.0 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

MIA-Tuner 是一个针对大语言模型的预训练文本检测器,核心任务是判断一段文本是否来自模型的预训练数据(即成员推断攻击,Membership Inference Attack)。它通过适配大语言模型,利用模型内部的概率分布和损失值等信号,训练一个轻量级的分类器,从而在不访问原始训练数据的情况下,有效识别文本是否属于模型的训练集。该项目解决了预训练数据泄露和隐私审计的难题,为模型安全评估提供了新工具。核心能力包括:基于模型输出的高效特征提取、针对不同模型的快速适配、以及较高的检测准确率。作为 AAAI 2025 Oral 论文的官方实现,代码结构清晰,便于复现和二次开发。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 130

技术标签

核心亮点

  • 方法新颖,将成员推断攻击转化为适配任务,检测准确率高
  • 论文被 AAAI 2025 Oral 收录,方法经过严格学术评审
  • 代码结构清晰,基于 Python 实现,易于复现和扩展

不足之处

  • 项目处于早期阶段,文档和社区支持待观察
  • 依赖特定模型内部信号,对黑盒模型可能不适用

适用场景

  • 大模型预训练数据泄露检测与隐私审计
  • 模型合规性评估,判断生成文本是否来自训练集
  • 学术研究中成员推断攻击方法的基准对比

替代项目

Neural Network Intrusion Detection、Membership Inference Attack (MIA) 相关项目、TextObfuscator

上一篇:train-deepseek-r1

下一篇:LLMEmb

同类项目推荐

MoTCoder 开源

把复杂编程题拆成小模块,让大模型推理更准

This is the official code repository of MoTCoder: Elevating Large Language Models wi···

★ 86 2026-08-09
LLaMEA 开源

让大模型自动进化出更优算法,省去手工调参。

Large Language Model Evolutionary Algorithm

★ 133 2026-09-15
e4t-diffusion 开源

输入一张图,秒级生成个性化图像,免去繁琐微调

Implementation of Encoder-based Domain Tuning for Fast Personalization of Text-to-Im···

★ 322 2026-08-09
chatterbox-finetuning 开源

用你的数据训练专属多语言语音模型,支持声音克隆。

Fine-tuning toolkit for Chatterbox TTS & Chatterbox TURBO & Chatterbox NANO models. ···

★ 120 2026-08-09
vae-lagging-encoder 开源

修复VAE后验坍缩,让生成模型更稳定多样

PyTorch implementation of "Lagging Inference Networks and Posterior Collapse in Vari···

★ 185 2026-08-09
h2o-llmstudio 开源

不用写代码,拖拽配置就能微调大模型

H2O LLM Studio - a framework and no-code GUI for fine-tuning LLMs. Documentation: ht···

★ 5194 2026-08-09
LLMNodeBed 开源

统一基准,对比LLM节点分类算法,复现ICML论文结果。

[ICML 2025] Official implementation for paper "A Comprehensive Analysis on LLM-based···

★ 76 2026-08-09
SpecForge 开源

训练投机解码模型,一键部署到 SGLang 提速

Train speculative decoding models effortlessly and port them smoothly to SGLang serv···

★ 1274 2026-09-16
lora-pilot 开源

一键启动 Docker,搞定 LoRA 训练与验证全流程

From dataset to trained LoRA to finished image or video. One browser workspace for y···

★ 91 2026-08-09