awesome-activation-engineering
整理激活工程资源，助你精准操控AI模型行为
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 140
核心亮点
- 精选高质量论文和博客，系统梳理激活工程核心概念与方法
- 涵盖多种主流模型（如GPT、Llama）的实践案例和代码示例
- 持续更新，紧跟前沿研究，适合入门和进阶参考
不足之处
- 资源列表形式，缺乏深度教程或实践指导
- 文档/社区待观察
适用场景
- 研究激活工程的技术原理和最新进展
- 寻找通过激活编辑实现模型行为控制的具体方法
- 了解表示工程、激活添加等技术的工具和代码库
替代项目
awesome-representation-engineering、interpretable-ml、AI-Interpretability
下一篇：VeriThinker
同类项目推荐
DoLa
开源
不重训模型，对比层输出，让大模型少说瞎话。
Official implementation for the paper "DoLa: Decoding by Contrasting Layers Improves···
maxtext
开源
用 JAX 快速训练和扩展超大规模语言模型
A simple, performant, and scalable Jax LLM!
chatgpt-finetune-ui
开源
拖拽上传数据，点点鼠标就能微调 ChatGPT 模型
Simple python WebUI for fine-tuning ChatGPT (gpt-3.5-turbo)
verl-agent
开源
用强化学习训练更聪明的 AI 智能体，支持 GIGPO 算法
verl-agent is an extension of veRL, designed for training LLM/VLM agents via RL. ver···
rapidfireai
开源
拖拽式搞定 AI 定制，从 RAG 到微调一键加速
RapidFire AI: Rapid AI Customization from RAG to Fine-Tuning
MLX-LoRA-Studio
开源
Mac 上点几下就完成大模型 LoRA 微调，数据不出本机
A native Mac App for LLM fine-tuning on Apple Silicon — fully on-device, fully open···
katib
开源
在K8s上自动调参，让模型优化省心省力
WARNING: Katib project is DEPRECATED, users should migrate to OptimizationJob and Ku···
CoOp
开源
自动学习提示词，让CLIP模型在少样本下精准分类
Prompt Learning for Vision-Language Models (IJCV'22, CVPR'22)
LoRI
开源
多任务微调不打架，LoRA 参数更高效
[COLM 2025] LoRI: Reducing Cross-Task Interference in Multi-Task Low-Rank Adaptation