项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 242
核心亮点
- 基于前沿的 Jacobian Lens 技术，提供模型内部激活值的深度可解释性
- 支持手动干预模型行为，实现比纯自动对齐更精细的控制
- 结果可导出，便于集成到现有工作流或用于审计记录
不足之处
- 依赖 Anthropic 特定技术，可能对非 Claude 模型兼容性有限
- 早期项目，文档和社区支持尚不完善
适用场景
- 研究模型内部机制与安全对齐的学术场景
- 企业审计模型行为并记录对齐过程的合规场景
- 开发者调试模型输出偏差的日常开发场景
替代项目
TransformerLens、Elicit、LIMA
同类项目推荐
DiffusionOPSD
开源
让扩散模型自我蒸馏，少步采样也能生成高质量图像
On-Policy Self-Distillation in Diffusion Models
Rose
开源
无状态优化器，省内存，稳收敛，直接替换 Adam
Rose: Range-Of-Slice Equilibration PyTorch optimizer. Stateless optimization through···
TEMPO
开源
用提示词调教时间序列预测，跨领域泛化更强
The official code for "TEMPO: Prompt-based Generative Pre-trained Transformer for Ti···
makeMoE
开源
手写稀疏混合专家模型，彻底搞懂 MoE 原理
From scratch implementation of a sparse mixture of experts language model inspired b···
lora
开源
用少量图片和普通显卡，快速训练专属图像模型
Using Low-rank adaptation to quickly fine-tune diffusion models.
amazon-sagemaker-generativeai
开源
在 SageMaker Studio 里跑通生成式 AI 训练与提示实验
Repository for training and deploying Generative AI models, including text-text, tex···
VLM-R1
开源
用强化学习让视觉模型学会推理，少数据也能提升定位精度。
Solve Visual Understanding with Reinforced VLMs
PSEC
开源
让AI智能体像搭积木一样，在参数空间里不断学习新技能、组合旧技能，应对新挑战。
[ICLR 2025] The offical implementation of "PSEC: Skill Expansion and Composition in ···
aws-mlops-handson
开源
在AWS上快速搭建CTR预测的MLOps全流程
This repository provides a comprehensive ML infrastructure for CTR prediction, focus···