项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-09-27 · 当前星标 ★ 153
技术标签
核心亮点
- 原生支持 Apple Silicon 与 MLX，本地推理不用 GPU 服务器
- 同时提供 GUI、Python SDK、API 和 MCP，实验可脚本化也可交互
- 覆盖激活、探针、SAE、干预等机制可解释性核心流程，工具链集中
不足之处
- 仅支持 Apple Silicon，非 Mac 用户无法使用
- 项目早期，文档和社区生态还在建设中
适用场景
- 在 Mac 上做 LLM 激活值提取与探针训练的可解释性研究
- 用 SAE 分析模型内部特征并做干预实验
- 通过 MCP 把本地可解释性工具接入 AI 代理工作流
替代项目
TransformerLens、NNsight
上一篇：Synthid-Bypass
下一篇：SIMURG
同类项目推荐
vigil-llm
开源
给LLM输入装个安检门，拦截提示注入和越狱攻击
⚡ Vigil ⚡ Detect prompt injections, jailbreaks, and other potentially risky Large···
content-debiased-fvd
开源
让视频生成评估更公平，去除内容偏差的FVD指标
[CVPR 2024] On the Content Bias in Fréchet Video Distance
Internal-Safety-Collapse
开源
把AI智能体放进正常代码流程，看它如何自己补出危险操作
[NeurIPS 2026] Safety failures in coding agents and frontier LLMs. Reproducible work···
perceptual_abilities_evaluation
开源
用统一基准测出VLM检测分割的真实水平
Vision-Language Model for Object Detection and Segmentation: A Review and Evaluation
heretic
开源
一键去除模型审查，解锁无限制回答
Training-free language model modification: Remove censorship, suppress slop, reduce ···
clean-fid
开源
让 FID 分数更可信，生成模型评估不踩坑
PyTorch - FID calculation with proper image resizing and quantization steps [CVPR 20···
bergen
开源
给RAG系统做体检，量化对比谁更强
Benchmarking library for RAG
PostTrainBench
开源
一张H100，十小时，测出AI代理调教大模型的本事
Measuring how well CLI agents like Claude Code or Codex CLI can post-train base LLMs···
daam
开源
看透Stable Diffusion：让每个词在生成图像中的影响一目了然
Diffusion attentive attribution maps for interpreting Stable Diffusion.