KnowledgeCircuits

拆解大模型内部知识电路，精准定位事实存储与推理路径

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 开源模型 🍴 复刻 10 👀 关注 8
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 174
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目，MIT许可证，完全免费，无付费版本。

项目预览

KnowledgeCircuits 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类开源模型
开发团队zjunlp
官网地址https://zjunlp.github.io/project/knowledgecircuits
GitHubhttps://github.com/zjunlp/KnowledgeCircuits
定价模式🏷️完全免费
价格说明开源项目，MIT许可证，完全免费，无付费版本。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议MIT
主要语言Python
技术栈/模型artificial-intelligence,circuit,hallucination,interpretability,knowledge-circuit,knowledge-editing,knowledge-edting,large-language-models,model-editing,natural-language-processing,transformer
GitHub 星标★ 174
上线时间2024-01-16 00:00:00
代码更新2025-11-14
仓库体积5.9 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

KnowledgeCircuits 是一个来自 NeurIPS 2024 的研究项目，专注于解析预训练 Transformer 模型（如大语言模型）内部的知识存储与计算机制。它提出并实现了“知识电路”（Knowledge Circuits）的概念，将模型视为由多个知识单元（如 MLP 神经元和注意力头）组成的电路网络，通过因果追踪和消融实验，精确定位特定事实（如“埃菲尔铁塔位于巴黎”）在模型中的完整计算路径。该项目解决了大模型可解释性中的核心难题——知识如何被编码和流动，提供了从模型内部结构层面理解知识推理的工具。核心能力包括：自动识别与特定知识相关的关键神经元和注意力头、构建知识电路图、评估不同组件对知识输出的贡献度，以及支持对模型知识编辑（如修改错误事实）的精准定位。其代码库提供了完整的实验流程和可视化工具，便于研究者复现和扩展分析。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 174

核心亮点

  • 首次系统化提出知识电路概念，将可解释性从单点归因推进到路径级分析
  • 提供完整的因果追踪和消融实验工具，可直接用于定位特定事实的神经回路
  • 基于 NeurIPS 2024 论文，方法论严谨，代码与论文对应清晰，便于复现

不足之处

  • 项目处于早期阶段，文档和社区生态尚不完善，上手门槛较高
  • 主要面向研究场景，对普通开发者缺乏开箱即用的应用接口

适用场景

  • 大模型可解释性研究：分析知识存储与推理机制
  • 模型知识编辑：精准定位并修改错误事实对应的内部组件
  • 安全审计：检测模型内部是否存在偏见或虚假知识的电路

替代项目

Tuned Lens、Logit Lens、Mechanistic Interpretability (Neel Nanda's tools)

上一篇：EvoTune

下一篇：MegaDLMs

同类项目推荐

Time-R1 开源

用三阶段强化学习，让大模型真正理解时间、预测未来。

Time-R1: Framework and resources for endowing LLMs with comprehensive temporal reaso···

★ 72 2026-08-09
ktransformers 开源

单卡甚至纯CPU跑大模型，显存不够也能玩转MoE推理微调

A Flexible Framework for Experiencing Heterogeneous LLM Inference/Fine-tune Optimiza···

★ 19660 2026-09-16
makani 开源

让 AI 气象模型在数百 GPU 上并行训练，实验迭代从月缩到天。

Massively parallel training of machine-learning based weather and climate models

★ 405 2026-10-17
dFactory 开源

几行代码微调扩散语言模型，省显存快验证

Easy and Efficient dLLM Fine-Tuning

★ 272 2026-09-29
diffusion-DDIM-pytorch 开源

快速上手 DDIM，用更少步数生成高质量图像

This is a pytorch implementation of Denoising Diffusion Implicit Models

★ 137 2026-08-09
katib 开源

在K8s上自动调参，让模型优化省心省力

WARNING: Katib project is DEPRECATED, users should migrate to OptimizationJob and Ku···

★ 1707 2026-08-09
Kardia-R1 开源

让AI学会共情，用强化学习提升情感支持回复质量

[WWW] Kardia-R1: Unleashing LLMs to Reason toward Understanding and Empathy for Emot···

★ 60 2026-08-09
PyTorch-CycleGAN 开源

用无配对图片训练，轻松实现风格迁移和图像转换

A clean and readable Pytorch implementation of CycleGAN

★ 1319 2026-08-09
CAME 开源

减少大模型训练显存，优化器也能自适应省内存

[ACL 2023] The official implementation of "CAME: Confidence-guided Adaptive Memory O···

★ 100 2026-08-09