explainable-ai
本站收录 18 个带「explainable-ai」标签的 AI 开源项目
semantica以图为核心的 AI 基础设施，致力于为上下文管理与可问责 AI 系统提供支撑。通过知识图谱表达实体关系与上下文，为智能体提供结构化、可追溯的推理依据，在需要透明★ 13,540
pytorch-grad-campytorch-grad-cam 是一个用于计算机视觉模型可解释性的高级工具库，基于 PyTorch 实现 Grad-CAM 及其多种变体。它解决了深度学习模型★ 12,984
deep-learning-drizzle这是一个深度学习相关学习资源的精选合集，汇集了全球顶尖大学和机构的免费视频讲座，覆盖深度学习、强化学习、机器学习、计算机视觉和自然语言处理等核心领域。项目以分类★ 12,956
sahiSAHI 是一个专注于计算机视觉的切片推理框架，旨在解决大尺寸图像（如卫星影像、医学图像）在目标检测和实例分割时因内存限制或小目标密集而导致的性能问题。它支持任★ 5,518
trustgraphtrustgraph 是一个面向开源 AI 的确定性上下文工程平台。它通过将开放模型与本体论（ontologies）结合，利用上下文图（context grap★ 2,763
alan-sdk-webAlan AI SDK for Web 是一个为网页应用提供对话式AI能力的开发工具包，它允许开发者通过简单的集成，为网站或Web应用添加语音和文本交互界面。该★ 2,427
daamDAAM（Diffusion Attentive Attribution Maps）是一个用于解释Stable Diffusion模型内部机制的可解释性AI工具★ 803
tracemltraceml 是 Polyaxon 生态下的 AI/ML 数据追踪与可视化引擎，专注于解决机器学习实验中的指标跟踪、数据漂移检测和模型可解释性问题。它提供了一★ 534
inseqinseq 是一个用于序列生成模型的可解释性工具库，专注于帮助研究者和开发者理解 LLM 等生成式模型在输出文本时的内部决策过程。它解决了生成模型（如 GPT、★ 476
dsh-memorydsh-memory 是一个探索白箱 AGI 架构的开源项目，旨在解决当前 AI 系统黑箱化、缺乏自我认知和持续学习能力的问题。它通过构建元认知循环（自我认知）★ 278
diffusers-interpretDiffusers-Interpret 是一个面向 Hugging Face Diffusers 模型的可解释性工具库，旨在帮助开发者和研究者理解扩散模型生成图★ 277
cogitatorcogitator 是一个用于链式思维提示的 Python 工具包，旨在帮助开发者更便捷地构建和实验 CoT 提示。它解决了在提示工程中手动编写复杂思维链提示的★ 190
whiteboxWhitebox 是一个开源的端到端机器学习监控平台，特别强调边缘计算能力，并能与 Kubernetes 良好集成。它旨在解决 ML 模型从训练到部署后的全生命★ 179
XRecXRec 是一个面向可解释推荐系统的大型语言模型（LLM）框架，源自 EMNLP 2024 论文。它旨在解决传统推荐系统缺乏解释性的问题，通过引入 LLM 生成★ 171
AwesomeResponsibleAIAwesomeResponsibleAI 是一个精选资源列表，汇集了与负责任、可信赖和以人为本的 AI 相关的学术研究、书籍、伦理准则、课程、数据库、数据集、框★ 152
websiteKServe 是一个 Kubernetes 原生的模型推理平台，用于标准化服务器模型的部署。该项目是 KServe 的官方用户文档，基于 MDX 编写，旨在帮助★ 113
ConceptorConceptor 是论文《The Hidden Language of Diffusion Models》的官方实现，旨在揭示并操控 Stable Diffu★ 78
cinnamonCinnaMon 是一个 Python 库，专注于机器学习系统中的数据漂移检测、解释与修正。它解决的是模型上线后因数据分布变化导致性能下降的问题，提供了一套工具★ 78