inspect_evals

一行命令跑齐大模型能力与安全评测

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 评测安全 🍴 复刻 473 🐛 待处理 261 👀 关注 9
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 732
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费,MIT 许可证

项目预览

inspect_evals 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类评测安全
开发团队UKGovernmentBEIS
定价模式🏷️完全免费
价格说明开源免费,MIT 许可证
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Python
GitHub 星标★ 732
上线时间2024-10-02 00:00:00
代码更新2026-11-03
仓库体积315.7 MB
本站数据更新2026-11-03
维护状态活跃
收录时间2026-09-14
浏览次数1

项目介绍

inspect_evals 是英国 AI 安全研究院(UK AISI)为 Inspect AI 框架提供的官方评测集合,解决大模型能力与安全评估中任务分散、标准不一的问题。它把数学推理、代码生成、智能体行为、网络安全、偏见与有害内容等领域的评测统一成可复用的 Python 任务,开发者只需一行命令即可在本地或集群上运行,并自动生成结构化日志与可视化报告。核心能力包括:覆盖学术基准与真实安全场景的多样化任务、支持模型对比与消融实验、可自定义数据集和评分器、与 Inspect 的沙箱和工具调用机制无缝集成。项目处于早期但迭代活跃,适合需要系统化评估模型安全与能力的团队作为基准工具。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-14 · 当前星标 ★ 732

使用教程

难度:进阶 约 20 分钟 部署方式:本地安装 4 步

环境要求

  • Python 3.11
  • 模型 API Key

安装与启动步骤

  1. 1装包

    从包管理器装。

    pip install inspect-evals
  2. 2固定 Python

    它要求 3.11。

    uv python pin 3.11
  3. 3跑一个评测

    先跑最小的评测集。

    # 用 inspect eval 命令指定任务
  4. 4看结果

    结果会生成日志与分数。

    # 打开输出目录看报告

如何确认成功

一个评测任务能跑完并输出分数与样本日志。

注意事项

  • 它是评测库,不是训练框架。
  • 评测消耗额度,先小样本跑通。

核心亮点

  • 由 UK AISI 官方维护,评测任务设计贴合真实安全场景,可信度高
  • 与 Inspect AI 深度集成,支持沙箱、工具调用和结构化日志,扩展新评测成本低
  • 覆盖数学、代码、智能体、网络安全、偏见等多领域,可横向对比模型表现

不足之处

  • 项目仍处早期,部分评测任务和文档尚不完整,API 可能变动
  • 依赖 Inspect AI 生态,单独使用或迁移到其他评测框架不够方便

适用场景

  • 模型发布前做安全与能力回归测试
  • 研究团队对比不同模型在智能体和代码任务上的表现
  • 企业搭建内部大模型评测流水线并生成审计报告

替代项目

lm-evaluation-harness、HELM

上一篇:evals

下一篇:evals-skills

同类项目推荐

LLMeBench 开源

一键跑分,快速对比各大语言模型效果

Benchmarking Large Language Models

★ 108 2026-08-09
ko-pii 开源

韩语文本敏感信息检测与脱敏,一条命令搞定

한국어 PII 검출 + 가명화 Python 라이브러리

★ 106 2026-10-21
context-bombs 开源

用现成的攻击字符串,测出你的 AI 系统抗不抗揍。

Context bomb strings

★ 162 2026-08-10
model-leaderboard 开源

目标检测模型谁最强?排行榜按小大物体直接比。

Which model is the best at object detection? Which is best for small or large object···

★ 109 2026-09-20
rebuff 开源

给 LLM 应用加装防注入安全层,拦截恶意提示词

LLM Prompt Injection Detector

★ 1531 2026-08-09
stride-gpt 开源

输入应用描述,几分钟自动生成 STRIDE 威胁模型

An AI-powered threat modeling tool that leverages OpenAI's GPT models to generate th···

★ 1149 2026-09-16
open-rag-eval 开源

免标注黄金答案,自动评估RAG检索与生成质量

RAG evaluation without the need for "golden answers"

★ 419 2026-08-09
AgentHound 开源

像 BloodHound 一样测绘 AI 智能体攻击路径,快速发现安全弱点。

Offensive security framework for AI agent infrastructure - recon, credential looting···

★ 458 2026-08-09
evaluate 开源

一行代码加载指标,快速评测模型效果

Evaluate: A library for easily evaluating machine learning models and datasets.

★ 2490 2026-09-21