model-community

安全模型开箱即用,Notebook 跑通内容审核评测

开源 unknown 评测安全
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 136
维护状态 活跃
是否开源 是
定价模式 unknown

项目预览

项目数据

分类评测安全
开发团队roostorg
所属国家
定价模式unknown
价格说明定价信息待确认
访问状态
是否开源是
开源协议CC-BY-4.0
主要语言Jupyter Notebook
技术栈/模型roost,roost-tools,trust-and-safety
GitHub 星标★ 136
30天Star增速
HF 下载量
上线时间2025-10-17 00:00:00
代码更新—
仓库体积—
本站数据更新—
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-10-10
浏览次数0

项目介绍

model-community 是一个面向安全社区的开源模型集合,目标是让开放安全 AI 模型更易获取、更易使用。它解决的核心问题是:安全团队(信任与安全、内容审核、风控)想用 AI 做防护,但模型分散、门槛高、缺少统一调用方式。项目以 Jupyter Notebook 为主要载体,提供可直接运行的示例、评测脚本和模型接入流程,并配套 roost、roost-tools 等工具链,帮助开发者快速完成从模型加载、推理到效果评估的闭环。核心能力包括:聚合开放安全模型、提供可复现的评测基线、演示典型安全任务(如有害内容识别、分类与拦截)的落地方式,以及降低安全团队自建 AI 防护的门槛。目前星标 136,属于早期项目,适合作为安全 AI 选型和实验的起点。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

正在加载星标数据…

技术标签

使用教程

—

核心亮点

  • 以 Notebook 形式提供可复现的安全模型评测流程,降低上手门槛
  • 配套 roost/roost-tools 工具链,覆盖模型接入到评估的完整链路
  • 聚焦信任与安全场景,模型和示例直接对应内容审核、风控等真实任务

不足之处

  • 项目处于早期,模型数量和覆盖场景有限
  • 文档与社区生态尚在建设,长期维护节奏待观察

适用场景

  • 安全团队快速验证开源模型在有害内容识别上的效果
  • 内容审核系统选型时做多模型横向评测
  • 风控/信任与安全工程师学习安全 AI 模型接入与评估流程

替代项目

PurpleLlama、llm-guard

上一篇:Internal-Safety-Collapse

下一篇:scope

同类项目推荐

akto 开源

给 AI 应用做安全体检,防提示注入和数据泄露

Akto is the fastest growing AI Security platform for your teams to secure AI agents,···

★ 1527 2026-08-20
XSafeClaw 开源

给 AI 智能体装上安全盾,自动红队测试找漏洞

Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University

★ 164 2026-08-10
deepteam 开源

自动模拟越狱攻击,提前测出 LLM 安全漏洞

DeepTeam is a framework to red team LLMs and AI agents.

★ 3003 2026-09-12
Tracely-ai 开源

把生产事故变成回归测试,合并前自动拦截 AI 故障

Trace-native CI/CD for AI agents — production failures become regression tests that···

★ 1537 2026-08-24