WormGPT
模拟攻击场景，测试大模型安全漏洞
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 62
技术标签
核心亮点
- 聚焦 AI 安全，填补提示注入测试工具空白
- 提供教育用途的沙盒环境，降低学习门槛
- 基于 Python，易于扩展和集成到安全测试流程
不足之处
- 项目处于早期阶段，功能尚不完善
- 文档/社区待观察
适用场景
- 网络安全课程中演示提示注入攻击
- 红队演练评估企业大模型应用安全性
- 研究人员分析语言模型对抗性鲁棒性
替代项目
Garak、PromptInject、TextAttack
上一篇：GitTaskBench
下一篇：evalscope
同类项目推荐
awesome-ai-security-tools
开源
一页清单，快速定位 AI 安全各细分方向的可用工具
A curated list of public-source, research, and commercial tools for AI security and ···
LLM-eval-survey
开源
一张图看懂大模型评估，从基准到方法全覆盖
The official GitHub page for the survey paper "A Survey on Evaluation of Large Langu···
agent-python-pytest
开源
pytest 跑完自动上报报告，结果集中可查
Framework integration with PyTest
www-project-machine-learning-sec···
开源
给机器学习系统做安全体检，照着清单防十大风险。
OWASP Machine Learning Security Top 10 Project
awesome-direct-preference-optimi···
开源
一网打尽DPO论文与代码，快速入门偏好对齐
A Survey of Direct Preference Optimization (DPO)
PromptMe
开源
10 个动手挑战，亲手打穿 LLM 安全漏洞
PromptMe is an educational project that showcases security vulnerabilities in large ···
circle-guard-bench
开源
给 LLM 防护系统打分，选最靠谱的护栏
First-of-its-kind AI benchmark for evaluating the protection capabilities of large l···
Awesome-Multimodal-LLM-for-Code
开源
一页看全多模态代码生成论文与数据集
[TMLR 2026] Multimodal Large Language Models for Code Generation under Multimodal Sc···
Awesome-LVLM-Safety
开源
一页看懂视觉语言模型安全攻防与评测资源
A curated list of resources dedicated to the safety of Large Vision-Language Models.···