promptpex

自动生成提示词测试用例,让 Prompt 迭代更稳更高效

开源 🏷️完全免费 ✅ 目前可打开 对话助手 🍴 复刻 22 🐛 待处理 65 👀 关注 11
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 165
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源项目,基于CC-BY-4.0许可证,提供在线文档和工具,完全免费使用。

项目预览

promptpex 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类对话助手
开发团队microsoft
定价模式🏷️完全免费
价格说明开源项目,基于CC-BY-4.0许可证,提供在线文档和工具,完全免费使用。
访问状态✅ 目前可打开
是否开源是
开源协议CC-BY-4.0
主要语言TeX
技术栈/模型chatgpt,evals,evaluations,gpt-4o,llms,prompt-engineering,testing
GitHub 星标★ 165
上线时间2024-07-09 00:00:00
代码更新2026-11-03
仓库体积111.3 MB
本站数据更新2026-11-10
维护状态活跃
收录时间2026-08-09
浏览次数2

项目介绍

promptpex 是一个专注于提示词(Prompt)测试生成的开源项目,旨在为 LLM 应用开发者提供系统化的提示词评估与测试方案。它解决的核心问题是:提示词的微小改动可能导致模型输出质量波动,而人工测试费时费力且难以覆盖边界场景。项目基于 GPT-4o 等模型,通过自动化生成测试用例,帮助开发者验证提示词在不同输入下的表现,支持回归测试、性能对比和错误分析。其核心能力包括:自动生成多样化的测试输入、批量运行评估、结果对比与报告生成,从而提升提示词工程的可靠性和迭代效率。项目当前处于早期阶段,文档和社区生态尚在建设中。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 165

核心亮点

  • 针对提示词测试的专门方案,填补了通用测试工具在 LLM 场景的空白
  • 自动化生成测试用例,减少人工设计成本,覆盖更多边界情况
  • 基于 GPT-4o 等模型,评估结果更贴近实际应用表现

不足之处

  • 项目处于早期,文档和社区支持待观察
  • 依赖外部 LLM API,可能产生费用和延迟

适用场景

  • 提示词版本迭代时的回归测试
  • 对比不同提示词在相同任务上的效果
  • 上线前对提示词进行边界场景验证

替代项目

OpenAI Evals、Promptfoo、LangSmith

上一篇:Rules.txt

下一篇:gpt_jailbreak_status

同类项目推荐

MGDebugger 开源

像调试传统代码一样调试大模型,快速定位推理错误根因。

Multi-Granularity LLM Debugger [ICSE2026]

★ 102 2026-08-09
axbench 开源

给LLM解释方法打分,选出真正有用的那个

Stanford NLP Python library for benchmarking the utility of LLM interpretability met···

★ 219 2026-08-09
bigcodebench 开源

用真实编程难题,测出大模型代码能力的真实天花板

[ICLR'25] BigCodeBench: Benchmarking Code Generation Towards AGI

★ 517 2026-08-09
WormGPT 开源

模拟攻击场景,测试大模型安全漏洞

WormGPT is an experimental AI project designed strictly for educational, cybersecuri···

★ 62 2026-08-09
AgentArk 开源

一套环境跑通多模态 Agent 评测与 RL 训练

A General-Purpose Environment Framework for Scalable Multimodal Agent Evaluation and···

★ 210 2026-10-13
LLM-eval-survey 开源

一张图看懂大模型评估,从基准到方法全覆盖

The official GitHub page for the survey paper "A Survey on Evaluation of Large Langu···

★ 1615 2026-08-09
safelabs-eval 开源

给 AI 智能体做红队体检,上线前先找出被越狱和注入的漏洞

Red-teaming and evaluation framework for AI agents, built around an OWASP-inspired A···

★ 814 2026-09-11
PyRIT 开源

像红队一样自动攻击自家大模型,提前挖出安全漏洞

Open-source AI red teaming toolkit from Microsoft. Test generative AI systems with a···

★ 4777 2026-10-20
Awesome-MCoT 开源

一张图看懂多模态推理研究脉络与代表工作

Multimodal Chain-of-Thought Reasoning: A Comprehensive Survey

★ 1029 2026-11-01