LLF-Bench 是评测安全领域的开源项目，由 microsoft 开发，2023 年首次发布。
它收录于评测安全分类，该分类目前共有 466 个项目，GitHub 星标数为 99。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-18。MIT许可证，完全免费，可自行部署使用。
它主要面向的使用场景是：研究语言反馈驱动的强化学习算法。同类可对比的替代方案包括 EnvPool、BabyAI、TextWorld。
LLF-Bench
让AI听懂人话反馈，越学越聪明
LLF-Bench 是一个专门评估智能体仅通过语言反馈进行学习能力的基准测试平台。它解决了当前强化学习与交互式智能体研究中，反馈信号过于结构化或数值化，而真实人类反馈往往以自然语言形式出现的问题。该基准提供了一系列任务环境，智能体需要在这些环境中通过接收自然语言形式的评价、纠正或指导，逐步调整自身策略以完成目标。其核心能力包括：标准化的任务集与评估协议、对语言反馈的语义理解与利用、以及跨任务泛化能力的度量。项目采用 Python 实现，便于研究者集成和扩展，旨在推动语言交互智能体从‘听懂指令’向‘听懂反馈并持续改进’的方向发展。
开源
free
开源模型
GitHub 星标
★ 99
维护状态
低维护
是否开源
是
定价模式
free
项目数据
分类开源模型
开发团队microsoft
所属国家
定价模式free
价格说明开源项目，MIT许可证，完全免费，可自行部署使用。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型large-language-models,llm,llm-training,llms,machine-learning,natural-language-processing,reinforcement-learning
GitHub 星标★ 99
30天Star增速
HF 下载量
上线时间2023-08-14 00:00:00
最近更新2026-09-18 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数3
使用教程
核心亮点
- 首个专注纯语言反馈学习的基准，填补空白
- 任务场景多样，覆盖指令跟随、纠错、偏好学习
- Python实现，接口清晰，易于二次开发
不足之处
- 项目早期，文档和社区生态待观察
- 基准任务规模有限，可能不足以全面衡量复杂能力
适用场景
- 研究语言反馈驱动的强化学习算法
- 评估聊天机器人的自我改进能力
- 开发能根据用户评价调整行为的智能助手
替代项目
EnvPool、BabyAI、TextWorld
项目介绍
同类项目推荐
akto
开源
给 AI 应用做安全体检，防提示注入和数据泄露
Akto is the fastest growing AI Security platform for your teams to secure AI agents,···
XSafeClaw
开源
给 AI 智能体装上安全盾，自动红队测试找漏洞
Introducing XSafeClaw: The Open-Source Agent Safety Platform from Fudan University
fast-llm-security-guardrails
开源
给 AI Agent 加一道快速安全闸门，防提示注入和隐私泄露
The fastest Trust Layer for AI Agents
deepteam
开源
自动模拟越狱攻击，提前测出 LLM 安全漏洞
DeepTeam is a framework to red team LLMs and AI agents.