KnowSelf

让AI知道“自己不知道什么”，减少瞎猜，提升任务可靠度

KnowSelf 是一个面向智能体（Agent）的自我认知增强框架，发表于 ACL 2025。它解决的是大语言模型在长程任务中缺乏对自身知识边界和行动能力的准确感知，导致过度自信或错误决策的问题。核心能力包括：通过知识图谱构建智能体的动态自我模型，将任务历史、技能掌握度和知识盲区显式编码；在推理时利用该自我模型进行行动规划与反思，使智能体能主动识别自身不确定领域并寻求外部信息或明确拒绝。项目提供完整的训练与推理代码，支持基于主流LLM（如Llama）的微调，并附带实验数据与评测脚本。其创新点在于将“自我意识”从隐式提示转化为可学习的结构化表征，显著提升智能体在复杂环境中的任务完成率和可靠性。