
CORTEX-AI-SUPER-RAG
让企业文档秒变带出处的问答助手,权限内精准找答案
项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-10-02 · 当前星标 ★ 1980
使用教程
环境要求
- 已安装并正在运行 Ollama
- Python 3.10 或更高版本
- 需要拉取 llama3.1:8b 聊天模型与 nomic-embed-text 嵌入模型
安装与启动步骤
-
1克隆并进入目录
从 GitHub 拉取源码并切换到项目目录,后续命令都在此目录下执行。
git clone https://github.com/SaiAkhil066/CORTEX-AI-SUPER-RAG.git cd CORTEX-AI-SUPER-RAG -
2安装 Python 依赖
按 requirements.txt 安装全部依赖;建议先激活虚拟环境再执行。
pip install -r requirements.txt -
3拉取 Ollama 模型
先启动 Ollama 服务,再拉取聊天模型和必需的嵌入模型,下载较慢请耐心等待。
ollama pull llama3.1:8b ollama pull nomic-embed-text -
4可选:修改配置
复制示例配置文件,可按需修改模型、Ollama 地址和索引存储位置,不改也能直接运行。
cp .env.example .env -
5启动应用
用 Streamlit 启动应用,启动后浏览器访问 http://localhost:8501 即可使用。
python -m streamlit run app.py
如何确认成功
浏览器打开 http://localhost:8501,能上传 PDF/Word/文本并提问,回答中附带来源文件名与页码即成功。
常见问题
Q:Windows 首次运行报 c10.dll 错误怎么办?
A:安装 PyTorch 的 CPU 稳定版:pip uninstall torch -y && pip install "torch==2.5.1" --index-url https://download.pytorch.org/whl/cpu
Q:需要 API Key 或把文档上传到云端吗?
A:不需要。应用完全在本机运行、由 Ollama 提供推理,没有 API Key,也不会上传云端。
Q:聊天模型只能用 llama3.1:8b 吗?
A:不必,任意 Ollama 聊天模型都可以替换;但嵌入模型 nomic-embed-text 是必需的。
Q:怎么评估不同检索配置在自己文档上的效果?
A:运行 python -m eval.run_eval --golden my_questions.jsonl --collection contracts-2026 --configs naive hybrid app-default full --judge-model llama3.1:70b,报告输出到 eval/results/<时间戳>/。
注意事项
- Linux 上可执行 ./install.sh,自动完成 Ollama 安装、模型拉取和依赖安装。
- 关键词+语义检索、实体图、神经重排、LLM 相关性检查等技术可在侧边栏逐项开关。
- 评估使用的 golden set 为 JSONL,每行一个问题,含 question/answer/source/page 字段;长任务可用 --resume <folder> 续跑。
核心亮点
- 支持权限感知检索,不同角色只能召回自己有权访问的文档,适合企业内部多部门场景
- 回答附带引用来源,便于人工核对,降低大模型幻觉带来的信任成本
- Python 技术栈,部署流程相对轻量,团队可较快接入自有数据源验证效果
不足之处
- 项目仍处成长阶段,生态和周边工具链不如成熟 RAG 框架完善
- 文档与社区规模有限,遇到复杂权限模型或大规模数据时的最佳实践待观察
适用场景
- 企业内部员工查询制度、流程、产品文档,要求答案有出处且不越权
- 客服或售前团队快速从知识库中检索标准话术与解决方案
- 研发团队在私有代码库和设计文档中做权限内的技术问答
替代项目
Dify、RAGFlow、LangChain
上一篇:rag-postgres-openai-python
下一篇:ApeRAG
同类项目推荐
gemini-obsidian
开源
在终端里用 Gemini 问答你的 Obsidian 笔记库
A Gemini CLI extension for interfacing with an Obsidian vault with local first RAG c···
LightRAG
开源
轻量级 RAG 框架,用知识图谱让问答更准更快
[EMNLP2025] LightRAG: Simple and Fast Retrieval-Augmented Generation
Free-LLM
开源
34+ 免费大模型 API 一表查,免卡直接调
Directory of 34+ free LLM & AI APIs — permanent free tiers, trial credits, and no-c···
ML-news-of-the-week
开源
每周精选AI要闻,帮你省时掌握前沿动态
A collection of the the best ML and AI news every week (research, news, resources)
second-brain-os
开源
让 AI 自动整理 Obsidian 笔记,知识库自己长大
Guides and resources for AI engineers: an agents course, five handbooks, a hands-on ···
ragbuilder
开源
自动评估并调优 RAG 配置,快速上线生产级问答系统
A toolkit to create optimal Production-readyRetrieval Augmented Generation(RAG) setu···
local-deep-research
开源
本地跑深度研究,多源检索自动出报告
~95% on SimpleQA (e.g. Qwen3.6-27B on a 3090). Supports all local and cloud LLMs (ll···
cool-ai-stuff
开源
免费AI资源一网打尽,省时省力找替代
This repository contains a list of free to use AI APIs and sites. We are NOT endorsi···
piragi
开源
让 RAG 集成像调用函数一样简单
The best RAG interface yet.