Tianji

一套教程吃透LLM应用开发,从提示词到微调全搞定

Tianji是一个专注于大语言模型应用开发的教程型开源项目,旨在帮助开发者制作“懂人情世故”的LLM应用。项目系统性地覆盖了提示词工程、RAG检索增强生成、Agent智能体以及LLM微调四大核心领域,提供了从理论到实践的完整学习路径。它解决的是LLM应用开发中知识碎片化、缺乏体系化指导的问题,通过结构化的教程、代码示例和最佳实践,帮助开发者快速掌握构建生产级LLM应用的关键技能。项目内容贴近实际业务场景,强调模型输出的人性化与实用性,而非单纯的技术堆砌。

开源 free 搜索知识
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 1827
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类搜索知识
开发团队SocialAI-tianji
所属国家
定价模式free
价格说明开源项目,Apache-2.0许可证,可免费使用和部署。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型finetuning,gpt,llm,prompt,qwen,rag
GitHub 星标★ 1827
30天Star增速
HF 下载量
上线时间2023-12-14 00:00:00
最近更新2026-09-23 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数1

使用教程

难度:入门 约 15 分钟 部署方式:本地安装 8 步

环境要求

  • Python 环境(项目为 Python 项目,需可执行 python3 / pip)
  • 能够访问 pip 源,用于执行 pip install -e .
  • 可用的 ZhipuAI 与 Siliconflow(OpenAI 兼容)API Key
  • 可选:Hugging Face Token(下载受限模型时需要)
  • 可选:Tavily API Key(使用 Agent 网络搜索工具时需要)

安装与启动步骤

  1. 1获取项目代码

    从 GitHub 克隆 Tianji 仓库并进入项目根目录,后续所有命令都在项目根目录执行。

    git clone https://github.com/SocialAI-tianji/Tianji.git
    cd Tianji
  2. 2安装项目依赖

    在项目根目录执行可编辑安装,README 明确说明该指令即可完成项目安装。

    pip install -e .
  3. 3配置 API 密钥

    在项目内新建 .env 文件,填入 ZhipuAI 与 Siliconflow 的密钥;Prompt demo 用 ZhipuAI,RAG 与 Agent demo 用 Siliconflow。

    OPENAI_API_KEY=sk-xxxxxxxx
    ZHIPUAI_API_KEY=xxxxxxxxxxxxxxxx
  4. 4配置可选变量

    若 Hugging Face 下载慢可设 HF_ENDPOINT 镜像;受限模型需 HF_TOKEN;Agent 联网搜索需 TAVILY_API_KEY。

    HF_HOME='temp/huggingface_cache/'
    HF_ENDPOINT='https://hf-mirror.com'
    HF_TOKEN=xxxxxxxx
    TAVILY_API_KEY=tvly-xxxxxxxx
  5. 5运行 Prompt 前端

    启动 Prompt 版 WebUI 前端,确认 .env 已创建后再执行,默认调用 ZhipuAI。

    python3 run/tianji_prompt_webui.py
  6. 6运行 Agent 前端

    用 streamlit 启动 Metagpt 智能体前端,需要已填写 Siliconflow 与(可选)Tavily 密钥。

    streamlit run run/metagpt_webui.py
  7. 7运行 RAG 示例

    启动基于 LangChain 的在线 LLM 知识库问答示例,默认走 Siliconflow 在线模型。

    python run/demo_rag_langchain_onlinellm.py
  8. 8配置提交检查(可选)

    参与开发贡献时安装 pre-commit,commit 阶段会自动修正格式问题。

    pip install pre-commit
    pre-commit install

关键配置

配置项必填说明示例
OPENAI_API_KEY是Siliconflow(OpenAI 兼容)密钥,供 RAG 与 Agent demo 使用sk-xxxxxxxx
ZHIPUAI_API_KEY是智谱 AI 密钥,Prompt demo 默认使用xxxxxxxxxxxxxxxx
OPENAI_API_BASE否兼容 OpenAI 接口的自定义服务地址https://api.siliconflow.cn/v1
HF_ENDPOINT否Hugging Face 下载镜像,解决下载慢或失败https://hf-mirror.com
HF_TOKEN否Hugging Face 访问令牌,下载受限仓库模型时使用hf_xxxxxxxx
TAVILY_API_KEY否Tavily 搜索密钥,Agent 联网搜索工具需要tvly-xxxxxxxx

如何确认成功

执行 python3 run/tianji_prompt_webui.py 后前端正常启动并可在页面提问并获得回答,即表示安装与密钥配置成功。

常见问题

Q:只填写一个 Key 可以吗?

A:可以部分使用。Prompt demo 用 ZhipuAI,rag 与 agent demo 用 Siliconflow,填齐两者才能使用天机的全部功能。

Q:Hugging Face 模型下载太慢或失败怎么办?

A:在 .env 中设置 HF_ENDPOINT 为 https://hf-mirror.com;若仓库需要权限(如 Jina AI),注册 Hugging Face 账号并添加 HF_TOKEN。

Q:Agent 联网搜索报错怎么办?

A:需要在 .env 中填写 TAVILY_API_KEY,可在 Tavily 官网获取,个人有免费额度。

Q:Agent 功能打不开?

A:README 中 Agent 链接标注为“修复中,请等待”,该部分可能暂不可用,可先体验 Prompt 与 RAG 版本。

Q:提交代码时格式检查报错怎么办?

A:反复执行 git add . 与 git commit -m "提交信息",pre-commit 会自动修复大部分格式错误,复杂问题按提示手动修改。

注意事项

  • 所有命令需在项目根目录执行,且运行前必须先在项目内新建 .env 文件。
  • 密钥属于敏感信息,不要提交到 Git 仓库或公开分享。
  • README 中的 Agent 链接标注为修复中,相关功能可能暂时不可用。
  • 模型微调、数据制造等进阶内容需参考文档站与仓库子目录,本文仅覆盖 README 给出的安装与运行方式。

核心亮点

  • 覆盖提示词、RAG、Agent、微调四大核心领域,知识体系完整
  • 教程配有代码示例,实践性强,非纯理论说教
  • 强调“懂人情世故”的实用导向,贴近真实业务需求

不足之处

  • 项目处于成长阶段,文档和社区生态待观察
  • 教程深度可能不及专业书籍,适合入门到中级开发者

适用场景

  • 开发者系统学习LLM应用开发全链路技术
  • 技术团队内部培训,快速建立AI应用开发能力
  • 个人开发者从零搭建具备RAG和Agent能力的应用

替代项目

LangChain中文文档、Prompt Engineering Guide、LLM University (Cohere)

项目介绍

Tianji 是学习教育领域的开源项目,由 SocialAI-tianji 开发,2023 年首次发布。

在全站 13,014 个收录项目中,它的 GitHub 星标数(1,827)位列前 30%,在学习教育分类中处于中上游。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-23。Apache-2.0许可证,可免费使用和部署。

它主要面向的使用场景是:开发者系统学习LLM应用开发全链路技术。同类可对比的替代方案包括 LangChain中文文档、Prompt Engineering Guide、LLM University (Cohere)。

上一篇:ai-system-design-guide

下一篇:PageLM

同类项目推荐

awesome-awesome-ai 开源

一站式导航AI资源,告别收藏夹吃灰

An awesome list for collecting awesome lists related to AI.

★ 136 2026-08-09
machine-learning 开源

免费学AI,从入门到实战,社区共建资源库

Learn AI together, for free. AI learning and teaching resources for everyone.

★ 231 2026-08-09
groundhog 开源

拆解 Cursor 原理,手把手教你造 AI 编程助手

Groundhog's primary purpose is to teach people how Cursor and all these other coding···

★ 405 2026-08-09
notebooks 开源

跟着最新视觉模型教程,边看边跑代码,快速上手实战

A collection of tutorials on state-of-the-art computer vision models and techniques.···

★ 9686 2026-08-10