llm.pdf

打开 PDF 就能和 AI 聊天,不用装任何环境

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 62 🐛 待处理 4 👀 关注 7
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 871
维护状态 维护中
是否开源 开源
定价模式 🏷️完全免费 开源免费项目,定价信息待确认

项目预览

llm.pdf 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队EvanZhouDev
定价模式🏷️完全免费
价格说明开源免费项目,定价信息待确认
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型ai,llm,pdf
GitHub 星标★ 871
上线时间2025-03-30 00:00:00
代码更新2026-09-13
仓库体积58.7 MB
本站数据更新2026-11-06
维护状态维护中
收录时间2026-09-22
浏览次数1

项目介绍

llm.pdf 是一个把大语言模型直接塞进 PDF 文件里运行的开源实验项目。它利用 PDF 支持嵌入 JavaScript 的特性,把模型推理逻辑和轻量级权重打包进单个 PDF,用户用普通 PDF 阅读器打开就能与模型对话,无需安装 Python 环境或调用云端 API。项目解决的是「模型分发与运行环境割裂」的问题:传统 LLM 部署要么依赖服务器,要么需要本地装依赖,而 PDF 是几乎人人可打开、可转发的通用格式。核心能力包括在 PDF 内嵌入可执行脚本、加载量化后的小模型权重、在阅读器沙箱中完成前向推理并渲染输出。它更像一个概念验证,展示「模型即文档」的可能性,适合做演示、教学和极客玩具,而非生产级推理方案。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-09-22 · 当前星标 ★ 871

技术标签

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:进阶 约 25 分钟 部署方式:本地安装 4 步

环境要求

  • Python 3.9+
  • 一个 gguf 格式模型

安装与启动步骤

  1. 1准备模型

    它是把权重直接写进 PDF 的思路,需要一个 gguf 模型文件。

    mkdir -p models && ls models
  2. 2装依赖

    Python 侧依赖不多,注意本机要有字体。

    git clone https://github.com/evanzhoudev/llm.pdf.git
    cd llm.pdf && pip install -r requirements.txt
  3. 3生成 PDF

    指定模型路径与输出文件名即可。

    python3 generatePDF.py --model "models/your-model.gguf" --output "out.pdf"
  4. 4打开检查

    用阅读器确认文字可选中、字体未丢。

    open out.pdf  # Linux 用 xdg-open

如何确认成功

生成的 PDF 能打开且文字可复制。

注意事项

  • 模型越大生成越慢,先用小模型验证流程。
  • 中文字体缺失会出方块,装 Noto CJK 再试。

核心亮点

  • 把模型和推理逻辑打包进单个 PDF,分发和打开门槛极低
  • 用 PDF 内嵌 JavaScript 实现推理,思路新颖,有演示和教学价值
  • 纯 Python 工具链生成,代码可读,方便二次改造和实验

不足之处

  • 依赖 PDF 阅读器的 JavaScript 沙箱,兼容性和性能都不稳定
  • 只能跑极小模型,实际对话质量和速度有限,难以生产使用

适用场景

  • 技术分享会上演示「模型即文档」的新奇概念
  • 教学场景中展示 LLM 推理与文件格式结合的思路
  • 极客做玩具项目,把小型模型塞进 PDF 发给朋友体验

替代项目

llama.cpp、mlc-llm

上一篇:cosmos

下一篇:sealion

同类项目推荐

denoising-diffusion-pytorch 开源

用 PyTorch 复现扩散模型,从噪声生成逼真图像

Implementation of Denoising Diffusion Probabilistic Model in Pytorch

★ 10723 2026-10-15
Awesome-AI 开源

一站式收藏 AI 与 ChatGPT 资源,找工具、抄作业、提效率。

Best resources, tools, samples, demos, hacks or apps related to AI and ChatGPT techn···

★ 135 2026-08-09
tapestry 开源

联合全球力量,训练属于你的主权AI模型

Project Tapestry aims to give every nation and participant frontier AI they can call···

★ 300 2026-08-09
MoBA 开源

把长文本切成块,只盯重点,让大模型轻松读百万字。

MoBA: Mixture of Block Attention for Long-Context LLMs

★ 2198 2026-08-09
awesome-LLM-resources 开源

一份清单,搞定LLM学习与实战资源导航

‍ 全世界最好的LLM资料总结(多模态生成、Agent、辅助编程、AI审稿、数据处理、模型训练、···

★ 9070 2026-08-09
awesome-claude-fable-5 开源

一站式看懂 Claude Fable 5,案例基准全都有

Curated Claude Fable 5 use cases, tutorials, integrations, demos, and benchmark evid···

★ 6 2026-08-09
awesome-fm-fl 开源

一网打尽大模型+联邦学习前沿资源,快速入门不迷路

✨✨A curated list of latest advances on Large Foundation Models with Federated Lear···

★ 160 2026-08-09
flux-action 开源

7B 开源世界动作模型,让机器人看视频学动作

FLUX 3 Action: open weights 7B world action model from Black Forest Labs. Train, fin···

★ 210 2026-10-09