onefilellm

一键抓取代码、论文、视频字幕，生成干净文本喂给LLM

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署开源模型 🍴 复刻 180 🐛 待处理 3 👀 关注 15

GitHub ↗

GitHub 星标 ★ 2027

维护状态低维护

是否开源开源

定价模式 🏷️完全免费开源项目，MIT许可证，完全免费，无付费版本。

项目预览

项目数据

分类开源模型

开发团队jimmc414

GitHubhttps://github.com/jimmc414/onefilellm

定价模式🏷️完全免费

价格说明开源项目，MIT许可证，完全免费，无付费版本。

访问状态🔧 仅开源项目，无在线服务，需自行部署

是否开源是

开源协议MIT

主要语言Python

技术栈/模型arxiv,doi,github,ipynb,llm,papers,pdf,pmid,pull-request,repository,sci-hub,text,tiktoken,youtube-transcript-api

GitHub 星标★ 2027

上线时间2023-03-17 00:00:00

代码更新2026-06-12

仓库体积1.2 MB

本站数据更新2026-11-09

维护状态低维护

收录时间2026-08-09

浏览次数6

项目介绍

onefilellm 是一个将多种来源内容转换为单一文本文件的命令行工具，旨在简化大语言模型（LLM）的数据摄入流程。它支持从 GitHub 仓库、本地目录、GitHub Pull Request、arXiv 或 Sci-Hub 论文、YouTube 视频字幕以及网页文档 URL 等来源抓取内容，并自动整理为纯文本文件，同时复制到剪贴板，方便用户直接粘贴到 LLM 对话或知识库中。该工具解决了开发者或研究人员在准备 LLM 输入时面临的格式混乱、信息分散、手动复制效率低等问题。其核心能力包括：智能识别不同来源类型、自动提取正文与代码、过滤无关噪声（如导航栏、广告）、生成结构清晰的文本输出。通过简单的命令行操作，用户即可快速将外部知识或代码库转化为 LLM 可理解的格式，显著提升数据预处理效率。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 2027

技术标签

arxiv github llm papers pdf

使用教程

难度：入门约 10 分钟部署方式：命令行工具 6 步

环境要求

Python 环境（可用 pip 安装依赖）
git（用于克隆仓库，可选）
网络连接（抓取 GitHub、arXiv、网页等来源时需要）
GitHub 个人访问令牌（推荐，用于提升 API 访问额度）

安装与启动步骤

1克隆项目仓库

把 onefilellm 源码下载到本地。如果直接使用 pip 安装包，可跳过此步。
```
git clone https://github.com/jimmc414/onefilellm.git
```
2安装项目依赖

进入项目目录并安装 requirements.txt 中列出的依赖包，需联网。
```
cd onefilellm
pip install -r requirements.txt
```
3安装 CLI 命令

以可编辑模式安装，之后可直接使用 onefilellm 命令代替 python onefilellm.py。
```
pip install -e .
```
4或直接 pip 安装

不想克隆仓库时，可直接从 PyPI 安装，CLI 和 Python API 均可使用。
```
pip install onefilellm
```
5配置 GitHub Token

设置令牌后访问 GitHub 仓库、Issue、PR 更稳定，避免匿名调用受限。
```
export GITHUB_TOKEN="your_personal_access_token"
```
6运行工具聚合内容

传入本地目录或 URL 等来源，工具会合并为单个 XML 文件并复制到剪贴板。
```
onefilellm ./docs/ https://github.com/user/project/issues/123
```

关键配置

配置项	必填	说明	示例
`GITHUB_TOKEN`	否	GitHub API 访问令牌，提升抓取额度与稳定性	`ghp_xxxxxxxxxxxxxxxx`
`OFFLINE_MODE`	否	设为 1 时跳过所有网络操作，仅处理本地内容	`1`
`.env`	否	放在项目根目录的环境变量文件，可写入上述配置	`GITHUB_TOKEN=ghp_xxxxxxxxxxxxxxxx`
`~/.onefilellm_aliases/aliases.json`	否	别名存储文件，记录用户自定义的来源别名	`/home/user/.onefilellm_aliases/aliases.json`