MathPile

给数学大模型喂高质量语料,提升推理能力。

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 20 👀 关注 6
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 420
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0许可证,可自由使用和部署,无付费版本。

项目预览

MathPile 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队GAIR-NLP
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0许可证,可自由使用和部署,无付费版本。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型corpus,language-model,large-language-models,math,pre-training
GitHub 星标★ 420
上线时间2023-11-27 00:00:00
代码更新2025-04-04
仓库体积3.5 MB
本站数据更新2026-11-11
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

MathPile 是一个面向数学领域的大规模高质量预训练语料库,由 CAMEL-AI 团队构建,相关论文发表于 NeurIPS 2024 Datasets & Benchmarks 轨道。它旨在解决通用语料中数学内容占比低、噪声大、专业术语和推理链条不足的问题,为数学大模型提供纯净、结构化的训练数据。MathPile 从 arXiv、网页、教科书、代码等多种来源收集原始数据,经过严格的清洗、去重、质量过滤和格式标准化,最终形成包含约 95 亿 token 的语料库,并公开了完整的构建流程和工具。其核心能力包括:多源数据整合、细粒度质量分级(如按难度和来源分类)、可复现的数据处理管线,以及支持研究者基于该语料微调或预训练数学推理模型。项目开源了数据、代码和文档,便于社区复现和扩展。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 420

使用教程

难度:进阶 约 35 分钟 部署方式:本地安装 4 步

环境要求

  • 较大磁盘空间(百 GB 级)
  • Python 3.10+

安装与启动步骤

  1. 1先看许可与来源

    它是数学领域的预训练语料,来源与授权写在仓库里。

  2. 2看数据构成

    教科书、论文、网页混在一起,比例影响模型风格。

  3. 3下载或按脚本重建

    体量大,先确认磁盘与带宽。

  4. 4用它的清洗脚本处理自己的数据

    这部分比语料本身更有复用价值。

如何确认成功

能按仓库脚本重建出一份统计特征与原版接近的子集,且清洗规则对公式与代码块处理正确

注意事项

  • 它是数据集仓库,交付的是语料与处理脚本,不是模型。
  • 数学语料里公式与符号的清洗规则最容易被忽略,弄错会污染训练。
  • 引用要求写在仓库里,用于论文时必须按格式标注。
  • 语料含网页抓取内容,商用前逐项确认来源许可。
  • 体量大,本地只建议抽样研究。

核心亮点

  • 提供约95亿token的数学专用语料,规模大且覆盖多源(论文、教材、代码等)
  • 数据处理流程完全开源,清洗、去重、过滤步骤可复现,便于定制
  • 按来源和难度分级,方便研究者按需筛选数据子集

不足之处

  • 语料以英文为主,中文数学内容覆盖有限
  • 文档/社区待观察

适用场景

  • 预训练数学推理大模型,如训练GPT-like模型时注入数学知识
  • 微调通用LLM以提升其在数学应用题、符号计算上的表现
  • 构建数学领域RAG系统或评估数据质量工具

替代项目

OpenWebMath、Proof-Pile-2、MathPile(自身)

上一篇:PLTranslationEmpirical

下一篇:DataGen

同类项目推荐

compliance-checker 开源

一键扫描数据集,快速发现合规风险

Python tool to check your datasets against compliance standards

★ 135 2026-09-21
color-names 开源

海量颜色名称一键查,设计开发配色不再难

Large list of handpicked color names

★ 3106 2026-08-10
LLM-Synthetic-Data 开源

一页看全 LLM 合成数据论文脉络

A live reading list for LLM data synthesis (Updated to July, 2025).

★ 494 2026-10-29
AGIQA-3k-Database 开源

给AI生成图像质量打分,建立评估基准

[IEEE TCSVT2023] A Fine-grained Subjective Perception & Alignment Database for AI Ge···

★ 70 2026-08-09
Kokoro-Speech-Dataset 开源

免费日语单说话人语音数据,拿来就能训TTS

A public domain single speaker Japanese speech dataset

★ 75 2026-08-09
Koala-36M 开源

用3600万配对视频,让AI生成更听话的视频

Official implementation of the paper "Koala-36M: A Large-scale Video Dataset Improvi···

★ 258 2026-08-09
diffusiondb 开源

百万真实提示词数据,让 AI 生成更可控

A large-scale text-to-image prompt gallery dataset based on Stable Diffusion

★ 1408 2026-08-09
caselaw-repo-1 开源

一键接入瑞士百年判例,让 AI 秒查法律引用关系

Open Swiss legal corpus + MCP server: 1M+ court decisions (1875–today), 21k laws, 1···

★ 77 2026-08-09