项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整
数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 352
核心亮点
- 首个系统研究数据受限场景下缩放定律的项目，填补空白
- 提供可复现实验代码和详细分析，便于验证和扩展
- 结论直接指导实际训练，如数据重复与模型规模的权衡
不足之处
- 实验基于特定模型架构和数据集，泛化性需更多验证
- 文档和社区支持尚不完善，上手门槛较高
适用场景
- 数据稀缺领域（如医疗、法律）的大模型训练策略制定
- 研究缩放定律与数据效率的学术研究
- 企业评估在有限数据下是否值得增大模型规模
替代项目
Chinchilla Scaling Laws、Scaling Laws for Neural Language Models、The Lazy Neuron Phenomenon
上一篇：Flipped-Learning
下一篇：SiLLM
同类项目推荐
rllm
开源
让LLM强化学习训练像搭积木一样简单，快速提升模型推理能力。
Democratizing Reinforcement Learning for LLMs
ETO
开源
让 LLM Agent 在试错中自我进化，越用越聪明
Trial and Error: Exploration-Based Trajectory Optimization of LLM Agents (ACL 2024 M···
optimum-quanto
开源
几行代码把 PyTorch 模型压成 int8/int4，省显存提速
A pytorch quantization backend for optimum
Liger-Kernel
开源
不改模型结构，给 LLM 训练省显存提吞吐
Efficient Triton Kernels for LLM Training
MoA
开源
自动混合稀疏注意力，压缩 LLM 省内存提速
[CoLM'25] The official implementation of the paper
CorDA
开源
用上下文感知的低秩分解，让大模型微调更省资源更精准
CorDA: Context-Oriented Decomposition Adaptation of Large Language Models for task-a···
nni
开源
模型调参交给机器自动试，最优结果坐等出炉
An open source AutoML toolkit for automate machine learning lifecycle, including fea···
dFactory
开源
几行代码微调扩散语言模型，省显存快验证
Easy and Efficient dLLM Fine-Tuning
language-planner
开源
用大模型零样本生成任务规划，直接驱动具身智能体。
Official Code for "Language Models as Zero-Shot Planners: Extracting Actionable Know···