ObsScaling

看公开数据就能预测模型性能，省下巨额训练费

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 开源模型 🍴 复刻 3 👀 关注 9
GitHub ↗
GitHub 星标 ★ 63
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目，Apache-2.0 许可证，可自由使用，无付费版本。

项目预览

ObsScaling 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类开源模型
开发团队ryoungj
GitHubhttps://github.com/ryoungj/ObsScaling
定价模式🏷️完全免费
价格说明开源项目，Apache-2.0 许可证，可自由使用，无付费版本。
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议Apache-2.0
主要语言Jupyter Notebook
技术栈/模型language-model,large-language-models,scaling-laws
GitHub 星标★ 63
上线时间2024-05-16 00:00:00
代码更新2024-10-02
仓库体积27.7 MB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

ObsScaling 是 NeurIPS 2024 Spotlight 论文《Observational Scaling Laws》的开源实现，主要研究如何通过观测数据而非实验干预来推导大模型的缩放定律。传统缩放定律依赖大量实验训练不同规模模型，成本高昂；而该方法利用公开的模型评测数据（如 LMSYS Chatbot Arena 等），仅通过观察不同模型的参数量、训练数据量和性能指标，就能拟合出缩放规律，并预测未训练模型的性能。项目提供了数据处理、拟合和可视化代码，帮助研究者和工程师低成本地估算模型能力与数据规模的关系，为模型选型和资源规划提供参考。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 63

核心亮点

  • 无需训练新模型，仅用公开评测数据即可拟合缩放定律，成本极低
  • 方法经过 NeurIPS 2024 Spotlight 验证，学术可靠性高
  • 代码基于 Jupyter Notebook，交互式演示，易于复现和理解

不足之处

  • 项目处于早期，文档和社区支持尚不完善
  • 依赖外部数据源（如 LMSYS），数据质量和时效性可能影响拟合结果

适用场景

  • 研究机构快速估算新模型性能，辅助论文实验设计
  • 企业在选择开源模型时，预测不同规模模型的性价比
  • AI 政策研究者分析行业模型能力发展趋势

替代项目

Scaling Laws (OpenAI 原始论文实现)、Chinchilla Scaling Laws (DeepMind)、LLM Scaling Laws (Hugging Face 相关工具)

上一篇：self-refine

下一篇：ReAlign

同类项目推荐

LiteResearcher 开源

用强化学习训练会查资料、写长报告的深度研究智能体

[COLM 2026] A Scalable Agentic RL Training Framework for Deep Research Agent

★ 134 2026-10-13
kohya-config-webui 开源

可视化点选，一键生成SD训练配置，告别手写TOML

A WebUI for making config files used by kohya_sd_script. 一个用于生成kohya-ss训练脚···

★ 92 2026-08-09
ellora 开源

照着 Notebook 跑通 LoRA 微调与思维链蒸馏

Enhancing LLMs with LoRA

★ 231 2026-11-02
MoTHer 开源

从模型集合中自动还原模型家族树，看清模型间继承关系。

Official PyTorch Implementation for the "Unsupervised Model Tree Heritage Recovery" ···

★ 62 2026-08-09
FastGen 开源

把扩散模型采样步数压下来，生成更快

NVIDIA FastGen: Fast Generation from Diffusion Models

★ 1113 2026-10-29
Rose 开源

无状态优化器，省内存，稳收敛，直接替换 Adam

Rose: Range-Of-Slice Equilibration PyTorch optimizer. Stateless optimization through···

★ 79 2026-08-09
Kiln 开源

一站式搞定 AI 系统开发：从数据标注到微调评估，全流程可视化协作

Build, Evaluate, and Optimize AI Systems. Includes evals, RAG, agents, fine-tuning, ···

★ 5267 2026-08-10
deita 开源

用更少的高质量数据，训出更强的对齐模型

Deita: Data-Efficient Instruction Tuning for Alignment [ICLR2024]

★ 608 2026-08-09
AlignProp 开源

直接反向传播奖励，让扩散模型更听话，效率提升25倍

AlignProp uses direct reward backpropogation for the alignment of large-scale text-t···

★ 330 2026-08-09