ObsScaling

看公开数据就能预测模型性能,省下巨额训练费

ObsScaling 是 NeurIPS 2024 Spotlight 论文《Observational Scaling Laws》的开源实现,主要研究如何通过观测数据而非实验干预来推导大模型的缩放定律。传统缩放定律依赖大量实验训练不同规模模型,成本高昂;而该方法利用公开的模型评测数据(如 LMSYS Chatbot Arena 等),仅通过观察不同模型的参数量、训练数据量和性能指标,就能拟合出缩放规律,并预测未训练模型的性能。项目提供了数据处理、拟合和可视化代码,帮助研究者和工程师低成本地估算模型能力与数据规模的关系,为模型选型和资源规划提供参考。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 62
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队ryoungj
所属国家
官网地址
定价模式free
价格说明开源项目,Apache-2.0 许可证,可自由使用,无付费版本。
访问状态
是否开源是
开源协议Apache-2.0
主要语言Jupyter Notebook
技术栈/模型language-model,large-language-models,scaling-laws
GitHub 星标★ 62
30天Star增速
HF 下载量
上线时间2024-05-16 00:00:00
最近更新2026-09-06 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数2

使用教程

核心亮点

  • 无需训练新模型,仅用公开评测数据即可拟合缩放定律,成本极低
  • 方法经过 NeurIPS 2024 Spotlight 验证,学术可靠性高
  • 代码基于 Jupyter Notebook,交互式演示,易于复现和理解

不足之处

  • 项目处于早期,文档和社区支持尚不完善
  • 依赖外部数据源(如 LMSYS),数据质量和时效性可能影响拟合结果

适用场景

  • 研究机构快速估算新模型性能,辅助论文实验设计
  • 企业在选择开源模型时,预测不同规模模型的性价比
  • AI 政策研究者分析行业模型能力发展趋势

替代项目

Scaling Laws (OpenAI 原始论文实现)、Chinchilla Scaling Laws (DeepMind)、LLM Scaling Laws (Hugging Face 相关工具)

项目介绍

ObsScaling 是模型训练领域的开源项目,由 ryoungj 开发,2024 年首次发布。

它收录于模型训练分类,该分类目前共有 522 个项目,GitHub 星标数为 62。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-06。Apache-2.0 许可证,可自由使用,无付费版本。

它主要面向的使用场景是:研究机构快速估算新模型性能,辅助论文实验设计。同类可对比的替代方案包括 Scaling Laws (OpenAI 原始论文实现)、Chinchilla Scaling Laws (DeepMind)、LLM Scaling Laws…。

上一篇:self-refine

下一篇:ReAlign

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13