不训练模型，看大模型能否从例子中学会回归
llm4regression 是一个研究项目，旨在系统评估大型语言模型（LLM）在上下文学习（in-context learning）场景下处理合成回归任务的能力。它通过向模型提供（输入，输出）示例对，不更新任何参数，来测试模型能否从这些示例中推断出潜在的回归函数。项目包含多种合成回归任务（如线性、非线性、周期性等），并设计了实验框架来量化模型在不同任务上的表现，比较不同模型和提示策略的效果。它解决了如何客观衡量LLM在数值推理和函数拟合方面能力的问题，为理解LLM的统计学习能力提供了实证数据。核心能力包括任务生成、模型调用、结果评估和可视化，方便研究者复现实验并扩展新的回归任务。
in-context-learning-benchmarks、lm-evaluation-harness、big-bench
llm4regression 是模型训练领域的开源项目，由 robertvacareanu 开发，2024 年首次发布。
它收录于模型训练分类，该分类目前共有 522 个项目，GitHub 星标数为 161。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-08-20。本地部署，完全免费。
它主要面向的使用场景是：研究LLM的上下文学习能力。同类可对比的替代方案包括 in-context-learning-benchmarks、lm-evaluation-harness、big-bench。
上一篇：ringattention
下一篇：HoliTom
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···
