regress-lm

把回归变成生成,用预训练模型直接预测数值

regress-lm 是一个面向序列到序列数值预测的 Python 库,核心思路是把回归任务改造成语言模型式的生成任务,从而复用预训练 Transformer 的能力。它解决的是传统回归模型难以利用大规模预训练权重、难以统一处理多任务的问题:只要输入能被 token 化(文本、代码、结构化字段等),就能把目标数值转成 token 序列,让模型像生成文本一样生成数值。库同时支持预训练和微调,可在多个回归任务上联合训练,适合需要定量预测又希望借助预训练语义理解的场景,比如评分预测、价格估计、指标外推等。相比从零训练回归头,它更强调用序列建模的方式统一数值预测流程,降低多任务迁移的门槛。

开源 free 模型训练
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 356
维护状态 较活跃
是否开源
定价模式 free

项目数据

分类模型训练
开发团队google-deepmind
所属国家
官网地址
定价模式free
价格说明开源免费,无官方定价信息
访问状态
是否开源
开源协议Apache-2.0
主要语言Python
技术栈/模型prediction,quantitative,regression,sequence-to-sequence
GitHub 星标★ 356
30天Star增速
HF 下载量
上线时间2025-06-09 00:00:00
最近更新2026-09-18 00:00:00
维护状态较活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-09-16
浏览次数0

使用教程

核心亮点

  • 把数值预测转成 token 生成,可直接复用预训练语言模型权重
  • 支持多任务联合预训练与微调,便于跨任务迁移
  • 输入只需可 token 化,文本、代码、结构化字段都能统一处理

不足之处

  • 数值被离散成 token,精度受分词粒度限制,连续值回归误差可能偏大
  • 项目早期、社区和文档规模有限,生产落地需自行验证稳定性

适用场景

  • 根据商品描述文本预测价格或销量
  • 对用户评论打分并预测具体评分值
  • 从结构化日志或代码片段中回归预测性能指标

替代项目

TabPFN、AutoGluon、sklearn

项目介绍

regress-lm 是一个模型训练领域的开源项目,官方简介:Library for sequence-to-sequence numeric prediction, applicable to any tokenizable input, and allows pretraining and fine-tuning over multiple tasks.。项目使用 Python 开发,在 GitHub 上获得 354 星标。

上一篇:LightRFT

下一篇:MLX-LoRA-Studio

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 61694 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1279 2026-08-13