flame

极简框架,快速训练线性注意力大模型

flame 是一个极简的深度学习训练框架,专为扩展 FLA(Fast Linear Attention)模型而设计。它解决了高效训练线性注意力模型时面临的工程复杂性问题,提供了简洁的 API 和模块化设计,使研究者能快速搭建和扩展大规模模型训练流程。核心能力包括分布式训练支持、内存优化、灵活的模型配置,以及与主流深度学习生态的兼容性。项目处于早期阶段,代码风格清晰,适合作为研究工具或教学参考。

开源 free 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 417
维护状态 低维护
是否开源 是
定价模式 free

项目数据

分类开源模型
开发团队fla-org
所属国家
定价模式free
价格说明开源框架,MIT许可证,完全免费,无付费版本。
访问状态
是否开源是
开源协议MIT
主要语言Python
技术栈/模型flash-linear-attention,large-language-models,sequence-modeling
GitHub 星标★ 417
30天Star增速
HF 下载量
上线时间2025-01-06 00:00:00
最近更新2026-09-22 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数7

使用教程

核心亮点

  • 专注 FLA 模型,训练流程高度定制化
  • 代码简洁,易于理解和二次开发
  • 内置分布式训练支持,便于扩展规模

不足之处

  • 文档/社区待观察
  • 生态尚不成熟,集成工具较少

适用场景

  • 研究线性注意力模型训练
  • 快速原型验证新架构
  • 教学演示分布式训练

替代项目

Hugging Face Transformers、Fairseq、TinyLlama

项目介绍

flame 是模型训练领域的开源项目,由 fla-org 开发,2025 年首次发布。

它收录于模型训练分类,该分类目前共有 522 个项目,GitHub 星标数为 417。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-09-22。MIT许可证,完全免费,无付费版本。

它主要面向的使用场景是:研究线性注意力模型训练。同类可对比的替代方案包括 Hugging Face Transformers、Fairseq、TinyLlama。

上一篇:LLM-Drop

下一篇:reasoning-gym

同类项目推荐

Long-RL 开源

让强化学习轻松驾驭超长序列,训练更稳更快

Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)

★ 729 2026-08-09
TPA 开源

把注意力复杂度从平方降到线性,长序列不再卡顿

[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···

★ 463 2026-08-09
minimind 开源

两小时造出你的小模型,练手入门不求人

Train a 64M-parameter LLM from scratch in just 2h!

★ 62178 2026-08-09
pruna 开源

一键优化 AI 模型,推理提速又省资源。

Pruna is a model optimization framework built for developers, enabling you to delive···

★ 1286 2026-08-13