LoRI 是模型训练领域的开源项目，由 juzhengz 开发，2025 年首次发布。
它收录于模型训练分类，该分类目前共有 518 个项目，GitHub 星标数为 174。
项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-18。本地部署，完全免费。
它主要面向的使用场景是：多任务NLP模型微调，如同时处理情感分析、文本分类等。同类可对比的替代方案包括 LoRA、AdaLoRA、MAM Adapter。
LoRI
多任务微调不打架，LoRA 参数更高效
LoRI 是一个针对多任务低秩适配（LoRA）的改进方法，旨在解决多任务学习中的跨任务干扰问题。它通过引入任务特定的低秩子空间和正交化约束，减少不同任务在参数更新时的相互干扰，从而提升多任务场景下的模型性能。该项目提供了完整的训练和评估代码，支持常见的 NLP 基准任务，并基于 PyTorch 实现。LoRI 的核心创新在于对低秩矩阵进行分解和约束，使得每个任务拥有独立的参数空间，同时保持整体参数的紧凑性。该工作发表于 COLM 2025，适合研究多任务学习、参数高效微调以及大模型适配的开发者使用。
开源
free
开源模型
GitHub 星标
★ 174
维护状态
低维护
是否开源
是
定价模式
free
项目数据
分类开源模型
开发团队juzhengz
所属国家
定价模式free
价格说明开源项目，本地部署，完全免费
访问状态
是否开源是
开源协议
主要语言Python
技术栈/模型continual-learning,large-language-models,lora,model-merging,parameter-efficient-fine-tuning
GitHub 星标★ 174
30天Star增速
HF 下载量
上线时间2025-04-09 00:00:00
最近更新2026-09-18 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数7
使用教程
核心亮点
- 提出正交低秩子空间方法，显著降低跨任务干扰，提升多任务性能
- 基于 PyTorch 实现，代码结构清晰，易于复现和扩展
- 支持多种 NLP 基准任务，实验设置完整，便于对比验证
不足之处
- 文档/社区待观察
- 仅支持特定任务集，通用性需进一步验证
适用场景
- 多任务 NLP 模型微调，如同时处理情感分析、文本分类等
- 参数高效迁移学习，在资源受限时适配多个下游任务
- 研究低秩适配方法的改进与对比
替代项目
LoRA、AdaLoRA、MAM Adapter
项目介绍
同类项目推荐
Long-RL
开源
让强化学习轻松驾驭超长序列，训练更稳更快
Long-RL: Scaling RL to Long Sequences (NeurIPS 2025)
TPA
开源
把注意力复杂度从平方降到线性，长序列不再卡顿
[NeurIPS 2025 Spotlight] TPA: Tensor ProducT ATTenTion Transformer (https://arxiv.or···
minimind
开源
两小时造出你的小模型，练手入门不求人
Train a 64M-parameter LLM from scratch in just 2h!
pruna
开源
一键优化 AI 模型，推理提速又省资源。
Pruna is a model optimization framework built for developers, enabling you to delive···