xmtf

多任务微调，让模型学会跨语言举一反三

xmtf 是一个通过多任务微调实现跨语言泛化的开源模型项目。它主要解决多语言自然语言处理中，模型在低资源语言上性能不佳的问题。项目基于多任务学习框架，在多个语言任务上对预训练语言模型进行联合微调，使模型能够共享跨语言的知识表示，从而提升在未见语言或低资源语言上的泛化能力。核心能力包括：支持多种语言任务的统一训练、灵活的模型微调配置、以及基于 Jupyter Notebook 的交互式实验环境。该项目适合研究多语言模型泛化、低资源语言处理以及多任务学习的研究人员和开发者。

开源 free 开源模型

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 533

维护状态低维护

是否开源是

定价模式 free

项目数据

分类开源模型

开发团队bigscience-workshop

所属国家

官网地址

GitHubhttps://github.com/bigscience-workshop/xmtf

定价模式free

价格说明开源模型，Apache-2.0许可证，可免费使用和部署。

访问状态

是否开源是

开源协议Apache-2.0

主要语言Jupyter Notebook

技术栈/模型bloom,bloomz,instruction-tuning,language-models,large-language-models,mt0,multilingual-nlp,multitask-learning,t5,zero-shot-learning

GitHub 星标★ 533

30天Star增速

HF 下载量

上线时间2022-10-18 00:00:00

最近更新2026-09-23 00:00:00

维护状态低维护

中文支持

访问方式

移动端支持

综合评分

收录时间2026-08-09

浏览次数7

使用教程

核心亮点

提出多任务微调策略，显著提升低资源语言上的模型泛化能力
基于 Jupyter Notebook 提供交互式实验流程，上手门槛低
代码结构清晰，便于研究者复现和扩展新任务

不足之处

项目处于早期阶段，文档和社区支持有待完善
实验依赖特定预训练模型，可迁移性需进一步验证

适用场景

低资源语言的自然语言理解任务
多语言模型跨语言迁移研究
多任务学习在NLP中的应用实验

替代项目

XLM-R、mT5、Unicoder

项目介绍

xmtf 是模型训练领域的开源项目，由 bigscience-workshop 开发，2022 年首次发布。

它收录于模型训练分类，该分类目前共有 518 个项目，GitHub 星标数为 533。

项目已超过三个月没有代码更新，维护节奏明显放缓，最近一次代码更新于 2026-09-23。Apache-2.0许可证，可免费使用和部署。

它主要面向的使用场景是：低资源语言的自然语言理解任务。同类可对比的替代方案包括 XLM-R、mT5、Unicoder。

上一篇：Directional-Preference-Alignment

下一篇：shortened-llm