nllb-api

CPU 上跑起 200 种语言的高吞吐翻译 API

nllb-api 是一个基于 CTranslate2 的高性能 CPU 推理 API,专为 Meta 的 NLLB(No Language Left Behind)多语言翻译模型设计。它解决了 NLLB 模型在 CPU 上推理速度慢、资源占用高的问题,通过 CTranslate2 的量化与优化,实现了高吞吐、低延迟的翻译服务。项目提供简洁的 REST API,支持 200 多种语言的互译,并已部署在 Hugging Face Spaces 上,方便快速体验和集成。核心能力包括:动态批处理、多线程并发、模型量化(int8)、以及基于 Litestar 框架的轻量级服务端。用户可通过 Docker 或 pip 安装,快速搭建本地或云端翻译服务,适用于大规模文本翻译、多语言内容处理等场景。

开源 unknown 行业应用
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 145
维护状态 活跃
是否开源 是
定价模式 unknown

项目数据

分类行业应用
开发团队winstxnhdw
所属国家
官网地址
定价模式unknown
价格说明定价信息待确认
访问状态
是否开源是
开源协议
主要语言Python
技术栈/模型consul,ctranslate2,docker,granian,huggingface,huggingface-spaces,litestar,machine-translation,maturin,nllb,nllb200,opentelemetry,pyo3,rust,translation,uv
GitHub 星标★ 145
30天Star增速
HF 下载量
上线时间2023-05-27 00:00:00
最近更新2026-09-23 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-10
浏览次数8

使用教程

核心亮点

  • 基于 CTranslate2 量化,CPU 推理速度比原始模型快数倍
  • 支持 200+ 语言互译,覆盖全球主要语种
  • 提供 Docker 镜像和 Hugging Face Space 在线演示,部署简单

不足之处

  • 仅支持 CPU 推理,未充分利用 GPU 加速潜力
  • 文档和社区生态尚在早期,使用问题需自行排查

适用场景

  • 在无 GPU 的服务器上提供多语言翻译服务
  • 批量翻译大量文本内容(如新闻、文档、评论)
  • 集成到聊天机器人或内容管理系统中实现实时翻译

替代项目

argos-translate、LibreTranslate、CTranslate2 官方示例

项目介绍

nllb-api 是行业应用领域的开源项目,由 winstxnhdw 开发,2023 年首次发布。

它收录于行业应用分类,该分类目前共有 545 个项目,GitHub 星标数为 145。

项目目前处于活跃维护状态,最近一次代码更新于 2026-09-23。从国内网络环境看,可用性暂无实测数据。

它主要面向的使用场景是:在无GPU的服务器上提供多语言翻译服务。同类可对比的替代方案包括 argos-translate、LibreTranslate、CTranslate2 官方示例。

上一篇:LTEngine

下一篇:ImageTrans_chrome_extension

同类项目推荐

xmgai-like 开源

换脸、艺术二维码随手玩,副业灵感一包带走。

本开源 AI 副业搞钱项目集成了强大功能,包括 AI 艺术二维码生成、AI 换脸、Delle3 绘画等···

★ 60 2026-08-09
spoken-to-signed-translation 开源

把口语文本一路转成手语视频的流水线

a text-to-gloss-to-pose-to-video pipeline for spoken to signed language translation

★ 102 2026-09-11
LiveTranslate 开源

直播看片实时翻译,字幕秒出,跨语言无压力

Real-time audio translation, captures system audio + mic, runs ASR (Whisper/SenseVoi···

★ 691 2026-08-13