nllb-api

CPU 上跑起 200 种语言的高吞吐翻译 API

开源 🏷️定价信息待确认 ⏳ 访问状态待核验 行业应用 🍴 复刻 34 🐛 待处理 2 👀 关注 4
GitHub ↗
GitHub 星标 ★ 149
维护状态 活跃
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

nllb-api 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类行业应用
开发团队winstxnhdw
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态⏳ 访问状态待核验
是否开源是
主要语言Python
技术栈/模型consul,ctranslate2,docker,granian,huggingface,huggingface-spaces,litestar,machine-translation,maturin,nllb,nllb200,opentelemetry,pyo3,rust,translation,uv
GitHub 星标★ 149
上线时间2023-05-27 00:00:00
代码更新2026-11-10
仓库体积4.6 MB
本站数据更新2026-11-10
维护状态活跃
收录时间2026-08-10
浏览次数10

项目介绍

nllb-api 是一个基于 CTranslate2 的高性能 CPU 推理 API,专为 Meta 的 NLLB(No Language Left Behind)多语言翻译模型设计。它解决了 NLLB 模型在 CPU 上推理速度慢、资源占用高的问题,通过 CTranslate2 的量化与优化,实现了高吞吐、低延迟的翻译服务。项目提供简洁的 REST API,支持 200 多种语言的互译,并已部署在 Hugging Face Spaces 上,方便快速体验和集成。核心能力包括:动态批处理、多线程并发、模型量化(int8)、以及基于 Litestar 框架的轻量级服务端。用户可通过 Docker 或 pip 安装,快速搭建本地或云端翻译服务,适用于大规模文本翻译、多语言内容处理等场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-10 · 当前星标 ★ 149

核心亮点

  • 基于 CTranslate2 量化,CPU 推理速度比原始模型快数倍
  • 支持 200+ 语言互译,覆盖全球主要语种
  • 提供 Docker 镜像和 Hugging Face Space 在线演示,部署简单

不足之处

  • 仅支持 CPU 推理,未充分利用 GPU 加速潜力
  • 文档和社区生态尚在早期,使用问题需自行排查

适用场景

  • 在无 GPU 的服务器上提供多语言翻译服务
  • 批量翻译大量文本内容(如新闻、文档、评论)
  • 集成到聊天机器人或内容管理系统中实现实时翻译

替代项目

argos-translate、LibreTranslate、CTranslate2 官方示例

上一篇:LTEngine

下一篇:ImageTrans_chrome_extension

同类项目推荐

growth-lab 开源

让 AI 自动跑通增长全流程,从读懂产品到优化下一轮。

An end-to-end growth tool that understands the product, fetch the data it needs, res···

★ 1972 2026-08-09
OpenCat-Old 开源

低成本四足机器猫,编程玩转腿式机器人与AI

A programmable and highly maneuverable robotic cat for STEM education and AI-enhance···

★ 1381 2026-10-07
sim-cli 开源

让 AI 代理直接操作 COMSOL、Abaqus、Ansys 等仿真软件

Turn any CAE files into structured text an agent can use

★ 247 2026-08-09
Agentic-Bug-Hunter 开源

让 AI 自动跑侦察,赏金猎人只管挖洞

AI-powered bug bounty hunting toolkit that works with or without subscription.

★ 5777 2026-10-12
pcb-designer-ai-agent 开源

AI 自动摆件布线,PCB 设计少熬夜

Intelligent AI-powered PCB design automation tool using machine learning for compone···

★ 145 2026-10-02
Modern-Red-Team-Infrastructure 开源

把红队零散工具整合成一套可落地的现代基础设施架构

A comprehensive modern architecture model is proposed to integrate platform solution···

★ 329 2026-10-06
ai-medical-chatbot 开源

用生成式AI做免费问诊,输入症状秒得健康建议

Free Doctor Consultation with Artificial Intelligence by using Generative AI

★ 124 2026-09-14