franken_ocr

不装 Python 不靠 GPU，纯 Rust 在 CPU 上跑 3B OCR 大模型

开源 🏷️完全免费 🔧 仅开源项目，无在线服务，需自行部署 计算机视觉 🍴 复刻 40 👀 关注 1
GitHub ↗
GitHub 星标 ★ 345
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源免费，无在线服务，需自行部署

项目预览

franken_ocr 项目界面预览图
图片来源：GitHub 官方仓库名片

项目数据

分类计算机视觉
开发团队Dicklesworthstone
GitHubhttps://github.com/Dicklesworthstone/franken_ocr
定价模式🏷️完全免费
价格说明开源免费，无在线服务，需自行部署
访问状态🔧 仅开源项目，无在线服务，需自行部署
是否开源是
开源协议NOASSERTION
主要语言Rust
技术栈/模型avx512,cpu-inference,deepseek-ocr,int4,int8,moe,neon,ocr,quantization,rust,simd,vision-language-model
GitHub 星标★ 345
上线时间2026-06-25 00:00:00
代码更新2026-11-03
仓库体积64.2 MB
本站数据更新2026-11-04
维护状态活跃
收录时间2026-09-19
浏览次数1

项目介绍

franken_ocr 是一个用纯 Rust 实现的 CPU 端 OCR 推理引擎，目标模型是百度 Unlimited-OCR——一个基于 DeepSeek-OCR 衍生、参数量约 3B 的 MoE 视觉语言模型。它最大的特点是彻底脱离主流机器学习框架：不依赖 PyTorch、ONNX Runtime 或任何 Python 运行时，也不使用 GPU，而是手写 int8/int4 量化算子与 SIMD 内核（覆盖 AVX-512、NEON 等指令集），直接在 CPU 上完成视觉编码与文本生成。项目提供五模型 zoo，可按精度与速度取舍。它解决的是部署侧痛点：在无 GPU 的服务器、边缘设备或需要静态编译分发的场景中，传统 VLM 推理栈过重、依赖复杂。核心能力包括量化推理、跨 x86/ARM 的 SIMD 加速、以及纯 Rust 带来的单二进制部署体验。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-19 · 当前星标 ★ 345

核心亮点

  • 纯 Rust 实现，无 Python、无 ML 框架依赖，可编译为单一静态二进制，部署链路极短
  • 手写 int8/int4 量化内核并针对 AVX-512 与 NEON 优化，在 CPU 上压榨 MoE 模型推理性能
  • 提供五模型 zoo，用户可在精度、体积和速度之间按场景灵活取舍

不足之处

  • 项目处于早期，仅 326 星，社区规模小，长期维护与问题响应待观察
  • CPU-only 推理 3B MoE 模型，绝对速度与吞吐无法与 GPU 方案相比，长文档场景可能受限

适用场景

  • 无 GPU 的私有化服务器或内网环境部署 OCR 服务
  • 边缘设备或 ARM 平台（如 NEON 设备）上做本地文字识别
  • 需要单二进制、免依赖分发的桌面或嵌入式 Rust 应用集成 OCR

替代项目

PaddleOCR、Tesseract、RapidOCR

上一篇：ocr-rs

下一篇：pdf-ocr-obsidian

同类项目推荐

QuickSnip 开源

Wayland 上截图即取字，还能顺手做图像搜索

⚡ Lightweight Wayland OCR & Google Lens utility built with Quickshell.

★ 167 2026-10-30
BCI 开源

用 GAN 一键把 H&E 病理图转成 IHC 图，省时省钱

BCI: Breast Cancer Immunohistochemical Image Generation through Pyramid Pix2pix

★ 205 2026-08-09
DTrOCR 开源

用纯解码器 Transformer 直接生成文字，简化 OCR 识别流程

A PyTorch implementation of DTrOCR: Decoder-only Transformer for Optical Character R···

★ 205 2026-09-19
doctr 开源

用 PyTorch 或 TensorFlow 快速实现文档文字检测与识别

docTR (Document Text Recognition) - a seamless, high-performing & accessible library···

★ 6410 2026-08-10
kornia 开源

让图像变换可微，深度学习视觉更灵活

Geometric Computer Vision Library for Spatial AI

★ 12313 2026-08-10
receipt-ocr 开源

拍张票据照片，自动提取金额日期等关键字段

An efficient OCR engine for receipt image processing.

★ 753 2026-09-16
Doxa 开源

一键对比十多种图像二值化算法，选型调参不再愁

A Local Adaptive Thresholding framework for image binarization written in C++, with ···

★ 195 2026-08-10
AlbumentationsX 开源

一行代码给图像加增强，标注同步不跑偏

Image augmentation for computer vision. AGPL-3.0-only or commercial licensing.

★ 587 2026-09-13