tpu-mlir

把 PyTorch/ONNX 模型一键编译到算能 TPU 上跑起来

tpu-mlir 是算能（Sophgo）开源的机器学习编译器，基于 MLIR 框架构建，专门面向 Sophgo TPU 硬件做模型编译与优化。它解决的问题是：主流深度学习框架（PyTorch、ONNX、TFLite 等）训练出的模型无法直接在 Sophgo TPU 上高效运行，需要一套从高层算子到 TPU 指令的完整转换链路。核心能力包括多框架模型导入与图优化、算子融合与量化（支持 INT8 等低精度）、内存与调度规划，以及最终生成可在 TPU 上执行的二进制。项目用 C++ 实现，围绕 MLIR 的 dialect 体系组织编译流程，同时覆盖 LLM 相关算子，适合边缘 AI 推理场景。对使用算能 BM1684X、CV186 等芯片做部署的团队来说，它是打通模型到硬件的关键工具链组件。