用 Tenstorrent 硬件跑 AI 模型，底层算子与内核编程一手掌控
tt-metal 是 Tenstorrent 公司推出的底层算子库与内核编程模型，包含 TT-NN 算子库和 TT-Metalium 低层内核编程接口。它旨在为 Tenstorrent 的 AI 加速器硬件提供高性能的编程抽象，解决开发者难以直接利用该硬件进行深度学习计算的问题。核心能力包括：提供丰富的神经网络算子（如矩阵乘、卷积、注意力等），支持 Stable Diffusion、LLM（如 Llama、DeepSeek）等主流模型的推理与训练，并具备多芯片扩展（scale-out）能力。通过 TT-Metalium，开发者可以编写自定义内核，精细控制数据流与计算，从而榨取硬件性能。项目采用 C++ 实现，面向高性能计算场景，是构建 AI 应用与底层硬件之间的关键桥梁。
⚠ 该项目 README 未提供完整安装说明，以下步骤为通用流程，请以官方文档为准。
1克隆项目仓库
从 GitHub 拉取 tt-metal 源码到本地，网络较慢时可加代理或使用镜像。
git clone https://github.com/tenstorrent/tt-metal.git2进入项目目录
切换到克隆下来的仓库根目录，后续操作都在此目录进行。
cd tt-metal3查看安装文档
README 顶部 Install 链接指向仓库内 INSTALLING.md，具体依赖安装与编译命令以该文件为准。
cat INSTALLING.md4跑通简单内核示例
按 README 指引打开官方 simple kernels 示例文档，按示例验证算子与内核可正常调用。
README 未给出明确验证命令；可运行官方 simple kernels 示例文档中的例子，能正常编译执行即说明环境可用。
Q：只按 README 能完成安装吗？
A：不能。README 仅提供 Install 链接，完整安装步骤在仓库的 INSTALLING.md 中，请以该文档为准。
Q：没有 Tenstorrent 加速卡能安装使用吗？
A：tt-metal 面向 Tenstorrent 加速器硬件，README 首行即指向 Hardware 页面，无对应硬件通常无法实际运行内核与模型。
Q：支持哪些模型？
A：README 提到 Stable Diffusion、Llama、DeepSeek 等主流模型的推理与训练，完整列表见 Model Matrix 与开发者中心。
Q：TT-NN 和 TT-Metalium 有什么区别？
A：TT-NN 是 Python & C++ 神经网络算子库，提供现成算子；TT-Metalium 是低层内核编程接口，可自定义内核控制数据流与计算。
CUDA、ROCm、oneAPI
tt-metal 是基础设施领域的开源项目，由 tenstorrent 开发，2023 年首次发布。
在全站 13,090 个收录项目中，它的 GitHub 星标数（1,686）位列前 30%，在基础设施分类中处于中上游。
近 42 天，它的 GitHub 星标从 1,623 增加到 1,686，净增 63。
项目目前处于活跃维护状态，最近一次代码更新于 2026-09-23。Apache-2.0许可证，可免费使用和部署。
它主要面向的使用场景是：在Tenstorrent加速卡上部署StableDiffusion等图像生成模型。同类可对比的替代方案包括 CUDA、ROCm、oneAPI。
上一篇：openvino
下一篇：ComfyUI-Docker
freebuff-proxy
开源
聚合多账号，一键接入 OpenAI 兼容 API，轻松管理会话。
Multi-account OpenAI-compatible gateway for coding models. Pooled keys, session life···
microduck
开源
用 Rust 造一只会走路的桌面小鸭，快速上手双足机器人。
A Tiny biped duck robot
soperator
开源
用 Kubernetes 原生方式运行 Slurm，简化 HPC 集群管理。
Run Slurm in Kubernetes
ollama
开源
一条命令本地跑起大模型，免费、私密、不卡顿
Get up and running with Kimi, GLM, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other···