LLM-TPU

开源 开源免费 开源模型
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 296
维护状态 活跃
是否开源 是
定价模式 开源免费

项目数据

分类开源模型
开发团队sophgo
所属国家
官网地址
GitHubhttps://github.com/sophgo/LLM-TPU
定价模式开源免费
价格区间
是否开源是
开源协议NOASSERTION
主要语言C++
技术栈/模型
GitHub 星标★ 296
30天Star增速
HF 下载量
上线时间2024-02-06 00:00:00
最近更新2026-08-06 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数0

核心亮点

    不足之处

      适用场景

        替代项目

        项目介绍

        LLM-TPU 是一个开源模型领域的开源项目，官方简介：Run generative AI models in sophgo BM1684X/BM1688。项目使用 C++ 开发，在 GitHub 上获得 296 星标。

        上一篇：kvpress

        下一篇：minimal-embodiment

        同类项目推荐

        litellm 开源

        一个网关接入所有大模型，告别接口乱、成本散、监控难

        The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in Ope···

        ★ 55954 2026-08-09
        ollama 开源

        一条命令本地跑起大模型，免费、私密、不卡顿

        Get up and running with Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma ···

        ★ 178133 2026-08-09
        coze-loop 开源

        Next-generation AI Agent Optimization Platform: Cozeloop addresses challenges in AI ···

        ★ 5683 2026-08-09
        vllm-omni 开源

        一套框架通吃文本图像视频，换模型不用再重搭环境。

        A framework for efficient model inference with omni-modality models

        ★ 5987 2026-08-09