sonar

开源 开源免费 基础设施
GitHub 星标 ★ 1825
维护状态 活跃
是否开源
定价模式 开源免费

项目数据

分类基础设施
开发团队dphnAI
所属国家
定价模式开源免费
价格区间
是否开源
开源协议AGPL-3.0
主要语言C++
技术栈/模型api-rest,cuda,inference-engine,inferentia,intel,lora,machine-learning,rocm,speculative-decoding,tpu
GitHub 星标★ 1825
30天Star增速
HF 下载量
上线时间2023-06-23 00:00:00
最近更新2026-08-09 00:00:00
维护状态活跃
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-10
浏览次数0

核心亮点

    不足之处

      适用场景

        替代项目

        项目介绍

        sonar 是一个基础设施领域的开源项目,官方简介:Large-scale LLM inference engine。项目使用 C++ 开发,在 GitHub 上获得 1825 星标。

        上一篇:dstack

        下一篇:curvine

        同类项目推荐

        ollama 开源

        一条命令本地跑起大模型,免费、私密、不卡顿

        Get up and running with Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma ···

        ★ 178133 2026-08-09
        litellm 开源

        一个网关接入所有大模型,告别接口乱、成本散、监控难

        The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in Ope···

        ★ 55954 2026-08-09
        coze-loop 开源

        Next-generation AI Agent Optimization Platform: Cozeloop addresses challenges in AI ···

        ★ 5683 2026-08-09