TensorSharp

用 C# 在本地跑 GGUF 大模型，带 GPU 加速和 OpenAI 兼容接口

开源 🏷️定价信息待确认 ⚠️ 链接可跳转，访问体验不确定基础设施 🍴 复刻 70 🐛 待处理 8 👀 关注 5

访问官网 ↗ GitHub ↗

GitHub 星标 ★ 651

维护状态活跃

是否开源开源

定价模式 🏷️定价信息待确认

项目预览

TensorSharp 项目界面预览图 — 图片来源：GitHub 官方仓库名片

项目数据

分类基础设施

开发团队zhongkaifu

官网地址https://tensorsharp.ai

GitHubhttps://github.com/zhongkaifu/TensorSharp

定价模式🏷️定价信息待确认

价格说明定价信息待确认

访问状态⚠️ 链接可跳转，访问体验不确定

是否开源是

开源协议BSD-3-Clause

主要语言C#

技术栈/模型ai,csharp,cuda,deepseek,dotnet,dspark,gemma,gemma4,gguf,glm,inference,inference-engine,llm,ltx-2-5,metal,minimax-h3,minimax-m3,multimodal,qwen,transformers

GitHub 星标★ 651

上线时间2026-04-03 00:00:00

代码更新2026-11-01

仓库体积91.9 MB

本站数据更新2026-11-02

维护状态活跃

收录时间2026-09-14

浏览次数1

项目介绍

TensorSharp 是一个用 C# 编写的原生 .NET 大语言模型推理引擎，专门用于加载和运行 GGUF 格式的模型。它解决的是 .NET 生态中缺少高性能本地 LLM 推理方案的问题，让 C# 开发者不必依赖 Python 或外部进程即可在应用中集成模型推理。核心能力包括：支持 Windows、macOS、iOS、Linux 多平台，并具备完整 GPU 加速能力（CUDA、Metal 等）；提供控制台应用、网页版聊天界面，以及兼容 Ollama/OpenAI 的 HTTP API，方便程序化调用。项目覆盖 DeepSeek、Gemma、GLM 等主流模型家族，适合在桌面、移动端或服务端快速搭建私有化 AI 能力。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化，观测越久曲线越完整

数据来源：GitHub API 逐日快照 · 收录于 2026-09-14 · 当前星标 ★ 651

技术标签

ai csharp cuda deepseek dotnet

使用教程

ℹ 本教程由 AI 依据该项目 README 整理，个别步骤可能需要按你的环境微调。

难度：进阶约 40 分钟部署方式：本地安装 4 步

环境要求

.NET 8 SDK
Windows 或 Linux
可选 CUDA 加速

安装与启动步骤

1装 .NET SDK

它是 .NET 库，先确认 SDK 版本够，旧版缺它用的语法特性。
2拉代码进目录

Windows 上按 README 的 PowerShell 写法切目录，别用 bash 的全角路径。
```
git clone https://github.com/zhongkaifu/TensorSharp.git
```
3编译并跑示例

先 dotnet build 通过，再跑仓库里的示例工程确认算子可用。
4接自己的模型

它覆盖文本、多模态、嵌入、图像生成和视频，先只接一种模态。