TensorSharp

用 C# 在本地跑 GGUF 大模型，带 GPU 加速和 OpenAI 兼容接口

TensorSharp 是一个用 C# 编写的原生 .NET 大语言模型推理引擎，专门用于加载和运行 GGUF 格式的模型。它解决的是 .NET 生态中缺少高性能本地 LLM 推理方案的问题，让 C# 开发者不必依赖 Python 或外部进程即可在应用中集成模型推理。核心能力包括：支持 Windows、macOS、iOS、Linux 多平台，并具备完整 GPU 加速能力（CUDA、Metal 等）；提供控制台应用、网页版聊天界面，以及兼容 Ollama/OpenAI 的 HTTP API，方便程序化调用。项目覆盖 DeepSeek、Gemma、GLM 等主流模型家族，适合在桌面、移动端或服务端快速搭建私有化 AI 能力。

开源 unknown 基础设施

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 447

维护状态活跃

是否开源是

定价模式 unknown

项目数据

分类基础设施

开发团队zhongkaifu

所属国家

官网地址https://tensorsharp.ai

GitHubhttps://github.com/zhongkaifu/TensorSharp

定价模式unknown

价格说明定价信息待确认

访问状态

是否开源是

开源协议BSD-3-Clause

主要语言C#

技术栈/模型ai,csharp,cuda,cuda-programming,deepseek,dotnet,dspark,gemma,gemma4,gguf,glm,inference,inference-engine,llm,metal,minimax-h3,multimodal,qwen,qwen35,transformers

GitHub 星标★ 447

30天Star增速

HF 下载量

上线时间2026-04-03 00:00:00

最近更新2026-09-17 00:00:00

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-09-14

浏览次数0

使用教程

核心亮点

纯 .NET 原生实现，C# 项目可直接引用，无需 Python 运行时
跨平台覆盖 Windows/macOS/iOS/Linux，且支持 CUDA、Metal 等 GPU 加速
同时提供控制台、网页聊天和 OpenAI/Ollama 兼容 API，开箱即用

不足之处

项目处于早期，432 星标，生态和文档成熟度有限
仅支持 GGUF 格式，模型格式兼容范围较窄

适用场景

在 .NET 桌面或服务端应用中嵌入本地 LLM 推理能力
用 OpenAI 兼容 API 替换云端调用，实现私有化部署
在 iOS/macOS 上通过 Metal 加速运行本地聊天助手

替代项目

llama.cpp、Ollama、LM Studio

项目介绍

TensorSharp 是一个基础设施领域的开源项目，官方简介：A native .NET LLM inference engine for GGUF models. TensorSharp provides a console application, a web-based chatbot interface, and Ollama/OpenAI-compatible HTTP APIs for programmatic access. It supports Windows/MacOS/iOS/Linux with full GPU capability。项目使用 C# 开发，在 GitHub 上获得 432 星标。

上一篇：accelerated-data-science

下一篇：WilmerAI