项目预览
项目数据
项目介绍
Star 增长趋势
本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整
数据来源:GitHub API 逐日快照 · 收录于 2026-11-20 · 当前星标 ★ 168
技术标签
核心亮点
- 纯 .NET 实现,无需 Python 边车进程,部署链路更简单
- 通过 Microsoft.Extensions.AI 接入,符合 .NET 依赖注入与配置习惯
- 基于 ONNX Runtime,同时支持 CPU 与 CUDA 推理
不足之处
- 项目处于早期阶段,星标数较少,生态与社区规模有限
- 模型适配与文档完善度仍需观察,部分能力依赖特定模型
适用场景
- 企业内网 .NET 服务中做本地文本向量化与语义检索
- 桌面或本地应用中对图片、视频做内容检索
- 离线环境下对文档做命名实体抽取与结构化处理
替代项目
LLamaSharp、Semantic Kernel、Microsoft.Extensions.AI
下一篇:agentdb
同类项目推荐
evadb
开源
用 SQL 方式调用 AI 模型,快速构建智能数据应用
Database system for AI-powered apps
plano
开源
为智能体应用打造的高性能 AI 原生网关,一键搞定路由、监控与安全。
Plano is an AI-native proxy server and data plane for agentic apps. Smart LLM routin···
stable-diffusion-k8s
开源
在 Kubernetes 上快速部署 Stable Diffusion 推理服务
⚡Instant Stable Diffusion on k8s(Kubernetes) with Helm
gateway
开源
本地统一调用 200+ 大模型,告别接口碎片化
The only fully local production-grade Super SDK that provides a simple, unified, and···
seldon-core
开源
K8s 上大规模部署、监控和管理生产级 ML 模型
An MLOps framework to package, deploy, monitor and manage thousands of production ma···
rampart
开源
给 AI 代理装上防火墙,控制它们在你电脑上的一举一动。
Open-source firewall for AI agents. Policy engine that audits and controls what Open···
magnitude
开源
按你的硬件自动调内核,本地跑模型更快
Open source inference engine that tunes its kernels on your hardware to find the fas···
openllmetry
开源
用 OpenTelemetry 一键监控你的大模型应用,看清每次调用和成本。
Open-source observability for your GenAI or LLM application, based on OpenTelemetry
chitu
开源
让大模型推理更快更省,轻松部署高并发服务
High-performance inference framework for large language models, focusing on efficien···
