qwen3
本站收录 22 个带「qwen3」标签的 AI 开源项目
vllm面向 LLM 的高吞吐、内存高效的推理与 serving 引擎，支持 PagedAttention 等核心技术，是大规模模型部署与在线服务的事实标准之一。★ 92,945
MaxKB强大易用的开源企业级智能体平台。开箱即用，提供知识库管理、智能问答与 Agent 编排能力，帮助企业快速构建私有化的 AI 助手应用，显著提升知识服务效率。★ 22,895
ms-swiftms-swift 是魔搭社区推出的国产大模型全流程训练与部署工具，旨在解决开发者微调大模型时面临的框架割裂、上手门槛高、多模态支持不足等痛点。它支持从增量预训练★ 15,754
ARTART（Agent Reinforcement Trainer）是一个面向真实世界多步骤任务的开源强化学习训练框架，专注于使用GRPO算法对智能体进行在线训练。★ 10,781
GenieXGenieX 是一个专为高通设备设计的开源推理引擎，旨在让开发者通过几行代码即可在本地运行前沿的大语言模型（LLM）和视觉语言模型（VLM）。它充分利用高通芯片★ 8,406
deep-searcherdeep-searcher 是一个开源的深度研究工具，旨在替代商业深度研究服务，专注于在私有数据上进行推理和搜索。它用 Python 编写，核心解决的是如何让用★ 8,289
SidekickSidekick 是一款原生 macOS 应用，让你无需安装任何额外软件，就能在本地与 LLM 对话，并让它基于你 Mac 上的文件、文件夹和网页内容来回答。它★ 3,315
WhisperJAVWhisperJAV 是一个面向日语成人视频（JAV）场景的自动语音识别（ASR）与字幕生成工具。它解决了通用语音识别模型在噪声环境、多人对话、特殊语气词等场景★ 2,287
image-multiple-angles-3d-camera这是一个基于 Three.js 和 Gradio 构建的 3D 交互式图像生成工具，允许用户通过拖拽 3D 空间中的相机或调整滑块（方位角、仰角、距离）来自由控★ 1,016
AutomodelAutomodel 是一个基于 PyTorch 分布式原生的 LLM/VLM 训练库，目标是让大模型微调像调用 Hugging Face 一样简单。它直接兼容 ★ 985
MimikaStudioMimikaStudio 是一款面向 macOS（Apple Silicon）的本地优先应用，专注于音频书转换与管理，并集成了 Agentic MCP（模型上下★ 741
halogen-flash-serverhalogen-flash-server 是一个面向 AMD Strix Halo（gfx1151）平台的本地大模型推理部署脚本，目标是让用户以最快速度在搭载该★ 729
pegainferpegainfer 是一个用纯 Rust 编写的 LLM 推理引擎，底层直接调用 CUDA 内核，不依赖 PyTorch 或任何 Python 运行时。它解决的★ 712
CraneCrane 是一个基于纯 Rust 构建的 LLM、VLM、VLA、TTS、OCR 推理引擎，底层依赖 Candle 框架。它的目标是成为 llama.cpp ★ 485
LLM-TPULLM-TPU 是一个面向算能（Sophgo）BM1684X 和 BM1688 系列 TPU 芯片的开源推理项目，旨在让生成式 AI 模型（如大语言模型）直接运★ 311
hud-pythonhud-python 是一个为 AI 智能体提供强化学习环境和评估工具的开源项目。它旨在解决智能体训练中环境定义和评估标准不统一的问题，允许开发者定义一次环境，★ 304
grps_trtllmgrps_trtllm 是一个基于 TensorRT-LLM 和 C++ 实现的高性能 OpenAI 兼容 LLM 服务框架，旨在解决 vLLM 在高并发、低延★ 161
qwen3-tts-rsqwen3-tts-rs 是一个用 Rust 实现的 Qwen3-TTS 语音合成引擎，基于 Candle 机器学习框架，将通义千问的 TTS 模型能力移植到 ★ 147
stt-serverstt-server 是一个用 Python 编写的实时语音转文字 WebSocket 服务，目标是把 ASR 能力以流式接口暴露给前端或后端应用。它通过可插拔★ 107
pasllmPasLLM 是一个用 Object Pascal 编写的 LLM 推理引擎，支持在 Delphi、Free Pascal 和 Lazarus 环境中运行。它旨★ 105
gguf-loadergguf-loader 是一个专注于本地离线运行大语言模型的开源工具，旨在简化 GGUF 格式模型的加载与管理。它解决了普通用户在使用 Ollama、llama★ 69
qwen_cli_coderqwen_cli_coder 是 Google Gemini CLI 的社区分支，专为阿里云 Qwen 模型打造的命令行编程助手。它解决开发者在使用 Qwen ★ 61