qwen3

本站收录 35 个带「qwen3」标签的 AI 开源项目

vllm面向 LLM 的高吞吐、内存高效的推理与 serving 引擎,支持 PagedAttention 等核心技术,是大规模模型部署与在线服务的事实标准之一。★ 96,952MaxKB强大易用的开源企业级智能体平台。开箱即用,提供知识库管理、智能问答与 Agent 编排能力,帮助企业快速构建私有化的 AI 助手应用,显著提升知识服务效率。★ 23,158ms-swiftms-swift 是魔搭社区推出的国产大模型全流程训练与部署工具,旨在解决开发者微调大模型时面临的框架割裂、上手门槛高、多模态支持不足等痛点。它支持从增量预训练★ 16,104ARTART(Agent Reinforcement Trainer)是一个面向真实世界多步骤任务的开源强化学习训练框架,专注于使用GRPO算法对智能体进行在线训练。★ 10,856GenieXGenieX 是一个专为高通设备设计的开源推理引擎,旨在让开发者通过几行代码即可在本地运行前沿的大语言模型(LLM)和视觉语言模型(VLM)。它充分利用高通芯片★ 8,527deep-searcherdeep-searcher 是一个开源的深度研究工具,旨在替代商业深度研究服务,专注于在私有数据上进行推理和搜索。它用 Python 编写,核心解决的是如何让用★ 8,395Awesome-LLM-InferenceAwesome-LLM-Inference 是一个面向大模型与多模态模型推理优化的论文与代码资源合集,系统整理了 Flash-Attention、Paged-A★ 5,558SidekickSidekick 是一款原生 macOS 应用,让你无需安装任何额外软件,就能在本地与 LLM 对话,并让它基于你 Mac 上的文件、文件夹和网页内容来回答。它★ 3,324HyperQwenHyperQwen 是一套面向消费级显卡的大模型推理优化方案,目标是在单张 24 GB 显存显卡上高效运行 Qwen3.8-27B 这类较大参数量的模型。项目基★ 2,715WhisperJAVWhisperJAV 是一个面向日语成人视频(JAV)场景的自动语音识别(ASR)与字幕生成工具。它解决了通用语音识别模型在噪声环境、多人对话、特殊语气词等场景★ 2,465halogen-flash-serverhalogen-flash-server 是一个面向 AMD Strix Halo(gfx1151)平台的本地大模型推理部署脚本,目标是让用户以最快速度在搭载该★ 1,353LLaVA-OneVision-2LLaVA-OneVision-2 是一个完全开源的多模态训练框架,目标是把视觉语言模型(VLM)的训练门槛降下来,让研究者和开发者不必依赖闭源配方也能复现和定★ 1,235AutomodelAutomodel 是一个基于 PyTorch 分布式原生的 LLM/VLM 训练库,目标是让大模型微调像调用 Hugging Face 一样简单。它直接兼容 ★ 1,083image-multiple-angles-3d-camera这是一个基于 Three.js 和 Gradio 构建的 3D 交互式图像生成工具,允许用户通过拖拽 3D 空间中的相机或调整滑块(方位角、仰角、距离)来自由控★ 1,005limelime 是一个用 TypeScript 编写、由大模型驱动的拼音输入法项目,目标是把传统拼音输入与 LLM 的语义理解能力结合起来。它解决的核心问题是:传统输★ 921llm-architecture-from-scratch这是一个用 PyTorch 从零实现主流大语言模型架构的教学型开源项目,目标不是训练可用的生产模型,而是帮助学习者亲手写出 LLaMA、Qwen、Gemma、M★ 856MimikaStudioMimikaStudio 是一款面向 macOS(Apple Silicon)的本地优先应用,专注于音频书转换与管理,并集成了 Agentic MCP(模型上下★ 752pegainferpegainfer 是一个用纯 Rust 编写的 LLM 推理引擎,底层直接调用 CUDA 内核,不依赖 PyTorch 或任何 Python 运行时。它解决的★ 742janasjanas 是一个纯 C 编写的本地大模型推理引擎,核心目标是让超出内存容量的模型也能在普通笔记本上高效运行。它通过把权重放在 NVMe 存储上并按需流式加载,★ 713slotstreamslotstream 是一个面向 Apple Silicon Mac 的原生本地大模型推理引擎,用 Swift 编写,基于 MLX 与 Metal 加速。它解决★ 673CraneCrane 是一个基于纯 Rust 构建的 LLM、VLM、VLA、TTS、OCR 推理引擎,底层依赖 Candle 框架。它的目标是成为 llama.cpp ★ 529qwen-tts-webuiqwen-tts-webui 是基于阿里 Qwen3 TTS 语音合成模型搭建的本地 Web 界面,用 Python 和 Gradio 实现,把命令行式的模型调★ 380strix-halo-guidestrix-halo-guide 是一份针对 AMD Strix Halo(GFX1151,如 Radeon 8060S)平台本地 AI 部署的实测指南与基准测★ 373AsrServeAsrServe 是一个可自托管的中文语音识别服务,把当前最强的开源 ASR 模型(如 Qwen3-ASR 系列)封装成开箱即用的推理后端,同时支持实时流式识别★ 361Nola-TranslatorNola-Translator 是一款基于 TypeScript 开发的轻量级实时语音翻译工具,面向需要跨语言沟通的场景。它把语音识别(ASR)与机器翻译串联成★ 342hud-pythonhud-python 是一个为 AI 智能体提供强化学习环境和评估工具的开源项目。它旨在解决智能体训练中环境定义和评估标准不统一的问题,允许开发者定义一次环境,★ 329LLM-TPULLM-TPU 是一个面向算能(Sophgo)BM1684X 和 BM1688 系列 TPU 芯片的开源推理项目,旨在让生成式 AI 模型(如大语言模型)直接运★ 323AesCodeAesCode 是一个面向「审美代码生成」的开源研究项目,目标是把自然语言提示词转成可编辑、可验证的 HTML/CSS 信息图,而不是直接输出一张不可修改的位图★ 281Breeze-TTS-2.cppBreeze-TTS-2.cpp 是一个用 C++ 实现的中英双语文本转语音推理项目,基于 ggml/GGUF 生态,模型权重以 GGUF 格式分发,便于在本地★ 183grps_trtllmgrps_trtllm 是一个基于 TensorRT-LLM 和 C++ 实现的高性能 OpenAI 兼容 LLM 服务框架,旨在解决 vLLM 在高并发、低延★ 161qwen3-tts-rsqwen3-tts-rs 是一个用 Rust 实现的 Qwen3-TTS 语音合成引擎,基于 Candle 机器学习框架,将通义千问的 TTS 模型能力移植到 ★ 150pasllmPasLLM 是一个用 Object Pascal 编写的 LLM 推理引擎,支持在 Delphi、Free Pascal 和 Lazarus 环境中运行。它旨★ 109stt-serverstt-server 是一个用 Python 编写的实时语音转文字 WebSocket 服务,目标是把 ASR 能力以流式接口暴露给前端或后端应用。它通过可插拔★ 106gguf-loadergguf-loader 是一个专注于本地离线运行大语言模型的开源工具,旨在简化 GGUF 格式模型的加载与管理。它解决了普通用户在使用 Ollama、llama★ 76qwen_cli_coderqwen_cli_coder 是 Google Gemini CLI 的社区分支,专为阿里云 Qwen 模型打造的命令行编程助手。它解决开发者在使用 Qwen ★ 60