mistral
本站收录 72 个带「mistral」标签的 AI 开源项目（按 GitHub 星标从高到低，此处展示前 50 个）
ollama最流行的本地大模型运行工具，用 Go 编写，一条命令即可在本地跑起 Kimi、DeepSeek、Qwen、Gemma、GLM 等主流开源模型，无需复杂配置，兼顾★ 181,923
OpenLLM让任意开源 LLM（如 DeepSeek、Llama）一键以 OpenAI 兼容的 API 形式部署到云端的工具。它屏蔽了模型服务化的复杂度，提供标准化的推理接★ 12,548
ludwigLudwig 是一个基于 Python 的低代码机器学习框架，旨在让开发者无需编写大量底层代码即可构建、训练和部署定制化的大语言模型、神经网络及其他 AI 模型★ 11,771
awesome-LLM-resources这是一个精选的LLM（大语言模型）资源合集，汇总了全球范围内关于多模态生成、Agent、辅助编程、AI审稿、数据处理、模型训练与推理、o1模型、MCP、小语言模★ 8,991
FireflyFirefly 是一个开源的大模型训练工具，专注于高效微调和训练各类主流大语言模型。它解决了开发者在使用不同模型架构时训练流程不统一、配置复杂的问题，提供了一套★ 6,653
Liger-KernelLiger-Kernel 是 LinkedIn 开源的一套面向大语言模型训练的 Triton 内核集合，目标是解决 LLM 微调与训练中显存占用高、计算效率低的★ 6,636
enchantedEnchanted 是一款专为 iOS 和 macOS 设计的原生聊天应用，旨在让用户通过 Ollama 与本地托管的开源大语言模型（如 Llama2、Mist★ 6,006
agentopsAgentOps 是一个面向 AI 智能体（Agent）的 Python 监控与可观测性 SDK，旨在解决 LLM 应用开发中调试困难、成本不可控、性能难以评估★ 5,847
lemonadeLemonade 是一个面向本地 AI 应用的开源推理引擎，旨在让用户直接在自己的 GPU 和 NPU 上运行优化后的大语言模型。它解决了云端 AI 带来的隐私★ 5,797
lsp-aiLSP-AI 是一个基于 Rust 的开源语言服务器，作为 AI 驱动功能的通用后端，旨在辅助而非替代软件工程师。它解决了开发者在编辑器中难以统一接入多种 AI★ 3,209
paperless-gptpaperless-gpt 是一个将大语言模型（LLM）和视觉模型（OCR）能力接入 paperless-ngx 文档管理系统的开源工具。它解决的是 paper★ 2,719
maidMaid 是一款免费开源的 AI 对话助手应用，主要面向移动端（Android），同时也支持桌面端。它解决了用户在不同 AI 模型服务之间切换的痛点，既能本地连★ 2,710
xTuringxTuring 是一个面向个人和团队的开源大语言模型（LLM）个性化工具，旨在简化从数据预处理到模型微调的全流程。它解决了普通开发者难以快速上手 LLM 微调的★ 2,675
papersgpt-for-zoteroPapersGPT for Zotero 是一款专为 Zotero 文献管理工具打造的 AI 对话与 MCP 插件，旨在解决科研人员在阅读和管理文献时信息获取效★ 2,662
eliaElia 是一个基于终端的用户界面（TUI），专为与大型语言模型交互而设计。它解决了在终端环境中高效、便捷地使用多种 AI 模型的问题，无需离开命令行即可进行对★ 2,479
TranslateBooksWithLLMsTranslateBooksWithLLMs 是一个利用大语言模型进行长文档和书籍翻译的开源工具。它解决了传统机器翻译在长篇内容上质量不佳、格式易乱、无法断点续★ 2,449
maxtextMaxText 是一个基于 JAX 构建的高性能、可扩展的大型语言模型（LLM）训练与推理框架，由 Google 开源。它旨在解决训练超大规模模型时面临的复杂性★ 2,433
kalosmkalosm 是一个用 Rust 编写的本地预训练 AI 模型推理框架，旨在让开发者能够以极低的延迟和完全可控的方式在本地运行大语言模型、语音识别和图像生成等模★ 2,229
OnnxStreamOnnxStream 是一个轻量级的 ONNX 推理库，用 C++ 编写，专为资源受限环境设计。它解决了在低内存、低算力设备（如树莓派 Zero 2）上运行大型★ 2,089
OllamacOllamac 是一款专为 macOS 打造的 Ollama 客户端应用，用 Swift 原生开发。它解决的是在 Mac 上使用本地大语言模型时缺乏友好图形界面★ 1,911
dialoqbaseDialoqbase 是一个基于 TypeScript 构建的开源聊天机器人创建平台，旨在让开发者能够轻松构建、部署和管理基于大语言模型的对话应用。它解决了从零★ 1,790
RisuaiRisuai 是一款基于 Tauri 和 TypeScript 构建的桌面应用，专为 LLM 角色扮演场景设计。它解决了现有 AI 聊天工具在角色扮演体验上的不★ 1,701
ai-dev-galleryai-dev-gallery 是一个面向 Windows 开发者的开源示例项目集合，旨在帮助开发者学习如何将本地 AI 模型和云端 API 集成到 Window★ 1,504
nextjs-ollama-llm-ui这是一个基于 Next.js 14 和 Ollama 的本地大语言模型 Web 界面，旨在为 Ollama 提供开箱即用的全功能聊天交互体验。它解决了 Olla★ 1,425
generative-ai-use-casesgenerative-ai-use-cases 是一个基于 AWS 和 Amazon Bedrock 的生成式 AI 应用实现集合，旨在帮助企业安全地将生成式 ★ 1,388
modelfusionModelFusion 是一个用于构建 AI 应用的 TypeScript 库，旨在为开发者提供一套统一、类型安全的接口来集成多种大语言模型（LLM）、嵌入模型★ 1,319
airunnerAirunner 是一个面向桌面端的离线 AI 推理引擎，集成了图像生成、实时语音对话、LLM 聊天机器人和自动化工作流。它解决的是用户对 AI 工具隐私和本地★ 1,316
search2aisearch2ai 是一个让大语言模型具备联网搜索能力的开源工具，核心解决 LLM 知识截止和无法获取实时信息的问题。它通过 Function Calling ★ 1,280
HexabotHexabot 是一个开源的 AI 工作流自动化平台，它将工作流、动作、智能体和对话渠道整合在同一个运行时中。它旨在解决企业构建复杂对话式 AI 应用时面临的集★ 1,266
web-llm-chatweb-llm-chat 是一个基于 Next.js 和 TypeScript 构建的浏览器端 AI 对话助手，它利用 WebLLM 技术将大语言模型（如 Ll★ 1,111
poe-api-wrapperpoe-api-wrapper 是一个针对 Poe.com 的 Python API 封装库，让开发者无需付费即可调用 GPT-4、Claude、Llama、G★ 1,092
chatdchatd 是一个让用户通过本地 AI 与文档进行对话的开源工具。它解决了传统文档检索效率低、信息查找不便的问题，允许用户直接以自然语言提问，从本地文档中获取精★ 1,079
AutomodelAutomodel 是一个基于 PyTorch 分布式原生的 LLM/VLM 训练库，目标是让大模型微调像调用 Hugging Face 一样简单。它直接兼容 ★ 985
ai-commits-intellij-pluginAI Commits 是一款面向 IntelliJ 系 IDE（含 Android Studio）的插件，利用大语言模型自动生成符合规范的 Git 提交信息。它★ 859
llamafarmllamafarm 是一个面向 AI 应用的一站式部署工具，旨在让用户能够在几分钟内将任意 AI 模型、智能体、数据库、RAG 流水线等部署到本地或远程环境。它★ 837
llmcordllmcord 是一个将 Discord 变成大语言模型前端的开源项目。它解决了用户在 Discord 中直接调用多种 LLM 服务的问题，无需切换多个应用。核★ 836
voxtral-mini-realtime-rs这是一个用 Rust 实现 Mistral Voxtral mini 实时语音识别（ASR）和语音合成（TTS）的开源项目，基于 Burn 机器学习框架，支持本★ 823
Azure-AIGEN-demosAzure-AIGEN-demos 是微软官方维护的 Azure AI Foundry 示例集，包含演示、文档和加速器，旨在帮助开发者快速上手 Azure Op★ 755
ComfyUI-IF_AI_toolsComfyUI-IF_AI_tools 是一组为 ComfyUI 设计的自定义节点，通过 Ollama 调用本地大语言模型（LLM）来生成和优化图像生成提示词。★ 700
rag-chatbotrag-chatbot 是一个基于 RAG（检索增强生成）技术的本地 PDF 对话工具，允许用户直接与多个 PDF 文档进行自然语言交互。它解决了传统 PDF ★ 688
DevoxxGenieIDEAPluginDevoxxGenie 是一个面向 IntelliJ IDEA 的智能体插件，旨在帮助开发者通过本地或云端大语言模型（LLM）来审查、测试和解释项目代码。它支持★ 683
END-TO-END-GENERATIVE-AI-PROJECTS这是一个汇集端到端生成式AI行业项目的开源仓库，专注于大语言模型（LLM）的完整落地流程，从数据准备、模型微调、推理优化到部署上线。项目旨在为开发者提供可直接参★ 635
embedJsembedJs 是一个基于 Node.js 的 RAG（检索增强生成）框架，旨在简化 LLM 与嵌入模型（Embedding）的集成工作。它解决了开发者在构建 ★ 601
LLM-HubLLM-Hub 是一个本地 AI 助手，专注于图像生成领域，但实际覆盖多模态能力。它基于 C++ 构建，集成多种主流大语言模型（如 Gemma、Llama、Mi★ 601
aikitaikit 是一个面向开源大语言模型的轻量级工具链，旨在简化 LLM 的微调、构建和部署流程。它解决了开发者在使用开源模型（如 Llama、Gemma 等）时面★ 539
aicommit2aicommit2 是一个响应式命令行工具，专为 Git 和 Jujutsu 版本控制系统自动生成提交信息。它解决开发者写提交信息耗时、格式不统一的问题，通过接★ 526
ollama-voice-macollama-voice-mac 是一个为 Mac 用户打造的语音对话助手，让你通过语音与本地运行的 Ollama 大语言模型自然交流。它解决了在 Mac 上使★ 519
prompt-cacheprompt-cache 是一个用 Go 编写的 LLM 代理，通过智能语义缓存将 LLM 调用成本降低最多 80%，并实现亚毫秒级响应。它作为即插即用的中间层★ 409
PocketRisuPocketRisu 是一个自托管的 AI 角色扮演聊天平台，从 Risuai 分叉而来，让你在自己的 PC 或私人服务器上运行。它专注于解决用户对隐私和数据控★ 363
picollmpicollm 是一个专注于设备端（on-device）大语言模型推理的开源项目，通过 X-Bit 量化技术实现高效的模型压缩与推理。它支持 Gemma、Lla★ 318