llms 第 5 页

本站收录 394 个带「llms」标签的 AI 开源项目（按 GitHub 星标从高到低，第 5 / 8 页）

SepLLMSepLLM 是一个针对大语言模型推理加速的开源项目，核心思想是将输入序列中的连续片段压缩为单个分隔符（separator），从而显著减少 KV 缓存大小和注意★ 572Multi-Modality-ArenaMulti-Modality-Arena 是一个基于 Gradio 构建的多模态模型评测平台，灵感来自 Chatbot Arena，但专注于视觉-语言模型（VL★ 566LinearRAGLinearRAG 是一个面向大规模语料库的线性图检索增强生成（RAG）框架，其论文被 ICLR 2026 接收。它旨在解决传统 RAG 系统在处理海量文本时检★ 563agent-searchAgentSearch 是一个用于构建搜索代理（search agents）的 Python 框架，旨在让开发者能够轻松地将自定义搜索能力集成到 AI 代理中。★ 561ragbook-notebooksragbook-notebooks 是《Building LLMs for Production》一书的配套代码仓库，由 Towards AI 团队维护。该项目★ 559Agent4SE-Paper-ListAgent4SE-Paper-List 是一个与综述论文《Large Language Model-Based Agents for Software Engi★ 558python-sdkpython-sdk 是一个让 AI 直接操控桌面、移动端和 HMI 人机交互界面的开源工具包。它解决的是 AI 代理（Agent）无法像人一样操作 GUI 应★ 556vllm-playgroundvllm-playground 是一个面向 vLLM 推理服务器的现代化 Web 管理界面。vLLM 本身是高性能 LLM 推理引擎，但日常使用往往要敲命令行、★ 541awesome-llms-fine-tuning这是一个关于大语言模型微调的精选资源列表，汇集了教程、论文、工具和最佳实践。它旨在帮助机器学习从业者和研究人员快速找到微调LLM所需的各种资料，从基础概念到高级★ 533examplesCerebrium 是一个无服务器 GPU 平台，这个名为 examples 的仓库是它的官方示例集合，包含多种机器学习工作负载的部署代码，如 Stable D★ 529mcp-hubmcp-hub 是一个集中管理 Model Context Protocol (MCP) 服务器的工具，旨在解决多 MCP 服务器配置分散、管理困难的问题。它提★ 522aqueductAqueduct 是一个已停止维护的开源基础设施项目，旨在帮助用户在任意云基础设施上运行大语言模型（LLM）和机器学习（ML）工作负载。它通过提供统一的接口和编★ 518Static-to-Dynamic-LLMEvalStatic-to-Dynamic-LLMEval 是论文《Recent advances in large language model benchmarks★ 493Agentic-AI-Systems这是一个面向构建生成式AI智能体与智能体系统的实用资源库，聚焦系统设计、工具链和动手实践。它解决的是开发者从零搭建智能体时缺乏系统性参考的问题，提供架构模式、代★ 491agencyagency 是一个快速且极简的 Python 框架，用于构建智能体系统。它基于 actor 模型设计，旨在让开发者以轻量、高效的方式创建和管理多个 AI 智能★ 488prompt-decoratorsPrompt Decorators 是一个通过结构化前缀（如 +++Reasoning、+++StepByStep）来增强 AI 响应质量的创新项目。它借鉴了 ★ 481talking-avatar-with-ai这是一个基于浏览器运行的AI数字人对话项目，能够实现语音交互和实时口型同步。它通过OpenAI的GPT模型生成对话内容，Whisper进行语音识别，Eleven★ 471always-accompanyalways-accompany 是一个基于上下文和注意力机制的多元化 AI Agent 项目，旨在将陪伴、聊天、编程和工作任务统一到一个共享的记忆与上下文框架★ 470TPATPA（Tensor ProducT ATTenTion）是一个NeurIPS 2025 Spotlight论文的开源实现，提出了一种新型注意力机制，旨在替代标★ 464synalinkssynalinks 是一个基于图的、可编程的神经符号语言模型框架，旨在用最少的代码将想法快速转化为生产级应用。它融合了符号推理与神经网络，借鉴了深度学习领域十年★ 464Awesome-RAG-ReasoningAwesome-RAG-Reasoning 是一个聚焦于检索增强生成（RAG）与推理能力交叉领域的资源清单，收录了 EMNLP 2025 相关的前沿论文、数据集★ 461GPTRouterGPTRouter 是一个面向多 LLM 与图像模型统一管理的开源基础设施，用 TypeScript 编写。它解决了企业在同时接入 OpenAI、Anthrop★ 454mlx-embeddingsMLX-Embeddings 是一个专为 Mac 用户设计的本地嵌入模型运行工具，基于 Apple 的 MLX 框架，支持在本地运行视觉和语言嵌入模型。它解决了★ 449nexusnexus 是一个用 Rust 编写的开源 AI 治理与安全平台，旨在帮助企业管理和保护其 AI 系统。它解决的是 AI 部署中缺乏统一治理、安全策略难以落地的★ 436graphrag-visualizergraphrag-visualizer 是一个基于 Web 的可视化工具，专门用于展示和探索微软 GraphRAG 框架生成的各类工件（artifacts）。G★ 428OlympusOlympus 是一个面向计算机视觉任务的通用任务路由器，由 CVPR 2025 Highlight 论文官方开源。它旨在解决多模态大模型（如 LLaVA）在处★ 427chonkychonky 是一个基于全神经网络的文本分块（text chunking）工具，旨在解决传统基于规则或统计方法在文本分割上的局限性。它利用深度学习模型自动学习文★ 421riggingrigging 是一个轻量级 LLM 交互框架，基于 Python 和 pydantic 构建，底层通过 litellm 统一对接多家模型服务。它要解决的问题是★ 421Awesome-LLM-Prompt-Optimization这是一个精选列表，汇总了大型语言模型（LLM）中先进的提示词优化与调优方法。项目旨在解决提示词工程依赖人工经验、效率低且效果不稳定的问题，系统整理了自动提示优化★ 420llm-consortiumllm-consortium 是一个用 Python 编写的多模型协同推理框架，核心思路是让多个 LLM 并行回答同一问题，再通过多轮迭代让它们互相审阅、修正并★ 409The_Prompt_ReportThe_Prompt_Report 是一个系统化评估和优化 LLM 提示词（Prompt）的开源工具，以 HTML 单页应用形式呈现，基于 Prisma 等技术★ 400feeds.funfeeds.fun 是一个基于 Python 的开源新闻阅读器，核心特色是结合标签分类、智能评分和 LLM（大语言模型）来过滤和推荐内容。它解决的是传统 RSS★ 395fuzi.mingcha夫子·明察司法大模型是山东大学、浪潮云和中国政法大学联合研发的中文司法领域大模型，以ChatGLM为底座，通过海量无监督司法语料和有监督微调数据训练而成。它解决★ 395llms这是一个以 Jupyter Notebook 形式组织的开源学习仓库，系统讲解大语言模型（LLM）的理论与实践。内容覆盖从深度学习基础、Transformer ★ 394llms_paper这是一个面向大语言模型（LLM）算法工程师的论文研读笔记仓库，系统整理了多模态、参数高效微调（PEFT）、小样本问答、检索增强生成（RAG）、多模态大模型可解释★ 392llms-from-scratch这是一个从零开始用 PyTorch 构建类 ChatGPT 大语言模型的教学项目，通过 Jupyter Notebook 逐步讲解每个实现细节。它解决的是初学者★ 385llm-inference-engineeringllm-inference-engineering 是一份面向工程师的 LLM 推理工程学习路线，用 Markdown 组织成循序渐进的知识体系。它解决的是「会★ 374chonkiejsChonkie 是一个轻量级、类型友好的文本分块（chunking）库，专为处理长文本而设计。它解决了在构建 RAG（检索增强生成）或向量搜索应用时，如何将长文★ 368deep-delta-learningDeep Delta Learning 是一个开源模型项目，源自 arXiv 论文，旨在通过深度学习方法学习数据或模型之间的“增量”（delta）信息，以提升学★ 364Scientific-LLM-SurveyScientific-LLM-Survey 是一份关于科学领域大语言模型的系统性综述，聚焦生物与化学两大核心领域。项目以论文形式梳理了LLM在分子表示、蛋白质结★ 360generative-ai-application-builder-on-aws这是一个AWS官方推出的生成式AI应用构建框架，旨在降低生成式AI应用开发门槛。它提供了一套完整的解决方案，包括与Amazon Bedrock的深度集成，支持A★ 357rag-all-in-onerag-all-in-one 是一个专注于检索增强生成（RAG）应用构建的指南型开源项目。它旨在解决开发者在搭建 RAG 系统时面临的碎片化知识、架构选择困难等★ 350home-generative-agent这是一个为 Home Assistant 打造的生成式 AI 智能体，旨在让用户通过自然语言与智能家居交互。它解决了传统自动化配置复杂、摄像头监控被动等问题，核★ 348datablationsdatablations 是一个研究数据受限条件下语言模型扩展规律的开源项目，由 Hugging Face 的研究人员发布。它通过系统的实验，探究当训练数据量有★ 348syftrsyftr 是一个面向 AI 代理（agent）工作流的优化器，旨在帮助开发者在预算约束下找到性价比最高的代理配置。它通过系统化评估不同代理工作流的性能与成本，★ 345awesome-synthetic-datasets这是一个精选合成文本数据集和生成工具的资源列表，旨在帮助AI开发者解决真实数据获取难、成本高、隐私风险大等问题。项目系统梳理了各类合成数据资源，包括通用指令数据★ 343reflex-chatreflex-chat 是一个基于 Reflex 框架构建的 ChatGPT 克隆应用，主要面向开发者提供快速搭建类 ChatGPT 对话界面的参考实现。它解决★ 342llms-from-scratch-rs这是 Sebastian Raschka《Build an LLM from Scratch》一书代码的 Rust 语言移植版本，用 candle 深度学习框架★ 339BackdoorLLMBackdoorLLM 是一个面向大语言模型后门攻击与防御的综合基准测试平台，入选 NeurIPS 2025。它解决的核心问题是：现有 LLM 后门研究缺乏统一★ 334Hyper-RAGHyper-RAG 是一个基于超图驱动的检索增强生成（RAG）框架，旨在解决大语言模型（LLM）的幻觉问题。传统 RAG 方法通常依赖简单的向量相似度检索，忽略★ 330

相关标签

llm3432ai2792large-language-models1059rag1205agents568openai1221python1570chatgpt1296generative-ai568agent887ai-agents1975machine-learning904