llm 第 6 页

本站收录 3432 个带「llm」标签的 AI 开源项目（按 GitHub 星标从高到低，第 6 / 69 页）

llama-gptllama-gpt 是一个完全自托管的离线聊天机器人，由 Llama 2 模型驱动，提供类似 ChatGPT 的交互体验。它解决了用户在使用云端 AI 服务时对★ 10,920HorizonHorizon 是一个基于 AI 的个性化新闻聚合与简报生成工具，旨在解决信息过载问题。它通过爬取和订阅多种新闻源，利用大语言模型对内容进行智能筛选、摘要和分类★ 10,874voltagentvoltagent 是一个基于 TypeScript 的开源 AI Agent 工程平台，旨在帮助开发者构建、部署和管理复杂的 AI 智能体。它解决的核心问题是★ 10,846mistral-inferencemistral-inference 是 Mistral AI 官方发布的推理库，用于加载和运行 Mistral 系列大语言模型。它解决了开发者在使用 Mistr★ 10,820awesome-free-llm-apis这是一个收录永久免费的大语言模型（LLM）API接口的精选列表，旨在帮助开发者在不花费成本的情况下获取可用的API密钥。项目解决了开发者寻找免费、稳定、可长期使★ 10,760aichataichat 是一个用 Rust 编写的全能型 LLM 命令行工具，旨在将多种 AI 能力整合到一个统一的终端界面中。它解决了开发者在不同 AI 服务（如 Op★ 10,504runanywhere-sdksrunanywhere-sdks 是一个面向生产环境的 C++ 工具包，旨在让 AI 模型在本地设备上高效运行。它解决了云端推理带来的延迟、隐私和成本问题，提供★ 10,331PandaWikiPandaWiki 是一个基于 AI 大模型的开源知识库搭建系统，旨在帮助用户快速构建智能化的产品文档、技术文档、FAQ 和博客系统。它利用大模型的能力，提供 ★ 10,328metaflowNetflix 开源的 AI/ML 系统构建与管理框架，帮助开发者轻松编写、运行和部署机器学习流水线。它提供了简洁的 Python API，支持本地开发与云端规★ 10,309astridAstrid 是一个用 Rust 编写的可移植、具备能力安全（capability-secure）的操作系统，专为可组合软件设计。它基于微内核架构，利用 Web★ 10,282InternVLInternVL 是一个开源的多模态对话模型家族，旨在成为 GPT-4o 的开源替代方案，在 CVPR 2024 上获得 Oral 论文。它解决了开源社区缺乏高★ 10,167read-frog陪读蛙（Read Frog）是一个基于TypeScript构建的开源语言学习与翻译工具，旨在通过沉浸式阅读帮助用户提升外语能力。它解决了传统语言学习软件缺乏真实★ 10,120UFOUFO³是一个面向多智能体协作的数字代理框架，旨在解决复杂任务中单一模型能力受限的问题。它通过将多个专业化的AI代理编织成一个协作网络，模拟人类团队的工作方式，★ 10,076caiCAI（Cybersecurity AI）是一个面向AI安全领域的开源框架，旨在为网络安全场景提供标准化的人工智能能力集成方案。它解决了安全团队在构建AI驱动防★ 9,842PowerInferPowerInfer 是一个面向本地部署的高速大语言模型推理引擎，专注于在消费级硬件上实现接近服务器级的推理速度。它通过利用大语言模型推理中的高稀疏性（即神经元★ 9,840seatunnelSeaTunnel（原名Waterdrop）是一个高性能、分布式、海量数据集成工具，支持多模态数据同步。它解决了传统数据同步工具在异构数据源间传输效率低、配置复★ 9,737inferenceXinference 是一个统一推理引擎，旨在解决多模型部署与调用碎片化问题。它允许开发者通过修改一行代码，将 GPT 替换为任何开源大语言模型、语音模型或多模★ 9,618awesome-langchain这是一个精选的 LangChain 生态资源清单，汇集了基于 LangChain 框架构建的工具、项目、教程和集成。它解决了开发者面对庞大且快速迭代的 Lang★ 9,571SoupSoup 是一个用于微调大语言模型（LLM）的开源工具，它通过一个 YAML 配置文件即可完成整个微调流程，极大简化了操作。其核心亮点是采用“层流式训练”（La★ 9,458bamlBAML 是一种专为构建 AI 智能体而设计的编程语言，旨在解决传统 Prompt 工程中代码与提示词混杂、难以维护和调试的问题。它通过类型安全的声明式语法，让★ 9,425XianyuAutoAgentXianyuAutoAgent 是一个专为闲鱼平台设计的 AI 客服机器人系统，旨在解决个人卖家和小型商家在闲鱼上无法实时值守、回复不及时、议价效率低等问题。它★ 9,424anomaly-detection-resources这是一个异常检测领域的精选资源清单，汇集了书籍、论文、视频和工具箱，覆盖从经典统计方法到深度学习、大语言模型（LLM）和视觉语言模型（VLM）的最新进展。项目持★ 9,419oumioumi 是一个专注于开源大语言模型（LLM）微调、评估和部署的全流程工具包。它旨在简化从模型选择到生产部署的复杂流程，支持 Qwen、Gemma、Llama ★ 9,409deeplake面向 AI Agent 的数据运行时，提供无服务器 PostgreSQL 与多模态数据湖，支持大规模数据的高效检索与训练。开发者可以像使用数据库一样管理图像、文★ 9,255kimi-k3-in-ckimi-k3-in-c 是一个用纯 C99 语言实现的 Kimi K3 模型推理引擎，它声称能在单颗 CPU 上、仅用 8.24 GB 内存运行一个 2.78★ 9,126awesome-LLM-resources这是一个精选的LLM（大语言模型）资源合集，汇总了全球范围内关于多模态生成、Agent、辅助编程、AI审稿、数据处理、模型训练与推理、o1模型、MCP、小语言模★ 9,029transformer-explainer这是一个通过交互式可视化帮助人们理解大语言模型（LLM）中Transformer架构的教育项目。它针对Transformer模型难以理解、内部机制复杂的问题，将★ 9,017rigrig 是一个用 Rust 构建模块化、可扩展 LLM 应用的框架，旨在解决 Rust 生态中缺乏成熟 LLM 开发工具的问题。它提供统一的接口来接入多种主流大★ 8,926astron-agentastron-agent 是一个企业级、可商用的智能体工作流平台，旨在帮助开发者构建下一代 SuperAgents。它基于 Java 技术栈，提供了一套完整的工★ 8,918BentoML以最简单的方式部署 AI 应用与模型的开源框架，支持构建模型推理 API、任务队列、LLM 应用与多模型流水线。它提供了标准化的服务化流程、容器化打包与云原生扩★ 8,912adk-goadk-go 是一个基于 Go 语言的开源 AI Agent 开发工具包，采用代码优先的设计理念，帮助开发者构建、评估和部署复杂的 AI 代理。它解决了 Go ★ 8,896harness-sdkharness-sdk 是一个开源的 AI 智能体开发工具包，支持 Python 和 TypeScript，旨在帮助开发者构建生产级的 AI 智能体，并实现端到★ 8,873OperitOperit 是一款运行在 Android 平台上的 AI Agent 与 AI 聊天软件，主打“能力最强”与“发展最久”。它基于 Kotlin 开发，旨在将大★ 8,849ipex-llmipex-llm 是英特尔推出的开源工具库，旨在加速本地大语言模型（LLM）的推理和微调。它支持在 Intel XPU（包括集成显卡、独立显卡如 Arc/Fle★ 8,846Bert-VITS2Bert-VITS2 是一个基于 VITS2 架构、引入多语言 BERT 特征的开源语音合成（TTS）项目。它解决了传统端到端 TTS 模型在多语言、多说话人场★ 8,804figures4papersfigures4papers 是一套用于生成学术论文出版级图表的 Python 脚本集合，主要面向人工智能领域的顶级会议和期刊投稿场景。它解决了科研人员在论文写★ 8,753TypeChatTypeChat 是一个基于 TypeScript 的库，旨在简化自然语言接口的构建。它利用类型（types）作为约束，将用户的自由文本输入转换为结构化的、类型★ 8,693mcp-agentmcp-agent 是一个基于 Python 的框架，用于构建高效 AI 智能体。它利用 Model Context Protocol (MCP) 作为标准接口★ 8,571bitsandbytesbitsandbytes 是一个为 PyTorch 提供 k-bit 量化支持的开源库，旨在让大语言模型（LLM）的部署和微调更加高效、可访问。它解决了大模型显★ 8,528git-mcpGitMCP 是一个免费开源的远程 MCP（模型上下文协议）服务器，专为 GitHub 项目设计，旨在解决 AI 编程助手因缺乏最新代码上下文而产生的“代码幻觉★ 8,472GenieXGenieX 是一个专为高通设备设计的开源推理引擎，旨在让开发者通过几行代码即可在本地运行前沿的大语言模型（LLM）和视觉语言模型（VLM）。它充分利用高通芯片★ 8,449deep-searcherdeep-searcher 是一个开源的深度研究工具，旨在替代商业深度研究服务，专注于在私有数据上进行推理和搜索。它用 Python 编写，核心解决的是如何让用★ 8,349optimateoptimate 是一个专注于优化 AI 模型性能的 Python 库集合，旨在帮助开发者和研究人员在不改变模型结构的前提下，通过量化、剪枝、蒸馏等压缩技术，显★ 8,328LLM-Agent-Paper-List这是一个关于大语言模型智能体（LLM Agent）的论文清单，源自一篇发表在《中国科学：信息科学》封面上的86页综述论文《The Rise and Potent★ 8,253GPTCacheGPTCache 是一个面向大语言模型（LLM）的语义缓存工具，核心解决 LLM 推理成本高、响应慢的问题。它通过缓存相似的查询结果，让重复或相近的请求直接命中★ 8,213AIHOTAIHOT 是一个可自托管的行业热点聚合与日报生成框架，用 TypeScript 编写。它解决的是信息过载下人工筛选热点耗时的问题：自动抓取 RSS 等信源，借★ 8,172lmdeployLMDeploy 是一个专为大语言模型（LLM）设计的压缩、部署和服务工具包。它解决了 LLM 在实际生产环境中推理速度慢、显存占用高、部署复杂等核心问题。其核★ 8,108osaurusosaurus 是一个专为 macOS 打造的 AI 智能体原生运行环境，旨在让用户完全掌控自己的 AI。它支持接入任意模型，提供持久化记忆、自主执行任务和加密★ 8,056search_with_leptonsearch_with_lepton 是一个基于 Lepton AI 构建的对话式搜索演示项目，旨在快速搭建具备自然语言交互能力的搜索应用。它解决了传统关键词搜★ 8,053evidentlyEvidently 是一个开源的机器学习和大型语言模型可观测性框架，用于评估、测试和监控任何 AI 驱动的系统或数据管道，覆盖从表格数据到生成式 AI 的广泛场★ 7,999

相关标签

ai2792ai-agents1975rag1205mcp1424openai1221python1570agent887large-language-models1059claude980ai-agent1217claude-code1441chatgpt1296