llama3
本站收录 68 个带「llama3」标签的 AI 开源项目（按 GitHub 星标从高到低，此处展示前 50 个）
ollama最流行的本地大模型运行工具，用 Go 编写，一条命令即可在本地跑起 Kimi、DeepSeek、Qwen、Gemma、GLM 等主流开源模型，无需复杂配置，兼顾★ 181,923
LlamaFactory统一的 LLM 高效微调框架，支持 100+ 主流模型（LLM 与 VLM），集成 LoRA 等前沿技术，被 ACL 2024 收录，是微调领域最流行的开源工具★ 75,189
khoj可自托管的 AI 第二大脑，支持联网搜索与本地文档问答，能构建自定义智能体、定时自动化任务并进行深度研究。可将 GPT、Claude、Gemini、Llama、★ 37,537
self-llmself-llm 是一个面向中文用户的开源大模型教程项目，旨在帮助开发者快速上手国内外开源大模型（LLM）和多模态大模型（MLLM）的微调与部署。项目基于 Li★ 32,359
MaxKB强大易用的开源企业级智能体平台。开箱即用，提供知识库管理、智能问答与 Agent 编排能力，帮助企业快速构建私有化的 AI 助手应用，显著提升知识服务效率。★ 22,895
parlantParlant 是一个用于构建可靠客户交互型 AI 代理的开源框架，其核心是一个交互控制引擎，旨在解决 LLM 在真实业务场景中行为不可控、输出不一致的问题。它★ 18,299
GenieXGenieX 是一个专为高通设备设计的开源推理引擎，旨在让开发者通过几行代码即可在本地运行前沿的大语言模型（LLM）和视觉语言模型（VLM）。它充分利用高通芯片★ 8,406
lmdeployLMDeploy 是一个专为大语言模型（LLM）设计的压缩、部署和服务工具包。它解决了 LLM 在实际生产环境中推理速度慢、显存占用高、部署复杂等核心问题。其核★ 8,100
FireflyFirefly 是一个开源的大模型训练工具，专注于高效微调和训练各类主流大语言模型。它解决了开发者在使用不同模型架构时训练流程不统一、配置复杂的问题，提供了一套★ 6,653
Liger-KernelLiger-Kernel 是 LinkedIn 开源的一套面向大语言模型训练的 Triton 内核集合，目标是解决 LLM 微调与训练中显存占用高、计算效率低的★ 6,636
LLamaSharpLLamaSharp 是一个面向 C#/.NET 开发者的本地大语言模型推理库，基于 llama.cpp 的高效 C++ 内核封装，提供纯托管代码的 API 接★ 3,804
EagleEagle 是一个前沿的视觉-语言模型（VLM）项目，强调以数据为中心的策略来提升模型性能。它解决了当前多模态模型在数据利用效率和训练效果上的瓶颈，通过精心设计★ 3,641
Devon开源 AI 结对编程伙伴。Devon 像一位随时在线的资深工程师，与您并肩协作完成代码编写、审查与调试，让编程体验更高效、更富乐趣，是开源爱好者的贴心之选。★ 3,453
Local-File-OrganizerLocal-File-Organizer 是一款基于 AI 的本地文件管理工具，旨在通过智能整理本地文本和图片文件来提升文件检索效率。它利用 Llama3.2 ★ 3,340
distributed-llamadistributed-llama 是一个用 C++ 实现的开源项目，旨在将家庭中的多台设备（如电脑、树莓派等）组成一个分布式集群，共同运行 Llama 大语言★ 3,082
LlamaIndexTSLlamaIndexTS 是 LlamaIndex 的 TypeScript 版本，专为 LLM 应用提供数据框架，聚焦服务端解决方案。它解决了 JavaScr★ 3,080
eliaElia 是一个基于终端的用户界面（TUI），专为与大型语言模型交互而设计。它解决了在终端环境中高效、便捷地使用多种 AI 模型的问题，无需离开命令行即可进行对★ 2,479
maxtextMaxText 是一个基于 JAX 构建的高性能、可扩展的大型语言模型（LLM）训练与推理框架，由 Google 开源。它旨在解决训练超大规模模型时面临的复杂性★ 2,433
Chinese-LLaMA-Alpaca-3Chinese-LLaMA-Alpaca-3 是基于 Meta Llama 3 开发的中文大语言模型项目，旨在解决 Llama 3 在中文场景下表现不佳的问题。★ 1,981
OllamacOllamac 是一款专为 macOS 打造的 Ollama 客户端应用，用 Swift 原生开发。它解决的是在 Mac 上使用本地大语言模型时缺乏友好图形界面★ 1,911
Jackrong-llm-finetuning-guide这是一个面向开发者的 LLM 微调实战指南，基于 Jupyter Notebook 形式，系统讲解从数据准备、模型选择、参数调整到训练评估的完整流程。项目旨在解★ 1,701
RLHF-Reward-ModelingRLHF-Reward-Modeling 是一个专注于训练 RLHF（基于人类反馈的强化学习）奖励模型的开源项目。它提供了一套完整的训练配方，帮助开发者从零开始★ 1,546
OvisOvis是一个多模态大语言模型（MLLM）架构，旨在从结构上对齐视觉和文本嵌入。它解决了传统多模态模型在融合视觉与语言信息时存在的语义鸿沟问题，通过创新的嵌入对★ 1,525
tlmtlm 是一个基于 Ollama 的本地命令行 AI 助手，用 Go 语言编写。它解决了在终端环境中直接使用本地大模型的需求，无需离开命令行即可获得 AI 辅助★ 1,487
generative-ai-use-casesgenerative-ai-use-cases 是一个基于 AWS 和 Amazon Bedrock 的生成式 AI 应用实现集合，旨在帮助企业安全地将生成式 ★ 1,388
raycast-g4fraycast-g4f 是一个 Raycast 扩展，让你在 Raycast 中直接调用 GPT、Claude、Llama、Gemini 等大模型，完全免费。它★ 1,087
agents-flexAgents-flex 是一个轻量级的 Java AI 智能体开发框架，定位为 Spring AI 的替代品。它旨在解决 Java 生态中构建复杂 AI 应用时★ 1,070
AutomodelAutomodel 是一个基于 PyTorch 分布式原生的 LLM/VLM 训练库，目标是让大模型微调像调用 Hugging Face 一样简单。它直接兼容 ★ 985
LLaVA-ppLLaVA++ 是在经典多模态模型 LLaVA 基础上做的扩展版本，核心思路是把 LLaVA 的视觉编码器与更强的语言模型 Phi-3、LLaMA-3 结合，从★ 842
llamafarmllamafarm 是一个面向 AI 应用的一站式部署工具，旨在让用户能够在几分钟内将任意 AI 模型、智能体、数据库、RAG 流水线等部署到本地或远程环境。它★ 837
llama3.javallama3.java 是一个纯 Java 实现的 Llama 3 及后续版本的大语言模型推理库，无需依赖 C/C++ 或 Python 环境，即可在 JVM ★ 818
rag-chatbotrag-chatbot 是一个基于 RAG（检索增强生成）技术的本地 PDF 对话工具，允许用户直接与多个 PDF 文档进行自然语言交互。它解决了传统 PDF ★ 688
END-TO-END-GENERATIVE-AI-PROJECTS这是一个汇集端到端生成式AI行业项目的开源仓库，专注于大语言模型（LLM）的完整落地流程，从数据准备、模型微调、推理优化到部署上线。项目旨在为开发者提供可直接参★ 635
Advanced_RAGAdvanced_RAG 是一个专注于高级检索增强生成（RAG）技术的开源项目，通过一系列实用的 Jupyter Notebook 教程，展示如何利用 Lang★ 498
chipperchipper 是一个面向创客和开发者的 AI 命令行界面工具，旨在简化本地 AI 模型（如 Ollama）的交互，并集成 Haystack RAG 框架和 P★ 485
rag-chatbotrag-chatbot 是一个基于检索增强生成（RAG）的对话助手，专门从 Markdown 文件集合中提取上下文信息来回答用户问题。它解决了传统 LLM 依赖★ 445
Open-LLaVA-NeXTOpen-LLaVA-NeXT 是一个开源实现，旨在复现和训练 LLaVA-NeXT 多模态大模型。它解决了社区中缺乏完整、可复现的 LLaVA-NeXT 训练★ 440
local-llms-on-android这是一个在 Android 设备上本地运行大语言模型（LLM）的开源项目，支持 Gemma、Qwen、LLaMA 等主流模型，通过 LiteRT 和 ONNX ★ 430
picollmpicollm 是一个专注于设备端（on-device）大语言模型推理的开源项目，通过 X-Bit 量化技术实现高效的模型压缩与推理。它支持 Gemma、Lla★ 318
LLM-TPULLM-TPU 是一个面向算能（Sophgo）BM1684X 和 BM1688 系列 TPU 芯片的开源推理项目，旨在让生成式 AI 模型（如大语言模型）直接运★ 311
VideoGPT-plusVideoGPT-plus 是论文《VideoGPT+: Integrating Image and Video Encoders for Enhanced V★ 294
ai-devicesai-devices 是一个基于 TypeScript 的 AI 设备模板项目，集成了 Whisper 语音识别、TTS 语音合成、Groq 加速推理、Llam★ 291
langchain-chatbot这是一个基于 LangChain 和 Streamlit 构建的聊天机器人示例集合，旨在帮助开发者快速上手大语言模型应用开发。项目解决了从零搭建 RAG（检索增★ 279
nim-anywherenim-anywhere 是一个面向生成式 AI 开发者的开源工具集，旨在通过 NVIDIA NIM 和 NVIDIA AI Workbench 加速 AI 应★ 279
langgraph-email-automation这是一个基于LangChain和LangGraph构建的多AI智能体客服邮件自动化系统。它解决了客服团队处理大量重复性邮件咨询的效率问题，通过编排多个专用AI代★ 276
foundation-model-benchmarking-tool这是一个用于基础模型（大模型）基准测试的开源工具，旨在帮助用户在 AWS 云平台上运行任意模型，并对比不同实例类型和服务栈（serving stack）的性能表★ 256
hh-ai-agenthh-ai-agent 是一个针对俄罗斯招聘平台 hh.ru 的 AI 求职助手，使用 Python 编写。它通过 Playwright 自动化浏览器操作，结合★ 240
HacxGPT-Jailbreak-promptsHacxGPT-Jailbreak-prompts 是一个专门收集和分享 AI 模型越狱提示词（Jailbreak prompts）的开源项目，旨在解锁 Cha★ 209
caicai 是一个用 Rust 编写的用户友好型命令行 AI 工具，旨在让用户摆脱对 LLM 和提示词的复杂思考，直接获得结果。它集成了多种主流 AI 模型提供商，★ 204
rapid_llmrapid_llm 是一个基于 Triton 内核实现的轻量级类 LLaMA 大模型推理框架，用 Python 编写，目标是在不依赖庞大生态的前提下提供可读、可★ 194