llama 第 4 页
本站收录 249 个带「llama」标签的 AI 开源项目(按 GitHub 星标从高到低,第 4 / 5 页)
ChatLLM-WebChatLLM-Web 是一个完全在浏览器中运行的大语言模型对话应用,基于 WebGPU 技术,无需服务器即可与 Vicuna 等模型聊天。它利用 Web LL★ 638
RAG-Driven-Generative-AI这是一个面向开发者的RAG(检索增强生成)实战教程仓库,提供基于LlamaIndex、Deep Lake和Pinecone构建生成式AI应用的完整代码示例。项目★ 630
LLM-HubLLM-Hub 是一个本地 AI 助手,专注于图像生成领域,但实际覆盖多模态能力。它基于 C++ 构建,集成多种主流大语言模型(如 Gemma、Llama、Mi★ 620
kanikani(カニ)是一个高度可黑客化的微框架,用于构建调用工具的语言模型应用。它解决了开发者在集成工具调用(function calling)时面临的复杂性问题,★ 610
GromaGroma 是一个基于多模态大语言模型(MLLM)的视觉定位模型,核心创新在于“局部视觉标记化”(Localized Visual Tokenization)。★ 587
LLaMA_MPSLLaMA_MPS 是一个面向 Apple Silicon 芯片的 LLaMA 模型推理加速项目,主要解决在 Mac 上运行 LLaMA 和 Stanford-★ 576
AnglEAnglE是一个用于训练和推理高质量句子嵌入(Sentence Embeddings)的Python开源库,旨在解决文本语义相似度计算、检索和聚类等任务中嵌入表★ 575
LLaVA-MiniLLaVA-Mini 是一个统一的大规模多模态模型(LMM),旨在高效处理图像、高分辨率图像和视频的理解任务。它解决了传统多模态模型在处理高分辨率图像和视频时计★ 573
MARTIMARTI 是一个面向大语言模型(LLM)的多智能体强化训练与推理框架。它解决了当前多智能体系统(MAS)在训练和部署时缺乏统一、可扩展框架的问题,使得开发者能★ 570
aikitaikit 是一个面向开源大语言模型的轻量级工具链,旨在简化 LLM 的微调、构建和部署流程。它解决了开发者在使用开源模型(如 Llama、Gemma 等)时面★ 539
aicommit2aicommit2 是一个响应式命令行工具,专为 Git 和 Jujutsu 版本控制系统自动生成提交信息。它解决开发者写提交信息耗时、格式不统一的问题,通过接★ 532
restaiRESTai 是一个开源的 AI 即服务(AIaaS)平台,旨在将多种 AI 能力统一封装为 RESTful API,降低 AI 应用的集成门槛。它解决了企业在★ 514
willow-inference-serverWillow 是一个开源的、本地自托管的语言推理服务器,专注于音频和语音场景,同时支持 ASR/STT、TTS 和 LLM 推理。它解决了在本地环境中高效部署多★ 511
step_into_llmStep into LLM 是华为 MindSpore 社区推出的大语言模型入门课程项目,以 Jupyter Notebook 为载体,系统讲解从 BERT、G★ 480
JetStreamJetStream 是一个面向 XLA 设备(当前以 TPU 为主,未来计划支持 GPU)的 LLM 推理引擎,专注于提升吞吐量和优化内存使用。它解决了在 TP★ 470
premsqlpremsql 是一个端到端、本地优先的 Text-to-SQL 流水线项目,旨在解决自然语言查询到 SQL 生成的准确性和可控性问题。它提供从数据接入、语义理★ 461
speak-gptspeak-gpt 是一款基于 OpenAI ChatGPT 的安卓语音助手应用,使用 Kotlin 开发。它解决的是用户在移动端通过语音与 AI 自然交互的需★ 446
Open-LLaVA-NeXTOpen-LLaVA-NeXT 是一个开源实现,旨在复现和训练 LLaVA-NeXT 多模态大模型。它解决了社区中缺乏完整、可复现的 LLaVA-NeXT 训练★ 439
KIVIKIVI 是一个针对大语言模型 KV Cache 的免调优非对称 2bit 量化工具,由 ICML 2024 论文提出。它解决的是长上下文场景下 KV Cach★ 436
agent-builderagent-builder 是一个开源的智能体构建示例项目,旨在帮助开发者从终端快速搭建自己的 AI 代理和工具。它演示了流式输出、工具调用和交互式终端体验等核★ 431
OPERAOPERA是一个针对多模态大语言模型幻觉问题的开源工具,源自CVPR 2024 Highlight论文。它通过过度信任惩罚和回溯分配机制,有效缓解模型在生成文本★ 415
selfhostedAIselfhostedAI 是一个提供一键自托管 AI 应用的集合项目,主要聚焦于图像生成领域,同时涵盖 LLM(如 ChatGLM、ChatGPT、Llama)★ 410
EasyInstructEasyInstruct 是一个面向大语言模型(LLM)的指令处理框架,旨在简化指令数据的构建、处理和评估流程。它解决了研究人员和开发者在准备微调或评估数据时,★ 407
PocketRisuPocketRisu 是一个自托管的 AI 角色扮演聊天平台,从 Risuai 分叉而来,让你在自己的 PC 或私人服务器上运行。它专注于解决用户对隐私和数据控★ 406
Stream-OmniStream-Omni 是一个类似 GPT-4o 的多模态对话助手,能够同时处理文本、语音和视觉输入,并支持多种模态组合的交互。它解决了传统对话系统只能处理单一★ 393
slide-deck-aislide-deck-ai 是一个用 AI 协同创建 PowerPoint 演示文稿的开源工具,基于 Python 构建。它解决的是从零开始制作 PPT 耗时费★ 376
swiftLLMswiftLLM 是一个极简但高性能的 LLM 推理系统,专为研究目的设计。它用仅约 2000 行 Python 代码实现了与 vLLM 相当的性能,代码量仅为★ 361
megabotsmegabots 是一个旨在让 LLM 应用开发变得极其简单的开源框架,主打“生产就绪”和“开箱即用”。它解决了开发者从零构建聊天机器人时面临的高复杂度问题,通★ 350
ViP-LLaVAViP-LLaVA是CVPR 2024收录的多模态大模型,旨在让模型理解任意视觉提示(如点、框、涂鸦等),而不仅限于文本指令。它解决了现有视觉语言模型只能处理全★ 338
NeuralDeskAppNeuralDeskApp 是一个跨平台的桌面智能助手应用,旨在提供几乎本地化、最终合理的 AI 辅助体验。它基于 TypeScript 构建,集成多种本地大语★ 331
ollamafreeapiOllamaFreeAPI 是一个面向 Ollama 大语言模型的免费分布式 API 网关,目标是让开发者无需自建 GPU 服务器或配置 API Key,就能直★ 323
chat.petals.devchat.petals.dev 是一个基于 Petals 分布式推理系统的聊天机器人 Web 应用,同时提供 HTTP 和 WebSocket 接口,用于大语言★ 319
picollmpicollm 是一个专注于设备端(on-device)大语言模型推理的开源项目,通过 X-Bit 量化技术实现高效的模型压缩与推理。它支持 Gemma、Lla★ 318
BayLingBayLing(百聆)是一个基于LLaMA的中英双语大语言模型,通过语言对齐增强技术,在英语和中文的生成、指令跟随及多轮交互上表现优异,官方称在多项测试中达到C★ 317
RLHF-VRLHF-V 是一个面向多模态大语言模型(MLLMs)的可信行为对齐框架,核心解决模型在视觉对话中产生幻觉(如描述不存在的物体)的问题。它通过收集细粒度的修正性★ 311
text2texttext2text 是一个面向多语言场景的文本到文本生成工具包,旨在简化跨语言 NLP 任务的开发流程。它基于 Python 构建,整合了多种主流语言模型(如 ★ 305
LRV-InstructionLRV-Instruction 是一个用于缓解大型多模态模型(LMM)幻觉问题的开源项目,其核心方法是通过鲁棒的指令微调来提升模型对视觉内容的忠实度。项目针对当★ 297
mcp-servermcp-server 是一个为 Strands Agents 提供文档的 MCP(Model Context Protocol)服务器。它解决的核心问题是:当开★ 295
Mol-InstructionsMol-Instructions 是一个面向生物分子领域的大规模指令数据集,旨在增强大型语言模型(LLM)在生物分子理解与生成任务上的能力。它解决了通用LLM在★ 295
nim-anywherenim-anywhere 是一个面向生成式 AI 开发者的开源工具集,旨在通过 NVIDIA NIM 和 NVIDIA AI Workbench 加速 AI 应★ 284
llama_rosllama_ros 是一个把 llama.cpp 与 llava.cpp 封装进 ROS 2 的开源框架,让机器人开发者能直接在 ROS 2 节点里运行 GGU★ 268
chat4uchat4u 是一个用微信聊天记录训练专属聊天机器人的开源项目。它通过解析导出的微信聊天记录,构建个性化的对话数据集,并基于 Alpaca 或 LLaMA 等大★ 262
BLIVABLIVA是一个基于多模态大语言模型的视觉问答助手,专注于处理包含大量文本的视觉问题,如文档截图、路牌、菜单等场景。它通过结合BLIP-2的视觉编码能力和LLa★ 260
gpt_servergpt_server 是一个面向生产环境的 AI 服务部署框架,旨在统一集成多种主流模型能力,包括大语言模型(LLM)、Embedding、Reranker、A★ 253
confabulationsconfabulations 是一个用于评估 RAG(检索增强生成)系统幻觉(或称虚构)问题的文档型基准测试集。它提供了一系列经过人工验证的问题和答案,专门设计★ 249
ollama-operatorollama-operator 是一个用 Go 编写的 Kubernetes Operator,目标是把 Ollama 大语言模型运行时以声明式方式部署到 K8★ 242
HacxGPT-Jailbreak-promptsHacxGPT-Jailbreak-prompts 是一个专门收集和分享 AI 模型越狱提示词(Jailbreak prompts)的开源项目,旨在解锁 Cha★ 219
LocalLLMClientLocalLLMClient 是一个用 Swift 编写的开源包,旨在让开发者能够在 iOS、macOS 和 Linux 上直接运行本地大语言模型(LLM)。它★ 218
AI-BlueprintsAI-Blueprints 是一个由惠普(HP)发起的开源项目,旨在提供一系列端到端可运行的 AI 蓝图示例。每个蓝图都基于 Jupyter Notebook ★ 216
Recurrent-LLMRecurrent-LLM 是论文 RecurrentGPT 的开源实现,旨在解决大语言模型在生成长文本时上下文窗口受限、容易遗忘前文的问题。它通过模拟人类写作★ 208