llama_ros

在 ROS 2 里直接跑本地大模型，机器人秒变能听会看会聊

开源 free 开发框架

访问官网 ↗ GitHub ↗ 文档 ↗

GitHub 星标 ★ 268

维护状态活跃

是否开源是

定价模式 free

项目预览

项目数据

分类开发框架

开发团队mgonzs13

所属国家

官网地址https://mgonzs13.github.io/llama_ros

GitHubhttps://github.com/mgonzs13/llama_ros

定价模式free

价格说明开源免费，基于 llama.cpp 的 ROS 2 封装

访问状态

是否开源是

开源协议MIT

主要语言C++

技术栈/模型audio,cpp,embeddings,ggml,gguf,gpt,langchain,llama,llamacpp,llava,llavacpp,llm,multimodal,rerank,reranking,ros2,vlm

GitHub 星标★ 268

30天Star增速

HF 下载量

上线时间2023-04-01 00:00:00

代码更新—

仓库体积—

本站数据更新—

维护状态活跃

中文支持

访问方式

移动端支持

综合评分

收录时间2026-10-16

浏览次数0

项目介绍

llama_ros 是一个把 llama.cpp 与 llava.cpp 封装进 ROS 2 的开源框架，让机器人开发者能直接在 ROS 2 节点里运行 GGUF 格式的大语言模型和多模态视觉语言模型。它解决的核心问题是：过去在机器人系统里集成 LLM 需要自己写推理服务、处理消息通信和模型加载，门槛高且难以复用。该项目提供标准化的 ROS 2 节点与接口，支持文本生成、嵌入、重排序、多模态理解，还集成了音频与 LangChain 相关能力，方便构建语音对话、视觉问答、语义检索等机器人应用。底层基于 GGUF 量化模型，可在本地 CPU/GPU 上离线推理，兼顾隐私与实时性。整体定位是机器人智能化的中间层，把大模型能力变成 ROS 2 生态里可订阅、可组合的组件。