chat-with-nerf

用大白话问一句,NeRF 场景自动带你去看

Chat-with-NeRF 是一个将自然语言交互与神经辐射场(NeRF)结合的学术原型项目,发表于 ICRA 2024。它解决的核心问题是:传统 NeRF 模型只能通过相机位姿或手动指定路径进行查看,无法用自然语言直接查询或操作场景。该项目允许用户通过输入文字(如“展示厨房的俯视图”),系统利用 BLIP2 进行语言-视觉对齐,结合 LERF 的语义特征提取,将文本指令映射到 NeRF 的 3D 空间,并调用 ChatGPT/GPT-4 进行指令解析和路径规划,最终生成对应的相机轨迹或视角,实现基于语义的交互式场景浏览。核心能力包括:自然语言驱动的视角生成、多模态语义理解、与 NeRFstudio 生态集成。项目处于早期阶段,代码结构清晰,适合作为学术研究参考。

开源 free 对话助手
访问官网 ↗ GitHub ↗ 文档 ↗
GitHub 星标 ★ 323
维护状态 低维护
是否开源
定价模式 free

项目数据

分类对话助手
开发团队sled-group
所属国家
定价模式free
价格说明开源项目,Apache-2.0许可,可自行部署使用,无收费计划。
访问状态
是否开源
开源协议Apache-2.0
主要语言Python
技术栈/模型blip2,chatgpt,gpt-4,lerf,nerf,nerfstudio
GitHub 星标★ 323
30天Star增速
HF 下载量
上线时间2023-04-27 00:00:00
最近更新2026-08-24 00:00:00
维护状态低维护
中文支持
访问方式
移动端支持
综合评分
收录时间2026-08-09
浏览次数8

使用教程

核心亮点

  • 直接支持自然语言指令控制 NeRF 视角,降低交互门槛
  • 集成 BLIP2 和 LERF,语义定位准确,能理解物体级描述
  • 基于 nerfstudio 构建,易于扩展和复现实验

不足之处

  • 依赖 GPT-4 等商业 API,运行成本高且离线不可用
  • 仅支持静态场景,无法处理动态变化
  • 文档/社区待观察

适用场景

  • 学术研究:探索 NeRF 与语言模型结合的新交互范式
  • 数字孪生:通过自然语言快速查看三维场景的关键区域
  • 机器人导航:为机器人提供基于语义的路径规划参考

替代项目

LERF、NeRF-ART、OpenNeRF

项目介绍

chat-with-nerf 是数字人3D领域的开源项目,由 sled-group 开发,2023 年首次发布。

它收录于数字人3D分类,该分类目前共有 272 个项目,GitHub 星标数为 323。

项目已超过三个月没有代码更新,维护节奏明显放缓,最近一次代码更新于 2026-08-24。Apache-2.0许可,可自行部署使用,无收费计划。

它主要面向的使用场景是:学术研究:探索NeRF与语言模型结合的新交互范式。同类可对比的替代方案包括 LERF、NeRF-ART、OpenNeRF。

上一篇:fay-desk

下一篇:text2room

同类项目推荐

A3D 开源

在 three.js 里直接调用 AI 生成纹理和素材,边建模边生成

3D x AI hybrid editor, built with three.js

★ 129 2026-08-09
cube 开源

用一句话生成 3D 模型,在 Roblox 里快速落地 AI 创作

Roblox Foundation Model for 3D Intelligence

★ 1254 2026-08-09
AG3D 开源

用2D图片直接生成3D虚拟人,告别昂贵扫描

Official code release for ICCV2023 paper AG3D: Learning to Generate 3D Avatars from ···

★ 273 2026-08-09
GameFactory-3A 开源

一条命令生成 3A 游戏资产,从模型到视频全自动

A comprehensive open-source 3A game-generation skill and asset framework.

★ 778 2026-08-21