TesserAct

让机器人看懂并预测4D世界,实现具身智能

开源 🏷️定价信息待确认 ✅ 目前可打开 视频生成 🍴 复刻 20 🐛 待处理 1 👀 关注 5
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 412
维护状态 低维护
是否开源 开源
定价模式 🏷️定价信息待确认

项目预览

TesserAct 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类视频生成
开发团队UMass-Embodied-AGI
定价模式🏷️定价信息待确认
价格说明定价信息待确认
访问状态✅ 目前可打开
是否开源是
开源协议MIT
主要语言Python
技术栈/模型3d,4d,embodied-ai,robotics,video-generation,world-models
GitHub 星标★ 412
上线时间2025-04-29 00:00:00
代码更新2025-08-04
仓库体积27.7 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数3

项目介绍

TesserAct 是 ICCV 2025 收录的 4D 具身世界模型项目,旨在解决机器人或具身智能体对动态三维世界的理解与预测问题。它通过将视频生成与 3D/4D 表示学习结合,构建一个可交互的时空世界模型,使智能体不仅能观察当前场景,还能预测未来状态并规划动作。核心能力包括:从多视角视频中学习 4D 场景表征、生成连贯的未来帧序列、支持动作条件生成,以及为机器人控制提供潜在规划空间。项目代码基于 Python 实现,技术栈涉及 3D 视觉、视频生成和具身智能,适合研究世界模型、机器人感知与决策的开发者。目前处于早期阶段,星标 405,但提供了官方实现和演示,便于复现论文结果。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 412

使用教程

ℹ 本教程由 AI 依据该项目 README 整理,个别步骤可能需要按你的环境微调。

难度:高级 约 120 分钟 部署方式:本地GPU 5 步

环境要求

  • Linux
  • CUDA GPU(显存 ≥24G 更稳)
  • conda
  • Hugging Face 权重

安装与启动步骤

  1. 1按论文环境建 conda

    官方指定 Python 3.9,别用更新版本硬凑。

    conda create -n tesseract python=3.9 -y
  2. 2装依赖

    视频生成依赖重,装之前先确认 CUDA 版本对得上。

    pip install -r requirements.txt
  3. 3下预训练权重

    Hugging Face 上有官方模型,按 README 指的位置放。

  4. 4跑一次推理

    输入图像加文本指令,输出 RGB、深度、法线三路视频。

  5. 5看 4D 重建结果

    三路视频对齐后才构成 4D 场景,单看 RGB 说明不了问题。

如何确认成功

能对一张输入图生成 RGB、深度、法线三段视频,且深度图与 RGB 的物体轮廓基本对齐

注意事项

  • 这是 ICCV 2025 的论文代码,属于研究级项目,不是开箱可用的产品。
  • 同时输出 RGB、深度、法线是它的核心设计,单一模态没有意义。
  • 显存需求高,24G 以下大概率要减分辨率或减帧数。
  • 权重与代码版本要配对,混用会出现生成质量断崖式下降。

核心亮点

  • 首次将4D场景学习与视频生成统一到具身世界模型框架
  • 支持动作条件生成,可直接用于机器人规划
  • ICCV 2025 论文官方实现,代码结构清晰,便于研究复现

不足之处

  • 项目处于早期,文档和社区支持待观察
  • 对计算资源要求高,普通设备难以跑通完整训练

适用场景

  • 机器人操作任务中的视觉预测与规划
  • 自动驾驶场景的未来帧生成与风险评估
  • 具身智能体的仿真训练与交互学习

替代项目

World Models、DreamerV3、Genie

上一篇:gcd

下一篇:ShowAnything

同类项目推荐

VGGT-Det-CVPR2026 开源

不用相机标定,多视角直接检测室内3D物体

Official code for CVPR 2026 paper: VGGT-Det: Mining VGGT Internal Priors for Sensor-···

★ 164 2026-09-30
CWR 开源

对比学习一键复原水下图像,颜色细节双提升

Code and dataset for Single Underwater Image Restoration by Contrastive Learning, IG···

★ 92 2026-08-09
FrozenBiLM 开源

冻结语言模型,零样本看懂视频回答问题

[NeurIPS 2022] Zero-Shot Video Question Answering via Frozen Bidirectional Language ···

★ 159 2026-08-09
osam 开源

本地一键运行多种SAM分割模型,快速验证提示视觉能力

Run SAM 1/2/3, EfficientSAM, YOLO-World and other promptable vision models locally, ···

★ 120 2026-08-09
ncnn-android-nanodet 开源

手机端跑 NanoDet 实时目标检测的完整示例

ncnn android nanodet lightweight object detection

★ 420 2026-10-25
Awesome-Robotics-3D 开源

一网打尽机器人3D视觉前沿论文与代码

A curated list of 3D Vision papers relating to Robotics domain in the era of large m···

★ 825 2026-08-09
CLOUDS 开源

多模型协作,让语义分割在陌生场景下依然稳准狠

[CVPR 2024] Official Implementation of Collaborating Foundation models for Domain Ge···

★ 77 2026-08-09
RGBT-Perception-Papers 开源

一页汇总RGB-T三大任务论文,快速入门多模态感知

Summary of RGB-T Salient Object Detection, Semantic segmentation and Crowd Counting.

★ 164 2026-09-20
MapReader 开源

批量识别历史地图要素,自动定位到地理坐标

A computer vision pipeline for exploring and analyzing images at scale

★ 153 2026-09-18