character-policy

让数字人说话时全身动作跟着语音走

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 数字人3D 🍴 复刻 193 🐛 待处理 63 👀 关注 33
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 1309
维护状态 活跃
是否开源 开源
定价模式 🏷️完全免费 开源代码库,免费使用

项目预览

character-policy 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类数字人3D
开发团队haiyangliu0
定价模式🏷️完全免费
价格说明开源代码库,免费使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
主要语言Python
技术栈/模型3d-human-motion,audio-driven-animation,beat-dataset,beat2,character-animation,character-policy,co-speech-gesture,emage,flame,gesture-generation,holistic-gesture,smplx,talking-face-generation,virtual-human
GitHub 星标★ 1309
上线时间2022-07-11 00:00:00
代码更新2026-10-25
仓库体积412.0 MB
本站数据更新2026-11-01
维护状态活跃
收录时间2026-11-01
浏览次数0

项目介绍

character-policy 是面向多模态三维数字人的官方基准与代码库,聚焦整体协同语音手势策略(holistic co-speech gesture policy)。它解决的核心问题是:让虚拟角色在说话时生成与语音节奏、语义和情绪相匹配的全身动作,而不是只做口型或孤立的手势。项目提供统一的训练与评测框架,覆盖音频驱动动画、三维人体运动生成、角色动画等环节,并配套 BEAT/BEAT2 等协同语音手势数据集的评测流程,便于研究者复现实验、横向比较不同策略。核心能力包括多模态特征输入、整体手势策略建模、基准指标与可视化评测,适合数字人、虚拟主播、游戏 NPC 等需要自然说话动作的研究与工程场景。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-11-01 · 当前星标 ★ 1309

使用教程

⚠ 本教程由 AI 依据该项目 README 整理;原始文档不完整,部分步骤为通用流程推断,实际安装请以项目官方文档为准。

难度:高级 约 15 分钟 部署方式:库/依赖 5 步

⚠ 该项目 README 未提供完整安装说明,以下步骤为通用流程,请以官方文档为准。

环境要求

  • Python 环境(README 未标注具体版本要求)
  • Git,用于克隆仓库
  • 磁盘空间,用于存放仓库、模型权重与 BEAT/BEAT2 数据集
  • 如需自己训练或推理,需具备可运行深度学习框架的算力环境(README 未列出具体依赖)

安装与启动步骤

  1. 1确认本地基础环境

    先确认 Python 与 Git 可用。README 正文没有给出 Python 版本、依赖清单或安装命令,实际要求需以仓库内文档为准。

    python --version
    git --version
  2. 2克隆项目仓库

    从项目给出的 GitHub 地址拉取代码,得到完整的训练与评测框架源码。

    git clone https://github.com/haiyangliu0/character-policy.git
  3. 3进入目录查看文档

    进入仓库后先阅读 README 与目录内说明文件,安装依赖与运行方式以仓库内实际内容为准。

    cd character-policy
    ls
  4. 4获取权重与数据集

    项目在 HuggingFace 上提供模型权重与 BEAT2 数据集页面,按页面说明下载后放到仓库约定的数据目录。

  5. 5先体验在线演示

    在本地环境配好之前,可先打开官方 HuggingFace Space 演示页,确认输入语音、文本后输出的动作效果是否符合预期。

如何确认成功

README 未给出启动命令,暂以仓库克隆成功、能打开仓库内文档并取到权重与数据集,作为准备完成的判断依据。

常见问题

Q:按 README 装依赖时提示缺少 requirements.txt 怎么办?

A:节选的 README 只介绍了项目能力与在线资源,没有列出依赖安装命令。请在仓库实际目录中查找依赖清单或环境说明文件,以其为准,不要凭空猜包名。

Q:没有 GPU 能跑吗?

A:README 未说明硬件要求。该项目涉及三维人体运动生成模型,训练通常需要较强算力;是否支持纯 CPU 推理请查看仓库内文档。

Q:输出了什么格式的动作数据?

A:项目输出标准 3D 动作参数,例如 SMPL,可转换为 iPhone ARKit Blendshape 权重、Vicon Skeleton BVH 文件或导入游戏引擎。

Q:能只用文本生成动作吗?

A:可以。README 说明项目支持两类能力:由语音生成面部与身体动画,以及由文本生成身体动画。

注意事项

  • README 节选未提供安装依赖与运行命令,本教程只覆盖可确认的准备动作,具体安装与运行步骤请以仓库内文档为准。
  • BEAT、BEAT2 数据集有各自的使用条款,下载和使用前请先阅读数据集页面上的许可说明。
  • 项目定位为研究基准,接口与评测流程可能随版本变化,复现实验前建议固定提交版本。

核心亮点

  • 提供官方基准与完整代码库,训练、评测流程统一,便于复现和横向对比
  • 面向整体协同语音手势,覆盖身体、手势与节奏,而非只做口型或单一部位
  • 配套 BEAT/BEAT2 等协同语音数据集评测,指标与数据链路相对完整

不足之处

  • 项目处于成长阶段,文档与使用示例的完整度有待观察
  • 依赖三维人体运动与音频驱动动画的较重环境,上手和复现成本不低
  • 社区规模尚小,遇到问题可参考的讨论和第三方教程有限

适用场景

  • 数字人/虚拟主播的说话动作生成研究
  • 游戏 NPC 与虚拟角色的协同语音动画制作
  • 协同语音手势生成算法的基准评测与论文复现

替代项目

EMAGE、TalkSHOW、DiffSHEG

上一篇:BrickGPT

下一篇:没有了!

同类项目推荐

3DGenStudio 开源

一个界面走完从文字到带贴图3D模型的全流程

Orchestrate complete 3D generation pipelines — from text-to-image, image editing, m···

★ 754 2026-09-14
FaceTalk 开源

上传语音,一键生成3D数字人面部动画

[CVPR 2024] FaceTalk: Audio-Driven Motion Diffusion for Neural Parametric Head Model···

★ 239 2026-08-09
utsuwa 开源

打造专属 AI 伴侣,陪你聊天一起成长

Utsuwa is an open-source alternative to Grok Companion. This is a platform where you···

★ 136 2026-08-09
FlexiDreamer 开源

单张照片秒变 3D 模型,用 FlexiCubes 快速生成网格。

An official implementation of FlexiDreamer: Single Image-to-3D Generation with Flexi···

★ 78 2026-08-09
aigcpanel 开源

本地模型一键装,文本音频直接变数字人视频

AIGCPanel 是一个简单易用的一站式AI数字人系统,支持视频合成、声音合成、声音克隆,简化···

★ 5724 2026-10-21
ai-live-avatar 开源

弹幕驱动数字人,OBS 一键开播

AI 实时直播间:Vidu S2 实时数字人 + 弹幕过滤调度 + 衣柜换装 + OBS 叠层(角色资产不含···

★ 402 2026-10-28
ReconViaGen 开源

从稀疏视图一键生成高精度3D模型

(ICLR2026) ReconViaGen: Towards Accurate Multi-view 3D Object Reconstruction via Gen···

★ 662 2026-08-09
JoyVASA 开源

上传一张图,让照片和动物动起来说话

Diffusion-based Portrait and Animal Animation

★ 883 2026-08-09
GNM 开源

一键生成高精度参数化数字人头像,驱动表情与动画

An open ecosystem of parametric human models and perception stacks, starting with GN···

★ 1618 2026-08-09