BEVT

用图像预训练加速视频 Transformer,省数据省算力

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 19 🐛 待处理 3 👀 关注 6
GitHub ↗
GitHub 星标 ★ 161
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源模型,Apache-2.0 许可证,完全免费,需自行部署使用

项目预览

BEVT 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队xyzforever
定价模式🏷️完全免费
价格说明开源模型,Apache-2.0 许可证,完全免费,需自行部署使用
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型action-recognition,bert,deep-learning,foundation-models,masked-autoencoder,pytorch,self-supervised-learning,video-representation-learning,video-understanding
GitHub 星标★ 161
上线时间2022-03-02 00:00:00
代码更新2022-07-19
仓库体积19.7 MB
本站数据更新2026-11-11
维护状态低维护
收录时间2026-08-09
浏览次数7

项目介绍

BEVT 是 CVPR 2022 论文《BEVT: BERT Pretraining of Video Transformers》的官方 PyTorch 实现。它主要解决视频理解中 Transformer 模型预训练数据稀缺、训练成本高的问题,提出将视频 Transformer 的预训练分解为空间(图像)和时间(视频)两个维度:先通过图像数据(如 ImageNet)预训练空间编码器,再在视频数据上仅预训练时间模块,从而大幅降低对大规模视频标注数据的依赖。核心能力包括:支持图像与视频联合预训练、可加载公开图像模型权重、提供视频分类等下游任务的微调代码。项目代码结构清晰,基于 PyTorch 和 torchvision,适合研究视频 Transformer 预训练方法的开发者使用。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 161

核心亮点

  • 官方实现,论文代码一致,复现结果可靠
  • 两阶段预训练策略,可复用 ImageNet 权重,降低视频数据需求
  • 代码简洁,基于 PyTorch,易于二次开发和定制

不足之处

  • 文档较少,缺少详细的使用教程和配置说明
  • 依赖特定版本库,环境配置可能较繁琐

适用场景

  • 视频动作识别模型预训练
  • 视频 Transformer 研究中的预训练基线
  • 在数据受限场景下训练视频理解模型

替代项目

TimeSformer、VideoMAE、ViViT

上一篇:vesselFM

下一篇:GeoPixel

同类项目推荐

panseg 开源

一键分割3D密集细胞,精准区分每个个体

A tool for cell instance aware segmentation in densely packed 3D volumetric images

★ 138 2026-08-10
YOLO_Projects 开源

克隆即跑的19个YOLO视觉实战项目

19 ready-to-run computer vision projects with YOLO, ByteTrack & MediaPipe — countin···

★ 262 2026-09-28
sparsefusion 开源

从稀疏视角生成高质量3D模型,重建新视角图像

[CVPR 2023] SparseFusion: Distilling View-conditioned Diffusion for 3D Reconstructio···

★ 380 2026-08-09
Awesome_Mamba 开源

一网打尽医学影像中的高效状态空间模型研究

Computation-Efficient Era: A Comprehensive Survey of State Space Models in Medical I···

★ 270 2026-08-09
PAct 开源

一张照片,生成可活动的3D关节模型

[SIGGRAPH Asia 26]PAct: Part-Decomposed Single-View Articulated Object Generation

★ 91 2026-08-09
galaxy-explorer 开源

浏览器里漫游程序化生成的银河系,无需后端和构建步骤

An interactive, procedurally-generated Milky Way galaxy in the browser — WebGL / th···

★ 101 2026-08-09
ComfyUI-BiRefNet-ZHO 开源

拖拽节点即可实现图像/视频高精度抠图,边缘细节惊艳

Better version for BiRefNet in ComfyUI | Both img & video

★ 414 2026-08-09
text-extract-api 开源

一条 API 把 PDF/图片变成干净 JSON,还能自动抹掉隐私信息

Document (PDF, Word, PPTX ...) extraction and parse API using state of the art moder···

★ 3196 2026-08-09