blended-latent-diffusion

用文本和掩码精准编辑图像局部,背景不跑偏

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 图像生成 🍴 复刻 37 👀 关注 44
访问官网 ↗ GitHub ↗
GitHub 星标 ★ 632
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,MIT许可证,完全免费,可自行部署使用。

项目预览

blended-latent-diffusion 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类图像生成
开发团队omriav
定价模式🏷️完全免费
价格说明开源项目,MIT许可证,完全免费,可自行部署使用。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议MIT
主要语言Jupyter Notebook
技术栈/模型computer-vision,deep-learning,diffusion,diffusion-models,generative-model,image-generation,multimodal,multimodal-deep-learning,pytorch,text-driven-editing,text-guided-manipulation,text-to-image,text-to-image-synthesis
GitHub 星标★ 632
上线时间2022-06-06 00:00:00
代码更新2024-06-04
仓库体积10.1 MB
本站数据更新2026-11-09
维护状态低维护
收录时间2026-08-09
浏览次数4

项目介绍

Blended Latent Diffusion 是 SIGGRAPH 2023 论文的官方实现,用于文本驱动的图像局部编辑。它解决的是传统扩散模型在编辑图像时难以精确控制局部区域的问题,通过将文本提示与用户指定的区域掩码结合,在潜在空间中实现局部编辑,同时保持背景和未编辑区域的一致性。核心能力包括:基于文本的局部编辑、区域掩码控制、背景保持、多轮编辑等。项目提供完整的推理代码和预训练模型,支持自定义掩码和提示词,适合研究和使用扩散模型进行图像编辑的开发者。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 632

使用教程

难度:高级 约 90 分钟 部署方式:本地GPU 5 步

环境要求

  • GPU 16G 显存以上
  • CUDA 11.8
  • SD 系列权重

安装与启动步骤

  1. 1建 conda 环境

    官方要求特定的 PyTorch 与 CUDA 组合,按它给的命令装。

    conda install pytorch==2.1.0 torchvision==0.16.0 pytorch-cuda=11.8 -c pytorch -c nvidia
  2. 2锁扩散库版本

    它依赖旧版 diffusers,装新版接口就对不上。

    pip install -U diffusers==0.19.3
  3. 3下模型权重

    三个脚本分别对应 SDXL、SD2 与 LDM,权重各不相同。

  4. 4做一次局部编辑

    给原图加一张 mask,mask 内按提示改,外面保持不变。

    python scripts/text_editing_SDXL.py --prompt "a stone" --init_image "inputs/img.png" --mask "inputs/mask.png"
  5. 5用重建脚本做对比

    reconstruct 能看出潜在空间重建本身的误差,这是判断编辑质量的基线。

    python scripts/reconstruct.py --init_image "inputs/img.png" --mask "inputs/mask.png" --selected_indices 0 1

如何确认成功

mask 外区域逐像素几乎不变,mask 内按提示发生了对应改变

注意事项

  • mask 边界处的融合是这类方法的老问题,边缘要留缓冲。
  • 重建脚本很关键,先确认重建本身无损再评价编辑效果。
  • 项目代码与旧版扩散库强绑定,新环境上跑要花时间调。

核心亮点

  • 基于潜在扩散,编辑速度快且显存占用低
  • 支持任意文本提示和自定义掩码,编辑灵活
  • 官方实现,代码质量高,附带预训练模型

不足之处

  • 文档和示例较少,上手门槛较高
  • 依赖特定版本的扩散模型库,环境配置复杂

适用场景

  • 图像局部修改,如换物体颜色、纹理
  • 创意设计中的局部元素替换
  • 研究扩散模型在图像编辑中的应用

替代项目

Stable Diffusion、InstructPix2Pix、DiffEdit

上一篇:cog-face-to-sticker

下一篇:MIGC

同类项目推荐

token-art-tools 开源

用滑块调参,自动生成图像并导出数据,轻松分析生成艺术概率。

Static web application for generative artists to explore creative concepts via mappa···

★ 72 2026-08-09
ComfyUI-WinPortable-XPU 开源

让 Intel 显卡用户开箱即跑 ComfyUI,省去配置烦恼

ComfyUI standalone pack for Intel GPUs. | 英特尔显卡 ComfyUI 整合包

★ 121 2026-08-09
nightmare-mobile 开源

手机上搭节点图,离线跑图像视频生成

On-device, ComfyUI-style node graph for image/video diffusion on Android. Run MiniMa···

★ 204 2026-11-05
parti-pytorch 开源

用纯Transformer把文字变成高清图像,复现Google Parti模型

Implementation of Parti, Google's pure attention-based text-to-image neural network,···

★ 536 2026-08-09
SD-Latent-Upscaler 开源

在潜在空间放大图像,比像素级放大更快更省显存

Upscaling stable diffusion latents using a small neural network.

★ 164 2026-08-09
DeceiveD 开源

数据不够也能训好 GAN,用伪增强骗过判别器

[NeurIPS 2021] Deceive D: Adaptive Pseudo Augmentation for GAN Training with Limited···

★ 234 2026-08-09