FlowBlock

并行加速扩散语言模型,自校正不减速

开源 🏷️完全免费 🔧 仅开源项目,无在线服务,需自行部署 开源模型 🍴 复刻 1
GitHub ↗
GitHub 星标 ★ 44
维护状态 低维护
是否开源 开源
定价模式 🏷️完全免费 开源项目,Apache-2.0 许可证,可免费使用和部署。

项目预览

FlowBlock 项目界面预览图
图片来源:GitHub 官方仓库名片

项目数据

分类开源模型
开发团队Red-EAD
定价模式🏷️完全免费
价格说明开源项目,Apache-2.0 许可证,可免费使用和部署。
访问状态🔧 仅开源项目,无在线服务,需自行部署
是否开源是
开源协议Apache-2.0
主要语言Python
技术栈/模型diffusion,diffusion-models,large-language-models
GitHub 星标★ 44
上线时间2026-07-19 00:00:00
代码更新2026-07-21
仓库体积709 KB
本站数据更新2026-11-10
维护状态低维护
收录时间2026-08-09
浏览次数8

项目介绍

FlowBlock 是一个面向自校正扩散语言模型(Diffusion Language Models)的波前并行解码框架。扩散语言模型通过迭代去噪生成文本,但推理速度慢且自校正机制复杂。FlowBlock 提出波前并行(Wavefront-Parallel)解码策略,将生成过程中的多个时间步组织为波前,在保持自校正能力的同时实现并行计算,显著提升解码吞吐量。该框架提供 Python 接口,支持与主流扩散语言模型集成,解决生成效率与质量平衡问题。核心能力包括:波前调度算法、并行解码流水线、自校正机制优化,以及可扩展的模型适配层。适用于需要高质量文本生成且对延迟敏感的场景,如实时对话、代码生成等。

Star 增长趋势

本站每日记录该项目 GitHub 星标变化,观测越久曲线越完整

数据来源:GitHub API 逐日快照 · 收录于 2026-08-09 · 当前星标 ★ 44

核心亮点

  • 波前并行策略显著提升解码速度,相比顺序解码有数量级加速
  • 保持自校正能力,生成质量不因并行而受损
  • 提供灵活框架,易于适配多种扩散语言模型

不足之处

  • 文档/社区待观察
  • 早期项目,生态和工具链尚不成熟

适用场景

  • 实时文本生成服务,降低响应延迟
  • 长文本生成,并行加速迭代去噪过程
  • 研究扩散语言模型推理优化

替代项目

DiffuSeq、Diffusion-LM、GENIE

上一篇:symbolicai

下一篇:llm-extension-for-cmd-pal

同类项目推荐

VLM2Vec 开源

把视觉语言模型变成万能嵌入器,搞定多模态搜索和分类

This repo contains the code for "VLM2Vec / MMEB" [ICLR 2025], "VLM2Vec-V2 / MMEB-V2"···

★ 703 2026-08-09
Gen.jl 开源

用 Julia 写模型和推断算法的概率编程框架

A general-purpose probabilistic programming system with programmable inference

★ 1854 2026-11-07
Llamatik 开源

用 Kotlin 一套代码,在手机和桌面跑通本地 AI 模型

True on-device AI SDK for Kotlin Multiplatform (Android, iOS, Desktop, JVM, WASM). L···

★ 217 2026-08-09
dynamiq 开源

编排智能体与LLM工作流,快速构建复杂AI应用

Dynamiq is an orchestration framework for agentic AI and LLM applications

★ 1073 2026-08-09
switch 开源

把任务拆成小步选择,让模型一步步做决定

A framework for building decision-model harnesses for any kind of task. Your program···

★ 436 2026-11-03
AI 开源

Swift 应用快速接入生成式 AI,一套代码多模型

The definitive, open-source Swift framework for interfacing with generative AI.

★ 230 2026-08-09
sttp-ai 开源

Scala 里类型安全地接入多家大模型

Scala toolkit for working with third-party LLMs (OpenAI, Claude, and compatible). De···

★ 106 2026-10-26
conversational-agent-langchain 开源

多模型对话后端开箱即用,接上向量库就能跑 RAG

FastAPI Backend for a Conversational Agent using Cohere, (Azure) OpenAI, Langchain &···

★ 257 2026-09-12