ModularPipelineBlocks

ModularPipelineBlocks 是构建 ModularPipeline 的基本块。它定义了管道中特定步骤应执行的组件、输入/输出和计算。一个 ModularPipelineBlocks 与其他块连接,使用 状态,以实现工作流的模块化构建。

单独的 ModularPipelineBlocks 无法执行。它是管道中步骤应执行的操作的蓝图。要实际运行和执行管道,需要将 ModularPipelineBlocks 转换为 ModularPipeline

本指南将向您展示如何创建 ModularPipelineBlocks

输入和输出

如果您不熟悉Modular Diffusers中状态的工作原理,请参考 States 指南。

一个 ModularPipelineBlocks 需要 inputsintermediate_outputs

中间输入和输出共享数据以连接块。它们可以在任何时候访问,允许你跟踪工作流的进度。

计算逻辑

一个块执行的计算在__call__方法中定义,它遵循特定的结构。

  1. 检索BlockState以获取inputsintermediate_inputs的局部视图。
  2. inputsintermediate_inputs上实现计算逻辑。
  3. 更新PipelineState以将局部BlockState的更改推送回全局PipelineState
  4. 返回对下一个块可用的组件和状态。
def __call__(self, components, state):
    # 获取该块需要的状态变量的局部视图
    block_state = self.get_block_state(state)

    # 你的计算逻辑在这里
    # block_state包含你所有的inputs和intermediate_inputs
    # 像这样访问它们: block_state.image, block_state.processed_image

    # 用你更新的block_states更新管道状态
    self.set_block_state(state, block_state)
    return components, state

组件和配置

块需要的组件和管道级别的配置在ComponentSpecConfigSpec中指定。

from diffusers import ComponentSpec, ConfigSpec

expected_components = [
    ComponentSpec(name="unet", type_hint=UNet2DConditionModel),
    ComponentSpec(name="scheduler", type_hint=EulerDiscreteScheduler)
]

expected_config = [
    ConfigSpec("force_zeros_for_empty_prompt", True)
]

当块被转换为管道时,组件作为__call__中的第一个参数对块可用。

def __call__(self, components, state):
    # 使用点符号访问组件
    unet = components.unet
    vae = components.vae
    scheduler = components.scheduler
< > Update on GitHub