Diffusers 文档
MochiTransformer3DModel
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
MochiTransformer3DModel
Genmo 在 Mochi-1 Preview 中介绍了用于 3D 视频类数据的 Diffusion Transformer 模型。
该模型可以使用以下代码片段加载。
from diffusers import MochiTransformer3DModel
vae = MochiTransformer3DModel.from_pretrained("genmo/mochi-1-preview", subfolder="transformer", torch_dtype=torch.float16).to("cuda")MochiTransformer3DModel
class diffusers.MochiTransformer3DModel
< source >( patch_size: int = 2 num_attention_heads: int = 24 attention_head_dim: int = 128 num_layers: int = 48 pooled_projection_dim: int = 1536 in_channels: int = 12 out_channels: typing.Optional[int] = None qk_norm: str = 'rms_norm' text_embed_dim: int = 4096 time_embed_dim: int = 256 activation_fn: str = 'swiglu' max_sequence_length: int = 256 )
参数
- patch_size (
int, 默认为2) — 补丁嵌入层中使用的补丁大小。 - num_attention_heads (
int, 默认为24) — 用于多头注意力的头的数量。 - attention_head_dim (
int, 默认为128) — 每个头中的通道数。 - num_layers (
int, 默认为48) — 要使用的 Transformer 块的层数。 - in_channels (
int, 默认为12) — 输入中的通道数。 - out_channels (
int, 可选, 默认为None) — 输出中的通道数。 - qk_norm (
str, 默认为"rms_norm") — 要使用的归一化层。 - text_embed_dim (
int, 默认为4096) — 来自文本编码器的文本嵌入的输入维度。 - time_embed_dim (
int, defaults to256) — 时间步长嵌入的输出维度。 - activation_fn (
str, defaults to"swiglu") — 在前馈中使用的激活函数。 - max_sequence_length (
int, defaults to256) — 支持的文本嵌入的最大序列长度。
在 Mochi 中引入的用于类视频数据的 Transformer 模型。
Transformer2DModelOutput
class diffusers.models.modeling_outputs.Transformer2DModelOutput
< 源代码 >( sample: torch.Tensor )
参数
- sample (
torch.Tensor，形状为(batch_size, num_channels, height, width)或(batch size, num_vector_embeds - 1, num_latent_pixels)，如果 Transformer2DModel 是离散的) — 以encoder_hidden_states输入为条件的隐藏状态输出。 如果是离散的，则返回未噪声化的潜在像素的概率分布。
Transformer2DModel 的输出。