Diffusers documentation
MochiTransformer3DModel
MochiTransformer3DModel
Un modèle Diffusion Transformer pour des données vidéo 3D a été introduit dans Mochi-1 Preview par Genmo.
Le modèle peut être chargé à l'aide du fragment de code suivant.
from diffusers import MochiTransformer3DModel
transformer = MochiTransformer3DModel.from_pretrained("genmo/mochi-1-preview", subfolder="transformer", dtype=torch.float16).to("cuda") # or "mps", "xpu", "cpu"MochiTransformer3DModel
classe diffusers.MochiTransformer3DModel
< source >( patch_size: int = 2num_attention_heads: int = 24attention_head_dim: int = 128num_layers: int = 48pooled_projection_dim: int = 1536in_channels: int = 12out_channels: int | None = Noneqk_norm: str = 'rms_norm'text_embed_dim: int = 4096time_embed_dim: int = 256activation_fn: str = 'swiglu'max_sequence_length: int = 256 )
Paramètres
- patch_size (
int, par défaut2) — La taille des patches à utiliser dans la couche d'embedding de patches. - num_attention_heads (
int, par défaut24) — Le nombre de têtes à utiliser pour l'attention multi-têtes. - attention_head_dim (
int, par défaut128) — Le nombre de canaux dans chaque tête. - num_layers (
int, par défaut48) — Le nombre de blocs Transformer à utiliser. - in_channels (
int, par défaut12) — Le nombre de canaux dans l'entrée. - out_channels (
int, facultatif, par défautNone) — Le nombre de canaux dans la sortie. - qk_norm (
str, par défaut"rms_norm") — La couche de normalisation à utiliser. - text_embed_dim (
int, par défaut4096) — Dimension d'entrée des embeddings de texte issus de l'encodeur de texte. - time_embed_dim (
int, par défaut256) — Dimension de sortie des embeddings de pas de temps. - activation_fn (
str, par défaut"swiglu") — Fonction d'activation à utiliser dans le réseau de neurones à propagation avant. - max_sequence_length (
int, par défaut256) — La longueur de séquence maximale des embeddings de texte prise en charge.
Un modèle Transformer pour des données de type vidéo, introduit dans Mochi.
forward
< source >( hidden_states: Tensorencoder_hidden_states: Tensortimestep: LongTensorencoder_attention_mask: Tensorattention_kwargs: dict[str, typing.Any] | None = Nonereturn_dict: bool = True ) → torch.Tensor
Paramètres
- hidden_states (
torch.Tensorde forme(batch_size, num_channels, num_frames, height, width)) —hidden_statesd'entrée. - encoder_hidden_states (
torch.Tensorde forme(batch_size, sequence_len, embed_dims)) — Embeddings conditionnels (embeddings calculés à partir des conditions d’entrée telles que les prompts) à utiliser. - timestep (
torch.LongTensor) — Utilisé pour indiquer l'étape de débruitage. - encoder_attention_mask (
torch.Tensor) — Masque appliqué àencoder_hidden_stateslors de l'attention. - attention_kwargs (
dict, facultatif) — Un dictionnaire de kwargs qui, s'il est spécifié, est transmis à l'AttentionProcessordéfini sousself.processordans diffusers.models.attention_processor. - return_dict (
bool, facultatif, par défautTrue) — Indique s'il faut retourner un~models.transformer_2d.Transformer2DModelOutputplutôt qu'un simple tuple.
Retourne
torch.Tensor
Le tenseur de sortie débruité de forme (batch_size, out_channels, num_frames, height, width).
La méthode forward du MochiTransformer3DModel.
Transformer2DModelOutput
classe diffusers.models.modeling_outputs.Transformer2DModelOutput
< source >( sample: torch.Tensor )
Paramètres
- sample (
torch.Tensorde forme(batch_size, num_channels, height, width)ou(batch size, num_vector_embeds - 1, num_latent_pixels)si Transformer2DModel est discret) — Les états cachés en sortie, conditionnés par l'entréeencoder_hidden_states. Si discret, renvoie les distributions de probabilité pour les pixels latents non bruités.
La sortie de Transformer2DModel.