Diffusers documentation
MochiTransformer3DModel
MochiTransformer3DModel
تم تقديم نموذج Mochi-1 Preview من نوع Diffusion Transformer للبيانات المشابهة للفيديو ثلاثي الأبعاد بواسطة Genmo.
يمكن تحميل النموذج باستخدام مقتطف الشيفرة التالي.
from diffusers import MochiTransformer3DModel
transformer = MochiTransformer3DModel.from_pretrained("genmo/mochi-1-preview", subfolder="transformer", dtype=torch.float16).to("cuda") # or "mps", "xpu", "cpu"MochiTransformer3DModel
فئة diffusers.MochiTransformer3DModel
< source >( patch_size: int = 2num_attention_heads: int = 24attention_head_dim: int = 128num_layers: int = 48pooled_projection_dim: int = 1536in_channels: int = 12out_channels: int | None = Noneqk_norm: str = 'rms_norm'text_embed_dim: int = 4096time_embed_dim: int = 256activation_fn: str = 'swiglu'max_sequence_length: int = 256 )
المعاملات
- patch_size (
int، القيمة الافتراضية2) — حجم البقع المستخدمة في طبقة تضمين البقع. - num_attention_heads (
int، القيمة الافتراضية24) — عدد الرؤوس المستخدمة في الانتباه متعدد الرؤوس. - attention_head_dim (
int، القيمة الافتراضية128) — عدد القنوات في كل رأس. - num_layers (
int، القيمة الافتراضية48) — عدد طبقات كتل Transformer المستخدمة. - in_channels (
int)، القيمة الافتراضية12) — عدد القنوات في المدخلات. - out_channels (
int، اختياري، القيمة الافتراضيةNone) — عدد القنوات في المخرجات. - qk_norm (
str، القيمة الافتراضية"rms_norm") — طبقة التطبيع المستخدمة. - text_embed_dim (
int، القيمة الافتراضية4096) — البُعد المدخل لتضمينات النص من مُشفِّر النص. - time_embed_dim (
int، القيمة الافتراضية256) — البُعد الناتج لتضمينات خطوات الزمن. - activation_fn (
str، القيمة الافتراضية"swiglu") — دالة التنشيط المستخدمة في الشبكة العصبية الأمامية. - max_sequence_length (
int، القيمة الافتراضية256) — أقصى طول تسلسل مدعوم لتضمينات النص.
نموذج Transformer لبيانات تشبه الفيديو تم تقديمه في Mochi.
forward
< source >( hidden_states: Tensorencoder_hidden_states: Tensortimestep: LongTensorencoder_attention_mask: Tensorattention_kwargs: dict[str, typing.Any] | None = Nonereturn_dict: bool = True ) → torch.Tensor
المعاملات
- hidden_states (
torch.Tensorمن الشكل(batch_size, num_channels, num_frames, height, width)) — مدخلاتhidden_states. - encoder_hidden_states (
torch.Tensorمن الشكل(batch_size, sequence_len, embed_dims)) — تضمينات شرطية (تضمينات محسوبة من الشروط المدخلة مثل الأوامر النصية) للاستخدام. - timestep (
torch.LongTensor) — يُستخدم للإشارة إلى خطوة إزالة الضوضاء. - encoder_attention_mask (
torch.Tensor) — قناع يُطبَّق علىencoder_hidden_statesأثناء الانتباه. - attention_kwargs (
dict، اختياري) — قاموس kwargs يُمرَّر إلىAttentionProcessorإذا تم تحديده، كما هو معرَّف تحتself.processorفي diffusers.models.attention_processor. - return_dict (
bool، اختياري، القيمة الافتراضيةTrue) — ما إذا كان يجب إرجاع~models.transformer_2d.Transformer2DModelOutputبدلاً من tuple عادي.
يعيد
torch.Tensor
مصفوفة المخرجات بعد إزالة الضوضاء ذات الشكل (batch_size, out_channels, num_frames, height, width).
طريقة MochiTransformer3DModel الأمامية.
Transformer2DModelOutput
فئة diffusers.models.modeling_outputs.Transformer2DModelOutput
< source >( sample: torch.Tensor )
المعاملات
- sample (
torch.Tensorمن الشكل(batch_size, num_channels, height, width)أو(batch size, num_vector_embeds - 1, num_latent_pixels)إذا كان Transformer2DModel منفصلاً) — مخرجات الحالات المخفية المشروطة على مدخلencoder_hidden_states. إذا كان منفصلاً، يعيد توزيعات الاحتمال للبكسلات الكامنة غير الملوثة.
مخرجات Transformer2DModel.