Kuis Akhir Bab

1. Apa urutan pipeline pemodelan bahasa?

2. Berapa dimensi tensor yang dihasilkan oleh model Transformer dasar, dan apa saja?

3. Mana dari berikut ini yang merupakan contoh tokenisasi sub-kata ( subword )?

4. Apa itu model head ?

5. Apa itu AutoModel ?

6. Teknik apa yang perlu diperhatikan saat membuat batch dari sekuens dengan panjang berbeda?

7. Apa tujuan menerapkan fungsi SoftMax pada output logits dari model klasifikasi sekuens?

8. Metode apa yang menjadi inti dari API tokenizer?

9. Apa isi dari variabel result dalam contoh kode berikut?

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("bert-base-cased")
result = tokenizer.tokenize("Hello!")

10. Apakah ada yang salah dengan kode berikut?

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("bert-base-cased")
model = AutoModel.from_pretrained("gpt2")

encoded = tokenizer("Hey!", return_tensors="pt")
result = model(**encoded)