import{s as Q,n as V,o as I}from"../chunks/scheduler.37c15a92.js";import{S as K,i as W,g as i,s as l,r as B,A as X,h as o,f as n,c as h,j as J,u as q,x as b,k as O,y as Z,a,v as A,d as j,t as k,w as N}from"../chunks/index.2bf4358c.js";import{Y as tt}from"../chunks/Youtube.1e50a667.js";import{C as et}from"../chunks/CourseFloatingBanner.06521e8b.js";import{H as nt,E as at}from"../chunks/EditOnGithub.8916dc7c.js";function lt(S){let m,x,v,C,c,y,r,w,s,E,u,U="Các mô hình mã hóa chỉ sử dụng phần mã hóa của mô hình Transformer. Ở mỗi bước, các lớp attention có thể truy cập tất cả các từ trong câu ban đầu. Những mô hình này thường có đặc trưng là chú ý “hai chiều” và thường được gọi là mô hình <em>auto-encoding</em> hay <em>mã hóa tự động</em>.",T,f,Y="Việc huấn luyện trước các mô hình này thường xoay quanh việc phá vỡ một câu đã cho bằng cách nào đó (ví dụ: bằng cách che các từ ngẫu nhiên trong đó) và yêu cầu mô hình tìm hoặc tái tạo lại câu ban đầu.",P,p,D="Mô hình mã hóa phù hợp nhất cho các tác vụ yêu cầu hiểu toàn bộ câu, chẳng hạn như phân loại câu, nhận dạng thực thể được đặt tên (và nói chung là phân loại từ) và trả lời câu hỏi chiết xuất.",M,g,F="Một số mô hình tiêu biểu của nhóm này bao gồm:",L,$,G='<li><a href="https://huggingface.co/transformers/model_doc/albert.html" rel="nofollow">ALBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/bert.html" rel="nofollow">BERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/distilbert.html" rel="nofollow">DistilBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/electra.html" rel="nofollow">ELECTRA</a></li> <li><a href="https://huggingface.co/transformers/model_doc/roberta.html" rel="nofollow">RoBERTa</a></li>',R,_,H,d,z;return c=new nt({props:{title:"Các mô hình mã hóa",local:"các-mô-hình-mã-hóa",headingTag:"h1"}}),r=new et({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),s=new tt({props:{id:"MUqNwgPjJvQ"}}),_=new at({props:{source:"https://github.com/huggingface/course/blob/main/chapters/vi/chapter1/5.mdx"}}),{c(){m=i("meta"),x=l(),v=i("p"),C=l(),B(c.$$.fragment),y=l(),B(r.$$.fragment),w=l(),B(s.$$.fragment),E=l(),u=i("p"),u.innerHTML=U,T=l(),f=i("p"),f.textContent=Y,P=l(),p=i("p"),p.textContent=D,M=l(),g=i("p"),g.textContent=F,L=l(),$=i("ul"),$.innerHTML=G,R=l(),B(_.$$.fragment),H=l(),d=i("p"),this.h()},l(t){const e=X("svelte-u9bgzb",document.head);m=o(e,"META",{name:!0,content:!0}),e.forEach(n),x=h(t),v=o(t,"P",{}),J(v).forEach(n),C=h(t),q(c.$$.fragment,t),y=h(t),q(r.$$.fragment,t),w=h(t),q(s.$$.fragment,t),E=h(t),u=o(t,"P",{"data-svelte-h":!0}),b(u)!=="svelte-fx97ae"&&(u.innerHTML=U),T=h(t),f=o(t,"P",{"data-svelte-h":!0}),b(f)!=="svelte-j530oq"&&(f.textContent=Y),P=h(t),p=o(t,"P",{"data-svelte-h":!0}),b(p)!=="svelte-yi2kz0"&&(p.textContent=D),M=h(t),g=o(t,"P",{"data-svelte-h":!0}),b(g)!=="svelte-1y8v6i9"&&(g.textContent=F),L=h(t),$=o(t,"UL",{"data-svelte-h":!0}),b($)!=="svelte-18kzzol"&&($.innerHTML=G),R=h(t),q(_.$$.fragment,t),H=h(t),d=o(t,"P",{}),J(d).forEach(n),this.h()},h(){O(m,"name","hf:doc:metadata"),O(m,"content",ht)},m(t,e){Z(document.head,m),a(t,x,e),a(t,v,e),a(t,C,e),A(c,t,e),a(t,y,e),A(r,t,e),a(t,w,e),A(s,t,e),a(t,E,e),a(t,u,e),a(t,T,e),a(t,f,e),a(t,P,e),a(t,p,e),a(t,M,e),a(t,g,e),a(t,L,e),a(t,$,e),a(t,R,e),A(_,t,e),a(t,H,e),a(t,d,e),z=!0},p:V,i(t){z||(j(c.$$.fragment,t),j(r.$$.fragment,t),j(s.$$.fragment,t),j(_.$$.fragment,t),z=!0)},o(t){k(c.$$.fragment,t),k(r.$$.fragment,t),k(s.$$.fragment,t),k(_.$$.fragment,t),z=!1},d(t){t&&(n(x),n(v),n(C),n(y),n(w),n(E),n(u),n(T),n(f),n(P),n(p),n(M),n(g),n(L),n($),n(R),n(H),n(d)),n(m),N(c,t),N(r,t),N(s,t),N(_,t)}}}const ht='{"title":"Các mô hình mã hóa","local":"các-mô-hình-mã-hóa","sections":[],"depth":1}';function mt(S){return I(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class ut extends K{constructor(m){super(),W(this,m,mt,lt,Q,{})}}export{ut as component};
