course/pr_1195/vi/_app/immutable/nodes/8.fd84bf4e.js

import{s as I,n as K,o as W}from"../chunks/scheduler.893fe8c9.js";import{S as X,i as Z,e as h,s as l,c as x,h as tt,a as o,d as n,b as m,f as Q,g as C,j as y,k as V,l as et,m as a,n as w,t as T,o as E,p as M}from"../chunks/index.2d09ebb4.js";import{C as nt,H as at,E as lt}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.8445ba80.js";import{Y as mt}from"../chunks/Youtube.b7012d06.js";import{C as it}from"../chunks/CourseFloatingBanner.e3aeab73.js";function ht(Y){let i,P,b,L,r,R,c,z,s,H,u,B,f,D="Các mô hình mã hóa chỉ sử dụng phần mã hóa của mô hình Transformer. Ở mỗi bước, các lớp attention có thể truy cập tất cả các từ trong câu ban đầu. Những mô hình này thường có đặc trưng là chú ý “hai chiều” và thường được gọi là mô hình <em>auto-encoding</em> hay <em>mã hóa tự động</em>.",q,p,F="Việc huấn luyện trước các mô hình này thường xoay quanh việc phá vỡ một câu đã cho bằng cách nào đó (ví dụ: bằng cách che các từ ngẫu nhiên trong đó) và yêu cầu mô hình tìm hoặc tái tạo lại câu ban đầu.",S,g,G="Mô hình mã hóa phù hợp nhất cho các tác vụ yêu cầu hiểu toàn bộ câu, chẳng hạn như phân loại câu, nhận dạng thực thể được đặt tên (và nói chung là phân loại từ) và trả lời câu hỏi chiết xuất.",j,$,J="Một số mô hình tiêu biểu của nhóm này bao gồm:",k,_,O='<li><a href="https://huggingface.co/transformers/model_doc/albert.html" rel="nofollow">ALBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/bert.html" rel="nofollow">BERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/distilbert.html" rel="nofollow">DistilBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/electra.html" rel="nofollow">ELECTRA</a></li> <li><a href="https://huggingface.co/transformers/model_doc/roberta.html" rel="nofollow">RoBERTa</a></li>',A,v,N,d,U;return r=new nt({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),c=new at({props:{title:"Các mô hình mã hóa",local:"các-mô-hình-mã-hóa",headingTag:"h1"}}),s=new it({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),u=new mt({props:{id:"MUqNwgPjJvQ"}}),v=new lt({props:{source:"https://github.com/huggingface/course/blob/main/chapters/vi/chapter1/5.mdx"}}),{c(){i=h("meta"),P=l(),b=h("p"),L=l(),x(r.$$.fragment),R=l(),x(c.$$.fragment),z=l(),x(s.$$.fragment),H=l(),x(u.$$.fragment),B=l(),f=h("p"),f.innerHTML=D,q=l(),p=h("p"),p.textContent=F,S=l(),g=h("p"),g.textContent=G,j=l(),$=h("p"),$.textContent=J,k=l(),_=h("ul"),_.innerHTML=O,A=l(),x(v.$$.fragment),N=l(),d=h("p"),this.h()},l(t){const e=tt("svelte-u9bgzb",document.head);i=o(e,"META",{name:!0,content:!0}),e.forEach(n),P=m(t),b=o(t,"P",{}),Q(b).forEach(n),L=m(t),C(r.$$.fragment,t),R=m(t),C(c.$$.fragment,t),z=m(t),C(s.$$.fragment,t),H=m(t),C(u.$$.fragment,t),B=m(t),f=o(t,"P",{"data-svelte-h":!0}),y(f)!=="svelte-fx97ae"&&(f.innerHTML=D),q=m(t),p=o(t,"P",{"data-svelte-h":!0}),y(p)!=="svelte-j530oq"&&(p.textContent=F),S=m(t),g=o(t,"P",{"data-svelte-h":!0}),y(g)!=="svelte-yi2kz0"&&(g.textContent=G),j=m(t),$=o(t,"P",{"data-svelte-h":!0}),y($)!=="svelte-1y8v6i9"&&($.textContent=J),k=m(t),_=o(t,"UL",{"data-svelte-h":!0}),y(_)!=="svelte-18kzzol"&&(_.innerHTML=O),A=m(t),C(v.$$.fragment,t),N=m(t),d=o(t,"P",{}),Q(d).forEach(n),this.h()},h(){V(i,"name","hf:doc:metadata"),V(i,"content",ot)},m(t,e){et(document.head,i),a(t,P,e),a(t,b,e),a(t,L,e),w(r,t,e),a(t,R,e),w(c,t,e),a(t,z,e),w(s,t,e),a(t,H,e),w(u,t,e),a(t,B,e),a(t,f,e),a(t,q,e),a(t,p,e),a(t,S,e),a(t,g,e),a(t,j,e),a(t,$,e),a(t,k,e),a(t,_,e),a(t,A,e),w(v,t,e),a(t,N,e),a(t,d,e),U=!0},p:K,i(t){U||(T(r.$$.fragment,t),T(c.$$.fragment,t),T(s.$$.fragment,t),T(u.$$.fragment,t),T(v.$$.fragment,t),U=!0)},o(t){E(r.$$.fragment,t),E(c.$$.fragment,t),E(s.$$.fragment,t),E(u.$$.fragment,t),E(v.$$.fragment,t),U=!1},d(t){t&&(n(P),n(b),n(L),n(R),n(z),n(H),n(B),n(f),n(q),n(p),n(S),n(g),n(j),n($),n(k),n(_),n(A),n(N),n(d)),n(i),M(r,t),M(c,t),M(s,t),M(u,t),M(v,t)}}}const ot='{"title":"Các mô hình mã hóa","local":"các-mô-hình-mã-hóa","sections":[],"depth":1}';function rt(Y){return W(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class gt extends X{constructor(i){super(),Z(this,i,rt,ht,I,{})}}export{gt as component};