course/pr_1107/ru/_app/immutable/nodes/8.83d4e42a.js

import{s as Q,n as I,o as K}from"../chunks/scheduler.0835143d.js";import{S as V,i as W,e as o,s as n,c as y,h as X,a as i,d as l,b as s,f as J,g as z,j as w,k as O,l as Z,m as a,n as A,t as S,o as U,p as j}from"../chunks/index.0042a36a.js";import{Y as tt}from"../chunks/Youtube.95da9be5.js";import{C as et}from"../chunks/CourseFloatingBanner.42a32842.js";import{H as lt,E as at}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.9eb8592b.js";function nt(q){let r,v,d,x,m,C,f,T,p,E,u,N="Кодировщики используют только компонент кодировщика трансформера. На каждом этапе слой внимания может использовать все слова исходного предложения. Эти модели часто характеризуют как имеющие двунаправленное внимание (англ. bi-directional attention), и часто называют моделями <em>автокодировщиками</em>.",P,c,Y="Предварительное обучение этих моделей обычно заключается в том, чтобы как-то исказить предложение (например, путем маскировки в нем случайных слов) и поставить перед моделью задачу найти или восстановить исходное предложение.",L,h,D="Кодировщики лучше всего подходят для задач, требующих <em>понимания</em> всего предложения, таких как классификация предложений, распознавание именованных сущностей (и, в более общем смысле, классификация слов) и ответы на вопросы с извлечением информации из контекста (выделительные вопросно-ответные системы).",M,$,F="К представителям этого семейства моделей относятся:",H,g,G='<li><a href="https://huggingface.co/transformers/model_doc/albert.html" rel="nofollow">ALBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/bert.html" rel="nofollow">BERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/distilbert.html" rel="nofollow">DistilBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/electra.html" rel="nofollow">ELECTRA</a></li> <li><a href="https://huggingface.co/transformers/model_doc/roberta.html" rel="nofollow">RoBERTa</a></li>',R,_,B,b,k;return m=new lt({props:{title:"Модели-кодировщики",local:"модели-кодировщики",headingTag:"h1"}}),f=new et({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),p=new tt({props:{id:"MUqNwgPjJvQ"}}),_=new at({props:{source:"https://github.com/huggingface/course/blob/main/chapters/ru/chapter1/5.mdx"}}),{c(){r=o("meta"),v=n(),d=o("p"),x=n(),y(m.$$.fragment),C=n(),y(f.$$.fragment),T=n(),y(p.$$.fragment),E=n(),u=o("p"),u.innerHTML=N,P=n(),c=o("p"),c.textContent=Y,L=n(),h=o("p"),h.innerHTML=D,M=n(),$=o("p"),$.textContent=F,H=n(),g=o("ul"),g.innerHTML=G,R=n(),y(_.$$.fragment),B=n(),b=o("p"),this.h()},l(t){const e=X("svelte-u9bgzb",document.head);r=i(e,"META",{name:!0,content:!0}),e.forEach(l),v=s(t),d=i(t,"P",{}),J(d).forEach(l),x=s(t),z(m.$$.fragment,t),C=s(t),z(f.$$.fragment,t),T=s(t),z(p.$$.fragment,t),E=s(t),u=i(t,"P",{"data-svelte-h":!0}),w(u)!=="svelte-lr7kkl"&&(u.innerHTML=N),P=s(t),c=i(t,"P",{"data-svelte-h":!0}),w(c)!=="svelte-1w67d0g"&&(c.textContent=Y),L=s(t),h=i(t,"P",{"data-svelte-h":!0}),w(h)!=="svelte-1cwwm6b"&&(h.innerHTML=D),M=s(t),$=i(t,"P",{"data-svelte-h":!0}),w($)!=="svelte-bflasu"&&($.textContent=F),H=s(t),g=i(t,"UL",{"data-svelte-h":!0}),w(g)!=="svelte-18kzzol"&&(g.innerHTML=G),R=s(t),z(_.$$.fragment,t),B=s(t),b=i(t,"P",{}),J(b).forEach(l),this.h()},h(){O(r,"name","hf:doc:metadata"),O(r,"content",st)},m(t,e){Z(document.head,r),a(t,v,e),a(t,d,e),a(t,x,e),A(m,t,e),a(t,C,e),A(f,t,e),a(t,T,e),A(p,t,e),a(t,E,e),a(t,u,e),a(t,P,e),a(t,c,e),a(t,L,e),a(t,h,e),a(t,M,e),a(t,$,e),a(t,H,e),a(t,g,e),a(t,R,e),A(_,t,e),a(t,B,e),a(t,b,e),k=!0},p:I,i(t){k||(S(m.$$.fragment,t),S(f.$$.fragment,t),S(p.$$.fragment,t),S(_.$$.fragment,t),k=!0)},o(t){U(m.$$.fragment,t),U(f.$$.fragment,t),U(p.$$.fragment,t),U(_.$$.fragment,t),k=!1},d(t){t&&(l(v),l(d),l(x),l(C),l(T),l(E),l(u),l(P),l(c),l(L),l(h),l(M),l($),l(H),l(g),l(R),l(B),l(b)),l(r),j(m,t),j(f,t),j(p,t),j(_,t)}}}const st='{"title":"Модели-кодировщики","local":"модели-кодировщики","sections":[],"depth":1}';function rt(q){return K(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class ut extends V{constructor(r){super(),W(this,r,rt,nt,Q,{})}}export{ut as component};