course/pr_1021/rum/_app/immutable/nodes/5.eb895ee4.js

import{s as fe,n as de,o as ge}from"../chunks/scheduler.37c15a92.js";import{S as ve,i as xe,g as l,s as n,r as M,A as $e,h as u,f as i,c as r,j as ce,u as T,x as s,k as pe,y as be,a,v as w,d as j,t as A,w as N}from"../chunks/index.2bf4358c.js";import{C as Le}from"../chunks/CourseFloatingBanner.6add7356.js";import{H as Z,E as Ce}from"../chunks/getInferenceSnippets.ebf8be91.js";function ze(ee){let o,y,H,D,m,G,c,S,p,te="Înainte de a trece la modelele Transformer, haideți să facem o prezentare scurtă despre ce este procesarea limbajului natural și de ce ne interesează.",q,f,k,d,ie="NLP este un domeniu al lingvisticii și al învățării automate axat pe înțelegerea a tot ceea ce este legat de limbajul uman. Scopul sarcinilor NLP nu este doar înțelegerea individuală a cuvintelor, ci și capacitatea de a înțelege contextul acelor cuvinte.",U,g,ae="În continuare urmează o listă a sarcinilor obișnuite de NLP, cu câteva exemple pentru fiecare:",B,v,ne="<li><strong>Clasificarea propozițiilor întregi</strong>: Determinarea caracterului unei recenzii, detectarea dacă un e-mail este spam, determinarea dacă o propoziție este corectă gramatical sau dacă două propoziții sunt legate logic sau nu</li> <li><strong>Clasificarea fiecărui cuvânt dintr-o propoziție</strong>: Identificarea componentelor gramaticale ale unei propoziții (substantiv, verb, adjectiv) sau a entităților nominalizate (persoană, locație, organizație)</li> <li><strong>Generarea conținutului de text</strong>: Completarea unui prompt cu text generat automat, completarea spațiilor goale dintr-un text cu cuvinte mascate</li> <li><strong>Extragerea unui răspuns dintr-un text</strong>: Având o întrebare și un context, se extrage răspunsul la întrebare pe baza informațiilor furnizate în context</li> <li><strong>Generarea unei propoziții noi dintr-un text de intrare</strong>: Traducerea unui text într-o altă limbă, rezumarea textului</li>",F,x,re="NLP nu se limitează însă la textul scris. De asemenea, NLP abordează provocări complexe în domeniul recunoașterii vorbirii și al viziunii computerizate, cum ar fi generarea unei transcrieri a unui fragment audio sau a unei descrieri a unei imagini.",I,$,O,b,le='În ultimii ani, domeniul NLP a fost revoluționat de Large Language Models (LLM-uri). Aceste modele, care includ arhitecturi precum GPT (Generative Pre-trained Transformer) și <a href="https://huggingface.co/meta-llama" rel="nofollow">Llama</a>, au transformat ceea ce este posibil în procesarea limbajului.',R,L,ue="LLM-urile se caracterizează prin:",J,C,se="<li><strong>Mărime</strong>: Conțin milioane, miliarde sau chiar sute de miliarde de parametri</li> <li><strong>Capacități generale</strong>: Pot realiza multiple sarcini fără antrenament specific pentru fiecare sarcină</li> <li><strong>Învățare în context</strong>: Pot învăța din exemplele oferite în prompt</li> <li><strong>Abilități emergente</strong>: Pe măsură ce aceste modele cresc în dimensiune, demonstrează capacități care nu au fost programate sau anticipate în mod explicit</li>",K,z,oe="Apariția LLM-urilor a schimbat paradigma de la construirea unor modele specializate pentru sarcini NLP specifice la utilizarea unui singur model mare care poate fi direcționat prin prompturi sau ajustat pentru a aborda o gamă largă de sarcini lingvistice. Acest lucru a făcut procesarea sofisticată a limbajului mai accesibilă, dar a introdus și noi provocări în domenii precum eficiența, etica și implementarea.",Q,P,V,_,me="Computerele nu procesează informațiile în același mod ca oamenii. De exemplu, atunci când citim propoziția „Mi-e foame”, îi putem înțelege cu ușurință semnificația. În mod similar, având în vedere două propoziții precum „Mi-e foame” și „Sunt trist”, suntem capabili să determinăm cu ușurință cât de asemănătoare sunt acestea. Pentru modelele de învățare automată (ML), astfel de sarcini sunt mai dificile. Textul trebuie prelucrat într-un mod care să permită modelului să învețe din conținutul său. Și deoarece limbajul este complex, trebuie să ne gândim cu atenție la modul optim de a realiza această procesare. Au fost efectuate numeroase cercetări cu privire la modul de reprezentare a textului și vom analiza câteva metode în capitolul următor.",W,h,X,E,Y;return m=new Z({props:{title:"Procesarea limbajului natural",local:"procesarea-limbajului-natural",headingTag:"h1"}}),c=new Le({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),f=new Z({props:{title:"Ce este NLP?",local:"ce-este-nlp",headingTag:"h2"}}),$=new Z({props:{title:"Ascensiunea a Large Language Models (LLM-uri)",local:"rise-of-llms",headingTag:"h2"}}),P=new Z({props:{title:"De ce este o provocare?",local:"de-ce-este-o-provocare",headingTag:"h2"}}),h=new Ce({props:{source:"https://github.com/huggingface/course/blob/main/chapters/rum/chapter1/2.mdx"}}),{c(){o=l("meta"),y=n(),H=l("p"),D=n(),M(m.$$.fragment),G=n(),M(c.$$.fragment),S=n(),p=l("p"),p.textContent=te,q=n(),M(f.$$.fragment),k=n(),d=l("p"),d.textContent=ie,U=n(),g=l("p"),g.textContent=ae,B=n(),v=l("ul"),v.innerHTML=ne,F=n(),x=l("p"),x.textContent=re,I=n(),M($.$$.fragment),O=n(),b=l("p"),b.innerHTML=le,R=n(),L=l("p"),L.textContent=ue,J=n(),C=l("ul"),C.innerHTML=se,K=n(),z=l("p"),z.textContent=oe,Q=n(),M(P.$$.fragment),V=n(),_=l("p"),_.textContent=me,W=n(),M(h.$$.fragment),X=n(),E=l("p"),this.h()},l(e){const t=$e("svelte-u9bgzb",document.head);o=u(t,"META",{name:!0,content:!0}),t.forEach(i),y=r(e),H=u(e,"P",{}),ce(H).forEach(i),D=r(e),T(m.$$.fragment,e),G=r(e),T(c.$$.fragment,e),S=r(e),p=u(e,"P",{"data-svelte-h":!0}),s(p)!=="svelte-fmbegq"&&(p.textContent=te),q=r(e),T(f.$$.fragment,e),k=r(e),d=u(e,"P",{"data-svelte-h":!0}),s(d)!=="svelte-8sq7wi"&&(d.textContent=ie),U=r(e),g=u(e,"P",{"data-svelte-h":!0}),s(g)!=="svelte-wl0akb"&&(g.textContent=ae),B=r(e),v=u(e,"UL",{"data-svelte-h":!0}),s(v)!=="svelte-11rvr2i"&&(v.innerHTML=ne),F=r(e),x=u(e,"P",{"data-svelte-h":!0}),s(x)!=="svelte-o1yxna"&&(x.textContent=re),I=r(e),T($.$$.fragment,e),O=r(e),b=u(e,"P",{"data-svelte-h":!0}),s(b)!=="svelte-t2pbhi"&&(b.innerHTML=le),R=r(e),L=u(e,"P",{"data-svelte-h":!0}),s(L)!=="svelte-1xugikh"&&(L.textContent=ue),J=r(e),C=u(e,"UL",{"data-svelte-h":!0}),s(C)!=="svelte-7j2qxw"&&(C.innerHTML=se),K=r(e),z=u(e,"P",{"data-svelte-h":!0}),s(z)!=="svelte-1lmscm4"&&(z.textContent=oe),Q=r(e),T(P.$$.fragment,e),V=r(e),_=u(e,"P",{"data-svelte-h":!0}),s(_)!=="svelte-1p2hnvv"&&(_.textContent=me),W=r(e),T(h.$$.fragment,e),X=r(e),E=u(e,"P",{}),ce(E).forEach(i),this.h()},h(){pe(o,"name","hf:doc:metadata"),pe(o,"content",Pe)},m(e,t){be(document.head,o),a(e,y,t),a(e,H,t),a(e,D,t),w(m,e,t),a(e,G,t),w(c,e,t),a(e,S,t),a(e,p,t),a(e,q,t),w(f,e,t),a(e,k,t),a(e,d,t),a(e,U,t),a(e,g,t),a(e,B,t),a(e,v,t),a(e,F,t),a(e,x,t),a(e,I,t),w($,e,t),a(e,O,t),a(e,b,t),a(e,R,t),a(e,L,t),a(e,J,t),a(e,C,t),a(e,K,t),a(e,z,t),a(e,Q,t),w(P,e,t),a(e,V,t),a(e,_,t),a(e,W,t),w(h,e,t),a(e,X,t),a(e,E,t),Y=!0},p:de,i(e){Y||(j(m.$$.fragment,e),j(c.$$.fragment,e),j(f.$$.fragment,e),j($.$$.fragment,e),j(P.$$.fragment,e),j(h.$$.fragment,e),Y=!0)},o(e){A(m.$$.fragment,e),A(c.$$.fragment,e),A(f.$$.fragment,e),A($.$$.fragment,e),A(P.$$.fragment,e),A(h.$$.fragment,e),Y=!1},d(e){e&&(i(y),i(H),i(D),i(G),i(S),i(p),i(q),i(k),i(d),i(U),i(g),i(B),i(v),i(F),i(x),i(I),i(O),i(b),i(R),i(L),i(J),i(C),i(K),i(z),i(Q),i(V),i(_),i(W),i(X),i(E)),i(o),N(m,e),N(c,e),N(f,e),N($,e),N(P,e),N(h,e)}}}const Pe='{"title":"Procesarea limbajului natural","local":"procesarea-limbajului-natural","sections":[{"title":"Ce este NLP?","local":"ce-este-nlp","sections":[],"depth":2},{"title":"Ascensiunea a Large Language Models (LLM-uri)","local":"rise-of-llms","sections":[],"depth":2},{"title":"De ce este o provocare?","local":"de-ce-este-o-provocare","sections":[],"depth":2}],"depth":1}';function _e(ee){return ge(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class je extends ve{constructor(o){super(),xe(this,o,_e,ze,fe,{})}}export{je as component};