course/pr_1180/my/_app/immutable/nodes/84.df97ff0d.js

import{s as pt,n as ct,o as ft}from"../chunks/scheduler.893fe8c9.js";import{S as dt,i as Lt,e as s,s as l,c as v,h as $t,a,d as n,b as r,f as mt,g as k,j as g,k as ut,l as xt,m as i,n as _,t as A,o as E,p as w}from"../chunks/index.b1df2166.js";import{C as Pt,H as Z,E as Tt}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.f3c9682b.js";import{Y as ht}from"../chunks/Youtube.ec5d7916.js";import{C as yt}from"../chunks/CourseFloatingBanner.c1c08878.js";function bt(tt){let o,N,F,I,m,U,u,G,p,D,c,et="ဒီသင်တန်းကို ဒီအထိ လေ့လာနိုင်ခဲ့ရင် ဂုဏ်ယူပါတယ်။ အခု သင်ဟာ 🤗 Transformers နဲ့ Hugging Face ecosystem ကို အသုံးပြုပြီး (နီးပါး) မည်သည့် language task ကိုမဆို ဖြေရှင်းဖို့ လိုအပ်တဲ့ ဗဟုသုတနဲ့ ကိရိယာတွေအားလုံးကို ရရှိထားပါပြီ။",z,f,R,d,nt="ဒီသင်တန်းမှာ ကျွန်တော်တို့ traditional NLP tasks များစွာကို ဖော်ပြခဲ့ပေမယ့်၊ ဒီနယ်ပယ်ကို Large Language Models (LLMs) တွေက တော်လှန်ပြောင်းလဲခဲ့ပါတယ်။ ဒီ models တွေက language processing မှာ ဖြစ်နိုင်ခြေတွေကို သိသိသာသာ ချဲ့ထွင်ခဲ့ပါတယ်-",S,L,it="<li>၎င်းတို့ဟာ task-specific fine-tuning မလိုအပ်ဘဲ tasks များစွာကို ကိုင်တွယ်နိုင်ပါတယ်။</li> <li>၎င်းတို့ဟာ ညွှန်ကြားချက်တွေကို လိုက်နာရာမှာနဲ့ မတူညီတဲ့ အခြေအနေတွေနဲ့ လိုက်လျောညီထွေဖြစ်အောင် လုပ်ဆောင်ရာမှာ ထူးချွန်ပါတယ်။</li> <li>၎င်းတို့ဟာ မတူညီတဲ့ applications တွေအတွက် စနစ်တကျ၊ အခြေအနေနဲ့ကိုက်ညီတဲ့ text တွေကို ထုတ်လုပ်နိုင်ပါတယ်။</li> <li>၎င်းတို့ဟာ chain-of-thought prompting လို နည်းလမ်းတွေကနေ reasoning လုပ်ပြီး ရှုပ်ထွေးတဲ့ ပြဿနာတွေကို ဖြေရှင်းနိုင်ပါတယ်။</li>",B,$,lt="သင်သင်ယူခဲ့တဲ့ အခြေခံ NLP skills တွေဟာ LLMs တွေနဲ့ ထိထိရောက်ရောက် အလုပ်လုပ်ဖို့အတွက် မရှိမဖြစ်လိုအပ်နေဆဲပါ။ tokenization၊ model architectures၊ fine-tuning approaches နဲ့ evaluation metrics တွေကို နားလည်ခြင်းက LLMs တွေကို အပြည့်အဝ အကျိုးယူနိုင်ဖို့ လိုအပ်တဲ့ ဗဟုသုတတွေကို ပံ့ပိုးပေးပါတယ်။",O,x,rt="ကျွန်တော်တို့ data collators အမျိုးမျိုးကို တွေ့ခဲ့ရပြီးပြီဖြစ်တဲ့အတွက်၊ task တစ်ခုစီအတွက် ဘယ်ဟာကို အသုံးပြုရမလဲဆိုတာ ရှာဖွေနိုင်ဖို့ ဒီဗီဒီယိုလေးကို ကျွန်တော်တို့ ပြုလုပ်ပေးထားပါတယ်။",q,P,j,T,st="core language tasks တွေကို လျင်မြန်စွာ လေ့လာပြီးနောက်၊ သင်ဟာ အောက်ပါတို့ကို သိရှိသင့်ပါတယ်။",Y,h,at="<li>Architecture အမျိုးအစား (encoder, decoder, ဒါမှမဟုတ် encoder-decoder) တွေထဲက ဘယ်ဟာက task တစ်ခုစီအတွက် အကောင်းဆုံးသင့်လျော်လဲ။</li> <li>language model ကို pretraining လုပ်တာနဲ့ fine-tuning လုပ်တာကြားက ကွာခြားချက်ကို နားလည်ပါ။</li> <li>သင်လိုက်နာခဲ့တဲ့ track ပေါ်မူတည်ပြီး <code>Trainer</code> API နဲ့ 🤗 Accelerate ရဲ့ distributed training features တွေ ဒါမှမဟုတ် TensorFlow နဲ့ Keras ကို အသုံးပြုပြီး Transformer models တွေကို ဘယ်လို train လုပ်ရမလဲ။</li> <li>text generation tasks တွေအတွက် ROUGE နဲ့ BLEU လို metrics တွေရဲ့ အဓိပ္ပာယ်နဲ့ ကန့်သတ်ချက်တွေကို နားလည်ပါ။</li> <li>Hub ပေါ်မှာရော 🤗 Transformers က <code>pipeline</code> ကို အသုံးပြုပြီးရော သင် fine-tune လုပ်ထားတဲ့ models တွေနဲ့ ဘယ်လို interact လုပ်ရမလဲ။</li> <li>LLMs တွေက traditional NLP techniques တွေကို ဘယ်လိုအခြေခံပြီး ချဲ့ထွင်ထားတယ်ဆိုတာကို တန်ဖိုးထား နားလည်ပါ။</li>",K,y,ot="ဒီဗဟုသုတအားလုံး ရှိနေပေမယ့်လည်း၊ သင့် code မှာ ခက်ခဲတဲ့ bug တစ်ခုနဲ့ ကြုံတွေ့ရတာ ဒါမှမဟုတ် သီးခြား language processing problem တစ်ခုကို ဘယ်လိုဖြေရှင်းရမလဲဆိုတာ မေးခွန်းရှိလာတာမျိုး ဖြစ်လာနိုင်ပါတယ်။ ကံကောင်းစွာနဲ့ပဲ၊ Hugging Face community က သင့်ကို ကူညီဖို့ အသင့်ရှိပါတယ်။ သင်တန်းရဲ့ ဒီအပိုင်းရဲ့ နောက်ဆုံးအခန်းမှာ၊ သင့် Transformer models တွေကို ဘယ်လို debug လုပ်ရမလဲနဲ့ ထိထိရောက်ရောက် အကူအညီတောင်းရမလဲဆိုတာကို ကျွန်တော်တို့ လေ့လာသွားမှာပါ။",J,b,Q,C,gt="<li><strong>LLMs (Large Language Models)</strong>: လူသားဘာသာစကားကို နားလည်ပြီး ထုတ်လုပ်ပေးနိုင်တဲ့ အလွန်ကြီးမားတဲ့ Artificial Intelligence (AI) မော်ဒယ်တွေ ဖြစ်ပါတယ်။ ၎င်းတို့ဟာ ဒေတာအမြောက်အမြားနဲ့ သင်ကြားလေ့ကျင့်ထားပြီး စာရေးတာ၊ မေးခွန်းဖြေတာ စတဲ့ ဘာသာစကားဆိုင်ရာ လုပ်ငန်းမျိုးစုံကို လုပ်ဆောင်နိုင်ပါတယ်။</li> <li><strong>🤗 Transformers Library</strong>: Hugging Face က ထုတ်လုပ်ထားတဲ့ library တစ်ခုဖြစ်ပြီး Transformer မော်ဒယ်တွေကို အသုံးပြုပြီး Natural Language Processing (NLP), computer vision, audio processing စတဲ့ နယ်ပယ်တွေမှာ အဆင့်မြင့် AI မော်ဒယ်တွေကို တည်ဆောက်ပြီး အသုံးပြုနိုင်စေပါတယ်။</li> <li><strong>Hugging Face Ecosystem</strong>: Hugging Face ကုမ္ပဏီမှ ဖန်တီးထားတဲ့ AI နဲ့ machine learning အတွက် ကိရိယာတွေ၊ library တွေ၊ မော်ဒယ်တွေနဲ့ platform တွေရဲ့ အစုအဝေးတစ်ခုပါ။</li> <li><strong>NLP (Natural Language Processing)</strong>: ကွန်ပျူတာတွေ လူသားဘာသာစကားကို နားလည်၊ အဓိပ္ပာယ်ဖော်ပြီး၊ ဖန်တီးနိုင်အောင် လုပ်ဆောင်ပေးတဲ့ Artificial Intelligence (AI) ရဲ့ နယ်ပယ်ခွဲတစ်ခုပါ။</li> <li><strong>Traditional NLP Tasks</strong>: Neural Networks များ မပေါ်မီက အသုံးပြုခဲ့သော Natural Language Processing (NLP) models များဖြင့် လုပ်ဆောင်ခဲ့သော လုပ်ငန်းများ (ဥပမာ- rule-based systems, statistical models)။</li> <li><strong>Task-specific Fine-tuning</strong>: သီးခြား task တစ်ခုအတွက်သာ model ကို ထပ်မံလေ့ကျင့်ခြင်း။</li> <li><strong>Instructions</strong>: LLM ကို လုပ်ဆောင်ရန် ညွှန်ကြားသော အမိန့်များ။</li> <li><strong>Contexts</strong>: LLM ကို အသုံးပြုသည့် အခြေအနေများ သို့မဟုတ် ပတ်ဝန်းကျင်။</li> <li><strong>Generate Coherent Text</strong>: ဆီလျော်မှုရှိပြီး နားလည်လွယ်သော စာသားကို ထုတ်လုပ်ခြင်း။</li> <li><strong>Contextually Appropriate Text</strong>: ပေးထားသော အခြေအနေ သို့မဟုတ် ခေါင်းစဉ်နှင့် ကိုက်ညီသော စာသား။</li> <li><strong>Reasoning</strong>: ဆင်ခြင်တုံတရားဖြင့် ပြဿနာများကို ဖြေရှင်းနိုင်စွမ်း။</li> <li><strong>Chain-of-thought Prompting</strong>: LLM ကို ပြဿနာဖြေရှင်းရာတွင် အဆင့်ဆင့် တွေးခေါ်စေရန် လမ်းညွှန်သော prompting နည်းလမ်း။</li> <li><strong>Foundational NLP Skills</strong>: NLP နယ်ပယ်တွင် မရှိမဖြစ်လိုအပ်သော အခြေခံကျွမ်းကျင်မှုများ။</li> <li><strong>Tokenization</strong>: စာသား (သို့မဟုတ် အခြားဒေတာ) ကို AI မော်ဒယ်များ စီမံဆောင်ရွက်နိုင်ရန် tokens တွေအဖြစ် ပိုင်းခြားပေးသည့် လုပ်ငန်းစဉ်။</li> <li><strong>Model Architectures</strong>: Model တစ်ခု၏ layers များနှင့် ၎င်းတို့ ချိတ်ဆက်ပုံကို ဖော်ပြသော ဒီဇိုင်းဖွဲ့စည်းပုံ။</li> <li><strong>Fine-tuning Approaches</strong>: Pretrained model တစ်ခုကို သီးခြား task တစ်ခုအတွက် ထပ်မံလေ့ကျင့်ရန် နည်းလမ်းများ။</li> <li><strong>Evaluation Metrics</strong>: Model ၏ စွမ်းဆောင်ရည်ကို တိုင်းတာရန် အသုံးပြုသော တန်ဖိုးများ (ဥပမာ- ROUGE, BLEU, F1 score)။</li> <li><strong>Data Collators</strong>: Dataset မှ input samples များကို batch တစ်ခုအဖြစ် စုစည်းပေးသော function များ။</li> <li><strong>Core Language Tasks</strong>: ဘာသာစကားနှင့် သက်ဆိုင်သော အဓိကလုပ်ငန်းများ (ဥပမာ- translation, summarization)။</li> <li><strong>Architecture (Encoder, Decoder, Encoder-Decoder)</strong>: Transformer Model ၏ အမျိုးအစားများ (input ကို နားလည်ရန် Encoder၊ output ကို ထုတ်လုပ်ရန် Decoder၊ နှစ်ခုလုံးပါဝင်ရန် Encoder-Decoder)။</li> <li><strong>Pretraining</strong>: Model တစ်ခုကို အကြီးစားဒေတာများဖြင့် အစောပိုင်းကတည်းက လေ့ကျင့်ထားခြင်း။</li> <li><strong>Fine-tuning</strong>: ကြိုတင်လေ့ကျင့်ထားပြီးသား (pre-trained) မော်ဒယ်တစ်ခုကို သီးခြားလုပ်ငန်းတစ်ခု (specific task) အတွက် အနည်းငယ်သော ဒေတာနဲ့ ထပ်မံလေ့ကျင့်ပေးခြင်း။</li> <li><strong>Language Model</strong>: လူသားဘာသာစကား၏ ဖြန့်ဝေမှုကို နားလည်ရန် လေ့ကျင့်ထားသော AI မော်ဒယ်တစ်ခု။</li> <li><strong><code>Trainer</code> API</strong>: Hugging Face Transformers library မှ model များကို ထိရောက်စွာ လေ့ကျင့်ရန်အတွက် ဒီဇိုင်းထုတ်ထားသော မြင့်မားသောအဆင့် API။</li> <li><strong>Distributed Training</strong>: model တစ်ခုကို ကွန်ပျူတာ သို့မဟုတ် GPU များစွာဖြင့် တစ်ပြိုင်နက်တည်း လေ့ကျင့်ခြင်း။</li> <li><strong>🤗 Accelerate</strong>: Hugging Face က ထုတ်လုပ်ထားတဲ့ library တစ်ခုဖြစ်ပြီး PyTorch code တွေကို မတူညီတဲ့ training environment (ဥပမာ - GPU အများအပြား၊ distributed training) တွေမှာ အလွယ်တကူ run နိုင်အောင် ကူညီပေးပါတယ်။</li> <li><strong>TensorFlow</strong>: Google က ဖန်တီးထားတဲ့ open-source machine learning library တစ်ခုဖြစ်ပြီး deep learning မော်ဒယ်တွေ တည်ဆောက်ဖို့အတွက် အသုံးပြုပါတယ်။</li> <li><strong>Keras</strong>: TensorFlow library တွင် ပါဝင်သော မြင့်မားသောအဆင့် (high-level) API တစ်ခုဖြစ်ပြီး deep learning models များကို လွယ်ကူလျင်မြန်စွာ တည်ဆောက်ရန် အသုံးပြုသည်။</li> <li><strong>ROUGE (Recall-Oriented Understudy for Gisting Evaluation)</strong>: Summarization tasks များတွင် model ၏ output ကို အမှန်တကယ် summary (reference summary) များနှင့် နှိုင်းယှဉ်၍ အကဲဖြတ်သော metric။</li> <li><strong>BLEU (Bilingual Evaluation Understudy)</strong>: Machine translation tasks များတွင် model ၏ output ကို reference translation များနှင့် နှိုင်းယှဉ်၍ အကဲဖြတ်သော metric။</li> <li><strong>Text Generation Tasks</strong>: AI မော်ဒယ်များကို အသုံးပြု၍ လူသားကဲ့သို့သော စာသားအသစ်များ ဖန်တီးခြင်းနှင့် သက်ဆိုင်သော လုပ်ငန်းများ။</li> <li><strong>Interact</strong>: model ၏ input ကို ပေးပြီး output ကို ရယူခြင်း။</li> <li><strong><code>pipeline</code> Function</strong>: Hugging Face Transformers library မှာ ပါဝင်တဲ့ လုပ်ဆောင်ချက်တစ်ခုဖြစ်ပြီး မော်ဒယ်တွေကို သီးခြားလုပ်ငန်းတာဝန်များ (ဥပမာ- စာသားခွဲခြားသတ်မှတ်ခြင်း၊ စာသားထုတ်လုပ်ခြင်း) အတွက် အသုံးပြုရလွယ်ကူအောင် ပြုလုပ်ပေးပါတယ်။</li> <li><strong>Debug</strong>: code တွင်ရှိသော အမှားများ (bugs) ကို ရှာဖွေပြီး ပြင်ဆင်ခြင်း။</li>",V,M,W,H,X;return m=new Pt({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),u=new Z({props:{title:"LLM များကို ကျွမ်းကျင်ခြင်း",local:"mastering-llms",headingTag:"h1"}}),p=new yt({props:{chapter:7,classNames:"absolute z-10 right-0 top-0"}}),f=new Z({props:{title:"NLP မှ LLM များဆီသို့",local:"nlp-မ-llm-မဆသ",headingTag:"h2"}}),P=new ht({props:{id:"-RPeakdlHYo"}}),b=new Z({props:{title:"ဝေါဟာရ ရှင်းလင်းချက် (Glossary)",local:"ဝဟရ-ရငလငခက-glossary",headingTag:"h2"}}),M=new Tt({props:{source:"https://github.com/huggingface/course/blob/main/chapters/my/chapter7/8.mdx"}}),{c(){o=s("meta"),N=l(),F=s("p"),I=l(),v(m.$$.fragment),U=l(),v(u.$$.fragment),G=l(),v(p.$$.fragment),D=l(),c=s("p"),c.textContent=et,z=l(),v(f.$$.fragment),R=l(),d=s("p"),d.textContent=nt,S=l(),L=s("ul"),L.innerHTML=it,B=l(),$=s("p"),$.textContent=lt,O=l(),x=s("p"),x.textContent=rt,q=l(),v(P.$$.fragment),j=l(),T=s("p"),T.textContent=st,Y=l(),h=s("ul"),h.innerHTML=at,K=l(),y=s("p"),y.textContent=ot,J=l(),v(b.$$.fragment),Q=l(),C=s("ul"),C.innerHTML=gt,V=l(),v(M.$$.fragment),W=l(),H=s("p"),this.h()},l(t){const e=$t("svelte-u9bgzb",document.head);o=a(e,"META",{name:!0,content:!0}),e.forEach(n),N=r(t),F=a(t,"P",{}),mt(F).forEach(n),I=r(t),k(m.$$.fragment,t),U=r(t),k(u.$$.fragment,t),G=r(t),k(p.$$.fragment,t),D=r(t),c=a(t,"P",{"data-svelte-h":!0}),g(c)!=="svelte-1qhljyn"&&(c.textContent=et),z=r(t),k(f.$$.fragment,t),R=r(t),d=a(t,"P",{"data-svelte-h":!0}),g(d)!=="svelte-130smla"&&(d.textContent=nt),S=r(t),L=a(t,"UL",{"data-svelte-h":!0}),g(L)!=="svelte-1fhium4"&&(L.innerHTML=it),B=r(t),$=a(t,"P",{"data-svelte-h":!0}),g($)!=="svelte-1w86faq"&&($.textContent=lt),O=r(t),x=a(t,"P",{"data-svelte-h":!0}),g(x)!=="svelte-1ij8hss"&&(x.textContent=rt),q=r(t),k(P.$$.fragment,t),j=r(t),T=a(t,"P",{"data-svelte-h":!0}),g(T)!=="svelte-4i3u2i"&&(T.textContent=st),Y=r(t),h=a(t,"UL",{"data-svelte-h":!0}),g(h)!=="svelte-o1md2d"&&(h.innerHTML=at),K=r(t),y=a(t,"P",{"data-svelte-h":!0}),g(y)!=="svelte-6w5ka9"&&(y.textContent=ot),J=r(t),k(b.$$.fragment,t),Q=r(t),C=a(t,"UL",{"data-svelte-h":!0}),g(C)!=="svelte-1a7tbnw"&&(C.innerHTML=gt),V=r(t),k(M.$$.fragment,t),W=r(t),H=a(t,"P",{}),mt(H).forEach(n),this.h()},h(){ut(o,"name","hf:doc:metadata"),ut(o,"content",Ct)},m(t,e){xt(document.head,o),i(t,N,e),i(t,F,e),i(t,I,e),_(m,t,e),i(t,U,e),_(u,t,e),i(t,G,e),_(p,t,e),i(t,D,e),i(t,c,e),i(t,z,e),_(f,t,e),i(t,R,e),i(t,d,e),i(t,S,e),i(t,L,e),i(t,B,e),i(t,$,e),i(t,O,e),i(t,x,e),i(t,q,e),_(P,t,e),i(t,j,e),i(t,T,e),i(t,Y,e),i(t,h,e),i(t,K,e),i(t,y,e),i(t,J,e),_(b,t,e),i(t,Q,e),i(t,C,e),i(t,V,e),_(M,t,e),i(t,W,e),i(t,H,e),X=!0},p:ct,i(t){X||(A(m.$$.fragment,t),A(u.$$.fragment,t),A(p.$$.fragment,t),A(f.$$.fragment,t),A(P.$$.fragment,t),A(b.$$.fragment,t),A(M.$$.fragment,t),X=!0)},o(t){E(m.$$.fragment,t),E(u.$$.fragment,t),E(p.$$.fragment,t),E(f.$$.fragment,t),E(P.$$.fragment,t),E(b.$$.fragment,t),E(M.$$.fragment,t),X=!1},d(t){t&&(n(N),n(F),n(I),n(U),n(G),n(D),n(c),n(z),n(R),n(d),n(S),n(L),n(B),n($),n(O),n(x),n(q),n(j),n(T),n(Y),n(h),n(K),n(y),n(J),n(Q),n(C),n(V),n(W),n(H)),n(o),w(m,t),w(u,t),w(p,t),w(f,t),w(P,t),w(b,t),w(M,t)}}}const Ct='{"title":"LLM များကို ကျွမ်းကျင်ခြင်း","local":"mastering-llms","sections":[{"title":"NLP မှ LLM များဆီသို့","local":"nlp-မ-llm-မဆသ","sections":[],"depth":2},{"title":"ဝေါဟာရ ရှင်းလင်းချက် (Glossary)","local":"ဝဟရ-ရငလငခက-glossary","sections":[],"depth":2}],"depth":1}';function Mt(tt){return ft(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class wt extends dt{constructor(o){super(),Lt(this,o,Mt,bt,pt,{})}}export{wt as component};