Buckets:
| import{s as Et,n as kt,o as St}from"../chunks/scheduler.893fe8c9.js";import{S as Ut,i as zt,e as a,s as i,c as m,h as jt,a as r,d as n,b as s,f as Gt,g as u,j as g,k as ct,l as qt,m as l,n as p,t as L,o as f,p as $}from"../chunks/index.b1df2166.js";import{C as Bt,H as O,E as Ot}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.f3c9682b.js";import{Y as Rt}from"../chunks/Youtube.ec5d7916.js";import{C as Wt}from"../chunks/CourseFloatingBanner.c1c08878.js";function Ft(xt){let o,R,q,W,x,F,M,Y,C,D,P,Mt="Transformer ááąáŹáşáááşáá˝áąáá˛ááᯠááááşáááşáážáŹ Natural Language Processing (NLP) áááŻáᏠááŹáá˛á Large Language Models (LLMs) áá˝áąá ááŽáááşáááşááᯠáááşááᯠááźáąáŹááşá¸áá˛áá áşáá˛áˇáá˛á ááŹááźáąáŹááˇáş ááŤáá˝áąááᯠááťá˝ááşááąáŹáşáááŻáˇ áááŻá ááŻááşáááˇáşáá˛áááŻááŹááᯠáĄááťááşá¸ááťáŻááşááąá¸ ááźááˇáşááĄáąáŹááşá",K,d,Q,v,V,h,Ct="Natural Language Processing (NLP) áááŻááŹá ááŹááŹááąááááŹáááşáá˛áˇ Machine Learning áááşáááşáá˛áˇ ááŹááŹá ááŹá¸áááŻááşáᏠáĄáŹá¸ááŻáśá¸ááᯠááŹá¸áááşáááŻáˇ áĄáááááŹá¸áá˛áˇ ááŹááŹáááşáá˝á˛áá áşáᯠááźá áşááŤáááşá NLP ááŻááşáááşá¸ááŹáááşáá˝áąáá˛áˇ áááşáá˝ááşááťááşáááąáŹáˇ áá áşááŻáśá¸ááťááşá¸á áŽáá˛áˇ á ááŹá¸ááŻáśá¸áá˝áąááᯠááŹá¸áááşáááŻáˇáááşáááŻááşáᲠáĄá˛ááŽá ááŹá¸ááŻáśá¸áá˝áąáá˛áˇ áĄááźáąáŹááşá¸áĄáᏠ(context) áááŻá፠ááŹá¸áááşáááŻááşáááŻáˇ ááźá áşááŤáááşá",J,w,Pt="áĄáąáŹááşááŤáááŻáˇáááąáŹáˇ áĄááŻáśá¸ááťáŹá¸áá˛áˇ NLP ááŻááşáááşá¸ááŹáááşáá˝áąáá˛áˇ áĽáááŹáĄááťááŻáˇ ááźá áşááŤáááşá",X,_,dt="<li><strong>á áŹááźáąáŹááşá¸áĄááźááˇáşáĄá áŻáśááᯠáĄááťááŻá¸áĄá áŹá¸áá˝á˛ááźáŹá¸ááźááşá¸ (Classifying whole sentences)</strong>- ááąáááşááŻáśá¸áááşááťááşáá áşááŻáá˛áˇ á áááşááśá áŹá¸áážáŻ (sentiment) ááᯠáážáŹáá˝áąááźááşá¸á email áá áşááŻá spam ááŻááşáááŻááş áááážáááźááşá¸á á áŹááźáąáŹááşá¸áá áşááźáąáŹááşá¸áá˛áˇ ááášááŤáážááşáááşáážáŻááᯠááŻáśá¸ááźááşááźááşá¸á áááŻáˇáááŻááş á áŹááźáąáŹááşá¸áážá áşááźáąáŹááşá¸á ááŻáášáááážááážá áááşá ááşáážáŻáážáááážá ááŻáśá¸ááźááşááźááşá¸á</li> <li><strong>á áŹááźáąáŹááşá¸áá áşááźáąáŹááşá¸áážá á ááŹá¸ááŻáśá¸áá áşááŻáśá¸á áŽááᯠáĄááťááŻá¸áĄá áŹá¸áá˝á˛ááźáŹá¸ááźááşá¸ (Classifying each word in a sentence)</strong>- á áŹááźáąáŹááşá¸áá áşááŻáá˛áˇ ááášááŤáááŻááşáᏠáĄá áááşáĄáááŻááşá¸ááťáŹá¸ (ááŹááşá ááźáááŹá ááŹáááááąáá) ááᯠááąáŹáşááŻááşááźááşá¸á áááŻáˇáááŻááş ááŽá¸ááźáŹá¸áĄáááşááťáŹá¸ (áá°á ááąááŹá áĄáá˝á˛áˇáĄá ááşá¸) ááᯠááąáŹáşááŻááşááźááşá¸á</li> <li><strong>á áŹááŹá¸áĄááźáąáŹááşá¸áĄáᏠáááşááŽá¸ááźááşá¸ (Generating text content)</strong>- áĄáááŻáĄááťáąáŹááşáááşááŽá¸ááŹá¸ááąáŹ á áŹááŹá¸ááźááˇáş ááąá¸áá˝ááşá¸áá áşááŻááᯠááźááˇáşá á˝ááşááźááşá¸á á áŹááŹá¸áá áşááŻáážá áá˝ááşáááşááťáŹá¸ááᯠáážááşááŹá¸ááąáŹ á ááŹá¸ááŻáśá¸ááťáŹá¸ááźááˇáş ááźááˇáşáááşá¸ááźááşá¸á</li> <li><strong>á áŹááŹá¸ááž áĄááźáąááŻááşáá°ááźááşá¸ (Extracting an answer from a text)</strong>- ááąá¸áá˝ááşá¸áá áşááŻáá˛áˇ áĄááźáąáŹááşá¸áĄááŹáá áşáᯠááąá¸ááŹá¸ááźáŽá¸ááąáŹááşá áĄá˛ááŽáĄááźáąáŹááşá¸áĄááŹáážáŹ ááŤáááşáá˛áˇ áĄááťááşáĄáááşáá˝áąáĄááąáŤáş áĄááźáąááśááźáŽá¸ ááąá¸áá˝ááşá¸áá˛áˇáĄááźáąááᯠááŻááşáá°ááźááşá¸á</li> <li><strong>input á áŹááŹá¸áá áşááŻááž á áŹááźáąáŹááşá¸áĄáá áş áááşááŽá¸ááźááşá¸ (Generating a new sentence from an input text)</strong>- á áŹááŹá¸áá áşááŻááᯠáĄááźáŹá¸ááŹááŹá ááŹá¸áá áşááŻáááŻáˇ ááŹááŹááźááşááźááşá¸á á áŹááŹá¸áá áşááŻááᯠáĄááťááşá¸ááťáŻááşááźááşá¸á</li>",Z,T,vt="NLP áᏠá áŹááźááˇáşááąá¸ááŹá¸ááŹá¸áá˛áˇ á áŹááŹá¸áá˝áąáĄáá˝ááşáá˛áááŻáˇ áááˇáşáááşááŹá¸áᏠáááŻááşááŤáá°á¸á áááşá¸áᏠáĄááśáááŻááşáá áşááŻáá˛áˇ áážááşáááşá¸ááᯠáááşááŽá¸ááźááşá¸ ááŤáážáááŻááş ááŻáśáá áşááŻáśááᯠááąáŹáşááźááźááşá¸á áá˛áˇ speech recognition áá˛áˇ computer vision áááşáááşáá˝áąáážáŹ áážáŻááşáá˝áąá¸áá˛áˇ á áááşááąáŤáşáážáŻáá˝áąáááŻá፠ááźáąáážááşá¸ááąá¸ááŤáááşá",tt,y,et,N,ht='áááźáŹááąá¸áááşáážá áşááťáŹá¸áĄáá˝ááşá¸áážáŹááąáŹáˇ Natural Language Processing (NLP) áááşáááşáᏠLarge Language Models (LLMs) áá˝áąááźáąáŹááˇáş ááąáŹáşáážááşááźáąáŹááşá¸áá˛áážáŻáá˝áą ááźáŻáśáá˛áˇáááŤáááşá GPT (Generative Pre-trained Transformer) áá˛áˇ <a href="https://huggingface.co/meta-llama" rel="nofollow">Llama</a> ááᯠarchitecture áá˝áąááŤáááşáá˛áˇ ááŽááąáŹáşáááşáá˝áąáᏠááŹááŹá ááŹá¸ááŻááşááąáŹááşááźááşá¸ áááşáááşáážáŹ ááźá áşáááŻááşááźáąáážááá˛áˇ áĄááŹáá˝áąááᯠááźáąáŹááşá¸áá˛áá áşáá˛áˇááŤáááşá',nt,c,wt="<p>Large Language Model (LLM) áááŻáᏠááťáŹá¸ááźáŹá¸áážáá˛áˇ á áŹááŹá¸ááąááŹáá˝áąáá˛áˇ ááąáˇááťááˇáşááŹá¸áá˛áˇ Artificial Intelligence (AI) ááąáŹáşáááşáá áşááŻááźá áşááźáŽá¸ áá°ááŹá¸áááşáá˛áˇ á áŹááŹá¸áá˝áąááᯠááŹá¸áááşá áááşááŽá¸áááŻááşááŤáááşá ááŹááŹá ááŹá¸ááŻáśá áśáá˝áąááᯠáážááşáááááŻááşááźáŽá¸ ááŽá¸ááźáŹá¸ááŻááşáááşá¸áĄáá˝ááş ááąáˇááťááˇáşáážáŻááážááᲠááŹááŹá ááŹá¸ááŻááşáááşá¸ááťááŻá¸á áŻáśááᯠááŻááşááąáŹááşáááŻááşááŤáááşá áááşá¸áááŻáˇáᏠNatural Language Processing (NLP) áááşáááşáážáŹ ááááááŹáᏠáááŻá¸áááşáážáŻáá áşááŻááᯠáááŻááşá áŹá¸ááźáŻááŤáááşá</p>",lt,b,_t="LLMs áá˝áąáá˛áˇ áá°á¸ááźáŹá¸ááťááşáá˝áąáááąáŹáˇ:",it,I,Tt="<li><strong>áĄáááŻááşá¸áĄáᏠ(Scale)</strong>: áááşá¸áááŻáˇáážáŹ parameters áááşá¸ááąáŤááşá¸ááťáŹá¸á á˝áŹá ááŽááŽááśááąáŤááşá¸ááťáŹá¸á á˝áŹ áááŻáˇáááŻááş ááŹááąáŤááşá¸ááťáŹá¸á á˝áŹááąáŹ ááŽááŽááśááąáŤááşá¸ááťáŹá¸á á˝áŹ ááŤáááşááŤáááşá</li> <li><strong>ááąááŻááťá á˝ááşá¸áááşááťáŹá¸ (General capabilities)</strong>: ááŽá¸ááźáŹá¸ááŻááşáááşá¸áĄáá˝ááş ááąáˇááťááˇáşáážáŻááážááᲠááŻááşáááşá¸ááŹáááşááąáŤááşá¸ááťáŹá¸á á˝áŹááᯠááŻááşááąáŹááşáááŻááşááŤáááşá</li> <li><strong>áĄááźáąáŹááşá¸áĄááŹááąáŤáşáá°áááşá áááşáá°ááźááşá¸ (In-context learning)</strong>: prompt áážáŹ ááąá¸ááŹá¸áá˛áˇ áĽáááŹáá˝áąáááą áááşáá°áááŻááşááŤáááşá</li> <li><strong>ááąáŤáşáá˝ááşááŹááąáŹ á á˝ááşá¸áááşááťáŹá¸ (Emergent abilities)</strong>: ááŽááąáŹáşáááşáá˝áąáá˛áˇ áĄáá˝ááşáĄá áŹá¸ ááźáŽá¸ááŹá¸ááŹááŹáá˛áˇáĄááťáž áááşá¸áááŻáˇáᏠáážááşá¸áážááşá¸áááşá¸áááşá¸ programming ááŻááşááŹá¸ááźááşá¸ ááážááá˛áˇ ááŤáážáááŻááş ááźááŻáááşáááťážáąáŹáşáááˇáşááŹá¸áá˛áˇ á á˝ááşá¸áááşáá˝áąááᯠááźáááŹááŤáááşá</li>",st,H,yt="LLMs áá˝áą ááąáŤáşááąáŤááşááŹááŹáá˛áˇáĄááťáž NLP ááŻááşáááşá¸ááŹáááşáĄááťááŻá¸ááťááŻá¸áĄáá˝ááş ááŽá¸áááˇáşááąáŹáşáááşáá˝áą áááşááąáŹááşáá˛áˇ ááŻáśá áśáááą ááŹááŹá ááŹá¸ááŻááşáááşá¸áĄááťááŻá¸ááťááŻá¸ááᯠááźáąáážááşá¸áááŻááşáááŻáˇ prompt ááąá¸áááŻááşáá˛áˇ ááŤáážáááŻááş fine-tune ááŻááşáááŻááşáá˛áˇ ááąáŹáşáááşááźáŽá¸áá áşááŻáśá¸ááᯠáĄááŻáśá¸ááźáŻáá˛áˇ ááŻáśá áśááᯠááźáąáŹááşá¸áá˛áá˝áŹá¸á áąáá˛áˇááŤáááşá ááŤá áĄáááˇáşááźááˇáş ááŹááŹá ááŹá¸ááŻááşááąáŹááşáážáŻááᯠáááŻáááŻáááşáážááşá¸ááŽá áąáá˛áˇááąáááˇáş ááááąáŹááşáážáŻá ááťááˇáşáááşáá˛áˇ áĄááŻáśá¸ááźáŻáážáŻ (deployment) á áá˛áˇ áááşáááşáá˝áąáážáŹ á áááşááąáŤáşáážáŻáĄáá áşáá˝áąáááŻáááşá¸ ááááşáááşááąá¸áá˛áˇááŤáááşá",at,A,Nt="áááŻáˇááąáŹáş LLMs áá˝áąáážáŹ áĄááąá¸ááźáŽá¸áá˛áˇ áááˇáşáááşááťááşáá˝áąáááşá¸ áážáááŤáááşá",rt,G,bt="<li><strong>áááşááąáŹááşáááşáážáŹá¸ááźá áşááźááşá¸ (Hallucinations)</strong>: áááşá¸áááŻáˇáᏠááážááşáááşáá˛áˇ áĄááťááşáĄáááşáá˝áąááᯠááŻáśááźááşáážáŻáážááážá ááŻááşááŻááşáááŻááşááŤáááşá</li> <li><strong>á á áşáážááşááąáŹ ááŹá¸áááşáážáŻ áááşá¸áá˛áˇááźááşá¸ (Lack of true understanding)</strong>: áááşá¸áááŻáˇáᏠááášááŹááźáŽá¸ááᯠá á áşáážááşá á˝áŹ ááŹá¸áááşááźááşá¸ááážááᲠá áŹáááşá¸áĄááşá¸áááŻááşáᏠááŻáśá áśáá˝áąááąáŤáşáážáŹáᏠáááşáááşááŤáááşá</li> <li><strong>áááşáááŻááşáážáŻ (Bias)</strong>: áááşá¸áááŻáˇáá˛áˇ áááşááźáŹá¸áážáŻááąáᏠááŤáážáááŻááş inputs áá˝áąáážáŹ ááŤáááşáá˛áˇ áááşáááŻááşáážáŻáá˝áąááᯠááźááşáááşááŻááşááŻááşáááŻááşááŤáááşá</li> <li><strong>Context windows áááˇáşáááşááťááş (Limited context windows)</strong>: áááşá¸áááŻáˇáážáŹ áááˇáşáááşááŹá¸áá˛áˇ context windows ááťáŹá¸ áážáááŤáááşá (ááŤááąáááˇáş áááŻá¸áááşááŹááąááŤááźáŽ)</li> <li><strong>áá˝ááşááťá°áᏠáĄáááşá¸áĄááźá áşááťáŹá¸ (Computational resources)</strong>: áááşá¸áááŻáˇáᏠáá˝ááşááťá°áᏠáĄáááşá¸áĄááźá áşááťáŹá¸á á˝áŹ áááŻáĄááşááŤáááşá</li>",gt,E,ot,k,It="áá˝ááşááťá°ááŹáá˝áąáᏠáá°ááŹá¸áá˝áąáááŻááťááŻá¸ ááááşá¸áĄááťááşáĄáááşáá˝áąááᯠááŻááşááąáŹááşáᏠáááŻááşááŤáá°á¸á áĽáááŹáĄááąáá˛áˇ âI am hungryâ áááŻáá˛áˇ á áŹááźáąáŹááşá¸ááᯠáááşáá˛áˇáĄá፠ááťá˝ááşááąáŹáşáááŻáˇá áĄáááášááŹááşááᯠáĄáá˝ááşááá° ááŹá¸áááşáááŻááşááŤáááşá áĄááŹá¸áá°áᲠâI am hungryâ áá˛áˇ âI am sadâ áááŻáá˛áˇ á áŹááźáąáŹááşá¸áážá áşááźáąáŹááşá¸ ááąá¸ááŹá¸áááş áááşá¸áááŻáˇ áááşááąáŹááşáá°ááŽáá˛áááŻááŹááᯠáĄáá˝ááşááá° ááŻáśá¸ááźááşáááŻááşááŤáááşá Machine Learning (ML) ááąáŹáşáááşáá˝áąáĄáá˝ááşááąáŹáˇ ááŽáááŻááŻááşáááşá¸ááŹáááşáá˝áąá áááŻáááşáá˛ááŤáááşá á áŹááŹá¸ááᯠááąáŹáşáááşáááą áááşáá°áááŻááşáá˛áˇ ááŻáśá áśááťááŻá¸áá˛áˇ ááŻááşááąáŹááşáááŻáˇ áááŻááŤáááşá ááŹááŹá ááŹá¸á áážáŻááşáá˝áąá¸ááŹááźáąáŹááˇáş ááŽááŻááşáááşá¸á ááşááᯠáááşáááŻááŻááşáááá˛áááŻáᏠááąááťáŹá ááşá¸á áŹá¸áááŻáˇ áááŻááŤáááşá á áŹááŹá¸áá˝áąááᯠáááşáááŻáááŻááşá áŹá¸ááźáŻááá˛áááŻááŹáá˛áˇ áááşáááşááźáŽá¸ ááŻááąáááá˝áą áĄááťáŹá¸ááźáŽá¸ááŻááşááŹá¸ááźáŽá¸ ááąáŹááşáĄáááşá¸áážáŹ áááşá¸áááşá¸áĄááťááŻáˇááᯠááźááˇáşáážáŻáá˝áŹá¸áážáŹááŤá",mt,S,Ht="LLMs áá˝áąáážáŹ áááŻá¸áááşáážáŻáá˝áą áážáááŹááąáááˇáşáááşá¸á áĄáááášááŹááşááąááŤá¸áážáŻá áááşááťáąá¸áážáŻáááŻááşáᏠáĄááźáąáŹááşá¸áĄáᏠ(cultural context)á áážáąáŹááşááźáąáŹááşáážáŻ (sarcasm) áá˛áˇ ááŹá (humor) áá˝áąááᯠááŹá¸áááşááźááşá¸ á áá˛áˇ áĄááźáąááśááťáá˛áˇ á áááşááąáŤáşáážáŻááťáŹá¸á á˝áŹ ááťááşáážáááąááŤááąá¸áááşá LLMs áá˝áąá ááá°ááŽáá˛áˇ ááąááŹáĄá áŻáĄááąá¸ááťáŹá¸á á˝áŹááąáŤáşáážáŹ áĄááźáŽá¸áĄááťááş ááąáˇááťááˇáşááŹá¸ááźááşá¸ááźááˇáş ááŽá áááşááąáŤáşáážáŻáá˝áąááᯠááźáąáážááşá¸ááąáááˇáşá áážáŻááşáá˝áąá¸áá˛áˇ áĄááźáąáĄááąááťáŹá¸á á˝áŹáážáŹ áá°ááŹá¸áĄáááˇáş ááŹá¸áááşáážáŻáĄááááąáŹáˇ áááąáŹááşáááŻááşááąá¸ááŤáá°á¸á",ut,U,pt,z,At="<li><strong>Natural Language Processing (NLP)</strong>: áá˝ááşááťá°ááŹáá˝áą áá°ááŹá¸ááŹááŹá ááŹá¸ááᯠááŹá¸áááşá áĄáááášááŹááşááąáŹáşááźáŽá¸á áááşááŽá¸áááŻááşáĄáąáŹááş ááŻááşááąáŹááşááąá¸áá˛áˇ Artificial Intelligence (AI) áá˛áˇ áááşáááşáá˝á˛áá áşáᯠááźá áşááŤáááşá áĽáááŹáĄáŹá¸ááźááˇáş á áŹááŹá¸áá˝á˛ááźááşá¸á áááşááźáŹááźááşá¸á ááŹááŹááźááşááźááşá¸ á áááşáááŻáˇ ááŤáááşááŤáááşá</li> <li><strong>Large Language Models (LLMs)</strong>: áá°ááŹá¸ááŹááŹá ááŹá¸ááᯠááŹá¸áááşááźáŽá¸ ááŻááşááŻááşááąá¸áááŻááşáá˛áˇ áĄáá˝ááşááźáŽá¸ááŹá¸áá˛áˇ Artificial Intelligence (AI) ááąáŹáşáááşáá˝áą ááźá áşááŤáááşá áááşá¸áááŻáˇáᏠááąááŹáĄááźáąáŹááşáĄááźáŹá¸áá˛áˇ áááşááźáŹá¸ááąáˇááťááˇáşááŹá¸ááźáŽá¸ á áŹááąá¸ááŹá ááąá¸áá˝ááşá¸ááźáąáᏠá áá˛áˇ ááŹááŹá ááŹá¸áááŻááşáᏠááŻááşáááşá¸ááťááŻá¸á áŻáśááᯠááŻááşááąáŹááşáááŻááşááŤáááşá</li> <li><strong>Transformer Models</strong>: Natural Language Processing (NLP) áážáŹ áĄáąáŹááşááźááşáážáŻááťáŹá¸á á˝áŹááážááá˛áˇáá˛áˇ deep learning architecture áá áşááťááŻá¸ááŤá áááşá¸áááŻáˇáᏠá áŹááŹá¸áá˝áąáá˛á á ááŹá¸ááŻáśá¸áá˝áąáá˛áˇ áááşáá˝ááşáážáŻáá˝áąááᯠâattention mechanismâ ááŻáśá¸ááźáŽá¸ ááŹá¸áááşáĄáąáŹááş áááşááźáŹá¸ááąá¸ááŤáááşá</li> <li><strong>Machine Learning (ML)</strong>: áá˝ááşááťá°ááŹáá˝áąáᏠááąááŹáá˝áąáááą áááşáá°ááźáŽá¸ ááŻááşáááşá¸ááąáŹááşááŹáá˝áąááᯠáá°ááŹá¸áá˝áąáá˛áˇ áá˝ážááşááźáŹá¸ááťááşáááŤáᲠáááŻááşáááŻááşááŻááşááąáŹááşáááŻááşáĄáąáŹááş ááŻááşááąáŹááşááąá¸áá˛áˇ Artificial Intelligence (AI) áá˛áˇ áááşáááşáá˝á˛áá áşáᯠááźá áşááŤáááşá</li> <li><strong>Context</strong>: á ááŹá¸ááŻáśá¸á á áŹááźáąáŹááşá¸ áááŻáˇáááŻááş áĄááźáąáŹááşá¸áĄááŹáá áşááŻáá˛áˇ áĄáááášááŹááşááᯠááŹá¸áááşá áąáááş áá°ááŽááąá¸ááąáŹ áááşáááşá¸ááťááşáážá áĄááťááşáĄáááşááťáŹá¸á</li> <li><strong>Sentiment</strong>: áá°áá áşáŚá¸áá˛áˇ ááśá áŹá¸ááťááşá áááąáŹááŹá¸ ááŤáážáááŻááş áĄááźááşááᯠááąáŹáşááźáá˛áˇ áĄááŹá (áĽáááŹ- ááąáŹááşá¸áááşá áááŻá¸áááşá ááźáŹá¸ááą)</li> <li><strong>Spam</strong>: ááááŻáĄááşáᲠáĄá áŻáááŻááşáĄááźáŻáśáááŻááş ááąá¸áááŻáˇááąáŹ email ááťáŹá¸ áááŻáˇáááŻááş áááşááąáˇááşáťááťáŹá¸á</li> <li><strong>Grammatically Correct</strong>: ááášááŤá ááşá¸ááťááşá¸á ááşá¸áááşá¸ááťáŹá¸áážááˇáş áááŻááşááŽááźááşá¸á</li> <li><strong>Named Entities</strong>: á áŹááŹá¸áá áşááŻáá˛áá˝ááş ááŤáááşááąáŹ áá°áĄáááşá ááąááŹáĄáááşá áĄáá˝á˛áˇáĄá ááşá¸áĄáááş áááŻáˇáááŻááş áĄááźáŹá¸ááŽá¸ááźáŹá¸áĄáááşááťáŹá¸á</li> <li><strong>Text Generation</strong>: AI ááąáŹáşáááşááťáŹá¸ááᯠáĄááŻáśá¸ááźáŻá áá°ááŹá¸áá˛áˇáááŻáˇááąáŹ á áŹááŹá¸áĄáá áşááťáŹá¸ áááşááŽá¸ááźááşá¸á</li> <li><strong>Masked Words</strong>: á áŹááŹá¸áá áşááŻáá˛áá˝ááş áážááşááŹá¸ááąáŹ áááŻáˇáááŻááş ááŻáśá¸áá˝ááşááŹá¸ááąáŹ á ááŹá¸ááŻáśá¸ááťáŹá¸á</li> <li><strong>Speech Recognition</strong>: ááźáąáŹáááŻááąáŹ ááŹááŹá ááŹá¸ááᯠáá˝ááşááťá°ááŹá á áŹááŹá¸áĄááźá áş ááźáąáŹááşá¸áá˛ááŹá¸áááşáááŻááşáááˇáş áááşá¸áááŹá</li> <li><strong>Computer Vision</strong>: áá˝ááşááťá°ááŹááťáŹá¸ááᯠááŻáśááááşááťáŹá¸á ááŽááŽáááŻááťáŹá¸ááᯠáá°ááŹá¸ááťáŹá¸áá˛áˇáááŻáˇ ááźááşá ááŹá¸áááşáááŻááşáĄáąáŹááş áááşááźáŹá¸ááąá¸áááˇáş Artificial Intelligence (AI) áááşáááşá</li> <li><strong>Transcript</strong>: áĄááś áááŻáˇáááŻááş á ááŹá¸ááźáąáŹááᯠá áŹááŹá¸áĄááźá áş ááąá¸ááŹá¸ááŹá¸ááźááşá¸á</li> <li><strong>GPT (Generative Pre-trained Transformer)</strong>: OpenAI ááž ááŽáá˝ááşááŹá¸ááąáŹ Transformer-based Large Language Model (LLM) áĄááťááŻá¸áĄá áŹá¸áá áşááŻá</li> <li><strong>Llama</strong>: Meta ááž ááŽáá˝ááşááŹá¸ááąáŹ Transformer-based Large Language Model (LLM) áĄááťááŻá¸áĄá áŹá¸áá áşááŻá</li> <li><strong>Parameters</strong>: Machine Learning ááąáŹáşáááşáá áşááŻá áááşáá°áááŻááşááąáŹ áĄá áááşáĄáááŻááşá¸ááťáŹá¸á áááşá¸áááŻáˇáááş ááąáˇááťááˇáşááąá ááşáĄáá˝ááşá¸ ááąááŹááťáŹá¸ááž ááŻáśá áśááťáŹá¸ááᯠáááşáá°áᏠááťáááşáážáááąá¸áááşá</li> <li><strong>Prompt</strong>: Large Language Models (LLMs) ááᯠááááťááąáŹááŻááşáááşá¸áá áşáᯠááŻááşááąáŹááşáááş áááŻáˇáááŻááş áĄááťááşáĄáááşááąá¸áááşáĄáá˝ááş ááąá¸áááŻáˇááąáŹ input text áááŻáˇáááŻááş ááąá¸áá˝ááşá¸á</li> <li><strong>Fine-tune</strong>: ááźááŻáááşááąáˇááťááˇáşááŹá¸ááźáŽá¸ááŹá¸ (pre-trained) ááąáŹáşáááşáá áşááŻááᯠááŽá¸ááźáŹá¸ááŻááşáááşá¸áá áşáᯠ(specific task) áĄáá˝ááş áĄáááşá¸áááşááąáŹ ááąááŹáá˛áˇ áááşááśááąáˇááťááˇáşááąá¸ááźááşá¸ááᯠáááŻáááŻááŤáááşá</li> <li><strong>Deployment</strong>: Machine Learning ááąáŹáşáááşáá áşááŻááᯠáĄáážááşááááş áĄááŻáśá¸ááźáŻáááŻááşááąáŹ á áá áş áááŻáˇáááŻááş environment áá áşááŻáá˛áááŻáˇ áááˇáşáá˝ááşá¸ááźááşá¸á</li> <li><strong>Hallucinations</strong>: Artificial Intelligence (AI) ááąáŹáşáááşááťáŹá¸ááž áážááşáááşáážáŻááážáááąáŹ áááŻáˇáááŻááş áĄáááášááŹááşááážáááąáŹ áĄááťááşáĄáááşááťáŹá¸ááᯠááŻáśááźááşáážáŻáážááážá ááŻááşááŻááşááąá¸ááźááşá¸á</li> <li><strong>Bias</strong>: ááąááŹáĄá áŻáĄááąá¸ (dataset) áááŻáˇáááŻááş ááąáŹáşáááşá ááąáˇááťááˇáşáážáŻááŻáśá áśááźáąáŹááˇáş ááźá áşááąáŤáşááŹááąáŹ áááşáááŻááşáážáŻááťáŹá¸á</li> <li><strong>Context Windows</strong>: Large Language Models (LLMs) áá áşááŻá áá áşááźááŻááşáááşáááşá¸ ááźááşáááşááźááˇáşáážáŻáááŻááşááąáŹ áááŻáˇáááŻááş á áŽááśááąáŹááşáá˝ááşáááŻááşááąáŹ input text á áááŹáá</li> <li><strong>Computational Resources</strong>: áá˝ááşááťá°ááŹá áá áşáá áşááŻá ááŻááşááąáŹááşáááŻááşá á˝ááşá¸ááťáŹá¸ (áĽááᏠ- CPU, GPU, memory, storage)á</li> <li><strong>Cultural Context</strong>: áá°áˇáĄáá˝á˛áˇáĄá ááşá¸áá áşááŻá áááąáˇááŻáśá¸áááşá¸ááťáŹá¸á ááŻáśááźááşáážáŻááťáŹá¸á áááşáááŻá¸ááťáŹá¸áážááˇáş áĄááźáŻáĄáá°ááťáŹá¸á</li> <li><strong>Sarcasm</strong>: ááźááşáááşááźáŻááźááşá¸ áááŻáˇáááŻááş áááˇáşááťááşáááş áĄáááášááŹááşááᯠááąáŹáşááźáááş á ááŹá¸ááŻáśá¸ááťáŹá¸ááᯠáĄááŻáśá¸ááźáŻááźááşá¸á</li> <li><strong>Humor</strong>: áááşá ááŹááąáŹááşá¸ááąáŹ áááŻáˇáááŻááş ááťáąáŹáşáá˝ážááşá áąááąáŹ áĄááŹá</li>",Lt,j,ft,B,$t;return x=new Bt({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),M=new O({props:{title:"Natural Language Processing áážááˇáş Large Language Models ááťáŹá¸",local:"natural-language-processing-and-large-language-models",headingTag:"h1"}}),C=new Wt({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),d=new O({props:{title:"NLP áááŻáᏠááŹáá˛á",local:"what-is-nlp",headingTag:"h2"}}),v=new Rt({props:{id:"iNzlxWUAjd4"}}),y=new O({props:{title:"Large Language Models (LLMs) áá˝áą ááąáŤáşááąáŤááşááŹááźááşá¸",local:"rise-of-llms",headingTag:"h2"}}),E=new O({props:{title:"ááŹááźáąáŹááˇáş ááŹááŹá ááŹá¸ ááŻááşááąáŹááşááźááşá¸ (language processing) á áááşáá˛áááŹáá˛á",local:"why-is-it-challenging",headingTag:"h2"}}),U=new O({props:{title:"ááąáŤááŹá áážááşá¸áááşá¸ááťááş (Glossary)",local:"ááá-áááááá-glossary",headingTag:"h2"}}),j=new Ot({props:{source:"https://github.com/huggingface/course/blob/main/chapters/my/chapter1/2.mdx"}}),{c(){o=a("meta"),R=i(),q=a("p"),W=i(),m(x.$$.fragment),F=i(),m(M.$$.fragment),Y=i(),m(C.$$.fragment),D=i(),P=a("p"),P.textContent=Mt,K=i(),m(d.$$.fragment),Q=i(),m(v.$$.fragment),V=i(),h=a("p"),h.textContent=Ct,J=i(),w=a("p"),w.textContent=Pt,X=i(),_=a("ul"),_.innerHTML=dt,Z=i(),T=a("p"),T.textContent=vt,tt=i(),m(y.$$.fragment),et=i(),N=a("p"),N.innerHTML=ht,nt=i(),c=a("blockquote"),c.innerHTML=wt,lt=i(),b=a("p"),b.textContent=_t,it=i(),I=a("ul"),I.innerHTML=Tt,st=i(),H=a("p"),H.textContent=yt,at=i(),A=a("p"),A.textContent=Nt,rt=i(),G=a("ul"),G.innerHTML=bt,gt=i(),m(E.$$.fragment),ot=i(),k=a("p"),k.textContent=It,mt=i(),S=a("p"),S.textContent=Ht,ut=i(),m(U.$$.fragment),pt=i(),z=a("ul"),z.innerHTML=At,Lt=i(),m(j.$$.fragment),ft=i(),B=a("p"),this.h()},l(t){const e=jt("svelte-u9bgzb",document.head);o=r(e,"META",{name:!0,content:!0}),e.forEach(n),R=s(t),q=r(t,"P",{}),Gt(q).forEach(n),W=s(t),u(x.$$.fragment,t),F=s(t),u(M.$$.fragment,t),Y=s(t),u(C.$$.fragment,t),D=s(t),P=r(t,"P",{"data-svelte-h":!0}),g(P)!=="svelte-h4iedi"&&(P.textContent=Mt),K=s(t),u(d.$$.fragment,t),Q=s(t),u(v.$$.fragment,t),V=s(t),h=r(t,"P",{"data-svelte-h":!0}),g(h)!=="svelte-1sg2iwz"&&(h.textContent=Ct),J=s(t),w=r(t,"P",{"data-svelte-h":!0}),g(w)!=="svelte-181b3zp"&&(w.textContent=Pt),X=s(t),_=r(t,"UL",{"data-svelte-h":!0}),g(_)!=="svelte-11xachm"&&(_.innerHTML=dt),Z=s(t),T=r(t,"P",{"data-svelte-h":!0}),g(T)!=="svelte-1ibdujd"&&(T.textContent=vt),tt=s(t),u(y.$$.fragment,t),et=s(t),N=r(t,"P",{"data-svelte-h":!0}),g(N)!=="svelte-1ogfgds"&&(N.innerHTML=ht),nt=s(t),c=r(t,"BLOCKQUOTE",{class:!0,"data-svelte-h":!0}),g(c)!=="svelte-urm8m7"&&(c.innerHTML=wt),lt=s(t),b=r(t,"P",{"data-svelte-h":!0}),g(b)!=="svelte-etdklm"&&(b.textContent=_t),it=s(t),I=r(t,"UL",{"data-svelte-h":!0}),g(I)!=="svelte-1txf5cq"&&(I.innerHTML=Tt),st=s(t),H=r(t,"P",{"data-svelte-h":!0}),g(H)!=="svelte-1kpp0af"&&(H.textContent=yt),at=s(t),A=r(t,"P",{"data-svelte-h":!0}),g(A)!=="svelte-1undtwv"&&(A.textContent=Nt),rt=s(t),G=r(t,"UL",{"data-svelte-h":!0}),g(G)!=="svelte-td5lji"&&(G.innerHTML=bt),gt=s(t),u(E.$$.fragment,t),ot=s(t),k=r(t,"P",{"data-svelte-h":!0}),g(k)!=="svelte-wq9s7i"&&(k.textContent=It),mt=s(t),S=r(t,"P",{"data-svelte-h":!0}),g(S)!=="svelte-c9ky5y"&&(S.textContent=Ht),ut=s(t),u(U.$$.fragment,t),pt=s(t),z=r(t,"UL",{"data-svelte-h":!0}),g(z)!=="svelte-vmsjv9"&&(z.innerHTML=At),Lt=s(t),u(j.$$.fragment,t),ft=s(t),B=r(t,"P",{}),Gt(B).forEach(n),this.h()},h(){ct(o,"name","hf:doc:metadata"),ct(o,"content",Yt),ct(c,"class","tip")},m(t,e){qt(document.head,o),l(t,R,e),l(t,q,e),l(t,W,e),p(x,t,e),l(t,F,e),p(M,t,e),l(t,Y,e),p(C,t,e),l(t,D,e),l(t,P,e),l(t,K,e),p(d,t,e),l(t,Q,e),p(v,t,e),l(t,V,e),l(t,h,e),l(t,J,e),l(t,w,e),l(t,X,e),l(t,_,e),l(t,Z,e),l(t,T,e),l(t,tt,e),p(y,t,e),l(t,et,e),l(t,N,e),l(t,nt,e),l(t,c,e),l(t,lt,e),l(t,b,e),l(t,it,e),l(t,I,e),l(t,st,e),l(t,H,e),l(t,at,e),l(t,A,e),l(t,rt,e),l(t,G,e),l(t,gt,e),p(E,t,e),l(t,ot,e),l(t,k,e),l(t,mt,e),l(t,S,e),l(t,ut,e),p(U,t,e),l(t,pt,e),l(t,z,e),l(t,Lt,e),p(j,t,e),l(t,ft,e),l(t,B,e),$t=!0},p:kt,i(t){$t||(L(x.$$.fragment,t),L(M.$$.fragment,t),L(C.$$.fragment,t),L(d.$$.fragment,t),L(v.$$.fragment,t),L(y.$$.fragment,t),L(E.$$.fragment,t),L(U.$$.fragment,t),L(j.$$.fragment,t),$t=!0)},o(t){f(x.$$.fragment,t),f(M.$$.fragment,t),f(C.$$.fragment,t),f(d.$$.fragment,t),f(v.$$.fragment,t),f(y.$$.fragment,t),f(E.$$.fragment,t),f(U.$$.fragment,t),f(j.$$.fragment,t),$t=!1},d(t){t&&(n(R),n(q),n(W),n(F),n(Y),n(D),n(P),n(K),n(Q),n(V),n(h),n(J),n(w),n(X),n(_),n(Z),n(T),n(tt),n(et),n(N),n(nt),n(c),n(lt),n(b),n(it),n(I),n(st),n(H),n(at),n(A),n(rt),n(G),n(gt),n(ot),n(k),n(mt),n(S),n(ut),n(pt),n(z),n(Lt),n(ft),n(B)),n(o),$(x,t),$(M,t),$(C,t),$(d,t),$(v,t),$(y,t),$(E,t),$(U,t),$(j,t)}}}const Yt='{"title":"Natural Language Processing áážááˇáş Large Language Models ááťáŹá¸","local":"natural-language-processing-and-large-language-models","sections":[{"title":"NLP áááŻáᏠááŹáá˛á","local":"what-is-nlp","sections":[],"depth":2},{"title":"Large Language Models (LLMs) áá˝áą ááąáŤáşááąáŤááşááŹááźááşá¸","local":"rise-of-llms","sections":[],"depth":2},{"title":"ááŹááźáąáŹááˇáş ááŹááŹá ááŹá¸ ááŻááşááąáŹááşááźááşá¸ (language processing) á áááşáá˛áááŹáá˛á","local":"why-is-it-challenging","sections":[],"depth":2},{"title":"ááąáŤááŹá áážááşá¸áááşá¸ááťááş (Glossary)","local":"ááá-áááááá-glossary","sections":[],"depth":2}],"depth":1}';function Dt(xt){return St(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class Zt extends Ut{constructor(o){super(),zt(this,o,Dt,Ft,Et,{})}}export{Zt as component}; | |
Xet Storage Details
- Size:
- 30.5 kB
- Xet hash:
- a852a2d4ef1d0b265ccad1b1876bf49ee62850e32814effe8e0d562ffa61ec01
¡
Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.