Buckets:

hf-doc-build
/

doc-dev

hf-doc-build/doc-dev / course /pr_1069 /ru /_app /immutable /nodes /29.9d63d2f1.js

rtrm's picture

about 2 months ago

18 kB

	import{s as ke,o as Ue,n as xe}from"../chunks/scheduler.37c15a92.js";import{S as $e,i as we,g as h,s as m,r as g,A as Ce,h as J,f as n,c as p,j as Je,u as T,x as w,k as le,y as Ze,a as r,v as j,t as y,b as ge,d as f,w as k,p as Te}from"../chunks/index.2bf4358c.js";import{T as _e}from"../chunks/Tip.363c041f.js";import{C as A}from"../chunks/CodeBlock.4e987730.js";import{C as je}from"../chunks/CourseFloatingBanner.9ff4c771.js";import{F as We}from"../chunks/FrameworkSwitchCourse.8d4d4ab6.js";import{H as Ve,E as Ne}from"../chunks/getInferenceSnippets.24b50994.js";function ve(d){let s,c;return s=new je({props:{chapter:4,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/ru/chapter4/section2_tf.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/ru/chapter4/section2_tf.ipynb"}]}}),{c(){g(s.$$.fragment)},l(t){T(s.$$.fragment,t)},m(t,u){j(s,t,u),c=!0},i(t){c\|\|(f(s.$$.fragment,t),c=!0)},o(t){y(s.$$.fragment,t),c=!1},d(t){k(s,t)}}}function ze(d){let s,c;return s=new je({props:{chapter:4,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/ru/chapter4/section2_pt.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/ru/chapter4/section2_pt.ipynb"}]}}),{c(){g(s.$$.fragment)},l(t){T(s.$$.fragment,t)},m(t,u){j(s,t,u),c=!0},i(t){c\|\|(f(s.$$.fragment,t),c=!0)},o(t){y(s.$$.fragment,t),c=!1},d(t){k(s,t)}}}function Ee(d){let s,c,t,u='Однако вместо этого мы рекомендуем использовать <a href="https://huggingface.co/transformers/model_doc/auto.html?highlight=auto#auto-classes" rel="nofollow"><code>TFAuto</code> classes</a> так как они по своей конструкции не зависят от архитектуры используемой модели. В то время как предыдущий пример кода ограничивает пользователей чекпоинтами, загружаемыми в архитектуре CamemBERT, использование классов <code>TFAuto</code> упрощает переключение между чекпоинтами:',b,i,M;return s=new A({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMENhbWVtYmVydFRva2VuaXplciUyQyUyMFRGQ2FtZW1iZXJ0Rm9yTWFza2VkTE0lMEElMEF0b2tlbml6ZXIlMjAlM0QlMjBDYW1lbWJlcnRUb2tlbml6ZXIuZnJvbV9wcmV0cmFpbmVkKCUyMmNhbWVtYmVydC1iYXNlJTIyKSUwQW1vZGVsJTIwJTNEJTIwVEZDYW1lbWJlcnRGb3JNYXNrZWRMTS5mcm9tX3ByZXRyYWluZWQoJTIyY2FtZW1iZXJ0LWJhc2UlMjIp",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> CamembertTokenizer, TFCamembertForMaskedLM

	tokenizer = CamembertTokenizer.from_pretrained(<span class="hljs-string">"camembert-base"</span>)
	model = TFCamembertForMaskedLM.from_pretrained(<span class="hljs-string">"camembert-base"</span>)`,wrap:!1}}),i=new A({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Ub2tlbml6ZXIlMkMlMjBURkF1dG9Nb2RlbEZvck1hc2tlZExNJTBBJTBBdG9rZW5pemVyJTIwJTNEJTIwQXV0b1Rva2VuaXplci5mcm9tX3ByZXRyYWluZWQoJTIyY2FtZW1iZXJ0LWJhc2UlMjIpJTBBbW9kZWwlMjAlM0QlMjBURkF1dG9Nb2RlbEZvck1hc2tlZExNLmZyb21fcHJldHJhaW5lZCglMjJjYW1lbWJlcnQtYmFzZSUyMik=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, TFAutoModelForMaskedLM

	tokenizer = AutoTokenizer.from_pretrained(<span class="hljs-string">"camembert-base"</span>)
	model = TFAutoModelForMaskedLM.from_pretrained(<span class="hljs-string">"camembert-base"</span>)`,wrap:!1}}),{c(){g(s.$$.fragment),c=m(),t=h("p"),t.innerHTML=u,b=m(),g(i.$$.fragment)},l(l){T(s.$$.fragment,l),c=p(l),t=J(l,"P",{"data-svelte-h":!0}),w(t)!=="svelte-y0kfah"&&(t.innerHTML=u),b=p(l),T(i.$$.fragment,l)},m(l,o){j(s,l,o),r(l,c,o),r(l,t,o),r(l,b,o),j(i,l,o),M=!0},i(l){M\|\|(f(s.$$.fragment,l),f(i.$$.fragment,l),M=!0)},o(l){y(s.$$.fragment,l),y(i.$$.fragment,l),M=!1},d(l){l&&(n(c),n(t),n(b)),k(s,l),k(i,l)}}}function Qe(d){let s,c,t,u='Однако вместо этого мы рекомендуем использовать <a href="https://huggingface.co/transformers/model_doc/auto.html?highlight=auto#auto-classes" rel="nofollow"><code>Auto</code> классы</a>, так как они по своей конструкции не зависят от архитектуры используемой модели. В то время как предыдущий пример кода ограничивает пользователей чекпоинтами, загружаемыми в архитектуре CamemBERT, использование классов <code>Auto</code> упрощает переключение между чекпоинтами:',b,i,M;return s=new A({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMENhbWVtYmVydFRva2VuaXplciUyQyUyMENhbWVtYmVydEZvck1hc2tlZExNJTBBJTBBdG9rZW5pemVyJTIwJTNEJTIwQ2FtZW1iZXJ0VG9rZW5pemVyLmZyb21fcHJldHJhaW5lZCglMjJjYW1lbWJlcnQtYmFzZSUyMiklMEFtb2RlbCUyMCUzRCUyMENhbWVtYmVydEZvck1hc2tlZExNLmZyb21fcHJldHJhaW5lZCglMjJjYW1lbWJlcnQtYmFzZSUyMik=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> CamembertTokenizer, CamembertForMaskedLM

	tokenizer = CamembertTokenizer.from_pretrained(<span class="hljs-string">"camembert-base"</span>)
	model = CamembertForMaskedLM.from_pretrained(<span class="hljs-string">"camembert-base"</span>)`,wrap:!1}}),i=new A({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Ub2tlbml6ZXIlMkMlMjBBdXRvTW9kZWxGb3JNYXNrZWRMTSUwQSUwQXRva2VuaXplciUyMCUzRCUyMEF1dG9Ub2tlbml6ZXIuZnJvbV9wcmV0cmFpbmVkKCUyMmNhbWVtYmVydC1iYXNlJTIyKSUwQW1vZGVsJTIwJTNEJTIwQXV0b01vZGVsRm9yTWFza2VkTE0uZnJvbV9wcmV0cmFpbmVkKCUyMmNhbWVtYmVydC1iYXNlJTIyKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, AutoModelForMaskedLM

	tokenizer = AutoTokenizer.from_pretrained(<span class="hljs-string">"camembert-base"</span>)
	model = AutoModelForMaskedLM.from_pretrained(<span class="hljs-string">"camembert-base"</span>)`,wrap:!1}}),{c(){g(s.$$.fragment),c=m(),t=h("p"),t.innerHTML=u,b=m(),g(i.$$.fragment)},l(l){T(s.$$.fragment,l),c=p(l),t=J(l,"P",{"data-svelte-h":!0}),w(t)!=="svelte-1d6pk8l"&&(t.innerHTML=u),b=p(l),T(i.$$.fragment,l)},m(l,o){j(s,l,o),r(l,c,o),r(l,t,o),r(l,b,o),j(i,l,o),M=!0},i(l){M\|\|(f(s.$$.fragment,l),f(i.$$.fragment,l),M=!0)},o(l){y(s.$$.fragment,l),y(i.$$.fragment,l),M=!1},d(l){l&&(n(c),n(t),n(b)),k(s,l),k(i,l)}}}function Be(d){let s,c="При использовании предварительно обученной модели обязательно проверьте: как она была обучена, на каких наборах данных, ее ограничениях и смещениях. Вся эта информация должна быть указана в карточке модели.";return{c(){s=h("p"),s.textContent=c},l(t){s=J(t,"P",{"data-svelte-h":!0}),w(s)!=="svelte-101xyj1"&&(s.textContent=c)},m(t,u){r(t,s,u)},p:xe,d(t){t&&n(s)}}}function Fe(d){let s,c,t,u,b,i,M,l,o,U,I,W,re="Hub упрощает выбор подходящей модели, поэтому ее использование в любой задаче заключается в запуске нескольких строк кода. Давайте посмотрим, как это сделать и как внести свой вклад в сообщество.",S,V,ce="Допустим, мы ищем модель для французского языка, которая может выполнять заполнение пропущенных слов в предложении.",R,C,oe='<img src="https://huggingface.co/datasets/huggingface-course/documentation-images/resolve/main/en/chapter4/camembert.gif" alt="Selecting the Camembert model." width="80%"/>',L,N,me="Мы выберем для этой задачи чекпоинт <code>camembert-base</code>. Идентификатор <code>camembert-base</code> – все, что нам нужно, чтобы начать использовать модель! Как вы видели в предыдущих главах, мы можем инициализировать модель с использованием функции <code>pipeline()</code>:",H,v,q,z,D,E,pe="Как видите, загрузить модель в пайплайн очень просто. Единственное, на что вам нужно обратить внимание, это чтобы выбранный чекпоинт подходил для задачи, для которой он будет использоваться. Например, здесь мы загружаем чекпоинт <code>camembert-base</code> в пайплайн <code>fill-mask</code>, что совершенно нормально. Но если бы мы загрузили эту контрольную точку в пайплайн <code>text-classification</code>, результаты не имели бы никакого смысла, потому что выходной слой <code>camembert-base</code> не подходит для этой задачи! Мы рекомендуем использовать селектор задач в интерфейсе Hugging Face Hub, чтобы выбрать соответствующие чекпоинты:",P,Z,ie='<img src="https://huggingface.co/datasets/huggingface-course/documentation-images/resolve/main/en/chapter4/tasks.png" alt="The task selector on the web interface." width="80%"/>',K,Q,ue="Вы также можете инициализировать модель не через пайплайн, а путем создания экземпляра класса модели:",O,x,$,Y,_,ee,B,te,X,se;b=new We({props:{fw:d[0]}}),M=new Ve({props:{title:"Использование предобученных моделей",local:"использование-предобученных-моделей",headingTag:"h1"}});const be=[ze,ve],F=[];function Me(e,a){return e[0]==="pt"?0:1}o=Me(d),U=F[o]=be[o](d),v=new A({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMHBpcGVsaW5lJTBBJTBBY2FtZW1iZXJ0X2ZpbGxfbWFzayUyMCUzRCUyMHBpcGVsaW5lKCUyMmZpbGwtbWFzayUyMiUyQyUyMG1vZGVsJTNEJTIyY2FtZW1iZXJ0LWJhc2UlMjIpJTBBcmVzdWx0cyUyMCUzRCUyMGNhbWVtYmVydF9maWxsX21hc2soJTIyTGUlMjBjYW1lbWJlcnQlMjBlc3QlMjAlM0NtYXNrJTNFJTIwJTNBKSUyMik=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> pipeline

	camembert_fill_mask = pipeline(<span class="hljs-string">"fill-mask"</span>, model=<span class="hljs-string">"camembert-base"</span>)
	results = camembert_fill_mask(<span class="hljs-string">"Le camembert est <mask> :)"</span>)`,wrap:!1}}),z=new A({props:{code:"JTVCJTBBJTIwJTIwJTdCJ3NlcXVlbmNlJyUzQSUyMCdMZSUyMGNhbWVtYmVydCUyMGVzdCUyMGQlQzMlQTlsaWNpZXV4JTIwJTNBKSclMkMlMjAnc2NvcmUnJTNBJTIwMC40OTA5MTAwNTMyNTMxNzM4MyUyQyUyMCd0b2tlbiclM0ElMjA3MjAwJTJDJTIwJ3Rva2VuX3N0ciclM0ElMjAnZCVDMyVBOWxpY2lldXgnJTdEJTJDJTIwJTBBJTIwJTIwJTdCJ3NlcXVlbmNlJyUzQSUyMCdMZSUyMGNhbWVtYmVydCUyMGVzdCUyMGV4Y2VsbGVudCUyMCUzQSknJTJDJTIwJ3Njb3JlJyUzQSUyMDAuMTA1NTY5NzQyNjE5OTkxMyUyQyUyMCd0b2tlbiclM0ElMjAyMTgzJTJDJTIwJ3Rva2VuX3N0ciclM0ElMjAnZXhjZWxsZW50JyU3RCUyQyUyMCUwQSUyMCUyMCU3QidzZXF1ZW5jZSclM0ElMjAnTGUlMjBjYW1lbWJlcnQlMjBlc3QlMjBzdWNjdWxlbnQlMjAlM0EpJyUyQyUyMCdzY29yZSclM0ElMjAwLjAzNDUzMzEzMTg2NzY0NzE3JTJDJTIwJ3Rva2VuJyUzQSUyMDI2MjAyJTJDJTIwJ3Rva2VuX3N0ciclM0ElMjAnc3VjY3VsZW50JyU3RCUyQyUyMCUwQSUyMCUyMCU3QidzZXF1ZW5jZSclM0ElMjAnTGUlMjBjYW1lbWJlcnQlMjBlc3QlMjBtZWlsbGV1ciUyMCUzQSknJTJDJTIwJ3Njb3JlJyUzQSUyMDAuMDMzMDMxNDExNDY4OTgyNyUyQyUyMCd0b2tlbiclM0ElMjA1MjglMkMlMjAndG9rZW5fc3RyJyUzQSUyMCdtZWlsbGV1ciclN0QlMkMlMjAlMEElMjAlMjAlN0Inc2VxdWVuY2UnJTNBJTIwJ0xlJTIwY2FtZW1iZXJ0JTIwZXN0JTIwcGFyZmFpdCUyMCUzQSknJTJDJTIwJ3Njb3JlJyUzQSUyMDAuMDMwMDc2NTAxODkxMDE2OTYlMkMlMjAndG9rZW4nJTNBJTIwMTY1NCUyQyUyMCd0b2tlbl9zdHInJTNBJTIwJ3BhcmZhaXQnJTdEJTBBJTVE",highlighted:`[
	{<span class="hljs-string">'sequence'</span>: <span class="hljs-string">'Le camembert est délicieux :)'</span>, <span class="hljs-string">'score'</span>: <span class="hljs-number">0.49091005325317383</span>, <span class="hljs-string">'token'</span>: <span class="hljs-number">7200</span>, <span class="hljs-string">'token_str'</span>: <span class="hljs-string">'délicieux'</span>},
	{<span class="hljs-string">'sequence'</span>: <span class="hljs-string">'Le camembert est excellent :)'</span>, <span class="hljs-string">'score'</span>: <span class="hljs-number">0.1055697426199913</span>, <span class="hljs-string">'token'</span>: <span class="hljs-number">2183</span>, <span class="hljs-string">'token_str'</span>: <span class="hljs-string">'excellent'</span>},
	{<span class="hljs-string">'sequence'</span>: <span class="hljs-string">'Le camembert est succulent :)'</span>, <span class="hljs-string">'score'</span>: <span class="hljs-number">0.03453313186764717</span>, <span class="hljs-string">'token'</span>: <span class="hljs-number">26202</span>, <span class="hljs-string">'token_str'</span>: <span class="hljs-string">'succulent'</span>},
	{<span class="hljs-string">'sequence'</span>: <span class="hljs-string">'Le camembert est meilleur :)'</span>, <span class="hljs-string">'score'</span>: <span class="hljs-number">0.0330314114689827</span>, <span class="hljs-string">'token'</span>: <span class="hljs-number">528</span>, <span class="hljs-string">'token_str'</span>: <span class="hljs-string">'meilleur'</span>},
	{<span class="hljs-string">'sequence'</span>: <span class="hljs-string">'Le camembert est parfait :)'</span>, <span class="hljs-string">'score'</span>: <span class="hljs-number">0.03007650189101696</span>, <span class="hljs-string">'token'</span>: <span class="hljs-number">1654</span>, <span class="hljs-string">'token_str'</span>: <span class="hljs-string">'parfait'</span>}
	]`,wrap:!1}});const ye=[Qe,Ee],G=[];function fe(e,a){return e[0]==="pt"?0:1}return x=fe(d),$=G[x]=ye[x](d),_=new _e({props:{$$slots:{default:[Be]},$$scope:{ctx:d}}}),B=new Ne({props:{source:"https://github.com/huggingface/course/blob/main/chapters/ru/chapter4/2.mdx"}}),{c(){s=h("meta"),c=m(),t=h("p"),u=m(),g(b.$$.fragment),i=m(),g(M.$$.fragment),l=m(),U.c(),I=m(),W=h("p"),W.textContent=re,S=m(),V=h("p"),V.textContent=ce,R=m(),C=h("div"),C.innerHTML=oe,L=m(),N=h("p"),N.innerHTML=me,H=m(),g(v.$$.fragment),q=m(),g(z.$$.fragment),D=m(),E=h("p"),E.innerHTML=pe,P=m(),Z=h("div"),Z.innerHTML=ie,K=m(),Q=h("p"),Q.textContent=ue,O=m(),$.c(),Y=m(),g(_.$$.fragment),ee=m(),g(B.$$.fragment),te=m(),X=h("p"),this.h()},l(e){const a=Ce("svelte-u9bgzb",document.head);s=J(a,"META",{name:!0,content:!0}),a.forEach(n),c=p(e),t=J(e,"P",{}),Je(t).forEach(n),u=p(e),T(b.$$.fragment,e),i=p(e),T(M.$$.fragment,e),l=p(e),U.l(e),I=p(e),W=J(e,"P",{"data-svelte-h":!0}),w(W)!=="svelte-c2hno0"&&(W.textContent=re),S=p(e),V=J(e,"P",{"data-svelte-h":!0}),w(V)!=="svelte-1tpb7bo"&&(V.textContent=ce),R=p(e),C=J(e,"DIV",{class:!0,"data-svelte-h":!0}),w(C)!=="svelte-4k6hvy"&&(C.innerHTML=oe),L=p(e),N=J(e,"P",{"data-svelte-h":!0}),w(N)!=="svelte-vu515f"&&(N.innerHTML=me),H=p(e),T(v.$$.fragment,e),q=p(e),T(z.$$.fragment,e),D=p(e),E=J(e,"P",{"data-svelte-h":!0}),w(E)!=="svelte-8tmf8t"&&(E.innerHTML=pe),P=p(e),Z=J(e,"DIV",{class:!0,"data-svelte-h":!0}),w(Z)!=="svelte-1cl7xbt"&&(Z.innerHTML=ie),K=p(e),Q=J(e,"P",{"data-svelte-h":!0}),w(Q)!=="svelte-15rnypn"&&(Q.textContent=ue),O=p(e),$.l(e),Y=p(e),T(_.$$.fragment,e),ee=p(e),T(B.$$.fragment,e),te=p(e),X=J(e,"P",{}),Je(X).forEach(n),this.h()},h(){le(s,"name","hf:doc:metadata"),le(s,"content",Ge),le(C,"class","flex justify-center"),le(Z,"class","flex justify-center")},m(e,a){Ze(document.head,s),r(e,c,a),r(e,t,a),r(e,u,a),j(b,e,a),r(e,i,a),j(M,e,a),r(e,l,a),F[o].m(e,a),r(e,I,a),r(e,W,a),r(e,S,a),r(e,V,a),r(e,R,a),r(e,C,a),r(e,L,a),r(e,N,a),r(e,H,a),j(v,e,a),r(e,q,a),j(z,e,a),r(e,D,a),r(e,E,a),r(e,P,a),r(e,Z,a),r(e,K,a),r(e,Q,a),r(e,O,a),G[x].m(e,a),r(e,Y,a),j(_,e,a),r(e,ee,a),j(B,e,a),r(e,te,a),r(e,X,a),se=!0},p(e,[a]){const de={};a&1&&(de.fw=e[0]),b.$set(de);let ae=o;o=Me(e),o!==ae&&(Te(),y(F[ae],1,1,()=>{F[ae]=null}),ge(),U=F[o],U\|\|(U=F[o]=be[o](e),U.c()),f(U,1),U.m(I.parentNode,I));let ne=x;x=fe(e),x!==ne&&(Te(),y(G[ne],1,1,()=>{G[ne]=null}),ge(),$=G[x],$\|\|($=G[x]=ye[x](e),$.c()),f($,1),$.m(Y.parentNode,Y));const he={};a&2&&(he.$$scope={dirty:a,ctx:e}),_.$set(he)},i(e){se\|\|(f(b.$$.fragment,e),f(M.$$.fragment,e),f(U),f(v.$$.fragment,e),f(z.$$.fragment,e),f($),f(_.$$.fragment,e),f(B.$$.fragment,e),se=!0)},o(e){y(b.$$.fragment,e),y(M.$$.fragment,e),y(U),y(v.$$.fragment,e),y(z.$$.fragment,e),y($),y(_.$$.fragment,e),y(B.$$.fragment,e),se=!1},d(e){e&&(n(c),n(t),n(u),n(i),n(l),n(I),n(W),n(S),n(V),n(R),n(C),n(L),n(N),n(H),n(q),n(D),n(E),n(P),n(Z),n(K),n(Q),n(O),n(Y),n(ee),n(te),n(X)),n(s),k(b,e),k(M,e),F[o].d(e),k(v,e),k(z,e),G[x].d(e),k(_,e),k(B,e)}}}const Ge='{"title":"Использование предобученных моделей","local":"использование-предобученных-моделей","sections":[],"depth":1}';function Ie(d,s,c){let t="pt";return Ue(()=>{const u=new URLSearchParams(window.location.search);c(0,t=u.get("fw")\|\|"pt")}),[t]}class qe extends $e{constructor(s){super(),we(this,s,Ie,Fe,ke,{})}}export{qe as component};

Xet Storage Details

Size:: 18 kB
Xet hash:: c1f03f7f2dd82c235130246437d87ceb24fe79cd6e3325250078f6c6f04f5a24

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.