transformers/pr_33174/ja/_app/immutable/nodes/110.4ebcbcdb.js

import{s as Vt,o as Qt,n as Lt}from"../chunks/scheduler.9bc65507.js";import{S as Nt,i as It,g as p,s,r,A as zt,h as o,f as l,c as n,j as xt,u as m,x as M,k as ye,y as Pt,a,v as d,d as f,t as b,w as u}from"../chunks/index.707bf1b6.js";import{T as Gt}from"../chunks/Tip.c2ecdbf4.js";import{C as y}from"../chunks/CodeBlock.54a9f38d.js";import{D as Yt}from"../chunks/DocNotebookDropdown.41f65cb5.js";import{H as _,E as At}from"../chunks/EditOnGithub.922df6ba.js";function qt(Me){let i,$="PEFTアダプターを<code>AutoModelFor</code>クラスまたは基本モデルクラス（<code>OPTForCausalLM</code>または<code>LlamaForCausalLM</code>など）で読み込むことができます。";return{c(){i=p("p"),i.innerHTML=$},l(c){i=o(c,"P",{"data-svelte-h":!0}),M(i)!=="svelte-1n21l1q"&&(i.innerHTML=$)},m(c,T){a(c,i,T)},p:Lt,d(c){c&&l(i)}}}function St(Me){let i,$='<a href="/docs/transformers/pr_33174/ja/main_classes/trainer#transformers.Trainer">Trainer</a>を使用したモデルの微調整に慣れていない場合は、<a href="training">事前トレーニング済みモデルの微調整</a>チュートリアルをご覧ください。';return{c(){i=p("p"),i.innerHTML=$},l(c){i=o(c,"P",{"data-svelte-h":!0}),M(i)!=="svelte-1c65wf"&&(i.innerHTML=$)},m(c,T){a(c,i,T)},p:Lt,d(c){c&&l(i)}}}function Kt(Me){let i,$,c,T,Z,$e,U,Te,k,bt='<a href="https://huggingface.co/blog/peft" rel="nofollow">Parameter-Efficient Fine Tuning (PEFT)</a> メソッドは、事前学習済みモデルのパラメータをファインチューニング中に凍結し、その上にわずかな訓練可能なパラメータ（アダプター）を追加するアプローチです。アダプターは、タスク固有の情報を学習するために訓練されます。このアプローチは、メモリ使用量が少なく、完全にファインチューニングされたモデルと比較して計算リソースを低く抑えつつ、同等の結果を生成することが示されています。',he,j,ut="PEFTで訓練されたアダプターは通常、完全なモデルのサイズよりも1桁小さく、共有、保存、読み込むのが便利です。",we,h,Mt='<img src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/peft/PEFT-hub-screenshot.png"/> <figcaption class="text-center">Hubに格納されているOPTForCausalLMモデルのアダプター重みは、モデルの全体サイズの約6MBで、モデル重みの全サイズは約700MBです。</figcaption>',ge,F,ct='🤗 PEFTライブラリについて詳しく知りたい場合は、<a href="https://huggingface.co/docs/peft/index" rel="nofollow">ドキュメンテーション</a>をご覧ください。',Je,v,Ce,W,yt="🤗 PEFTをインストールして始めましょう：",_e,B,Ze,R,$t="新機能を試してみたい場合、ソースからライブラリをインストールすることに興味があるかもしれません：",Ue,E,ke,H,je,X,Tt="🤗 Transformersは、いくつかのPEFT（Parameter Efficient Fine-Tuning）メソッドをネイティブにサポートしており、ローカルまたはHubに格納されたアダプターウェイトを簡単に読み込んで実行またはトレーニングできます。以下のメソッドがサポートされています：",Fe,x,ht='<li><a href="https://huggingface.co/docs/peft/conceptual_guides/lora" rel="nofollow">Low Rank Adapters</a></li> <li><a href="https://huggingface.co/docs/peft/conceptual_guides/ia3" rel="nofollow">IA3</a></li> <li><a href="https://arxiv.org/abs/2303.10512" rel="nofollow">AdaLoRA</a></li>',ve,G,wt='他のPEFTメソッドを使用したい場合、プロンプト学習やプロンプト調整などについて詳しく知りたい場合、または🤗 PEFTライブラリ全般については、<a href="https://huggingface.co/docs/peft/index" rel="nofollow">ドキュメンテーション</a>を参照してください。',We,L,Be,V,gt="🤗 TransformersからPEFTアダプターモデルを読み込んで使用するには、Hubリポジトリまたはローカルディレクトリに <code>adapter_config.json</code> ファイルとアダプターウェイトが含まれていることを確認してください。次に、<code>AutoModelFor</code> クラスを使用してPEFTアダプターモデルを読み込むことができます。たとえば、因果言語モデリング用のPEFTアダプターモデルを読み込むには：",Re,Q,Jt='<li>PEFTモデルのIDを指定します。</li> <li>それを<a href="/docs/transformers/pr_33174/ja/model_doc/auto#transformers.AutoModelForCausalLM">AutoModelForCausalLM</a> クラスに渡します。</li>',Ee,N,He,w,Xe,I,Ct="また、<code>load_adapter</code>メソッドを呼び出すことで、PEFTアダプターを読み込むこともできます：",xe,z,Ge,P,Le,Y,_t='<code>bitsandbytes</code> 統合は、8ビットおよび4ビットの精度データ型をサポートしており、大規模なモデルを読み込む際にメモリを節約するのに役立ちます（詳細については <code>bitsandbytes</code> 統合の<a href="./quantization#bitsandbytes-integration">ガイド</a>を参照してください）。<a href="/docs/transformers/pr_33174/ja/main_classes/model#transformers.PreTrainedModel.from_pretrained">from_pretrained()</a> に <code>load_in_8bit</code> または <code>load_in_4bit</code> パラメータを追加し、<code>device_map=&quot;auto&quot;</code> を設定してモデルを効果的にハードウェアに分散配置できます：',Ve,A,Qe,q,Ne,S,Zt="既存のアダプターを持つモデルに新しいアダプターを追加するために <code>~peft.PeftModel.add_adapter</code> を使用できます。ただし、新しいアダプターは現在のアダプターと同じタイプである限り、これを行うことができます。たとえば、モデルに既存の LoRA アダプターがアタッチされている場合：",Ie,K,ze,D,Ut="新しいアダプタを追加するには:",Pe,O,Ye,ee,kt="<code>~peft.PeftModel.set_adapter</code> を使用して、どのアダプターを使用するかを設定できます：",Ae,te,qe,le,Se,ae,jt="モデルにアダプターを追加したら、アダプターモジュールを有効または無効にすることができます。アダプターモジュールを有効にするには、次の手順を実行します：",Ke,se,De,ne,Ft="アダプターモジュールを無効にするには：",Oe,pe,et,oe,tt,ie,vt='PEFTアダプターは<a href="/docs/transformers/pr_33174/ja/main_classes/trainer#transformers.Trainer">Trainer</a>クラスでサポートされており、特定のユースケースに対してアダプターをトレーニングすることができます。数行のコードを追加するだけで済みます。たとえば、LoRAアダプターをトレーニングする場合:',lt,g,at,re,Wt="<li>タスクタイプとハイパーパラメータに対するアダプターの構成を定義します（ハイパーパラメータの詳細については<code>~peft.LoraConfig</code>を参照してください）。</li>",st,me,nt,J,Bt="<li>モデルにアダプターを追加する。</li>",pt,de,ot,C,Rt='<li>これで、モデルを <a href="/docs/transformers/pr_33174/ja/main_classes/trainer#transformers.Trainer">Trainer</a> に渡すことができます！</li>',it,fe,rt,be,Et="保存するトレーニング済みアダプタとそれを読み込むための手順：",mt,ue,dt,ce,ft;return Z=new _({props:{title:"Load adapters with 🤗 PEFT",local:"load-adapters-with--peft",headingTag:"h1"}}),U=new Yt({props:{classNames:"absolute z-10 right-0 top-0",options:[{label:"Mixed",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/main/transformers_doc/ja/peft.ipynb"},{label:"PyTorch",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/main/transformers_doc/ja/pytorch/peft.ipynb"},{label:"TensorFlow",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/main/transformers_doc/ja/tensorflow/peft.ipynb"},{label:"Mixed",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/main/transformers_doc/ja/peft.ipynb"},{label:"PyTorch",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/main/transformers_doc/ja/pytorch/peft.ipynb"},{label:"TensorFlow",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/main/transformers_doc/ja/tensorflow/peft.ipynb"}]}}),v=new _({props:{title:"Setup",local:"setup",headingTag:"h2"}}),B=new y({props:{code:"cGlwJTIwaW5zdGFsbCUyMHBlZnQ=",highlighted:"pip install peft",wrap:!1}}),E=new y({props:{code:"cGlwJTIwaW5zdGFsbCUyMGdpdCUyQmh0dHBzJTNBJTJGJTJGZ2l0aHViLmNvbSUyRmh1Z2dpbmdmYWNlJTJGcGVmdC5naXQ=",highlighted:"pip install git+https://github.com/huggingface/peft.git",wrap:!1}}),H=new _({props:{title:"Supported PEFT models",local:"supported-peft-models",headingTag:"h2"}}),L=new _({props:{title:"Load a PEFT adapter",local:"load-a-peft-adapter",headingTag:"h2"}}),N=new y({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Nb2RlbEZvckNhdXNhbExNJTJDJTIwQXV0b1Rva2VuaXplciUwQSUwQXBlZnRfbW9kZWxfaWQlMjAlM0QlMjAlMjJ5YmVsa2FkYSUyRm9wdC0zNTBtLWxvcmElMjIlMEFtb2RlbCUyMCUzRCUyMEF1dG9Nb2RlbEZvckNhdXNhbExNLmZyb21fcHJldHJhaW5lZChwZWZ0X21vZGVsX2lkKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoModelForCausalLM, AutoTokenizer

peft_model_id = <span class="hljs-string">&quot;ybelkada/opt-350m-lora&quot;</span>
model = AutoModelForCausalLM.from_pretrained(peft_model_id)`,wrap:!1}}),w=new Gt({props:{$$slots:{default:[qt]},$$scope:{ctx:Me}}}),z=new y({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Nb2RlbEZvckNhdXNhbExNJTJDJTIwQXV0b1Rva2VuaXplciUwQSUwQW1vZGVsX2lkJTIwJTNEJTIwJTIyZmFjZWJvb2slMkZvcHQtMzUwbSUyMiUwQXBlZnRfbW9kZWxfaWQlMjAlM0QlMjAlMjJ5YmVsa2FkYSUyRm9wdC0zNTBtLWxvcmElMjIlMEElMEFtb2RlbCUyMCUzRCUyMEF1dG9Nb2RlbEZvckNhdXNhbExNLmZyb21fcHJldHJhaW5lZChtb2RlbF9pZCklMEFtb2RlbC5sb2FkX2FkYXB0ZXIocGVmdF9tb2RlbF9pZCk=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoModelForCausalLM, AutoTokenizer

model_id = <span class="hljs-string">&quot;facebook/opt-350m&quot;</span>
peft_model_id = <span class="hljs-string">&quot;ybelkada/opt-350m-lora&quot;</span>

model = AutoModelForCausalLM.from_pretrained(model_id)
model.load_adapter(peft_model_id)`,wrap:!1}}),P=new _({props:{title:"Load in 8bit or 4bit",local:"load-in-8bit-or-4bit",headingTag:"h2"}}),A=new y({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Nb2RlbEZvckNhdXNhbExNJTJDJTIwQXV0b1Rva2VuaXplciUyQyUyMEJpdHNBbmRCeXRlc0NvbmZpZyUwQSUwQXBlZnRfbW9kZWxfaWQlMjAlM0QlMjAlMjJ5YmVsa2FkYSUyRm9wdC0zNTBtLWxvcmElMjIlMEFtb2RlbCUyMCUzRCUyMEF1dG9Nb2RlbEZvckNhdXNhbExNLmZyb21fcHJldHJhaW5lZChwZWZ0X21vZGVsX2lkJTJDJTIwcXVhbnRpemF0aW9uX2NvbmZpZyUzREJpdHNBbmRCeXRlc0NvbmZpZyhsb2FkX2luXzhiaXQlM0RUcnVlKSk=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig

peft_model_id = <span class="hljs-string">&quot;ybelkada/opt-350m-lora&quot;</span>
model = AutoModelForCausalLM.from_pretrained(peft_model_id, quantization_config=BitsAndBytesConfig(load_in_8bit=<span class="hljs-literal">True</span>))`,wrap:!1}}),q=new _({props:{title:"Add a new adapter",local:"add-a-new-adapter",headingTag:"h2"}}),K=new y({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Nb2RlbEZvckNhdXNhbExNJTJDJTIwT1BURm9yQ2F1c2FsTE0lMkMlMjBBdXRvVG9rZW5pemVyJTBBZnJvbSUyMHBlZnQlMjBpbXBvcnQlMjBQZWZ0Q29uZmlnJTBBJTBBbW9kZWxfaWQlMjAlM0QlMjAlMjJmYWNlYm9vayUyRm9wdC0zNTBtJTIyJTBBbW9kZWwlMjAlM0QlMjBBdXRvTW9kZWxGb3JDYXVzYWxMTS5mcm9tX3ByZXRyYWluZWQobW9kZWxfaWQpJTBBJTBBbG9yYV9jb25maWclMjAlM0QlMjBMb3JhQ29uZmlnKCUwQSUyMCUyMCUyMCUyMHRhcmdldF9tb2R1bGVzJTNEJTVCJTIycV9wcm9qJTIyJTJDJTIwJTIya19wcm9qJTIyJTVEJTJDJTBBJTIwJTIwJTIwJTIwaW5pdF9sb3JhX3dlaWdodHMlM0RGYWxzZSUwQSklMEElMEFtb2RlbC5hZGRfYWRhcHRlcihsb3JhX2NvbmZpZyUyQyUyMGFkYXB0ZXJfbmFtZSUzRCUyMmFkYXB0ZXJfMSUyMik=",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoModelForCausalLM, OPTForCausalLM, AutoTokenizer
<span class="hljs-keyword">from</span> peft <span class="hljs-keyword">import</span> PeftConfig

model_id = <span class="hljs-string">&quot;facebook/opt-350m&quot;</span>
model = AutoModelForCausalLM.from_pretrained(model_id)

lora_config = LoraConfig(
    target_modules=[<span class="hljs-string">&quot;q_proj&quot;</span>, <span class="hljs-string">&quot;k_proj&quot;</span>],
    init_lora_weights=<span class="hljs-literal">False</span>
)

model.add_adapter(lora_config, adapter_name=<span class="hljs-string">&quot;adapter_1&quot;</span>)`,wrap:!1}}),O=new y({props:{code:"JTIzJTIwYXR0YWNoJTIwbmV3JTIwYWRhcHRlciUyMHdpdGglMjBzYW1lJTIwY29uZmlnJTBBbW9kZWwuYWRkX2FkYXB0ZXIobG9yYV9jb25maWclMkMlMjBhZGFwdGVyX25hbWUlM0QlMjJhZGFwdGVyXzIlMjIp",highlighted:`<span class="hljs-comment"># attach new adapter with same config</span>
model.add_adapter(lora_config, adapter_name=<span class="hljs-string">&quot;adapter_2&quot;</span>)`,wrap:!1}}),te=new y({props:{code:"JTIzJTIwdXNlJTIwYWRhcHRlcl8xJTBBbW9kZWwuc2V0X2FkYXB0ZXIoJTIyYWRhcHRlcl8xJTIyKSUwQW91dHB1dCUyMCUzRCUyMG1vZGVsLmdlbmVyYXRlKCoqaW5wdXRzKSUwQXByaW50KHRva2VuaXplci5kZWNvZGUob3V0cHV0X2Rpc2FibGVkJTVCMCU1RCUyQyUyMHNraXBfc3BlY2lhbF90b2tlbnMlM0RUcnVlKSklMEElMEElMjMlMjB1c2UlMjBhZGFwdGVyXzIlMEFtb2RlbC5zZXRfYWRhcHRlciglMjJhZGFwdGVyXzIlMjIpJTBBb3V0cHV0X2VuYWJsZWQlMjAlM0QlMjBtb2RlbC5nZW5lcmF0ZSgqKmlucHV0cyklMEFwcmludCh0b2tlbml6ZXIuZGVjb2RlKG91dHB1dF9lbmFibGVkJTVCMCU1RCUyQyUyMHNraXBfc3BlY2lhbF90b2tlbnMlM0RUcnVlKSk=",highlighted:`<span class="hljs-comment"># use adapter_1</span>
model.set_adapter(<span class="hljs-string">&quot;adapter_1&quot;</span>)
output = model.generate(**inputs)
<span class="hljs-built_in">print</span>(tokenizer.decode(output_disabled[<span class="hljs-number">0</span>], skip_special_tokens=<span class="hljs-literal">True</span>))

<span class="hljs-comment"># use adapter_2</span>
model.set_adapter(<span class="hljs-string">&quot;adapter_2&quot;</span>)
output_enabled = model.generate(**inputs)
<span class="hljs-built_in">print</span>(tokenizer.decode(output_enabled[<span class="hljs-number">0</span>], skip_special_tokens=<span class="hljs-literal">True</span>))`,wrap:!1}}),le=new _({props:{title:"Enable and disable adapters",local:"enable-and-disable-adapters",headingTag:"h2"}}),se=new y({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Nb2RlbEZvckNhdXNhbExNJTJDJTIwT1BURm9yQ2F1c2FsTE0lMkMlMjBBdXRvVG9rZW5pemVyJTBBZnJvbSUyMHBlZnQlMjBpbXBvcnQlMjBQZWZ0Q29uZmlnJTBBJTBBbW9kZWxfaWQlMjAlM0QlMjAlMjJmYWNlYm9vayUyRm9wdC0zNTBtJTIyJTBBYWRhcHRlcl9tb2RlbF9pZCUyMCUzRCUyMCUyMnliZWxrYWRhJTJGb3B0LTM1MG0tbG9yYSUyMiUwQXRva2VuaXplciUyMCUzRCUyMEF1dG9Ub2tlbml6ZXIuZnJvbV9wcmV0cmFpbmVkKG1vZGVsX2lkKSUwQXRleHQlMjAlM0QlMjAlMjJIZWxsbyUyMiUwQWlucHV0cyUyMCUzRCUyMHRva2VuaXplcih0ZXh0JTJDJTIwcmV0dXJuX3RlbnNvcnMlM0QlMjJwdCUyMiklMEElMEFtb2RlbCUyMCUzRCUyMEF1dG9Nb2RlbEZvckNhdXNhbExNLmZyb21fcHJldHJhaW5lZChtb2RlbF9pZCklMEFwZWZ0X2NvbmZpZyUyMCUzRCUyMFBlZnRDb25maWcuZnJvbV9wcmV0cmFpbmVkKGFkYXB0ZXJfbW9kZWxfaWQpJTBBJTBBJTIzJTIwdG8lMjBpbml0aWF0ZSUyMHdpdGglMjByYW5kb20lMjB3ZWlnaHRzJTBBcGVmdF9jb25maWcuaW5pdF9sb3JhX3dlaWdodHMlMjAlM0QlMjBGYWxzZSUwQSUwQW1vZGVsLmFkZF9hZGFwdGVyKHBlZnRfY29uZmlnKSUwQW1vZGVsLmVuYWJsZV9hZGFwdGVycygpJTBBb3V0cHV0JTIwJTNEJTIwbW9kZWwuZ2VuZXJhdGUoKippbnB1dHMp",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoModelForCausalLM, OPTForCausalLM, AutoTokenizer
<span class="hljs-keyword">from</span> peft <span class="hljs-keyword">import</span> PeftConfig

model_id = <span class="hljs-string">&quot;facebook/opt-350m&quot;</span>
adapter_model_id = <span class="hljs-string">&quot;ybelkada/opt-350m-lora&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(model_id)
text = <span class="hljs-string">&quot;Hello&quot;</span>
inputs = tokenizer(text, return_tensors=<span class="hljs-string">&quot;pt&quot;</span>)

model = AutoModelForCausalLM.from_pretrained(model_id)
peft_config = PeftConfig.from_pretrained(adapter_model_id)

<span class="hljs-comment"># to initiate with random weights</span>
peft_config.init_lora_weights = <span class="hljs-literal">False</span>

model.add_adapter(peft_config)
model.enable_adapters()
output = model.generate(**inputs)`,wrap:!1}}),pe=new y({props:{code:"bW9kZWwuZGlzYWJsZV9hZGFwdGVycygpJTBBb3V0cHV0JTIwJTNEJTIwbW9kZWwuZ2VuZXJhdGUoKippbnB1dHMp",highlighted:`model.disable_adapters()
output = model.generate(**inputs)`,wrap:!1}}),oe=new _({props:{title:"Train a PEFT adapter",local:"train-a-peft-adapter",headingTag:"h2"}}),g=new Gt({props:{$$slots:{default:[St]},$$scope:{ctx:Me}}}),me=new y({props:{code:"ZnJvbSUyMHBlZnQlMjBpbXBvcnQlMjBMb3JhQ29uZmlnJTBBJTBBcGVmdF9jb25maWclMjAlM0QlMjBMb3JhQ29uZmlnKCUwQSUyMCUyMCUyMCUyMGxvcmFfYWxwaGElM0QxNiUyQyUwQSUyMCUyMCUyMCUyMGxvcmFfZHJvcG91dCUzRDAuMSUyQyUwQSUyMCUyMCUyMCUyMHIlM0Q2NCUyQyUwQSUyMCUyMCUyMCUyMGJpYXMlM0QlMjJub25lJTIyJTJDJTBBJTIwJTIwJTIwJTIwdGFza190eXBlJTNEJTIyQ0FVU0FMX0xNJTIyJTJDJTBBKQ==",highlighted:`<span class="hljs-keyword">from</span> peft <span class="hljs-keyword">import</span> LoraConfig

peft_config = LoraConfig(
    lora_alpha=<span class="hljs-number">16</span>,
    lora_dropout=<span class="hljs-number">0.1</span>,
    r=<span class="hljs-number">64</span>,
    bias=<span class="hljs-string">&quot;none&quot;</span>,
    task_type=<span class="hljs-string">&quot;CAUSAL_LM&quot;</span>,
)`,wrap:!1}}),de=new y({props:{code:"bW9kZWwuYWRkX2FkYXB0ZXIocGVmdF9jb25maWcp",highlighted:"model.add_adapter(peft_config)",wrap:!1}}),fe=new y({props:{code:"dHJhaW5lciUyMCUzRCUyMFRyYWluZXIobW9kZWwlM0Rtb2RlbCUyQyUyMC4uLiklMEF0cmFpbmVyLnRyYWluKCk=",highlighted:`trainer = Trainer(model=model, ...)
trainer.train()`,wrap:!1}}),ue=new At({props:{source:"https://github.com/huggingface/transformers/blob/main/docs/source/ja/peft.md"}}),{c(){i=p("meta"),$=s(),c=p("p"),T=s(),r(Z.$$.fragment),$e=s(),r(U.$$.fragment),Te=s(),k=p("p"),k.innerHTML=bt,he=s(),j=p("p"),j.textContent=ut,we=s(),h=p("div"),h.innerHTML=Mt,ge=s(),F=p("p"),F.innerHTML=ct,Je=s(),r(v.$$.fragment),Ce=s(),W=p("p"),W.textContent=yt,_e=s(),r(B.$$.fragment),Ze=s(),R=p("p"),R.textContent=$t,Ue=s(),r(E.$$.fragment),ke=s(),r(H.$$.fragment),je=s(),X=p("p"),X.textContent=Tt,Fe=s(),x=p("ul"),x.innerHTML=ht,ve=s(),G=p("p"),G.innerHTML=wt,We=s(),r(L.$$.fragment),Be=s(),V=p("p"),V.innerHTML=gt,Re=s(),Q=p("ol"),Q.innerHTML=Jt,Ee=s(),r(N.$$.fragment),He=s(),r(w.$$.fragment),Xe=s(),I=p("p"),I.innerHTML=Ct,xe=s(),r(z.$$.fragment),Ge=s(),r(P.$$.fragment),Le=s(),Y=p("p"),Y.innerHTML=_t,Ve=s(),r(A.$$.fragment),Qe=s(),r(q.$$.fragment),Ne=s(),S=p("p"),S.innerHTML=Zt,Ie=s(),r(K.$$.fragment),ze=s(),D=p("p"),D.textContent=Ut,Pe=s(),r(O.$$.fragment),Ye=s(),ee=p("p"),ee.innerHTML=kt,Ae=s(),r(te.$$.fragment),qe=s(),r(le.$$.fragment),Se=s(),ae=p("p"),ae.textContent=jt,Ke=s(),r(se.$$.fragment),De=s(),ne=p("p"),ne.textContent=Ft,Oe=s(),r(pe.$$.fragment),et=s(),r(oe.$$.fragment),tt=s(),ie=p("p"),ie.innerHTML=vt,lt=s(),r(g.$$.fragment),at=s(),re=p("ol"),re.innerHTML=Wt,st=s(),r(me.$$.fragment),nt=s(),J=p("ol"),J.innerHTML=Bt,pt=s(),r(de.$$.fragment),ot=s(),C=p("ol"),C.innerHTML=Rt,it=s(),r(fe.$$.fragment),rt=s(),be=p("p"),be.textContent=Et,mt=s(),r(ue.$$.fragment),dt=s(),ce=p("p"),this.h()},l(e){const t=zt("svelte-u9bgzb",document.head);i=o(t,"META",{name:!0,content:!0}),t.forEach(l),$=n(e),c=o(e,"P",{}),xt(c).forEach(l),T=n(e),m(Z.$$.fragment,e),$e=n(e),m(U.$$.fragment,e),Te=n(e),k=o(e,"P",{"data-svelte-h":!0}),M(k)!=="svelte-5gn15j"&&(k.innerHTML=bt),he=n(e),j=o(e,"P",{"data-svelte-h":!0}),M(j)!=="svelte-w1i7an"&&(j.textContent=ut),we=n(e),h=o(e,"DIV",{class:!0,"data-svelte-h":!0}),M(h)!=="svelte-1fuskl2"&&(h.innerHTML=Mt),ge=n(e),F=o(e,"P",{"data-svelte-h":!0}),M(F)!=="svelte-17ytuwu"&&(F.innerHTML=ct),Je=n(e),m(v.$$.fragment,e),Ce=n(e),W=o(e,"P",{"data-svelte-h":!0}),M(W)!=="svelte-o72cq6"&&(W.textContent=yt),_e=n(e),m(B.$$.fragment,e),Ze=n(e),R=o(e,"P",{"data-svelte-h":!0}),M(R)!=="svelte-13qklsb"&&(R.textContent=$t),Ue=n(e),m(E.$$.fragment,e),ke=n(e),m(H.$$.fragment,e),je=n(e),X=o(e,"P",{"data-svelte-h":!0}),M(X)!=="svelte-1u7vx0t"&&(X.textContent=Tt),Fe=n(e),x=o(e,"UL",{"data-svelte-h":!0}),M(x)!=="svelte-1ulyaf4"&&(x.innerHTML=ht),ve=n(e),G=o(e,"P",{"data-svelte-h":!0}),M(G)!=="svelte-ez8kei"&&(G.innerHTML=wt),We=n(e),m(L.$$.fragment,e),Be=n(e),V=o(e,"P",{"data-svelte-h":!0}),M(V)!=="svelte-1sgrl5r"&&(V.innerHTML=gt),Re=n(e),Q=o(e,"OL",{"data-svelte-h":!0}),M(Q)!=="svelte-10n1z4p"&&(Q.innerHTML=Jt),Ee=n(e),m(N.$$.fragment,e),He=n(e),m(w.$$.fragment,e),Xe=n(e),I=o(e,"P",{"data-svelte-h":!0}),M(I)!=="svelte-1yiz7ih"&&(I.innerHTML=Ct),xe=n(e),m(z.$$.fragment,e),Ge=n(e),m(P.$$.fragment,e),Le=n(e),Y=o(e,"P",{"data-svelte-h":!0}),M(Y)!=="svelte-1g6agu2"&&(Y.innerHTML=_t),Ve=n(e),m(A.$$.fragment,e),Qe=n(e),m(q.$$.fragment,e),Ne=n(e),S=o(e,"P",{"data-svelte-h":!0}),M(S)!=="svelte-1rl7ayd"&&(S.innerHTML=Zt),Ie=n(e),m(K.$$.fragment,e),ze=n(e),D=o(e,"P",{"data-svelte-h":!0}),M(D)!=="svelte-uxkarq"&&(D.textContent=Ut),Pe=n(e),m(O.$$.fragment,e),Ye=n(e),ee=o(e,"P",{"data-svelte-h":!0}),M(ee)!=="svelte-sbepkg"&&(ee.innerHTML=kt),Ae=n(e),m(te.$$.fragment,e),qe=n(e),m(le.$$.fragment,e),Se=n(e),ae=o(e,"P",{"data-svelte-h":!0}),M(ae)!=="svelte-17y8rb4"&&(ae.textContent=jt),Ke=n(e),m(se.$$.fragment,e),De=n(e),ne=o(e,"P",{"data-svelte-h":!0}),M(ne)!=="svelte-n3dw5b"&&(ne.textContent=Ft),Oe=n(e),m(pe.$$.fragment,e),et=n(e),m(oe.$$.fragment,e),tt=n(e),ie=o(e,"P",{"data-svelte-h":!0}),M(ie)!=="svelte-uzl2w9"&&(ie.innerHTML=vt),lt=n(e),m(g.$$.fragment,e),at=n(e),re=o(e,"OL",{"data-svelte-h":!0}),M(re)!=="svelte-1u22mfv"&&(re.innerHTML=Wt),st=n(e),m(me.$$.fragment,e),nt=n(e),J=o(e,"OL",{start:!0,"data-svelte-h":!0}),M(J)!=="svelte-y6k54s"&&(J.innerHTML=Bt),pt=n(e),m(de.$$.fragment,e),ot=n(e),C=o(e,"OL",{start:!0,"data-svelte-h":!0}),M(C)!=="svelte-1yp6csy"&&(C.innerHTML=Rt),it=n(e),m(fe.$$.fragment,e),rt=n(e),be=o(e,"P",{"data-svelte-h":!0}),M(be)!=="svelte-16hz5kg"&&(be.textContent=Et),mt=n(e),m(ue.$$.fragment,e),dt=n(e),ce=o(e,"P",{}),xt(ce).forEach(l),this.h()},h(){ye(i,"name","hf:doc:metadata"),ye(i,"content",Dt),ye(h,"class","flex flex-col justify-center"),ye(J,"start","2"),ye(C,"start","3")},m(e,t){Pt(document.head,i),a(e,$,t),a(e,c,t),a(e,T,t),d(Z,e,t),a(e,$e,t),d(U,e,t),a(e,Te,t),a(e,k,t),a(e,he,t),a(e,j,t),a(e,we,t),a(e,h,t),a(e,ge,t),a(e,F,t),a(e,Je,t),d(v,e,t),a(e,Ce,t),a(e,W,t),a(e,_e,t),d(B,e,t),a(e,Ze,t),a(e,R,t),a(e,Ue,t),d(E,e,t),a(e,ke,t),d(H,e,t),a(e,je,t),a(e,X,t),a(e,Fe,t),a(e,x,t),a(e,ve,t),a(e,G,t),a(e,We,t),d(L,e,t),a(e,Be,t),a(e,V,t),a(e,Re,t),a(e,Q,t),a(e,Ee,t),d(N,e,t),a(e,He,t),d(w,e,t),a(e,Xe,t),a(e,I,t),a(e,xe,t),d(z,e,t),a(e,Ge,t),d(P,e,t),a(e,Le,t),a(e,Y,t),a(e,Ve,t),d(A,e,t),a(e,Qe,t),d(q,e,t),a(e,Ne,t),a(e,S,t),a(e,Ie,t),d(K,e,t),a(e,ze,t),a(e,D,t),a(e,Pe,t),d(O,e,t),a(e,Ye,t),a(e,ee,t),a(e,Ae,t),d(te,e,t),a(e,qe,t),d(le,e,t),a(e,Se,t),a(e,ae,t),a(e,Ke,t),d(se,e,t),a(e,De,t),a(e,ne,t),a(e,Oe,t),d(pe,e,t),a(e,et,t),d(oe,e,t),a(e,tt,t),a(e,ie,t),a(e,lt,t),d(g,e,t),a(e,at,t),a(e,re,t),a(e,st,t),d(me,e,t),a(e,nt,t),a(e,J,t),a(e,pt,t),d(de,e,t),a(e,ot,t),a(e,C,t),a(e,it,t),d(fe,e,t),a(e,rt,t),a(e,be,t),a(e,mt,t),d(ue,e,t),a(e,dt,t),a(e,ce,t),ft=!0},p(e,[t]){const Ht={};t&2&&(Ht.$$scope={dirty:t,ctx:e}),w.$set(Ht);const Xt={};t&2&&(Xt.$$scope={dirty:t,ctx:e}),g.$set(Xt)},i(e){ft||(f(Z.$$.fragment,e),f(U.$$.fragment,e),f(v.$$.fragment,e),f(B.$$.fragment,e),f(E.$$.fragment,e),f(H.$$.fragment,e),f(L.$$.fragment,e),f(N.$$.fragment,e),f(w.$$.fragment,e),f(z.$$.fragment,e),f(P.$$.fragment,e),f(A.$$.fragment,e),f(q.$$.fragment,e),f(K.$$.fragment,e),f(O.$$.fragment,e),f(te.$$.fragment,e),f(le.$$.fragment,e),f(se.$$.fragment,e),f(pe.$$.fragment,e),f(oe.$$.fragment,e),f(g.$$.fragment,e),f(me.$$.fragment,e),f(de.$$.fragment,e),f(fe.$$.fragment,e),f(ue.$$.fragment,e),ft=!0)},o(e){b(Z.$$.fragment,e),b(U.$$.fragment,e),b(v.$$.fragment,e),b(B.$$.fragment,e),b(E.$$.fragment,e),b(H.$$.fragment,e),b(L.$$.fragment,e),b(N.$$.fragment,e),b(w.$$.fragment,e),b(z.$$.fragment,e),b(P.$$.fragment,e),b(A.$$.fragment,e),b(q.$$.fragment,e),b(K.$$.fragment,e),b(O.$$.fragment,e),b(te.$$.fragment,e),b(le.$$.fragment,e),b(se.$$.fragment,e),b(pe.$$.fragment,e),b(oe.$$.fragment,e),b(g.$$.fragment,e),b(me.$$.fragment,e),b(de.$$.fragment,e),b(fe.$$.fragment,e),b(ue.$$.fragment,e),ft=!1},d(e){e&&(l($),l(c),l(T),l($e),l(Te),l(k),l(he),l(j),l(we),l(h),l(ge),l(F),l(Je),l(Ce),l(W),l(_e),l(Ze),l(R),l(Ue),l(ke),l(je),l(X),l(Fe),l(x),l(ve),l(G),l(We),l(Be),l(V),l(Re),l(Q),l(Ee),l(He),l(Xe),l(I),l(xe),l(Ge),l(Le),l(Y),l(Ve),l(Qe),l(Ne),l(S),l(Ie),l(ze),l(D),l(Pe),l(Ye),l(ee),l(Ae),l(qe),l(Se),l(ae),l(Ke),l(De),l(ne),l(Oe),l(et),l(tt),l(ie),l(lt),l(at),l(re),l(st),l(nt),l(J),l(pt),l(ot),l(C),l(it),l(rt),l(be),l(mt),l(dt),l(ce)),l(i),u(Z,e),u(U,e),u(v,e),u(B,e),u(E,e),u(H,e),u(L,e),u(N,e),u(w,e),u(z,e),u(P,e),u(A,e),u(q,e),u(K,e),u(O,e),u(te,e),u(le,e),u(se,e),u(pe,e),u(oe,e),u(g,e),u(me,e),u(de,e),u(fe,e),u(ue,e)}}}const Dt='{"title":"Load adapters with 🤗 PEFT","local":"load-adapters-with--peft","sections":[{"title":"Setup","local":"setup","sections":[],"depth":2},{"title":"Supported PEFT models","local":"supported-peft-models","sections":[],"depth":2},{"title":"Load a PEFT adapter","local":"load-a-peft-adapter","sections":[],"depth":2},{"title":"Load in 8bit or 4bit","local":"load-in-8bit-or-4bit","sections":[],"depth":2},{"title":"Add a new adapter","local":"add-a-new-adapter","sections":[],"depth":2},{"title":"Enable and disable adapters","local":"enable-and-disable-adapters","sections":[],"depth":2},{"title":"Train a PEFT adapter","local":"train-a-peft-adapter","sections":[],"depth":2}],"depth":1}';function Ot(Me){return Qt(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class pl extends Nt{constructor(i){super(),It(this,i,Ot,Kt,Vt,{})}}export{pl as component};