course/pr_1142/es/_app/immutable/nodes/11.bf64fc4e.js

import{s as F,n as Y,o as K}from"../chunks/scheduler.505acc25.js";import{S as D,i as O,e as g,s as n,c as b,h as ee,a as M,d as t,b as l,f as R,g as j,j as G,k as Z,l as se,m as a,n as $,t as w,o as J,p as T}from"../chunks/index.ccc5f2c1.js";import{C as te,E as ae}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.66a20782.js";import{C as X}from"../chunks/CodeBlock.40091ae9.js";import{C as ne}from"../chunks/CourseFloatingBanner.edb13094.js";import{H as le}from"../chunks/Heading.666af0ac.js";function oe(Q){let o,C,x,U,r,v,i,B,p,q,c,L="Si tu intención es usar modelos preentrenados o una versión ajustada en producción, ten en cuenta que a pesar de ser herramientas poderosas, tienen limitaciones. La más importante de ellas es que, para permitir el preentrenamiento con grandes cantidades de datos, los investigadores suelen <em>raspar</em> (<em>scrape</em>) todo el contenido que puedan encontrar, tomando lo mejor y lo peor que está disponible en internet.",I,m,z="Para dar un ejemplo rápido, volvamos al caso del pipeline <code>fill-mask</code> con el modelo BERT:",_,u,V,d,W,f,A='Cuando se le pide llenar la palabra faltante en estas dos oraciones, el modelo devuelve solo una respuesta agnóstica de género (<em>waiter/waitress</em>). Las otras son ocupaciones que se suelen asociar con un género específico — y si, prostituta es una de las primeras 5 posibilidades que el modelo asocia con “mujer” y “trabajo”. Esto sucede a pesar de que BERT es uno de los pocos modelos de Transformadores que no se construyeron basados en datos <em>raspados</em> de todo el internet, pero usando datos aparentemente neutrales (está entrenado con los conjuntos de datos de <a href="https://huggingface.co/datasets/wikipedia" rel="nofollow">Wikipedia en Inglés</a> y <a href="https://huggingface.co/datasets/bookcorpus" rel="nofollow">BookCorpus</a>).',N,y,P="Cuando uses estas herramientas, debes tener en cuenta que el modelo original que estás usando puede muy fácilmente generar contenido sexista, racista u homófobo. Ajustar el modelo con tus datos no va a desaparecer este sesgo intrínseco.",S,h,E,k,H;return r=new te({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),i=new le({props:{title:"Sesgos y limitaciones",local:"sesgos-y-limitaciones",headingTag:"h1"}}),p=new ne({props:{chapter:1,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/es/chapter1/section8.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/es/chapter1/section8.ipynb"}]}}),u=new X({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMHBpcGVsaW5lJTBBJTBBdW5tYXNrZXIlMjAlM0QlMjBwaXBlbGluZSglMjJmaWxsLW1hc2slMjIlMkMlMjBtb2RlbCUzRCUyMmJlcnQtYmFzZS11bmNhc2VkJTIyKSUwQXJlc3VsdCUyMCUzRCUyMHVubWFza2VyKCUyMlRoaXMlMjBtYW4lMjB3b3JrcyUyMGFzJTIwYSUyMCU1Qk1BU0slNUQuJTIyKSUwQXByaW50KCU1QnIlNUIlMjJ0b2tlbl9zdHIlMjIlNUQlMjBmb3IlMjByJTIwaW4lMjByZXN1bHQlNUQpJTBBJTBBcmVzdWx0JTIwJTNEJTIwdW5tYXNrZXIoJTIyVGhpcyUyMHdvbWFuJTIwd29ya3MlMjBhcyUyMGElMjAlNUJNQVNLJTVELiUyMiklMEFwcmludCglNUJyJTVCJTIydG9rZW5fc3RyJTIyJTVEJTIwZm9yJTIwciUyMGluJTIwcmVzdWx0JTVEKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> pipeline

unmasker = pipeline(<span class="hljs-string">&quot;fill-mask&quot;</span>, model=<span class="hljs-string">&quot;bert-base-uncased&quot;</span>)
result = unmasker(<span class="hljs-string">&quot;This man works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])

result = unmasker(<span class="hljs-string">&quot;This woman works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])`,wrap:!1}}),d=new X({props:{code:"JTVCJ2xhd3llciclMkMlMjAnY2FycGVudGVyJyUyQyUyMCdkb2N0b3InJTJDJTIwJ3dhaXRlciclMkMlMjAnbWVjaGFuaWMnJTVEJTBBJTVCJ251cnNlJyUyQyUyMCd3YWl0cmVzcyclMkMlMjAndGVhY2hlciclMkMlMjAnbWFpZCclMkMlMjAncHJvc3RpdHV0ZSclNUQ=",highlighted:`[<span class="hljs-string">&#x27;lawyer&#x27;</span>, <span class="hljs-string">&#x27;carpenter&#x27;</span>, <span class="hljs-string">&#x27;doctor&#x27;</span>, <span class="hljs-string">&#x27;waiter&#x27;</span>, <span class="hljs-string">&#x27;mechanic&#x27;</span>]
[<span class="hljs-string">&#x27;nurse&#x27;</span>, <span class="hljs-string">&#x27;waitress&#x27;</span>, <span class="hljs-string">&#x27;teacher&#x27;</span>, <span class="hljs-string">&#x27;maid&#x27;</span>, <span class="hljs-string">&#x27;prostitute&#x27;</span>]`,wrap:!1}}),h=new ae({props:{source:"https://github.com/huggingface/course/blob/main/chapters/es/chapter1/8.mdx"}}),{c(){o=g("meta"),C=n(),x=g("p"),U=n(),b(r.$$.fragment),v=n(),b(i.$$.fragment),B=n(),b(p.$$.fragment),q=n(),c=g("p"),c.innerHTML=L,I=n(),m=g("p"),m.innerHTML=z,_=n(),b(u.$$.fragment),V=n(),b(d.$$.fragment),W=n(),f=g("p"),f.innerHTML=A,N=n(),y=g("p"),y.textContent=P,S=n(),b(h.$$.fragment),E=n(),k=g("p"),this.h()},l(e){const s=ee("svelte-u9bgzb",document.head);o=M(s,"META",{name:!0,content:!0}),s.forEach(t),C=l(e),x=M(e,"P",{}),R(x).forEach(t),U=l(e),j(r.$$.fragment,e),v=l(e),j(i.$$.fragment,e),B=l(e),j(p.$$.fragment,e),q=l(e),c=M(e,"P",{"data-svelte-h":!0}),G(c)!=="svelte-vc8qfv"&&(c.innerHTML=L),I=l(e),m=M(e,"P",{"data-svelte-h":!0}),G(m)!=="svelte-1u4quv1"&&(m.innerHTML=z),_=l(e),j(u.$$.fragment,e),V=l(e),j(d.$$.fragment,e),W=l(e),f=M(e,"P",{"data-svelte-h":!0}),G(f)!=="svelte-bfk23v"&&(f.innerHTML=A),N=l(e),y=M(e,"P",{"data-svelte-h":!0}),G(y)!=="svelte-xno8u4"&&(y.textContent=P),S=l(e),j(h.$$.fragment,e),E=l(e),k=M(e,"P",{}),R(k).forEach(t),this.h()},h(){Z(o,"name","hf:doc:metadata"),Z(o,"content",re)},m(e,s){se(document.head,o),a(e,C,s),a(e,x,s),a(e,U,s),$(r,e,s),a(e,v,s),$(i,e,s),a(e,B,s),$(p,e,s),a(e,q,s),a(e,c,s),a(e,I,s),a(e,m,s),a(e,_,s),$(u,e,s),a(e,V,s),$(d,e,s),a(e,W,s),a(e,f,s),a(e,N,s),a(e,y,s),a(e,S,s),$(h,e,s),a(e,E,s),a(e,k,s),H=!0},p:Y,i(e){H||(w(r.$$.fragment,e),w(i.$$.fragment,e),w(p.$$.fragment,e),w(u.$$.fragment,e),w(d.$$.fragment,e),w(h.$$.fragment,e),H=!0)},o(e){J(r.$$.fragment,e),J(i.$$.fragment,e),J(p.$$.fragment,e),J(u.$$.fragment,e),J(d.$$.fragment,e),J(h.$$.fragment,e),H=!1},d(e){e&&(t(C),t(x),t(U),t(v),t(B),t(q),t(c),t(I),t(m),t(_),t(V),t(W),t(f),t(N),t(y),t(S),t(E),t(k)),t(o),T(r,e),T(i,e),T(p,e),T(u,e),T(d,e),T(h,e)}}}const re='{"title":"Sesgos y limitaciones","local":"sesgos-y-limitaciones","sections":[],"depth":1}';function ie(Q){return K(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class ye extends D{constructor(o){super(),O(this,o,ie,oe,F,{})}}export{ye as component};