import{s as Z,n as X,o as F}from"../chunks/scheduler.37c15a92.js";import{S as Y,i as K,g as y,s as n,r as j,A as D,h as g,f as a,c as l,j as L,u as w,x as H,k as P,y as O,a as t,v as J,d as $,t as T,w as k}from"../chunks/index.2bf4358c.js";import{C as R}from"../chunks/CodeBlock.4f5fc1ad.js";import{C as ee}from"../chunks/CourseFloatingBanner.15ba07e6.js";import{H as se}from"../chunks/Heading.8ada512a.js";import{E as ae}from"../chunks/EditOnGithub.9958bcdc.js";function te(S){let o,x,M,U,r,C,i,v,p,G="Si tu intención es usar modelos preentrenados o una versión ajustada en producción, ten en cuenta que a pesar de ser herramientas poderosas, tienen limitaciones. La más importante de ellas es que, para permitir el preentrenamiento con grandes cantidades de datos, los investigadores suelen <em>raspar</em> (<em>scrape</em>) todo el contenido que puedan encontrar, tomando lo mejor y lo peor que está disponible en internet.",B,c,Q="Para dar un ejemplo rápido, volvamos al caso del pipeline <code>fill-mask</code> con el modelo BERT:",q,u,I,m,_,d,A='Cuando se le pide llenar la palabra faltante en estas dos oraciones, el modelo devuelve solo una respuesta agnóstica de género (<em>waiter/waitress</em>). Las otras son ocupaciones que se suelen asociar con un género específico — y si, prostituta es una de las primeras 5 posibilidades que el modelo asocia con “mujer” y “trabajo”. Esto sucede a pesar de que BERT es uno de los pocos modelos de Transformadores que no se construyeron basados en datos <em>raspados</em> de todo el internet, pero usando datos aparentemente neutrales (está entrenado con los conjuntos de datos de <a href="https://huggingface.co/datasets/wikipedia" rel="nofollow">Wikipedia en Inglés</a> y <a href="https://huggingface.co/datasets/bookcorpus" rel="nofollow">BookCorpus</a>).',V,h,z="Cuando uses estas herramientas, debes tener en cuenta que el modelo original que estás usando puede muy fácilmente generar contenido sexista, racista u homófobo. Ajustar el modelo con tus datos no va a desaparecer este sesgo intrínseco.",W,f,N,b,E;return r=new se({props:{title:"Sesgos y limitaciones",local:"sesgos-y-limitaciones",headingTag:"h1"}}),i=new ee({props:{chapter:1,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/es/chapter1/section8.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/es/chapter1/section8.ipynb"}]}}),u=new R({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMHBpcGVsaW5lJTBBJTBBdW5tYXNrZXIlMjAlM0QlMjBwaXBlbGluZSglMjJmaWxsLW1hc2slMjIlMkMlMjBtb2RlbCUzRCUyMmJlcnQtYmFzZS11bmNhc2VkJTIyKSUwQXJlc3VsdCUyMCUzRCUyMHVubWFza2VyKCUyMlRoaXMlMjBtYW4lMjB3b3JrcyUyMGFzJTIwYSUyMCU1Qk1BU0slNUQuJTIyKSUwQXByaW50KCU1QnIlNUIlMjJ0b2tlbl9zdHIlMjIlNUQlMjBmb3IlMjByJTIwaW4lMjByZXN1bHQlNUQpJTBBJTBBcmVzdWx0JTIwJTNEJTIwdW5tYXNrZXIoJTIyVGhpcyUyMHdvbWFuJTIwd29ya3MlMjBhcyUyMGElMjAlNUJNQVNLJTVELiUyMiklMEFwcmludCglNUJyJTVCJTIydG9rZW5fc3RyJTIyJTVEJTIwZm9yJTIwciUyMGluJTIwcmVzdWx0JTVEKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> pipeline

unmasker = pipeline(<span class="hljs-string">&quot;fill-mask&quot;</span>, model=<span class="hljs-string">&quot;bert-base-uncased&quot;</span>)
result = unmasker(<span class="hljs-string">&quot;This man works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])

result = unmasker(<span class="hljs-string">&quot;This woman works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])`,wrap:!1}}),m=new R({props:{code:"JTVCJ2xhd3llciclMkMlMjAnY2FycGVudGVyJyUyQyUyMCdkb2N0b3InJTJDJTIwJ3dhaXRlciclMkMlMjAnbWVjaGFuaWMnJTVEJTBBJTVCJ251cnNlJyUyQyUyMCd3YWl0cmVzcyclMkMlMjAndGVhY2hlciclMkMlMjAnbWFpZCclMkMlMjAncHJvc3RpdHV0ZSclNUQ=",highlighted:`[<span class="hljs-string">&#x27;lawyer&#x27;</span>, <span class="hljs-string">&#x27;carpenter&#x27;</span>, <span class="hljs-string">&#x27;doctor&#x27;</span>, <span class="hljs-string">&#x27;waiter&#x27;</span>, <span class="hljs-string">&#x27;mechanic&#x27;</span>]
[<span class="hljs-string">&#x27;nurse&#x27;</span>, <span class="hljs-string">&#x27;waitress&#x27;</span>, <span class="hljs-string">&#x27;teacher&#x27;</span>, <span class="hljs-string">&#x27;maid&#x27;</span>, <span class="hljs-string">&#x27;prostitute&#x27;</span>]`,wrap:!1}}),f=new ae({props:{source:"https://github.com/huggingface/course/blob/main/chapters/es/chapter1/8.mdx"}}),{c(){o=y("meta"),x=n(),M=y("p"),U=n(),j(r.$$.fragment),C=n(),j(i.$$.fragment),v=n(),p=y("p"),p.innerHTML=G,B=n(),c=y("p"),c.innerHTML=Q,q=n(),j(u.$$.fragment),I=n(),j(m.$$.fragment),_=n(),d=y("p"),d.innerHTML=A,V=n(),h=y("p"),h.textContent=z,W=n(),j(f.$$.fragment),N=n(),b=y("p"),this.h()},l(e){const s=D("svelte-u9bgzb",document.head);o=g(s,"META",{name:!0,content:!0}),s.forEach(a),x=l(e),M=g(e,"P",{}),L(M).forEach(a),U=l(e),w(r.$$.fragment,e),C=l(e),w(i.$$.fragment,e),v=l(e),p=g(e,"P",{"data-svelte-h":!0}),H(p)!=="svelte-vc8qfv"&&(p.innerHTML=G),B=l(e),c=g(e,"P",{"data-svelte-h":!0}),H(c)!=="svelte-1u4quv1"&&(c.innerHTML=Q),q=l(e),w(u.$$.fragment,e),I=l(e),w(m.$$.fragment,e),_=l(e),d=g(e,"P",{"data-svelte-h":!0}),H(d)!=="svelte-bfk23v"&&(d.innerHTML=A),V=l(e),h=g(e,"P",{"data-svelte-h":!0}),H(h)!=="svelte-xno8u4"&&(h.textContent=z),W=l(e),w(f.$$.fragment,e),N=l(e),b=g(e,"P",{}),L(b).forEach(a),this.h()},h(){P(o,"name","hf:doc:metadata"),P(o,"content",ne)},m(e,s){O(document.head,o),t(e,x,s),t(e,M,s),t(e,U,s),J(r,e,s),t(e,C,s),J(i,e,s),t(e,v,s),t(e,p,s),t(e,B,s),t(e,c,s),t(e,q,s),J(u,e,s),t(e,I,s),J(m,e,s),t(e,_,s),t(e,d,s),t(e,V,s),t(e,h,s),t(e,W,s),J(f,e,s),t(e,N,s),t(e,b,s),E=!0},p:X,i(e){E||($(r.$$.fragment,e),$(i.$$.fragment,e),$(u.$$.fragment,e),$(m.$$.fragment,e),$(f.$$.fragment,e),E=!0)},o(e){T(r.$$.fragment,e),T(i.$$.fragment,e),T(u.$$.fragment,e),T(m.$$.fragment,e),T(f.$$.fragment,e),E=!1},d(e){e&&(a(x),a(M),a(U),a(C),a(v),a(p),a(B),a(c),a(q),a(I),a(_),a(d),a(V),a(h),a(W),a(N),a(b)),a(o),k(r,e),k(i,e),k(u,e),k(m,e),k(f,e)}}}const ne='{"title":"Sesgos y limitaciones","local":"sesgos-y-limitaciones","sections":[],"depth":1}';function le(S){return F(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class me extends Y{constructor(o){super(),K(this,o,le,te,Z,{})}}export{me as component};
