import{s as Z,n as K,o as X}from"../chunks/scheduler.49e4e380.js";import{S as Y,i as L,g as f,s as a,r as y,A as D,h as b,f as n,c as l,j as P,u as k,x as N,k as F,y as O,a as t,v as j,d as J,t as $,w as T}from"../chunks/index.fb15006d.js";import{C as R}from"../chunks/CodeBlock.3f4fbe91.js";import{C as ee}from"../chunks/CourseFloatingBanner.c832fd1e.js";import{H as se,E as ne}from"../chunks/getInferenceSnippets.233af260.js";function te(H){let r,x,w,B,i,U,o,C,u,Q="Wenn du vorhast, ein vortrainiertes Modell oder eine feingetunte Modellversion in der Produktion zu verwenden, sei dir bitte darüber im Klaren, dass diese zwar leistungsstarke Werkzeuge sind, allerdings aber auch ihre Grenzen haben. Die größte Einschränkung ergibt sich daraus, dass Forscherinnen und Forscher für das auf Basis großer Datenmengen durchgeführte Pretraining oft alle Inhalte, die sie finden können, zusammensuchen und dabei sowohl all das Gute als auch das Schlechte einbezogen wird, was das Internet zu bieten hat.",z,c,S="Greifen wir zur Veranschaulichung noch einmal das Beispiel einer <code>fill-mask</code>-Pipeline mit dem BERT-Modell auf:",I,d,v,p,V,h,q='Wenn das Modell aufgefordert wird, das fehlende Wort in diesen beiden Sätzen zu ergänzen, gibt es lediglich eine geschlechtsneutrale Antwort (Kellnerin/Kellner - waitress/waiter). Bei den anderen handelt es sich um Berufe, die normalerweise mit einem bestimmten Geschlecht assoziiert werden - und ja, “prostitute” landete unter den Top 5, die das Modell mit “woman” und “work” assoziiert. Und das, obwohl BERT eines der wenigen Transformer-Modelle ist, das nicht auf Daten aus dem gesamten Internet beruht, sondern auf vermeintlich neutralen Daten (es wurde auf dem <a href="https://huggingface.co/datasets/wikipedia" rel="nofollow">englischsprachigen Wikipedia-</a> und dem <a href="https://huggingface.co/datasets/bookcorpus" rel="nofollow">BookCorpus-Datensatz</a> trainiert).',W,m,A="Wenn du diese Werkzeuge verwendest, musst du daher im Hinterkopf behalten, dass das ursprüngliche Modell, das du verwendest, sehr leicht sexistische, rassistische oder homophobe Inhalte hervorbringen könnte. Beim Feintuning des Modells auf deinen Daten werden diese inhärenten Voreingenommenheiten bzw. Vorurteile (engl. Bias) nicht verschwinden.",_,g,G,M,E;return i=new se({props:{title:"Bias und Einschränkungen",local:"bias-und-einschränkungen",headingTag:"h1"}}),o=new ee({props:{chapter:1,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/de/chapter1/section8.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/de/chapter1/section8.ipynb"}]}}),d=new R({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMHBpcGVsaW5lJTBBJTBBdW5tYXNrZXIlMjAlM0QlMjBwaXBlbGluZSglMjJmaWxsLW1hc2slMjIlMkMlMjBtb2RlbCUzRCUyMmJlcnQtYmFzZS11bmNhc2VkJTIyKSUwQXJlc3VsdCUyMCUzRCUyMHVubWFza2VyKCUyMlRoaXMlMjBtYW4lMjB3b3JrcyUyMGFzJTIwYSUyMCU1Qk1BU0slNUQuJTIyKSUwQXByaW50KCU1QnIlNUIlMjJ0b2tlbl9zdHIlMjIlNUQlMjBmb3IlMjByJTIwaW4lMjByZXN1bHQlNUQpJTBBJTBBcmVzdWx0JTIwJTNEJTIwdW5tYXNrZXIoJTIyVGhpcyUyMHdvbWFuJTIwd29ya3MlMjBhcyUyMGElMjAlNUJNQVNLJTVELiUyMiklMEFwcmludCglNUJyJTVCJTIydG9rZW5fc3RyJTIyJTVEJTIwZm9yJTIwciUyMGluJTIwcmVzdWx0JTVEKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> pipeline

unmasker = pipeline(<span class="hljs-string">&quot;fill-mask&quot;</span>, model=<span class="hljs-string">&quot;bert-base-uncased&quot;</span>)
result = unmasker(<span class="hljs-string">&quot;This man works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])

result = unmasker(<span class="hljs-string">&quot;This woman works as a [MASK].&quot;</span>)
<span class="hljs-built_in">print</span>([r[<span class="hljs-string">&quot;token_str&quot;</span>] <span class="hljs-keyword">for</span> r <span class="hljs-keyword">in</span> result])`,wrap:!1}}),p=new R({props:{code:"JTVCJ2xhd3llciclMkMlMjAnY2FycGVudGVyJyUyQyUyMCdkb2N0b3InJTJDJTIwJ3dhaXRlciclMkMlMjAnbWVjaGFuaWMnJTVEJTBBJTVCJ251cnNlJyUyQyUyMCd3YWl0cmVzcyclMkMlMjAndGVhY2hlciclMkMlMjAnbWFpZCclMkMlMjAncHJvc3RpdHV0ZSclNUQ=",highlighted:`[<span class="hljs-string">&#x27;lawyer&#x27;</span>, <span class="hljs-string">&#x27;carpenter&#x27;</span>, <span class="hljs-string">&#x27;doctor&#x27;</span>, <span class="hljs-string">&#x27;waiter&#x27;</span>, <span class="hljs-string">&#x27;mechanic&#x27;</span>]
[<span class="hljs-string">&#x27;nurse&#x27;</span>, <span class="hljs-string">&#x27;waitress&#x27;</span>, <span class="hljs-string">&#x27;teacher&#x27;</span>, <span class="hljs-string">&#x27;maid&#x27;</span>, <span class="hljs-string">&#x27;prostitute&#x27;</span>]`,wrap:!1}}),g=new ne({props:{source:"https://github.com/huggingface/course/blob/main/chapters/de/chapter1/8.mdx"}}),{c(){r=f("meta"),x=a(),w=f("p"),B=a(),y(i.$$.fragment),U=a(),y(o.$$.fragment),C=a(),u=f("p"),u.textContent=Q,z=a(),c=f("p"),c.innerHTML=S,I=a(),y(d.$$.fragment),v=a(),y(p.$$.fragment),V=a(),h=f("p"),h.innerHTML=q,W=a(),m=f("p"),m.textContent=A,_=a(),y(g.$$.fragment),G=a(),M=f("p"),this.h()},l(e){const s=D("svelte-u9bgzb",document.head);r=b(s,"META",{name:!0,content:!0}),s.forEach(n),x=l(e),w=b(e,"P",{}),P(w).forEach(n),B=l(e),k(i.$$.fragment,e),U=l(e),k(o.$$.fragment,e),C=l(e),u=b(e,"P",{"data-svelte-h":!0}),N(u)!=="svelte-ywmlmo"&&(u.textContent=Q),z=l(e),c=b(e,"P",{"data-svelte-h":!0}),N(c)!=="svelte-pwgyh6"&&(c.innerHTML=S),I=l(e),k(d.$$.fragment,e),v=l(e),k(p.$$.fragment,e),V=l(e),h=b(e,"P",{"data-svelte-h":!0}),N(h)!=="svelte-6gp8xh"&&(h.innerHTML=q),W=l(e),m=b(e,"P",{"data-svelte-h":!0}),N(m)!=="svelte-1enwwif"&&(m.textContent=A),_=l(e),k(g.$$.fragment,e),G=l(e),M=b(e,"P",{}),P(M).forEach(n),this.h()},h(){F(r,"name","hf:doc:metadata"),F(r,"content",ae)},m(e,s){O(document.head,r),t(e,x,s),t(e,w,s),t(e,B,s),j(i,e,s),t(e,U,s),j(o,e,s),t(e,C,s),t(e,u,s),t(e,z,s),t(e,c,s),t(e,I,s),j(d,e,s),t(e,v,s),j(p,e,s),t(e,V,s),t(e,h,s),t(e,W,s),t(e,m,s),t(e,_,s),j(g,e,s),t(e,G,s),t(e,M,s),E=!0},p:K,i(e){E||(J(i.$$.fragment,e),J(o.$$.fragment,e),J(d.$$.fragment,e),J(p.$$.fragment,e),J(g.$$.fragment,e),E=!0)},o(e){$(i.$$.fragment,e),$(o.$$.fragment,e),$(d.$$.fragment,e),$(p.$$.fragment,e),$(g.$$.fragment,e),E=!1},d(e){e&&(n(x),n(w),n(B),n(U),n(C),n(u),n(z),n(c),n(I),n(v),n(V),n(h),n(W),n(m),n(_),n(G),n(M)),n(r),T(i,e),T(o,e),T(d,e),T(p,e),T(g,e)}}}const ae='{"title":"Bias und Einschränkungen","local":"bias-und-einschränkungen","sections":[],"depth":1}';function le(H){return X(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class de extends Y{constructor(r){super(),L(this,r,le,te,Z,{})}}export{de as component};
