import{s as D,n as I,o as J}from"../chunks/scheduler.37c15a92.js";import{S as K,i as V,g as r,s as a,r as G,A as W,h as m,f as s,c as l,j as Q,u as S,x,k as X,y as Z,a as n,v as j,d as k,t as A,w as R}from"../chunks/index.2bf4358c.js";import{Y as ee}from"../chunks/Youtube.1e50a667.js";import{C as te}from"../chunks/CourseFloatingBanner.6add7356.js";import{H as se,E as ne}from"../chunks/getInferenceSnippets.7bb25a7f.js";function ae(U){let o,v,_,C,i,w,u,L,f,P,p,Y="Les modèles basés sur le décodeur utilisent seulement le décodeur d’un <em>transformer</em>. À chaque étape, pour un mot donné, les couches d’attention ne peuvent strictement accéder qu’aux mots situés avant dans la phrase. Ces modèles sont souvent appelés <em>modèles autorégressifs</em>.",T,d,B="Le pré-entraînement des modèles basés sur le décodeur se concentre généralement sur la prédiction du prochain mot dans la phrase.",q,c,F="Ces modèles sont vraiment adaptés aux tâches qui impliquent la génération de texte.",E,h,N="Les modèles qui représentent le mieux la famille des modèles décodeurs sont :",H,$,O='<li><a href="https://huggingface.co/transformers/model_doc/ctrl.html" rel="nofollow">CTRL</a></li> <li><a href="https://huggingface.co/docs/transformers/model_doc/openai-gpt" rel="nofollow">GPT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/gpt2.html" rel="nofollow">GPT-2</a></li> <li><a href="https://huggingface.co/transformers/model_doc/transformerxl.html" rel="nofollow">Transformer XL</a></li>',M,g,y,b,z;return i=new se({props:{title:"Les modèles basés sur le décodeur",local:"les-modèles-basés-sur-le-décodeur",headingTag:"h1"}}),u=new te({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),f=new ee({props:{id:"d_ixlCubqQw"}}),g=new ne({props:{source:"https://github.com/huggingface/course/blob/main/chapters/fr/chapter1/6.mdx"}}),{c(){o=r("meta"),v=a(),_=r("p"),C=a(),G(i.$$.fragment),w=a(),G(u.$$.fragment),L=a(),G(f.$$.fragment),P=a(),p=r("p"),p.innerHTML=Y,T=a(),d=r("p"),d.textContent=B,q=a(),c=r("p"),c.textContent=F,E=a(),h=r("p"),h.textContent=N,H=a(),$=r("ul"),$.innerHTML=O,M=a(),G(g.$$.fragment),y=a(),b=r("p"),this.h()},l(e){const t=W("svelte-u9bgzb",document.head);o=m(t,"META",{name:!0,content:!0}),t.forEach(s),v=l(e),_=m(e,"P",{}),Q(_).forEach(s),C=l(e),S(i.$$.fragment,e),w=l(e),S(u.$$.fragment,e),L=l(e),S(f.$$.fragment,e),P=l(e),p=m(e,"P",{"data-svelte-h":!0}),x(p)!=="svelte-1fczbo3"&&(p.innerHTML=Y),T=l(e),d=m(e,"P",{"data-svelte-h":!0}),x(d)!=="svelte-1hsgizh"&&(d.textContent=B),q=l(e),c=m(e,"P",{"data-svelte-h":!0}),x(c)!=="svelte-bgk86v"&&(c.textContent=F),E=l(e),h=m(e,"P",{"data-svelte-h":!0}),x(h)!=="svelte-2sb27e"&&(h.textContent=N),H=l(e),$=m(e,"UL",{"data-svelte-h":!0}),x($)!=="svelte-jabf5n"&&($.innerHTML=O),M=l(e),S(g.$$.fragment,e),y=l(e),b=m(e,"P",{}),Q(b).forEach(s),this.h()},h(){X(o,"name","hf:doc:metadata"),X(o,"content",le)},m(e,t){Z(document.head,o),n(e,v,t),n(e,_,t),n(e,C,t),j(i,e,t),n(e,w,t),j(u,e,t),n(e,L,t),j(f,e,t),n(e,P,t),n(e,p,t),n(e,T,t),n(e,d,t),n(e,q,t),n(e,c,t),n(e,E,t),n(e,h,t),n(e,H,t),n(e,$,t),n(e,M,t),j(g,e,t),n(e,y,t),n(e,b,t),z=!0},p:I,i(e){z||(k(i.$$.fragment,e),k(u.$$.fragment,e),k(f.$$.fragment,e),k(g.$$.fragment,e),z=!0)},o(e){A(i.$$.fragment,e),A(u.$$.fragment,e),A(f.$$.fragment,e),A(g.$$.fragment,e),z=!1},d(e){e&&(s(v),s(_),s(C),s(w),s(L),s(P),s(p),s(T),s(d),s(q),s(c),s(E),s(h),s(H),s($),s(M),s(y),s(b)),s(o),R(i,e),R(u,e),R(f,e),R(g,e)}}}const le='{"title":"Les modèles basés sur le décodeur","local":"les-modèles-basés-sur-le-décodeur","sections":[],"depth":1}';function oe(U){return J(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class pe extends K{constructor(o){super(),V(this,o,oe,ae,D,{})}}export{pe as component};
