import{s as Q,n as I,o as K}from"../chunks/scheduler.37c15a92.js";import{S as V,i as W,g as s,s as l,r as z,A as X,h as i,f as n,c as o,j as J,u as A,x,k as O,y as Z,a,v as k,d as S,t as U,w as j}from"../chunks/index.2bf4358c.js";import{Y as tt}from"../chunks/Youtube.1e50a667.js";import{C as et}from"../chunks/CourseFloatingBanner.6add7356.js";import{H as nt,E as at}from"../chunks/getInferenceSnippets.80a69898.js";function lt(q){let r,b,_,v,m,C,f,E,p,T,u,N="โมเดล encoder ใช้เพียงส่วน encoder จากโมเดล Transformer เท่านั้น ในแต่ละชั้น attention layer สามารถเข้าถึงคำทุกคำในประโยคได้ โมเดลเหล่านี้ส่วนใหญ่จะใช้ attention แบบสองทาง (หรือเรียกว่า bi-directional attention) และถูกเรียกว่า <em>โมเดล auto-encoding</em>",P,c,Y="โมเดล pretrain ในกลุ่มนี้จะเทรนโดยการให้ประโยคเริ่มต้นและประโยควิบัติ(เช่น เว้นว่างคำบางคำในประโยค) และเป้าหมายของโมเดลคือหาวิธีสร้างประโยคเริ่มต้นให้ดีดังเดิม",L,h,D="โมเดล encoder เหมาะกับงานแบบนี้ที่สุด เพราะงานเหล่านี้ต้องการความเข้าใจประโยคทั้งประโยค ตัวอย่างงานแบบนี้เช่น การแยกแยะประโยค, การระบุคำเฉพาะในประโยค (รวมถึงการแยกแยะประเภทคำ), และการสกัดคำถามคำตอบ",M,$,F="ตัวแทนโมเดลในกลุ่มนี้ได้แก่:",R,d,G='<li><a href="https://huggingface.co/transformers/model_doc/albert.html" rel="nofollow">ALBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/bert.html" rel="nofollow">BERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/distilbert.html" rel="nofollow">DistilBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/electra.html" rel="nofollow">ELECTRA</a></li> <li><a href="https://huggingface.co/transformers/model_doc/roberta.html" rel="nofollow">RoBERTa</a></li>',y,g,H,w,B;return m=new nt({props:{title:"โมเดล Encoder",local:"โมเดล-encoder",headingTag:"h1"}}),f=new et({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),p=new tt({props:{id:"MUqNwgPjJvQ"}}),g=new at({props:{source:"https://github.com/huggingface/course/blob/main/chapters/th/chapter1/5.mdx"}}),{c(){r=s("meta"),b=l(),_=s("p"),v=l(),z(m.$$.fragment),C=l(),z(f.$$.fragment),E=l(),z(p.$$.fragment),T=l(),u=s("p"),u.innerHTML=N,P=l(),c=s("p"),c.textContent=Y,L=l(),h=s("p"),h.textContent=D,M=l(),$=s("p"),$.textContent=F,R=l(),d=s("ul"),d.innerHTML=G,y=l(),z(g.$$.fragment),H=l(),w=s("p"),this.h()},l(t){const e=X("svelte-u9bgzb",document.head);r=i(e,"META",{name:!0,content:!0}),e.forEach(n),b=o(t),_=i(t,"P",{}),J(_).forEach(n),v=o(t),A(m.$$.fragment,t),C=o(t),A(f.$$.fragment,t),E=o(t),A(p.$$.fragment,t),T=o(t),u=i(t,"P",{"data-svelte-h":!0}),x(u)!=="svelte-10i777"&&(u.innerHTML=N),P=o(t),c=i(t,"P",{"data-svelte-h":!0}),x(c)!=="svelte-12wkt63"&&(c.textContent=Y),L=o(t),h=i(t,"P",{"data-svelte-h":!0}),x(h)!=="svelte-tcw1f9"&&(h.textContent=D),M=o(t),$=i(t,"P",{"data-svelte-h":!0}),x($)!=="svelte-10huopx"&&($.textContent=F),R=o(t),d=i(t,"UL",{"data-svelte-h":!0}),x(d)!=="svelte-18kzzol"&&(d.innerHTML=G),y=o(t),A(g.$$.fragment,t),H=o(t),w=i(t,"P",{}),J(w).forEach(n),this.h()},h(){O(r,"name","hf:doc:metadata"),O(r,"content",ot)},m(t,e){Z(document.head,r),a(t,b,e),a(t,_,e),a(t,v,e),k(m,t,e),a(t,C,e),k(f,t,e),a(t,E,e),k(p,t,e),a(t,T,e),a(t,u,e),a(t,P,e),a(t,c,e),a(t,L,e),a(t,h,e),a(t,M,e),a(t,$,e),a(t,R,e),a(t,d,e),a(t,y,e),k(g,t,e),a(t,H,e),a(t,w,e),B=!0},p:I,i(t){B||(S(m.$$.fragment,t),S(f.$$.fragment,t),S(p.$$.fragment,t),S(g.$$.fragment,t),B=!0)},o(t){U(m.$$.fragment,t),U(f.$$.fragment,t),U(p.$$.fragment,t),U(g.$$.fragment,t),B=!1},d(t){t&&(n(b),n(_),n(v),n(C),n(E),n(T),n(u),n(P),n(c),n(L),n(h),n(M),n($),n(R),n(d),n(y),n(H),n(w)),n(r),j(m,t),j(f,t),j(p,t),j(g,t)}}}const ot='{"title":"โมเดล Encoder","local":"โมเดล-encoder","sections":[],"depth":1}';function rt(q){return K(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class ut extends V{constructor(r){super(),W(this,r,rt,lt,Q,{})}}export{ut as component};
