import{s as Y,n as Z,o as tt}from"../chunks/scheduler.f38f3a0e.js";import{S as et,i as nt,e as m,s as a,c as T,h as lt,a as o,d as n,b as i,f as W,j as x,g as y,k as X,m as at,n as l,o as v,t as L,p as b,q as C}from"../chunks/index.a03143fc.js";import{C as it}from"../chunks/CopyLLMTxtMenu.cf2f6034.js";import{H as J,E as st}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.487db1bc.js";function mt(N){let s,H,M,S,r,E,f,R,p,B="このモジュールでは、言語モデルのインストラクションチューニングのプロセスをガイドします。インストラクションチューニングとは、特定のタスクに対してモデルを適応させるために、特定のタスクに関連するデータセットで追加のトレーニングを行うことを指します。このプロセスは、特定のタスクにおけるモデルのパフォーマンスを向上させるのに役立ちます。",j,u,D="このモジュールでは、2つのトピックを探ります：1) チャットテンプレートと2) 教師あり微調整",k,$,F,g,K='チャットテンプレートは、ユーザーとAIモデル間のインタラクションを構造化し、一貫性のある文脈に適した応答を保証します。これらのテンプレートには、システムメッセージや役割に基づくメッセージなどのコンポーネントが含まれます。詳細については、<a href="./chat_templates.md">チャットテンプレート</a>セクションを参照してください。',q,h,G,c,Q='教師あり微調整（SFT）は、事前トレーニングされた言語モデルを特定のタスクに適応させるための重要なプロセスです。これは、ラベル付きの例を含む特定のタスクのデータセットでモデルをトレーニングすることを含みます。SFTの詳細なガイド、重要なステップ、およびベストプラクティスについては、<a href="./supervised_fine_tuning.md">教師あり微調整</a>ページを参照してください。',z,_,A,d,V='<li><a href="https://huggingface.co/docs/transformers/main/en/chat_templating" rel="nofollow">Transformersのチャットテンプレートに関するドキュメント</a></li> <li><a href="https://github.com/huggingface/trl/blob/main/examples/scripts/sft.py" rel="nofollow">TRLの教師あり微調整スクリプト</a></li> <li><a href="https://huggingface.co/docs/trl/main/en/sft_trainer" rel="nofollow">TRLの<code>SFTTrainer</code></a></li> <li><a href="https://arxiv.org/abs/2305.18290" rel="nofollow">直接選好最適化に関する論文</a></li> <li><a href="https://huggingface.co/docs/trl/main/en/tutorials/supervised_fine_tuning" rel="nofollow">TRLを使用した教師あり微調整</a></li> <li><a href="https://www.philschmid.de/fine-tune-google-gemma" rel="nofollow">ChatMLとHugging Face TRLを使用したGoogle Gemmaの微調整方法</a></li> <li><a href="https://huggingface.co/learn/cookbook/en/fine_tuning_llm_to_generate_persian_product_catalogs_in_json_format" rel="nofollow">LLMを微調整してペルシャ語の商品カタログをJSON形式で生成する方法</a></li>',O,w,U,P,I;return r=new it({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),f=new J({props:{title:"インストラクションチューニング",local:"インストラクションチューニング",headingTag:"h1"}}),$=new J({props:{title:"1️⃣ チャットテンプレート",local:"1-チャットテンプレート",headingTag:"h2"}}),h=new J({props:{title:"2️⃣ 教師あり微調整",local:"2-教師あり微調整",headingTag:"h2"}}),_=new J({props:{title:"参考文献",local:"参考文献",headingTag:"h2"}}),w=new st({props:{source:"https://github.com/huggingface/smol-course/blob/main/units/ja/unit1/1.md"}}),{c(){s=m("meta"),H=a(),M=m("p"),S=a(),T(r.$$.fragment),E=a(),T(f.$$.fragment),R=a(),p=m("p"),p.textContent=B,j=a(),u=m("p"),u.textContent=D,k=a(),T($.$$.fragment),F=a(),g=m("p"),g.innerHTML=K,q=a(),T(h.$$.fragment),G=a(),c=m("p"),c.innerHTML=Q,z=a(),T(_.$$.fragment),A=a(),d=m("ul"),d.innerHTML=V,O=a(),T(w.$$.fragment),U=a(),P=m("p"),this.h()},l(t){const e=lt("svelte-u9bgzb",document.head);s=o(e,"META",{name:!0,content:!0}),e.forEach(n),H=i(t),M=o(t,"P",{}),W(M).forEach(n),S=i(t),x(r.$$.fragment,t),E=i(t),x(f.$$.fragment,t),R=i(t),p=o(t,"P",{"data-svelte-h":!0}),y(p)!=="svelte-iej6o1"&&(p.textContent=B),j=i(t),u=o(t,"P",{"data-svelte-h":!0}),y(u)!=="svelte-1v5qi0a"&&(u.textContent=D),k=i(t),x($.$$.fragment,t),F=i(t),g=o(t,"P",{"data-svelte-h":!0}),y(g)!=="svelte-1byirel"&&(g.innerHTML=K),q=i(t),x(h.$$.fragment,t),G=i(t),c=o(t,"P",{"data-svelte-h":!0}),y(c)!=="svelte-1ek1tww"&&(c.innerHTML=Q),z=i(t),x(_.$$.fragment,t),A=i(t),d=o(t,"UL",{"data-svelte-h":!0}),y(d)!=="svelte-fclmrm"&&(d.innerHTML=V),O=i(t),x(w.$$.fragment,t),U=i(t),P=o(t,"P",{}),W(P).forEach(n),this.h()},h(){X(s,"name","hf:doc:metadata"),X(s,"content",ot)},m(t,e){at(document.head,s),l(t,H,e),l(t,M,e),l(t,S,e),v(r,t,e),l(t,E,e),v(f,t,e),l(t,R,e),l(t,p,e),l(t,j,e),l(t,u,e),l(t,k,e),v($,t,e),l(t,F,e),l(t,g,e),l(t,q,e),v(h,t,e),l(t,G,e),l(t,c,e),l(t,z,e),v(_,t,e),l(t,A,e),l(t,d,e),l(t,O,e),v(w,t,e),l(t,U,e),l(t,P,e),I=!0},p:Z,i(t){I||(L(r.$$.fragment,t),L(f.$$.fragment,t),L($.$$.fragment,t),L(h.$$.fragment,t),L(_.$$.fragment,t),L(w.$$.fragment,t),I=!0)},o(t){b(r.$$.fragment,t),b(f.$$.fragment,t),b($.$$.fragment,t),b(h.$$.fragment,t),b(_.$$.fragment,t),b(w.$$.fragment,t),I=!1},d(t){t&&(n(H),n(M),n(S),n(E),n(R),n(p),n(j),n(u),n(k),n(F),n(g),n(q),n(G),n(c),n(z),n(A),n(d),n(O),n(U),n(P)),n(s),C(r,t),C(f,t),C($,t),C(h,t),C(_,t),C(w,t)}}}const ot='{"title":"インストラクションチューニング","local":"インストラクションチューニング","sections":[{"title":"1️⃣ チャットテンプレート","local":"1-チャットテンプレート","sections":[],"depth":2},{"title":"2️⃣ 教師あり微調整","local":"2-教師あり微調整","sections":[],"depth":2},{"title":"参考文献","local":"参考文献","sections":[],"depth":2}],"depth":1}';function rt(N){return tt(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class gt extends et{constructor(s){super(),nt(this,s,rt,mt,Y,{})}}export{gt as component};
