import{s as sl,o as nl}from"../chunks/scheduler.37c15a92.js";import{S as tl,i as al,g as b,s as o,r as u,A as ol,h as y,f as s,c as i,j as Le,u as m,x as j,k as Ke,y as il,a as t,v as M,t as p,b as Oe,d as c,w as d,p as el}from"../chunks/index.2bf4358c.js";import{C as T}from"../chunks/CodeBlock.4f5fc1ad.js";import{C as ll}from"../chunks/CourseFloatingBanner.15ba07e6.js";import{F as rl}from"../chunks/FrameworkSwitchCourse.8d4d4ab6.js";import{H as Be}from"../chunks/Heading.8ada512a.js";import{E as pl}from"../chunks/EditOnGithub.9958bcdc.js";function cl(w){let a,r;return a=new ll({props:{chapter:2,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/en/chapter2/section6_tf.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/en/chapter2/section6_tf.ipynb"}]}}),{c(){u(a.$$.fragment)},l(n){m(a.$$.fragment,n)},m(n,J){M(a,n,J),r=!0},i(n){r||(c(a.$$.fragment,n),r=!0)},o(n){p(a.$$.fragment,n),r=!1},d(n){d(a,n)}}}function ul(w){let a,r;return a=new ll({props:{chapter:2,classNames:"absolute z-10 right-0 top-0",notebooks:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/en/chapter2/section6_pt.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/en/chapter2/section6_pt.ipynb"}]}}),{c(){u(a.$$.fragment)},l(n){m(a.$$.fragment,n)},m(n,J){M(a,n,J),r=!0},i(n){r||(c(a.$$.fragment,n),r=!0)},o(n){p(a.$$.fragment,n),r=!1},d(n){d(a,n)}}}function ml(w){let a,r;return a=new T({props:{code:"aW1wb3J0JTIwdGVuc29yZmxvdyUyMGFzJTIwdGYlMEFmcm9tJTIwdHJhbnNmb3JtZXJzJTIwaW1wb3J0JTIwQXV0b1Rva2VuaXplciUyQyUyMFRGQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbiUwQSUwQWNoZWNrcG9pbnQlMjAlM0QlMjAlMjJkaXN0aWxiZXJ0LWJhc2UtdW5jYXNlZC1maW5ldHVuZWQtc3N0LTItZW5nbGlzaCUyMiUwQXRva2VuaXplciUyMCUzRCUyMEF1dG9Ub2tlbml6ZXIuZnJvbV9wcmV0cmFpbmVkKGNoZWNrcG9pbnQpJTBBbW9kZWwlMjAlM0QlMjBURkF1dG9Nb2RlbEZvclNlcXVlbmNlQ2xhc3NpZmljYXRpb24uZnJvbV9wcmV0cmFpbmVkKGNoZWNrcG9pbnQpJTBBc2VxdWVuY2VzJTIwJTNEJTIwJTVCJTIySSd2ZSUyMGJlZW4lMjB3YWl0aW5nJTIwZm9yJTIwYSUyMEh1Z2dpbmdGYWNlJTIwY291cnNlJTIwbXklMjB3aG9sZSUyMGxpZmUuJTIyJTJDJTIwJTIyU28lMjBoYXZlJTIwSSElMjIlNUQlMEElMEF0b2tlbnMlMjAlM0QlMjB0b2tlbml6ZXIoc2VxdWVuY2VzJTJDJTIwcGFkZGluZyUzRFRydWUlMkMlMjB0cnVuY2F0aW9uJTNEVHJ1ZSUyQyUyMHJldHVybl90ZW5zb3JzJTNEJTIydGYlMjIpJTBBb3V0cHV0JTIwJTNEJTIwbW9kZWwoKip0b2tlbnMp",highlighted:`<span class="hljs-keyword">import</span> tensorflow <span class="hljs-keyword">as</span> tf
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, TFAutoModelForSequenceClassification

checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased-finetuned-sst-2-english&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
model = TFAutoModelForSequenceClassification.from_pretrained(checkpoint)
sequences = [<span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>, <span class="hljs-string">&quot;So have I!&quot;</span>]

tokens = tokenizer(sequences, padding=<span class="hljs-literal">True</span>, truncation=<span class="hljs-literal">True</span>, return_tensors=<span class="hljs-string">&quot;tf&quot;</span>)
output = model(**tokens)`,wrap:!1}}),{c(){u(a.$$.fragment)},l(n){m(a.$$.fragment,n)},m(n,J){M(a,n,J),r=!0},i(n){r||(c(a.$$.fragment,n),r=!0)},o(n){p(a.$$.fragment,n),r=!1},d(n){d(a,n)}}}function Ml(w){let a,r;return a=new T({props:{code:"aW1wb3J0JTIwdG9yY2glMEFmcm9tJTIwdHJhbnNmb3JtZXJzJTIwaW1wb3J0JTIwQXV0b1Rva2VuaXplciUyQyUyMEF1dG9Nb2RlbEZvclNlcXVlbmNlQ2xhc3NpZmljYXRpb24lMEElMEFjaGVja3BvaW50JTIwJTNEJTIwJTIyZGlzdGlsYmVydC1iYXNlLXVuY2FzZWQtZmluZXR1bmVkLXNzdC0yLWVuZ2xpc2glMjIlMEF0b2tlbml6ZXIlMjAlM0QlMjBBdXRvVG9rZW5pemVyLmZyb21fcHJldHJhaW5lZChjaGVja3BvaW50KSUwQW1vZGVsJTIwJTNEJTIwQXV0b01vZGVsRm9yU2VxdWVuY2VDbGFzc2lmaWNhdGlvbi5mcm9tX3ByZXRyYWluZWQoY2hlY2twb2ludCklMEFzZXF1ZW5jZXMlMjAlM0QlMjAlNUIlMjJJJ3ZlJTIwYmVlbiUyMHdhaXRpbmclMjBmb3IlMjBhJTIwSHVnZ2luZ0ZhY2UlMjBjb3Vyc2UlMjBteSUyMHdob2xlJTIwbGlmZS4lMjIlMkMlMjAlMjJTbyUyMGhhdmUlMjBJISUyMiU1RCUwQSUwQXRva2VucyUyMCUzRCUyMHRva2VuaXplcihzZXF1ZW5jZXMlMkMlMjBwYWRkaW5nJTNEVHJ1ZSUyQyUyMHRydW5jYXRpb24lM0RUcnVlJTJDJTIwcmV0dXJuX3RlbnNvcnMlM0QlMjJwdCUyMiklMEFvdXRwdXQlMjAlM0QlMjBtb2RlbCgqKnRva2Vucyk=",highlighted:`<span class="hljs-keyword">import</span> torch
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, AutoModelForSequenceClassification

checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased-finetuned-sst-2-english&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)
model = AutoModelForSequenceClassification.from_pretrained(checkpoint)
sequences = [<span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>, <span class="hljs-string">&quot;So have I!&quot;</span>]

tokens = tokenizer(sequences, padding=<span class="hljs-literal">True</span>, truncation=<span class="hljs-literal">True</span>, return_tensors=<span class="hljs-string">&quot;pt&quot;</span>)
output = model(**tokens)`,wrap:!1}}),{c(){u(a.$$.fragment)},l(n){m(a.$$.fragment,n)},m(n,J){M(a,n,J),r=!0},i(n){r||(c(a.$$.fragment,n),r=!0)},o(n){p(a.$$.fragment,n),r=!1},d(n){d(a,n)}}}function dl(w){let a,r,n,J,g,ne,Z,te,f,h,ee,k,ve="En las últimas secciones, hemos hecho nuestro mejor esfuerzo para realizar la mayor parte del trabajo a mano. Exploramos como funcionan los tokenizadores y vimos la tokenización, conversión a IDs de entrada, relleno, truncado, y máscaras de atención.",ae,V,Ee="Sin embargo, como vimos en la sección 3, la API de transformadores 🤗 puede manejar todo esto por nosotros con una función de alto nivel la cual trataremos aquí. Cuando llamas a tu <code>tokenizer</code> directamente en una sentencia, obtienes entradas que están lista para pasar a tu modelo:",oe,W,ie,$,Ge="Aquí la variable <code>model_inputs</code> contiene todo lo necesario para que un modelo opere bien. Para DistilBERT, que incluye los IDs de entrada también como la máscara de atención. Otros modelos que aceptan entradas adicionales también tendrán las salidas del objeto <code>tokenizer</code>.",re,z,Ne="Como veremos en los ejemplos de abajo, este método es muy poderoso. Primero, puede tokenizar una sola secuencia:",pe,X,ce,B,Se="También maneja múltiples secuencias a la vez, sin cambios en la API:",ue,v,me,E,qe="Puede rellenar de acuerdo a varios objetivos:",Me,G,de,N,Ye="También puede truncar secuencias:",be,S,ye,q,_e="El objeto <code>tokenizer</code> puede manejar la conversión a tensores de frameworks específicos, los cuales pueden ser enviados directamente al modelo. Por ejemplo, en el siguiente código de ejemplo estamos solicitando al tokenizer que regrese los tensores de los distintos frameworks — <code>&quot;pt&quot;</code> regresa tensores de PyTorch, <code>&quot;tf&quot;</code> regresa tensores de TensorFlow, y <code>&quot;np&quot;</code> regresa arreglos de NumPy:",Je,Y,je,_,Te,x,xe="Si damos un vistazo a los IDs de entrada retornados por el tokenizer, veremos que son un poquito diferentes a lo que teníamos anteriormente:",we,R,fe,C,he,Q,Re="Se agregó un ID de token al principio, y uno al final. Decodifiquemos las dos secuencias de IDs de arriba para ver de que se trata:",Ue,F,Ie,H,ge,A,Ce="El tokenizador agregó la palabra especial <code>[CLS]</code> al principio y la palabra especial <code>[SEP]</code> al final. Esto se debe a que el modelo fue preentrenado con esos, así para obtener los mismos resultados por inferencia necesitamos agregarlos también. Nota que algunos modelos no agregan palabras especiales, o agregan unas distintas; los modelos también pueden agregar estas palabras especiales sólo al principio, o sólo al final. En cualquier caso, el tokenizador sabe cuáles son las esperadas y se encargará de ello por tí.",Ze,D,ke,P,Qe="Ahora que hemos visto todos los pasos individuales que el objeto <code>tokenizer</code> usa cuando se aplica a textos, veamos una última vez cómo maneja varias secuencias (¡relleno!), secuencias muy largas (¡truncado!), y múltiples tipos de tensores con su API principal:",Ve,U,I,le,L,We,se,$e;g=new rl({props:{fw:w[0]}}),Z=new Be({props:{title:"Poniendo todo junto",local:"poniendo-todo-junto",headingTag:"h1"}});const Fe=[ul,cl],K=[];function He(e,l){return e[0]==="pt"?0:1}f=He(w),h=K[f]=Fe[f](w),W=new T({props:{code:"ZnJvbSUyMHRyYW5zZm9ybWVycyUyMGltcG9ydCUyMEF1dG9Ub2tlbml6ZXIlMEElMEFjaGVja3BvaW50JTIwJTNEJTIwJTIyZGlzdGlsYmVydC1iYXNlLXVuY2FzZWQtZmluZXR1bmVkLXNzdC0yLWVuZ2xpc2glMjIlMEF0b2tlbml6ZXIlMjAlM0QlMjBBdXRvVG9rZW5pemVyLmZyb21fcHJldHJhaW5lZChjaGVja3BvaW50KSUwQSUwQXNlcXVlbmNlJTIwJTNEJTIwJTIySSd2ZSUyMGJlZW4lMjB3YWl0aW5nJTIwZm9yJTIwYSUyMEh1Z2dpbmdGYWNlJTIwY291cnNlJTIwbXklMjB3aG9sZSUyMGxpZmUuJTIyJTBBJTBBbW9kZWxfaW5wdXRzJTIwJTNEJTIwdG9rZW5pemVyKHNlcXVlbmNlKQ==",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer

checkpoint = <span class="hljs-string">&quot;distilbert-base-uncased-finetuned-sst-2-english&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)

sequence = <span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>

model_inputs = tokenizer(sequence)`,wrap:!1}}),X=new T({props:{code:"c2VxdWVuY2UlMjAlM0QlMjAlMjJJJ3ZlJTIwYmVlbiUyMHdhaXRpbmclMjBmb3IlMjBhJTIwSHVnZ2luZ0ZhY2UlMjBjb3Vyc2UlMjBteSUyMHdob2xlJTIwbGlmZS4lMjIlMEElMEFtb2RlbF9pbnB1dHMlMjAlM0QlMjB0b2tlbml6ZXIoc2VxdWVuY2Up",highlighted:`sequence = <span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>

model_inputs = tokenizer(sequence)`,wrap:!1}}),v=new T({props:{code:"c2VxdWVuY2VzJTIwJTNEJTIwJTVCJTIySSd2ZSUyMGJlZW4lMjB3YWl0aW5nJTIwZm9yJTIwYSUyMEh1Z2dpbmdGYWNlJTIwY291cnNlJTIwbXklMjB3aG9sZSUyMGxpZmUuJTIyJTJDJTIwJTIyU28lMjBoYXZlJTIwSSElMjIlNUQlMEElMEFtb2RlbF9pbnB1dHMlMjAlM0QlMjB0b2tlbml6ZXIoc2VxdWVuY2VzKQ==",highlighted:`sequences = [<span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>, <span class="hljs-string">&quot;So have I!&quot;</span>]

model_inputs = tokenizer(sequences)`,wrap:!1}}),G=new T({props:{code:"JTIzJTIwUmVsbGVuYXIlMjBsYXMlMjBzZWN1ZW5jaWFzJTIwaGFzdGElMjBsYSUyMG1heW9yJTIwbG9uZ2l0dWQlMjBkZSUyMHNlY3VlbmNpYSUwQW1vZGVsX2lucHV0cyUyMCUzRCUyMHRva2VuaXplcihzZXF1ZW5jZXMlMkMlMjBwYWRkaW5nJTNEJTIybG9uZ2VzdCUyMiklMEElMEElMjMlMjBSZWxsZW5hciUyMGxhcyUyMHNlY3VlbmNpYXMlMjBoYXN0YSUyMGxhJTIwbSVDMyVBMXhpbWElMjBsb25naXR1ZCUyMGRlbCUyMG1vZGVsbyUwQSUyMyUyMCg1MTIlMjBwYXJhJTIwQkVSVCUyMG8lMjBEaXN0aWxCRVJUKSUwQW1vZGVsX2lucHV0cyUyMCUzRCUyMHRva2VuaXplcihzZXF1ZW5jZXMlMkMlMjBwYWRkaW5nJTNEJTIybWF4X2xlbmd0aCUyMiklMEElMEElMjMlMjBSZWxsZW5hciUyMGxhcyUyMHNlY3VlbmNpYXMlMjBoYXN0YSUyMGxhJTIwbSVDMyVBMXhpbWElMjBsb25naXR1ZCUyMGVzcGVjaWZpY2FkYSUwQW1vZGVsX2lucHV0cyUyMCUzRCUyMHRva2VuaXplcihzZXF1ZW5jZXMlMkMlMjBwYWRkaW5nJTNEJTIybWF4X2xlbmd0aCUyMiUyQyUyMG1heF9sZW5ndGglM0Q4KQ==",highlighted:`<span class="hljs-comment"># Rellenar las secuencias hasta la mayor longitud de secuencia</span>
model_inputs = tokenizer(sequences, padding=<span class="hljs-string">&quot;longest&quot;</span>)

<span class="hljs-comment"># Rellenar las secuencias hasta la máxima longitud del modelo</span>
<span class="hljs-comment"># (512 para BERT o DistilBERT)</span>
model_inputs = tokenizer(sequences, padding=<span class="hljs-string">&quot;max_length&quot;</span>)

<span class="hljs-comment"># Rellenar las secuencias hasta la máxima longitud especificada</span>
model_inputs = tokenizer(sequences, padding=<span class="hljs-string">&quot;max_length&quot;</span>, max_length=<span class="hljs-number">8</span>)`,wrap:!1}}),S=new T({props:{code:"c2VxdWVuY2VzJTIwJTNEJTIwJTVCJTIySSd2ZSUyMGJlZW4lMjB3YWl0aW5nJTIwZm9yJTIwYSUyMEh1Z2dpbmdGYWNlJTIwY291cnNlJTIwbXklMjB3aG9sZSUyMGxpZmUuJTIyJTJDJTIwJTIyU28lMjBoYXZlJTIwSSElMjIlNUQlMEElMEElMjMlMjBUcnVuY2FyJTIwbGFzJTIwc2VjdWVuY2lhcyUyMG0lQzMlQTFzJTIwbGFyZ2FzJTIwcXVlJTIwbGElMjBtJUMzJUExeGltYSUyMGxvbmdpdHVkJTIwZGVsJTIwbW9kZWxvJTBBJTIzJTIwKDUxMiUyMHBhcmElMjBCRVJUJTIwbyUyMERpc3RpbEJFUlQpJTBBbW9kZWxfaW5wdXRzJTIwJTNEJTIwdG9rZW5pemVyKHNlcXVlbmNlcyUyQyUyMHRydW5jYXRpb24lM0RUcnVlKSUwQSUwQSUyMyUyMFRydW5jYXIlMjBsYXMlMjBzZWN1ZW5jaWFzJTIwbSVDMyVBMXMlMjBsYXJnYXMlMjBxdWUlMjBsYSUyMGxvbmdpdHVkJTIwZXNwZWNpZmljYWRhJTBBbW9kZWxfaW5wdXRzJTIwJTNEJTIwdG9rZW5pemVyKHNlcXVlbmNlcyUyQyUyMG1heF9sZW5ndGglM0Q4JTJDJTIwdHJ1bmNhdGlvbiUzRFRydWUp",highlighted:`sequences = [<span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>, <span class="hljs-string">&quot;So have I!&quot;</span>]

<span class="hljs-comment"># Truncar las secuencias más largas que la máxima longitud del modelo</span>
<span class="hljs-comment"># (512 para BERT o DistilBERT)</span>
model_inputs = tokenizer(sequences, truncation=<span class="hljs-literal">True</span>)

<span class="hljs-comment"># Truncar las secuencias más largas que la longitud especificada</span>
model_inputs = tokenizer(sequences, max_length=<span class="hljs-number">8</span>, truncation=<span class="hljs-literal">True</span>)`,wrap:!1}}),Y=new T({props:{code:"c2VxdWVuY2VzJTIwJTNEJTIwJTVCJTIySSd2ZSUyMGJlZW4lMjB3YWl0aW5nJTIwZm9yJTIwYSUyMEh1Z2dpbmdGYWNlJTIwY291cnNlJTIwbXklMjB3aG9sZSUyMGxpZmUuJTIyJTJDJTIwJTIyU28lMjBoYXZlJTIwSSElMjIlNUQlMEElMEElMjMlMjBEZXZ1ZWx2ZSUyMHRlbnNvcmVzJTIwUHlUb3JjaCUwQW1vZGVsX2lucHV0cyUyMCUzRCUyMHRva2VuaXplcihzZXF1ZW5jZXMlMkMlMjBwYWRkaW5nJTNEVHJ1ZSUyQyUyMHJldHVybl90ZW5zb3JzJTNEJTIycHQlMjIpJTBBJTBBJTIzJTIwRGV2dWVsdmUlMjB0ZW5zb3JlcyUyMFRlbnNvckZsb3clMEFtb2RlbF9pbnB1dHMlMjAlM0QlMjB0b2tlbml6ZXIoc2VxdWVuY2VzJTJDJTIwcGFkZGluZyUzRFRydWUlMkMlMjByZXR1cm5fdGVuc29ycyUzRCUyMnRmJTIyKSUwQSUwQSUyMyUyMERldnVlbHZlJTIwYXJyYXlzJTIwTnVtcHklMEFtb2RlbF9pbnB1dHMlMjAlM0QlMjB0b2tlbml6ZXIoc2VxdWVuY2VzJTJDJTIwcGFkZGluZyUzRFRydWUlMkMlMjByZXR1cm5fdGVuc29ycyUzRCUyMm5wJTIyKQ==",highlighted:`sequences = [<span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>, <span class="hljs-string">&quot;So have I!&quot;</span>]

<span class="hljs-comment"># Devuelve tensores PyTorch</span>
model_inputs = tokenizer(sequences, padding=<span class="hljs-literal">True</span>, return_tensors=<span class="hljs-string">&quot;pt&quot;</span>)

<span class="hljs-comment"># Devuelve tensores TensorFlow</span>
model_inputs = tokenizer(sequences, padding=<span class="hljs-literal">True</span>, return_tensors=<span class="hljs-string">&quot;tf&quot;</span>)

<span class="hljs-comment"># Devuelve arrays Numpy</span>
model_inputs = tokenizer(sequences, padding=<span class="hljs-literal">True</span>, return_tensors=<span class="hljs-string">&quot;np&quot;</span>)`,wrap:!1}}),_=new Be({props:{title:"Tokens especiales",local:"tokens-especiales",headingTag:"h2"}}),R=new T({props:{code:"c2VxdWVuY2UlMjAlM0QlMjAlMjJJJ3ZlJTIwYmVlbiUyMHdhaXRpbmclMjBmb3IlMjBhJTIwSHVnZ2luZ0ZhY2UlMjBjb3Vyc2UlMjBteSUyMHdob2xlJTIwbGlmZS4lMjIlMEElMEFtb2RlbF9pbnB1dHMlMjAlM0QlMjB0b2tlbml6ZXIoc2VxdWVuY2UpJTBBcHJpbnQobW9kZWxfaW5wdXRzJTVCJTIyaW5wdXRfaWRzJTIyJTVEKSUwQSUwQXRva2VucyUyMCUzRCUyMHRva2VuaXplci50b2tlbml6ZShzZXF1ZW5jZSklMEFpZHMlMjAlM0QlMjB0b2tlbml6ZXIuY29udmVydF90b2tlbnNfdG9faWRzKHRva2VucyklMEFwcmludChpZHMp",highlighted:`sequence = <span class="hljs-string">&quot;I&#x27;ve been waiting for a HuggingFace course my whole life.&quot;</span>

model_inputs = tokenizer(sequence)
<span class="hljs-built_in">print</span>(model_inputs[<span class="hljs-string">&quot;input_ids&quot;</span>])

tokens = tokenizer.tokenize(sequence)
ids = tokenizer.convert_tokens_to_ids(tokens)
<span class="hljs-built_in">print</span>(ids)`,wrap:!1}}),C=new T({props:{code:"JTVCMTAxJTJDJTIwMTA0NSUyQyUyMDEwMDUlMkMlMjAyMzEwJTJDJTIwMjA0MiUyQyUyMDM0MDMlMkMlMjAyMDA1JTJDJTIwMTAzNyUyQyUyMDE3NjYyJTJDJTIwMTIxNzIlMkMlMjAyNjA3JTJDJTIwMjAyNiUyQyUyMDI4NzglMkMlMjAyMTY2JTJDJTIwMTAxMiUyQyUyMDEwMiU1RCUwQSU1QjEwNDUlMkMlMjAxMDA1JTJDJTIwMjMxMCUyQyUyMDIwNDIlMkMlMjAzNDAzJTJDJTIwMjAwNSUyQyUyMDEwMzclMkMlMjAxNzY2MiUyQyUyMDEyMTcyJTJDJTIwMjYwNyUyQyUyMDIwMjYlMkMlMjAyODc4JTJDJTIwMjE2NiUyQyUyMDEwMTIlNUQ=",highlighted:`[<span class="hljs-number">101</span>, <span class="hljs-number">1045</span>, <span class="hljs-number">1005</span>, <span class="hljs-number">2310</span>, <span class="hljs-number">2042</span>, <span class="hljs-number">3403</span>, <span class="hljs-number">2005</span>, <span class="hljs-number">1037</span>, <span class="hljs-number">17662</span>, <span class="hljs-number">12172</span>, <span class="hljs-number">2607</span>, <span class="hljs-number">2026</span>, <span class="hljs-number">2878</span>, <span class="hljs-number">2166</span>, <span class="hljs-number">1012</span>, <span class="hljs-number">102</span>]
[<span class="hljs-number">1045</span>, <span class="hljs-number">1005</span>, <span class="hljs-number">2310</span>, <span class="hljs-number">2042</span>, <span class="hljs-number">3403</span>, <span class="hljs-number">2005</span>, <span class="hljs-number">1037</span>, <span class="hljs-number">17662</span>, <span class="hljs-number">12172</span>, <span class="hljs-number">2607</span>, <span class="hljs-number">2026</span>, <span class="hljs-number">2878</span>, <span class="hljs-number">2166</span>, <span class="hljs-number">1012</span>]`,wrap:!1}}),F=new T({props:{code:"cHJpbnQodG9rZW5pemVyLmRlY29kZShtb2RlbF9pbnB1dHMlNUIlMjJpbnB1dF9pZHMlMjIlNUQpKSUwQXByaW50KHRva2VuaXplci5kZWNvZGUoaWRzKSk=",highlighted:`<span class="hljs-built_in">print</span>(tokenizer.decode(model_inputs[<span class="hljs-string">&quot;input_ids&quot;</span>]))
<span class="hljs-built_in">print</span>(tokenizer.decode(ids))`,wrap:!1}}),H=new T({props:{code:"JTIyJTVCQ0xTJTVEJTIwaSd2ZSUyMGJlZW4lMjB3YWl0aW5nJTIwZm9yJTIwYSUyMGh1Z2dpbmdmYWNlJTIwY291cnNlJTIwbXklMjB3aG9sZSUyMGxpZmUuJTIwJTVCU0VQJTVEJTIyJTBBJTIyaSd2ZSUyMGJlZW4lMjB3YWl0aW5nJTIwZm9yJTIwYSUyMGh1Z2dpbmdmYWNlJTIwY291cnNlJTIwbXklMjB3aG9sZSUyMGxpZmUuJTIy",highlighted:`<span class="hljs-string">&quot;[CLS] i&#x27;ve been waiting for a huggingface course my whole life. [SEP]&quot;</span>
<span class="hljs-string">&quot;i&#x27;ve been waiting for a huggingface course my whole life.&quot;</span>`,wrap:!1}}),D=new Be({props:{title:"Conclusión: Del tokenizador al modelo",local:"conclusión-del-tokenizador-al-modelo",headingTag:"h2"}});const Ae=[Ml,ml],O=[];function De(e,l){return e[0]==="pt"?0:1}return U=De(w),I=O[U]=Ae[U](w),L=new pl({props:{source:"https://github.com/huggingface/course/blob/main/chapters/es/chapter2/6.mdx"}}),{c(){a=b("meta"),r=o(),n=b("p"),J=o(),u(g.$$.fragment),ne=o(),u(Z.$$.fragment),te=o(),h.c(),ee=o(),k=b("p"),k.textContent=ve,ae=o(),V=b("p"),V.innerHTML=Ee,oe=o(),u(W.$$.fragment),ie=o(),$=b("p"),$.innerHTML=Ge,re=o(),z=b("p"),z.textContent=Ne,pe=o(),u(X.$$.fragment),ce=o(),B=b("p"),B.textContent=Se,ue=o(),u(v.$$.fragment),me=o(),E=b("p"),E.textContent=qe,Me=o(),u(G.$$.fragment),de=o(),N=b("p"),N.textContent=Ye,be=o(),u(S.$$.fragment),ye=o(),q=b("p"),q.innerHTML=_e,Je=o(),u(Y.$$.fragment),je=o(),u(_.$$.fragment),Te=o(),x=b("p"),x.textContent=xe,we=o(),u(R.$$.fragment),fe=o(),u(C.$$.fragment),he=o(),Q=b("p"),Q.textContent=Re,Ue=o(),u(F.$$.fragment),Ie=o(),u(H.$$.fragment),ge=o(),A=b("p"),A.innerHTML=Ce,Ze=o(),u(D.$$.fragment),ke=o(),P=b("p"),P.innerHTML=Qe,Ve=o(),I.c(),le=o(),u(L.$$.fragment),We=o(),se=b("p"),this.h()},l(e){const l=ol("svelte-u9bgzb",document.head);a=y(l,"META",{name:!0,content:!0}),l.forEach(s),r=i(e),n=y(e,"P",{}),Le(n).forEach(s),J=i(e),m(g.$$.fragment,e),ne=i(e),m(Z.$$.fragment,e),te=i(e),h.l(e),ee=i(e),k=y(e,"P",{"data-svelte-h":!0}),j(k)!=="svelte-ootnqm"&&(k.textContent=ve),ae=i(e),V=y(e,"P",{"data-svelte-h":!0}),j(V)!=="svelte-12i1fv7"&&(V.innerHTML=Ee),oe=i(e),m(W.$$.fragment,e),ie=i(e),$=y(e,"P",{"data-svelte-h":!0}),j($)!=="svelte-12obtmm"&&($.innerHTML=Ge),re=i(e),z=y(e,"P",{"data-svelte-h":!0}),j(z)!=="svelte-6pjq23"&&(z.textContent=Ne),pe=i(e),m(X.$$.fragment,e),ce=i(e),B=y(e,"P",{"data-svelte-h":!0}),j(B)!=="svelte-o7u3ew"&&(B.textContent=Se),ue=i(e),m(v.$$.fragment,e),me=i(e),E=y(e,"P",{"data-svelte-h":!0}),j(E)!=="svelte-b3jl4"&&(E.textContent=qe),Me=i(e),m(G.$$.fragment,e),de=i(e),N=y(e,"P",{"data-svelte-h":!0}),j(N)!=="svelte-wqrurn"&&(N.textContent=Ye),be=i(e),m(S.$$.fragment,e),ye=i(e),q=y(e,"P",{"data-svelte-h":!0}),j(q)!=="svelte-1ez2wgj"&&(q.innerHTML=_e),Je=i(e),m(Y.$$.fragment,e),je=i(e),m(_.$$.fragment,e),Te=i(e),x=y(e,"P",{"data-svelte-h":!0}),j(x)!=="svelte-119b45p"&&(x.textContent=xe),we=i(e),m(R.$$.fragment,e),fe=i(e),m(C.$$.fragment,e),he=i(e),Q=y(e,"P",{"data-svelte-h":!0}),j(Q)!=="svelte-yx5fsr"&&(Q.textContent=Re),Ue=i(e),m(F.$$.fragment,e),Ie=i(e),m(H.$$.fragment,e),ge=i(e),A=y(e,"P",{"data-svelte-h":!0}),j(A)!=="svelte-1o9pe6g"&&(A.innerHTML=Ce),Ze=i(e),m(D.$$.fragment,e),ke=i(e),P=y(e,"P",{"data-svelte-h":!0}),j(P)!=="svelte-15tut9c"&&(P.innerHTML=Qe),Ve=i(e),I.l(e),le=i(e),m(L.$$.fragment,e),We=i(e),se=y(e,"P",{}),Le(se).forEach(s),this.h()},h(){Ke(a,"name","hf:doc:metadata"),Ke(a,"content",bl)},m(e,l){il(document.head,a),t(e,r,l),t(e,n,l),t(e,J,l),M(g,e,l),t(e,ne,l),M(Z,e,l),t(e,te,l),K[f].m(e,l),t(e,ee,l),t(e,k,l),t(e,ae,l),t(e,V,l),t(e,oe,l),M(W,e,l),t(e,ie,l),t(e,$,l),t(e,re,l),t(e,z,l),t(e,pe,l),M(X,e,l),t(e,ce,l),t(e,B,l),t(e,ue,l),M(v,e,l),t(e,me,l),t(e,E,l),t(e,Me,l),M(G,e,l),t(e,de,l),t(e,N,l),t(e,be,l),M(S,e,l),t(e,ye,l),t(e,q,l),t(e,Je,l),M(Y,e,l),t(e,je,l),M(_,e,l),t(e,Te,l),t(e,x,l),t(e,we,l),M(R,e,l),t(e,fe,l),M(C,e,l),t(e,he,l),t(e,Q,l),t(e,Ue,l),M(F,e,l),t(e,Ie,l),M(H,e,l),t(e,ge,l),t(e,A,l),t(e,Ze,l),M(D,e,l),t(e,ke,l),t(e,P,l),t(e,Ve,l),O[U].m(e,l),t(e,le,l),M(L,e,l),t(e,We,l),t(e,se,l),$e=!0},p(e,[l]){const Pe={};l&1&&(Pe.fw=e[0]),g.$set(Pe);let ze=f;f=He(e),f!==ze&&(el(),p(K[ze],1,1,()=>{K[ze]=null}),Oe(),h=K[f],h||(h=K[f]=Fe[f](e),h.c()),c(h,1),h.m(ee.parentNode,ee));let Xe=U;U=De(e),U!==Xe&&(el(),p(O[Xe],1,1,()=>{O[Xe]=null}),Oe(),I=O[U],I||(I=O[U]=Ae[U](e),I.c()),c(I,1),I.m(le.parentNode,le))},i(e){$e||(c(g.$$.fragment,e),c(Z.$$.fragment,e),c(h),c(W.$$.fragment,e),c(X.$$.fragment,e),c(v.$$.fragment,e),c(G.$$.fragment,e),c(S.$$.fragment,e),c(Y.$$.fragment,e),c(_.$$.fragment,e),c(R.$$.fragment,e),c(C.$$.fragment,e),c(F.$$.fragment,e),c(H.$$.fragment,e),c(D.$$.fragment,e),c(I),c(L.$$.fragment,e),$e=!0)},o(e){p(g.$$.fragment,e),p(Z.$$.fragment,e),p(h),p(W.$$.fragment,e),p(X.$$.fragment,e),p(v.$$.fragment,e),p(G.$$.fragment,e),p(S.$$.fragment,e),p(Y.$$.fragment,e),p(_.$$.fragment,e),p(R.$$.fragment,e),p(C.$$.fragment,e),p(F.$$.fragment,e),p(H.$$.fragment,e),p(D.$$.fragment,e),p(I),p(L.$$.fragment,e),$e=!1},d(e){e&&(s(r),s(n),s(J),s(ne),s(te),s(ee),s(k),s(ae),s(V),s(oe),s(ie),s($),s(re),s(z),s(pe),s(ce),s(B),s(ue),s(me),s(E),s(Me),s(de),s(N),s(be),s(ye),s(q),s(Je),s(je),s(Te),s(x),s(we),s(fe),s(he),s(Q),s(Ue),s(Ie),s(ge),s(A),s(Ze),s(ke),s(P),s(Ve),s(le),s(We),s(se)),s(a),d(g,e),d(Z,e),K[f].d(e),d(W,e),d(X,e),d(v,e),d(G,e),d(S,e),d(Y,e),d(_,e),d(R,e),d(C,e),d(F,e),d(H,e),d(D,e),O[U].d(e),d(L,e)}}}const bl='{"title":"Poniendo todo junto","local":"poniendo-todo-junto","sections":[{"title":"Tokens especiales","local":"tokens-especiales","sections":[],"depth":2},{"title":"Conclusión: Del tokenizador al modelo","local":"conclusión-del-tokenizador-al-modelo","sections":[],"depth":2}],"depth":1}';function yl(w,a,r){let n="pt";return nl(()=>{const J=new URLSearchParams(window.location.search);r(0,n=J.get("fw")||"pt")}),[n]}class Il extends tl{constructor(a){super(),al(this,a,yl,dl,sl,{})}}export{Il as component};
