course/pr_1213/es/chapter2/9.md

Quiz de final de capítulo[[end-of-chapter-quiz]]

1. ¿Cuál es el orden del pipeline de modelado del lenguaje?

2. ¿Cuántas dimensiones tiene el tensor que produce el modelo Transformer base, y cuáles son?

3. ¿Cuál de los siguientes es un ejemplo de tokenización por subpalabras?

4. ¿Qué es una cabeza de modelo?

5. ¿Qué es un AutoModel?

AutoTrain?" }, { text: "Un objeto que devuelve la arquitectura correcta a partir del checkpoint", explain: "Exactamente: AutoModel solo necesita saber desde qué checkpoint inicializarse para devolver la arquitectura correcta.", correct: true }, { text: "Un modelo que detecta automáticamente el idioma usado en sus entradas para cargar los pesos correctos", explain: "Aunque algunos checkpoints y modelos pueden manejar varios idiomas, no hay herramientas integradas para seleccionar automáticamente el checkpoint según el idioma. Ve al Model Hub para encontrar el mejor checkpoint para tu tarea." } ]} />

6. ¿Qué técnicas hay que tener en cuenta al agrupar juntas secuencias de distintas longitudes?

7. ¿Para qué sirve aplicar una función SoftMax a los logits que produce un modelo de clasificación de secuencias?

8. ¿En qué método se centra la mayor parte de la API del tokenizador?

encode, ya que puede codificar texto en IDs e IDs en predicciones", explain: "Incorrecto. Aunque el método encode existe en los tokenizadores, no existe en los modelos." }, { text: "Llamar directamente al objeto tokenizador.", explain: "Exacto. El método call del tokenizador es muy potente y puede encargarse de casi todo. También es el método que se usa para obtener predicciones de un modelo.", correct: true }, { text: "pad", explain: "Incorrecto. El relleno es muy útil, pero es solo una parte de la API del tokenizador." }, { text: "tokenize", explain: "El método tokenize es seguramente uno de los métodos más útiles, pero no es el núcleo de la API del tokenizador." } ]} />

9. ¿Qué contiene la variable result en este ejemplo de código?

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("bert-base-cased")
result = tokenizer.tokenize("Hello!")

call o convert_tokens_to_ids." }, { text: "Un string que contiene todos los tokens", explain: "Eso sería poco práctico, porque el objetivo es dividir el string en varios tokens." } ]} />

10. ¿Hay algo mal en el siguiente código?

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("bert-base-cased")
model = AutoModel.from_pretrained("gpt2")

encoded = tokenizer("Hey!", return_tensors="pt")
result = model(**encoded)