Buckets:

rtrm's picture
|
download
raw
9.83 kB
# Тест в конце главы[[end-of-chapter-quiz]]
Тест по результатам изучения главы 3.
### Датасет `emotion` содержит сообщения из Твиттера, каждое сообщение помечено какой-либо эмоцией. Найдите его на [Hub](https://huggingface.co/datasets) и изучить карточку датасета. Какая из этих эмоцией не является базовой?
### 2. Найдите датасет `ar_sarcasm` в [Hub](https://huggingface.co/datasets). Какую задачу можно решить с использованием этого датасета?
карточку датасета!"
},
{
text: "Named entity recognition / Распознавание именованных сущностей",
explain: "Нет, изучите еще раз карточку датасета!"
},
{
text: "Question answering / Ответы на вопросы",
explain: "Увы! Неправильный ответ. "
}
]}
/>
### 3. В каком формате модель BERT ожидает на вход пару предложений?
[SEP] – специальный токен для разделения двух предложений, однако этого недостаточно."
},
{
text: "[CLS] Токены_предложения_1 Токены_предложения_2",
explain: "Токен [CLS] – специальный токен, обозначающий начало последовательнсти, однако этого недостаточно."
},
{
text: "[CLS] Токены_предложения_1 [SEP] Токены_предложения_2 [SEP]",
explain: "Правильно!",
correct: true
},
{
text: "[CLS] Токены_предложения_1 [SEP] Токены_предложения_2",
explain: "Токен [CLS] – специальный токен, обозначающий начало последовательнсти, Токен [SEP] – специальный токен для разделения двух предложений. Но это не всё!"
}
]}
/>
{#if fw === 'pt'}
### 4. Какие преимущества есть у метода `Dataset.map()?`
### 5. Что такое dynamic padding?
### 6. Какова цель функции сопоставления (collate function)?
DataCollatorWithPadding."
},
{
text: "Она соединяет вместе все элементы батча.",
explain: "Верно! Вы можете передать функцию сопоставления в качестве аргумента для DataLoader. Мы использовали функцию DataCollatorWithPadding, которая дополняет все элементы в батче до одинаковой длины.",
correct: true
},
{
text: "Она обрабатывает весь датасет. ",
explain: "Тогда она называлась быть функцией препроцессинга, а не функцией сопоставления."
},
{
text: "Она обрезает предложения в датасете.",
explain: "Collate-функция используется для одного батча, а не всего датасета. Если вам необходимо обрезать датасет, вы можете использовать аргумент truncate в tokenizer."
}
]}
/>
### 7. Что происходит, когда вы создаете экземпляр одного из классов `AutoModelForXxx` с предварительно обученной языковой моделью (например, `bert-base-uncased`), которая соответствует задаче, отличной от той, для которой она была обучена?
AutoModelForSequenceClassification с bert-base-uncased чекпоинтом, распечатывается предупреждение при инициализации модели. Предобученная «голова» модели не используется для классификации предложений, так что она заменяется другим слоем со случайно инициализированными весами.",
correct: true
},
{
text: "Последний слой модели игнорируется.",
explain: "Должно произойти что-то еще! Попробуй еще раз!"
},
{
text: "Ничего, модель по-прежнему можно будет настроить на решение другой задачи.",
explain: "Последний слой модели был обучен решать другую задачу, значит с ним должно что-то произойти!"
}
]}
/>
### 8. Зачем нужен `TrainingArguments`?
Trainer",
explain: "Верно!",
correct: true
},
{
text: "Задает размер модели.",
explain: "Размер модели определяется ее структурой, а не классом TrainingArguments."
},
{
text: "Содержит гиперпараметры для этапа валидации модели.",
explain: "В примере мы задавали, где будут сохраняться модель и её веса. Попробуй еще раз!"
},
{
text: "Он содержит гиперпараметры этапа обучения.",
explain: "В примере мы использовали evaluation_strategy, что также влияет на валидацию. Попробуй еще раз!"
}
]}
/>
### 9. Зачем нужна библиотека 🤗 Accelerate?
Trainer, а не 🤗 Accelerate. Попробуй еще раз!"
},
{
text: "Позволяет исполнить наш цикл обучения на распределенных системах.",
explain: "Праивльно! С помощью 🤗 Accelerate обучающий цикл будет исполняться на нескольких GPU или TPU.",
correct: true
},
{
text: "Предоставляет больше оптимизационных функций.",
explain: "Нет, 🤗 Accelerate не предоставляет оптимизационных функций."
}
]}
/>
{:else}
### 4. Что происходит, когда вы создаете экземпляр одного из классов `TFAutoModelForXxx` с предварительно обученной языковой моделью (например, `bert-base-uncased`), которая соответствует задаче, отличной от той, для которой она была обучена?
AutoModelForSequenceClassification с bert-base-uncased чекпоинтом, распечатывается предупреждение при инициализации модели. Предобученная «голова» модели не используется для классификации предложений, так что она заменяется другим слоем со случайно инициализированными весами.",
correct: true
},
{
text: "Последний слой модели игнорируется.",
explain: "Должно произойти что-то еще! Попробуй еще раз!"
},
{
text: "Ничего, модель по-прежнему можно будет настроить на решение другой задачи.",
explain: "Последний слой модели был обучен решать другую задачу, значит с ним должно что-то произойти!"
}
]}
/>
### 5. TensorFlow-модели из `transformers` уже можно рассматривать как Keras-модели. Какие преимущества это дает?
TPUStrategy (включая инициализацию модели)."
},
{
text: "Вы сможете испольовать существующие методы, такие как compile(), fit() и predict().",
explain: "Верно! Данные у вас уже есть, дело осталось за малым – обучить модель. ",
correct: true
},
{
text: "Вы сможете изучить и Keras, и transformers.",
explain: "Верно! Но ответ все же немного другой :)",
correct: true
},
{
text: "Вы можете просто вычислить метрики, связанные с датасетом.",
explain: "Keras помогает в обучении и валидации модели, а не с вычислением метрик."
}
]}
/>
### 6. Как мы можем задать собственную метрику?
tf.keras.metrics.Metric.",
explain: "Великолепно!",
correct: true
},
{
text: "С использованием функционального API Keras.",
explain: "Try again!"
},
{
text: "С использованием вызываемого модуля metric_fn(y_true, y_pred).",
explain: "Верно!",
correct: true
},
{
text: "Загуглив её!",
explain: "Это не тот ответ, который мы ожидаем, однако это должно помочь вам!",
correct: true
}
]}
/>
{/if}

Xet Storage Details

Size:
9.83 kB
·
Xet hash:
4abd654d541388f7036a9ca9ebfa7399eec3362d51c46b2495e173e605b1433a

Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.