audio audio | transcription string |
|---|---|
И если например мы бы, например, эти лоссы | |
клали в какой-нибудь лист, чтобы потом | |
посчитать, например, средний лосс по всей эпохе, | |
и оптимизатор, и планировщик (scheduler), | |
то у нас, кроме того, ещё хранилось бы | |
огромное количество информации про то, | |
какая была история вычисления этого лосса. | |
И у нас бы очень сильно текла в этом случае память, | |
а самое важное -- что это была бы ещё и видеопамять, | |
то есть у нас довольно быстро бы закончилось место на GPU. | |
Чтобы у нас эти вот истории не сохранялись, | |
чтобы, когда мы считаем лосс, у нас сохранялись | |
только сами числа в лоссе (размер ошибки), | |
для валидации мы скажем, что нам не нужны подсчёты градиента. |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.