smithblack-0 commited on
Commit
94362a3
·
verified ·
1 Parent(s): 6ac3242

Upload folder using huggingface_hub

Browse files
none_123/epoch1/metadata.json ADDED
@@ -0,0 +1,6 @@
 
 
 
 
 
 
 
1
+ {
2
+ "epoch_num": 1,
3
+ "global_batch_num": 268,
4
+ "device": "cuda",
5
+ "dtype": "bfloat16"
6
+ }
none_123/epoch1/metrics.json ADDED
@@ -0,0 +1,1102 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "training": {
3
+ "effective_batch_nums": [
4
+ 1,
5
+ 2,
6
+ 3,
7
+ 4,
8
+ 5,
9
+ 6,
10
+ 7,
11
+ 8,
12
+ 9,
13
+ 10,
14
+ 11,
15
+ 12,
16
+ 13,
17
+ 14,
18
+ 15,
19
+ 16,
20
+ 17,
21
+ 18,
22
+ 19,
23
+ 20,
24
+ 21,
25
+ 22,
26
+ 23,
27
+ 24,
28
+ 25,
29
+ 26,
30
+ 27,
31
+ 28,
32
+ 29,
33
+ 30,
34
+ 31,
35
+ 32,
36
+ 33,
37
+ 34,
38
+ 35,
39
+ 36,
40
+ 37,
41
+ 38,
42
+ 39,
43
+ 40,
44
+ 41,
45
+ 42,
46
+ 43,
47
+ 44,
48
+ 45,
49
+ 46,
50
+ 47,
51
+ 48,
52
+ 49,
53
+ 50,
54
+ 51,
55
+ 52,
56
+ 53,
57
+ 54,
58
+ 55,
59
+ 56,
60
+ 57,
61
+ 58,
62
+ 59,
63
+ 60,
64
+ 61,
65
+ 62,
66
+ 63,
67
+ 64,
68
+ 65,
69
+ 66,
70
+ 67,
71
+ 68,
72
+ 69,
73
+ 70,
74
+ 71,
75
+ 72,
76
+ 73,
77
+ 74,
78
+ 75,
79
+ 76,
80
+ 77,
81
+ 78,
82
+ 79,
83
+ 80,
84
+ 81,
85
+ 82,
86
+ 83,
87
+ 84,
88
+ 85,
89
+ 86,
90
+ 87,
91
+ 88,
92
+ 89,
93
+ 90,
94
+ 91,
95
+ 92,
96
+ 93,
97
+ 94,
98
+ 95,
99
+ 96,
100
+ 97,
101
+ 98,
102
+ 99,
103
+ 100,
104
+ 101,
105
+ 102,
106
+ 103,
107
+ 104,
108
+ 105,
109
+ 106,
110
+ 107,
111
+ 108,
112
+ 109,
113
+ 110,
114
+ 111,
115
+ 112,
116
+ 113,
117
+ 114,
118
+ 115,
119
+ 116,
120
+ 117,
121
+ 118,
122
+ 119,
123
+ 120,
124
+ 121,
125
+ 122,
126
+ 123,
127
+ 124,
128
+ 125,
129
+ 126,
130
+ 127,
131
+ 128,
132
+ 129,
133
+ 130,
134
+ 131,
135
+ 132,
136
+ 133,
137
+ 134,
138
+ 135,
139
+ 136,
140
+ 137,
141
+ 138,
142
+ 139,
143
+ 140,
144
+ 141,
145
+ 142,
146
+ 143,
147
+ 144,
148
+ 145,
149
+ 146,
150
+ 147,
151
+ 148,
152
+ 149,
153
+ 150,
154
+ 151,
155
+ 152,
156
+ 153,
157
+ 154,
158
+ 155,
159
+ 156,
160
+ 157,
161
+ 158,
162
+ 159,
163
+ 160,
164
+ 161,
165
+ 162,
166
+ 163,
167
+ 164,
168
+ 165,
169
+ 166,
170
+ 167,
171
+ 168,
172
+ 169,
173
+ 170,
174
+ 171,
175
+ 172,
176
+ 173,
177
+ 174,
178
+ 175,
179
+ 176,
180
+ 177,
181
+ 178,
182
+ 179,
183
+ 180,
184
+ 181,
185
+ 182,
186
+ 183,
187
+ 184,
188
+ 185,
189
+ 186,
190
+ 187,
191
+ 188,
192
+ 189,
193
+ 190,
194
+ 191,
195
+ 192,
196
+ 193,
197
+ 194,
198
+ 195,
199
+ 196,
200
+ 197,
201
+ 198,
202
+ 199,
203
+ 200,
204
+ 201,
205
+ 202,
206
+ 203,
207
+ 204,
208
+ 205,
209
+ 206,
210
+ 207,
211
+ 208,
212
+ 209,
213
+ 210,
214
+ 211,
215
+ 212,
216
+ 213,
217
+ 214,
218
+ 215,
219
+ 216,
220
+ 217,
221
+ 218,
222
+ 219,
223
+ 220,
224
+ 221,
225
+ 222,
226
+ 223,
227
+ 224,
228
+ 225,
229
+ 226,
230
+ 227,
231
+ 228,
232
+ 229,
233
+ 230,
234
+ 231,
235
+ 232,
236
+ 233,
237
+ 234,
238
+ 235,
239
+ 236,
240
+ 237,
241
+ 238,
242
+ 239,
243
+ 240,
244
+ 241,
245
+ 242,
246
+ 243,
247
+ 244,
248
+ 245,
249
+ 246,
250
+ 247,
251
+ 248,
252
+ 249,
253
+ 250,
254
+ 251,
255
+ 252,
256
+ 253,
257
+ 254,
258
+ 255,
259
+ 256,
260
+ 257,
261
+ 258,
262
+ 259,
263
+ 260,
264
+ 261,
265
+ 262,
266
+ 263,
267
+ 264,
268
+ 265,
269
+ 266,
270
+ 267,
271
+ 268
272
+ ],
273
+ "losses": [
274
+ 11.0,
275
+ 10.6875,
276
+ 9.75,
277
+ 9.1875,
278
+ 8.8125,
279
+ 8.75,
280
+ 8.625,
281
+ 8.5625,
282
+ 8.4375,
283
+ 8.4375,
284
+ 8.375,
285
+ 8.25,
286
+ 8.25,
287
+ 8.25,
288
+ 8.25,
289
+ 8.25,
290
+ 8.1875,
291
+ 8.1875,
292
+ 8.125,
293
+ 8.125,
294
+ 8.0625,
295
+ 8.125,
296
+ 8.0625,
297
+ 8.125,
298
+ 8.0625,
299
+ 8.0625,
300
+ 8.0,
301
+ 8.0625,
302
+ 8.0,
303
+ 7.96875,
304
+ 7.90625,
305
+ 7.96875,
306
+ 7.9375,
307
+ 7.9375,
308
+ 7.875,
309
+ 7.84375,
310
+ 7.9375,
311
+ 7.78125,
312
+ 7.8125,
313
+ 7.8125,
314
+ 7.78125,
315
+ 7.75,
316
+ 7.6875,
317
+ 7.75,
318
+ 7.6875,
319
+ 7.65625,
320
+ 7.6875,
321
+ 7.6875,
322
+ 7.6875,
323
+ 7.625,
324
+ 7.625,
325
+ 7.59375,
326
+ 7.59375,
327
+ 7.59375,
328
+ 7.625,
329
+ 7.53125,
330
+ 7.53125,
331
+ 7.5,
332
+ 7.53125,
333
+ 7.5,
334
+ 7.46875,
335
+ 7.4375,
336
+ 7.40625,
337
+ 7.5,
338
+ 7.40625,
339
+ 7.46875,
340
+ 7.40625,
341
+ 7.46875,
342
+ 7.40625,
343
+ 7.40625,
344
+ 7.375,
345
+ 7.40625,
346
+ 7.40625,
347
+ 7.375,
348
+ 7.28125,
349
+ 7.375,
350
+ 7.375,
351
+ 7.3125,
352
+ 7.28125,
353
+ 7.375,
354
+ 7.34375,
355
+ 7.375,
356
+ 7.3125,
357
+ 7.34375,
358
+ 7.28125,
359
+ 7.34375,
360
+ 7.28125,
361
+ 7.34375,
362
+ 7.3125,
363
+ 7.21875,
364
+ 7.25,
365
+ 7.21875,
366
+ 7.25,
367
+ 7.25,
368
+ 7.3125,
369
+ 7.1875,
370
+ 7.25,
371
+ 7.1875,
372
+ 7.28125,
373
+ 7.1875,
374
+ 7.1875,
375
+ 7.25,
376
+ 7.25,
377
+ 7.21875,
378
+ 7.15625,
379
+ 7.21875,
380
+ 7.21875,
381
+ 7.125,
382
+ 7.21875,
383
+ 7.1875,
384
+ 7.21875,
385
+ 7.125,
386
+ 7.1875,
387
+ 7.15625,
388
+ 7.1875,
389
+ 7.1875,
390
+ 7.125,
391
+ 7.1875,
392
+ 7.125,
393
+ 7.15625,
394
+ 7.15625,
395
+ 7.15625,
396
+ 7.125,
397
+ 7.125,
398
+ 7.21875,
399
+ 7.0625,
400
+ 7.0625,
401
+ 7.09375,
402
+ 7.125,
403
+ 7.125,
404
+ 7.125,
405
+ 7.0625,
406
+ 7.15625,
407
+ 7.09375,
408
+ 6.90625,
409
+ 6.84375,
410
+ 6.90625,
411
+ 6.8125,
412
+ 6.8125,
413
+ 6.8125,
414
+ 6.78125,
415
+ 6.8125,
416
+ 6.8125,
417
+ 6.84375,
418
+ 6.875,
419
+ 6.84375,
420
+ 6.78125,
421
+ 6.8125,
422
+ 6.78125,
423
+ 6.84375,
424
+ 6.875,
425
+ 6.8125,
426
+ 6.78125,
427
+ 6.8125,
428
+ 6.8125,
429
+ 6.8125,
430
+ 6.8125,
431
+ 6.84375,
432
+ 6.875,
433
+ 6.875,
434
+ 6.84375,
435
+ 6.875,
436
+ 6.78125,
437
+ 6.75,
438
+ 6.84375,
439
+ 6.8125,
440
+ 6.84375,
441
+ 6.8125,
442
+ 6.84375,
443
+ 6.8125,
444
+ 6.84375,
445
+ 6.8125,
446
+ 6.8125,
447
+ 6.84375,
448
+ 6.84375,
449
+ 6.8125,
450
+ 6.78125,
451
+ 6.8125,
452
+ 6.75,
453
+ 6.84375,
454
+ 6.78125,
455
+ 6.8125,
456
+ 6.8125,
457
+ 6.8125,
458
+ 6.8125,
459
+ 6.84375,
460
+ 6.78125,
461
+ 6.71875,
462
+ 6.78125,
463
+ 6.78125,
464
+ 6.84375,
465
+ 6.78125,
466
+ 6.84375,
467
+ 6.71875,
468
+ 6.75,
469
+ 6.78125,
470
+ 6.71875,
471
+ 6.78125,
472
+ 6.84375,
473
+ 6.78125,
474
+ 6.84375,
475
+ 6.78125,
476
+ 6.8125,
477
+ 6.8125,
478
+ 6.84375,
479
+ 6.6875,
480
+ 6.78125,
481
+ 6.71875,
482
+ 6.78125,
483
+ 6.8125,
484
+ 6.71875,
485
+ 6.75,
486
+ 6.75,
487
+ 6.6875,
488
+ 6.78125,
489
+ 6.71875,
490
+ 6.78125,
491
+ 6.71875,
492
+ 6.6875,
493
+ 6.75,
494
+ 6.75,
495
+ 6.8125,
496
+ 6.8125,
497
+ 6.75,
498
+ 6.8125,
499
+ 6.75,
500
+ 6.75,
501
+ 6.6875,
502
+ 6.75,
503
+ 6.65625,
504
+ 6.6875,
505
+ 6.78125,
506
+ 6.75,
507
+ 6.78125,
508
+ 6.6875,
509
+ 6.6875,
510
+ 6.71875,
511
+ 6.75,
512
+ 6.6875,
513
+ 6.78125,
514
+ 6.71875,
515
+ 6.71875,
516
+ 6.71875,
517
+ 6.625,
518
+ 6.75,
519
+ 6.75,
520
+ 6.75,
521
+ 6.75,
522
+ 6.65625,
523
+ 6.71875,
524
+ 6.71875,
525
+ 6.75,
526
+ 6.75,
527
+ 6.6875,
528
+ 6.71875,
529
+ 6.78125,
530
+ 6.65625,
531
+ 6.71875,
532
+ 6.6875,
533
+ 6.625,
534
+ 6.6875,
535
+ 6.6875,
536
+ 6.625,
537
+ 6.71875,
538
+ 6.625,
539
+ 6.6875,
540
+ 6.71875,
541
+ 6.6875
542
+ ],
543
+ "accuracies": [
544
+ 0.0,
545
+ 0.014113151731788488,
546
+ 0.05136215946013497,
547
+ 0.04914738124238733,
548
+ 0.0503037205770691,
549
+ 0.05176153350137757,
550
+ 0.07471893917555492,
551
+ 0.08556179462945461,
552
+ 0.08251663641863279,
553
+ 0.07871988228802648,
554
+ 0.09083370542833451,
555
+ 0.1065349442627328,
556
+ 0.10682897862232779,
557
+ 0.10176219402177182,
558
+ 0.10751725901304014,
559
+ 0.10259926076070108,
560
+ 0.11085972850678733,
561
+ 0.11948641319386795,
562
+ 0.11679153812252094,
563
+ 0.11792971689920685,
564
+ 0.12085293578542189,
565
+ 0.11737290734040597,
566
+ 0.11982890704800817,
567
+ 0.11341029104752548,
568
+ 0.12315939033841385,
569
+ 0.12380050505050505,
570
+ 0.12309388205033989,
571
+ 0.11207757860711137,
572
+ 0.12326367163058441,
573
+ 0.12306384012634393,
574
+ 0.1284611614800294,
575
+ 0.12238277794161015,
576
+ 0.12718347571082494,
577
+ 0.12785575850120398,
578
+ 0.12728619451883083,
579
+ 0.12664304491941936,
580
+ 0.12777534555006567,
581
+ 0.13636646930507945,
582
+ 0.13635834109972042,
583
+ 0.13772703070460865,
584
+ 0.14687913333753227,
585
+ 0.13913155190133608,
586
+ 0.1473826659285231,
587
+ 0.14410778238872152,
588
+ 0.14797360980207352,
589
+ 0.1539534588802232,
590
+ 0.1449743839960966,
591
+ 0.15385093167701863,
592
+ 0.1476053087132141,
593
+ 0.1530677522535621,
594
+ 0.14877028034168435,
595
+ 0.15958440345552183,
596
+ 0.16717269856691766,
597
+ 0.1598090073095968,
598
+ 0.16129782532852657,
599
+ 0.16641744548286605,
600
+ 0.1641156462585034,
601
+ 0.16634969689765838,
602
+ 0.1591907514450867,
603
+ 0.1722789970402636,
604
+ 0.16689909075695877,
605
+ 0.17113075603641642,
606
+ 0.17930277913213066,
607
+ 0.16945509469036832,
608
+ 0.1776593252108716,
609
+ 0.17555489789878662,
610
+ 0.1769191336665385,
611
+ 0.17668466064171773,
612
+ 0.1785345717234262,
613
+ 0.18186166078794763,
614
+ 0.18727998122506453,
615
+ 0.1832726326742976,
616
+ 0.1779644588045234,
617
+ 0.1796944659097664,
618
+ 0.19210446401457637,
619
+ 0.18276555548784204,
620
+ 0.18315736233166846,
621
+ 0.186867155763051,
622
+ 0.19161785131952414,
623
+ 0.18015065263642113,
624
+ 0.1850301300348874,
625
+ 0.18580303727565578,
626
+ 0.18518737090587195,
627
+ 0.18672172808132148,
628
+ 0.19350353189832584,
629
+ 0.18409453848610668,
630
+ 0.19182212172602223,
631
+ 0.18660260658272587,
632
+ 0.1962088877730354,
633
+ 0.19784497348527585,
634
+ 0.1983857761141654,
635
+ 0.19949405812448523,
636
+ 0.1949338516521412,
637
+ 0.19604157452454665,
638
+ 0.188949159753244,
639
+ 0.1983379177152221,
640
+ 0.19848124746391513,
641
+ 0.20300656897422942,
642
+ 0.19705340699815838,
643
+ 0.19996310643792659,
644
+ 0.19830079537237888,
645
+ 0.19584497630907544,
646
+ 0.19573407523329275,
647
+ 0.19791361425306217,
648
+ 0.2039353958143767,
649
+ 0.20082293602336077,
650
+ 0.2015952264978081,
651
+ 0.20431341750740048,
652
+ 0.20273664727657323,
653
+ 0.20654168851599372,
654
+ 0.20456742387626872,
655
+ 0.20487264673311184,
656
+ 0.20191470844212359,
657
+ 0.2038026198651914,
658
+ 0.20188258607877135,
659
+ 0.19850638400385448,
660
+ 0.20268256333830104,
661
+ 0.1977049964140569,
662
+ 0.20506825075834176,
663
+ 0.20548464552003032,
664
+ 0.2039003668661904,
665
+ 0.20342701292541207,
666
+ 0.21056630237858687,
667
+ 0.21161159971476112,
668
+ 0.2091549295774648,
669
+ 0.2125294343135644,
670
+ 0.20945375617991077,
671
+ 0.21236230110159118,
672
+ 0.205892899832656,
673
+ 0.20510610079575597,
674
+ 0.2040141676505313,
675
+ 0.21539653220520766,
676
+ 0.20532727387489744,
677
+ 0.2109235352532274,
678
+ 0.2137018057589068,
679
+ 0.22523274478330657,
680
+ 0.20966059043761123,
681
+ 0.22412835544585005,
682
+ 0.2239271954297861,
683
+ 0.2214210341188885,
684
+ 0.2281025050388713,
685
+ 0.2170251957108085,
686
+ 0.21912048122408456,
687
+ 0.22201659221442246,
688
+ 0.2141948767637619,
689
+ 0.2187354988399072,
690
+ 0.2188639303775138,
691
+ 0.22106424717999018,
692
+ 0.22714338735617964,
693
+ 0.2181301537775797,
694
+ 0.21490593342981187,
695
+ 0.21475256769374415,
696
+ 0.22408997460394245,
697
+ 0.2261136111654601,
698
+ 0.2245852283646147,
699
+ 0.21961907972357997,
700
+ 0.22270988776725814,
701
+ 0.21672731611286764,
702
+ 0.21735482711092466,
703
+ 0.22345359272420648,
704
+ 0.21986145875778568,
705
+ 0.21662531017369727,
706
+ 0.22909351020939003,
707
+ 0.2267133275007291,
708
+ 0.22518317182699127,
709
+ 0.22945272336825664,
710
+ 0.22423717274246457,
711
+ 0.223913411128023,
712
+ 0.22041694044561258,
713
+ 0.22654743117657372,
714
+ 0.22127293577981652,
715
+ 0.2265597769257581,
716
+ 0.22696807906395547,
717
+ 0.2213881290158407,
718
+ 0.22456439624710614,
719
+ 0.21883305146170573,
720
+ 0.22543426703416447,
721
+ 0.22550225502255022,
722
+ 0.22218075511600424,
723
+ 0.2309616106039765,
724
+ 0.22758530355622503,
725
+ 0.2261443203518315,
726
+ 0.22691441441441443,
727
+ 0.22848919100985976,
728
+ 0.22301906594367676,
729
+ 0.22071318228630277,
730
+ 0.22940959862526084,
731
+ 0.22455876830642132,
732
+ 0.23238871041762277,
733
+ 0.23450500933944643,
734
+ 0.22197069735270075,
735
+ 0.2297822931785196,
736
+ 0.2301788771474113,
737
+ 0.23371722298132605,
738
+ 0.23059996116756196,
739
+ 0.22884482361079087,
740
+ 0.23320133646825889,
741
+ 0.2325947587447981,
742
+ 0.2294820717131474,
743
+ 0.23565251572327045,
744
+ 0.22866934530843772,
745
+ 0.22067055225344798,
746
+ 0.22775010502310508,
747
+ 0.22906513070447496,
748
+ 0.21865579003369393,
749
+ 0.23502001314295956,
750
+ 0.23337753362379238,
751
+ 0.23073496659242762,
752
+ 0.231208315808448,
753
+ 0.22566588928439915,
754
+ 0.23436404207841888,
755
+ 0.23980773685429696,
756
+ 0.23794352823588205,
757
+ 0.23490183857899657,
758
+ 0.23479525078749697,
759
+ 0.22969986040018614,
760
+ 0.2348732498612225,
761
+ 0.2401555663587749,
762
+ 0.24341658957755166,
763
+ 0.2377484851706176,
764
+ 0.23267602151202324,
765
+ 0.22903349526975197,
766
+ 0.22618197792542968,
767
+ 0.2346710940630904,
768
+ 0.23138350968257138,
769
+ 0.2385711944945109,
770
+ 0.2311764705882353,
771
+ 0.24531505060398304,
772
+ 0.23751143641354072,
773
+ 0.2395578895945286,
774
+ 0.23478311229512944,
775
+ 0.22805076851420586,
776
+ 0.23679872676632752,
777
+ 0.236572153065929,
778
+ 0.24394545027039738,
779
+ 0.244923306216233,
780
+ 0.24586332041582087,
781
+ 0.23074196597353497,
782
+ 0.24076704545454544,
783
+ 0.23065572802927461,
784
+ 0.24371454165422515,
785
+ 0.2403900992357705,
786
+ 0.23613425374910735,
787
+ 0.24505776636713736,
788
+ 0.231858832002881,
789
+ 0.2395301027900147,
790
+ 0.23087547811304718,
791
+ 0.24083678107336404,
792
+ 0.24778062734267114,
793
+ 0.24067939529000784,
794
+ 0.24237508111615833,
795
+ 0.23682190378710338,
796
+ 0.22834257547751077,
797
+ 0.24350668300939707,
798
+ 0.24122535036586878,
799
+ 0.23499086400417646,
800
+ 0.2392094502498864,
801
+ 0.24050710062778083,
802
+ 0.23739252393438623,
803
+ 0.24779627815866798,
804
+ 0.23426143352342615,
805
+ 0.2522517451024544,
806
+ 0.2415762063123549,
807
+ 0.23631288460318467,
808
+ 0.24222576603257776,
809
+ 0.24191833927343212,
810
+ 0.24287274050709692,
811
+ 0.24800523217789405
812
+ ],
813
+ "grad_norms": [
814
+ 0.22265625,
815
+ 0.32421875,
816
+ 0.796875,
817
+ 0.765625,
818
+ 0.6015625,
819
+ 0.6953125,
820
+ 0.671875,
821
+ 0.458984375,
822
+ 0.3828125,
823
+ 0.359375,
824
+ 0.330078125,
825
+ 0.27734375,
826
+ 0.1767578125,
827
+ 0.23046875,
828
+ 0.2890625,
829
+ 0.21484375,
830
+ 0.1923828125,
831
+ 0.1865234375,
832
+ 0.25,
833
+ 0.1943359375,
834
+ 0.16015625,
835
+ 0.1337890625,
836
+ 0.1376953125,
837
+ 0.138671875,
838
+ 0.1689453125,
839
+ 0.341796875,
840
+ 0.380859375,
841
+ 0.16796875,
842
+ 0.248046875,
843
+ 0.259765625,
844
+ 0.1337890625,
845
+ 0.19921875,
846
+ 0.2197265625,
847
+ 0.1591796875,
848
+ 0.1318359375,
849
+ 0.1669921875,
850
+ 0.1259765625,
851
+ 0.146484375,
852
+ 0.138671875,
853
+ 0.1513671875,
854
+ 0.173828125,
855
+ 0.18359375,
856
+ 0.15234375,
857
+ 0.1689453125,
858
+ 0.115234375,
859
+ 0.11083984375,
860
+ 0.1162109375,
861
+ 0.12255859375,
862
+ 0.1259765625,
863
+ 0.1396484375,
864
+ 0.1240234375,
865
+ 0.10107421875,
866
+ 0.11572265625,
867
+ 0.119140625,
868
+ 0.09521484375,
869
+ 0.10791015625,
870
+ 0.1357421875,
871
+ 0.142578125,
872
+ 0.126953125,
873
+ 0.09765625,
874
+ 0.0947265625,
875
+ 0.10205078125,
876
+ 0.1064453125,
877
+ 0.10009765625,
878
+ 0.0966796875,
879
+ 0.091796875,
880
+ 0.1064453125,
881
+ 0.1044921875,
882
+ 0.1044921875,
883
+ 0.11376953125,
884
+ 0.1044921875,
885
+ 0.09423828125,
886
+ 0.12451171875,
887
+ 0.11474609375,
888
+ 0.119140625,
889
+ 0.1416015625,
890
+ 0.12353515625,
891
+ 0.12890625,
892
+ 0.09228515625,
893
+ 0.14453125,
894
+ 0.11328125,
895
+ 0.12158203125,
896
+ 0.107421875,
897
+ 0.10693359375,
898
+ 0.11279296875,
899
+ 0.10595703125,
900
+ 0.11328125,
901
+ 0.115234375,
902
+ 0.091796875,
903
+ 0.09521484375,
904
+ 0.09814453125,
905
+ 0.1083984375,
906
+ 0.09912109375,
907
+ 0.107421875,
908
+ 0.10693359375,
909
+ 0.10205078125,
910
+ 0.099609375,
911
+ 0.09912109375,
912
+ 0.140625,
913
+ 0.140625,
914
+ 0.11767578125,
915
+ 0.1591796875,
916
+ 0.11279296875,
917
+ 0.10546875,
918
+ 0.1005859375,
919
+ 0.095703125,
920
+ 0.1162109375,
921
+ 0.1005859375,
922
+ 0.107421875,
923
+ 0.1005859375,
924
+ 0.09521484375,
925
+ 0.1181640625,
926
+ 0.107421875,
927
+ 0.08642578125,
928
+ 0.109375,
929
+ 0.123046875,
930
+ 0.09619140625,
931
+ 0.1220703125,
932
+ 0.0966796875,
933
+ 0.103515625,
934
+ 0.1611328125,
935
+ 0.146484375,
936
+ 0.1025390625,
937
+ 0.12353515625,
938
+ 0.09716796875,
939
+ 0.11669921875,
940
+ 0.125,
941
+ 0.10009765625,
942
+ 0.15625,
943
+ 0.10546875,
944
+ 0.1103515625,
945
+ 0.11279296875,
946
+ 0.1171875,
947
+ 0.1240234375,
948
+ 0.1513671875,
949
+ 0.103515625,
950
+ 0.111328125,
951
+ 0.10107421875,
952
+ 0.1171875,
953
+ 0.09765625,
954
+ 0.10107421875,
955
+ 0.1015625,
956
+ 0.09716796875,
957
+ 0.09814453125,
958
+ 0.09375,
959
+ 0.1025390625,
960
+ 0.08837890625,
961
+ 0.10302734375,
962
+ 0.0947265625,
963
+ 0.0888671875,
964
+ 0.08544921875,
965
+ 0.0869140625,
966
+ 0.1083984375,
967
+ 0.1201171875,
968
+ 0.09619140625,
969
+ 0.119140625,
970
+ 0.11767578125,
971
+ 0.10791015625,
972
+ 0.10986328125,
973
+ 0.11279296875,
974
+ 0.0966796875,
975
+ 0.130859375,
976
+ 0.12353515625,
977
+ 0.09521484375,
978
+ 0.10693359375,
979
+ 0.1123046875,
980
+ 0.1025390625,
981
+ 0.10986328125,
982
+ 0.10546875,
983
+ 0.0888671875,
984
+ 0.103515625,
985
+ 0.11083984375,
986
+ 0.0869140625,
987
+ 0.09912109375,
988
+ 0.10986328125,
989
+ 0.1005859375,
990
+ 0.1103515625,
991
+ 0.109375,
992
+ 0.10205078125,
993
+ 0.107421875,
994
+ 0.119140625,
995
+ 0.09423828125,
996
+ 0.10693359375,
997
+ 0.0966796875,
998
+ 0.10400390625,
999
+ 0.09619140625,
1000
+ 0.0947265625,
1001
+ 0.0966796875,
1002
+ 0.1279296875,
1003
+ 0.087890625,
1004
+ 0.11083984375,
1005
+ 0.080078125,
1006
+ 0.11279296875,
1007
+ 0.11181640625,
1008
+ 0.08544921875,
1009
+ 0.10400390625,
1010
+ 0.087890625,
1011
+ 0.09765625,
1012
+ 0.0908203125,
1013
+ 0.11376953125,
1014
+ 0.09716796875,
1015
+ 0.10888671875,
1016
+ 0.10302734375,
1017
+ 0.1279296875,
1018
+ 0.10693359375,
1019
+ 0.11279296875,
1020
+ 0.0947265625,
1021
+ 0.12060546875,
1022
+ 0.11767578125,
1023
+ 0.10302734375,
1024
+ 0.11865234375,
1025
+ 0.09228515625,
1026
+ 0.11669921875,
1027
+ 0.10400390625,
1028
+ 0.1318359375,
1029
+ 0.11572265625,
1030
+ 0.087890625,
1031
+ 0.1083984375,
1032
+ 0.09716796875,
1033
+ 0.10498046875,
1034
+ 0.123046875,
1035
+ 0.10009765625,
1036
+ 0.107421875,
1037
+ 0.11669921875,
1038
+ 0.103515625,
1039
+ 0.1064453125,
1040
+ 0.09326171875,
1041
+ 0.10791015625,
1042
+ 0.10302734375,
1043
+ 0.08544921875,
1044
+ 0.1103515625,
1045
+ 0.0947265625,
1046
+ 0.0966796875,
1047
+ 0.1025390625,
1048
+ 0.0869140625,
1049
+ 0.09521484375,
1050
+ 0.11767578125,
1051
+ 0.10498046875,
1052
+ 0.1015625,
1053
+ 0.1103515625,
1054
+ 0.140625,
1055
+ 0.095703125,
1056
+ 0.130859375,
1057
+ 0.09326171875,
1058
+ 0.11669921875,
1059
+ 0.09033203125,
1060
+ 0.1298828125,
1061
+ 0.12060546875,
1062
+ 0.09814453125,
1063
+ 0.10205078125,
1064
+ 0.0888671875,
1065
+ 0.1025390625,
1066
+ 0.1162109375,
1067
+ 0.09375,
1068
+ 0.119140625,
1069
+ 0.10009765625,
1070
+ 0.115234375,
1071
+ 0.08837890625,
1072
+ 0.09814453125,
1073
+ 0.087890625,
1074
+ 0.09716796875,
1075
+ 0.10791015625,
1076
+ 0.0927734375,
1077
+ 0.1201171875,
1078
+ 0.09130859375,
1079
+ 0.08984375,
1080
+ 0.09521484375,
1081
+ 0.10302734375
1082
+ ]
1083
+ },
1084
+ "eval": {
1085
+ "effective_batch_nums": [
1086
+ 134,
1087
+ 268
1088
+ ],
1089
+ "losses": [
1090
+ 7.297794117647059,
1091
+ 7.073529411764706
1092
+ ],
1093
+ "perplexities": [
1094
+ 1477.0381589587764,
1095
+ 1180.3064790736069
1096
+ ],
1097
+ "accuracies": [
1098
+ 0.19737915209434448,
1099
+ 0.21923939833896822
1100
+ ]
1101
+ }
1102
+ }
none_123/epoch1/model.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:27d157a0db034ce070db55d6a955654e8a447678b517336ed7c2d613092e657b
3
+ size 29774371
none_123/epoch1/optimizer.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:da13572c6d9302c4148d05f9ed02e7eea5bac28ee88ee06ff4497c517c584741
3
+ size 59595275
none_123/epoch1/scheduler.pt ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:28a1a7539fc02ae74bbed665066b7b14949e9eb8ff0fe22861ed693af0c092ae
3
+ size 1465
none_123/epoch1/tokenizer/merges.txt ADDED
The diff for this file is too large to render. See raw diff
 
none_123/epoch1/tokenizer/special_tokens_map.json ADDED
@@ -0,0 +1,6 @@
 
 
 
 
 
 
 
1
+ {
2
+ "bos_token": "<|endoftext|>",
3
+ "eos_token": "<|endoftext|>",
4
+ "pad_token": "<|endoftext|>",
5
+ "unk_token": "<|endoftext|>"
6
+ }
none_123/epoch1/tokenizer/tokenizer.json ADDED
The diff for this file is too large to render. See raw diff
 
none_123/epoch1/tokenizer/tokenizer_config.json ADDED
@@ -0,0 +1,21 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "add_prefix_space": false,
3
+ "added_tokens_decoder": {
4
+ "50256": {
5
+ "content": "<|endoftext|>",
6
+ "lstrip": false,
7
+ "normalized": true,
8
+ "rstrip": false,
9
+ "single_word": false,
10
+ "special": true
11
+ }
12
+ },
13
+ "bos_token": "<|endoftext|>",
14
+ "clean_up_tokenization_spaces": false,
15
+ "eos_token": "<|endoftext|>",
16
+ "extra_special_tokens": {},
17
+ "model_max_length": 1024,
18
+ "pad_token": "<|endoftext|>",
19
+ "tokenizer_class": "GPT2Tokenizer",
20
+ "unk_token": "<|endoftext|>"
21
+ }
none_123/epoch1/tokenizer/vocab.json ADDED
The diff for this file is too large to render. See raw diff