File size: 9,538 Bytes
4ff1d6d
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
{
  "best_global_step": 337,
  "best_metric": 0.08417439,
  "best_model_checkpoint": "/main/outputs/qwen3_vl_8b_vlm1_lora_5000/v1-20260518-161128/checkpoint-337",
  "epoch": 1.0,
  "eval_steps": 100,
  "global_step": 337,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.002971216341689879,
      "grad_norm": 1.8301671743392944,
      "learning_rate": 9.999782741484788e-05,
      "loss": 0.7435630559921265,
      "step": 1,
      "token_acc": 0.928388746803069
    },
    {
      "epoch": 0.029712163416898793,
      "grad_norm": 0.6562874913215637,
      "learning_rate": 9.978289720564471e-05,
      "loss": 0.35164650281270343,
      "step": 10,
      "token_acc": 0.9313640312771503
    },
    {
      "epoch": 0.059424326833797586,
      "grad_norm": 0.2898082733154297,
      "learning_rate": 9.913347416751148e-05,
      "loss": 0.17843451499938964,
      "step": 20,
      "token_acc": 0.9412503138337937
    },
    {
      "epoch": 0.08913649025069638,
      "grad_norm": 0.27585628628730774,
      "learning_rate": 9.805737054785222e-05,
      "loss": 0.1518290400505066,
      "step": 30,
      "token_acc": 0.9501378100726635
    },
    {
      "epoch": 0.11884865366759517,
      "grad_norm": 0.23903043568134308,
      "learning_rate": 9.656393135078068e-05,
      "loss": 0.1302957057952881,
      "step": 40,
      "token_acc": 0.9549704724409449
    },
    {
      "epoch": 0.14856081708449395,
      "grad_norm": 0.2686093747615814,
      "learning_rate": 9.466612576921223e-05,
      "loss": 0.12211070060729981,
      "step": 50,
      "token_acc": 0.9558823529411765
    },
    {
      "epoch": 0.17827298050139276,
      "grad_norm": 0.23986034095287323,
      "learning_rate": 9.238043455894293e-05,
      "loss": 0.12614696025848388,
      "step": 60,
      "token_acc": 0.953529264004019
    },
    {
      "epoch": 0.20798514391829154,
      "grad_norm": 0.24772414565086365,
      "learning_rate": 8.972670691792409e-05,
      "loss": 0.13367443084716796,
      "step": 70,
      "token_acc": 0.9526090244517268
    },
    {
      "epoch": 0.23769730733519034,
      "grad_norm": 0.20249181985855103,
      "learning_rate": 8.672798811360863e-05,
      "loss": 0.12470172643661499,
      "step": 80,
      "token_acc": 0.9525111884634511
    },
    {
      "epoch": 0.26740947075208915,
      "grad_norm": 0.24865858256816864,
      "learning_rate": 8.341031935527267e-05,
      "loss": 0.11555290222167969,
      "step": 90,
      "token_acc": 0.9579706540661527
    },
    {
      "epoch": 0.2971216341689879,
      "grad_norm": 0.1977490782737732,
      "learning_rate": 7.98025116492434e-05,
      "loss": 0.11669340133666992,
      "step": 100,
      "token_acc": 0.9536340852130326
    },
    {
      "epoch": 0.2971216341689879,
      "eval_loss": 0.09619689732789993,
      "eval_runtime": 1335.2749,
      "eval_samples_per_second": 0.449,
      "eval_steps_per_second": 0.449,
      "eval_token_acc": 0.9635280982508374,
      "step": 100
    },
    {
      "epoch": 0.3268337975858867,
      "grad_norm": 0.22065527737140656,
      "learning_rate": 7.593589560089985e-05,
      "loss": 0.10888006687164306,
      "step": 110,
      "token_acc": 0.9569008470353761
    },
    {
      "epoch": 0.3565459610027855,
      "grad_norm": 0.13880270719528198,
      "learning_rate": 7.184404933619377e-05,
      "loss": 0.11674953699111938,
      "step": 120,
      "token_acc": 0.9548275006205014
    },
    {
      "epoch": 0.3862581244196843,
      "grad_norm": 0.23750291764736176,
      "learning_rate": 6.756250690545079e-05,
      "loss": 0.09905239343643188,
      "step": 130,
      "token_acc": 0.9586399391017508
    },
    {
      "epoch": 0.4159702878365831,
      "grad_norm": 0.2030014842748642,
      "learning_rate": 6.31284497017055e-05,
      "loss": 0.11385762691497803,
      "step": 140,
      "token_acc": 0.9601139601139601
    },
    {
      "epoch": 0.4456824512534819,
      "grad_norm": 0.22570592164993286,
      "learning_rate": 5.85803835733285e-05,
      "loss": 0.10931352376937867,
      "step": 150,
      "token_acc": 0.9550364230092941
    },
    {
      "epoch": 0.4753946146703807,
      "grad_norm": 0.2595895528793335,
      "learning_rate": 5.395780443493508e-05,
      "loss": 0.10097184181213378,
      "step": 160,
      "token_acc": 0.9598066649707454
    },
    {
      "epoch": 0.5051067780872794,
      "grad_norm": 0.2692728042602539,
      "learning_rate": 4.930085528044823e-05,
      "loss": 0.10470521450042725,
      "step": 170,
      "token_acc": 0.9561823218332913
    },
    {
      "epoch": 0.5348189415041783,
      "grad_norm": 0.3037365972995758,
      "learning_rate": 4.46499775768523e-05,
      "loss": 0.1150296688079834,
      "step": 180,
      "token_acc": 0.9563783920872432
    },
    {
      "epoch": 0.564531104921077,
      "grad_norm": 0.30769863724708557,
      "learning_rate": 4.004556006597353e-05,
      "loss": 0.10831129550933838,
      "step": 190,
      "token_acc": 0.9565329218106996
    },
    {
      "epoch": 0.5942432683379758,
      "grad_norm": 0.163434699177742,
      "learning_rate": 3.5527588024131544e-05,
      "loss": 0.10162678956985474,
      "step": 200,
      "token_acc": 0.9609840954274353
    },
    {
      "epoch": 0.5942432683379758,
      "eval_loss": 0.09834346175193787,
      "eval_runtime": 1313.6716,
      "eval_samples_per_second": 0.457,
      "eval_steps_per_second": 0.457,
      "eval_token_acc": 0.9620394491998512,
      "step": 200
    },
    {
      "epoch": 0.6239554317548747,
      "grad_norm": 0.22140057384967804,
      "learning_rate": 3.113529602553042e-05,
      "loss": 0.10044444799423217,
      "step": 210,
      "token_acc": 0.9594871794871795
    },
    {
      "epoch": 0.6536675951717734,
      "grad_norm": 0.23375530540943146,
      "learning_rate": 2.690682722483102e-05,
      "loss": 0.10113998651504516,
      "step": 220,
      "token_acc": 0.9604288996681134
    },
    {
      "epoch": 0.6833797585886723,
      "grad_norm": 0.25249332189559937,
      "learning_rate": 2.287890211773238e-05,
      "loss": 0.10453184843063354,
      "step": 230,
      "token_acc": 0.95706940874036
    },
    {
      "epoch": 0.713091922005571,
      "grad_norm": 0.2341679334640503,
      "learning_rate": 1.9086499656082686e-05,
      "loss": 0.09791352748870849,
      "step": 240,
      "token_acc": 0.9596527068437181
    },
    {
      "epoch": 0.7428040854224698,
      "grad_norm": 0.18773795664310455,
      "learning_rate": 1.5562553486751743e-05,
      "loss": 0.09755797386169433,
      "step": 250,
      "token_acc": 0.9632296220107996
    },
    {
      "epoch": 0.7725162488393686,
      "grad_norm": 0.18526875972747803,
      "learning_rate": 1.2337665952160266e-05,
      "loss": 0.09515272974967956,
      "step": 260,
      "token_acc": 0.965818363273453
    },
    {
      "epoch": 0.8022284122562674,
      "grad_norm": 0.21060670912265778,
      "learning_rate": 9.439842336117954e-06,
      "loss": 0.09197185039520264,
      "step": 270,
      "token_acc": 0.959768669851647
    },
    {
      "epoch": 0.8319405756731661,
      "grad_norm": 0.2145346701145172,
      "learning_rate": 6.894247662808456e-06,
      "loss": 0.09650699496269226,
      "step": 280,
      "token_acc": 0.9641064257028112
    },
    {
      "epoch": 0.861652739090065,
      "grad_norm": 0.18118475377559662,
      "learning_rate": 4.722988160906638e-06,
      "loss": 0.09110826253890991,
      "step": 290,
      "token_acc": 0.9604011313962458
    },
    {
      "epoch": 0.8913649025069638,
      "grad_norm": 0.28109800815582275,
      "learning_rate": 2.94491929061782e-06,
      "loss": 0.09462371468544006,
      "step": 300,
      "token_acc": 0.9637681159420289
    },
    {
      "epoch": 0.8913649025069638,
      "eval_loss": 0.08418206870555878,
      "eval_runtime": 1327.7274,
      "eval_samples_per_second": 0.452,
      "eval_steps_per_second": 0.452,
      "eval_token_acc": 0.969408262002233,
      "step": 300
    },
    {
      "epoch": 0.9210770659238626,
      "grad_norm": 0.27226707339286804,
      "learning_rate": 1.5754820007538474e-06,
      "loss": 0.08891843557357788,
      "step": 310,
      "token_acc": 0.9662415603900976
    },
    {
      "epoch": 0.9507892293407614,
      "grad_norm": 0.2836593985557556,
      "learning_rate": 6.265686378076729e-07,
      "loss": 0.08590607643127442,
      "step": 320,
      "token_acc": 0.9689223057644111
    },
    {
      "epoch": 0.9805013927576601,
      "grad_norm": 0.16291292011737823,
      "learning_rate": 1.0641967148716236e-07,
      "loss": 0.08623232245445252,
      "step": 330,
      "token_acc": 0.9686131386861314
    },
    {
      "epoch": 1.0,
      "eval_loss": 0.08417439460754395,
      "eval_runtime": 1328.7699,
      "eval_samples_per_second": 0.452,
      "eval_steps_per_second": 0.452,
      "eval_token_acc": 0.9688128023818385,
      "step": 337
    }
  ],
  "logging_steps": 10,
  "max_steps": 337,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 1,
  "save_steps": 500,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": true
      },
      "attributes": {}
    }
  },
  "total_flos": 2.3149400925677896e+18,
  "train_batch_size": 1,
  "trial_name": null,
  "trial_params": null
}