IlyasMoutawwakil HF Staff commited on
Commit
0ac4b40
·
verified ·
1 Parent(s): 9a32cee

Upload pytorch_benchmark.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. pytorch_benchmark.json +958 -958
pytorch_benchmark.json CHANGED
@@ -5,11 +5,11 @@
5
  "name": "pytorch",
6
  "version": "2.8.0",
7
  "_target_": "optimum_benchmark.backends.pytorch.backend.PyTorchBackend",
8
- "model": "HuggingFaceTB/SmolLM2-360M-Instruct",
9
- "processor": "HuggingFaceTB/SmolLM2-360M-Instruct",
10
  "task": "text-generation",
11
  "library": "transformers",
12
- "model_type": "llama",
13
  "device": "cpu",
14
  "device_ids": null,
15
  "seed": 42,
@@ -88,19 +88,19 @@
88
  "gpu_count": 5,
89
  "gpu_vram_mb": 347892350976,
90
  "optimum_benchmark_version": "0.7.0.dev0",
91
- "optimum_benchmark_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f",
92
  "transformers_version": "4.56.2",
93
- "transformers_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f",
94
  "accelerate_version": "1.10.1",
95
- "accelerate_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f",
96
  "diffusers_version": "0.35.1",
97
- "diffusers_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f",
98
  "optimum_version": "1.27.0",
99
  "optimum_commit": null,
100
  "timm_version": "1.0.20",
101
- "timm_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f",
102
  "peft_version": "0.17.1",
103
- "peft_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f"
104
  },
105
  "print_report": false,
106
  "log_report": true
@@ -111,15 +111,15 @@
111
  "latency": {
112
  "unit": "s",
113
  "values": [
114
- 2.317912800004706
115
  ],
116
  "count": 1,
117
- "total": 2.317912800004706,
118
- "mean": 2.317912800004706,
119
- "p50": 2.317912800004706,
120
- "p90": 2.317912800004706,
121
- "p95": 2.317912800004706,
122
- "p99": 2.317912800004706,
123
  "stdev": 0,
124
  "stdev_": 0
125
  },
@@ -132,15 +132,15 @@
132
  "latency": {
133
  "unit": "s",
134
  "values": [
135
- 1.9178895680233836
136
  ],
137
  "count": 1,
138
- "total": 1.9178895680233836,
139
- "mean": 1.9178895680233836,
140
- "p50": 1.9178895680233836,
141
- "p90": 1.9178895680233836,
142
- "p95": 1.9178895680233836,
143
- "p99": 1.9178895680233836,
144
  "stdev": 0,
145
  "stdev_": 0
146
  },
@@ -153,30 +153,30 @@
153
  "latency": {
154
  "unit": "s",
155
  "values": [
156
- 1.9156392840086482,
157
- 1.894037756981561,
158
- 1.9037151480151806,
159
- 1.9206718170025852,
160
- 1.9323693700134754,
161
- 1.9960038909921423,
162
- 1.8840067849960178,
163
- 1.8974113839794882,
164
- 1.906329110992374,
165
- 1.9003350590064656
166
  ],
167
  "count": 10,
168
- "total": 19.150519605987938,
169
- "mean": 1.915051960598794,
170
- "p50": 1.9050221295037773,
171
- "p90": 1.938732822111342,
172
- "p95": 1.9673683565517421,
173
- "p99": 1.9902767841040623,
174
- "stdev": 0.03003801538160937,
175
- "stdev_": 1.5685222124321447
176
  },
177
  "throughput": {
178
  "unit": "samples/s",
179
- "value": 7.832685644367496
180
  },
181
  "energy": null,
182
  "efficiency": null
@@ -186,30 +186,30 @@
186
  "latency": {
187
  "unit": "s",
188
  "values": [
189
- 0.10353756599943154,
190
- 0.10170766999362968,
191
- 0.10365179998916574,
192
- 0.10461716700228862,
193
- 0.10083948401734233,
194
- 0.10174833500059322,
195
- 0.10380915499990806,
196
- 0.1005547109816689,
197
- 0.10074125899700448,
198
- 0.10378672298975289
199
  ],
200
  "count": 10,
201
- "total": 1.0249938699707855,
202
- "mean": 0.10249938699707854,
203
- "p50": 0.10264295050001238,
204
- "p90": 0.10388995620014611,
205
- "p95": 0.10425356160121738,
206
- "p99": 0.10454444592207437,
207
- "stdev": 0.0014519828291568134,
208
- "stdev_": 1.4165770856738862
209
  },
210
  "throughput": {
211
  "unit": "samples/s",
212
- "value": 9.756155907825109
213
  },
214
  "energy": null,
215
  "efficiency": null
@@ -219,30 +219,30 @@
219
  "latency": {
220
  "unit": "s",
221
  "values": [
222
- 1.8121017180092167,
223
- 1.7923300869879313,
224
- 1.8000633480260149,
225
- 1.8160546500002965,
226
- 1.831529885996133,
227
- 1.894255555991549,
228
- 1.7801976299961098,
229
- 1.7968566729978193,
230
- 1.8055878519953694,
231
- 1.7965483360167127
232
  ],
233
  "count": 10,
234
- "total": 18.125525736017153,
235
- "mean": 1.8125525736017152,
236
- "p50": 1.8028256000106921,
237
- "p90": 1.8378024529956747,
238
- "p95": 1.8660290044936119,
239
- "p99": 1.8886102456919616,
240
- "stdev": 0.03034923374077409,
241
- "stdev_": 1.674391914628289
242
  },
243
  "throughput": {
244
  "unit": "tokens/s",
245
- "value": 8.275622025237903
246
  },
247
  "energy": null,
248
  "efficiency": null
@@ -252,886 +252,886 @@
252
  "latency": {
253
  "unit": "s",
254
  "values": [
255
- 0.11994329499430023,
256
- 0.12001712201163173,
257
- 0.11957861200789921,
258
- 0.12011100800009444,
259
- 0.12220973797957413,
260
- 0.1218505360011477,
261
- 0.11929896799847484,
262
- 0.11898870702134445,
263
- 0.1193327909859363,
264
- 0.1215619050199166,
265
- 0.12242073399829678,
266
- 0.12262720899889246,
267
- 0.12295143699157052,
268
- 0.12042962500709109,
269
- 0.12044082599459216,
270
- 0.11994329499430023,
271
- 0.12001712201163173,
272
- 0.11957861200789921,
273
- 0.12011100800009444,
274
- 0.12220973797957413,
275
- 0.1218505360011477,
276
- 0.11929896799847484,
277
- 0.11898870702134445,
278
- 0.1193327909859363,
279
- 0.1215619050199166,
280
- 0.12242073399829678,
281
- 0.12262720899889246,
282
- 0.12295143699157052,
283
- 0.12042962500709109,
284
- 0.12044082599459216,
285
- 0.10206968800048344,
286
- 0.11885299300774932,
287
- 0.11913840699708089,
288
- 0.11929805600084364,
289
- 0.11927867998019792,
290
- 0.11950090600294061,
291
- 0.11863672800245695,
292
- 0.11844225399545394,
293
- 0.11967835799441673,
294
- 0.11981323102372698,
295
- 0.11967411998193711,
296
- 0.11929800701909699,
297
- 0.11984522099373862,
298
- 0.12012798999785446,
299
- 0.12005452200537547,
300
- 0.1203543439914938,
301
- 0.11994329499430023,
302
- 0.12001712201163173,
303
- 0.11957861200789921,
304
- 0.12011100800009444,
305
- 0.12220973797957413,
306
- 0.1218505360011477,
307
- 0.11929896799847484,
308
- 0.11898870702134445,
309
- 0.1193327909859363,
310
- 0.1215619050199166,
311
- 0.12242073399829678,
312
- 0.12262720899889246,
313
- 0.12295143699157052,
314
- 0.12042962500709109,
315
- 0.12044082599459216,
316
- 0.10206968800048344,
317
- 0.11885299300774932,
318
- 0.11913840699708089,
319
- 0.11929805600084364,
320
- 0.11927867998019792,
321
- 0.11950090600294061,
322
- 0.11863672800245695,
323
- 0.11844225399545394,
324
- 0.11967835799441673,
325
- 0.11981323102372698,
326
- 0.11967411998193711,
327
- 0.11929800701909699,
328
- 0.11984522099373862,
329
- 0.12012798999785446,
330
- 0.12005452200537547,
331
- 0.1203543439914938,
332
- 0.10401072198874317,
333
- 0.1191053360234946,
334
- 0.11927324900170788,
335
- 0.1196417999744881,
336
- 0.11923837501672097,
337
- 0.11724723599036224,
338
- 0.11720581899862736,
339
- 0.11942283000098541,
340
- 0.1195572610013187,
341
- 0.11967627500416711,
342
- 0.11967118398752064,
343
- 0.11922613202477805,
344
- 0.12844268899061717,
345
- 0.1219178109895438,
346
- 0.12030649499502033,
347
- 0.11979810200864449,
348
- 0.11994329499430023,
349
- 0.12001712201163173,
350
- 0.11957861200789921,
351
- 0.12011100800009444,
352
- 0.12220973797957413,
353
- 0.1218505360011477,
354
- 0.11929896799847484,
355
- 0.11898870702134445,
356
- 0.1193327909859363,
357
- 0.1215619050199166,
358
- 0.12242073399829678,
359
- 0.12262720899889246,
360
- 0.12295143699157052,
361
- 0.12042962500709109,
362
- 0.12044082599459216,
363
- 0.10206968800048344,
364
- 0.11885299300774932,
365
- 0.11913840699708089,
366
- 0.11929805600084364,
367
- 0.11927867998019792,
368
- 0.11950090600294061,
369
- 0.11863672800245695,
370
- 0.11844225399545394,
371
- 0.11967835799441673,
372
- 0.11981323102372698,
373
- 0.11967411998193711,
374
- 0.11929800701909699,
375
- 0.11984522099373862,
376
- 0.12012798999785446,
377
- 0.12005452200537547,
378
- 0.1203543439914938,
379
- 0.10401072198874317,
380
- 0.1191053360234946,
381
- 0.11927324900170788,
382
- 0.1196417999744881,
383
- 0.11923837501672097,
384
- 0.11724723599036224,
385
- 0.11720581899862736,
386
- 0.11942283000098541,
387
- 0.1195572610013187,
388
- 0.11967627500416711,
389
- 0.11967118398752064,
390
- 0.11922613202477805,
391
- 0.12844268899061717,
392
- 0.1219178109895438,
393
- 0.12030649499502033,
394
- 0.11979810200864449,
395
- 0.10497353499522433,
396
- 0.12132151500554755,
397
- 0.12074675899930298,
398
- 0.12065819301642478,
399
- 0.12132902897428721,
400
- 0.12027538602706045,
401
- 0.11883964799926616,
402
- 0.1189162619994022,
403
- 0.11968766499194317,
404
- 0.121691959007876,
405
- 0.12177810998400673,
406
- 0.12202803799300455,
407
- 0.12222475602175109,
408
- 0.12189653198583983,
409
- 0.12212848599301651,
410
- 0.1221913630142808,
411
- 0.11994329499430023,
412
- 0.12001712201163173,
413
- 0.11957861200789921,
414
- 0.12011100800009444,
415
- 0.12220973797957413,
416
- 0.1218505360011477,
417
- 0.11929896799847484,
418
- 0.11898870702134445,
419
- 0.1193327909859363,
420
- 0.1215619050199166,
421
- 0.12242073399829678,
422
- 0.12262720899889246,
423
- 0.12295143699157052,
424
- 0.12042962500709109,
425
- 0.12044082599459216,
426
- 0.10206968800048344,
427
- 0.11885299300774932,
428
- 0.11913840699708089,
429
- 0.11929805600084364,
430
- 0.11927867998019792,
431
- 0.11950090600294061,
432
- 0.11863672800245695,
433
- 0.11844225399545394,
434
- 0.11967835799441673,
435
- 0.11981323102372698,
436
- 0.11967411998193711,
437
- 0.11929800701909699,
438
- 0.11984522099373862,
439
- 0.12012798999785446,
440
- 0.12005452200537547,
441
- 0.1203543439914938,
442
- 0.10401072198874317,
443
- 0.1191053360234946,
444
- 0.11927324900170788,
445
- 0.1196417999744881,
446
- 0.11923837501672097,
447
- 0.11724723599036224,
448
- 0.11720581899862736,
449
- 0.11942283000098541,
450
- 0.1195572610013187,
451
- 0.11967627500416711,
452
- 0.11967118398752064,
453
- 0.11922613202477805,
454
- 0.12844268899061717,
455
- 0.1219178109895438,
456
- 0.12030649499502033,
457
- 0.11979810200864449,
458
- 0.10497353499522433,
459
- 0.12132151500554755,
460
- 0.12074675899930298,
461
- 0.12065819301642478,
462
- 0.12132902897428721,
463
- 0.12027538602706045,
464
- 0.11883964799926616,
465
- 0.1189162619994022,
466
- 0.11968766499194317,
467
- 0.121691959007876,
468
- 0.12177810998400673,
469
- 0.12202803799300455,
470
- 0.12222475602175109,
471
- 0.12189653198583983,
472
- 0.12212848599301651,
473
- 0.1221913630142808,
474
- 0.10120933700818568,
475
- 0.11969038099050522,
476
- 0.11909529598779045,
477
- 0.11894861201290041,
478
- 0.12169120798353106,
479
- 0.12196596202556975,
480
- 0.13015978297335096,
481
- 0.12182187201688066,
482
- 0.12240572500741109,
483
- 0.12535570899490267,
484
- 0.12187999099842273,
485
- 0.12103738301084377,
486
- 0.12002560799010098,
487
- 0.12237952600116841,
488
- 0.12225101600051858,
489
- 0.12247752898838371,
490
- 0.11994329499430023,
491
- 0.12001712201163173,
492
- 0.11957861200789921,
493
- 0.12011100800009444,
494
- 0.12220973797957413,
495
- 0.1218505360011477,
496
- 0.11929896799847484,
497
- 0.11898870702134445,
498
- 0.1193327909859363,
499
- 0.1215619050199166,
500
- 0.12242073399829678,
501
- 0.12262720899889246,
502
- 0.12295143699157052,
503
- 0.12042962500709109,
504
- 0.12044082599459216,
505
- 0.10206968800048344,
506
- 0.11885299300774932,
507
- 0.11913840699708089,
508
- 0.11929805600084364,
509
- 0.11927867998019792,
510
- 0.11950090600294061,
511
- 0.11863672800245695,
512
- 0.11844225399545394,
513
- 0.11967835799441673,
514
- 0.11981323102372698,
515
- 0.11967411998193711,
516
- 0.11929800701909699,
517
- 0.11984522099373862,
518
- 0.12012798999785446,
519
- 0.12005452200537547,
520
- 0.1203543439914938,
521
- 0.10401072198874317,
522
- 0.1191053360234946,
523
- 0.11927324900170788,
524
- 0.1196417999744881,
525
- 0.11923837501672097,
526
- 0.11724723599036224,
527
- 0.11720581899862736,
528
- 0.11942283000098541,
529
- 0.1195572610013187,
530
- 0.11967627500416711,
531
- 0.11967118398752064,
532
- 0.11922613202477805,
533
- 0.12844268899061717,
534
- 0.1219178109895438,
535
- 0.12030649499502033,
536
- 0.11979810200864449,
537
- 0.10497353499522433,
538
- 0.12132151500554755,
539
- 0.12074675899930298,
540
- 0.12065819301642478,
541
- 0.12132902897428721,
542
- 0.12027538602706045,
543
- 0.11883964799926616,
544
- 0.1189162619994022,
545
- 0.11968766499194317,
546
- 0.121691959007876,
547
- 0.12177810998400673,
548
- 0.12202803799300455,
549
- 0.12222475602175109,
550
- 0.12189653198583983,
551
- 0.12212848599301651,
552
- 0.1221913630142808,
553
- 0.10120933700818568,
554
- 0.11969038099050522,
555
- 0.11909529598779045,
556
- 0.11894861201290041,
557
- 0.12169120798353106,
558
- 0.12196596202556975,
559
- 0.13015978297335096,
560
- 0.12182187201688066,
561
- 0.12240572500741109,
562
- 0.12535570899490267,
563
- 0.12187999099842273,
564
- 0.12103738301084377,
565
- 0.12002560799010098,
566
- 0.12237952600116841,
567
- 0.12225101600051858,
568
- 0.12247752898838371,
569
- 0.10212291701463982,
570
- 0.11926952298381366,
571
- 0.11871821101522073,
572
- 0.1184919869992882,
573
- 0.11866379898856394,
574
- 0.11871293999138288,
575
- 0.11945540099986829,
576
- 0.11884666100377217,
577
- 0.12366621501860209,
578
- 0.13771712497691624,
579
- 0.13781296400702558,
580
- 0.13824332901276648,
581
- 0.13743293299921788,
582
- 0.13684631398064084,
583
- 0.12968833101331256,
584
- 0.12036129701300524,
585
- 0.11994329499430023,
586
- 0.12001712201163173,
587
- 0.11957861200789921,
588
- 0.12011100800009444,
589
- 0.12220973797957413,
590
- 0.1218505360011477,
591
- 0.11929896799847484,
592
- 0.11898870702134445,
593
- 0.1193327909859363,
594
- 0.1215619050199166,
595
- 0.12242073399829678,
596
- 0.12262720899889246,
597
- 0.12295143699157052,
598
- 0.12042962500709109,
599
- 0.12044082599459216,
600
- 0.10206968800048344,
601
- 0.11885299300774932,
602
- 0.11913840699708089,
603
- 0.11929805600084364,
604
- 0.11927867998019792,
605
- 0.11950090600294061,
606
- 0.11863672800245695,
607
- 0.11844225399545394,
608
- 0.11967835799441673,
609
- 0.11981323102372698,
610
- 0.11967411998193711,
611
- 0.11929800701909699,
612
- 0.11984522099373862,
613
- 0.12012798999785446,
614
- 0.12005452200537547,
615
- 0.1203543439914938,
616
- 0.10401072198874317,
617
- 0.1191053360234946,
618
- 0.11927324900170788,
619
- 0.1196417999744881,
620
- 0.11923837501672097,
621
- 0.11724723599036224,
622
- 0.11720581899862736,
623
- 0.11942283000098541,
624
- 0.1195572610013187,
625
- 0.11967627500416711,
626
- 0.11967118398752064,
627
- 0.11922613202477805,
628
- 0.12844268899061717,
629
- 0.1219178109895438,
630
- 0.12030649499502033,
631
- 0.11979810200864449,
632
- 0.10497353499522433,
633
- 0.12132151500554755,
634
- 0.12074675899930298,
635
- 0.12065819301642478,
636
- 0.12132902897428721,
637
- 0.12027538602706045,
638
- 0.11883964799926616,
639
- 0.1189162619994022,
640
- 0.11968766499194317,
641
- 0.121691959007876,
642
- 0.12177810998400673,
643
- 0.12202803799300455,
644
- 0.12222475602175109,
645
- 0.12189653198583983,
646
- 0.12212848599301651,
647
- 0.1221913630142808,
648
- 0.10120933700818568,
649
- 0.11969038099050522,
650
- 0.11909529598779045,
651
- 0.11894861201290041,
652
- 0.12169120798353106,
653
- 0.12196596202556975,
654
- 0.13015978297335096,
655
- 0.12182187201688066,
656
- 0.12240572500741109,
657
- 0.12535570899490267,
658
- 0.12187999099842273,
659
- 0.12103738301084377,
660
- 0.12002560799010098,
661
- 0.12237952600116841,
662
- 0.12225101600051858,
663
- 0.12247752898838371,
664
- 0.10212291701463982,
665
- 0.11926952298381366,
666
- 0.11871821101522073,
667
- 0.1184919869992882,
668
- 0.11866379898856394,
669
- 0.11871293999138288,
670
- 0.11945540099986829,
671
- 0.11884666100377217,
672
- 0.12366621501860209,
673
- 0.13771712497691624,
674
- 0.13781296400702558,
675
- 0.13824332901276648,
676
- 0.13743293299921788,
677
- 0.13684631398064084,
678
- 0.12968833101331256,
679
- 0.12036129701300524,
680
- 0.10417176398914307,
681
- 0.11881336799706332,
682
- 0.1183482880005613,
683
- 0.11839016698650084,
684
- 0.11851684300927445,
685
- 0.11845209199236706,
686
- 0.11852591100614518,
687
- 0.1187845450185705,
688
- 0.11860941597842611,
689
- 0.11858478101203218,
690
- 0.11857018299633637,
691
- 0.1188138599973172,
692
- 0.11879585598944686,
693
- 0.11868569001671858,
694
- 0.11917845200514421,
695
- 0.11879219900583848,
696
- 0.11994329499430023,
697
- 0.12001712201163173,
698
- 0.11957861200789921,
699
- 0.12011100800009444,
700
- 0.12220973797957413,
701
- 0.1218505360011477,
702
- 0.11929896799847484,
703
- 0.11898870702134445,
704
- 0.1193327909859363,
705
- 0.1215619050199166,
706
- 0.12242073399829678,
707
- 0.12262720899889246,
708
- 0.12295143699157052,
709
- 0.12042962500709109,
710
- 0.12044082599459216,
711
- 0.10206968800048344,
712
- 0.11885299300774932,
713
- 0.11913840699708089,
714
- 0.11929805600084364,
715
- 0.11927867998019792,
716
- 0.11950090600294061,
717
- 0.11863672800245695,
718
- 0.11844225399545394,
719
- 0.11967835799441673,
720
- 0.11981323102372698,
721
- 0.11967411998193711,
722
- 0.11929800701909699,
723
- 0.11984522099373862,
724
- 0.12012798999785446,
725
- 0.12005452200537547,
726
- 0.1203543439914938,
727
- 0.10401072198874317,
728
- 0.1191053360234946,
729
- 0.11927324900170788,
730
- 0.1196417999744881,
731
- 0.11923837501672097,
732
- 0.11724723599036224,
733
- 0.11720581899862736,
734
- 0.11942283000098541,
735
- 0.1195572610013187,
736
- 0.11967627500416711,
737
- 0.11967118398752064,
738
- 0.11922613202477805,
739
- 0.12844268899061717,
740
- 0.1219178109895438,
741
- 0.12030649499502033,
742
- 0.11979810200864449,
743
- 0.10497353499522433,
744
- 0.12132151500554755,
745
- 0.12074675899930298,
746
- 0.12065819301642478,
747
- 0.12132902897428721,
748
- 0.12027538602706045,
749
- 0.11883964799926616,
750
- 0.1189162619994022,
751
- 0.11968766499194317,
752
- 0.121691959007876,
753
- 0.12177810998400673,
754
- 0.12202803799300455,
755
- 0.12222475602175109,
756
- 0.12189653198583983,
757
- 0.12212848599301651,
758
- 0.1221913630142808,
759
- 0.10120933700818568,
760
- 0.11969038099050522,
761
- 0.11909529598779045,
762
- 0.11894861201290041,
763
- 0.12169120798353106,
764
- 0.12196596202556975,
765
- 0.13015978297335096,
766
- 0.12182187201688066,
767
- 0.12240572500741109,
768
- 0.12535570899490267,
769
- 0.12187999099842273,
770
- 0.12103738301084377,
771
- 0.12002560799010098,
772
- 0.12237952600116841,
773
- 0.12225101600051858,
774
- 0.12247752898838371,
775
- 0.10212291701463982,
776
- 0.11926952298381366,
777
- 0.11871821101522073,
778
- 0.1184919869992882,
779
- 0.11866379898856394,
780
- 0.11871293999138288,
781
- 0.11945540099986829,
782
- 0.11884666100377217,
783
- 0.12366621501860209,
784
- 0.13771712497691624,
785
- 0.13781296400702558,
786
- 0.13824332901276648,
787
- 0.13743293299921788,
788
- 0.13684631398064084,
789
- 0.12968833101331256,
790
- 0.12036129701300524,
791
- 0.10417176398914307,
792
- 0.11881336799706332,
793
- 0.1183482880005613,
794
- 0.11839016698650084,
795
- 0.11851684300927445,
796
- 0.11845209199236706,
797
- 0.11852591100614518,
798
- 0.1187845450185705,
799
- 0.11860941597842611,
800
- 0.11858478101203218,
801
- 0.11857018299633637,
802
- 0.1188138599973172,
803
- 0.11879585598944686,
804
- 0.11868569001671858,
805
- 0.11917845200514421,
806
- 0.11879219900583848,
807
- 0.10093585497816093,
808
- 0.11823233999894,
809
- 0.11827286699553952,
810
- 0.11935255801654421,
811
- 0.11960422998527065,
812
- 0.11963516700780019,
813
- 0.11976543100900017,
814
- 0.11974143699626438,
815
- 0.11996973399072886,
816
- 0.11994657100876793,
817
- 0.11989299999549985,
818
- 0.1218346859968733,
819
- 0.11959651400684379,
820
- 0.12039997000829317,
821
- 0.12004896299913526,
822
- 0.12023028198746033,
823
- 0.11994329499430023,
824
- 0.12001712201163173,
825
- 0.11957861200789921,
826
- 0.12011100800009444,
827
- 0.12220973797957413,
828
- 0.1218505360011477,
829
- 0.11929896799847484,
830
- 0.11898870702134445,
831
- 0.1193327909859363,
832
- 0.1215619050199166,
833
- 0.12242073399829678,
834
- 0.12262720899889246,
835
- 0.12295143699157052,
836
- 0.12042962500709109,
837
- 0.12044082599459216,
838
- 0.10206968800048344,
839
- 0.11885299300774932,
840
- 0.11913840699708089,
841
- 0.11929805600084364,
842
- 0.11927867998019792,
843
- 0.11950090600294061,
844
- 0.11863672800245695,
845
- 0.11844225399545394,
846
- 0.11967835799441673,
847
- 0.11981323102372698,
848
- 0.11967411998193711,
849
- 0.11929800701909699,
850
- 0.11984522099373862,
851
- 0.12012798999785446,
852
- 0.12005452200537547,
853
- 0.1203543439914938,
854
- 0.10401072198874317,
855
- 0.1191053360234946,
856
- 0.11927324900170788,
857
- 0.1196417999744881,
858
- 0.11923837501672097,
859
- 0.11724723599036224,
860
- 0.11720581899862736,
861
- 0.11942283000098541,
862
- 0.1195572610013187,
863
- 0.11967627500416711,
864
- 0.11967118398752064,
865
- 0.11922613202477805,
866
- 0.12844268899061717,
867
- 0.1219178109895438,
868
- 0.12030649499502033,
869
- 0.11979810200864449,
870
- 0.10497353499522433,
871
- 0.12132151500554755,
872
- 0.12074675899930298,
873
- 0.12065819301642478,
874
- 0.12132902897428721,
875
- 0.12027538602706045,
876
- 0.11883964799926616,
877
- 0.1189162619994022,
878
- 0.11968766499194317,
879
- 0.121691959007876,
880
- 0.12177810998400673,
881
- 0.12202803799300455,
882
- 0.12222475602175109,
883
- 0.12189653198583983,
884
- 0.12212848599301651,
885
- 0.1221913630142808,
886
- 0.10120933700818568,
887
- 0.11969038099050522,
888
- 0.11909529598779045,
889
- 0.11894861201290041,
890
- 0.12169120798353106,
891
- 0.12196596202556975,
892
- 0.13015978297335096,
893
- 0.12182187201688066,
894
- 0.12240572500741109,
895
- 0.12535570899490267,
896
- 0.12187999099842273,
897
- 0.12103738301084377,
898
- 0.12002560799010098,
899
- 0.12237952600116841,
900
- 0.12225101600051858,
901
- 0.12247752898838371,
902
- 0.10212291701463982,
903
- 0.11926952298381366,
904
- 0.11871821101522073,
905
- 0.1184919869992882,
906
- 0.11866379898856394,
907
- 0.11871293999138288,
908
- 0.11945540099986829,
909
- 0.11884666100377217,
910
- 0.12366621501860209,
911
- 0.13771712497691624,
912
- 0.13781296400702558,
913
- 0.13824332901276648,
914
- 0.13743293299921788,
915
- 0.13684631398064084,
916
- 0.12968833101331256,
917
- 0.12036129701300524,
918
- 0.10417176398914307,
919
- 0.11881336799706332,
920
- 0.1183482880005613,
921
- 0.11839016698650084,
922
- 0.11851684300927445,
923
- 0.11845209199236706,
924
- 0.11852591100614518,
925
- 0.1187845450185705,
926
- 0.11860941597842611,
927
- 0.11858478101203218,
928
- 0.11857018299633637,
929
- 0.1188138599973172,
930
- 0.11879585598944686,
931
- 0.11868569001671858,
932
- 0.11917845200514421,
933
- 0.11879219900583848,
934
- 0.10093585497816093,
935
- 0.11823233999894,
936
- 0.11827286699553952,
937
- 0.11935255801654421,
938
- 0.11960422998527065,
939
- 0.11963516700780019,
940
- 0.11976543100900017,
941
- 0.11974143699626438,
942
- 0.11996973399072886,
943
- 0.11994657100876793,
944
- 0.11989299999549985,
945
- 0.1218346859968733,
946
- 0.11959651400684379,
947
- 0.12039997000829317,
948
- 0.12004896299913526,
949
- 0.12023028198746033,
950
- 0.1011092480039224,
951
- 0.11950531500042416,
952
- 0.11929182498715818,
953
- 0.11938153201481327,
954
- 0.11861710099037737,
955
- 0.11887372200726531,
956
- 0.11936206600512378,
957
- 0.12254839198431,
958
- 0.12215502600884065,
959
- 0.12242556200362742,
960
- 0.12222534799366258,
961
- 0.11993699200684205,
962
- 0.12007427000207826,
963
- 0.12024581100558862,
964
- 0.12034438498085365,
965
- 0.120268794009462,
966
- 0.11994329499430023,
967
- 0.12001712201163173,
968
- 0.11957861200789921,
969
- 0.12011100800009444,
970
- 0.12220973797957413,
971
- 0.1218505360011477,
972
- 0.11929896799847484,
973
- 0.11898870702134445,
974
- 0.1193327909859363,
975
- 0.1215619050199166,
976
- 0.12242073399829678,
977
- 0.12262720899889246,
978
- 0.12295143699157052,
979
- 0.12042962500709109,
980
- 0.12044082599459216,
981
- 0.10206968800048344,
982
- 0.11885299300774932,
983
- 0.11913840699708089,
984
- 0.11929805600084364,
985
- 0.11927867998019792,
986
- 0.11950090600294061,
987
- 0.11863672800245695,
988
- 0.11844225399545394,
989
- 0.11967835799441673,
990
- 0.11981323102372698,
991
- 0.11967411998193711,
992
- 0.11929800701909699,
993
- 0.11984522099373862,
994
- 0.12012798999785446,
995
- 0.12005452200537547,
996
- 0.1203543439914938,
997
- 0.10401072198874317,
998
- 0.1191053360234946,
999
- 0.11927324900170788,
1000
- 0.1196417999744881,
1001
- 0.11923837501672097,
1002
- 0.11724723599036224,
1003
- 0.11720581899862736,
1004
- 0.11942283000098541,
1005
- 0.1195572610013187,
1006
- 0.11967627500416711,
1007
- 0.11967118398752064,
1008
- 0.11922613202477805,
1009
- 0.12844268899061717,
1010
- 0.1219178109895438,
1011
- 0.12030649499502033,
1012
- 0.11979810200864449,
1013
- 0.10497353499522433,
1014
- 0.12132151500554755,
1015
- 0.12074675899930298,
1016
- 0.12065819301642478,
1017
- 0.12132902897428721,
1018
- 0.12027538602706045,
1019
- 0.11883964799926616,
1020
- 0.1189162619994022,
1021
- 0.11968766499194317,
1022
- 0.121691959007876,
1023
- 0.12177810998400673,
1024
- 0.12202803799300455,
1025
- 0.12222475602175109,
1026
- 0.12189653198583983,
1027
- 0.12212848599301651,
1028
- 0.1221913630142808,
1029
- 0.10120933700818568,
1030
- 0.11969038099050522,
1031
- 0.11909529598779045,
1032
- 0.11894861201290041,
1033
- 0.12169120798353106,
1034
- 0.12196596202556975,
1035
- 0.13015978297335096,
1036
- 0.12182187201688066,
1037
- 0.12240572500741109,
1038
- 0.12535570899490267,
1039
- 0.12187999099842273,
1040
- 0.12103738301084377,
1041
- 0.12002560799010098,
1042
- 0.12237952600116841,
1043
- 0.12225101600051858,
1044
- 0.12247752898838371,
1045
- 0.10212291701463982,
1046
- 0.11926952298381366,
1047
- 0.11871821101522073,
1048
- 0.1184919869992882,
1049
- 0.11866379898856394,
1050
- 0.11871293999138288,
1051
- 0.11945540099986829,
1052
- 0.11884666100377217,
1053
- 0.12366621501860209,
1054
- 0.13771712497691624,
1055
- 0.13781296400702558,
1056
- 0.13824332901276648,
1057
- 0.13743293299921788,
1058
- 0.13684631398064084,
1059
- 0.12968833101331256,
1060
- 0.12036129701300524,
1061
- 0.10417176398914307,
1062
- 0.11881336799706332,
1063
- 0.1183482880005613,
1064
- 0.11839016698650084,
1065
- 0.11851684300927445,
1066
- 0.11845209199236706,
1067
- 0.11852591100614518,
1068
- 0.1187845450185705,
1069
- 0.11860941597842611,
1070
- 0.11858478101203218,
1071
- 0.11857018299633637,
1072
- 0.1188138599973172,
1073
- 0.11879585598944686,
1074
- 0.11868569001671858,
1075
- 0.11917845200514421,
1076
- 0.11879219900583848,
1077
- 0.10093585497816093,
1078
- 0.11823233999894,
1079
- 0.11827286699553952,
1080
- 0.11935255801654421,
1081
- 0.11960422998527065,
1082
- 0.11963516700780019,
1083
- 0.11976543100900017,
1084
- 0.11974143699626438,
1085
- 0.11996973399072886,
1086
- 0.11994657100876793,
1087
- 0.11989299999549985,
1088
- 0.1218346859968733,
1089
- 0.11959651400684379,
1090
- 0.12039997000829317,
1091
- 0.12004896299913526,
1092
- 0.12023028198746033,
1093
- 0.1011092480039224,
1094
- 0.11950531500042416,
1095
- 0.11929182498715818,
1096
- 0.11938153201481327,
1097
- 0.11861710099037737,
1098
- 0.11887372200726531,
1099
- 0.11936206600512378,
1100
- 0.12254839198431,
1101
- 0.12215502600884065,
1102
- 0.12242556200362742,
1103
- 0.12222534799366258,
1104
- 0.11993699200684205,
1105
- 0.12007427000207826,
1106
- 0.12024581100558862,
1107
- 0.12034438498085365,
1108
- 0.120268794009462,
1109
- 0.10415437098708935,
1110
- 0.1194456130033359,
1111
- 0.11925596700166352,
1112
- 0.11948168999515474,
1113
- 0.11959567401208915,
1114
- 0.11960158401052468,
1115
- 0.11973209900315851,
1116
- 0.11977398698218167,
1117
- 0.11973221000516787,
1118
- 0.12034926400519907,
1119
- 0.1196343159826938,
1120
- 0.12007884800550528,
1121
- 0.12027978501282632,
1122
- 0.11983906899695285,
1123
- 0.11983943998347968,
1124
- 0.11956951502361335
1125
  ],
1126
  "count": 870,
1127
- "total": 104.35516390309203,
1128
- "mean": 0.11994846425642762,
1129
- "p50": 0.11973215450416319,
1130
- "p90": 0.12242073399829678,
1131
- "p95": 0.1270535479925455,
1132
- "p99": 0.13781296400702558,
1133
- "stdev": 0.005283011767106166,
1134
- "stdev_": 4.404401340072236
1135
  },
1136
  "throughput": null,
1137
  "energy": null,
 
5
  "name": "pytorch",
6
  "version": "2.8.0",
7
  "_target_": "optimum_benchmark.backends.pytorch.backend.PyTorchBackend",
8
+ "model": "Qwen/Qwen3-0.6B",
9
+ "processor": "Qwen/Qwen3-0.6B",
10
  "task": "text-generation",
11
  "library": "transformers",
12
+ "model_type": "qwen3",
13
  "device": "cpu",
14
  "device_ids": null,
15
  "seed": 42,
 
88
  "gpu_count": 5,
89
  "gpu_vram_mb": 347892350976,
90
  "optimum_benchmark_version": "0.7.0.dev0",
91
+ "optimum_benchmark_commit": "e6c76eae24768396546d20e3555505ba126992ae",
92
  "transformers_version": "4.56.2",
93
+ "transformers_commit": "e6c76eae24768396546d20e3555505ba126992ae",
94
  "accelerate_version": "1.10.1",
95
+ "accelerate_commit": "e6c76eae24768396546d20e3555505ba126992ae",
96
  "diffusers_version": "0.35.1",
97
+ "diffusers_commit": "e6c76eae24768396546d20e3555505ba126992ae",
98
  "optimum_version": "1.27.0",
99
  "optimum_commit": null,
100
  "timm_version": "1.0.20",
101
+ "timm_commit": "e6c76eae24768396546d20e3555505ba126992ae",
102
  "peft_version": "0.17.1",
103
+ "peft_commit": "e6c76eae24768396546d20e3555505ba126992ae"
104
  },
105
  "print_report": false,
106
  "log_report": true
 
111
  "latency": {
112
  "unit": "s",
113
  "values": [
114
+ 3.815463294973597
115
  ],
116
  "count": 1,
117
+ "total": 3.815463294973597,
118
+ "mean": 3.815463294973597,
119
+ "p50": 3.815463294973597,
120
+ "p90": 3.815463294973597,
121
+ "p95": 3.815463294973597,
122
+ "p99": 3.815463294973597,
123
  "stdev": 0,
124
  "stdev_": 0
125
  },
 
132
  "latency": {
133
  "unit": "s",
134
  "values": [
135
+ 2.862623608991271
136
  ],
137
  "count": 1,
138
+ "total": 2.862623608991271,
139
+ "mean": 2.862623608991271,
140
+ "p50": 2.862623608991271,
141
+ "p90": 2.862623608991271,
142
+ "p95": 2.862623608991271,
143
+ "p99": 2.862623608991271,
144
  "stdev": 0,
145
  "stdev_": 0
146
  },
 
153
  "latency": {
154
  "unit": "s",
155
  "values": [
156
+ 2.8697067010216415,
157
+ 2.8677378539869096,
158
+ 2.864510990999406,
159
+ 2.8792459219985176,
160
+ 2.8901331769884564,
161
+ 2.8544551100058015,
162
+ 2.8583659429859836,
163
+ 2.8657114959787577,
164
+ 2.873532780999085,
165
+ 2.8690334760176484
166
  ],
167
  "count": 10,
168
+ "total": 28.692433450982207,
169
+ "mean": 2.8692433450982207,
170
+ "p50": 2.868385665002279,
171
+ "p90": 2.8803346474975116,
172
+ "p95": 2.8852339122429838,
173
+ "p99": 2.889153324039362,
174
+ "stdev": 0.009639709725943236,
175
+ "stdev_": 0.33596696294204514
176
  },
177
  "throughput": {
178
  "unit": "samples/s",
179
+ "value": 5.227859123774151
180
  },
181
  "energy": null,
182
  "efficiency": null
 
186
  "latency": {
187
  "unit": "s",
188
  "values": [
189
+ 0.15033512900117785,
190
+ 0.1496317929995712,
191
+ 0.15077306001330726,
192
+ 0.15041706399642862,
193
+ 0.14940136100631207,
194
+ 0.1494191650126595,
195
+ 0.1510180179902818,
196
+ 0.15811527697951533,
197
+ 0.1565094510151539,
198
+ 0.15732792299240828
199
  ],
200
  "count": 10,
201
+ "total": 1.5229482410068158,
202
+ "mean": 0.15229482410068157,
203
+ "p50": 0.15059506200486794,
204
+ "p90": 0.15740665839111898,
205
+ "p95": 0.15776096768531717,
206
+ "p99": 0.15804441512067569,
207
+ "stdev": 0.003346916526963617,
208
+ "stdev_": 2.197656123067572
209
  },
210
  "throughput": {
211
  "unit": "samples/s",
212
+ "value": 6.5662113332157865
213
  },
214
  "energy": null,
215
  "efficiency": null
 
219
  "latency": {
220
  "unit": "s",
221
  "values": [
222
+ 2.7193715720204636,
223
+ 2.7181060609873384,
224
+ 2.713737930986099,
225
+ 2.728828858002089,
226
+ 2.7407318159821443,
227
+ 2.705035944993142,
228
+ 2.7073479249957018,
229
+ 2.7075962189992424,
230
+ 2.717023329983931,
231
+ 2.71170555302524
232
  ],
233
  "count": 10,
234
+ "total": 27.16948520997539,
235
+ "mean": 2.7169485209975393,
236
+ "p50": 2.715380630485015,
237
+ "p90": 2.7300191538000944,
238
+ "p95": 2.7353754848911196,
239
+ "p99": 2.7396605497639395,
240
+ "stdev": 0.010360247409386705,
241
+ "stdev_": 0.3813192384514851
242
  },
243
  "throughput": {
244
  "unit": "tokens/s",
245
+ "value": 5.520899598970939
246
  },
247
  "energy": null,
248
  "efficiency": null
 
252
  "latency": {
253
  "unit": "s",
254
  "values": [
255
+ 0.18060126301134005,
256
+ 0.17982034001033753,
257
+ 0.17902196498471312,
258
+ 0.17884409200632945,
259
+ 0.1773738490010146,
260
+ 0.18060920800780877,
261
+ 0.1840686049836222,
262
+ 0.18062150001060218,
263
+ 0.1786752360058017,
264
+ 0.1802430919778999,
265
+ 0.18236199900275096,
266
+ 0.18578844500007108,
267
+ 0.18571694201091304,
268
+ 0.18347465299302712,
269
+ 0.18169735500123352,
270
+ 0.18060126301134005,
271
+ 0.17982034001033753,
272
+ 0.17902196498471312,
273
+ 0.17884409200632945,
274
+ 0.1773738490010146,
275
+ 0.18060920800780877,
276
+ 0.1840686049836222,
277
+ 0.18062150001060218,
278
+ 0.1786752360058017,
279
+ 0.1802430919778999,
280
+ 0.18236199900275096,
281
+ 0.18578844500007108,
282
+ 0.18571694201091304,
283
+ 0.18347465299302712,
284
+ 0.18169735500123352,
285
+ 0.1501067120116204,
286
+ 0.17986649597878568,
287
+ 0.17958978901151568,
288
+ 0.17988612299086526,
289
+ 0.1812881380028557,
290
+ 0.1801736119959969,
291
+ 0.18042201700154692,
292
+ 0.18026050401385874,
293
+ 0.18067020198213868,
294
+ 0.1801622100174427,
295
+ 0.1815141209808644,
296
+ 0.1805941800121218,
297
+ 0.1821061299997382,
298
+ 0.1803806489915587,
299
+ 0.18073800799902529,
300
+ 0.18999693699879572,
301
+ 0.18060126301134005,
302
+ 0.17982034001033753,
303
+ 0.17902196498471312,
304
+ 0.17884409200632945,
305
+ 0.1773738490010146,
306
+ 0.18060920800780877,
307
+ 0.1840686049836222,
308
+ 0.18062150001060218,
309
+ 0.1786752360058017,
310
+ 0.1802430919778999,
311
+ 0.18236199900275096,
312
+ 0.18578844500007108,
313
+ 0.18571694201091304,
314
+ 0.18347465299302712,
315
+ 0.18169735500123352,
316
+ 0.1501067120116204,
317
+ 0.17986649597878568,
318
+ 0.17958978901151568,
319
+ 0.17988612299086526,
320
+ 0.1812881380028557,
321
+ 0.1801736119959969,
322
+ 0.18042201700154692,
323
+ 0.18026050401385874,
324
+ 0.18067020198213868,
325
+ 0.1801622100174427,
326
+ 0.1815141209808644,
327
+ 0.1805941800121218,
328
+ 0.1821061299997382,
329
+ 0.1803806489915587,
330
+ 0.18073800799902529,
331
+ 0.18999693699879572,
332
+ 0.15125343902036548,
333
+ 0.18528185598552227,
334
+ 0.18073044400080107,
335
+ 0.180634184012888,
336
+ 0.17973282700404525,
337
+ 0.18126663798466325,
338
+ 0.18022483700769953,
339
+ 0.18206978199305013,
340
+ 0.18093956599477679,
341
+ 0.17995618502027355,
342
+ 0.180461119976826,
343
+ 0.1800664510228671,
344
+ 0.18061635000049137,
345
+ 0.18022393598221242,
346
+ 0.18002824901486747,
347
+ 0.1810278219927568,
348
+ 0.18060126301134005,
349
+ 0.17982034001033753,
350
+ 0.17902196498471312,
351
+ 0.17884409200632945,
352
+ 0.1773738490010146,
353
+ 0.18060920800780877,
354
+ 0.1840686049836222,
355
+ 0.18062150001060218,
356
+ 0.1786752360058017,
357
+ 0.1802430919778999,
358
+ 0.18236199900275096,
359
+ 0.18578844500007108,
360
+ 0.18571694201091304,
361
+ 0.18347465299302712,
362
+ 0.18169735500123352,
363
+ 0.1501067120116204,
364
+ 0.17986649597878568,
365
+ 0.17958978901151568,
366
+ 0.17988612299086526,
367
+ 0.1812881380028557,
368
+ 0.1801736119959969,
369
+ 0.18042201700154692,
370
+ 0.18026050401385874,
371
+ 0.18067020198213868,
372
+ 0.1801622100174427,
373
+ 0.1815141209808644,
374
+ 0.1805941800121218,
375
+ 0.1821061299997382,
376
+ 0.1803806489915587,
377
+ 0.18073800799902529,
378
+ 0.18999693699879572,
379
+ 0.15125343902036548,
380
+ 0.18528185598552227,
381
+ 0.18073044400080107,
382
+ 0.180634184012888,
383
+ 0.17973282700404525,
384
+ 0.18126663798466325,
385
+ 0.18022483700769953,
386
+ 0.18206978199305013,
387
+ 0.18093956599477679,
388
+ 0.17995618502027355,
389
+ 0.180461119976826,
390
+ 0.1800664510228671,
391
+ 0.18061635000049137,
392
+ 0.18022393598221242,
393
+ 0.18002824901486747,
394
+ 0.1810278219927568,
395
+ 0.15091895300429314,
396
+ 0.18494558599195443,
397
+ 0.18385400300030597,
398
+ 0.17999499800498597,
399
+ 0.18021173198940232,
400
+ 0.18338976401719265,
401
+ 0.18034410098334774,
402
+ 0.18046341399895027,
403
+ 0.18075324699748307,
404
+ 0.1808219960075803,
405
+ 0.18019520200323313,
406
+ 0.18060428800527006,
407
+ 0.18127037500380538,
408
+ 0.17938928300281987,
409
+ 0.18573817098513246,
410
+ 0.18639007199089974,
411
+ 0.18060126301134005,
412
+ 0.17982034001033753,
413
+ 0.17902196498471312,
414
+ 0.17884409200632945,
415
+ 0.1773738490010146,
416
+ 0.18060920800780877,
417
+ 0.1840686049836222,
418
+ 0.18062150001060218,
419
+ 0.1786752360058017,
420
+ 0.1802430919778999,
421
+ 0.18236199900275096,
422
+ 0.18578844500007108,
423
+ 0.18571694201091304,
424
+ 0.18347465299302712,
425
+ 0.18169735500123352,
426
+ 0.1501067120116204,
427
+ 0.17986649597878568,
428
+ 0.17958978901151568,
429
+ 0.17988612299086526,
430
+ 0.1812881380028557,
431
+ 0.1801736119959969,
432
+ 0.18042201700154692,
433
+ 0.18026050401385874,
434
+ 0.18067020198213868,
435
+ 0.1801622100174427,
436
+ 0.1815141209808644,
437
+ 0.1805941800121218,
438
+ 0.1821061299997382,
439
+ 0.1803806489915587,
440
+ 0.18073800799902529,
441
+ 0.18999693699879572,
442
+ 0.15125343902036548,
443
+ 0.18528185598552227,
444
+ 0.18073044400080107,
445
+ 0.180634184012888,
446
+ 0.17973282700404525,
447
+ 0.18126663798466325,
448
+ 0.18022483700769953,
449
+ 0.18206978199305013,
450
+ 0.18093956599477679,
451
+ 0.17995618502027355,
452
+ 0.180461119976826,
453
+ 0.1800664510228671,
454
+ 0.18061635000049137,
455
+ 0.18022393598221242,
456
+ 0.18002824901486747,
457
+ 0.1810278219927568,
458
+ 0.15091895300429314,
459
+ 0.18494558599195443,
460
+ 0.18385400300030597,
461
+ 0.17999499800498597,
462
+ 0.18021173198940232,
463
+ 0.18338976401719265,
464
+ 0.18034410098334774,
465
+ 0.18046341399895027,
466
+ 0.18075324699748307,
467
+ 0.1808219960075803,
468
+ 0.18019520200323313,
469
+ 0.18060428800527006,
470
+ 0.18127037500380538,
471
+ 0.17938928300281987,
472
+ 0.18573817098513246,
473
+ 0.18639007199089974,
474
+ 0.14989602702553384,
475
+ 0.1848002149781678,
476
+ 0.18083776501589455,
477
+ 0.1791153399972245,
478
+ 0.1798664960078895,
479
+ 0.17990566999651492,
480
+ 0.17996893799863756,
481
+ 0.1819690039847046,
482
+ 0.181216263998067,
483
+ 0.18529247600235976,
484
+ 0.18523169300169684,
485
+ 0.18511642699013464,
486
+ 0.1867486130213365,
487
+ 0.18564882298232988,
488
+ 0.18289154101512395,
489
+ 0.18167252899729647,
490
+ 0.18060126301134005,
491
+ 0.17982034001033753,
492
+ 0.17902196498471312,
493
+ 0.17884409200632945,
494
+ 0.1773738490010146,
495
+ 0.18060920800780877,
496
+ 0.1840686049836222,
497
+ 0.18062150001060218,
498
+ 0.1786752360058017,
499
+ 0.1802430919778999,
500
+ 0.18236199900275096,
501
+ 0.18578844500007108,
502
+ 0.18571694201091304,
503
+ 0.18347465299302712,
504
+ 0.18169735500123352,
505
+ 0.1501067120116204,
506
+ 0.17986649597878568,
507
+ 0.17958978901151568,
508
+ 0.17988612299086526,
509
+ 0.1812881380028557,
510
+ 0.1801736119959969,
511
+ 0.18042201700154692,
512
+ 0.18026050401385874,
513
+ 0.18067020198213868,
514
+ 0.1801622100174427,
515
+ 0.1815141209808644,
516
+ 0.1805941800121218,
517
+ 0.1821061299997382,
518
+ 0.1803806489915587,
519
+ 0.18073800799902529,
520
+ 0.18999693699879572,
521
+ 0.15125343902036548,
522
+ 0.18528185598552227,
523
+ 0.18073044400080107,
524
+ 0.180634184012888,
525
+ 0.17973282700404525,
526
+ 0.18126663798466325,
527
+ 0.18022483700769953,
528
+ 0.18206978199305013,
529
+ 0.18093956599477679,
530
+ 0.17995618502027355,
531
+ 0.180461119976826,
532
+ 0.1800664510228671,
533
+ 0.18061635000049137,
534
+ 0.18022393598221242,
535
+ 0.18002824901486747,
536
+ 0.1810278219927568,
537
+ 0.15091895300429314,
538
+ 0.18494558599195443,
539
+ 0.18385400300030597,
540
+ 0.17999499800498597,
541
+ 0.18021173198940232,
542
+ 0.18338976401719265,
543
+ 0.18034410098334774,
544
+ 0.18046341399895027,
545
+ 0.18075324699748307,
546
+ 0.1808219960075803,
547
+ 0.18019520200323313,
548
+ 0.18060428800527006,
549
+ 0.18127037500380538,
550
+ 0.17938928300281987,
551
+ 0.18573817098513246,
552
+ 0.18639007199089974,
553
+ 0.14989602702553384,
554
+ 0.1848002149781678,
555
+ 0.18083776501589455,
556
+ 0.1791153399972245,
557
+ 0.1798664960078895,
558
+ 0.17990566999651492,
559
+ 0.17996893799863756,
560
+ 0.1819690039847046,
561
+ 0.181216263998067,
562
+ 0.18529247600235976,
563
+ 0.18523169300169684,
564
+ 0.18511642699013464,
565
+ 0.1867486130213365,
566
+ 0.18564882298232988,
567
+ 0.18289154101512395,
568
+ 0.18167252899729647,
569
+ 0.14990283999941312,
570
+ 0.17935943600605242,
571
+ 0.1808984589879401,
572
+ 0.17966271500336006,
573
+ 0.1799623260158114,
574
+ 0.17860502397525124,
575
+ 0.18274428500444628,
576
+ 0.17975249400478788,
577
+ 0.18048124699271284,
578
+ 0.18031989500741474,
579
+ 0.18032856201170944,
580
+ 0.18035401997622102,
581
+ 0.18055126801482402,
582
+ 0.18039224098902196,
583
+ 0.180185794015415,
584
+ 0.18097204598598182,
585
+ 0.18060126301134005,
586
+ 0.17982034001033753,
587
+ 0.17902196498471312,
588
+ 0.17884409200632945,
589
+ 0.1773738490010146,
590
+ 0.18060920800780877,
591
+ 0.1840686049836222,
592
+ 0.18062150001060218,
593
+ 0.1786752360058017,
594
+ 0.1802430919778999,
595
+ 0.18236199900275096,
596
+ 0.18578844500007108,
597
+ 0.18571694201091304,
598
+ 0.18347465299302712,
599
+ 0.18169735500123352,
600
+ 0.1501067120116204,
601
+ 0.17986649597878568,
602
+ 0.17958978901151568,
603
+ 0.17988612299086526,
604
+ 0.1812881380028557,
605
+ 0.1801736119959969,
606
+ 0.18042201700154692,
607
+ 0.18026050401385874,
608
+ 0.18067020198213868,
609
+ 0.1801622100174427,
610
+ 0.1815141209808644,
611
+ 0.1805941800121218,
612
+ 0.1821061299997382,
613
+ 0.1803806489915587,
614
+ 0.18073800799902529,
615
+ 0.18999693699879572,
616
+ 0.15125343902036548,
617
+ 0.18528185598552227,
618
+ 0.18073044400080107,
619
+ 0.180634184012888,
620
+ 0.17973282700404525,
621
+ 0.18126663798466325,
622
+ 0.18022483700769953,
623
+ 0.18206978199305013,
624
+ 0.18093956599477679,
625
+ 0.17995618502027355,
626
+ 0.180461119976826,
627
+ 0.1800664510228671,
628
+ 0.18061635000049137,
629
+ 0.18022393598221242,
630
+ 0.18002824901486747,
631
+ 0.1810278219927568,
632
+ 0.15091895300429314,
633
+ 0.18494558599195443,
634
+ 0.18385400300030597,
635
+ 0.17999499800498597,
636
+ 0.18021173198940232,
637
+ 0.18338976401719265,
638
+ 0.18034410098334774,
639
+ 0.18046341399895027,
640
+ 0.18075324699748307,
641
+ 0.1808219960075803,
642
+ 0.18019520200323313,
643
+ 0.18060428800527006,
644
+ 0.18127037500380538,
645
+ 0.17938928300281987,
646
+ 0.18573817098513246,
647
+ 0.18639007199089974,
648
+ 0.14989602702553384,
649
+ 0.1848002149781678,
650
+ 0.18083776501589455,
651
+ 0.1791153399972245,
652
+ 0.1798664960078895,
653
+ 0.17990566999651492,
654
+ 0.17996893799863756,
655
+ 0.1819690039847046,
656
+ 0.181216263998067,
657
+ 0.18529247600235976,
658
+ 0.18523169300169684,
659
+ 0.18511642699013464,
660
+ 0.1867486130213365,
661
+ 0.18564882298232988,
662
+ 0.18289154101512395,
663
+ 0.18167252899729647,
664
+ 0.14990283999941312,
665
+ 0.17935943600605242,
666
+ 0.1808984589879401,
667
+ 0.17966271500336006,
668
+ 0.1799623260158114,
669
+ 0.17860502397525124,
670
+ 0.18274428500444628,
671
+ 0.17975249400478788,
672
+ 0.18048124699271284,
673
+ 0.18031989500741474,
674
+ 0.18032856201170944,
675
+ 0.18035401997622102,
676
+ 0.18055126801482402,
677
+ 0.18039224098902196,
678
+ 0.180185794015415,
679
+ 0.18097204598598182,
680
+ 0.15151755401166156,
681
+ 0.1803704499907326,
682
+ 0.17937034799251705,
683
+ 0.18053994700312614,
684
+ 0.1801294990000315,
685
+ 0.17990723199909553,
686
+ 0.17993792000925168,
687
+ 0.18040446401573718,
688
+ 0.1790090419817716,
689
+ 0.18038235101266764,
690
+ 0.18070307400193997,
691
+ 0.18341965897707269,
692
+ 0.18106274600722827,
693
+ 0.18053742300253361,
694
+ 0.1807559920125641,
695
+ 0.18036284600384533,
696
+ 0.18060126301134005,
697
+ 0.17982034001033753,
698
+ 0.17902196498471312,
699
+ 0.17884409200632945,
700
+ 0.1773738490010146,
701
+ 0.18060920800780877,
702
+ 0.1840686049836222,
703
+ 0.18062150001060218,
704
+ 0.1786752360058017,
705
+ 0.1802430919778999,
706
+ 0.18236199900275096,
707
+ 0.18578844500007108,
708
+ 0.18571694201091304,
709
+ 0.18347465299302712,
710
+ 0.18169735500123352,
711
+ 0.1501067120116204,
712
+ 0.17986649597878568,
713
+ 0.17958978901151568,
714
+ 0.17988612299086526,
715
+ 0.1812881380028557,
716
+ 0.1801736119959969,
717
+ 0.18042201700154692,
718
+ 0.18026050401385874,
719
+ 0.18067020198213868,
720
+ 0.1801622100174427,
721
+ 0.1815141209808644,
722
+ 0.1805941800121218,
723
+ 0.1821061299997382,
724
+ 0.1803806489915587,
725
+ 0.18073800799902529,
726
+ 0.18999693699879572,
727
+ 0.15125343902036548,
728
+ 0.18528185598552227,
729
+ 0.18073044400080107,
730
+ 0.180634184012888,
731
+ 0.17973282700404525,
732
+ 0.18126663798466325,
733
+ 0.18022483700769953,
734
+ 0.18206978199305013,
735
+ 0.18093956599477679,
736
+ 0.17995618502027355,
737
+ 0.180461119976826,
738
+ 0.1800664510228671,
739
+ 0.18061635000049137,
740
+ 0.18022393598221242,
741
+ 0.18002824901486747,
742
+ 0.1810278219927568,
743
+ 0.15091895300429314,
744
+ 0.18494558599195443,
745
+ 0.18385400300030597,
746
+ 0.17999499800498597,
747
+ 0.18021173198940232,
748
+ 0.18338976401719265,
749
+ 0.18034410098334774,
750
+ 0.18046341399895027,
751
+ 0.18075324699748307,
752
+ 0.1808219960075803,
753
+ 0.18019520200323313,
754
+ 0.18060428800527006,
755
+ 0.18127037500380538,
756
+ 0.17938928300281987,
757
+ 0.18573817098513246,
758
+ 0.18639007199089974,
759
+ 0.14989602702553384,
760
+ 0.1848002149781678,
761
+ 0.18083776501589455,
762
+ 0.1791153399972245,
763
+ 0.1798664960078895,
764
+ 0.17990566999651492,
765
+ 0.17996893799863756,
766
+ 0.1819690039847046,
767
+ 0.181216263998067,
768
+ 0.18529247600235976,
769
+ 0.18523169300169684,
770
+ 0.18511642699013464,
771
+ 0.1867486130213365,
772
+ 0.18564882298232988,
773
+ 0.18289154101512395,
774
+ 0.18167252899729647,
775
+ 0.14990283999941312,
776
+ 0.17935943600605242,
777
+ 0.1808984589879401,
778
+ 0.17966271500336006,
779
+ 0.1799623260158114,
780
+ 0.17860502397525124,
781
+ 0.18274428500444628,
782
+ 0.17975249400478788,
783
+ 0.18048124699271284,
784
+ 0.18031989500741474,
785
+ 0.18032856201170944,
786
+ 0.18035401997622102,
787
+ 0.18055126801482402,
788
+ 0.18039224098902196,
789
+ 0.180185794015415,
790
+ 0.18097204598598182,
791
+ 0.15151755401166156,
792
+ 0.1803704499907326,
793
+ 0.17937034799251705,
794
+ 0.18053994700312614,
795
+ 0.1801294990000315,
796
+ 0.17990723199909553,
797
+ 0.17993792000925168,
798
+ 0.18040446401573718,
799
+ 0.1790090419817716,
800
+ 0.18038235101266764,
801
+ 0.18070307400193997,
802
+ 0.18341965897707269,
803
+ 0.18106274600722827,
804
+ 0.18053742300253361,
805
+ 0.1807559920125641,
806
+ 0.18036284600384533,
807
+ 0.15860347097623162,
808
+ 0.17986123700393364,
809
+ 0.18004494099295698,
810
+ 0.17954417201690376,
811
+ 0.17984696000348777,
812
+ 0.18012661300599575,
813
+ 0.1804450799827464,
814
+ 0.18028933901223354,
815
+ 0.1802937159955036,
816
+ 0.1801577919977717,
817
+ 0.18026857799850404,
818
+ 0.18126000600750558,
819
+ 0.1808804360043723,
820
+ 0.18181792998802848,
821
+ 0.18181694799568504,
822
+ 0.18047903399565257,
823
+ 0.18060126301134005,
824
+ 0.17982034001033753,
825
+ 0.17902196498471312,
826
+ 0.17884409200632945,
827
+ 0.1773738490010146,
828
+ 0.18060920800780877,
829
+ 0.1840686049836222,
830
+ 0.18062150001060218,
831
+ 0.1786752360058017,
832
+ 0.1802430919778999,
833
+ 0.18236199900275096,
834
+ 0.18578844500007108,
835
+ 0.18571694201091304,
836
+ 0.18347465299302712,
837
+ 0.18169735500123352,
838
+ 0.1501067120116204,
839
+ 0.17986649597878568,
840
+ 0.17958978901151568,
841
+ 0.17988612299086526,
842
+ 0.1812881380028557,
843
+ 0.1801736119959969,
844
+ 0.18042201700154692,
845
+ 0.18026050401385874,
846
+ 0.18067020198213868,
847
+ 0.1801622100174427,
848
+ 0.1815141209808644,
849
+ 0.1805941800121218,
850
+ 0.1821061299997382,
851
+ 0.1803806489915587,
852
+ 0.18073800799902529,
853
+ 0.18999693699879572,
854
+ 0.15125343902036548,
855
+ 0.18528185598552227,
856
+ 0.18073044400080107,
857
+ 0.180634184012888,
858
+ 0.17973282700404525,
859
+ 0.18126663798466325,
860
+ 0.18022483700769953,
861
+ 0.18206978199305013,
862
+ 0.18093956599477679,
863
+ 0.17995618502027355,
864
+ 0.180461119976826,
865
+ 0.1800664510228671,
866
+ 0.18061635000049137,
867
+ 0.18022393598221242,
868
+ 0.18002824901486747,
869
+ 0.1810278219927568,
870
+ 0.15091895300429314,
871
+ 0.18494558599195443,
872
+ 0.18385400300030597,
873
+ 0.17999499800498597,
874
+ 0.18021173198940232,
875
+ 0.18338976401719265,
876
+ 0.18034410098334774,
877
+ 0.18046341399895027,
878
+ 0.18075324699748307,
879
+ 0.1808219960075803,
880
+ 0.18019520200323313,
881
+ 0.18060428800527006,
882
+ 0.18127037500380538,
883
+ 0.17938928300281987,
884
+ 0.18573817098513246,
885
+ 0.18639007199089974,
886
+ 0.14989602702553384,
887
+ 0.1848002149781678,
888
+ 0.18083776501589455,
889
+ 0.1791153399972245,
890
+ 0.1798664960078895,
891
+ 0.17990566999651492,
892
+ 0.17996893799863756,
893
+ 0.1819690039847046,
894
+ 0.181216263998067,
895
+ 0.18529247600235976,
896
+ 0.18523169300169684,
897
+ 0.18511642699013464,
898
+ 0.1867486130213365,
899
+ 0.18564882298232988,
900
+ 0.18289154101512395,
901
+ 0.18167252899729647,
902
+ 0.14990283999941312,
903
+ 0.17935943600605242,
904
+ 0.1808984589879401,
905
+ 0.17966271500336006,
906
+ 0.1799623260158114,
907
+ 0.17860502397525124,
908
+ 0.18274428500444628,
909
+ 0.17975249400478788,
910
+ 0.18048124699271284,
911
+ 0.18031989500741474,
912
+ 0.18032856201170944,
913
+ 0.18035401997622102,
914
+ 0.18055126801482402,
915
+ 0.18039224098902196,
916
+ 0.180185794015415,
917
+ 0.18097204598598182,
918
+ 0.15151755401166156,
919
+ 0.1803704499907326,
920
+ 0.17937034799251705,
921
+ 0.18053994700312614,
922
+ 0.1801294990000315,
923
+ 0.17990723199909553,
924
+ 0.17993792000925168,
925
+ 0.18040446401573718,
926
+ 0.1790090419817716,
927
+ 0.18038235101266764,
928
+ 0.18070307400193997,
929
+ 0.18341965897707269,
930
+ 0.18106274600722827,
931
+ 0.18053742300253361,
932
+ 0.1807559920125641,
933
+ 0.18036284600384533,
934
+ 0.15860347097623162,
935
+ 0.17986123700393364,
936
+ 0.18004494099295698,
937
+ 0.17954417201690376,
938
+ 0.17984696000348777,
939
+ 0.18012661300599575,
940
+ 0.1804450799827464,
941
+ 0.18028933901223354,
942
+ 0.1802937159955036,
943
+ 0.1801577919977717,
944
+ 0.18026857799850404,
945
+ 0.18126000600750558,
946
+ 0.1808804360043723,
947
+ 0.18181792998802848,
948
+ 0.18181694799568504,
949
+ 0.18047903399565257,
950
+ 0.15700837501208298,
951
+ 0.18065401999047026,
952
+ 0.17992436501663178,
953
+ 0.17972789698978886,
954
+ 0.18013677300768904,
955
+ 0.17925191498943605,
956
+ 0.18030204199021682,
957
+ 0.179998333012918,
958
+ 0.1798373920028098,
959
+ 0.18092466800590046,
960
+ 0.18093351399875246,
961
+ 0.18127970298519358,
962
+ 0.18030387500766665,
963
+ 0.18272992799757048,
964
+ 0.1851492080022581,
965
+ 0.18540990600013174,
966
+ 0.18060126301134005,
967
+ 0.17982034001033753,
968
+ 0.17902196498471312,
969
+ 0.17884409200632945,
970
+ 0.1773738490010146,
971
+ 0.18060920800780877,
972
+ 0.1840686049836222,
973
+ 0.18062150001060218,
974
+ 0.1786752360058017,
975
+ 0.1802430919778999,
976
+ 0.18236199900275096,
977
+ 0.18578844500007108,
978
+ 0.18571694201091304,
979
+ 0.18347465299302712,
980
+ 0.18169735500123352,
981
+ 0.1501067120116204,
982
+ 0.17986649597878568,
983
+ 0.17958978901151568,
984
+ 0.17988612299086526,
985
+ 0.1812881380028557,
986
+ 0.1801736119959969,
987
+ 0.18042201700154692,
988
+ 0.18026050401385874,
989
+ 0.18067020198213868,
990
+ 0.1801622100174427,
991
+ 0.1815141209808644,
992
+ 0.1805941800121218,
993
+ 0.1821061299997382,
994
+ 0.1803806489915587,
995
+ 0.18073800799902529,
996
+ 0.18999693699879572,
997
+ 0.15125343902036548,
998
+ 0.18528185598552227,
999
+ 0.18073044400080107,
1000
+ 0.180634184012888,
1001
+ 0.17973282700404525,
1002
+ 0.18126663798466325,
1003
+ 0.18022483700769953,
1004
+ 0.18206978199305013,
1005
+ 0.18093956599477679,
1006
+ 0.17995618502027355,
1007
+ 0.180461119976826,
1008
+ 0.1800664510228671,
1009
+ 0.18061635000049137,
1010
+ 0.18022393598221242,
1011
+ 0.18002824901486747,
1012
+ 0.1810278219927568,
1013
+ 0.15091895300429314,
1014
+ 0.18494558599195443,
1015
+ 0.18385400300030597,
1016
+ 0.17999499800498597,
1017
+ 0.18021173198940232,
1018
+ 0.18338976401719265,
1019
+ 0.18034410098334774,
1020
+ 0.18046341399895027,
1021
+ 0.18075324699748307,
1022
+ 0.1808219960075803,
1023
+ 0.18019520200323313,
1024
+ 0.18060428800527006,
1025
+ 0.18127037500380538,
1026
+ 0.17938928300281987,
1027
+ 0.18573817098513246,
1028
+ 0.18639007199089974,
1029
+ 0.14989602702553384,
1030
+ 0.1848002149781678,
1031
+ 0.18083776501589455,
1032
+ 0.1791153399972245,
1033
+ 0.1798664960078895,
1034
+ 0.17990566999651492,
1035
+ 0.17996893799863756,
1036
+ 0.1819690039847046,
1037
+ 0.181216263998067,
1038
+ 0.18529247600235976,
1039
+ 0.18523169300169684,
1040
+ 0.18511642699013464,
1041
+ 0.1867486130213365,
1042
+ 0.18564882298232988,
1043
+ 0.18289154101512395,
1044
+ 0.18167252899729647,
1045
+ 0.14990283999941312,
1046
+ 0.17935943600605242,
1047
+ 0.1808984589879401,
1048
+ 0.17966271500336006,
1049
+ 0.1799623260158114,
1050
+ 0.17860502397525124,
1051
+ 0.18274428500444628,
1052
+ 0.17975249400478788,
1053
+ 0.18048124699271284,
1054
+ 0.18031989500741474,
1055
+ 0.18032856201170944,
1056
+ 0.18035401997622102,
1057
+ 0.18055126801482402,
1058
+ 0.18039224098902196,
1059
+ 0.180185794015415,
1060
+ 0.18097204598598182,
1061
+ 0.15151755401166156,
1062
+ 0.1803704499907326,
1063
+ 0.17937034799251705,
1064
+ 0.18053994700312614,
1065
+ 0.1801294990000315,
1066
+ 0.17990723199909553,
1067
+ 0.17993792000925168,
1068
+ 0.18040446401573718,
1069
+ 0.1790090419817716,
1070
+ 0.18038235101266764,
1071
+ 0.18070307400193997,
1072
+ 0.18341965897707269,
1073
+ 0.18106274600722827,
1074
+ 0.18053742300253361,
1075
+ 0.1807559920125641,
1076
+ 0.18036284600384533,
1077
+ 0.15860347097623162,
1078
+ 0.17986123700393364,
1079
+ 0.18004494099295698,
1080
+ 0.17954417201690376,
1081
+ 0.17984696000348777,
1082
+ 0.18012661300599575,
1083
+ 0.1804450799827464,
1084
+ 0.18028933901223354,
1085
+ 0.1802937159955036,
1086
+ 0.1801577919977717,
1087
+ 0.18026857799850404,
1088
+ 0.18126000600750558,
1089
+ 0.1808804360043723,
1090
+ 0.18181792998802848,
1091
+ 0.18181694799568504,
1092
+ 0.18047903399565257,
1093
+ 0.15700837501208298,
1094
+ 0.18065401999047026,
1095
+ 0.17992436501663178,
1096
+ 0.17972789698978886,
1097
+ 0.18013677300768904,
1098
+ 0.17925191498943605,
1099
+ 0.18030204199021682,
1100
+ 0.179998333012918,
1101
+ 0.1798373920028098,
1102
+ 0.18092466800590046,
1103
+ 0.18093351399875246,
1104
+ 0.18127970298519358,
1105
+ 0.18030387500766665,
1106
+ 0.18272992799757048,
1107
+ 0.1851492080022581,
1108
+ 0.18540990600013174,
1109
+ 0.15782279998529702,
1110
+ 0.1799877230077982,
1111
+ 0.17970069701550528,
1112
+ 0.17972497097798623,
1113
+ 0.17986185700283386,
1114
+ 0.17996225602109917,
1115
+ 0.1796370669908356,
1116
+ 0.18156376399565488,
1117
+ 0.1806950680038426,
1118
+ 0.1806371189886704,
1119
+ 0.1803411650180351,
1120
+ 0.18057543400209397,
1121
+ 0.1803216279949993,
1122
+ 0.1806284339982085,
1123
+ 0.18151804798981175,
1124
+ 0.186089669005014
1125
  ],
1126
  "count": 870,
1127
+ "total": 156.33058633605833,
1128
+ "mean": 0.17969032912190613,
1129
+ "p50": 0.18046341399895027,
1130
+ "p90": 0.18494558599195443,
1131
+ "p95": 0.18571694201091304,
1132
+ "p99": 0.18775559345434867,
1133
+ "stdev": 0.006907518738906846,
1134
+ "stdev_": 3.844123817159143
1135
  },
1136
  "throughput": null,
1137
  "energy": null,