IlyasMoutawwakil HF Staff commited on
Commit
18427bd
·
verified ·
1 Parent(s): eb26278

Upload pytorch_benchmark.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. pytorch_benchmark.json +959 -959
pytorch_benchmark.json CHANGED
@@ -5,11 +5,11 @@
5
  "name": "pytorch",
6
  "version": "2.8.0",
7
  "_target_": "optimum_benchmark.backends.pytorch.backend.PyTorchBackend",
8
- "model": "Qwen/Qwen3-0.6B",
9
- "processor": "Qwen/Qwen3-0.6B",
10
  "task": "text-generation",
11
  "library": "transformers",
12
- "model_type": "qwen3",
13
  "device": "cpu",
14
  "device_ids": null,
15
  "seed": 42,
@@ -88,19 +88,19 @@
88
  "gpu_count": 5,
89
  "gpu_vram_mb": 347892350976,
90
  "optimum_benchmark_version": "0.7.0.dev0",
91
- "optimum_benchmark_commit": "e6c76eae24768396546d20e3555505ba126992ae",
92
- "transformers_version": "4.56.2",
93
- "transformers_commit": "e6c76eae24768396546d20e3555505ba126992ae",
94
  "accelerate_version": "1.10.1",
95
- "accelerate_commit": "e6c76eae24768396546d20e3555505ba126992ae",
96
  "diffusers_version": "0.35.1",
97
- "diffusers_commit": "e6c76eae24768396546d20e3555505ba126992ae",
98
  "optimum_version": "1.27.0",
99
  "optimum_commit": null,
100
  "timm_version": "1.0.20",
101
- "timm_commit": "e6c76eae24768396546d20e3555505ba126992ae",
102
  "peft_version": "0.17.1",
103
- "peft_commit": "e6c76eae24768396546d20e3555505ba126992ae"
104
  },
105
  "print_report": false,
106
  "log_report": true
@@ -111,15 +111,15 @@
111
  "latency": {
112
  "unit": "s",
113
  "values": [
114
- 3.815463294973597
115
  ],
116
  "count": 1,
117
- "total": 3.815463294973597,
118
- "mean": 3.815463294973597,
119
- "p50": 3.815463294973597,
120
- "p90": 3.815463294973597,
121
- "p95": 3.815463294973597,
122
- "p99": 3.815463294973597,
123
  "stdev": 0,
124
  "stdev_": 0
125
  },
@@ -132,15 +132,15 @@
132
  "latency": {
133
  "unit": "s",
134
  "values": [
135
- 2.862623608991271
136
  ],
137
  "count": 1,
138
- "total": 2.862623608991271,
139
- "mean": 2.862623608991271,
140
- "p50": 2.862623608991271,
141
- "p90": 2.862623608991271,
142
- "p95": 2.862623608991271,
143
- "p99": 2.862623608991271,
144
  "stdev": 0,
145
  "stdev_": 0
146
  },
@@ -153,30 +153,30 @@
153
  "latency": {
154
  "unit": "s",
155
  "values": [
156
- 2.8697067010216415,
157
- 2.8677378539869096,
158
- 2.864510990999406,
159
- 2.8792459219985176,
160
- 2.8901331769884564,
161
- 2.8544551100058015,
162
- 2.8583659429859836,
163
- 2.8657114959787577,
164
- 2.873532780999085,
165
- 2.8690334760176484
166
  ],
167
  "count": 10,
168
- "total": 28.692433450982207,
169
- "mean": 2.8692433450982207,
170
- "p50": 2.868385665002279,
171
- "p90": 2.8803346474975116,
172
- "p95": 2.8852339122429838,
173
- "p99": 2.889153324039362,
174
- "stdev": 0.009639709725943236,
175
- "stdev_": 0.33596696294204514
176
  },
177
  "throughput": {
178
  "unit": "samples/s",
179
- "value": 5.227859123774151
180
  },
181
  "energy": null,
182
  "efficiency": null
@@ -186,30 +186,30 @@
186
  "latency": {
187
  "unit": "s",
188
  "values": [
189
- 0.15033512900117785,
190
- 0.1496317929995712,
191
- 0.15077306001330726,
192
- 0.15041706399642862,
193
- 0.14940136100631207,
194
- 0.1494191650126595,
195
- 0.1510180179902818,
196
- 0.15811527697951533,
197
- 0.1565094510151539,
198
- 0.15732792299240828
199
  ],
200
  "count": 10,
201
- "total": 1.5229482410068158,
202
- "mean": 0.15229482410068157,
203
- "p50": 0.15059506200486794,
204
- "p90": 0.15740665839111898,
205
- "p95": 0.15776096768531717,
206
- "p99": 0.15804441512067569,
207
- "stdev": 0.003346916526963617,
208
- "stdev_": 2.197656123067572
209
  },
210
  "throughput": {
211
  "unit": "samples/s",
212
- "value": 6.5662113332157865
213
  },
214
  "energy": null,
215
  "efficiency": null
@@ -219,30 +219,30 @@
219
  "latency": {
220
  "unit": "s",
221
  "values": [
222
- 2.7193715720204636,
223
- 2.7181060609873384,
224
- 2.713737930986099,
225
- 2.728828858002089,
226
- 2.7407318159821443,
227
- 2.705035944993142,
228
- 2.7073479249957018,
229
- 2.7075962189992424,
230
- 2.717023329983931,
231
- 2.71170555302524
232
  ],
233
  "count": 10,
234
- "total": 27.16948520997539,
235
- "mean": 2.7169485209975393,
236
- "p50": 2.715380630485015,
237
- "p90": 2.7300191538000944,
238
- "p95": 2.7353754848911196,
239
- "p99": 2.7396605497639395,
240
- "stdev": 0.010360247409386705,
241
- "stdev_": 0.3813192384514851
242
  },
243
  "throughput": {
244
  "unit": "tokens/s",
245
- "value": 5.520899598970939
246
  },
247
  "energy": null,
248
  "efficiency": null
@@ -252,886 +252,886 @@
252
  "latency": {
253
  "unit": "s",
254
  "values": [
255
- 0.18060126301134005,
256
- 0.17982034001033753,
257
- 0.17902196498471312,
258
- 0.17884409200632945,
259
- 0.1773738490010146,
260
- 0.18060920800780877,
261
- 0.1840686049836222,
262
- 0.18062150001060218,
263
- 0.1786752360058017,
264
- 0.1802430919778999,
265
- 0.18236199900275096,
266
- 0.18578844500007108,
267
- 0.18571694201091304,
268
- 0.18347465299302712,
269
- 0.18169735500123352,
270
- 0.18060126301134005,
271
- 0.17982034001033753,
272
- 0.17902196498471312,
273
- 0.17884409200632945,
274
- 0.1773738490010146,
275
- 0.18060920800780877,
276
- 0.1840686049836222,
277
- 0.18062150001060218,
278
- 0.1786752360058017,
279
- 0.1802430919778999,
280
- 0.18236199900275096,
281
- 0.18578844500007108,
282
- 0.18571694201091304,
283
- 0.18347465299302712,
284
- 0.18169735500123352,
285
- 0.1501067120116204,
286
- 0.17986649597878568,
287
- 0.17958978901151568,
288
- 0.17988612299086526,
289
- 0.1812881380028557,
290
- 0.1801736119959969,
291
- 0.18042201700154692,
292
- 0.18026050401385874,
293
- 0.18067020198213868,
294
- 0.1801622100174427,
295
- 0.1815141209808644,
296
- 0.1805941800121218,
297
- 0.1821061299997382,
298
- 0.1803806489915587,
299
- 0.18073800799902529,
300
- 0.18999693699879572,
301
- 0.18060126301134005,
302
- 0.17982034001033753,
303
- 0.17902196498471312,
304
- 0.17884409200632945,
305
- 0.1773738490010146,
306
- 0.18060920800780877,
307
- 0.1840686049836222,
308
- 0.18062150001060218,
309
- 0.1786752360058017,
310
- 0.1802430919778999,
311
- 0.18236199900275096,
312
- 0.18578844500007108,
313
- 0.18571694201091304,
314
- 0.18347465299302712,
315
- 0.18169735500123352,
316
- 0.1501067120116204,
317
- 0.17986649597878568,
318
- 0.17958978901151568,
319
- 0.17988612299086526,
320
- 0.1812881380028557,
321
- 0.1801736119959969,
322
- 0.18042201700154692,
323
- 0.18026050401385874,
324
- 0.18067020198213868,
325
- 0.1801622100174427,
326
- 0.1815141209808644,
327
- 0.1805941800121218,
328
- 0.1821061299997382,
329
- 0.1803806489915587,
330
- 0.18073800799902529,
331
- 0.18999693699879572,
332
- 0.15125343902036548,
333
- 0.18528185598552227,
334
- 0.18073044400080107,
335
- 0.180634184012888,
336
- 0.17973282700404525,
337
- 0.18126663798466325,
338
- 0.18022483700769953,
339
- 0.18206978199305013,
340
- 0.18093956599477679,
341
- 0.17995618502027355,
342
- 0.180461119976826,
343
- 0.1800664510228671,
344
- 0.18061635000049137,
345
- 0.18022393598221242,
346
- 0.18002824901486747,
347
- 0.1810278219927568,
348
- 0.18060126301134005,
349
- 0.17982034001033753,
350
- 0.17902196498471312,
351
- 0.17884409200632945,
352
- 0.1773738490010146,
353
- 0.18060920800780877,
354
- 0.1840686049836222,
355
- 0.18062150001060218,
356
- 0.1786752360058017,
357
- 0.1802430919778999,
358
- 0.18236199900275096,
359
- 0.18578844500007108,
360
- 0.18571694201091304,
361
- 0.18347465299302712,
362
- 0.18169735500123352,
363
- 0.1501067120116204,
364
- 0.17986649597878568,
365
- 0.17958978901151568,
366
- 0.17988612299086526,
367
- 0.1812881380028557,
368
- 0.1801736119959969,
369
- 0.18042201700154692,
370
- 0.18026050401385874,
371
- 0.18067020198213868,
372
- 0.1801622100174427,
373
- 0.1815141209808644,
374
- 0.1805941800121218,
375
- 0.1821061299997382,
376
- 0.1803806489915587,
377
- 0.18073800799902529,
378
- 0.18999693699879572,
379
- 0.15125343902036548,
380
- 0.18528185598552227,
381
- 0.18073044400080107,
382
- 0.180634184012888,
383
- 0.17973282700404525,
384
- 0.18126663798466325,
385
- 0.18022483700769953,
386
- 0.18206978199305013,
387
- 0.18093956599477679,
388
- 0.17995618502027355,
389
- 0.180461119976826,
390
- 0.1800664510228671,
391
- 0.18061635000049137,
392
- 0.18022393598221242,
393
- 0.18002824901486747,
394
- 0.1810278219927568,
395
- 0.15091895300429314,
396
- 0.18494558599195443,
397
- 0.18385400300030597,
398
- 0.17999499800498597,
399
- 0.18021173198940232,
400
- 0.18338976401719265,
401
- 0.18034410098334774,
402
- 0.18046341399895027,
403
- 0.18075324699748307,
404
- 0.1808219960075803,
405
- 0.18019520200323313,
406
- 0.18060428800527006,
407
- 0.18127037500380538,
408
- 0.17938928300281987,
409
- 0.18573817098513246,
410
- 0.18639007199089974,
411
- 0.18060126301134005,
412
- 0.17982034001033753,
413
- 0.17902196498471312,
414
- 0.17884409200632945,
415
- 0.1773738490010146,
416
- 0.18060920800780877,
417
- 0.1840686049836222,
418
- 0.18062150001060218,
419
- 0.1786752360058017,
420
- 0.1802430919778999,
421
- 0.18236199900275096,
422
- 0.18578844500007108,
423
- 0.18571694201091304,
424
- 0.18347465299302712,
425
- 0.18169735500123352,
426
- 0.1501067120116204,
427
- 0.17986649597878568,
428
- 0.17958978901151568,
429
- 0.17988612299086526,
430
- 0.1812881380028557,
431
- 0.1801736119959969,
432
- 0.18042201700154692,
433
- 0.18026050401385874,
434
- 0.18067020198213868,
435
- 0.1801622100174427,
436
- 0.1815141209808644,
437
- 0.1805941800121218,
438
- 0.1821061299997382,
439
- 0.1803806489915587,
440
- 0.18073800799902529,
441
- 0.18999693699879572,
442
- 0.15125343902036548,
443
- 0.18528185598552227,
444
- 0.18073044400080107,
445
- 0.180634184012888,
446
- 0.17973282700404525,
447
- 0.18126663798466325,
448
- 0.18022483700769953,
449
- 0.18206978199305013,
450
- 0.18093956599477679,
451
- 0.17995618502027355,
452
- 0.180461119976826,
453
- 0.1800664510228671,
454
- 0.18061635000049137,
455
- 0.18022393598221242,
456
- 0.18002824901486747,
457
- 0.1810278219927568,
458
- 0.15091895300429314,
459
- 0.18494558599195443,
460
- 0.18385400300030597,
461
- 0.17999499800498597,
462
- 0.18021173198940232,
463
- 0.18338976401719265,
464
- 0.18034410098334774,
465
- 0.18046341399895027,
466
- 0.18075324699748307,
467
- 0.1808219960075803,
468
- 0.18019520200323313,
469
- 0.18060428800527006,
470
- 0.18127037500380538,
471
- 0.17938928300281987,
472
- 0.18573817098513246,
473
- 0.18639007199089974,
474
- 0.14989602702553384,
475
- 0.1848002149781678,
476
- 0.18083776501589455,
477
- 0.1791153399972245,
478
- 0.1798664960078895,
479
- 0.17990566999651492,
480
- 0.17996893799863756,
481
- 0.1819690039847046,
482
- 0.181216263998067,
483
- 0.18529247600235976,
484
- 0.18523169300169684,
485
- 0.18511642699013464,
486
- 0.1867486130213365,
487
- 0.18564882298232988,
488
- 0.18289154101512395,
489
- 0.18167252899729647,
490
- 0.18060126301134005,
491
- 0.17982034001033753,
492
- 0.17902196498471312,
493
- 0.17884409200632945,
494
- 0.1773738490010146,
495
- 0.18060920800780877,
496
- 0.1840686049836222,
497
- 0.18062150001060218,
498
- 0.1786752360058017,
499
- 0.1802430919778999,
500
- 0.18236199900275096,
501
- 0.18578844500007108,
502
- 0.18571694201091304,
503
- 0.18347465299302712,
504
- 0.18169735500123352,
505
- 0.1501067120116204,
506
- 0.17986649597878568,
507
- 0.17958978901151568,
508
- 0.17988612299086526,
509
- 0.1812881380028557,
510
- 0.1801736119959969,
511
- 0.18042201700154692,
512
- 0.18026050401385874,
513
- 0.18067020198213868,
514
- 0.1801622100174427,
515
- 0.1815141209808644,
516
- 0.1805941800121218,
517
- 0.1821061299997382,
518
- 0.1803806489915587,
519
- 0.18073800799902529,
520
- 0.18999693699879572,
521
- 0.15125343902036548,
522
- 0.18528185598552227,
523
- 0.18073044400080107,
524
- 0.180634184012888,
525
- 0.17973282700404525,
526
- 0.18126663798466325,
527
- 0.18022483700769953,
528
- 0.18206978199305013,
529
- 0.18093956599477679,
530
- 0.17995618502027355,
531
- 0.180461119976826,
532
- 0.1800664510228671,
533
- 0.18061635000049137,
534
- 0.18022393598221242,
535
- 0.18002824901486747,
536
- 0.1810278219927568,
537
- 0.15091895300429314,
538
- 0.18494558599195443,
539
- 0.18385400300030597,
540
- 0.17999499800498597,
541
- 0.18021173198940232,
542
- 0.18338976401719265,
543
- 0.18034410098334774,
544
- 0.18046341399895027,
545
- 0.18075324699748307,
546
- 0.1808219960075803,
547
- 0.18019520200323313,
548
- 0.18060428800527006,
549
- 0.18127037500380538,
550
- 0.17938928300281987,
551
- 0.18573817098513246,
552
- 0.18639007199089974,
553
- 0.14989602702553384,
554
- 0.1848002149781678,
555
- 0.18083776501589455,
556
- 0.1791153399972245,
557
- 0.1798664960078895,
558
- 0.17990566999651492,
559
- 0.17996893799863756,
560
- 0.1819690039847046,
561
- 0.181216263998067,
562
- 0.18529247600235976,
563
- 0.18523169300169684,
564
- 0.18511642699013464,
565
- 0.1867486130213365,
566
- 0.18564882298232988,
567
- 0.18289154101512395,
568
- 0.18167252899729647,
569
- 0.14990283999941312,
570
- 0.17935943600605242,
571
- 0.1808984589879401,
572
- 0.17966271500336006,
573
- 0.1799623260158114,
574
- 0.17860502397525124,
575
- 0.18274428500444628,
576
- 0.17975249400478788,
577
- 0.18048124699271284,
578
- 0.18031989500741474,
579
- 0.18032856201170944,
580
- 0.18035401997622102,
581
- 0.18055126801482402,
582
- 0.18039224098902196,
583
- 0.180185794015415,
584
- 0.18097204598598182,
585
- 0.18060126301134005,
586
- 0.17982034001033753,
587
- 0.17902196498471312,
588
- 0.17884409200632945,
589
- 0.1773738490010146,
590
- 0.18060920800780877,
591
- 0.1840686049836222,
592
- 0.18062150001060218,
593
- 0.1786752360058017,
594
- 0.1802430919778999,
595
- 0.18236199900275096,
596
- 0.18578844500007108,
597
- 0.18571694201091304,
598
- 0.18347465299302712,
599
- 0.18169735500123352,
600
- 0.1501067120116204,
601
- 0.17986649597878568,
602
- 0.17958978901151568,
603
- 0.17988612299086526,
604
- 0.1812881380028557,
605
- 0.1801736119959969,
606
- 0.18042201700154692,
607
- 0.18026050401385874,
608
- 0.18067020198213868,
609
- 0.1801622100174427,
610
- 0.1815141209808644,
611
- 0.1805941800121218,
612
- 0.1821061299997382,
613
- 0.1803806489915587,
614
- 0.18073800799902529,
615
- 0.18999693699879572,
616
- 0.15125343902036548,
617
- 0.18528185598552227,
618
- 0.18073044400080107,
619
- 0.180634184012888,
620
- 0.17973282700404525,
621
- 0.18126663798466325,
622
- 0.18022483700769953,
623
- 0.18206978199305013,
624
- 0.18093956599477679,
625
- 0.17995618502027355,
626
- 0.180461119976826,
627
- 0.1800664510228671,
628
- 0.18061635000049137,
629
- 0.18022393598221242,
630
- 0.18002824901486747,
631
- 0.1810278219927568,
632
- 0.15091895300429314,
633
- 0.18494558599195443,
634
- 0.18385400300030597,
635
- 0.17999499800498597,
636
- 0.18021173198940232,
637
- 0.18338976401719265,
638
- 0.18034410098334774,
639
- 0.18046341399895027,
640
- 0.18075324699748307,
641
- 0.1808219960075803,
642
- 0.18019520200323313,
643
- 0.18060428800527006,
644
- 0.18127037500380538,
645
- 0.17938928300281987,
646
- 0.18573817098513246,
647
- 0.18639007199089974,
648
- 0.14989602702553384,
649
- 0.1848002149781678,
650
- 0.18083776501589455,
651
- 0.1791153399972245,
652
- 0.1798664960078895,
653
- 0.17990566999651492,
654
- 0.17996893799863756,
655
- 0.1819690039847046,
656
- 0.181216263998067,
657
- 0.18529247600235976,
658
- 0.18523169300169684,
659
- 0.18511642699013464,
660
- 0.1867486130213365,
661
- 0.18564882298232988,
662
- 0.18289154101512395,
663
- 0.18167252899729647,
664
- 0.14990283999941312,
665
- 0.17935943600605242,
666
- 0.1808984589879401,
667
- 0.17966271500336006,
668
- 0.1799623260158114,
669
- 0.17860502397525124,
670
- 0.18274428500444628,
671
- 0.17975249400478788,
672
- 0.18048124699271284,
673
- 0.18031989500741474,
674
- 0.18032856201170944,
675
- 0.18035401997622102,
676
- 0.18055126801482402,
677
- 0.18039224098902196,
678
- 0.180185794015415,
679
- 0.18097204598598182,
680
- 0.15151755401166156,
681
- 0.1803704499907326,
682
- 0.17937034799251705,
683
- 0.18053994700312614,
684
- 0.1801294990000315,
685
- 0.17990723199909553,
686
- 0.17993792000925168,
687
- 0.18040446401573718,
688
- 0.1790090419817716,
689
- 0.18038235101266764,
690
- 0.18070307400193997,
691
- 0.18341965897707269,
692
- 0.18106274600722827,
693
- 0.18053742300253361,
694
- 0.1807559920125641,
695
- 0.18036284600384533,
696
- 0.18060126301134005,
697
- 0.17982034001033753,
698
- 0.17902196498471312,
699
- 0.17884409200632945,
700
- 0.1773738490010146,
701
- 0.18060920800780877,
702
- 0.1840686049836222,
703
- 0.18062150001060218,
704
- 0.1786752360058017,
705
- 0.1802430919778999,
706
- 0.18236199900275096,
707
- 0.18578844500007108,
708
- 0.18571694201091304,
709
- 0.18347465299302712,
710
- 0.18169735500123352,
711
- 0.1501067120116204,
712
- 0.17986649597878568,
713
- 0.17958978901151568,
714
- 0.17988612299086526,
715
- 0.1812881380028557,
716
- 0.1801736119959969,
717
- 0.18042201700154692,
718
- 0.18026050401385874,
719
- 0.18067020198213868,
720
- 0.1801622100174427,
721
- 0.1815141209808644,
722
- 0.1805941800121218,
723
- 0.1821061299997382,
724
- 0.1803806489915587,
725
- 0.18073800799902529,
726
- 0.18999693699879572,
727
- 0.15125343902036548,
728
- 0.18528185598552227,
729
- 0.18073044400080107,
730
- 0.180634184012888,
731
- 0.17973282700404525,
732
- 0.18126663798466325,
733
- 0.18022483700769953,
734
- 0.18206978199305013,
735
- 0.18093956599477679,
736
- 0.17995618502027355,
737
- 0.180461119976826,
738
- 0.1800664510228671,
739
- 0.18061635000049137,
740
- 0.18022393598221242,
741
- 0.18002824901486747,
742
- 0.1810278219927568,
743
- 0.15091895300429314,
744
- 0.18494558599195443,
745
- 0.18385400300030597,
746
- 0.17999499800498597,
747
- 0.18021173198940232,
748
- 0.18338976401719265,
749
- 0.18034410098334774,
750
- 0.18046341399895027,
751
- 0.18075324699748307,
752
- 0.1808219960075803,
753
- 0.18019520200323313,
754
- 0.18060428800527006,
755
- 0.18127037500380538,
756
- 0.17938928300281987,
757
- 0.18573817098513246,
758
- 0.18639007199089974,
759
- 0.14989602702553384,
760
- 0.1848002149781678,
761
- 0.18083776501589455,
762
- 0.1791153399972245,
763
- 0.1798664960078895,
764
- 0.17990566999651492,
765
- 0.17996893799863756,
766
- 0.1819690039847046,
767
- 0.181216263998067,
768
- 0.18529247600235976,
769
- 0.18523169300169684,
770
- 0.18511642699013464,
771
- 0.1867486130213365,
772
- 0.18564882298232988,
773
- 0.18289154101512395,
774
- 0.18167252899729647,
775
- 0.14990283999941312,
776
- 0.17935943600605242,
777
- 0.1808984589879401,
778
- 0.17966271500336006,
779
- 0.1799623260158114,
780
- 0.17860502397525124,
781
- 0.18274428500444628,
782
- 0.17975249400478788,
783
- 0.18048124699271284,
784
- 0.18031989500741474,
785
- 0.18032856201170944,
786
- 0.18035401997622102,
787
- 0.18055126801482402,
788
- 0.18039224098902196,
789
- 0.180185794015415,
790
- 0.18097204598598182,
791
- 0.15151755401166156,
792
- 0.1803704499907326,
793
- 0.17937034799251705,
794
- 0.18053994700312614,
795
- 0.1801294990000315,
796
- 0.17990723199909553,
797
- 0.17993792000925168,
798
- 0.18040446401573718,
799
- 0.1790090419817716,
800
- 0.18038235101266764,
801
- 0.18070307400193997,
802
- 0.18341965897707269,
803
- 0.18106274600722827,
804
- 0.18053742300253361,
805
- 0.1807559920125641,
806
- 0.18036284600384533,
807
- 0.15860347097623162,
808
- 0.17986123700393364,
809
- 0.18004494099295698,
810
- 0.17954417201690376,
811
- 0.17984696000348777,
812
- 0.18012661300599575,
813
- 0.1804450799827464,
814
- 0.18028933901223354,
815
- 0.1802937159955036,
816
- 0.1801577919977717,
817
- 0.18026857799850404,
818
- 0.18126000600750558,
819
- 0.1808804360043723,
820
- 0.18181792998802848,
821
- 0.18181694799568504,
822
- 0.18047903399565257,
823
- 0.18060126301134005,
824
- 0.17982034001033753,
825
- 0.17902196498471312,
826
- 0.17884409200632945,
827
- 0.1773738490010146,
828
- 0.18060920800780877,
829
- 0.1840686049836222,
830
- 0.18062150001060218,
831
- 0.1786752360058017,
832
- 0.1802430919778999,
833
- 0.18236199900275096,
834
- 0.18578844500007108,
835
- 0.18571694201091304,
836
- 0.18347465299302712,
837
- 0.18169735500123352,
838
- 0.1501067120116204,
839
- 0.17986649597878568,
840
- 0.17958978901151568,
841
- 0.17988612299086526,
842
- 0.1812881380028557,
843
- 0.1801736119959969,
844
- 0.18042201700154692,
845
- 0.18026050401385874,
846
- 0.18067020198213868,
847
- 0.1801622100174427,
848
- 0.1815141209808644,
849
- 0.1805941800121218,
850
- 0.1821061299997382,
851
- 0.1803806489915587,
852
- 0.18073800799902529,
853
- 0.18999693699879572,
854
- 0.15125343902036548,
855
- 0.18528185598552227,
856
- 0.18073044400080107,
857
- 0.180634184012888,
858
- 0.17973282700404525,
859
- 0.18126663798466325,
860
- 0.18022483700769953,
861
- 0.18206978199305013,
862
- 0.18093956599477679,
863
- 0.17995618502027355,
864
- 0.180461119976826,
865
- 0.1800664510228671,
866
- 0.18061635000049137,
867
- 0.18022393598221242,
868
- 0.18002824901486747,
869
- 0.1810278219927568,
870
- 0.15091895300429314,
871
- 0.18494558599195443,
872
- 0.18385400300030597,
873
- 0.17999499800498597,
874
- 0.18021173198940232,
875
- 0.18338976401719265,
876
- 0.18034410098334774,
877
- 0.18046341399895027,
878
- 0.18075324699748307,
879
- 0.1808219960075803,
880
- 0.18019520200323313,
881
- 0.18060428800527006,
882
- 0.18127037500380538,
883
- 0.17938928300281987,
884
- 0.18573817098513246,
885
- 0.18639007199089974,
886
- 0.14989602702553384,
887
- 0.1848002149781678,
888
- 0.18083776501589455,
889
- 0.1791153399972245,
890
- 0.1798664960078895,
891
- 0.17990566999651492,
892
- 0.17996893799863756,
893
- 0.1819690039847046,
894
- 0.181216263998067,
895
- 0.18529247600235976,
896
- 0.18523169300169684,
897
- 0.18511642699013464,
898
- 0.1867486130213365,
899
- 0.18564882298232988,
900
- 0.18289154101512395,
901
- 0.18167252899729647,
902
- 0.14990283999941312,
903
- 0.17935943600605242,
904
- 0.1808984589879401,
905
- 0.17966271500336006,
906
- 0.1799623260158114,
907
- 0.17860502397525124,
908
- 0.18274428500444628,
909
- 0.17975249400478788,
910
- 0.18048124699271284,
911
- 0.18031989500741474,
912
- 0.18032856201170944,
913
- 0.18035401997622102,
914
- 0.18055126801482402,
915
- 0.18039224098902196,
916
- 0.180185794015415,
917
- 0.18097204598598182,
918
- 0.15151755401166156,
919
- 0.1803704499907326,
920
- 0.17937034799251705,
921
- 0.18053994700312614,
922
- 0.1801294990000315,
923
- 0.17990723199909553,
924
- 0.17993792000925168,
925
- 0.18040446401573718,
926
- 0.1790090419817716,
927
- 0.18038235101266764,
928
- 0.18070307400193997,
929
- 0.18341965897707269,
930
- 0.18106274600722827,
931
- 0.18053742300253361,
932
- 0.1807559920125641,
933
- 0.18036284600384533,
934
- 0.15860347097623162,
935
- 0.17986123700393364,
936
- 0.18004494099295698,
937
- 0.17954417201690376,
938
- 0.17984696000348777,
939
- 0.18012661300599575,
940
- 0.1804450799827464,
941
- 0.18028933901223354,
942
- 0.1802937159955036,
943
- 0.1801577919977717,
944
- 0.18026857799850404,
945
- 0.18126000600750558,
946
- 0.1808804360043723,
947
- 0.18181792998802848,
948
- 0.18181694799568504,
949
- 0.18047903399565257,
950
- 0.15700837501208298,
951
- 0.18065401999047026,
952
- 0.17992436501663178,
953
- 0.17972789698978886,
954
- 0.18013677300768904,
955
- 0.17925191498943605,
956
- 0.18030204199021682,
957
- 0.179998333012918,
958
- 0.1798373920028098,
959
- 0.18092466800590046,
960
- 0.18093351399875246,
961
- 0.18127970298519358,
962
- 0.18030387500766665,
963
- 0.18272992799757048,
964
- 0.1851492080022581,
965
- 0.18540990600013174,
966
- 0.18060126301134005,
967
- 0.17982034001033753,
968
- 0.17902196498471312,
969
- 0.17884409200632945,
970
- 0.1773738490010146,
971
- 0.18060920800780877,
972
- 0.1840686049836222,
973
- 0.18062150001060218,
974
- 0.1786752360058017,
975
- 0.1802430919778999,
976
- 0.18236199900275096,
977
- 0.18578844500007108,
978
- 0.18571694201091304,
979
- 0.18347465299302712,
980
- 0.18169735500123352,
981
- 0.1501067120116204,
982
- 0.17986649597878568,
983
- 0.17958978901151568,
984
- 0.17988612299086526,
985
- 0.1812881380028557,
986
- 0.1801736119959969,
987
- 0.18042201700154692,
988
- 0.18026050401385874,
989
- 0.18067020198213868,
990
- 0.1801622100174427,
991
- 0.1815141209808644,
992
- 0.1805941800121218,
993
- 0.1821061299997382,
994
- 0.1803806489915587,
995
- 0.18073800799902529,
996
- 0.18999693699879572,
997
- 0.15125343902036548,
998
- 0.18528185598552227,
999
- 0.18073044400080107,
1000
- 0.180634184012888,
1001
- 0.17973282700404525,
1002
- 0.18126663798466325,
1003
- 0.18022483700769953,
1004
- 0.18206978199305013,
1005
- 0.18093956599477679,
1006
- 0.17995618502027355,
1007
- 0.180461119976826,
1008
- 0.1800664510228671,
1009
- 0.18061635000049137,
1010
- 0.18022393598221242,
1011
- 0.18002824901486747,
1012
- 0.1810278219927568,
1013
- 0.15091895300429314,
1014
- 0.18494558599195443,
1015
- 0.18385400300030597,
1016
- 0.17999499800498597,
1017
- 0.18021173198940232,
1018
- 0.18338976401719265,
1019
- 0.18034410098334774,
1020
- 0.18046341399895027,
1021
- 0.18075324699748307,
1022
- 0.1808219960075803,
1023
- 0.18019520200323313,
1024
- 0.18060428800527006,
1025
- 0.18127037500380538,
1026
- 0.17938928300281987,
1027
- 0.18573817098513246,
1028
- 0.18639007199089974,
1029
- 0.14989602702553384,
1030
- 0.1848002149781678,
1031
- 0.18083776501589455,
1032
- 0.1791153399972245,
1033
- 0.1798664960078895,
1034
- 0.17990566999651492,
1035
- 0.17996893799863756,
1036
- 0.1819690039847046,
1037
- 0.181216263998067,
1038
- 0.18529247600235976,
1039
- 0.18523169300169684,
1040
- 0.18511642699013464,
1041
- 0.1867486130213365,
1042
- 0.18564882298232988,
1043
- 0.18289154101512395,
1044
- 0.18167252899729647,
1045
- 0.14990283999941312,
1046
- 0.17935943600605242,
1047
- 0.1808984589879401,
1048
- 0.17966271500336006,
1049
- 0.1799623260158114,
1050
- 0.17860502397525124,
1051
- 0.18274428500444628,
1052
- 0.17975249400478788,
1053
- 0.18048124699271284,
1054
- 0.18031989500741474,
1055
- 0.18032856201170944,
1056
- 0.18035401997622102,
1057
- 0.18055126801482402,
1058
- 0.18039224098902196,
1059
- 0.180185794015415,
1060
- 0.18097204598598182,
1061
- 0.15151755401166156,
1062
- 0.1803704499907326,
1063
- 0.17937034799251705,
1064
- 0.18053994700312614,
1065
- 0.1801294990000315,
1066
- 0.17990723199909553,
1067
- 0.17993792000925168,
1068
- 0.18040446401573718,
1069
- 0.1790090419817716,
1070
- 0.18038235101266764,
1071
- 0.18070307400193997,
1072
- 0.18341965897707269,
1073
- 0.18106274600722827,
1074
- 0.18053742300253361,
1075
- 0.1807559920125641,
1076
- 0.18036284600384533,
1077
- 0.15860347097623162,
1078
- 0.17986123700393364,
1079
- 0.18004494099295698,
1080
- 0.17954417201690376,
1081
- 0.17984696000348777,
1082
- 0.18012661300599575,
1083
- 0.1804450799827464,
1084
- 0.18028933901223354,
1085
- 0.1802937159955036,
1086
- 0.1801577919977717,
1087
- 0.18026857799850404,
1088
- 0.18126000600750558,
1089
- 0.1808804360043723,
1090
- 0.18181792998802848,
1091
- 0.18181694799568504,
1092
- 0.18047903399565257,
1093
- 0.15700837501208298,
1094
- 0.18065401999047026,
1095
- 0.17992436501663178,
1096
- 0.17972789698978886,
1097
- 0.18013677300768904,
1098
- 0.17925191498943605,
1099
- 0.18030204199021682,
1100
- 0.179998333012918,
1101
- 0.1798373920028098,
1102
- 0.18092466800590046,
1103
- 0.18093351399875246,
1104
- 0.18127970298519358,
1105
- 0.18030387500766665,
1106
- 0.18272992799757048,
1107
- 0.1851492080022581,
1108
- 0.18540990600013174,
1109
- 0.15782279998529702,
1110
- 0.1799877230077982,
1111
- 0.17970069701550528,
1112
- 0.17972497097798623,
1113
- 0.17986185700283386,
1114
- 0.17996225602109917,
1115
- 0.1796370669908356,
1116
- 0.18156376399565488,
1117
- 0.1806950680038426,
1118
- 0.1806371189886704,
1119
- 0.1803411650180351,
1120
- 0.18057543400209397,
1121
- 0.1803216279949993,
1122
- 0.1806284339982085,
1123
- 0.18151804798981175,
1124
- 0.186089669005014
1125
  ],
1126
  "count": 870,
1127
- "total": 156.33058633605833,
1128
- "mean": 0.17969032912190613,
1129
- "p50": 0.18046341399895027,
1130
- "p90": 0.18494558599195443,
1131
- "p95": 0.18571694201091304,
1132
- "p99": 0.18775559345434867,
1133
- "stdev": 0.006907518738906846,
1134
- "stdev_": 3.844123817159143
1135
  },
1136
  "throughput": null,
1137
  "energy": null,
 
5
  "name": "pytorch",
6
  "version": "2.8.0",
7
  "_target_": "optimum_benchmark.backends.pytorch.backend.PyTorchBackend",
8
+ "model": "HuggingFaceTB/SmolLM2-360M-Instruct",
9
+ "processor": "HuggingFaceTB/SmolLM2-360M-Instruct",
10
  "task": "text-generation",
11
  "library": "transformers",
12
+ "model_type": "llama",
13
  "device": "cpu",
14
  "device_ids": null,
15
  "seed": 42,
 
88
  "gpu_count": 5,
89
  "gpu_vram_mb": 347892350976,
90
  "optimum_benchmark_version": "0.7.0.dev0",
91
+ "optimum_benchmark_commit": "d462ec8ba3dac30dc8dee55cacaeedda874ff6a5",
92
+ "transformers_version": "4.55.4",
93
+ "transformers_commit": "d462ec8ba3dac30dc8dee55cacaeedda874ff6a5",
94
  "accelerate_version": "1.10.1",
95
+ "accelerate_commit": "d462ec8ba3dac30dc8dee55cacaeedda874ff6a5",
96
  "diffusers_version": "0.35.1",
97
+ "diffusers_commit": "d462ec8ba3dac30dc8dee55cacaeedda874ff6a5",
98
  "optimum_version": "1.27.0",
99
  "optimum_commit": null,
100
  "timm_version": "1.0.20",
101
+ "timm_commit": "d462ec8ba3dac30dc8dee55cacaeedda874ff6a5",
102
  "peft_version": "0.17.1",
103
+ "peft_commit": "d462ec8ba3dac30dc8dee55cacaeedda874ff6a5"
104
  },
105
  "print_report": false,
106
  "log_report": true
 
111
  "latency": {
112
  "unit": "s",
113
  "values": [
114
+ 2.3661472540115938
115
  ],
116
  "count": 1,
117
+ "total": 2.3661472540115938,
118
+ "mean": 2.3661472540115938,
119
+ "p50": 2.3661472540115938,
120
+ "p90": 2.3661472540115938,
121
+ "p95": 2.3661472540115938,
122
+ "p99": 2.3661472540115938,
123
  "stdev": 0,
124
  "stdev_": 0
125
  },
 
132
  "latency": {
133
  "unit": "s",
134
  "values": [
135
+ 1.9086181640159339
136
  ],
137
  "count": 1,
138
+ "total": 1.9086181640159339,
139
+ "mean": 1.9086181640159339,
140
+ "p50": 1.9086181640159339,
141
+ "p90": 1.9086181640159339,
142
+ "p95": 1.9086181640159339,
143
+ "p99": 1.9086181640159339,
144
  "stdev": 0,
145
  "stdev_": 0
146
  },
 
153
  "latency": {
154
  "unit": "s",
155
  "values": [
156
+ 1.904414040996926,
157
+ 1.89909200600232,
158
+ 1.9152907469833735,
159
+ 1.8998151799896732,
160
+ 1.9021159170079045,
161
+ 1.9099959430168383,
162
+ 1.905253041011747,
163
+ 1.907962534984108,
164
+ 1.9022135489794891,
165
+ 1.9046884440176655
166
  ],
167
  "count": 10,
168
+ "total": 19.050841402990045,
169
+ "mean": 1.9050841402990044,
170
+ "p50": 1.9045512425072957,
171
+ "p90": 1.9105254234134919,
172
+ "p95": 1.9129080851984326,
173
+ "p99": 1.9148142146263853,
174
+ "stdev": 0.004668384926121155,
175
+ "stdev_": 0.24504875282770705
176
  },
177
  "throughput": {
178
  "unit": "samples/s",
179
+ "value": 7.873667982793526
180
  },
181
  "energy": null,
182
  "efficiency": null
 
186
  "latency": {
187
  "unit": "s",
188
  "values": [
189
+ 0.0983442570141051,
190
+ 0.09756547899451107,
191
+ 0.09891715898993425,
192
+ 0.09855797697673552,
193
+ 0.09775133701623417,
194
+ 0.09781182100414298,
195
+ 0.09896146200480871,
196
+ 0.09816565300570801,
197
+ 0.09795459700399078,
198
+ 0.09768515301402658
199
  ],
200
  "count": 10,
201
+ "total": 0.9817148950241972,
202
+ "mean": 0.09817148950241972,
203
+ "p50": 0.0980601250048494,
204
+ "p90": 0.0989215892914217,
205
+ "p95": 0.0989415256481152,
206
+ "p99": 0.09895747473347001,
207
+ "stdev": 0.0004812523866481375,
208
+ "stdev_": 0.4902160383705655
209
  },
210
  "throughput": {
211
  "unit": "samples/s",
212
+ "value": 10.186256774430953
213
  },
214
  "energy": null,
215
  "efficiency": null
 
219
  "latency": {
220
  "unit": "s",
221
  "values": [
222
+ 1.8060697839828208,
223
+ 1.801526527007809,
224
+ 1.8163735879934393,
225
+ 1.8012572030129377,
226
+ 1.8043645799916703,
227
+ 1.8121841220126953,
228
+ 1.8062915790069383,
229
+ 1.8097968819784,
230
+ 1.8042589519754983,
231
+ 1.8070032910036389
232
  ],
233
  "count": 10,
234
+ "total": 18.069126507965848,
235
+ "mean": 1.8069126507965847,
236
+ "p50": 1.8061806814948795,
237
+ "p90": 1.8126030686107697,
238
+ "p95": 1.8144883283021045,
239
+ "p99": 1.8159965360551724,
240
+ "stdev": 0.004486090754515626,
241
+ "stdev_": 0.24827380297204266
242
  },
243
  "throughput": {
244
  "unit": "tokens/s",
245
+ "value": 8.301452753339897
246
  },
247
  "energy": null,
248
  "efficiency": null
 
252
  "latency": {
253
  "unit": "s",
254
  "values": [
255
+ 0.12068320499383844,
256
+ 0.12026272900402546,
257
+ 0.12045867499546148,
258
+ 0.12043949001235887,
259
+ 0.11982538999291137,
260
+ 0.11981542099965736,
261
+ 0.1199485000106506,
262
+ 0.1205270929785911,
263
+ 0.12059690401656553,
264
+ 0.12079319197800942,
265
+ 0.11980171600589529,
266
+ 0.12044244501157664,
267
+ 0.12005116199725308,
268
+ 0.12264066201169044,
269
+ 0.11944965500151739,
270
+ 0.12068320499383844,
271
+ 0.12026272900402546,
272
+ 0.12045867499546148,
273
+ 0.12043949001235887,
274
+ 0.11982538999291137,
275
+ 0.11981542099965736,
276
+ 0.1199485000106506,
277
+ 0.1205270929785911,
278
+ 0.12059690401656553,
279
+ 0.12079319197800942,
280
+ 0.11980171600589529,
281
+ 0.12044244501157664,
282
+ 0.12005116199725308,
283
+ 0.12264066201169044,
284
+ 0.11944965500151739,
285
+ 0.09792166599072516,
286
+ 0.12022240299847908,
287
+ 0.11945887299953029,
288
+ 0.11965112399775535,
289
+ 0.11951844400027767,
290
+ 0.11977782100439072,
291
+ 0.11995644500711933,
292
+ 0.11974372700206004,
293
+ 0.11969532599323429,
294
+ 0.11993588699260727,
295
+ 0.11973887699423358,
296
+ 0.11976321300608106,
297
+ 0.11995875000138767,
298
+ 0.12009019500692375,
299
+ 0.1218149850028567,
300
+ 0.12186800397466868,
301
+ 0.12068320499383844,
302
+ 0.12026272900402546,
303
+ 0.12045867499546148,
304
+ 0.12043949001235887,
305
+ 0.11982538999291137,
306
+ 0.11981542099965736,
307
+ 0.1199485000106506,
308
+ 0.1205270929785911,
309
+ 0.12059690401656553,
310
+ 0.12079319197800942,
311
+ 0.11980171600589529,
312
+ 0.12044244501157664,
313
+ 0.12005116199725308,
314
+ 0.12264066201169044,
315
+ 0.11944965500151739,
316
+ 0.09792166599072516,
317
+ 0.12022240299847908,
318
+ 0.11945887299953029,
319
+ 0.11965112399775535,
320
+ 0.11951844400027767,
321
+ 0.11977782100439072,
322
+ 0.11995644500711933,
323
+ 0.11974372700206004,
324
+ 0.11969532599323429,
325
+ 0.11993588699260727,
326
+ 0.11973887699423358,
327
+ 0.11976321300608106,
328
+ 0.11995875000138767,
329
+ 0.12009019500692375,
330
+ 0.1218149850028567,
331
+ 0.12186800397466868,
332
+ 0.09927200400852598,
333
+ 0.12091182399308309,
334
+ 0.12209083201014437,
335
+ 0.12178504900657572,
336
+ 0.12226670098607428,
337
+ 0.12126238000928424,
338
+ 0.12025996399461292,
339
+ 0.12026504299137741,
340
+ 0.1205034890153911,
341
+ 0.12319498899159953,
342
+ 0.12063907299307175,
343
+ 0.12000020701088943,
344
+ 0.12054426601389423,
345
+ 0.12050672498298809,
346
+ 0.12089527299394831,
347
+ 0.12091376702301204,
348
+ 0.12068320499383844,
349
+ 0.12026272900402546,
350
+ 0.12045867499546148,
351
+ 0.12043949001235887,
352
+ 0.11982538999291137,
353
+ 0.11981542099965736,
354
+ 0.1199485000106506,
355
+ 0.1205270929785911,
356
+ 0.12059690401656553,
357
+ 0.12079319197800942,
358
+ 0.11980171600589529,
359
+ 0.12044244501157664,
360
+ 0.12005116199725308,
361
+ 0.12264066201169044,
362
+ 0.11944965500151739,
363
+ 0.09792166599072516,
364
+ 0.12022240299847908,
365
+ 0.11945887299953029,
366
+ 0.11965112399775535,
367
+ 0.11951844400027767,
368
+ 0.11977782100439072,
369
+ 0.11995644500711933,
370
+ 0.11974372700206004,
371
+ 0.11969532599323429,
372
+ 0.11993588699260727,
373
+ 0.11973887699423358,
374
+ 0.11976321300608106,
375
+ 0.11995875000138767,
376
+ 0.12009019500692375,
377
+ 0.1218149850028567,
378
+ 0.12186800397466868,
379
+ 0.09927200400852598,
380
+ 0.12091182399308309,
381
+ 0.12209083201014437,
382
+ 0.12178504900657572,
383
+ 0.12226670098607428,
384
+ 0.12126238000928424,
385
+ 0.12025996399461292,
386
+ 0.12026504299137741,
387
+ 0.1205034890153911,
388
+ 0.12319498899159953,
389
+ 0.12063907299307175,
390
+ 0.12000020701088943,
391
+ 0.12054426601389423,
392
+ 0.12050672498298809,
393
+ 0.12089527299394831,
394
+ 0.12091376702301204,
395
+ 0.0989145249768626,
396
+ 0.11930771000334062,
397
+ 0.11958007101202384,
398
+ 0.11960268300026655,
399
+ 0.11964374899980612,
400
+ 0.11926146398764104,
401
+ 0.12042686602217145,
402
+ 0.12012006097938865,
403
+ 0.12003236700547859,
404
+ 0.12034691599546932,
405
+ 0.12038809299701825,
406
+ 0.12017070699948817,
407
+ 0.12018137599807233,
408
+ 0.12044762400910258,
409
+ 0.12081520300125703,
410
+ 0.12059688501176424,
411
+ 0.12068320499383844,
412
+ 0.12026272900402546,
413
+ 0.12045867499546148,
414
+ 0.12043949001235887,
415
+ 0.11982538999291137,
416
+ 0.11981542099965736,
417
+ 0.1199485000106506,
418
+ 0.1205270929785911,
419
+ 0.12059690401656553,
420
+ 0.12079319197800942,
421
+ 0.11980171600589529,
422
+ 0.12044244501157664,
423
+ 0.12005116199725308,
424
+ 0.12264066201169044,
425
+ 0.11944965500151739,
426
+ 0.09792166599072516,
427
+ 0.12022240299847908,
428
+ 0.11945887299953029,
429
+ 0.11965112399775535,
430
+ 0.11951844400027767,
431
+ 0.11977782100439072,
432
+ 0.11995644500711933,
433
+ 0.11974372700206004,
434
+ 0.11969532599323429,
435
+ 0.11993588699260727,
436
+ 0.11973887699423358,
437
+ 0.11976321300608106,
438
+ 0.11995875000138767,
439
+ 0.12009019500692375,
440
+ 0.1218149850028567,
441
+ 0.12186800397466868,
442
+ 0.09927200400852598,
443
+ 0.12091182399308309,
444
+ 0.12209083201014437,
445
+ 0.12178504900657572,
446
+ 0.12226670098607428,
447
+ 0.12126238000928424,
448
+ 0.12025996399461292,
449
+ 0.12026504299137741,
450
+ 0.1205034890153911,
451
+ 0.12319498899159953,
452
+ 0.12063907299307175,
453
+ 0.12000020701088943,
454
+ 0.12054426601389423,
455
+ 0.12050672498298809,
456
+ 0.12089527299394831,
457
+ 0.12091376702301204,
458
+ 0.0989145249768626,
459
+ 0.11930771000334062,
460
+ 0.11958007101202384,
461
+ 0.11960268300026655,
462
+ 0.11964374899980612,
463
+ 0.11926146398764104,
464
+ 0.12042686602217145,
465
+ 0.12012006097938865,
466
+ 0.12003236700547859,
467
+ 0.12034691599546932,
468
+ 0.12038809299701825,
469
+ 0.12017070699948817,
470
+ 0.12018137599807233,
471
+ 0.12044762400910258,
472
+ 0.12081520300125703,
473
+ 0.12059688501176424,
474
+ 0.09811638999963179,
475
+ 0.12005808498361148,
476
+ 0.11958847599453293,
477
+ 0.11996797702158801,
478
+ 0.11970293999183923,
479
+ 0.1201340270054061,
480
+ 0.11996207598713227,
481
+ 0.11980859801406041,
482
+ 0.12073935099761002,
483
+ 0.12015614900155924,
484
+ 0.12067210499662906,
485
+ 0.12056837099953555,
486
+ 0.12072010498377495,
487
+ 0.12056788001791574,
488
+ 0.12084435799624771,
489
+ 0.12054058798821643,
490
+ 0.12068320499383844,
491
+ 0.12026272900402546,
492
+ 0.12045867499546148,
493
+ 0.12043949001235887,
494
+ 0.11982538999291137,
495
+ 0.11981542099965736,
496
+ 0.1199485000106506,
497
+ 0.1205270929785911,
498
+ 0.12059690401656553,
499
+ 0.12079319197800942,
500
+ 0.11980171600589529,
501
+ 0.12044244501157664,
502
+ 0.12005116199725308,
503
+ 0.12264066201169044,
504
+ 0.11944965500151739,
505
+ 0.09792166599072516,
506
+ 0.12022240299847908,
507
+ 0.11945887299953029,
508
+ 0.11965112399775535,
509
+ 0.11951844400027767,
510
+ 0.11977782100439072,
511
+ 0.11995644500711933,
512
+ 0.11974372700206004,
513
+ 0.11969532599323429,
514
+ 0.11993588699260727,
515
+ 0.11973887699423358,
516
+ 0.11976321300608106,
517
+ 0.11995875000138767,
518
+ 0.12009019500692375,
519
+ 0.1218149850028567,
520
+ 0.12186800397466868,
521
+ 0.09927200400852598,
522
+ 0.12091182399308309,
523
+ 0.12209083201014437,
524
+ 0.12178504900657572,
525
+ 0.12226670098607428,
526
+ 0.12126238000928424,
527
+ 0.12025996399461292,
528
+ 0.12026504299137741,
529
+ 0.1205034890153911,
530
+ 0.12319498899159953,
531
+ 0.12063907299307175,
532
+ 0.12000020701088943,
533
+ 0.12054426601389423,
534
+ 0.12050672498298809,
535
+ 0.12089527299394831,
536
+ 0.12091376702301204,
537
+ 0.0989145249768626,
538
+ 0.11930771000334062,
539
+ 0.11958007101202384,
540
+ 0.11960268300026655,
541
+ 0.11964374899980612,
542
+ 0.11926146398764104,
543
+ 0.12042686602217145,
544
+ 0.12012006097938865,
545
+ 0.12003236700547859,
546
+ 0.12034691599546932,
547
+ 0.12038809299701825,
548
+ 0.12017070699948817,
549
+ 0.12018137599807233,
550
+ 0.12044762400910258,
551
+ 0.12081520300125703,
552
+ 0.12059688501176424,
553
+ 0.09811638999963179,
554
+ 0.12005808498361148,
555
+ 0.11958847599453293,
556
+ 0.11996797702158801,
557
+ 0.11970293999183923,
558
+ 0.1201340270054061,
559
+ 0.11996207598713227,
560
+ 0.11980859801406041,
561
+ 0.12073935099761002,
562
+ 0.12015614900155924,
563
+ 0.12067210499662906,
564
+ 0.12056837099953555,
565
+ 0.12072010498377495,
566
+ 0.12056788001791574,
567
+ 0.12084435799624771,
568
+ 0.12054058798821643,
569
+ 0.0981827850046102,
570
+ 0.12028533002012409,
571
+ 0.11973574198782444,
572
+ 0.11937369400402531,
573
+ 0.12076637099380605,
574
+ 0.1217819640005473,
575
+ 0.12186064998968504,
576
+ 0.12289681102265604,
577
+ 0.12092486798064783,
578
+ 0.12014694200479425,
579
+ 0.11989285598974675,
580
+ 0.12016978400060907,
581
+ 0.12158981402171776,
582
+ 0.12031506598577835,
583
+ 0.12123188300756738,
584
+ 0.12087861201143824,
585
+ 0.12068320499383844,
586
+ 0.12026272900402546,
587
+ 0.12045867499546148,
588
+ 0.12043949001235887,
589
+ 0.11982538999291137,
590
+ 0.11981542099965736,
591
+ 0.1199485000106506,
592
+ 0.1205270929785911,
593
+ 0.12059690401656553,
594
+ 0.12079319197800942,
595
+ 0.11980171600589529,
596
+ 0.12044244501157664,
597
+ 0.12005116199725308,
598
+ 0.12264066201169044,
599
+ 0.11944965500151739,
600
+ 0.09792166599072516,
601
+ 0.12022240299847908,
602
+ 0.11945887299953029,
603
+ 0.11965112399775535,
604
+ 0.11951844400027767,
605
+ 0.11977782100439072,
606
+ 0.11995644500711933,
607
+ 0.11974372700206004,
608
+ 0.11969532599323429,
609
+ 0.11993588699260727,
610
+ 0.11973887699423358,
611
+ 0.11976321300608106,
612
+ 0.11995875000138767,
613
+ 0.12009019500692375,
614
+ 0.1218149850028567,
615
+ 0.12186800397466868,
616
+ 0.09927200400852598,
617
+ 0.12091182399308309,
618
+ 0.12209083201014437,
619
+ 0.12178504900657572,
620
+ 0.12226670098607428,
621
+ 0.12126238000928424,
622
+ 0.12025996399461292,
623
+ 0.12026504299137741,
624
+ 0.1205034890153911,
625
+ 0.12319498899159953,
626
+ 0.12063907299307175,
627
+ 0.12000020701088943,
628
+ 0.12054426601389423,
629
+ 0.12050672498298809,
630
+ 0.12089527299394831,
631
+ 0.12091376702301204,
632
+ 0.0989145249768626,
633
+ 0.11930771000334062,
634
+ 0.11958007101202384,
635
+ 0.11960268300026655,
636
+ 0.11964374899980612,
637
+ 0.11926146398764104,
638
+ 0.12042686602217145,
639
+ 0.12012006097938865,
640
+ 0.12003236700547859,
641
+ 0.12034691599546932,
642
+ 0.12038809299701825,
643
+ 0.12017070699948817,
644
+ 0.12018137599807233,
645
+ 0.12044762400910258,
646
+ 0.12081520300125703,
647
+ 0.12059688501176424,
648
+ 0.09811638999963179,
649
+ 0.12005808498361148,
650
+ 0.11958847599453293,
651
+ 0.11996797702158801,
652
+ 0.11970293999183923,
653
+ 0.1201340270054061,
654
+ 0.11996207598713227,
655
+ 0.11980859801406041,
656
+ 0.12073935099761002,
657
+ 0.12015614900155924,
658
+ 0.12067210499662906,
659
+ 0.12056837099953555,
660
+ 0.12072010498377495,
661
+ 0.12056788001791574,
662
+ 0.12084435799624771,
663
+ 0.12054058798821643,
664
+ 0.0981827850046102,
665
+ 0.12028533002012409,
666
+ 0.11973574198782444,
667
+ 0.11937369400402531,
668
+ 0.12076637099380605,
669
+ 0.1217819640005473,
670
+ 0.12186064998968504,
671
+ 0.12289681102265604,
672
+ 0.12092486798064783,
673
+ 0.12014694200479425,
674
+ 0.11989285598974675,
675
+ 0.12016978400060907,
676
+ 0.12158981402171776,
677
+ 0.12031506598577835,
678
+ 0.12123188300756738,
679
+ 0.12087861201143824,
680
+ 0.09932926099281758,
681
+ 0.12113022297853604,
682
+ 0.12004935901495628,
683
+ 0.11892845999682322,
684
+ 0.1188827849982772,
685
+ 0.11945336300414056,
686
+ 0.1192138739861548,
687
+ 0.11983832402620465,
688
+ 0.1206584999745246,
689
+ 0.12037434702506289,
690
+ 0.12023105900152586,
691
+ 0.12348333897534758,
692
+ 0.12098516200785525,
693
+ 0.1210143250063993,
694
+ 0.12072736900881864,
695
+ 0.12098506098845974,
696
+ 0.12068320499383844,
697
+ 0.12026272900402546,
698
+ 0.12045867499546148,
699
+ 0.12043949001235887,
700
+ 0.11982538999291137,
701
+ 0.11981542099965736,
702
+ 0.1199485000106506,
703
+ 0.1205270929785911,
704
+ 0.12059690401656553,
705
+ 0.12079319197800942,
706
+ 0.11980171600589529,
707
+ 0.12044244501157664,
708
+ 0.12005116199725308,
709
+ 0.12264066201169044,
710
+ 0.11944965500151739,
711
+ 0.09792166599072516,
712
+ 0.12022240299847908,
713
+ 0.11945887299953029,
714
+ 0.11965112399775535,
715
+ 0.11951844400027767,
716
+ 0.11977782100439072,
717
+ 0.11995644500711933,
718
+ 0.11974372700206004,
719
+ 0.11969532599323429,
720
+ 0.11993588699260727,
721
+ 0.11973887699423358,
722
+ 0.11976321300608106,
723
+ 0.11995875000138767,
724
+ 0.12009019500692375,
725
+ 0.1218149850028567,
726
+ 0.12186800397466868,
727
+ 0.09927200400852598,
728
+ 0.12091182399308309,
729
+ 0.12209083201014437,
730
+ 0.12178504900657572,
731
+ 0.12226670098607428,
732
+ 0.12126238000928424,
733
+ 0.12025996399461292,
734
+ 0.12026504299137741,
735
+ 0.1205034890153911,
736
+ 0.12319498899159953,
737
+ 0.12063907299307175,
738
+ 0.12000020701088943,
739
+ 0.12054426601389423,
740
+ 0.12050672498298809,
741
+ 0.12089527299394831,
742
+ 0.12091376702301204,
743
+ 0.0989145249768626,
744
+ 0.11930771000334062,
745
+ 0.11958007101202384,
746
+ 0.11960268300026655,
747
+ 0.11964374899980612,
748
+ 0.11926146398764104,
749
+ 0.12042686602217145,
750
+ 0.12012006097938865,
751
+ 0.12003236700547859,
752
+ 0.12034691599546932,
753
+ 0.12038809299701825,
754
+ 0.12017070699948817,
755
+ 0.12018137599807233,
756
+ 0.12044762400910258,
757
+ 0.12081520300125703,
758
+ 0.12059688501176424,
759
+ 0.09811638999963179,
760
+ 0.12005808498361148,
761
+ 0.11958847599453293,
762
+ 0.11996797702158801,
763
+ 0.11970293999183923,
764
+ 0.1201340270054061,
765
+ 0.11996207598713227,
766
+ 0.11980859801406041,
767
+ 0.12073935099761002,
768
+ 0.12015614900155924,
769
+ 0.12067210499662906,
770
+ 0.12056837099953555,
771
+ 0.12072010498377495,
772
+ 0.12056788001791574,
773
+ 0.12084435799624771,
774
+ 0.12054058798821643,
775
+ 0.0981827850046102,
776
+ 0.12028533002012409,
777
+ 0.11973574198782444,
778
+ 0.11937369400402531,
779
+ 0.12076637099380605,
780
+ 0.1217819640005473,
781
+ 0.12186064998968504,
782
+ 0.12289681102265604,
783
+ 0.12092486798064783,
784
+ 0.12014694200479425,
785
+ 0.11989285598974675,
786
+ 0.12016978400060907,
787
+ 0.12158981402171776,
788
+ 0.12031506598577835,
789
+ 0.12123188300756738,
790
+ 0.12087861201143824,
791
+ 0.09932926099281758,
792
+ 0.12113022297853604,
793
+ 0.12004935901495628,
794
+ 0.11892845999682322,
795
+ 0.1188827849982772,
796
+ 0.11945336300414056,
797
+ 0.1192138739861548,
798
+ 0.11983832402620465,
799
+ 0.1206584999745246,
800
+ 0.12037434702506289,
801
+ 0.12023105900152586,
802
+ 0.12348333897534758,
803
+ 0.12098516200785525,
804
+ 0.1210143250063993,
805
+ 0.12072736900881864,
806
+ 0.12098506098845974,
807
+ 0.0985386710090097,
808
+ 0.11997987900394946,
809
+ 0.11966913598007523,
810
+ 0.11974942800588906,
811
+ 0.11951131100067869,
812
+ 0.11997283599339426,
813
+ 0.11960105900652707,
814
+ 0.12041121700895019,
815
+ 0.12267944400082342,
816
+ 0.12293589400360361,
817
+ 0.12028627199470066,
818
+ 0.12050818800344132,
819
+ 0.1206144169846084,
820
+ 0.12064563599415123,
821
+ 0.12208632301189937,
822
+ 0.1208100029907655,
823
+ 0.12068320499383844,
824
+ 0.12026272900402546,
825
+ 0.12045867499546148,
826
+ 0.12043949001235887,
827
+ 0.11982538999291137,
828
+ 0.11981542099965736,
829
+ 0.1199485000106506,
830
+ 0.1205270929785911,
831
+ 0.12059690401656553,
832
+ 0.12079319197800942,
833
+ 0.11980171600589529,
834
+ 0.12044244501157664,
835
+ 0.12005116199725308,
836
+ 0.12264066201169044,
837
+ 0.11944965500151739,
838
+ 0.09792166599072516,
839
+ 0.12022240299847908,
840
+ 0.11945887299953029,
841
+ 0.11965112399775535,
842
+ 0.11951844400027767,
843
+ 0.11977782100439072,
844
+ 0.11995644500711933,
845
+ 0.11974372700206004,
846
+ 0.11969532599323429,
847
+ 0.11993588699260727,
848
+ 0.11973887699423358,
849
+ 0.11976321300608106,
850
+ 0.11995875000138767,
851
+ 0.12009019500692375,
852
+ 0.1218149850028567,
853
+ 0.12186800397466868,
854
+ 0.09927200400852598,
855
+ 0.12091182399308309,
856
+ 0.12209083201014437,
857
+ 0.12178504900657572,
858
+ 0.12226670098607428,
859
+ 0.12126238000928424,
860
+ 0.12025996399461292,
861
+ 0.12026504299137741,
862
+ 0.1205034890153911,
863
+ 0.12319498899159953,
864
+ 0.12063907299307175,
865
+ 0.12000020701088943,
866
+ 0.12054426601389423,
867
+ 0.12050672498298809,
868
+ 0.12089527299394831,
869
+ 0.12091376702301204,
870
+ 0.0989145249768626,
871
+ 0.11930771000334062,
872
+ 0.11958007101202384,
873
+ 0.11960268300026655,
874
+ 0.11964374899980612,
875
+ 0.11926146398764104,
876
+ 0.12042686602217145,
877
+ 0.12012006097938865,
878
+ 0.12003236700547859,
879
+ 0.12034691599546932,
880
+ 0.12038809299701825,
881
+ 0.12017070699948817,
882
+ 0.12018137599807233,
883
+ 0.12044762400910258,
884
+ 0.12081520300125703,
885
+ 0.12059688501176424,
886
+ 0.09811638999963179,
887
+ 0.12005808498361148,
888
+ 0.11958847599453293,
889
+ 0.11996797702158801,
890
+ 0.11970293999183923,
891
+ 0.1201340270054061,
892
+ 0.11996207598713227,
893
+ 0.11980859801406041,
894
+ 0.12073935099761002,
895
+ 0.12015614900155924,
896
+ 0.12067210499662906,
897
+ 0.12056837099953555,
898
+ 0.12072010498377495,
899
+ 0.12056788001791574,
900
+ 0.12084435799624771,
901
+ 0.12054058798821643,
902
+ 0.0981827850046102,
903
+ 0.12028533002012409,
904
+ 0.11973574198782444,
905
+ 0.11937369400402531,
906
+ 0.12076637099380605,
907
+ 0.1217819640005473,
908
+ 0.12186064998968504,
909
+ 0.12289681102265604,
910
+ 0.12092486798064783,
911
+ 0.12014694200479425,
912
+ 0.11989285598974675,
913
+ 0.12016978400060907,
914
+ 0.12158981402171776,
915
+ 0.12031506598577835,
916
+ 0.12123188300756738,
917
+ 0.12087861201143824,
918
+ 0.09932926099281758,
919
+ 0.12113022297853604,
920
+ 0.12004935901495628,
921
+ 0.11892845999682322,
922
+ 0.1188827849982772,
923
+ 0.11945336300414056,
924
+ 0.1192138739861548,
925
+ 0.11983832402620465,
926
+ 0.1206584999745246,
927
+ 0.12037434702506289,
928
+ 0.12023105900152586,
929
+ 0.12348333897534758,
930
+ 0.12098516200785525,
931
+ 0.1210143250063993,
932
+ 0.12072736900881864,
933
+ 0.12098506098845974,
934
+ 0.0985386710090097,
935
+ 0.11997987900394946,
936
+ 0.11966913598007523,
937
+ 0.11974942800588906,
938
+ 0.11951131100067869,
939
+ 0.11997283599339426,
940
+ 0.11960105900652707,
941
+ 0.12041121700895019,
942
+ 0.12267944400082342,
943
+ 0.12293589400360361,
944
+ 0.12028627199470066,
945
+ 0.12050818800344132,
946
+ 0.1206144169846084,
947
+ 0.12064563599415123,
948
+ 0.12208632301189937,
949
+ 0.1208100029907655,
950
+ 0.09832616301719099,
951
+ 0.12124618998495862,
952
+ 0.1198853210080415,
953
+ 0.11960894500953145,
954
+ 0.11956527197617106,
955
+ 0.11956553300842643,
956
+ 0.11992535699391738,
957
+ 0.12039038701914251,
958
+ 0.120294036983978,
959
+ 0.12022406700998545,
960
+ 0.12014950599404983,
961
+ 0.12073865000274964,
962
+ 0.1202007019892335,
963
+ 0.12065990202245302,
964
+ 0.12113887898158282,
965
+ 0.12032380301388912,
966
+ 0.12068320499383844,
967
+ 0.12026272900402546,
968
+ 0.12045867499546148,
969
+ 0.12043949001235887,
970
+ 0.11982538999291137,
971
+ 0.11981542099965736,
972
+ 0.1199485000106506,
973
+ 0.1205270929785911,
974
+ 0.12059690401656553,
975
+ 0.12079319197800942,
976
+ 0.11980171600589529,
977
+ 0.12044244501157664,
978
+ 0.12005116199725308,
979
+ 0.12264066201169044,
980
+ 0.11944965500151739,
981
+ 0.09792166599072516,
982
+ 0.12022240299847908,
983
+ 0.11945887299953029,
984
+ 0.11965112399775535,
985
+ 0.11951844400027767,
986
+ 0.11977782100439072,
987
+ 0.11995644500711933,
988
+ 0.11974372700206004,
989
+ 0.11969532599323429,
990
+ 0.11993588699260727,
991
+ 0.11973887699423358,
992
+ 0.11976321300608106,
993
+ 0.11995875000138767,
994
+ 0.12009019500692375,
995
+ 0.1218149850028567,
996
+ 0.12186800397466868,
997
+ 0.09927200400852598,
998
+ 0.12091182399308309,
999
+ 0.12209083201014437,
1000
+ 0.12178504900657572,
1001
+ 0.12226670098607428,
1002
+ 0.12126238000928424,
1003
+ 0.12025996399461292,
1004
+ 0.12026504299137741,
1005
+ 0.1205034890153911,
1006
+ 0.12319498899159953,
1007
+ 0.12063907299307175,
1008
+ 0.12000020701088943,
1009
+ 0.12054426601389423,
1010
+ 0.12050672498298809,
1011
+ 0.12089527299394831,
1012
+ 0.12091376702301204,
1013
+ 0.0989145249768626,
1014
+ 0.11930771000334062,
1015
+ 0.11958007101202384,
1016
+ 0.11960268300026655,
1017
+ 0.11964374899980612,
1018
+ 0.11926146398764104,
1019
+ 0.12042686602217145,
1020
+ 0.12012006097938865,
1021
+ 0.12003236700547859,
1022
+ 0.12034691599546932,
1023
+ 0.12038809299701825,
1024
+ 0.12017070699948817,
1025
+ 0.12018137599807233,
1026
+ 0.12044762400910258,
1027
+ 0.12081520300125703,
1028
+ 0.12059688501176424,
1029
+ 0.09811638999963179,
1030
+ 0.12005808498361148,
1031
+ 0.11958847599453293,
1032
+ 0.11996797702158801,
1033
+ 0.11970293999183923,
1034
+ 0.1201340270054061,
1035
+ 0.11996207598713227,
1036
+ 0.11980859801406041,
1037
+ 0.12073935099761002,
1038
+ 0.12015614900155924,
1039
+ 0.12067210499662906,
1040
+ 0.12056837099953555,
1041
+ 0.12072010498377495,
1042
+ 0.12056788001791574,
1043
+ 0.12084435799624771,
1044
+ 0.12054058798821643,
1045
+ 0.0981827850046102,
1046
+ 0.12028533002012409,
1047
+ 0.11973574198782444,
1048
+ 0.11937369400402531,
1049
+ 0.12076637099380605,
1050
+ 0.1217819640005473,
1051
+ 0.12186064998968504,
1052
+ 0.12289681102265604,
1053
+ 0.12092486798064783,
1054
+ 0.12014694200479425,
1055
+ 0.11989285598974675,
1056
+ 0.12016978400060907,
1057
+ 0.12158981402171776,
1058
+ 0.12031506598577835,
1059
+ 0.12123188300756738,
1060
+ 0.12087861201143824,
1061
+ 0.09932926099281758,
1062
+ 0.12113022297853604,
1063
+ 0.12004935901495628,
1064
+ 0.11892845999682322,
1065
+ 0.1188827849982772,
1066
+ 0.11945336300414056,
1067
+ 0.1192138739861548,
1068
+ 0.11983832402620465,
1069
+ 0.1206584999745246,
1070
+ 0.12037434702506289,
1071
+ 0.12023105900152586,
1072
+ 0.12348333897534758,
1073
+ 0.12098516200785525,
1074
+ 0.1210143250063993,
1075
+ 0.12072736900881864,
1076
+ 0.12098506098845974,
1077
+ 0.0985386710090097,
1078
+ 0.11997987900394946,
1079
+ 0.11966913598007523,
1080
+ 0.11974942800588906,
1081
+ 0.11951131100067869,
1082
+ 0.11997283599339426,
1083
+ 0.11960105900652707,
1084
+ 0.12041121700895019,
1085
+ 0.12267944400082342,
1086
+ 0.12293589400360361,
1087
+ 0.12028627199470066,
1088
+ 0.12050818800344132,
1089
+ 0.1206144169846084,
1090
+ 0.12064563599415123,
1091
+ 0.12208632301189937,
1092
+ 0.1208100029907655,
1093
+ 0.09832616301719099,
1094
+ 0.12124618998495862,
1095
+ 0.1198853210080415,
1096
+ 0.11960894500953145,
1097
+ 0.11956527197617106,
1098
+ 0.11956553300842643,
1099
+ 0.11992535699391738,
1100
+ 0.12039038701914251,
1101
+ 0.120294036983978,
1102
+ 0.12022406700998545,
1103
+ 0.12014950599404983,
1104
+ 0.12073865000274964,
1105
+ 0.1202007019892335,
1106
+ 0.12065990202245302,
1107
+ 0.12113887898158282,
1108
+ 0.12032380301388912,
1109
+ 0.09806285999366082,
1110
+ 0.11956976100918837,
1111
+ 0.12006324497633614,
1112
+ 0.1201541040209122,
1113
+ 0.11983583000255749,
1114
+ 0.11961245100246742,
1115
+ 0.11972572197555564,
1116
+ 0.12010397101403214,
1117
+ 0.12005320700700395,
1118
+ 0.11994904099265113,
1119
+ 0.12477329399553128,
1120
+ 0.12035819698940031,
1121
+ 0.12070973601657897,
1122
+ 0.12016928300727159,
1123
+ 0.12086974497651681,
1124
+ 0.12073150702053681
1125
  ],
1126
  "count": 870,
1127
+ "total": 103.7881673219963,
1128
+ "mean": 0.1192967440482716,
1129
+ "p50": 0.12023105900152586,
1130
+ "p90": 0.1217819640005473,
1131
+ "p95": 0.12209083201014437,
1132
+ "p99": 0.12319498899159953,
1133
+ "stdev": 0.0049137496365037015,
1134
+ "stdev_": 4.118930215325431
1135
  },
1136
  "throughput": null,
1137
  "energy": null,