IlyasMoutawwakil HF Staff commited on
Commit
7205b9f
·
verified ·
1 Parent(s): f7b2cb5

Upload cuda_inference_transformers_fill-mask_hf-internal-testing/tiny-random-BertModel/benchmark_report.json with huggingface_hub

Browse files
cuda_inference_transformers_fill-mask_hf-internal-testing/tiny-random-BertModel/benchmark_report.json CHANGED
@@ -2,7 +2,7 @@
2
  "load_model": {
3
  "memory": {
4
  "unit": "MB",
5
- "max_ram": 1013.63712,
6
  "max_global_vram": 595.06688,
7
  "max_process_vram": 0.0,
8
  "max_reserved": 2.097152,
@@ -11,32 +11,32 @@
11
  "latency": {
12
  "unit": "s",
13
  "values": [
14
- 0.1834352264404297
15
  ],
16
  "count": 1,
17
- "total": 0.1834352264404297,
18
- "mean": 0.1834352264404297,
19
- "p50": 0.1834352264404297,
20
- "p90": 0.1834352264404297,
21
- "p95": 0.1834352264404297,
22
- "p99": 0.1834352264404297,
23
  "stdev": 0,
24
  "stdev_": 0
25
  },
26
  "throughput": null,
27
  "energy": {
28
  "unit": "kWh",
29
- "cpu": 0.00014261615093819432,
30
- "ram": 7.816446609843012e-05,
31
- "gpu": 0.0001969437686660004,
32
- "total": 0.00041772438570262486
33
  },
34
  "efficiency": null
35
  },
36
  "first_forward": {
37
  "memory": {
38
  "unit": "MB",
39
- "max_ram": 1177.174016,
40
  "max_global_vram": 670.564352,
41
  "max_process_vram": 0.0,
42
  "max_reserved": 23.068672,
@@ -45,32 +45,32 @@
45
  "latency": {
46
  "unit": "s",
47
  "values": [
48
- 0.10703359985351563
49
  ],
50
  "count": 1,
51
- "total": 0.10703359985351563,
52
- "mean": 0.10703359985351563,
53
- "p50": 0.10703359985351563,
54
- "p90": 0.10703359985351563,
55
- "p95": 0.10703359985351563,
56
- "p99": 0.10703359985351563,
57
  "stdev": 0,
58
  "stdev_": 0
59
  },
60
  "throughput": null,
61
  "energy": {
62
  "unit": "kWh",
63
- "cpu": 0.0001426185944993059,
64
- "ram": 7.816572643870308e-05,
65
- "gpu": 0.00019795349169599973,
66
- "total": 0.0004187378126340088
67
  },
68
  "efficiency": null
69
  },
70
  "forward": {
71
  "memory": {
72
  "unit": "MB",
73
- "max_ram": 1181.229056,
74
  "max_global_vram": 670.564352,
75
  "max_process_vram": 0.0,
76
  "max_reserved": 23.068672,
@@ -79,406 +79,349 @@
79
  "latency": {
80
  "unit": "s",
81
  "values": [
82
- 0.002791424036026001,
83
- 0.0026163198947906493,
84
- 0.002662400007247925,
85
- 0.002613248109817505,
86
- 0.0025415680408477784,
87
- 0.0026050560474395754,
88
- 0.0026122241020202636,
89
- 0.0025630719661712646,
90
- 0.002606080055236816,
91
- 0.0026183679103851318,
92
- 0.0025590078830718993,
93
- 0.002639872074127197,
94
- 0.0028231680393218995,
95
- 0.0027545280456542968,
96
- 0.0028436479568481445,
97
- 0.0028682239055633544,
98
- 0.0027801599502563475,
99
- 0.0028385279178619383,
100
- 0.0027801599502563475,
101
- 0.0027729918956756593,
102
- 0.0027402238845825196,
103
- 0.0027975680828094484,
104
- 0.0027616639137268066,
105
- 0.002727936029434204,
106
- 0.0027258880138397216,
107
- 0.002642944097518921,
108
- 0.0026849279403686525,
109
- 0.002766848087310791,
110
- 0.002753535985946655,
111
- 0.0027167038917541506,
112
- 0.0026214399337768555,
113
- 0.002604032039642334,
114
- 0.002569216012954712,
115
- 0.002614272117614746,
116
- 0.002606080055236816,
117
- 0.002606080055236816,
118
- 0.0026357760429382322,
119
- 0.00263372802734375,
120
- 0.0027513599395751955,
121
- 0.0027924480438232422,
122
- 0.0027893760204315186,
123
- 0.002845695972442627,
124
- 0.0027678720951080323,
125
- 0.002778111934661865,
126
- 0.0026593921184539797,
127
- 0.00268287992477417,
128
- 0.002649087905883789,
129
- 0.002669568061828613,
130
- 0.0027842559814453124,
131
- 0.0028528640270233155,
132
- 0.0028180480003356934,
133
- 0.0027207679748535154,
134
- 0.0026808319091796875,
135
- 0.0026900479793548586,
136
- 0.0029235200881958007,
137
- 0.0027196800708770754,
138
- 0.0026470398902893066,
139
- 0.002597887992858887,
140
- 0.002564095973968506,
141
- 0.0026501119136810303,
142
- 0.00263372802734375,
143
- 0.0025815041065216063,
144
- 0.0026593279838562013,
145
- 0.002677759885787964,
146
- 0.0026490559577941894,
147
- 0.0025835518836975096,
148
- 0.002520064115524292,
149
- 0.00250982403755188,
150
- 0.002531327962875366,
151
- 0.0025180160999298097,
152
- 0.0024832000732421876,
153
- 0.0024965760707855223,
154
- 0.002510848045349121,
155
- 0.0025047039985656738,
156
- 0.0025128960609436036,
157
- 0.0025180160999298097,
158
- 0.0028631041049957274,
159
- 0.0026808319091796875,
160
- 0.0026316800117492677,
161
- 0.002686975955963135,
162
- 0.0027740159034729006,
163
- 0.002826240062713623,
164
- 0.0028190720081329346,
165
- 0.002944000005722046,
166
  0.0028446719646453857,
167
- 0.002815999984741211,
168
- 0.002883584022521973,
169
- 0.002775039911270142,
170
- 0.0027545599937438964,
171
- 0.0027043840885162354,
172
- 0.0026470398902893066,
173
- 0.002712575912475586,
174
- 0.002766848087310791,
175
- 0.0027607040405273437,
176
- 0.0026767361164093018,
177
- 0.0026705920696258544,
178
- 0.002707456111907959,
179
- 0.0027187199592590334,
180
- 0.0026593279838562013,
181
- 0.00260915207862854,
182
- 0.002589695930480957,
183
- 0.002669568061828613,
184
- 0.002723839998245239,
185
- 0.0027135999202728273,
186
- 0.0026839039325714112,
187
- 0.0027729918956756593,
188
- 0.002849792003631592,
189
- 0.0028344318866729734,
190
- 0.0026798079013824463,
191
- 0.002668544054031372,
192
- 0.002712575912475586,
193
- 0.0026705920696258544,
194
- 0.0026818559169769288,
195
- 0.002653183937072754,
196
- 0.002681920051574707,
197
- 0.002638848066329956,
198
- 0.0026194241046905518,
199
- 0.0026163198947906493,
200
- 0.002648031949996948,
201
- 0.0026470398902893066,
202
- 0.0026306560039520265,
203
- 0.002643968105316162,
204
- 0.002677759885787964,
205
- 0.002712480068206787,
206
- 0.002831360101699829,
207
- 0.0028395519256591796,
208
- 0.00278220796585083,
209
- 0.0029992959499359133,
210
- 0.0028487679958343506,
211
- 0.0027432959079742433,
212
- 0.0026265599727630616,
213
- 0.002565056085586548,
214
- 0.002597887992858887,
215
- 0.002589695930480957,
216
- 0.002653183937072754,
217
- 0.0025630719661712646,
218
- 0.0024739840030670165,
219
- 0.0025579519271850585,
220
- 0.0026941120624542235,
221
- 0.0025415680408477784,
222
- 0.00248524808883667,
223
- 0.0024637439250946047,
224
- 0.00250982403755188,
225
- 0.0024832000732421876,
226
- 0.0024934399127960207,
227
- 0.002548736095428467,
228
- 0.002535423994064331,
229
- 0.0024688639640808104,
230
- 0.002476032018661499,
231
- 0.0027289600372314453,
232
- 0.002490367889404297,
233
- 0.0025661439895629883,
234
- 0.0025221118927001955,
235
- 0.0025323519706726074,
236
- 0.002540544033050537,
237
  0.0024821760654449463,
238
- 0.002543616056442261,
239
- 0.002535423994064331,
240
- 0.0024750080108642577,
241
- 0.0024627199172973634,
242
- 0.002471935987472534,
243
- 0.0024883201122283937,
244
- 0.002494463920593262,
245
- 0.0024576001167297364,
246
- 0.002471935987472534,
247
- 0.00247705602645874,
248
- 0.002456576108932495,
249
- 0.002476032018661499,
250
- 0.002507711887359619,
251
- 0.0025077760219573975,
252
- 0.0024995839595794676,
253
- 0.002484224081039429,
254
- 0.002510848045349121,
255
- 0.0025251839160919188,
256
- 0.0025210878849029543,
257
- 0.002513920068740845,
258
- 0.0024698879718780516,
259
- 0.002456576108932495,
260
- 0.002471935987472534,
261
- 0.002465791940689087,
262
- 0.0024923520088195802,
263
- 0.002490367889404297,
264
- 0.0024913918972015382,
265
- 0.002484224081039429,
266
- 0.0024935040473937986,
267
- 0.0024698879718780516,
268
- 0.002497535943984985,
269
- 0.002512959957122803,
270
  0.002465791940689087,
271
- 0.0024821760654449463,
272
- 0.002464767932891846,
 
 
273
  0.0024832000732421876,
274
- 0.0024872961044311525,
275
- 0.0025088000297546387,
276
- 0.002471935987472534,
277
- 0.002484224081039429,
278
- 0.002460671901702881,
279
- 0.0024597439765930177,
280
- 0.00248524808883667,
281
- 0.0024995839595794676,
282
- 0.0024638080596923826,
283
- 0.0024750080108642577,
284
  0.0024862720966339113,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
285
  0.0025231359004974367,
 
 
286
  0.002460671901702881,
287
- 0.0024821760654449463,
288
- 0.002460671901702881,
289
- 0.002549760103225708,
290
- 0.002460671901702881,
 
 
 
 
 
291
  0.002436095952987671,
292
- 0.002480128049850464,
293
- 0.0024924159049987795,
294
- 0.002484224081039429,
295
- 0.0025467519760131838,
296
- 0.002510848045349121,
297
- 0.002554879903793335,
298
- 0.0025292799472808837,
299
- 0.0025282559394836424,
300
- 0.0025794880390167235,
301
- 0.002530303955078125,
302
- 0.0025047039985656738,
303
- 0.0026501119136810303,
304
- 0.0027187199592590334,
305
- 0.002663424015045166,
306
- 0.0027013120651245117,
307
- 0.0027248640060424803,
308
- 0.0026839680671691896,
309
- 0.0027054080963134766,
310
- 0.0026972160339355468,
311
- 0.002662400007247925,
312
- 0.0026757121086120605,
313
- 0.0025979199409484864,
314
- 0.002593791961669922,
315
- 0.002664448022842407,
316
- 0.0026368000507354735,
317
- 0.0026419200897216796,
318
- 0.0026654720306396483,
319
- 0.0026183679103851318,
320
- 0.00263372802734375,
321
- 0.0026562559604644776,
322
  0.0026419200897216796,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
323
  0.0026255359649658204,
324
- 0.0026654720306396483,
325
- 0.002643968105316162,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
326
  0.0026224639415740967,
327
- 0.0026746881008148193,
328
- 0.0025672640800476075,
329
- 0.0025047039985656738,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
330
  0.002577408075332642,
331
- 0.002593791961669922,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
332
  0.002573312044143677,
333
- 0.0025825281143188475,
334
- 0.0025324161052703857,
335
- 0.0025221118927001955,
336
- 0.0025466880798339846,
337
  0.002565119981765747,
338
- 0.0025159680843353273,
339
- 0.0025180160999298097,
340
- 0.0025825281143188475,
341
  0.0025917439460754394,
342
- 0.0026071040630340574,
343
- 0.002668544054031372,
344
- 0.002748415946960449,
345
- 0.0027740159034729006,
346
- 0.002815999984741211,
347
- 0.002698240041732788,
348
- 0.002913280010223389,
349
- 0.0026818559169769288,
350
- 0.0025569279193878173,
351
- 0.0026019840240478517,
 
 
 
 
 
 
 
 
 
352
  0.002598912000656128,
353
- 0.0025620479583740234,
354
- 0.0026449921131134033,
355
- 0.002621504068374634,
356
- 0.0025691840648651124,
357
- 0.0026224639415740967,
358
- 0.0026071040630340574,
359
- 0.002614272117614746,
360
- 0.0026808319091796875,
361
- 0.0026593279838562013,
362
- 0.00265830397605896,
363
- 0.002686975955963135,
364
- 0.002653183937072754,
365
- 0.002624511957168579,
366
- 0.00268287992477417,
367
- 0.002910207986831665,
368
- 0.003403775930404663,
369
- 0.003323904037475586,
370
- 0.0032583680152893065,
371
- 0.0034252800941467283,
372
- 0.0035031039714813234,
373
- 0.003444704055786133,
374
- 0.0031918079853057862,
375
- 0.0027801599502563475,
376
- 0.0028026878833770754,
377
- 0.00273305606842041,
378
- 0.002720832109451294,
379
- 0.0027135999202728273,
380
- 0.0027852799892425536,
381
- 0.0027729918956756593,
382
- 0.002638848066329956,
383
- 0.0027054080963134766,
384
- 0.002702336072921753,
385
- 0.002624511957168579,
386
- 0.00263372802734375,
387
  0.002594815969467163,
388
- 0.002590719938278198,
 
389
  0.002610176086425781,
390
- 0.002577408075332642,
391
- 0.002648063898086548,
392
- 0.002816096067428589,
393
- 0.0028518400192260743,
394
- 0.0027648000717163087,
395
- 0.002746367931365967,
396
- 0.0026982719898223876,
397
- 0.0026920959949493406,
398
- 0.002699264049530029,
399
- 0.002708479881286621,
400
- 0.0026899840831756594,
401
- 0.0026378240585327147,
402
- 0.0026593279838562013,
403
- 0.0026951680183410643,
404
- 0.002648063898086548,
405
- 0.002661375999450684,
406
- 0.00268287992477417,
407
- 0.002654207944869995,
408
- 0.002829312086105347,
409
- 0.0026900479793548586,
410
- 0.0025589120388031005,
411
- 0.002541536092758179,
412
- 0.002603071928024292,
413
- 0.0025374720096588135,
414
- 0.0025681920051574708,
415
- 0.0026194560527801514,
416
- 0.002664448022842407,
417
- 0.0026593279838562013,
418
- 0.0026470398902893066,
419
- 0.0033064959049224855,
420
- 0.0027985920906066896,
421
- 0.0027678720951080323,
422
- 0.002638848066329956,
423
- 0.0025026559829711913,
424
- 0.0024780800342559814,
425
- 0.002465791940689087,
426
- 0.002539520025253296,
427
- 0.0025282559394836424,
428
  0.0025784320831298826,
429
- 0.002993151903152466,
430
- 0.0027586560249328613,
431
- 0.002754591941833496,
432
- 0.0027586560249328613,
433
- 0.002627583980560303,
434
- 0.00265830397605896,
435
- 0.00263372802734375,
436
- 0.0026705920696258544,
437
- 0.0026071040630340574,
438
  0.0025630719661712646,
439
- 0.0025364480018615723,
440
- 0.002471935987472534,
441
- 0.0025231359004974367,
442
- 0.0025077760219573975,
443
- 0.0024688639640808104,
444
- 0.002500607967376709,
445
- 0.0025026559829711913,
446
- 0.002470911979675293,
447
- 0.0024995839595794676,
448
- 0.002472032070159912,
449
- 0.002481152057647705,
450
- 0.002470911979675293,
451
- 0.002446336030960083,
452
- 0.002510848045349121,
453
- 0.002480128049850464,
454
- 0.002519040107727051,
455
- 0.0025558719635009764,
456
- 0.002604032039642334
 
 
457
  ],
458
- "count": 375,
459
- "total": 0.9903488006591799,
460
- "mean": 0.002640930135091146,
461
- "p50": 0.0026265599727630616,
462
- "p90": 0.002798182487487793,
463
- "p95": 0.0028504064083099364,
464
- "p99": 0.003344670729637145,
465
- "stdev": 0.00015674691228341,
466
- "stdev_": 5.935291895860783
467
  },
468
  "throughput": {
469
  "unit": "samples/s",
470
- "value": 757.3089395380671
471
  },
472
  "energy": {
473
  "unit": "kWh",
474
- "cpu": 3.218214414169014e-08,
475
- "ram": 1.7633478505489718e-08,
476
- "gpu": 4.639876554768406e-08,
477
- "total": 9.621438819486376e-08
478
  },
479
  "efficiency": {
480
  "unit": "samples/kWh",
481
- "value": 20786911.78651351
482
  }
483
  }
484
  }
 
2
  "load_model": {
3
  "memory": {
4
  "unit": "MB",
5
+ "max_ram": 1009.152,
6
  "max_global_vram": 595.06688,
7
  "max_process_vram": 0.0,
8
  "max_reserved": 2.097152,
 
11
  "latency": {
12
  "unit": "s",
13
  "values": [
14
+ 0.2729246826171875
15
  ],
16
  "count": 1,
17
+ "total": 0.2729246826171875,
18
+ "mean": 0.2729246826171875,
19
+ "p50": 0.2729246826171875,
20
+ "p90": 0.2729246826171875,
21
+ "p95": 0.2729246826171875,
22
+ "p99": 0.2729246826171875,
23
  "stdev": 0,
24
  "stdev_": 0
25
  },
26
  "throughput": null,
27
  "energy": {
28
  "unit": "kWh",
29
+ "cpu": 0.0001214330215597227,
30
+ "ram": 5.7143879250000076e-05,
31
+ "gpu": 0.00017856375396199968,
32
+ "total": 0.00035714065477172245
33
  },
34
  "efficiency": null
35
  },
36
  "first_forward": {
37
  "memory": {
38
  "unit": "MB",
39
+ "max_ram": 1169.661952,
40
  "max_global_vram": 670.564352,
41
  "max_process_vram": 0.0,
42
  "max_reserved": 23.068672,
 
45
  "latency": {
46
  "unit": "s",
47
  "values": [
48
+ 0.10776473236083985
49
  ],
50
  "count": 1,
51
+ "total": 0.10776473236083985,
52
+ "mean": 0.10776473236083985,
53
+ "p50": 0.10776473236083985,
54
+ "p90": 0.10776473236083985,
55
+ "p95": 0.10776473236083985,
56
+ "p99": 0.10776473236083985,
57
  "stdev": 0,
58
  "stdev_": 0
59
  },
60
  "throughput": null,
61
  "energy": {
62
  "unit": "kWh",
63
+ "cpu": 0.00011982242507916634,
64
+ "ram": 5.638598421666675e-05,
65
+ "gpu": 0.00017801958686000045,
66
+ "total": 0.00035422799615583353
67
  },
68
  "efficiency": null
69
  },
70
  "forward": {
71
  "memory": {
72
  "unit": "MB",
73
+ "max_ram": 1176.211456,
74
  "max_global_vram": 670.564352,
75
  "max_process_vram": 0.0,
76
  "max_reserved": 23.068672,
 
79
  "latency": {
80
  "unit": "s",
81
  "values": [
82
+ 0.0029962239265441896,
83
+ 0.0028559041023254396,
84
+ 0.0028026878833770754,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
85
  0.0028446719646453857,
86
+ 0.0029061119556427002,
87
+ 0.0028979198932647704,
88
+ 0.0029573121070861816,
89
+ 0.0029235200881958007,
90
+ 0.0028979198932647704,
91
+ 0.0028641281127929686,
92
+ 0.0029419519901275636,
93
+ 0.0029184000492095945,
94
+ 0.0029071359634399415,
95
+ 0.0028579840660095217,
96
+ 0.002894848108291626,
97
+ 0.002875391960144043,
98
+ 0.0031539199352264404,
99
+ 0.004673535823822021,
100
+ 0.004104191780090332,
101
+ 0.004085760116577148,
102
+ 0.0040653119087219235,
103
+ 0.004080639839172363,
104
+ 0.004081664085388184,
105
+ 0.0038143999576568605,
106
+ 0.0025118720531463624,
107
+ 0.002455552101135254,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
108
  0.0024821760654449463,
109
+ 0.00243507194519043,
110
+ 0.0024729599952697753,
111
+ 0.002470911979675293,
112
+ 0.0024934399127960207,
113
+ 0.002461695909500122,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
114
  0.002465791940689087,
115
+ 0.002442239999771118,
116
+ 0.002461695909500122,
117
+ 0.0024576001167297364,
118
+ 0.0025364480018615723,
119
  0.0024832000732421876,
120
+ 0.0024330239295959474,
 
 
 
 
 
 
 
 
 
121
  0.0024862720966339113,
122
+ 0.0025221118927001955,
123
+ 0.0024637439250946047,
124
+ 0.002447360038757324,
125
+ 0.002417664051055908,
126
+ 0.0024524800777435303,
127
+ 0.002450432062149048,
128
+ 0.0024289278984069825,
129
+ 0.002461695909500122,
130
+ 0.0024238080978393555,
131
+ 0.0033505280017852783,
132
+ 0.00248524808883667,
133
+ 0.002464767932891846,
134
+ 0.0024524800777435303,
135
+ 0.002470911979675293,
136
+ 0.002425856113433838,
137
  0.0025231359004974367,
138
+ 0.0024494080543518066,
139
+ 0.0024299840927124025,
140
  0.002460671901702881,
141
+ 0.0024483840465545654,
142
+ 0.002433056116104126,
143
+ 0.0024679040908813475,
144
+ 0.0024340479373931886,
145
+ 0.002469919919967651,
146
+ 0.002451456069946289,
147
+ 0.0024371199607849123,
148
+ 0.0024596478939056397,
149
+ 0.0024371199607849123,
150
  0.002436095952987671,
151
+ 0.0024596478939056397,
152
+ 0.002430975914001465,
153
+ 0.002471935987472534,
154
+ 0.002456576108932495,
155
+ 0.0024330239295959474,
156
+ 0.0024494080543518066,
157
+ 0.002416640043258667,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
158
  0.0026419200897216796,
159
+ 0.0024698879718780516,
160
+ 0.002431999921798706,
161
+ 0.0024780800342559814,
162
+ 0.002438112020492554,
163
+ 0.002441215991973877,
164
+ 0.002466815948486328,
165
+ 0.002418623924255371,
166
+ 0.002464767932891846,
167
+ 0.0024872961044311525,
168
+ 0.0024330239295959474,
169
+ 0.0024524800777435303,
170
+ 0.0024453120231628417,
171
+ 0.0024248321056365967,
172
+ 0.002461632013320923,
173
+ 0.002420736074447632,
174
+ 0.0024483840465545654,
175
+ 0.0024401919841766356,
176
+ 0.0024238080978393555,
177
+ 0.002446336030960083,
178
+ 0.0024186880588531494,
179
+ 0.0024391679763793943,
180
+ 0.0024432640075683592,
181
+ 0.0024227840900421143,
182
+ 0.002464767932891846,
183
+ 0.002446336030960083,
184
+ 0.002419680118560791,
185
+ 0.002442239999771118,
186
+ 0.002417664051055908,
187
+ 0.002455552101135254,
188
+ 0.0024432640075683592,
189
+ 0.002420736074447632,
190
+ 0.0024483840465545654,
191
+ 0.0024104959964752195,
192
+ 0.002450432062149048,
193
+ 0.0024442880153656005,
194
+ 0.0024238080978393555,
195
+ 0.0024576001167297364,
196
+ 0.0024494080543518066,
197
+ 0.002430975914001465,
198
+ 0.0024739840030670165,
199
+ 0.0024330239295959474,
200
+ 0.0024596478939056397,
201
+ 0.0024627199172973634,
202
+ 0.0024483840465545654,
203
+ 0.002466815948486328,
204
+ 0.002446336030960083,
205
+ 0.0024535040855407715,
206
+ 0.002470911979675293,
207
+ 0.00242793607711792,
208
+ 0.0024678719043731688,
209
+ 0.0024637439250946047,
210
+ 0.0024739840030670165,
211
+ 0.002455552101135254,
212
+ 0.002417664051055908,
213
+ 0.0024453120231628417,
214
+ 0.0024453120231628417,
215
+ 0.0024238080978393555,
216
+ 0.0024494080543518066,
217
+ 0.0024483840465545654,
218
+ 0.002421760082244873,
219
+ 0.0024586238861083985,
220
+ 0.002413568019866943,
221
+ 0.002451456069946289,
222
+ 0.0024391679763793943,
223
+ 0.17025843811035157,
224
  0.0026255359649658204,
225
+ 0.002496511936187744,
226
+ 0.0024985599517822264,
227
+ 0.002603071928024292,
228
+ 0.002561023950576782,
229
+ 0.0026449921131134033,
230
+ 0.0025958399772644043,
231
+ 0.0025620479583740234,
232
+ 0.0025866239070892333,
233
+ 0.0025753600597381594,
234
+ 0.0026552319526672364,
235
+ 0.0025866239070892333,
236
+ 0.002574336051940918,
237
+ 0.0025661439895629883,
238
+ 0.0026552319526672364,
239
+ 0.002569216012954712,
240
+ 0.002555903911590576,
241
+ 0.0025763840675354006,
242
+ 0.002579456090927124,
243
+ 0.0025589759349822997,
244
+ 0.0025722880363464357,
245
+ 0.0025518081188201903,
246
+ 0.002548736095428467,
247
+ 0.002579456090927124,
248
+ 0.0025425279140472413,
249
+ 0.0025518081188201903,
250
+ 0.0025712640285491944,
251
+ 0.002535423994064331,
252
+ 0.0025825281143188475,
253
+ 0.0025876479148864745,
254
+ 0.002766848087310791,
255
  0.0026224639415740967,
256
+ 0.0025999360084533693,
257
+ 0.0034959359169006348,
258
+ 0.0025835518836975096,
259
+ 0.0026081280708312986,
260
+ 0.0025886719226837157,
261
+ 0.002569216012954712,
262
+ 0.002603008031845093,
263
+ 0.0028548479080200196,
264
+ 0.0026368000507354735,
265
+ 0.0025814719200134275,
266
+ 0.0025620479583740234,
267
+ 0.002555903911590576,
268
+ 0.002619391918182373,
269
+ 0.002564095973968506,
270
+ 0.0025477120876312258,
271
+ 0.002594815969467163,
272
+ 0.0025815041065216063,
273
+ 0.002598912000656128,
274
+ 0.0025712640285491944,
275
+ 0.00252620792388916,
276
+ 0.0025528318881988523,
277
+ 0.0025630719661712646,
278
+ 0.0025374720096588135,
279
+ 0.0025886719226837157,
280
+ 0.0025671679973602295,
281
+ 0.0025364480018615723,
282
+ 0.0025712640285491944,
283
+ 0.002561023950576782,
284
+ 0.0025702400207519532,
285
  0.002577408075332642,
286
+ 0.002574336051940918,
287
+ 0.002555903911590576,
288
+ 0.002573312044143677,
289
+ 0.0025589759349822997,
290
+ 0.002540544033050537,
291
+ 0.002584575891494751,
292
+ 0.0025528318881988523,
293
+ 0.0025815041065216063,
294
+ 0.0025712640285491944,
295
+ 0.0025569279193878173,
296
+ 0.002579456090927124,
297
+ 0.002561023950576782,
298
+ 0.0025815041065216063,
299
+ 0.0025886719226837157,
300
+ 0.0025661439895629883,
301
+ 0.0025425920486450196,
302
+ 0.0025722880363464357,
303
+ 0.0025630719661712646,
304
+ 0.0025477120876312258,
305
+ 0.0025866239070892333,
306
+ 0.0025589759349822997,
307
+ 0.0025456640720367433,
308
+ 0.0025958399772644043,
309
+ 0.002573312044143677,
310
+ 0.002550784111022949,
311
+ 0.002786303997039795,
312
+ 0.0025507519245147707,
313
+ 0.0025518081188201903,
314
+ 0.002603008031845093,
315
+ 0.002531327962875366,
316
+ 0.0025958399772644043,
317
+ 0.0026122241020202636,
318
+ 0.002535423994064331,
319
+ 0.002604991912841797,
320
+ 0.002597887992858887,
321
+ 0.002553920030593872,
322
+ 0.0025681920051574708,
323
+ 0.0025630719661712646,
324
+ 0.002559999942779541,
325
+ 0.002579456090927124,
326
+ 0.0025589759349822997,
327
+ 0.0025702400207519532,
328
+ 0.0025763840675354006,
329
+ 0.002559999942779541,
330
+ 0.0026890239715576174,
331
+ 0.002585599899291992,
332
+ 0.0025620479583740234,
333
+ 0.0025425920486450196,
334
+ 0.0026204159259796142,
335
+ 0.0025477120876312258,
336
+ 0.0025886719226837157,
337
+ 0.002574336051940918,
338
+ 0.0025374720096588135,
339
+ 0.0025917439460754394,
340
  0.002573312044143677,
 
 
 
 
341
  0.002565119981765747,
342
+ 0.0026255359649658204,
 
 
343
  0.0025917439460754394,
344
+ 0.0025477120876312258,
345
+ 0.002642944097518921,
346
+ 0.0026675200462341307,
347
+ 0.0026009600162506105,
348
+ 0.0026460158824920654,
349
+ 0.002613248109817505,
350
+ 0.002593791961669922,
351
+ 0.0025968639850616456,
352
+ 0.0025712640285491944,
353
+ 0.002543616056442261,
354
+ 0.002594815969467163,
355
+ 0.002584575891494751,
356
+ 0.0025466880798339846,
357
+ 0.0025968639850616456,
358
+ 0.002561023950576782,
359
+ 0.002540544033050537,
360
+ 0.0025825281143188475,
361
+ 0.0025241599082946775,
362
+ 0.002590751886367798,
363
  0.002598912000656128,
364
+ 0.0025292799472808837,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
365
  0.002594815969467163,
366
+ 0.0025732800960540773,
367
+ 0.0025528318881988523,
368
  0.002610176086425781,
369
+ 0.002573312044143677,
370
+ 0.0025589759349822997,
371
+ 0.0025835518836975096,
372
+ 0.002584575891494751,
373
+ 0.002543616056442261,
374
+ 0.002614272117614746,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
375
  0.0025784320831298826,
376
+ 0.0025538558959960936,
377
+ 0.002589695930480957,
378
+ 0.002565119981765747,
 
 
 
 
 
 
379
  0.0025630719661712646,
380
+ 0.0025835518836975096,
381
+ 0.0025384960174560547,
382
+ 0.002569216012954712,
383
+ 0.002569216012954712,
384
+ 0.0025630719661712646,
385
+ 0.0026071040630340574,
386
+ 0.0025722880363464357,
387
+ 0.0025477120876312258,
388
+ 0.0026296319961547853,
389
+ 0.0025661439895629883,
390
+ 0.0025497279167175295,
391
+ 0.002579456090927124,
392
+ 0.002554879903793335,
393
+ 0.0025538558959960936,
394
+ 0.0025682239532470704,
395
+ 0.0025671679973602295,
396
+ 0.0025579519271850585,
397
+ 0.0025835518836975096,
398
+ 0.0025538558959960936,
399
+ 0.002585599899291992
400
  ],
401
+ "count": 318,
402
+ "total": 0.9913302135467534,
403
+ "mean": 0.003117390608637588,
404
+ "p50": 0.002556415915489197,
405
+ "p90": 0.0026589183807373047,
406
+ "p95": 0.002908825576305389,
407
+ "p99": 0.004085063791275024,
408
+ "stdev": 0.009391405148742872,
409
+ "stdev_": 301.2585308597967
410
  },
411
  "throughput": {
412
  "unit": "samples/s",
413
+ "value": 641.5622073340601
414
  },
415
  "energy": {
416
  "unit": "kWh",
417
+ "cpu": 2.9375891201406673e-08,
418
+ "ram": 1.382066958919257e-08,
419
+ "gpu": 4.526058211414395e-08,
420
+ "total": 8.845714290474316e-08
421
  },
422
  "efficiency": {
423
  "unit": "samples/kWh",
424
+ "value": 22609819.109280296
425
  }
426
  }
427
  }