IlyasMoutawwakil HF Staff commited on
Commit
d5c630f
·
verified ·
1 Parent(s): 8e88ff2

Upload cuda_inference_transformers_fill-mask_hf-internal-testing/tiny-random-BertModel/benchmark_report.json with huggingface_hub

Browse files
cuda_inference_transformers_fill-mask_hf-internal-testing/tiny-random-BertModel/benchmark_report.json CHANGED
@@ -2,41 +2,41 @@
2
  "load_model": {
3
  "memory": {
4
  "unit": "MB",
5
- "max_ram": 815.108096,
6
- "max_global_vram": 639.107072,
7
  "max_process_vram": 0.0,
8
  "max_reserved": 2.097152,
9
- "max_allocated": 0.534528
10
  },
11
  "latency": {
12
  "unit": "s",
13
  "values": [
14
- 0.05326847839355469
15
  ],
16
  "count": 1,
17
- "total": 0.05326847839355469,
18
- "mean": 0.05326847839355469,
19
- "p50": 0.05326847839355469,
20
- "p90": 0.05326847839355469,
21
- "p95": 0.05326847839355469,
22
- "p99": 0.05326847839355469,
23
  "stdev": 0,
24
  "stdev_": 0
25
  },
26
  "throughput": null,
27
  "energy": {
28
  "unit": "kWh",
29
- "cpu": 9.806133058611128e-05,
30
- "ram": 4.6145561772222104e-05,
31
- "gpu": 0.0001350398302540001,
32
- "total": 0.0002792467226123335
33
  },
34
  "efficiency": null
35
  },
36
  "first_forward": {
37
  "memory": {
38
  "unit": "MB",
39
- "max_ram": 1052.213248,
40
  "max_global_vram": 670.564352,
41
  "max_process_vram": 0.0,
42
  "max_reserved": 23.068672,
@@ -45,32 +45,32 @@
45
  "latency": {
46
  "unit": "s",
47
  "values": [
48
- 0.15373619079589843
49
  ],
50
  "count": 1,
51
- "total": 0.15373619079589843,
52
- "mean": 0.15373619079589843,
53
- "p50": 0.15373619079589843,
54
- "p90": 0.15373619079589843,
55
- "p95": 0.15373619079589843,
56
- "p99": 0.15373619079589843,
57
  "stdev": 0,
58
  "stdev_": 0
59
  },
60
  "throughput": null,
61
  "energy": {
62
  "unit": "kWh",
63
- "cpu": 9.891497327291666e-05,
64
- "ram": 4.6547049861110974e-05,
65
- "gpu": 0.00013621705341799995,
66
- "total": 0.0002816790765520276
67
  },
68
  "efficiency": null
69
  },
70
  "forward": {
71
  "memory": {
72
  "unit": "MB",
73
- "max_ram": 1053.14304,
74
  "max_global_vram": 670.564352,
75
  "max_process_vram": 0.0,
76
  "max_reserved": 23.068672,
@@ -79,400 +79,394 @@
79
  "latency": {
80
  "unit": "s",
81
  "values": [
82
- 0.0030003199577331545,
83
- 0.002859008073806763,
84
- 0.0030003199577331545,
85
- 0.0030556159019470217,
86
- 0.0030023679733276365,
87
- 0.0029614078998565674,
88
- 0.00301363205909729,
89
- 0.0030105600357055663,
90
- 0.0030064640045166014,
91
- 0.002959359884262085,
92
- 0.0029409279823303224,
93
- 0.0029573121070861816,
94
- 0.0029276158809661865,
95
- 0.00291430401802063,
96
- 0.002899967908859253,
97
  0.002942975997924805,
98
- 0.0027924480438232422,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
99
  0.002761728048324585,
100
- 0.0027699520587921144,
101
- 0.0027443199157714845,
102
- 0.002723839998245239,
103
- 0.0027289600372314453,
104
- 0.0026204159259796142,
105
- 0.002573312044143677,
106
- 0.002539520025253296,
107
- 0.0025415680408477784,
108
- 0.002514944076538086,
109
- 0.002550784111022949,
110
- 0.0025456640720367433,
111
- 0.0025518081188201903,
112
- 0.0026460158824920654,
113
- 0.002645024061203003,
114
- 0.0025835518836975096,
115
- 0.0026204159259796142,
116
- 0.0026009600162506105,
117
- 0.0025190720558166506,
118
- 0.0024913918972015382,
119
- 0.0024872961044311525,
120
- 0.002451456069946289,
121
- 0.0024934399127960207,
122
- 0.002471935987472534,
123
- 0.002494463920593262,
124
- 0.0024985599517822264,
125
- 0.002489343881607056,
126
- 0.0025436480045318605,
127
- 0.0025282559394836424,
128
- 0.0025282559394836424,
129
- 0.0025231359004974367,
130
- 0.0025528318881988523,
131
- 0.0025251839160919188,
132
- 0.002619391918182373,
133
- 0.0026839039325714112,
134
- 0.0026316800117492677,
135
  0.0026859519481658937,
136
- 0.0026798079013824463,
137
- 0.002627583980560303,
138
- 0.002615295886993408,
139
- 0.002649087905883789,
140
- 0.0025927679538726807,
141
- 0.0026296319961547853,
142
- 0.0026306560039520265,
143
- 0.00253439998626709,
144
- 0.002520064115524292,
145
- 0.00249452805519104,
146
- 0.0024985599517822264,
147
- 0.002510848045349121,
148
- 0.002489408016204834,
149
- 0.0025528318881988523,
150
- 0.0025825281143188475,
151
- 0.0026449921131134033,
152
- 0.0027146239280700685,
153
- 0.002669568061828613,
154
- 0.002632704019546509,
155
  0.002669568061828613,
156
- 0.0026265599727630616,
157
- 0.0026173439025878906,
158
- 0.002648031949996948,
159
- 0.002627583980560303,
160
- 0.0026368000507354735,
161
- 0.002655296087265015,
162
- 0.002623487949371338,
163
- 0.002643968105316162,
164
  0.002708479881286621,
165
- 0.0026654720306396483,
166
- 0.0025722880363464357,
167
- 0.0025620479583740234,
168
- 0.002590719938278198,
169
- 0.0025425920486450196,
170
- 0.0025815041065216063,
171
- 0.002579456090927124,
172
- 0.0027504639625549315,
173
- 0.002796544075012207,
174
- 0.002742271900177002,
175
- 0.002717695951461792,
176
- 0.0027965118885040284,
177
- 0.002762752056121826,
178
- 0.002849792003631592,
179
  0.0027514879703521727,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
180
  0.0027545599937438964,
 
 
 
 
 
 
 
 
 
 
181
  0.002702336072921753,
182
- 0.0026060159206390382,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
183
  0.002642944097518921,
184
- 0.00263372802734375,
185
- 0.0025968639850616456,
186
- 0.002623487949371338,
187
- 0.002624511957168579,
188
- 0.0026009600162506105,
189
- 0.0026716160774230956,
190
- 0.0026716160774230956,
191
- 0.0026664960384368895,
192
- 0.002686975955963135,
193
- 0.0029419519901275636,
194
- 0.0026767361164093018,
195
  0.0026920959949493406,
196
- 0.002678783893585205,
197
- 0.002663392066955566,
198
- 0.002702336072921753,
199
  0.0026890239715576174,
 
 
200
  0.002706432104110718,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
201
  0.0026746881008148193,
202
- 0.0026808319091796875,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
203
  0.0026951680183410643,
204
- 0.0027187199592590334,
205
  0.0027248640060424803,
206
- 0.0027791359424591063,
207
- 0.002769920110702515,
208
- 0.002821120023727417,
209
- 0.0028354558944702147,
210
- 0.002820096015930176,
211
- 0.002840575933456421,
212
- 0.002826240062713623,
213
- 0.002850816011428833,
214
- 0.0027893760204315186,
215
- 0.002826240062713623,
216
- 0.002826240062713623,
217
- 0.002846719980239868,
218
- 0.002723839998245239,
219
- 0.002716671943664551,
220
- 0.0027514879703521727,
221
- 0.0026808319091796875,
222
- 0.0026337919235229494,
223
- 0.002653183937072754,
224
- 0.0025968639850616456,
225
- 0.0026746881008148193,
226
- 0.0027934720516204835,
227
- 0.0027688961029052736,
228
- 0.0028129279613494872,
229
- 0.002800640106201172,
230
- 0.002736128091812134,
231
- 0.002705440044403076,
232
- 0.002672640085220337,
233
- 0.0027289600372314453,
234
- 0.002712608098983765,
235
- 0.002736128091812134,
236
- 0.0027514879703521727,
237
  0.0027494399547576902,
238
- 0.0027289600372314453,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
239
  0.002648063898086548,
240
- 0.002614272117614746,
241
- 0.0026378240585327147,
242
- 0.002619391918182373,
243
- 0.0026470398902893066,
244
- 0.0026910719871521,
245
- 0.002677759885787964,
246
- 0.002662400007247925,
247
- 0.0026900479793548586,
 
 
 
248
  0.0026449921131134033,
249
- 0.002615295886993408,
250
- 0.002648063898086548,
251
- 0.0026255359649658204,
252
- 0.002638848066329956,
253
- 0.0026716160774230956,
254
- 0.0027443199157714845,
255
- 0.0028149759769439697,
256
- 0.002866175889968872,
257
- 0.0028682239055633544,
258
  0.002707456111907959,
259
- 0.002624511957168579,
260
- 0.00349183988571167,
261
- 0.0027054080963134766,
262
- 0.002613248109817505,
263
- 0.002623487949371338,
264
- 0.002632704019546509,
265
- 0.002598912000656128,
266
- 0.0026675200462341307,
267
- 0.0026757121086120605,
268
- 0.0026818559169769288,
269
- 0.002654207944869995,
270
- 0.002659264087677002,
271
- 0.0026798079013824463,
272
  0.002638848066329956,
 
 
 
 
 
 
 
 
 
273
  0.002668544054031372,
274
- 0.0026890239715576174,
275
- 0.0026746881008148193,
276
- 0.0026849279403686525,
 
 
 
 
 
 
 
 
277
  0.0026900479793548586,
278
- 0.0026593279838562013,
279
- 0.0026654720306396483,
280
- 0.0026675200462341307,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
281
  0.002642944097518921,
282
- 0.00265830397605896,
283
- 0.002649087905883789,
284
- 0.002638848066329956,
285
- 0.002708479881286621,
286
- 0.002769920110702515,
287
- 0.002795520067214966,
288
- 0.002859008073806763,
289
- 0.002905087947845459,
290
- 0.002896895885467529,
291
- 0.0028016641139984133,
292
- 0.0028181118965148926,
293
- 0.0028436479568481445,
294
- 0.0028477439880371094,
295
- 0.0028743679523468017,
296
- 0.0028538880348205568,
297
- 0.0028129279613494872,
298
- 0.002694144010543823,
 
 
 
 
 
 
299
  0.0027002880573272704,
300
- 0.0027207679748535154,
301
- 0.002712575912475586,
302
- 0.0027648000717163087,
303
- 0.002769920110702515,
304
- 0.002723839998245239,
305
- 0.0026654720306396483,
306
- 0.0026593279838562013,
307
- 0.00260915207862854,
308
- 0.0026562559604644776,
309
- 0.0028180480003356934,
310
- 0.0027924480438232422,
311
  0.0026419200897216796,
312
- 0.002634752035140991,
313
- 0.0026204159259796142,
314
- 0.0025876479148864745,
315
- 0.0026255359649658204,
316
- 0.0026440000534057617,
317
- 0.002597887992858887,
318
- 0.002606080055236816,
319
- 0.002615295886993408,
320
- 0.002580480098724365,
321
- 0.002654207944869995,
322
- 0.002686975955963135,
323
- 0.002662400007247925,
324
- 0.0030955519676208495,
325
- 0.0027637760639190674,
326
- 0.0026122241020202636,
327
- 0.002628607988357544,
328
- 0.0025968639850616456,
329
- 0.003086335897445679,
330
- 0.003226624011993408,
331
- 0.002972671985626221,
332
- 0.0026296319961547853,
333
- 0.0028723199367523193,
334
- 0.0028733439445495605,
335
- 0.0026347839832305906,
336
- 0.0025876479148864745,
337
- 0.0026368639469146727,
338
  0.002643968105316162,
339
- 0.00260915207862854,
340
  0.0026818559169769288,
341
- 0.002677759885787964,
342
- 0.002619391918182373,
343
- 0.0026767361164093018,
344
- 0.0026951680183410643,
345
- 0.002657279968261719,
 
 
 
 
 
 
 
 
346
  0.0027146239280700685,
347
- 0.002831360101699829,
348
  0.002748415946960449,
349
- 0.0031600639820098878,
350
- 0.002883584022521973,
351
- 0.0027801599502563475,
352
- 0.0026501119136810303,
353
- 0.0025927679538726807,
354
- 0.0026050560474395754,
355
- 0.0028723199367523193,
356
- 0.0025702400207519532,
357
- 0.0026214399337768555,
358
- 0.0026163198947906493,
359
- 0.0025784320831298826,
360
- 0.002627583980560303,
361
- 0.002584575891494751,
362
- 0.0025917439460754394,
363
- 0.0026378240585327147,
364
- 0.0025753600597381594,
365
- 0.0026122241020202636,
366
- 0.0026296319961547853,
367
- 0.0025927679538726807,
368
- 0.0026255359649658204,
369
- 0.00260915207862854,
370
- 0.002574336051940918,
371
- 0.0026163198947906493,
372
- 0.002597887992858887,
373
- 0.002564095973968506,
374
- 0.0026122241020202636,
375
- 0.00260915207862854,
376
- 0.002573312044143677,
377
- 0.0026880319118499757,
378
- 0.002606080055236816,
379
- 0.0025763840675354006,
380
- 0.0026102080345153807,
381
- 0.002585599899291992,
382
- 0.0025753600597381594,
383
- 0.002593791961669922,
384
- 0.002649087905883789,
385
- 0.0029224960803985595,
386
- 0.002661375999450684,
387
- 0.0025968639850616456,
388
- 0.0025763840675354006,
389
- 0.002615295886993408,
390
- 0.0025958399772644043,
391
- 0.0025763840675354006,
392
- 0.002598912000656128,
393
- 0.0025886719226837157,
394
- 0.002580480098724365,
395
- 0.0025671679973602295,
396
- 0.0026019840240478517,
397
- 0.002577408075332642,
398
- 0.002585599899291992,
399
- 0.002590719938278198,
400
- 0.0025763840675354006,
401
- 0.002594815969467163,
402
- 0.002610176086425781,
403
- 0.0026122241020202636,
404
- 0.002849792003631592,
405
- 0.0026357760429382322,
406
- 0.0025815041065216063,
407
- 0.002639872074127197,
408
- 0.002623487949371338,
409
- 0.0025999360084533693,
410
- 0.002610176086425781,
411
- 0.002624511957168579,
412
- 0.002584575891494751,
413
- 0.0026019840240478517,
414
- 0.002584575891494751,
415
- 0.002584575891494751,
416
- 0.002612191915512085,
417
- 0.002603008031845093,
418
- 0.002598912000656128,
419
- 0.0025906879901885986,
420
- 0.0025825281143188475,
421
- 0.002627583980560303,
422
- 0.002594815969467163,
423
- 0.0026163198947906493,
424
- 0.002606080055236816,
425
- 0.0025959041118621827,
426
- 0.002597887992858887,
427
- 0.0026112000942230223,
428
- 0.002628607988357544,
429
- 0.0025835518836975096,
430
- 0.002615295886993408,
431
- 0.002603008031845093,
432
- 0.002587615966796875,
433
- 0.0026081600189208983,
434
- 0.002603008031845093,
435
- 0.0025927999019622803,
436
- 0.0026163198947906493,
437
- 0.00260915207862854,
438
- 0.0025886719226837157,
439
- 0.0026019840240478517,
440
- 0.0026050560474395754,
441
- 0.0025702400207519532,
442
- 0.002604032039642334,
443
- 0.0025999360084533693,
444
- 0.002606080055236816,
445
- 0.0026009600162506105,
446
- 0.0026019840240478517,
447
- 0.002589695930480957,
448
- 0.002600895881652832,
449
- 0.0026255359649658204,
450
- 0.002634752035140991
451
  ],
452
- "count": 369,
453
- "total": 0.9883908472061147,
454
- "mean": 0.00267856598158839,
455
- "p50": 0.0026419200897216796,
456
- "p90": 0.002849792003631592,
457
- "p95": 0.0029356031417846675,
458
- "p99": 0.0030892850399017336,
459
- "stdev": 0.0001273070788407616,
460
- "stdev_": 4.752807275080395
461
  },
462
  "throughput": {
463
  "unit": "samples/s",
464
- "value": 746.6681850465374
465
  },
466
  "energy": {
467
  "unit": "kWh",
468
- "cpu": 3.059598161521312e-08,
469
- "ram": 1.4394251986183234e-08,
470
- "gpu": 4.4428648093264125e-08,
471
- "total": 8.941888169466055e-08
472
  },
473
  "efficiency": {
474
  "unit": "samples/kWh",
475
- "value": 22366640.71498252
476
  }
477
  }
478
  }
 
2
  "load_model": {
3
  "memory": {
4
  "unit": "MB",
5
+ "max_ram": 936.349696,
6
+ "max_global_vram": 592.969728,
7
  "max_process_vram": 0.0,
8
  "max_reserved": 2.097152,
9
+ "max_allocated": 0.389632
10
  },
11
  "latency": {
12
  "unit": "s",
13
  "values": [
14
+ 0.04890828704833984
15
  ],
16
  "count": 1,
17
+ "total": 0.04890828704833984,
18
+ "mean": 0.04890828704833984,
19
+ "p50": 0.04890828704833984,
20
+ "p90": 0.04890828704833984,
21
+ "p95": 0.04890828704833984,
22
+ "p99": 0.04890828704833984,
23
  "stdev": 0,
24
  "stdev_": 0
25
  },
26
  "throughput": null,
27
  "energy": {
28
  "unit": "kWh",
29
+ "cpu": 0.00011721285455277754,
30
+ "ram": 5.515744995555533e-05,
31
+ "gpu": 0.00016505818760200017,
32
+ "total": 0.00033742849211033303
33
  },
34
  "efficiency": null
35
  },
36
  "first_forward": {
37
  "memory": {
38
  "unit": "MB",
39
+ "max_ram": 1194.385408,
40
  "max_global_vram": 670.564352,
41
  "max_process_vram": 0.0,
42
  "max_reserved": 23.068672,
 
45
  "latency": {
46
  "unit": "s",
47
  "values": [
48
+ 0.16990310668945313
49
  ],
50
  "count": 1,
51
+ "total": 0.16990310668945313,
52
+ "mean": 0.16990310668945313,
53
+ "p50": 0.16990310668945313,
54
+ "p90": 0.16990310668945313,
55
+ "p95": 0.16990310668945313,
56
+ "p99": 0.16990310668945313,
57
  "stdev": 0,
58
  "stdev_": 0
59
  },
60
  "throughput": null,
61
  "energy": {
62
  "unit": "kWh",
63
+ "cpu": 0.0001194751577208336,
64
+ "ram": 5.622268300555568e-05,
65
+ "gpu": 0.00016816846786799977,
66
+ "total": 0.00034386630859438905
67
  },
68
  "efficiency": null
69
  },
70
  "forward": {
71
  "memory": {
72
  "unit": "MB",
73
+ "max_ram": 1201.537024,
74
  "max_global_vram": 670.564352,
75
  "max_process_vram": 0.0,
76
  "max_reserved": 23.068672,
 
79
  "latency": {
80
  "unit": "s",
81
  "values": [
82
+ 0.0030218238830566407,
83
+ 0.0028887040615081785,
 
 
 
 
 
 
 
 
 
 
 
 
 
84
  0.002942975997924805,
85
+ 0.0028231680393218995,
86
+ 0.0029132161140441896,
87
+ 0.002991136074066162,
88
+ 0.0029624319076538086,
89
+ 0.0029122560024261476,
90
+ 0.002945024013519287,
91
+ 0.0029419519901275636,
92
+ 0.002925568103790283,
93
+ 0.002925568103790283,
94
+ 0.002933759927749634,
95
+ 0.0030013439655303957,
96
+ 0.0029224960803985595,
97
+ 0.0029276158809661865,
98
+ 0.0033822720050811768,
99
+ 0.0030976641178131104,
100
+ 0.003004607915878296,
101
+ 0.002950144052505493,
102
+ 0.003405791997909546,
103
+ 0.00275763201713562,
104
+ 0.0026182401180267333,
105
+ 0.0025712640285491944,
106
+ 0.0025968639850616456,
107
+ 0.0025887680053710937,
108
+ 0.0027351040840148926,
109
+ 0.002747456073760986,
110
  0.002761728048324585,
111
+ 0.002736128091812134,
112
+ 0.002771967887878418,
113
+ 0.00276582407951355,
114
+ 0.002725856065750122,
115
+ 0.0027381761074066163,
116
+ 0.0027628159523010254,
117
+ 0.002736128091812134,
118
+ 0.002741247892379761,
119
+ 0.002727936029434204,
120
+ 0.002749376058578491,
121
+ 0.0026818559169769288,
122
+ 0.0031509759426116943,
123
+ 0.0027924480438232422,
124
+ 0.002686880111694336,
125
+ 0.00273088002204895,
126
+ 0.0027473599910736086,
127
+ 0.0026920959949493406,
128
+ 0.0027607040405273437,
129
+ 0.0027586560249328613,
130
+ 0.002753535985946655,
131
+ 0.0027013120651245117,
132
+ 0.0027648000717163087,
133
+ 0.0027648000717163087,
 
 
 
 
 
 
 
 
 
 
 
 
134
  0.0026859519481658937,
135
+ 0.002748415946960449,
136
+ 0.002756608009338379,
137
+ 0.0026972160339355468,
138
+ 0.0027299840450286865,
139
+ 0.002747391939163208,
140
+ 0.00265830397605896,
141
+ 0.0026900479793548586,
142
+ 0.002711551904678345,
143
+ 0.0026603519916534426,
144
+ 0.0026767361164093018,
145
+ 0.0027187199592590334,
146
+ 0.002698240041732788,
 
 
 
 
 
 
 
147
  0.002669568061828613,
148
+ 0.002707456111907959,
149
+ 0.0027289600372314453,
150
+ 0.002654207944869995,
151
+ 0.0027217919826507567,
 
 
 
 
152
  0.002708479881286621,
153
+ 0.002642944097518921,
154
+ 0.002703360080718994,
155
+ 0.0027135999202728273,
156
+ 0.002639872074127197,
157
+ 0.0027043840885162354,
158
+ 0.002726912021636963,
159
+ 0.0026798079013824463,
160
+ 0.0027463040351867678,
161
+ 0.002776063919067383,
162
+ 0.002686975955963135,
163
+ 0.0027207679748535154,
 
 
 
164
  0.0027514879703521727,
165
+ 0.0027289600372314453,
166
+ 0.0026890239715576174,
167
+ 0.0027555840015411376,
168
+ 0.0027494399547576902,
169
+ 0.002686975955963135,
170
+ 0.002769920110702515,
171
+ 0.002746367931365967,
172
+ 0.002698240041732788,
173
+ 0.0027494399547576902,
174
+ 0.00273305606842041,
175
+ 0.0026982080936431884,
176
+ 0.002722815990447998,
177
+ 0.002742271900177002,
178
+ 0.0026839039325714112,
179
+ 0.0027351360321044922,
180
  0.0027545599937438964,
181
+ 0.0027299840450286865,
182
+ 0.0026766719818115234,
183
+ 0.002752511978149414,
184
+ 0.0027381761074066163,
185
+ 0.00268287992477417,
186
+ 0.0027443199157714845,
187
+ 0.0027443199157714845,
188
+ 0.002686975955963135,
189
+ 0.002736128091812134,
190
+ 0.0027432959079742433,
191
  0.002702336072921753,
192
+ 0.002722815990447998,
193
+ 0.0027514879703521727,
194
+ 0.002712512016296387,
195
+ 0.0027146239280700685,
196
+ 0.0027545599937438964,
197
+ 0.0027484478950500486,
198
+ 0.0026839680671691896,
199
+ 0.0027310080528259277,
200
+ 0.0027054080963134766,
201
+ 0.002639872074127197,
202
+ 0.0027002880573272704,
203
+ 0.0027013120651245117,
204
+ 0.0026357760429382322,
205
+ 0.002703360080718994,
206
+ 0.0027156479358673097,
207
+ 0.0026521599292755127,
208
+ 0.002698240041732788,
209
+ 0.002687903881072998,
210
+ 0.002619391918182373,
211
+ 0.0026705920696258544,
212
+ 0.0026818559169769288,
213
+ 0.0026408960819244384,
214
+ 0.002653183937072754,
215
+ 0.002682976007461548,
216
+ 0.0026593279838562013,
217
+ 0.00268287992477417,
218
+ 0.002711551904678345,
219
+ 0.002639872074127197,
220
+ 0.00265830397605896,
221
+ 0.0026798079013824463,
222
+ 0.0026439359188079833,
223
+ 0.002678783893585205,
224
+ 0.002699264049530029,
225
+ 0.0026890239715576174,
226
+ 0.002650144100189209,
227
+ 0.0027135999202728273,
228
+ 0.0027258880138397216,
229
+ 0.002662400007247925,
230
+ 0.002707456111907959,
231
+ 0.0026849279403686525,
232
  0.002642944097518921,
 
 
 
 
 
 
 
 
 
 
 
233
  0.0026920959949493406,
234
+ 0.0026849279403686525,
235
+ 0.0026449921131134033,
 
236
  0.0026890239715576174,
237
+ 0.0027002880573272704,
238
+ 0.0026265599727630616,
239
  0.002706432104110718,
240
+ 0.0026910719871521,
241
+ 0.0026306560039520265,
242
+ 0.0026910719871521,
243
+ 0.002694144010543823,
244
+ 0.0026459839344024657,
245
+ 0.002686975955963135,
246
+ 0.002687999963760376,
247
+ 0.0026521599292755127,
248
+ 0.0026818559169769288,
249
+ 0.002694144010543823,
250
+ 0.0026531519889831543,
251
+ 0.0026705920696258544,
252
+ 0.00268287992477417,
253
+ 0.002633663892745972,
254
+ 0.002655359983444214,
255
  0.0026746881008148193,
256
+ 0.002624511957168579,
257
+ 0.002642751932144165,
258
+ 0.0027135999202728273,
259
+ 0.0026562559604644776,
260
+ 0.0026746881008148193,
261
+ 0.0026972160339355468,
262
+ 0.002716671943664551,
263
+ 0.0026368000507354735,
264
+ 0.0027054080963134766,
265
+ 0.0026900479793548586,
266
+ 0.0026603519916534426,
267
+ 0.0027002880573272704,
268
+ 0.002787328004837036,
269
+ 0.0028241920471191407,
270
+ 0.002761728048324585,
271
+ 0.0027351040840148926,
272
+ 0.0026951680183410643,
273
+ 0.00273305606842041,
274
+ 0.0027432959079742433,
275
  0.0026951680183410643,
 
276
  0.0027248640060424803,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
277
  0.0027494399547576902,
278
+ 0.0027494399547576902,
279
+ 0.0026654720306396483,
280
+ 0.0027136640548706056,
281
+ 0.0027207679748535154,
282
+ 0.002687999963760376,
283
+ 0.0027453439235687258,
284
+ 0.0027555840015411376,
285
+ 0.0026798079013824463,
286
+ 0.002771967887878418,
287
+ 0.002737152099609375,
288
+ 0.002687999963760376,
289
+ 0.002706432104110718,
290
+ 0.002706432104110718,
291
+ 0.002703360080718994,
292
+ 0.0026951680183410643,
293
+ 0.0027064640522003174,
294
+ 0.00265830397605896,
295
  0.002648063898086548,
296
+ 0.002712575912475586,
297
+ 0.002699264049530029,
298
+ 0.0026408960819244384,
299
+ 0.002716671943664551,
300
+ 0.0026839039325714112,
301
+ 0.002643968105316162,
302
+ 0.0027156479358673097,
303
+ 0.0027043840885162354,
304
+ 0.0026306560039520265,
305
+ 0.0026859519481658937,
306
+ 0.0026573441028594972,
307
  0.0026449921131134033,
308
+ 0.0026961920261383055,
309
+ 0.0026910719871521,
310
+ 0.002628607988357544,
311
+ 0.002664448022842407,
 
 
 
 
 
312
  0.002707456111907959,
313
+ 0.0026213760375976562,
314
+ 0.002677759885787964,
315
+ 0.0026828479766845704,
 
 
 
 
 
 
 
 
 
 
316
  0.002638848066329956,
317
+ 0.0026972160339355468,
318
+ 0.002736128091812134,
319
+ 0.0026808319091796875,
320
+ 0.002723839998245239,
321
+ 0.002747391939163208,
322
+ 0.0026951680183410643,
323
+ 0.002727936029434204,
324
+ 0.002727936029434204,
325
+ 0.0027432959079742433,
326
  0.002668544054031372,
327
+ 0.0027248640060424803,
328
+ 0.0027453439235687258,
329
+ 0.0026798079013824463,
330
+ 0.0027402238845825196,
331
+ 0.002747391939163208,
332
+ 0.002678879976272583,
333
+ 0.00272377610206604,
334
+ 0.0027217280864715574,
335
+ 0.002647968053817749,
336
+ 0.0027217919826507567,
337
+ 0.0027514879703521727,
338
  0.0026900479793548586,
339
+ 0.0027105278968811036,
340
+ 0.0031088640689849855,
341
+ 0.002743232011795044,
342
+ 0.002686975955963135,
343
+ 0.002737152099609375,
344
+ 0.002736128091812134,
345
+ 0.0026808319091796875,
346
+ 0.0027310080528259277,
347
+ 0.002746367931365967,
348
+ 0.0026920959949493406,
349
+ 0.0027432959079742433,
350
+ 0.002753535985946655,
351
+ 0.002693120002746582,
352
+ 0.002677759885787964,
353
+ 0.002699264049530029,
354
+ 0.002726912021636963,
355
+ 0.0026378240585327147,
356
+ 0.002703360080718994,
357
+ 0.0026972160339355468,
358
+ 0.0026408960819244384,
359
+ 0.0026920959949493406,
360
+ 0.002706432104110718,
361
+ 0.0026368000507354735,
362
+ 0.002687999963760376,
363
+ 0.0026890239715576174,
364
  0.002642944097518921,
365
+ 0.002741247892379761,
366
+ 0.002741247892379761,
367
+ 0.0026798079013824463,
368
+ 0.0027392001152038575,
369
+ 0.002737152099609375,
370
+ 0.0026798079013824463,
371
+ 0.0027258880138397216,
372
+ 0.002742271900177002,
373
+ 0.0026849279403686525,
374
+ 0.0027310080528259277,
375
+ 0.0029368319511413575,
376
+ 0.0027514879703521727,
377
+ 0.0026890239715576174,
378
+ 0.0027197439670562746,
379
+ 0.0027351040840148926,
380
+ 0.0026746881008148193,
381
+ 0.0027852799892425536,
382
+ 0.0027504639625549315,
383
+ 0.0026818559169769288,
384
+ 0.0027392001152038575,
385
+ 0.0027453439235687258,
386
+ 0.002662400007247925,
387
+ 0.0026757121086120605,
388
  0.0027002880573272704,
389
+ 0.0026460158824920654,
390
+ 0.002641887903213501,
391
+ 0.002698240041732788,
392
+ 0.0027013120651245117,
393
+ 0.002653183937072754,
394
+ 0.0027002880573272704,
395
+ 0.002703360080718994,
 
 
 
 
396
  0.0026419200897216796,
397
+ 0.0027156479358673097,
398
+ 0.0027217919826507567,
399
+ 0.00265830397605896,
400
+ 0.002716671943664551,
401
+ 0.0027135999202728273,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
402
  0.002643968105316162,
403
+ 0.002702336072921753,
404
  0.0026818559169769288,
405
+ 0.002622623920440674,
406
+ 0.003161952018737793,
407
+ 0.0027893760204315186,
408
+ 0.0027381761074066163,
409
+ 0.002702336072921753,
410
+ 0.002777152061462402,
411
+ 0.002761728048324585,
412
+ 0.002703360080718994,
413
+ 0.00276582407951355,
414
+ 0.002778111934661865,
415
+ 0.002699264049530029,
416
+ 0.002770944118499756,
417
+ 0.002766848087310791,
418
  0.0027146239280700685,
 
419
  0.002748415946960449,
420
+ 0.0027811839580535887,
421
+ 0.0028016641139984133,
422
+ 0.0027494399547576902,
423
+ 0.0028057599067687986,
424
+ 0.00278220796585083,
425
+ 0.00268287992477417,
426
+ 0.002752511978149414,
427
+ 0.0027678720951080323,
428
+ 0.0027043840885162354,
429
+ 0.002727936029434204,
430
+ 0.0027381761074066163,
431
+ 0.0026849279403686525,
432
+ 0.002686975955963135,
433
+ 0.0027596800327301025,
434
+ 0.0027545599937438964,
435
+ 0.0026859519481658937,
436
+ 0.0027494399547576902,
437
+ 0.0027381761074066163,
438
+ 0.0026890239715576174,
439
+ 0.002746367931365967,
440
+ 0.0027494399547576902,
441
+ 0.002699264049530029,
442
+ 0.0027310080528259277,
443
+ 0.002748415946960449,
444
+ 0.002703360080718994
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
445
  ],
446
+ "count": 363,
447
+ "total": 0.9897786254882812,
448
+ "mean": 0.002726662880133006,
449
+ "p50": 0.002707456111907959,
450
+ "p90": 0.00277524471282959,
451
+ "p95": 0.002925568103790283,
452
+ "p99": 0.003124866580963135,
453
+ "stdev": 9.35584223497253e-05,
454
+ "stdev_": 3.431242748467737
455
  },
456
  "throughput": {
457
  "unit": "samples/s",
458
+ "value": 733.4973511292458
459
  },
460
  "energy": {
461
  "unit": "kWh",
462
+ "cpu": 3.080359037181699e-08,
463
+ "ram": 1.4492493070022353e-08,
464
+ "gpu": 4.5227177385417586e-08,
465
+ "total": 9.052326082725703e-08
466
  },
467
  "efficiency": {
468
  "unit": "samples/kWh",
469
+ "value": 22093768.847065102
470
  }
471
  }
472
  }