IlyasMoutawwakil HF Staff commited on
Commit
a08da76
·
verified ·
1 Parent(s): 26cb2e4

Upload cuda_inference_transformers_fill-mask_hf-internal-testing/tiny-random-BertModel/benchmark_report.json with huggingface_hub

Browse files
cuda_inference_transformers_fill-mask_hf-internal-testing/tiny-random-BertModel/benchmark_report.json CHANGED
@@ -2,7 +2,7 @@
2
  "load_model": {
3
  "memory": {
4
  "unit": "MB",
5
- "max_ram": 936.308736,
6
  "max_global_vram": 592.969728,
7
  "max_process_vram": 0.0,
8
  "max_reserved": 2.097152,
@@ -11,32 +11,32 @@
11
  "latency": {
12
  "unit": "s",
13
  "values": [
14
- 0.04922470474243164
15
  ],
16
  "count": 1,
17
- "total": 0.04922470474243164,
18
- "mean": 0.04922470474243164,
19
- "p50": 0.04922470474243164,
20
- "p90": 0.04922470474243164,
21
- "p95": 0.04922470474243164,
22
- "p99": 0.04922470474243164,
23
  "stdev": 0,
24
  "stdev_": 0
25
  },
26
  "throughput": null,
27
  "energy": {
28
  "unit": "kWh",
29
- "cpu": 0.00011698939987083306,
30
- "ram": 5.505270255000028e-05,
31
- "gpu": 0.0001652287432939996,
32
- "total": 0.00033727084571483294
33
  },
34
  "efficiency": null
35
  },
36
  "first_forward": {
37
  "memory": {
38
  "unit": "MB",
39
- "max_ram": 1190.977536,
40
  "max_global_vram": 670.564352,
41
  "max_process_vram": 0.0,
42
  "max_reserved": 23.068672,
@@ -45,32 +45,32 @@
45
  "latency": {
46
  "unit": "s",
47
  "values": [
48
- 0.17116569519042968
49
  ],
50
  "count": 1,
51
- "total": 0.17116569519042968,
52
- "mean": 0.17116569519042968,
53
- "p50": 0.17116569519042968,
54
- "p90": 0.17116569519042968,
55
- "p95": 0.17116569519042968,
56
- "p99": 0.17116569519042968,
57
  "stdev": 0,
58
  "stdev_": 0
59
  },
60
  "throughput": null,
61
  "energy": {
62
  "unit": "kWh",
63
- "cpu": 0.00011959515088680579,
64
- "ram": 5.6278783155555514e-05,
65
- "gpu": 0.00016930263544200031,
66
- "total": 0.0003451765694843616
67
  },
68
  "efficiency": null
69
  },
70
  "forward": {
71
  "memory": {
72
  "unit": "MB",
73
- "max_ram": 1201.287168,
74
  "max_global_vram": 670.564352,
75
  "max_process_vram": 0.0,
76
  "max_reserved": 23.068672,
@@ -79,375 +79,383 @@
79
  "latency": {
80
  "unit": "s",
81
  "values": [
82
- 0.0032143359184265137,
83
- 0.0030412800312042236,
84
- 0.0030873599052429197,
85
- 0.0031150081157684324,
86
- 0.0032235519886016847,
87
- 0.0031671359539031984,
88
- 0.0030904319286346434,
89
- 0.003412992000579834,
90
- 0.003195904016494751,
91
- 0.0031590399742126465,
92
- 0.0031549439430236816,
93
- 0.0030760960578918458,
94
- 0.0031242239475250243,
95
- 0.003177472114562988,
96
- 0.0031447041034698485,
97
- 0.0030105600357055663,
98
  0.0029409279823303224,
99
- 0.0029624319076538086,
100
- 0.0029736959934234617,
101
- 0.002972671985626221,
102
- 0.0029767680168151854,
103
- 0.0029675519466400148,
104
- 0.002942975997924805,
105
- 0.00293887996673584,
106
- 0.002925568103790283,
107
- 0.0029573121070861816,
108
- 0.003008512020111084,
109
- 0.0030320639610290526,
110
- 0.002908128023147583,
111
- 0.0029336960315704346,
112
- 0.0029081599712371827,
113
- 0.003092479944229126,
114
- 0.0029153280258178713,
115
- 0.002997247934341431,
116
- 0.0029962239265441896,
117
- 0.0029870080947875977,
118
- 0.0030945279598236083,
119
- 0.002909183979034424,
120
- 0.002868160009384155,
121
- 0.0028190720081329346,
122
- 0.00276582407951355,
123
- 0.002760672092437744,
124
- 0.0028088319301605223,
125
- 0.00276582407951355,
126
- 0.00280678391456604,
127
- 0.0028426239490509033,
128
- 0.0028385920524597167,
129
- 0.002836479902267456,
130
- 0.0028416640758514404,
131
- 0.0028272640705108644,
132
- 0.0028231680393218995,
133
- 0.002831360101699829,
134
- 0.0028579840660095217,
135
- 0.002950144052505493,
136
- 0.0029859840869903564,
137
- 0.002975744009017944,
138
  0.0030064640045166014,
 
 
 
 
 
 
 
 
 
 
139
  0.0029818880558013915,
140
- 0.0029665279388427735,
141
- 0.0029829120635986328,
142
- 0.00298905611038208,
143
- 0.0029532160758972167,
144
- 0.0029634881019592286,
145
- 0.00296345591545105,
146
- 0.0029173760414123533,
147
- 0.0028149759769439697,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
148
  0.002778111934661865,
149
- 0.0028395519256591796,
150
- 0.0027720959186553957,
151
- 0.00275052809715271,
152
- 0.0030218238830566407,
153
- 0.0029317760467529297,
154
- 0.00293887996673584,
155
- 0.0029511680603027343,
156
- 0.003026943922042847,
157
- 0.002998271942138672,
158
  0.0029573121070861816,
159
- 0.0029419519901275636,
160
- 0.00297161602973938,
161
- 0.002988032102584839,
162
- 0.0029562880992889404,
163
- 0.0029214720726013182,
164
- 0.002995232105255127,
165
- 0.0029675519466400148,
166
- 0.002979840040206909,
167
- 0.00293887996673584,
168
- 0.0029665279388427735,
169
- 0.0029849600791931152,
170
- 0.002946048021316528,
171
- 0.0028631041049957274,
172
- 0.002896895885467529,
173
- 0.002879487991333008,
174
- 0.002896895885467529,
175
- 0.0028528640270233155,
176
- 0.002909183979034424,
177
- 0.0029122879505157472,
178
- 0.002870271921157837,
179
- 0.002883584022521973,
180
- 0.0029224960803985595,
181
- 0.0029224960803985595,
182
- 0.0028825600147247316,
183
- 0.0029614078998565674,
184
- 0.0029839038848876952,
185
  0.002934783935546875,
186
- 0.002840575933456421,
187
- 0.002821120023727417,
188
- 0.0027985920906066896,
189
- 0.0027391679286956788,
190
- 0.0027749760150909426,
191
- 0.002791424036026001,
192
- 0.002791424036026001,
193
- 0.00275763201713562,
194
- 0.002781248092651367,
195
- 0.00296345591545105,
196
- 0.0028251841068267823,
197
- 0.002841599941253662,
198
- 0.0028631041049957274,
199
- 0.0028477439880371094,
200
- 0.002804735898971558,
201
- 0.0028231680393218995,
202
- 0.002829312086105347,
203
- 0.002777087926864624,
204
- 0.0028866560459136965,
205
- 0.0029071359634399415,
206
- 0.002846719980239868,
207
- 0.002779007911682129,
208
- 0.0028385279178619383,
209
- 0.0028231680393218995,
210
- 0.0028395519256591796,
211
- 0.0028641281127929686,
212
- 0.0028959040641784667,
213
- 0.0029675519466400148,
214
- 0.0029173760414123533,
215
- 0.0030382080078125,
216
- 0.003026943922042847,
217
- 0.003009536027908325,
218
- 0.002997247934341431,
219
- 0.0029911038875579834,
220
- 0.003023871898651123,
221
- 0.003017728090286255,
222
- 0.002978816032409668,
223
- 0.0029562880992889404,
224
- 0.003017728090286255,
225
- 0.0030289919376373293,
226
- 0.00293887996673584,
227
- 0.002896895885467529,
228
- 0.0029552319049835204,
229
- 0.0029348158836364747,
230
  0.0028743679523468017,
231
- 0.002786303997039795,
232
- 0.0028088960647583007,
233
- 0.0027904000282287598,
234
- 0.0027985920906066896,
235
- 0.00291430401802063,
236
- 0.0029818880558013915,
237
- 0.0029849600791931152,
238
- 0.0029593279361724853,
239
- 0.0029860799312591553,
240
- 0.002905087947845459,
241
- 0.0028149759769439697,
242
- 0.0028538880348205568,
243
- 0.0028938241004943847,
244
- 0.002896895885467529,
245
- 0.0028538880348205568,
246
- 0.0028856320381164553,
247
- 0.002942015886306763,
248
- 0.002900991916656494,
249
- 0.002769920110702515,
250
- 0.0027986240386962892,
251
- 0.002825216054916382,
252
- 0.0027985920906066896,
253
- 0.0027893760204315186,
254
- 0.002886591911315918,
255
- 0.0028896958827972414,
256
- 0.0028334081172943113,
257
- 0.002933759927749634,
258
- 0.0028682239055633544,
259
- 0.0028395519256591796,
260
- 0.002796544075012207,
261
- 0.0028334081172943113,
262
- 0.003004415988922119,
263
  0.0027453439235687258,
264
- 0.002837503910064697,
265
- 0.0028784639835357667,
266
- 0.0029235200881958007,
267
- 0.002992000102996826,
268
- 0.003048448085784912,
269
- 0.0030699520111083984,
270
- 0.002942975997924805,
271
- 0.0027791359424591063,
272
  0.002817023992538452,
273
- 0.00280678391456604,
274
- 0.002786303997039795,
275
- 0.002783231973648071,
276
- 0.0027904000282287598,
277
- 0.0028190720081329346,
278
- 0.002769920110702515,
279
- 0.002830336093902588,
280
- 0.0028334081172943113,
281
- 0.00282207989692688,
282
  0.0028139519691467284,
283
- 0.002849792003631592,
284
- 0.0028221440315246583,
285
- 0.002787328004837036,
286
- 0.0028221440315246583,
287
- 0.0028579840660095217,
 
 
288
  0.0027586560249328613,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
289
  0.002783231973648071,
290
- 0.002825216054916382,
 
 
 
 
291
  0.0028057599067687986,
292
- 0.002799616098403931,
293
- 0.0028600320816040037,
294
- 0.002850816011428833,
295
- 0.002771967887878418,
296
- 0.002825216054916382,
297
- 0.0030904319286346434,
298
- 0.002895872116088867,
299
- 0.0027862401008605956,
300
- 0.002920448064804077,
301
- 0.0030361599922180175,
302
- 0.0032122879028320312,
303
- 0.0029521920680999755,
304
- 0.0030412800312042236,
305
- 0.0030504961013793947,
306
- 0.0030248959064483644,
307
- 0.0029521920680999755,
308
- 0.002950144052505493,
309
- 0.0029818880558013915,
310
- 0.0030197761058807374,
311
- 0.0030105600357055663,
312
- 0.0029736959934234617,
313
- 0.0029849600791931152,
314
- 0.0028876800537109377,
315
- 0.0028334081172943113,
316
  0.002817023992538452,
317
- 0.0028856320381164553,
 
 
318
  0.0029184000492095945,
319
- 0.002880511999130249,
320
- 0.002945024013519287,
321
- 0.0028876800537109377,
322
- 0.002796544075012207,
323
- 0.0027504639625549315,
324
- 0.0027678720951080323,
325
- 0.002795520067214966,
326
- 0.0028692479133605956,
327
- 0.003023871898651123,
328
- 0.0028477439880371094,
329
- 0.002824160099029541,
330
- 0.002746367931365967,
331
  0.002775039911270142,
332
- 0.0027934720516204835,
333
- 0.002762752056121826,
334
- 0.0028139519691467284,
335
- 0.002778111934661865,
336
- 0.0028897280693054197,
337
- 0.0027606399059295654,
338
- 0.0028385279178619383,
339
- 0.002830336093902588,
340
- 0.0028026878833770754,
341
- 0.002829312086105347,
342
- 0.0027903358936309814,
343
- 0.0027494399547576902,
344
- 0.00275052809715271,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
345
  0.002778111934661865,
346
- 0.0027494399547576902,
 
 
 
 
 
 
 
347
  0.002737152099609375,
348
- 0.0028026878833770754,
349
- 0.0027740159034729006,
350
- 0.002707456111907959,
351
- 0.002762752056121826,
352
- 0.0027648000717163087,
353
- 0.002766848087310791,
354
- 0.002890752077102661,
355
- 0.00280678391456604,
356
- 0.002894848108291626,
357
- 0.0027924480438232422,
358
- 0.0029409279823303224,
359
  0.002934783935546875,
360
- 0.0028928000926971434,
361
- 0.002879487991333008,
362
- 0.0029020159244537353,
363
- 0.0029480960369110106,
364
- 0.002972671985626221,
365
- 0.002800640106201172,
366
- 0.002841599941253662,
367
- 0.002826240062713623,
368
- 0.0028241920471191407,
369
  0.0028436479568481445,
370
- 0.0029081599712371827,
371
- 0.0028774399757385254,
372
- 0.0028600320816040037,
373
- 0.002840575933456421,
374
- 0.002826240062713623,
375
- 0.002712575912475586,
376
- 0.00278220796585083,
377
- 0.002796447992324829,
378
- 0.002787328004837036,
379
- 0.0027402238845825196,
380
- 0.0027811839580535887,
381
- 0.0027924480438232422,
382
- 0.0027453439235687258,
383
- 0.0027852799892425536,
384
- 0.0027975680828094484,
385
- 0.002748415946960449,
386
- 0.002825216054916382,
387
- 0.0028016641139984133,
388
- 0.0027648000717163087,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
389
  0.002905087947845459,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
390
  0.002796544075012207,
391
- 0.002940959930419922,
 
 
392
  0.0027443199157714845,
393
- 0.0027811839580535887,
394
- 0.002796544075012207,
395
- 0.0027678720951080323,
396
- 0.002723839998245239,
397
- 0.0027893760204315186,
398
- 0.0027494399547576902,
399
- 0.00271776008605957,
400
- 0.0029184000492095945,
401
- 0.0027924480438232422,
402
- 0.002711551904678345,
403
- 0.0027811839580535887,
404
- 0.0027586240768432617,
405
  0.0027648000717163087,
406
- 0.002727936029434204,
407
- 0.0027688961029052736,
408
- 0.0027678720951080323,
409
  0.002741247892379761,
410
- 0.002777152061462402,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
411
  0.00276582407951355,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
412
  0.002712575912475586,
413
- 0.0027545599937438964,
414
- 0.0027504639625549315,
415
- 0.0026890239715576174,
416
- 0.0027495360374450682,
417
- 0.002727936029434204,
418
- 0.0027340800762176514,
 
 
 
 
419
  0.002737152099609375,
420
- 0.002761728048324585,
421
- 0.002766848087310791,
422
- 0.002747391939163208,
423
- 0.0027883520126342773,
424
- 0.002767904043197632,
425
- 0.002722815990447998
 
 
 
 
 
 
 
 
 
426
  ],
427
- "count": 344,
428
- "total": 0.9907711064815519,
429
- "mean": 0.002880148565353349,
430
- "p50": 0.0028579840660095217,
431
- "p90": 0.003017728090286255,
432
- "p95": 0.0030751744508743283,
433
- "p99": 0.0032052428317070007,
434
- "stdev": 0.00010997079710774758,
435
- "stdev_": 3.818233490821884
436
  },
437
  "throughput": {
438
  "unit": "samples/s",
439
- "value": 694.4086232421943
440
  },
441
  "energy": {
442
  "unit": "kWh",
443
- "cpu": 3.364321186276772e-08,
444
- "ram": 1.58284683238632e-08,
445
- "gpu": 4.9408972607954576e-08,
446
- "total": 9.888065279458545e-08
447
  },
448
  "efficiency": {
449
  "unit": "samples/kWh",
450
- "value": 20226403.684397165
451
  }
452
  }
453
  }
 
2
  "load_model": {
3
  "memory": {
4
  "unit": "MB",
5
+ "max_ram": 937.013248,
6
  "max_global_vram": 592.969728,
7
  "max_process_vram": 0.0,
8
  "max_reserved": 2.097152,
 
11
  "latency": {
12
  "unit": "s",
13
  "values": [
14
+ 0.11847679901123047
15
  ],
16
  "count": 1,
17
+ "total": 0.11847679901123047,
18
+ "mean": 0.11847679901123047,
19
+ "p50": 0.11847679901123047,
20
+ "p90": 0.11847679901123047,
21
+ "p95": 0.11847679901123047,
22
+ "p99": 0.11847679901123047,
23
  "stdev": 0,
24
  "stdev_": 0
25
  },
26
  "throughput": null,
27
  "energy": {
28
  "unit": "kWh",
29
+ "cpu": 0.0001185082852590285,
30
+ "ram": 5.576742286666684e-05,
31
+ "gpu": 0.00015924457183999962,
32
+ "total": 0.00033352027996569496
33
  },
34
  "efficiency": null
35
  },
36
  "first_forward": {
37
  "memory": {
38
  "unit": "MB",
39
+ "max_ram": 1195.802624,
40
  "max_global_vram": 670.564352,
41
  "max_process_vram": 0.0,
42
  "max_reserved": 23.068672,
 
45
  "latency": {
46
  "unit": "s",
47
  "values": [
48
+ 0.1690040283203125
49
  ],
50
  "count": 1,
51
+ "total": 0.1690040283203125,
52
+ "mean": 0.1690040283203125,
53
+ "p50": 0.1690040283203125,
54
+ "p90": 0.1690040283203125,
55
+ "p95": 0.1690040283203125,
56
+ "p99": 0.1690040283203125,
57
  "stdev": 0,
58
  "stdev_": 0
59
  },
60
  "throughput": null,
61
  "energy": {
62
  "unit": "kWh",
63
+ "cpu": 0.00011891112799027761,
64
+ "ram": 5.5957252916666925e-05,
65
+ "gpu": 0.000161417906912,
66
+ "total": 0.00033628628781894455
67
  },
68
  "efficiency": null
69
  },
70
  "forward": {
71
  "memory": {
72
  "unit": "MB",
73
+ "max_ram": 1201.47968,
74
  "max_global_vram": 670.564352,
75
  "max_process_vram": 0.0,
76
  "max_reserved": 23.068672,
 
79
  "latency": {
80
  "unit": "s",
81
  "values": [
82
+ 0.0029286398887634277,
83
+ 0.003004415988922119,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
84
  0.0029409279823303224,
85
+ 0.002879487991333008,
86
+ 0.003026943922042847,
87
+ 0.003147775888442993,
88
+ 0.003034111976623535,
89
+ 0.00296345591545105,
90
+ 0.003111936092376709,
91
+ 0.0030382080078125,
92
+ 0.0030648319721221923,
93
+ 0.003012608051300049,
94
+ 0.0030474560260772706,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
95
  0.0030064640045166014,
96
+ 0.003169280052185059,
97
+ 0.0030494720935821534,
98
+ 0.002886624097824097,
99
+ 0.0028723199367523193,
100
+ 0.003027967929840088,
101
+ 0.002920448064804077,
102
+ 0.0027801599502563475,
103
+ 0.002830336093902588,
104
+ 0.0028241920471191407,
105
+ 0.0029214720726013182,
106
  0.0029818880558013915,
107
+ 0.0028733439445495605,
108
+ 0.0028559360504150392,
109
+ 0.0027985920906066896,
110
+ 0.002799616098403931,
111
+ 0.00280678391456604,
112
+ 0.0027678720951080323,
113
+ 0.0027678720951080323,
114
+ 0.0028180480003356934,
115
+ 0.0028354558944702147,
116
+ 0.002776063919067383,
117
+ 0.0028569600582122805,
118
+ 0.002831360101699829,
119
+ 0.0028272640705108644,
120
+ 0.0027678720951080323,
121
+ 0.0027801599502563475,
122
+ 0.002708479881286621,
123
+ 0.002648063898086548,
124
+ 0.0027054080963134766,
125
+ 0.002768863916397095,
126
+ 0.002657279968261719,
127
+ 0.002700223922729492,
128
+ 0.0027258880138397216,
129
+ 0.0027555840015411376,
130
+ 0.002762752056121826,
131
+ 0.002741247892379761,
132
+ 0.0027382400035858155,
133
+ 0.002766848087310791,
134
+ 0.0027310080528259277,
135
  0.002778111934661865,
136
+ 0.0028190720081329346,
 
 
 
 
 
 
 
 
137
  0.0029573121070861816,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
138
  0.002934783935546875,
139
+ 0.002870271921157837,
140
+ 0.002820096015930176,
141
+ 0.0030607359409332274,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
142
  0.0028743679523468017,
143
+ 0.0028487679958343506,
144
+ 0.0029173760414123533,
145
+ 0.002918368101119995,
146
+ 0.002862080097198486,
147
+ 0.0027443199157714845,
148
+ 0.002770944118499756,
149
+ 0.0027340800762176514,
150
+ 0.0026777279376983642,
151
+ 0.0027043840885162354,
152
+ 0.002727936029434204,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
153
  0.0027453439235687258,
154
+ 0.0027811839580535887,
155
+ 0.0028354558944702147,
156
+ 0.0029736959934234617,
157
+ 0.0028631041049957274,
158
+ 0.0029511680603027343,
159
+ 0.002883584022521973,
160
+ 0.002916352033615112,
 
161
  0.002817023992538452,
162
+ 0.0030259199142456056,
163
+ 0.002840575933456421,
164
+ 0.002908224105834961,
 
 
 
 
 
 
165
  0.0028139519691467284,
166
+ 0.0028477439880371094,
167
+ 0.002836479902267456,
168
+ 0.0028569600582122805,
169
+ 0.002841599941253662,
170
+ 0.002884608030319214,
171
+ 0.002884608030319214,
172
+ 0.0027893760204315186,
173
  0.0027586560249328613,
174
+ 0.002736128091812134,
175
+ 0.0027504639625549315,
176
+ 0.002859008073806763,
177
+ 0.0029419519901275636,
178
+ 0.0027904000282287598,
179
+ 0.002761728048324585,
180
+ 0.002825279951095581,
181
+ 0.002821120023727417,
182
+ 0.00273305606842041,
183
+ 0.002866175889968872,
184
+ 0.0028426239490509033,
185
+ 0.0028241920471191407,
186
+ 0.002766848087310791,
187
+ 0.0029081599712371827,
188
+ 0.0027842559814453124,
189
+ 0.0026378240585327147,
190
+ 0.0026910719871521,
191
+ 0.002727936029434204,
192
+ 0.0026757121086120605,
193
+ 0.0027043840885162354,
194
+ 0.002712575912475586,
195
+ 0.002723839998245239,
196
+ 0.002704319953918457,
197
+ 0.002894848108291626,
198
+ 0.0027842559814453124,
199
+ 0.002753535985946655,
200
+ 0.0027740159034729006,
201
  0.002783231973648071,
202
+ 0.0026839039325714112,
203
+ 0.0028569600582122805,
204
+ 0.0027740159034729006,
205
+ 0.002727936029434204,
206
+ 0.002668544054031372,
207
  0.0028057599067687986,
208
+ 0.002820096015930176,
209
+ 0.0027105278968811036,
210
+ 0.002727936029434204,
211
+ 0.002753535985946655,
212
+ 0.0027002880573272704,
213
+ 0.0027432959079742433,
214
+ 0.002748415946960449,
215
+ 0.0027289600372314453,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
216
  0.002817023992538452,
217
+ 0.0028947839736938475,
218
+ 0.0028979198932647704,
219
+ 0.002947103977203369,
220
  0.0029184000492095945,
221
+ 0.0028815360069274903,
222
+ 0.0028743679523468017,
223
+ 0.002883584022521973,
224
+ 0.0028579840660095217,
225
+ 0.0028538880348205568,
226
+ 0.0028334081172943113,
227
+ 0.0028815360069274903,
228
+ 0.00293887996673584,
229
+ 0.002883647918701172,
230
+ 0.002753535985946655,
231
+ 0.0028743040561676025,
232
+ 0.002862080097198486,
233
  0.002775039911270142,
234
+ 0.0027105278968811036,
235
+ 0.0027309439182281493,
236
+ 0.0027095038890838623,
237
+ 0.002662400007247925,
238
+ 0.0027248640060424803,
239
+ 0.002867199897766113,
240
+ 0.0028395519256591796,
241
+ 0.002884608030319214,
242
+ 0.0029071359634399415,
243
+ 0.0028671679496765135,
244
+ 0.002732032060623169,
245
+ 0.002716671943664551,
246
+ 0.0027801599502563475,
247
+ 0.0027402238845825196,
248
+ 0.002786303997039795,
249
+ 0.002811903953552246,
250
+ 0.002846719980239868,
251
+ 0.0028016641139984133,
252
+ 0.0027924480438232422,
253
+ 0.0026808319091796875,
254
+ 0.0026470398902893066,
255
+ 0.002689055919647217,
256
+ 0.0026757121086120605,
257
+ 0.0026419200897216796,
258
+ 0.0027545599937438964,
259
+ 0.00278220796585083,
260
+ 0.0026920959949493406,
261
  0.002778111934661865,
262
+ 0.0028016641139984133,
263
+ 0.0027443521022796633,
264
+ 0.0026757121086120605,
265
+ 0.00271561598777771,
266
+ 0.002706432104110718,
267
+ 0.0027105278968811036,
268
+ 0.002706432104110718,
269
+ 0.0027310080528259277,
270
  0.002737152099609375,
271
+ 0.0029378559589385987,
 
 
 
 
 
 
 
 
 
 
272
  0.002934783935546875,
273
+ 0.002905087947845459,
274
+ 0.0028825600147247316,
 
 
 
 
 
 
 
275
  0.0028436479568481445,
276
+ 0.0026306560039520265,
277
+ 0.0025528318881988523,
278
+ 0.0026163198947906493,
279
+ 0.0025917439460754394,
280
+ 0.0025662400722503663,
281
+ 0.0025927679538726807,
282
+ 0.0025712640285491944,
283
+ 0.0025528318881988523,
284
+ 0.002614272117614746,
285
+ 0.0026081280708312986,
286
+ 0.002559999942779541,
287
+ 0.00263372802734375,
288
+ 0.00263372802734375,
289
+ 0.002569216012954712,
290
+ 0.002643968105316162,
291
+ 0.0026173439025878906,
292
+ 0.002594815969467163,
293
+ 0.002623487949371338,
294
+ 0.002615295886993408,
295
+ 0.0025794239044189455,
296
+ 0.002619391918182373,
297
+ 0.002580480098724365,
298
+ 0.0026009600162506105,
299
+ 0.002732032060623169,
300
+ 0.0025999360084533693,
301
+ 0.002593791961669922,
302
+ 0.002615295886993408,
303
+ 0.0025599679946899413,
304
+ 0.0026183679103851318,
305
+ 0.00260915207862854,
306
+ 0.0025661439895629883,
307
+ 0.002993151903152466,
308
+ 0.002997247934341431,
309
+ 0.0030556159019470217,
310
+ 0.0029870080947875977,
311
+ 0.0033300480842590333,
312
+ 0.003417088031768799,
313
+ 0.0030504961013793947,
314
+ 0.0032440319061279297,
315
+ 0.0030914559364318846,
316
+ 0.003309567928314209,
317
+ 0.003004415988922119,
318
+ 0.0030464000701904297,
319
+ 0.0030607359409332274,
320
+ 0.0029665279388427735,
321
+ 0.0028559360504150392,
322
+ 0.0028743679523468017,
323
+ 0.0028354558944702147,
324
+ 0.0028190720081329346,
325
+ 0.0028897280693054197,
326
  0.002905087947845459,
327
+ 0.002913280010223389,
328
+ 0.002876415967941284,
329
+ 0.0028282880783081056,
330
+ 0.0027545599937438964,
331
+ 0.002711551904678345,
332
+ 0.002761728048324585,
333
+ 0.002804735898971558,
334
+ 0.002994175910949707,
335
+ 0.0028426239490509033,
336
+ 0.002807807922363281,
337
+ 0.0027801599502563475,
338
+ 0.002716671943664551,
339
+ 0.0027494399547576902,
340
+ 0.002799616098403931,
341
+ 0.002777087926864624,
342
+ 0.0027432959079742433,
343
+ 0.002742271900177002,
344
+ 0.002742271900177002,
345
+ 0.002766848087310791,
346
+ 0.002817023992538452,
347
+ 0.0028272640705108644,
348
+ 0.0027995519638061525,
349
  0.002796544075012207,
350
+ 0.002742271900177002,
351
+ 0.002712575912475586,
352
+ 0.002703360080718994,
353
  0.0027443199157714845,
354
+ 0.0027381761074066163,
355
+ 0.0026961920261383055,
 
 
 
 
 
 
 
 
 
 
356
  0.0027648000717163087,
357
+ 0.002753535985946655,
358
+ 0.0027105278968811036,
 
359
  0.002741247892379761,
360
+ 0.002747423887252808,
361
+ 0.002716671943664551,
362
+ 0.0028344318866729734,
363
+ 0.0032471039295196534,
364
+ 0.003308543920516968,
365
+ 0.0033320960998535157,
366
+ 0.0032706561088562012,
367
+ 0.003357696056365967,
368
+ 0.0033853440284729005,
369
+ 0.003408895969390869,
370
+ 0.0033955841064453123,
371
+ 0.0033177599906921386,
372
+ 0.0027289600372314453,
373
+ 0.002783231973648071,
374
+ 0.002783231973648071,
375
+ 0.00280678391456604,
376
+ 0.002807807922363281,
377
+ 0.002807807922363281,
378
+ 0.003412992000579834,
379
+ 0.002817023992538452,
380
+ 0.0027249279022216796,
381
+ 0.0027586560249328613,
382
  0.00276582407951355,
383
+ 0.0026767361164093018,
384
+ 0.00273305606842041,
385
+ 0.002732032060623169,
386
+ 0.0026316800117492677,
387
+ 0.0026808319091796875,
388
+ 0.002687999963760376,
389
+ 0.0026204159259796142,
390
+ 0.0026839039325714112,
391
+ 0.002672640085220337,
392
+ 0.002624511957168579,
393
+ 0.0026767361164093018,
394
+ 0.0026757121086120605,
395
+ 0.0026245760917663575,
396
+ 0.0027146239280700685,
397
+ 0.0027289280891418456,
398
+ 0.002669568061828613,
399
+ 0.0027289600372314453,
400
+ 0.0027494399547576902,
401
+ 0.0027013120651245117,
402
+ 0.0026900479793548586,
403
+ 0.0027248640060424803,
404
+ 0.0027156479358673097,
405
+ 0.00268287992477417,
406
+ 0.0027207679748535154,
407
  0.002712575912475586,
408
+ 0.0026705920696258544,
409
+ 0.0027043840885162354,
410
+ 0.002709439992904663,
411
+ 0.002664448022842407,
412
+ 0.002707360029220581,
413
+ 0.0027084479331970215,
414
+ 0.002664448022842407,
415
+ 0.002706432104110718,
416
+ 0.002711551904678345,
417
+ 0.002661375999450684,
418
  0.002737152099609375,
419
+ 0.002717695951461792,
420
+ 0.0026767361164093018,
421
+ 0.002717695951461792,
422
+ 0.0027095038890838623,
423
+ 0.0027248640060424803,
424
+ 0.0026900479793548586,
425
+ 0.0027156479358673097,
426
+ 0.0027207679748535154,
427
+ 0.002661375999450684,
428
+ 0.002723839998245239,
429
+ 0.0028569600582122805,
430
+ 0.0027197439670562746,
431
+ 0.002836479902267456,
432
+ 0.0030371840000152587,
433
+ 0.002919487953186035
434
  ],
435
+ "count": 352,
436
+ "total": 0.9881762223243707,
437
+ "mean": 0.0028073188134215095,
438
+ "p50": 0.0027740159034729006,
439
+ "p90": 0.0030036991834640502,
440
+ "p95": 0.0030768127560615536,
441
+ "p99": 0.0033903616666793824,
442
+ "stdev": 0.00015893470372585077,
443
+ "stdev_": 5.661441193141296
444
  },
445
  "throughput": {
446
  "unit": "samples/s",
447
+ "value": 712.4235375185037
448
  },
449
  "energy": {
450
  "unit": "kWh",
451
+ "cpu": 3.151071228888933e-08,
452
+ "ram": 1.4825113688887835e-08,
453
+ "gpu": 4.4485961514666857e-08,
454
+ "total": 9.082178749244385e-08
455
  },
456
  "efficiency": {
457
  "unit": "samples/kWh",
458
+ "value": 22021147.73579407
459
  }
460
  }
461
  }