Hugging Face's logo

Datasets:
optimum-benchmark
/
OpenVINO-LLM-Benchmark

Dataset card Files
xet
Community
IlyasMoutawwakil HF Staff commited on
Commit
be19b34
·
verified ·
1 Parent(s): ad182ea

Upload pytorch_benchmark.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. pytorch_benchmark.json +1141 -0
pytorch_benchmark.json ADDED
@@ -0,0 +1,1141 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "config": {
3
+ "name": "pytorch",
4
+ "backend": {
5
+ "name": "pytorch",
6
+ "version": "2.8.0",
7
+ "_target_": "optimum_benchmark.backends.pytorch.backend.PyTorchBackend",
8
+ "model": "HuggingFaceTB/SmolLM2-360M-Instruct",
9
+ "processor": "HuggingFaceTB/SmolLM2-360M-Instruct",
10
+ "task": "text-generation",
11
+ "library": "transformers",
12
+ "model_type": "llama",
13
+ "device": "cpu",
14
+ "device_ids": null,
15
+ "seed": 42,
16
+ "inter_op_num_threads": null,
17
+ "intra_op_num_threads": null,
18
+ "model_kwargs": {},
19
+ "processor_kwargs": {},
20
+ "no_weights": true,
21
+ "tp_plan": null,
22
+ "device_map": null,
23
+ "torch_dtype": null,
24
+ "eval_mode": true,
25
+ "to_bettertransformer": false,
26
+ "low_cpu_mem_usage": null,
27
+ "attn_implementation": null,
28
+ "cache_implementation": null,
29
+ "allow_tf32": false,
30
+ "autocast_enabled": false,
31
+ "autocast_dtype": null,
32
+ "torch_compile": false,
33
+ "torch_compile_target": "forward",
34
+ "torch_compile_config": {},
35
+ "quantization_scheme": null,
36
+ "quantization_config": {},
37
+ "deepspeed_inference": false,
38
+ "deepspeed_inference_config": {},
39
+ "peft_type": null,
40
+ "peft_config": {}
41
+ },
42
+ "scenario": {
43
+ "name": "inference",
44
+ "_target_": "optimum_benchmark.scenarios.inference.scenario.InferenceScenario",
45
+ "iterations": 10,
46
+ "duration": 10,
47
+ "warmup_runs": 10,
48
+ "input_shapes": {
49
+ "batch_size": 1,
50
+ "sequence_length": 16
51
+ },
52
+ "new_tokens": null,
53
+ "memory": false,
54
+ "latency": true,
55
+ "energy": false,
56
+ "forward_kwargs": {},
57
+ "generate_kwargs": {
58
+ "max_new_tokens": 16,
59
+ "min_new_tokens": 16
60
+ },
61
+ "call_kwargs": {}
62
+ },
63
+ "launcher": {
64
+ "name": "process",
65
+ "_target_": "optimum_benchmark.launchers.process.launcher.ProcessLauncher",
66
+ "device_isolation": false,
67
+ "device_isolation_action": null,
68
+ "numactl": false,
69
+ "numactl_kwargs": {},
70
+ "start_method": "spawn"
71
+ },
72
+ "environment": {
73
+ "cpu": " AMD EPYC 7742 64-Core Processor",
74
+ "cpu_count": 128,
75
+ "cpu_ram_mb": 540671.623168,
76
+ "system": "Linux",
77
+ "machine": "x86_64",
78
+ "platform": "Linux-5.4.0-216-generic-x86_64-with-glibc2.31",
79
+ "processor": "x86_64",
80
+ "python_version": "3.10.18",
81
+ "gpu": [
82
+ "NVIDIA A100-SXM4-80GB",
83
+ "NVIDIA A100-SXM4-80GB",
84
+ "NVIDIA A100-SXM4-80GB",
85
+ "NVIDIA DGX Display",
86
+ "NVIDIA A100-SXM4-80GB"
87
+ ],
88
+ "gpu_count": 5,
89
+ "gpu_vram_mb": 347892350976,
90
+ "optimum_benchmark_version": "0.7.0.dev0",
91
+ "optimum_benchmark_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f",
92
+ "transformers_version": "4.55.4",
93
+ "transformers_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f",
94
+ "accelerate_version": "1.10.1",
95
+ "accelerate_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f",
96
+ "diffusers_version": "0.35.1",
97
+ "diffusers_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f",
98
+ "optimum_version": "1.27.0",
99
+ "optimum_commit": null,
100
+ "timm_version": "1.0.20",
101
+ "timm_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f",
102
+ "peft_version": "0.17.1",
103
+ "peft_commit": "f1682a2a222be6c725f79bf4038bf5439ec5850f"
104
+ },
105
+ "print_report": false,
106
+ "log_report": true
107
+ },
108
+ "report": {
109
+ "load_model": {
110
+ "memory": null,
111
+ "latency": {
112
+ "unit": "s",
113
+ "values": [
114
+ 2.28867788502248
115
+ ],
116
+ "count": 1,
117
+ "total": 2.28867788502248,
118
+ "mean": 2.28867788502248,
119
+ "p50": 2.28867788502248,
120
+ "p90": 2.28867788502248,
121
+ "p95": 2.28867788502248,
122
+ "p99": 2.28867788502248,
123
+ "stdev": 0,
124
+ "stdev_": 0
125
+ },
126
+ "throughput": null,
127
+ "energy": null,
128
+ "efficiency": null
129
+ },
130
+ "first_generate": {
131
+ "memory": null,
132
+ "latency": {
133
+ "unit": "s",
134
+ "values": [
135
+ 1.8958722340175882
136
+ ],
137
+ "count": 1,
138
+ "total": 1.8958722340175882,
139
+ "mean": 1.8958722340175882,
140
+ "p50": 1.8958722340175882,
141
+ "p90": 1.8958722340175882,
142
+ "p95": 1.8958722340175882,
143
+ "p99": 1.8958722340175882,
144
+ "stdev": 0,
145
+ "stdev_": 0
146
+ },
147
+ "throughput": null,
148
+ "energy": null,
149
+ "efficiency": null
150
+ },
151
+ "generate": {
152
+ "memory": null,
153
+ "latency": {
154
+ "unit": "s",
155
+ "values": [
156
+ 1.8821355330001097,
157
+ 1.8821518339973409,
158
+ 1.8804692830017302,
159
+ 1.8830877669970505,
160
+ 1.8805165120284073,
161
+ 1.8841616880090442,
162
+ 1.8838382220128551,
163
+ 1.8845792099891696,
164
+ 1.8801398880023044,
165
+ 1.8827161219960544
166
+ ],
167
+ "count": 10,
168
+ "total": 18.823796059034066,
169
+ "mean": 1.8823796059034066,
170
+ "p50": 1.8824339779966976,
171
+ "p90": 1.8842034402070567,
172
+ "p95": 1.8843913250981132,
173
+ "p99": 1.8845416330109583,
174
+ "stdev": 0.0015167271083094372,
175
+ "stdev_": 0.08057498623299829
176
+ },
177
+ "throughput": {
178
+ "unit": "samples/s",
179
+ "value": 7.968637119185681
180
+ },
181
+ "energy": null,
182
+ "efficiency": null
183
+ },
184
+ "prefill": {
185
+ "memory": null,
186
+ "latency": {
187
+ "unit": "s",
188
+ "values": [
189
+ 0.10092228799476288,
190
+ 0.09872265899321064,
191
+ 0.1001826620195061,
192
+ 0.10020864100079052,
193
+ 0.10002767300466076,
194
+ 0.10085769701981917,
195
+ 0.10197190300095826,
196
+ 0.10024408699246123,
197
+ 0.0996712849882897,
198
+ 0.10097755101742223
199
+ ],
200
+ "count": 10,
201
+ "total": 1.0037864460318815,
202
+ "mean": 0.10037864460318816,
203
+ "p50": 0.10022636399662588,
204
+ "p90": 0.10107698621577584,
205
+ "p95": 0.10152444460836704,
206
+ "p99": 0.10188241132244003,
207
+ "stdev": 0.0008290623466852625,
208
+ "stdev_": 0.8259349884257456
209
+ },
210
+ "throughput": {
211
+ "unit": "samples/s",
212
+ "value": 9.962278370595161
213
+ },
214
+ "energy": null,
215
+ "efficiency": null
216
+ },
217
+ "decode": {
218
+ "memory": null,
219
+ "latency": {
220
+ "unit": "s",
221
+ "values": [
222
+ 1.7812132450053468,
223
+ 1.7834291750041302,
224
+ 1.7802866209822241,
225
+ 1.78287912599626,
226
+ 1.7804888390237466,
227
+ 1.783303990989225,
228
+ 1.7818663190118968,
229
+ 1.7843351229967084,
230
+ 1.7804686030140147,
231
+ 1.7817385709786322
232
+ ],
233
+ "count": 10,
234
+ "total": 17.820009613002185,
235
+ "mean": 1.7820009613002186,
236
+ "p50": 1.7818024449952645,
237
+ "p90": 1.783519769803388,
238
+ "p95": 1.7839274464000483,
239
+ "p99": 1.7842535876773764,
240
+ "stdev": 0.0013504901859429435,
241
+ "stdev_": 0.07578504250399351
242
+ },
243
+ "throughput": {
244
+ "unit": "tokens/s",
245
+ "value": 8.417503876684446
246
+ },
247
+ "energy": null,
248
+ "efficiency": null
249
+ },
250
+ "per_token": {
251
+ "memory": null,
252
+ "latency": {
253
+ "unit": "s",
254
+ "values": [
255
+ 0.11796517801121809,
256
+ 0.1184450970031321,
257
+ 0.11796822500764392,
258
+ 0.11902627599192783,
259
+ 0.11873336700955406,
260
+ 0.11861631798092276,
261
+ 0.11836976601625793,
262
+ 0.11860562799847685,
263
+ 0.11898827500408515,
264
+ 0.1189180219953414,
265
+ 0.11880356899928302,
266
+ 0.11911263701040298,
267
+ 0.11906309498590417,
268
+ 0.11910244799219072,
269
+ 0.11915282299742103,
270
+ 0.11796517801121809,
271
+ 0.1184450970031321,
272
+ 0.11796822500764392,
273
+ 0.11902627599192783,
274
+ 0.11873336700955406,
275
+ 0.11861631798092276,
276
+ 0.11836976601625793,
277
+ 0.11860562799847685,
278
+ 0.11898827500408515,
279
+ 0.1189180219953414,
280
+ 0.11880356899928302,
281
+ 0.11911263701040298,
282
+ 0.11906309498590417,
283
+ 0.11910244799219072,
284
+ 0.11915282299742103,
285
+ 0.09908586900564842,
286
+ 0.11854408300132491,
287
+ 0.11849319699103944,
288
+ 0.11807212900021113,
289
+ 0.11858864600071684,
290
+ 0.11885793102555908,
291
+ 0.1182785049895756,
292
+ 0.11880415998166427,
293
+ 0.11871388100553304,
294
+ 0.11876021701027639,
295
+ 0.11867078000796027,
296
+ 0.11896657399483956,
297
+ 0.11913414698210545,
298
+ 0.11924042701139115,
299
+ 0.12061986999469809,
300
+ 0.11934633500641212,
301
+ 0.11796517801121809,
302
+ 0.1184450970031321,
303
+ 0.11796822500764392,
304
+ 0.11902627599192783,
305
+ 0.11873336700955406,
306
+ 0.11861631798092276,
307
+ 0.11836976601625793,
308
+ 0.11860562799847685,
309
+ 0.11898827500408515,
310
+ 0.1189180219953414,
311
+ 0.11880356899928302,
312
+ 0.11911263701040298,
313
+ 0.11906309498590417,
314
+ 0.11910244799219072,
315
+ 0.11915282299742103,
316
+ 0.09908586900564842,
317
+ 0.11854408300132491,
318
+ 0.11849319699103944,
319
+ 0.11807212900021113,
320
+ 0.11858864600071684,
321
+ 0.11885793102555908,
322
+ 0.1182785049895756,
323
+ 0.11880415998166427,
324
+ 0.11871388100553304,
325
+ 0.11876021701027639,
326
+ 0.11867078000796027,
327
+ 0.11896657399483956,
328
+ 0.11913414698210545,
329
+ 0.11924042701139115,
330
+ 0.12061986999469809,
331
+ 0.11934633500641212,
332
+ 0.10054268600651994,
333
+ 0.11895405099494383,
334
+ 0.11850546998903155,
335
+ 0.11866117201861925,
336
+ 0.11809528298908845,
337
+ 0.1186775529931765,
338
+ 0.11874484800500795,
339
+ 0.11867558900848962,
340
+ 0.11888328799977899,
341
+ 0.11925244898884557,
342
+ 0.11895458100480027,
343
+ 0.11857632399187423,
344
+ 0.11837760100024752,
345
+ 0.1184406090178527,
346
+ 0.11842170299496502,
347
+ 0.11873596199438907,
348
+ 0.11796517801121809,
349
+ 0.1184450970031321,
350
+ 0.11796822500764392,
351
+ 0.11902627599192783,
352
+ 0.11873336700955406,
353
+ 0.11861631798092276,
354
+ 0.11836976601625793,
355
+ 0.11860562799847685,
356
+ 0.11898827500408515,
357
+ 0.1189180219953414,
358
+ 0.11880356899928302,
359
+ 0.11911263701040298,
360
+ 0.11906309498590417,
361
+ 0.11910244799219072,
362
+ 0.11915282299742103,
363
+ 0.09908586900564842,
364
+ 0.11854408300132491,
365
+ 0.11849319699103944,
366
+ 0.11807212900021113,
367
+ 0.11858864600071684,
368
+ 0.11885793102555908,
369
+ 0.1182785049895756,
370
+ 0.11880415998166427,
371
+ 0.11871388100553304,
372
+ 0.11876021701027639,
373
+ 0.11867078000796027,
374
+ 0.11896657399483956,
375
+ 0.11913414698210545,
376
+ 0.11924042701139115,
377
+ 0.12061986999469809,
378
+ 0.11934633500641212,
379
+ 0.10054268600651994,
380
+ 0.11895405099494383,
381
+ 0.11850546998903155,
382
+ 0.11866117201861925,
383
+ 0.11809528298908845,
384
+ 0.1186775529931765,
385
+ 0.11874484800500795,
386
+ 0.11867558900848962,
387
+ 0.11888328799977899,
388
+ 0.11925244898884557,
389
+ 0.11895458100480027,
390
+ 0.11857632399187423,
391
+ 0.11837760100024752,
392
+ 0.1184406090178527,
393
+ 0.11842170299496502,
394
+ 0.11873596199438907,
395
+ 0.10056195300421678,
396
+ 0.11892268201336265,
397
+ 0.11850248498376459,
398
+ 0.11870326098869555,
399
+ 0.11861433400190435,
400
+ 0.11876311301602982,
401
+ 0.11880590301007032,
402
+ 0.11880358797498047,
403
+ 0.1188967740163207,
404
+ 0.11892267200164497,
405
+ 0.1192660839878954,
406
+ 0.1190859170164913,
407
+ 0.11872072398546152,
408
+ 0.11880870800814591,
409
+ 0.11883592899539508,
410
+ 0.11889451899332926,
411
+ 0.11796517801121809,
412
+ 0.1184450970031321,
413
+ 0.11796822500764392,
414
+ 0.11902627599192783,
415
+ 0.11873336700955406,
416
+ 0.11861631798092276,
417
+ 0.11836976601625793,
418
+ 0.11860562799847685,
419
+ 0.11898827500408515,
420
+ 0.1189180219953414,
421
+ 0.11880356899928302,
422
+ 0.11911263701040298,
423
+ 0.11906309498590417,
424
+ 0.11910244799219072,
425
+ 0.11915282299742103,
426
+ 0.09908586900564842,
427
+ 0.11854408300132491,
428
+ 0.11849319699103944,
429
+ 0.11807212900021113,
430
+ 0.11858864600071684,
431
+ 0.11885793102555908,
432
+ 0.1182785049895756,
433
+ 0.11880415998166427,
434
+ 0.11871388100553304,
435
+ 0.11876021701027639,
436
+ 0.11867078000796027,
437
+ 0.11896657399483956,
438
+ 0.11913414698210545,
439
+ 0.11924042701139115,
440
+ 0.12061986999469809,
441
+ 0.11934633500641212,
442
+ 0.10054268600651994,
443
+ 0.11895405099494383,
444
+ 0.11850546998903155,
445
+ 0.11866117201861925,
446
+ 0.11809528298908845,
447
+ 0.1186775529931765,
448
+ 0.11874484800500795,
449
+ 0.11867558900848962,
450
+ 0.11888328799977899,
451
+ 0.11925244898884557,
452
+ 0.11895458100480027,
453
+ 0.11857632399187423,
454
+ 0.11837760100024752,
455
+ 0.1184406090178527,
456
+ 0.11842170299496502,
457
+ 0.11873596199438907,
458
+ 0.10056195300421678,
459
+ 0.11892268201336265,
460
+ 0.11850248498376459,
461
+ 0.11870326098869555,
462
+ 0.11861433400190435,
463
+ 0.11876311301602982,
464
+ 0.11880590301007032,
465
+ 0.11880358797498047,
466
+ 0.1188967740163207,
467
+ 0.11892267200164497,
468
+ 0.1192660839878954,
469
+ 0.1190859170164913,
470
+ 0.11872072398546152,
471
+ 0.11880870800814591,
472
+ 0.11883592899539508,
473
+ 0.11889451899332926,
474
+ 0.10039233599673025,
475
+ 0.11779884700081311,
476
+ 0.11805288301547989,
477
+ 0.11845638899831101,
478
+ 0.11799627699656412,
479
+ 0.11806141899432987,
480
+ 0.11816584400366992,
481
+ 0.11874929699115455,
482
+ 0.11898594000376761,
483
+ 0.11909068701788783,
484
+ 0.11893594599678181,
485
+ 0.11922090998268686,
486
+ 0.11883305400260724,
487
+ 0.1191825779969804,
488
+ 0.1188757439958863,
489
+ 0.11975057201925665,
490
+ 0.11796517801121809,
491
+ 0.1184450970031321,
492
+ 0.11796822500764392,
493
+ 0.11902627599192783,
494
+ 0.11873336700955406,
495
+ 0.11861631798092276,
496
+ 0.11836976601625793,
497
+ 0.11860562799847685,
498
+ 0.11898827500408515,
499
+ 0.1189180219953414,
500
+ 0.11880356899928302,
501
+ 0.11911263701040298,
502
+ 0.11906309498590417,
503
+ 0.11910244799219072,
504
+ 0.11915282299742103,
505
+ 0.09908586900564842,
506
+ 0.11854408300132491,
507
+ 0.11849319699103944,
508
+ 0.11807212900021113,
509
+ 0.11858864600071684,
510
+ 0.11885793102555908,
511
+ 0.1182785049895756,
512
+ 0.11880415998166427,
513
+ 0.11871388100553304,
514
+ 0.11876021701027639,
515
+ 0.11867078000796027,
516
+ 0.11896657399483956,
517
+ 0.11913414698210545,
518
+ 0.11924042701139115,
519
+ 0.12061986999469809,
520
+ 0.11934633500641212,
521
+ 0.10054268600651994,
522
+ 0.11895405099494383,
523
+ 0.11850546998903155,
524
+ 0.11866117201861925,
525
+ 0.11809528298908845,
526
+ 0.1186775529931765,
527
+ 0.11874484800500795,
528
+ 0.11867558900848962,
529
+ 0.11888328799977899,
530
+ 0.11925244898884557,
531
+ 0.11895458100480027,
532
+ 0.11857632399187423,
533
+ 0.11837760100024752,
534
+ 0.1184406090178527,
535
+ 0.11842170299496502,
536
+ 0.11873596199438907,
537
+ 0.10056195300421678,
538
+ 0.11892268201336265,
539
+ 0.11850248498376459,
540
+ 0.11870326098869555,
541
+ 0.11861433400190435,
542
+ 0.11876311301602982,
543
+ 0.11880590301007032,
544
+ 0.11880358797498047,
545
+ 0.1188967740163207,
546
+ 0.11892267200164497,
547
+ 0.1192660839878954,
548
+ 0.1190859170164913,
549
+ 0.11872072398546152,
550
+ 0.11880870800814591,
551
+ 0.11883592899539508,
552
+ 0.11889451899332926,
553
+ 0.10039233599673025,
554
+ 0.11779884700081311,
555
+ 0.11805288301547989,
556
+ 0.11845638899831101,
557
+ 0.11799627699656412,
558
+ 0.11806141899432987,
559
+ 0.11816584400366992,
560
+ 0.11874929699115455,
561
+ 0.11898594000376761,
562
+ 0.11909068701788783,
563
+ 0.11893594599678181,
564
+ 0.11922090998268686,
565
+ 0.11883305400260724,
566
+ 0.1191825779969804,
567
+ 0.1188757439958863,
568
+ 0.11975057201925665,
569
+ 0.10122184900683351,
570
+ 0.11885009598336183,
571
+ 0.11888191499747336,
572
+ 0.11846796999452636,
573
+ 0.11883148099877872,
574
+ 0.11868928500916809,
575
+ 0.11812762299086899,
576
+ 0.11826111300615594,
577
+ 0.11886130599305034,
578
+ 0.11901299102464691,
579
+ 0.1190946539863944,
580
+ 0.11902723700040951,
581
+ 0.1190639559936244,
582
+ 0.1191439570102375,
583
+ 0.11925702699227259,
584
+ 0.11940061699715443,
585
+ 0.11796517801121809,
586
+ 0.1184450970031321,
587
+ 0.11796822500764392,
588
+ 0.11902627599192783,
589
+ 0.11873336700955406,
590
+ 0.11861631798092276,
591
+ 0.11836976601625793,
592
+ 0.11860562799847685,
593
+ 0.11898827500408515,
594
+ 0.1189180219953414,
595
+ 0.11880356899928302,
596
+ 0.11911263701040298,
597
+ 0.11906309498590417,
598
+ 0.11910244799219072,
599
+ 0.11915282299742103,
600
+ 0.09908586900564842,
601
+ 0.11854408300132491,
602
+ 0.11849319699103944,
603
+ 0.11807212900021113,
604
+ 0.11858864600071684,
605
+ 0.11885793102555908,
606
+ 0.1182785049895756,
607
+ 0.11880415998166427,
608
+ 0.11871388100553304,
609
+ 0.11876021701027639,
610
+ 0.11867078000796027,
611
+ 0.11896657399483956,
612
+ 0.11913414698210545,
613
+ 0.11924042701139115,
614
+ 0.12061986999469809,
615
+ 0.11934633500641212,
616
+ 0.10054268600651994,
617
+ 0.11895405099494383,
618
+ 0.11850546998903155,
619
+ 0.11866117201861925,
620
+ 0.11809528298908845,
621
+ 0.1186775529931765,
622
+ 0.11874484800500795,
623
+ 0.11867558900848962,
624
+ 0.11888328799977899,
625
+ 0.11925244898884557,
626
+ 0.11895458100480027,
627
+ 0.11857632399187423,
628
+ 0.11837760100024752,
629
+ 0.1184406090178527,
630
+ 0.11842170299496502,
631
+ 0.11873596199438907,
632
+ 0.10056195300421678,
633
+ 0.11892268201336265,
634
+ 0.11850248498376459,
635
+ 0.11870326098869555,
636
+ 0.11861433400190435,
637
+ 0.11876311301602982,
638
+ 0.11880590301007032,
639
+ 0.11880358797498047,
640
+ 0.1188967740163207,
641
+ 0.11892267200164497,
642
+ 0.1192660839878954,
643
+ 0.1190859170164913,
644
+ 0.11872072398546152,
645
+ 0.11880870800814591,
646
+ 0.11883592899539508,
647
+ 0.11889451899332926,
648
+ 0.10039233599673025,
649
+ 0.11779884700081311,
650
+ 0.11805288301547989,
651
+ 0.11845638899831101,
652
+ 0.11799627699656412,
653
+ 0.11806141899432987,
654
+ 0.11816584400366992,
655
+ 0.11874929699115455,
656
+ 0.11898594000376761,
657
+ 0.11909068701788783,
658
+ 0.11893594599678181,
659
+ 0.11922090998268686,
660
+ 0.11883305400260724,
661
+ 0.1191825779969804,
662
+ 0.1188757439958863,
663
+ 0.11975057201925665,
664
+ 0.10122184900683351,
665
+ 0.11885009598336183,
666
+ 0.11888191499747336,
667
+ 0.11846796999452636,
668
+ 0.11883148099877872,
669
+ 0.11868928500916809,
670
+ 0.11812762299086899,
671
+ 0.11826111300615594,
672
+ 0.11886130599305034,
673
+ 0.11901299102464691,
674
+ 0.1190946539863944,
675
+ 0.11902723700040951,
676
+ 0.1190639559936244,
677
+ 0.1191439570102375,
678
+ 0.11925702699227259,
679
+ 0.11940061699715443,
680
+ 0.10234087400021963,
681
+ 0.1185179130116012,
682
+ 0.11843908700393513,
683
+ 0.1186681649996899,
684
+ 0.11861169899930246,
685
+ 0.11842469999101013,
686
+ 0.11754802698851563,
687
+ 0.1187294700066559,
688
+ 0.11865150401717983,
689
+ 0.1188906820025295,
690
+ 0.11901108699385077,
691
+ 0.11901575600495562,
692
+ 0.11917406198335811,
693
+ 0.11919534299522638,
694
+ 0.11925288001657464,
695
+ 0.11940428300295025,
696
+ 0.11796517801121809,
697
+ 0.1184450970031321,
698
+ 0.11796822500764392,
699
+ 0.11902627599192783,
700
+ 0.11873336700955406,
701
+ 0.11861631798092276,
702
+ 0.11836976601625793,
703
+ 0.11860562799847685,
704
+ 0.11898827500408515,
705
+ 0.1189180219953414,
706
+ 0.11880356899928302,
707
+ 0.11911263701040298,
708
+ 0.11906309498590417,
709
+ 0.11910244799219072,
710
+ 0.11915282299742103,
711
+ 0.09908586900564842,
712
+ 0.11854408300132491,
713
+ 0.11849319699103944,
714
+ 0.11807212900021113,
715
+ 0.11858864600071684,
716
+ 0.11885793102555908,
717
+ 0.1182785049895756,
718
+ 0.11880415998166427,
719
+ 0.11871388100553304,
720
+ 0.11876021701027639,
721
+ 0.11867078000796027,
722
+ 0.11896657399483956,
723
+ 0.11913414698210545,
724
+ 0.11924042701139115,
725
+ 0.12061986999469809,
726
+ 0.11934633500641212,
727
+ 0.10054268600651994,
728
+ 0.11895405099494383,
729
+ 0.11850546998903155,
730
+ 0.11866117201861925,
731
+ 0.11809528298908845,
732
+ 0.1186775529931765,
733
+ 0.11874484800500795,
734
+ 0.11867558900848962,
735
+ 0.11888328799977899,
736
+ 0.11925244898884557,
737
+ 0.11895458100480027,
738
+ 0.11857632399187423,
739
+ 0.11837760100024752,
740
+ 0.1184406090178527,
741
+ 0.11842170299496502,
742
+ 0.11873596199438907,
743
+ 0.10056195300421678,
744
+ 0.11892268201336265,
745
+ 0.11850248498376459,
746
+ 0.11870326098869555,
747
+ 0.11861433400190435,
748
+ 0.11876311301602982,
749
+ 0.11880590301007032,
750
+ 0.11880358797498047,
751
+ 0.1188967740163207,
752
+ 0.11892267200164497,
753
+ 0.1192660839878954,
754
+ 0.1190859170164913,
755
+ 0.11872072398546152,
756
+ 0.11880870800814591,
757
+ 0.11883592899539508,
758
+ 0.11889451899332926,
759
+ 0.10039233599673025,
760
+ 0.11779884700081311,
761
+ 0.11805288301547989,
762
+ 0.11845638899831101,
763
+ 0.11799627699656412,
764
+ 0.11806141899432987,
765
+ 0.11816584400366992,
766
+ 0.11874929699115455,
767
+ 0.11898594000376761,
768
+ 0.11909068701788783,
769
+ 0.11893594599678181,
770
+ 0.11922090998268686,
771
+ 0.11883305400260724,
772
+ 0.1191825779969804,
773
+ 0.1188757439958863,
774
+ 0.11975057201925665,
775
+ 0.10122184900683351,
776
+ 0.11885009598336183,
777
+ 0.11888191499747336,
778
+ 0.11846796999452636,
779
+ 0.11883148099877872,
780
+ 0.11868928500916809,
781
+ 0.11812762299086899,
782
+ 0.11826111300615594,
783
+ 0.11886130599305034,
784
+ 0.11901299102464691,
785
+ 0.1190946539863944,
786
+ 0.11902723700040951,
787
+ 0.1190639559936244,
788
+ 0.1191439570102375,
789
+ 0.11925702699227259,
790
+ 0.11940061699715443,
791
+ 0.10234087400021963,
792
+ 0.1185179130116012,
793
+ 0.11843908700393513,
794
+ 0.1186681649996899,
795
+ 0.11861169899930246,
796
+ 0.11842469999101013,
797
+ 0.11754802698851563,
798
+ 0.1187294700066559,
799
+ 0.11865150401717983,
800
+ 0.1188906820025295,
801
+ 0.11901108699385077,
802
+ 0.11901575600495562,
803
+ 0.11917406198335811,
804
+ 0.11919534299522638,
805
+ 0.11925288001657464,
806
+ 0.11940428300295025,
807
+ 0.10061070398660377,
808
+ 0.1186380090075545,
809
+ 0.11875350499758497,
810
+ 0.11826317699160427,
811
+ 0.11854555501486175,
812
+ 0.11876148000010289,
813
+ 0.11874875598005019,
814
+ 0.11865093300002627,
815
+ 0.11865858800592832,
816
+ 0.11876380300964229,
817
+ 0.11903303899453022,
818
+ 0.1190536770154722,
819
+ 0.118822503980482,
820
+ 0.11947923401021399,
821
+ 0.12054718300350942,
822
+ 0.11928238600376062,
823
+ 0.11796517801121809,
824
+ 0.1184450970031321,
825
+ 0.11796822500764392,
826
+ 0.11902627599192783,
827
+ 0.11873336700955406,
828
+ 0.11861631798092276,
829
+ 0.11836976601625793,
830
+ 0.11860562799847685,
831
+ 0.11898827500408515,
832
+ 0.1189180219953414,
833
+ 0.11880356899928302,
834
+ 0.11911263701040298,
835
+ 0.11906309498590417,
836
+ 0.11910244799219072,
837
+ 0.11915282299742103,
838
+ 0.09908586900564842,
839
+ 0.11854408300132491,
840
+ 0.11849319699103944,
841
+ 0.11807212900021113,
842
+ 0.11858864600071684,
843
+ 0.11885793102555908,
844
+ 0.1182785049895756,
845
+ 0.11880415998166427,
846
+ 0.11871388100553304,
847
+ 0.11876021701027639,
848
+ 0.11867078000796027,
849
+ 0.11896657399483956,
850
+ 0.11913414698210545,
851
+ 0.11924042701139115,
852
+ 0.12061986999469809,
853
+ 0.11934633500641212,
854
+ 0.10054268600651994,
855
+ 0.11895405099494383,
856
+ 0.11850546998903155,
857
+ 0.11866117201861925,
858
+ 0.11809528298908845,
859
+ 0.1186775529931765,
860
+ 0.11874484800500795,
861
+ 0.11867558900848962,
862
+ 0.11888328799977899,
863
+ 0.11925244898884557,
864
+ 0.11895458100480027,
865
+ 0.11857632399187423,
866
+ 0.11837760100024752,
867
+ 0.1184406090178527,
868
+ 0.11842170299496502,
869
+ 0.11873596199438907,
870
+ 0.10056195300421678,
871
+ 0.11892268201336265,
872
+ 0.11850248498376459,
873
+ 0.11870326098869555,
874
+ 0.11861433400190435,
875
+ 0.11876311301602982,
876
+ 0.11880590301007032,
877
+ 0.11880358797498047,
878
+ 0.1188967740163207,
879
+ 0.11892267200164497,
880
+ 0.1192660839878954,
881
+ 0.1190859170164913,
882
+ 0.11872072398546152,
883
+ 0.11880870800814591,
884
+ 0.11883592899539508,
885
+ 0.11889451899332926,
886
+ 0.10039233599673025,
887
+ 0.11779884700081311,
888
+ 0.11805288301547989,
889
+ 0.11845638899831101,
890
+ 0.11799627699656412,
891
+ 0.11806141899432987,
892
+ 0.11816584400366992,
893
+ 0.11874929699115455,
894
+ 0.11898594000376761,
895
+ 0.11909068701788783,
896
+ 0.11893594599678181,
897
+ 0.11922090998268686,
898
+ 0.11883305400260724,
899
+ 0.1191825779969804,
900
+ 0.1188757439958863,
901
+ 0.11975057201925665,
902
+ 0.10122184900683351,
903
+ 0.11885009598336183,
904
+ 0.11888191499747336,
905
+ 0.11846796999452636,
906
+ 0.11883148099877872,
907
+ 0.11868928500916809,
908
+ 0.11812762299086899,
909
+ 0.11826111300615594,
910
+ 0.11886130599305034,
911
+ 0.11901299102464691,
912
+ 0.1190946539863944,
913
+ 0.11902723700040951,
914
+ 0.1190639559936244,
915
+ 0.1191439570102375,
916
+ 0.11925702699227259,
917
+ 0.11940061699715443,
918
+ 0.10234087400021963,
919
+ 0.1185179130116012,
920
+ 0.11843908700393513,
921
+ 0.1186681649996899,
922
+ 0.11861169899930246,
923
+ 0.11842469999101013,
924
+ 0.11754802698851563,
925
+ 0.1187294700066559,
926
+ 0.11865150401717983,
927
+ 0.1188906820025295,
928
+ 0.11901108699385077,
929
+ 0.11901575600495562,
930
+ 0.11917406198335811,
931
+ 0.11919534299522638,
932
+ 0.11925288001657464,
933
+ 0.11940428300295025,
934
+ 0.10061070398660377,
935
+ 0.1186380090075545,
936
+ 0.11875350499758497,
937
+ 0.11826317699160427,
938
+ 0.11854555501486175,
939
+ 0.11876148000010289,
940
+ 0.11874875598005019,
941
+ 0.11865093300002627,
942
+ 0.11865858800592832,
943
+ 0.11876380300964229,
944
+ 0.11903303899453022,
945
+ 0.1190536770154722,
946
+ 0.118822503980482,
947
+ 0.11947923401021399,
948
+ 0.12054718300350942,
949
+ 0.11928238600376062,
950
+ 0.10004110698355362,
951
+ 0.1180026890069712,
952
+ 0.1178171320061665,
953
+ 0.11776182800531387,
954
+ 0.11824741799500771,
955
+ 0.11808109597768635,
956
+ 0.1186285610019695,
957
+ 0.11833009202382527,
958
+ 0.11878973298007622,
959
+ 0.11888024100335315,
960
+ 0.1190159170073457,
961
+ 0.11911686501116492,
962
+ 0.1193117199873086,
963
+ 0.11932719999458641,
964
+ 0.11939119899761863,
965
+ 0.11943466000957415,
966
+ 0.11796517801121809,
967
+ 0.1184450970031321,
968
+ 0.11796822500764392,
969
+ 0.11902627599192783,
970
+ 0.11873336700955406,
971
+ 0.11861631798092276,
972
+ 0.11836976601625793,
973
+ 0.11860562799847685,
974
+ 0.11898827500408515,
975
+ 0.1189180219953414,
976
+ 0.11880356899928302,
977
+ 0.11911263701040298,
978
+ 0.11906309498590417,
979
+ 0.11910244799219072,
980
+ 0.11915282299742103,
981
+ 0.09908586900564842,
982
+ 0.11854408300132491,
983
+ 0.11849319699103944,
984
+ 0.11807212900021113,
985
+ 0.11858864600071684,
986
+ 0.11885793102555908,
987
+ 0.1182785049895756,
988
+ 0.11880415998166427,
989
+ 0.11871388100553304,
990
+ 0.11876021701027639,
991
+ 0.11867078000796027,
992
+ 0.11896657399483956,
993
+ 0.11913414698210545,
994
+ 0.11924042701139115,
995
+ 0.12061986999469809,
996
+ 0.11934633500641212,
997
+ 0.10054268600651994,
998
+ 0.11895405099494383,
999
+ 0.11850546998903155,
1000
+ 0.11866117201861925,
1001
+ 0.11809528298908845,
1002
+ 0.1186775529931765,
1003
+ 0.11874484800500795,
1004
+ 0.11867558900848962,
1005
+ 0.11888328799977899,
1006
+ 0.11925244898884557,
1007
+ 0.11895458100480027,
1008
+ 0.11857632399187423,
1009
+ 0.11837760100024752,
1010
+ 0.1184406090178527,
1011
+ 0.11842170299496502,
1012
+ 0.11873596199438907,
1013
+ 0.10056195300421678,
1014
+ 0.11892268201336265,
1015
+ 0.11850248498376459,
1016
+ 0.11870326098869555,
1017
+ 0.11861433400190435,
1018
+ 0.11876311301602982,
1019
+ 0.11880590301007032,
1020
+ 0.11880358797498047,
1021
+ 0.1188967740163207,
1022
+ 0.11892267200164497,
1023
+ 0.1192660839878954,
1024
+ 0.1190859170164913,
1025
+ 0.11872072398546152,
1026
+ 0.11880870800814591,
1027
+ 0.11883592899539508,
1028
+ 0.11889451899332926,
1029
+ 0.10039233599673025,
1030
+ 0.11779884700081311,
1031
+ 0.11805288301547989,
1032
+ 0.11845638899831101,
1033
+ 0.11799627699656412,
1034
+ 0.11806141899432987,
1035
+ 0.11816584400366992,
1036
+ 0.11874929699115455,
1037
+ 0.11898594000376761,
1038
+ 0.11909068701788783,
1039
+ 0.11893594599678181,
1040
+ 0.11922090998268686,
1041
+ 0.11883305400260724,
1042
+ 0.1191825779969804,
1043
+ 0.1188757439958863,
1044
+ 0.11975057201925665,
1045
+ 0.10122184900683351,
1046
+ 0.11885009598336183,
1047
+ 0.11888191499747336,
1048
+ 0.11846796999452636,
1049
+ 0.11883148099877872,
1050
+ 0.11868928500916809,
1051
+ 0.11812762299086899,
1052
+ 0.11826111300615594,
1053
+ 0.11886130599305034,
1054
+ 0.11901299102464691,
1055
+ 0.1190946539863944,
1056
+ 0.11902723700040951,
1057
+ 0.1190639559936244,
1058
+ 0.1191439570102375,
1059
+ 0.11925702699227259,
1060
+ 0.11940061699715443,
1061
+ 0.10234087400021963,
1062
+ 0.1185179130116012,
1063
+ 0.11843908700393513,
1064
+ 0.1186681649996899,
1065
+ 0.11861169899930246,
1066
+ 0.11842469999101013,
1067
+ 0.11754802698851563,
1068
+ 0.1187294700066559,
1069
+ 0.11865150401717983,
1070
+ 0.1188906820025295,
1071
+ 0.11901108699385077,
1072
+ 0.11901575600495562,
1073
+ 0.11917406198335811,
1074
+ 0.11919534299522638,
1075
+ 0.11925288001657464,
1076
+ 0.11940428300295025,
1077
+ 0.10061070398660377,
1078
+ 0.1186380090075545,
1079
+ 0.11875350499758497,
1080
+ 0.11826317699160427,
1081
+ 0.11854555501486175,
1082
+ 0.11876148000010289,
1083
+ 0.11874875598005019,
1084
+ 0.11865093300002627,
1085
+ 0.11865858800592832,
1086
+ 0.11876380300964229,
1087
+ 0.11903303899453022,
1088
+ 0.1190536770154722,
1089
+ 0.118822503980482,
1090
+ 0.11947923401021399,
1091
+ 0.12054718300350942,
1092
+ 0.11928238600376062,
1093
+ 0.10004110698355362,
1094
+ 0.1180026890069712,
1095
+ 0.1178171320061665,
1096
+ 0.11776182800531387,
1097
+ 0.11824741799500771,
1098
+ 0.11808109597768635,
1099
+ 0.1186285610019695,
1100
+ 0.11833009202382527,
1101
+ 0.11878973298007622,
1102
+ 0.11888024100335315,
1103
+ 0.1190159170073457,
1104
+ 0.11911686501116492,
1105
+ 0.1193117199873086,
1106
+ 0.11932719999458641,
1107
+ 0.11939119899761863,
1108
+ 0.11943466000957415,
1109
+ 0.10134470800403506,
1110
+ 0.11865371899330057,
1111
+ 0.11864926898851991,
1112
+ 0.11861641801078804,
1113
+ 0.11858992901397869,
1114
+ 0.11885792098473758,
1115
+ 0.1187550780014135,
1116
+ 0.11894539400236681,
1117
+ 0.11886658699950203,
1118
+ 0.11894912100979127,
1119
+ 0.1189340419950895,
1120
+ 0.11893676899489947,
1121
+ 0.11844179101171903,
1122
+ 0.11848952097352594,
1123
+ 0.118670830008341,
1124
+ 0.11905400801333599
1125
+ ],
1126
+ "count": 870,
1127
+ "total": 102.51075934414985,
1128
+ "mean": 0.1178284590162642,
1129
+ "p50": 0.11876021701027639,
1130
+ "p90": 0.11922090998268686,
1131
+ "p95": 0.11932719999458641,
1132
+ "p99": 0.1205697159707779,
1133
+ "stdev": 0.004080929533617809,
1134
+ "stdev_": 3.4634498046473707
1135
+ },
1136
+ "throughput": null,
1137
+ "energy": null,
1138
+ "efficiency": null
1139
+ }
1140
+ }
1141
+ }