Hugging Face's logo

Datasets:
MrOpenVINO
/
benchmarks

Dataset card Data Studio Files
xet
Community
MrOpenVINO commited on
Commit
c247ad4
·
verified ·
1 Parent(s): ae19408

Upload 2024-10-10-13-27-38/openvino/benchmark.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. 2024-10-10-13-27-38/openvino/benchmark.json +536 -0
2024-10-10-13-27-38/openvino/benchmark.json ADDED
@@ -0,0 +1,536 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "config": {
3
+ "name": "2024-10-10-13-27-38/openvino",
4
+ "backend": {
5
+ "name": "openvino",
6
+ "version": "2024.4.0",
7
+ "_target_": "optimum_benchmark.backends.openvino.backend.OVBackend",
8
+ "task": "text-generation",
9
+ "library": "transformers",
10
+ "model_type": "qwen2",
11
+ "model": "Qwen/Qwen2.5-7B-Instruct",
12
+ "processor": "Qwen/Qwen2.5-7B-Instruct",
13
+ "device": "cpu",
14
+ "device_ids": null,
15
+ "seed": 42,
16
+ "inter_op_num_threads": null,
17
+ "intra_op_num_threads": null,
18
+ "model_kwargs": {},
19
+ "processor_kwargs": {},
20
+ "no_weights": false,
21
+ "export": true,
22
+ "use_cache": true,
23
+ "use_merged": true,
24
+ "openvino_config": {},
25
+ "half": false,
26
+ "reshape": false,
27
+ "quantization": false,
28
+ "quantization_config": {},
29
+ "calibration": false,
30
+ "calibration_config": {}
31
+ },
32
+ "scenario": {
33
+ "name": "inference",
34
+ "_target_": "optimum_benchmark.scenarios.inference.scenario.InferenceScenario",
35
+ "iterations": 10,
36
+ "duration": 10,
37
+ "warmup_runs": 10,
38
+ "input_shapes": {
39
+ "batch_size": 2,
40
+ "num_choices": 2,
41
+ "sequence_length": 16
42
+ },
43
+ "new_tokens": null,
44
+ "memory": true,
45
+ "latency": true,
46
+ "energy": false,
47
+ "forward_kwargs": {},
48
+ "generate_kwargs": {
49
+ "max_new_tokens": 32,
50
+ "min_new_tokens": 32
51
+ },
52
+ "call_kwargs": {}
53
+ },
54
+ "launcher": {
55
+ "name": "process",
56
+ "_target_": "optimum_benchmark.launchers.process.launcher.ProcessLauncher",
57
+ "device_isolation": false,
58
+ "device_isolation_action": null,
59
+ "numactl": true,
60
+ "numactl_kwargs": {
61
+ "cpunodebind": 0,
62
+ "membind": 0
63
+ },
64
+ "start_method": "spawn"
65
+ },
66
+ "environment": {
67
+ "cpu": " AMD EPYC 7R13 Processor",
68
+ "cpu_count": 64,
69
+ "cpu_ram_mb": 529717.026816,
70
+ "system": "Linux",
71
+ "machine": "x86_64",
72
+ "platform": "Linux-5.10.205-195.807.amzn2.x86_64-x86_64-with-glibc2.36",
73
+ "processor": "",
74
+ "python_version": "3.10.15",
75
+ "optimum_benchmark_version": "0.5.0",
76
+ "optimum_benchmark_commit": null,
77
+ "transformers_version": "4.44.2",
78
+ "transformers_commit": null,
79
+ "accelerate_version": "0.34.2",
80
+ "accelerate_commit": null,
81
+ "diffusers_version": null,
82
+ "diffusers_commit": null,
83
+ "optimum_version": "1.22.0",
84
+ "optimum_commit": null,
85
+ "timm_version": null,
86
+ "timm_commit": null,
87
+ "peft_version": null,
88
+ "peft_commit": null
89
+ },
90
+ "print_report": false,
91
+ "log_report": true
92
+ },
93
+ "report": {
94
+ "load": {
95
+ "memory": {
96
+ "unit": "MB",
97
+ "max_ram": 28568.141824,
98
+ "max_global_vram": null,
99
+ "max_process_vram": null,
100
+ "max_reserved": null,
101
+ "max_allocated": null
102
+ },
103
+ "latency": {
104
+ "unit": "s",
105
+ "values": [
106
+ 85.84128818660975
107
+ ],
108
+ "count": 1,
109
+ "total": 85.84128818660975,
110
+ "mean": 85.84128818660975,
111
+ "p50": 85.84128818660975,
112
+ "p90": 85.84128818660975,
113
+ "p95": 85.84128818660975,
114
+ "p99": 85.84128818660975,
115
+ "stdev": 0,
116
+ "stdev_": 0
117
+ },
118
+ "throughput": null,
119
+ "energy": null,
120
+ "efficiency": null
121
+ },
122
+ "prefill": {
123
+ "memory": {
124
+ "unit": "MB",
125
+ "max_ram": 17400.188928,
126
+ "max_global_vram": null,
127
+ "max_process_vram": null,
128
+ "max_reserved": null,
129
+ "max_allocated": null
130
+ },
131
+ "latency": {
132
+ "unit": "s",
133
+ "values": [
134
+ 1.155863493680954,
135
+ 0.7591285742819309,
136
+ 0.7738370560109615,
137
+ 0.7550942674279213,
138
+ 0.7588984668254852,
139
+ 0.7791932262480259,
140
+ 0.7622133567929268,
141
+ 0.7966163046658039,
142
+ 0.7676617838442326,
143
+ 0.7681443095207214
144
+ ],
145
+ "count": 10,
146
+ "total": 8.076650839298964,
147
+ "mean": 0.8076650839298963,
148
+ "p50": 0.767903046682477,
149
+ "p90": 0.8325410235673187,
150
+ "p95": 0.994202258624136,
151
+ "p99": 1.1235312466695906,
152
+ "stdev": 0.11663827494300946,
153
+ "stdev_": 14.441416035403781
154
+ },
155
+ "throughput": {
156
+ "unit": "tokens/s",
157
+ "value": 39.620383048250645
158
+ },
159
+ "energy": null,
160
+ "efficiency": null
161
+ },
162
+ "decode": {
163
+ "memory": {
164
+ "unit": "MB",
165
+ "max_ram": 17400.459264,
166
+ "max_global_vram": null,
167
+ "max_process_vram": null,
168
+ "max_reserved": null,
169
+ "max_allocated": null
170
+ },
171
+ "latency": {
172
+ "unit": "s",
173
+ "values": [
174
+ 6.200990695506334,
175
+ 5.851446453481913,
176
+ 6.216963429003954,
177
+ 5.708663444966078,
178
+ 5.59319007396698,
179
+ 5.803155850619078,
180
+ 5.378143277019262,
181
+ 6.436763770878315,
182
+ 5.788114670664072,
183
+ 5.6680054776370525
184
+ ],
185
+ "count": 10,
186
+ "total": 58.64543714374304,
187
+ "mean": 5.864543714374304,
188
+ "p50": 5.795635260641575,
189
+ "p90": 6.23894346319139,
190
+ "p95": 6.3378536170348525,
191
+ "p99": 6.416981740109622,
192
+ "stdev": 0.3078567112686973,
193
+ "stdev_": 5.2494571830733285
194
+ },
195
+ "throughput": {
196
+ "unit": "tokens/s",
197
+ "value": 10.572007477416316
198
+ },
199
+ "energy": null,
200
+ "efficiency": null
201
+ },
202
+ "per_token": {
203
+ "memory": null,
204
+ "latency": {
205
+ "unit": "s",
206
+ "values": [
207
+ 0.4139234870672226,
208
+ 0.41735056415200233,
209
+ 0.30081597715616226,
210
+ 0.1818118579685688,
211
+ 0.15186486765742302,
212
+ 0.23906059190630913,
213
+ 0.15295346081256866,
214
+ 0.16011932492256165,
215
+ 0.2003607526421547,
216
+ 0.1834808960556984,
217
+ 0.15580645948648453,
218
+ 0.24319353699684143,
219
+ 0.1611436791718006,
220
+ 0.15759733691811562,
221
+ 0.1585245616734028,
222
+ 0.15936047211289406,
223
+ 0.3769047372043133,
224
+ 0.18782272934913635,
225
+ 0.15100917220115662,
226
+ 0.1527114175260067,
227
+ 0.2946506328880787,
228
+ 0.16238847002387047,
229
+ 0.16231396421790123,
230
+ 0.156793974339962,
231
+ 0.16331971436738968,
232
+ 0.1679960861802101,
233
+ 0.1615058295428753,
234
+ 0.15888682380318642,
235
+ 0.14986367523670197,
236
+ 0.15800831466913223,
237
+ 0.15872757136821747,
238
+ 0.27272531017661095,
239
+ 0.18892422318458557,
240
+ 0.15356360375881195,
241
+ 0.15431320294737816,
242
+ 0.14779995009303093,
243
+ 0.15224895253777504,
244
+ 0.21096992120146751,
245
+ 0.18912102282047272,
246
+ 0.21501709148287773,
247
+ 0.16489996761083603,
248
+ 0.21484949439764023,
249
+ 0.17694229260087013,
250
+ 0.298944354057312,
251
+ 0.1571926362812519,
252
+ 0.3427550941705704,
253
+ 0.15772563219070435,
254
+ 0.27126798033714294,
255
+ 0.18431544676423073,
256
+ 0.16829495877027512,
257
+ 0.2230387181043625,
258
+ 0.16222893819212914,
259
+ 0.1542050875723362,
260
+ 0.152713593095541,
261
+ 0.22716208174824715,
262
+ 0.1603824906051159,
263
+ 0.15225924924016,
264
+ 0.15334432572126389,
265
+ 0.15936279296875,
266
+ 0.15501442551612854,
267
+ 0.15603690594434738,
268
+ 0.17310908064246178,
269
+ 0.15233517810702324,
270
+ 0.16673265397548676,
271
+ 0.15707813948392868,
272
+ 0.15561645105481148,
273
+ 0.2950899377465248,
274
+ 0.16526831686496735,
275
+ 0.25878509506583214,
276
+ 0.2684909552335739,
277
+ 0.15292853489518166,
278
+ 0.1560739129781723,
279
+ 0.14961672946810722,
280
+ 0.28093401342630386,
281
+ 0.23056770488619804,
282
+ 0.24176156893372536,
283
+ 0.18133500963449478,
284
+ 0.15951067954301834,
285
+ 0.2469756379723549,
286
+ 0.15470846369862556,
287
+ 0.1506977304816246,
288
+ 0.2186153270304203,
289
+ 0.1848888210952282,
290
+ 0.1681702397763729,
291
+ 0.17152446135878563,
292
+ 0.16021715849637985,
293
+ 0.21121134981513023,
294
+ 0.20459624007344246,
295
+ 0.18079787492752075,
296
+ 0.21565362066030502,
297
+ 0.30665198341012,
298
+ 0.1855032593011856,
299
+ 0.28380293399095535,
300
+ 0.15242250636219978,
301
+ 0.38883425295352936,
302
+ 0.14984559640288353,
303
+ 0.18036608770489693,
304
+ 0.27179688587784767,
305
+ 0.1542910747230053,
306
+ 0.2456365041434765,
307
+ 0.15133636817336082,
308
+ 0.14667970687150955,
309
+ 0.14652648195624352,
310
+ 0.15149124339222908,
311
+ 0.2016245499253273,
312
+ 0.16305964812636375,
313
+ 0.15654635429382324,
314
+ 0.2105577066540718,
315
+ 0.18518470972776413,
316
+ 0.15230029821395874,
317
+ 0.16040043160319328,
318
+ 0.17493826523423195,
319
+ 0.1600029654800892,
320
+ 0.1622457429766655,
321
+ 0.15377505496144295,
322
+ 0.15260671824216843,
323
+ 0.18687525764107704,
324
+ 0.16884037479758263,
325
+ 0.15240167453885078,
326
+ 0.37620513141155243,
327
+ 0.18778274208307266,
328
+ 0.15565819665789604,
329
+ 0.1559632606804371,
330
+ 0.1517484076321125,
331
+ 0.2911657243967056,
332
+ 0.1650817021727562,
333
+ 0.1486673653125763,
334
+ 0.17960147187113762,
335
+ 0.16900478303432465,
336
+ 0.15883860737085342,
337
+ 0.14794380590319633,
338
+ 0.15101293101906776,
339
+ 0.27592404931783676,
340
+ 0.16797656193375587,
341
+ 0.14958341792225838,
342
+ 0.2745455130934715,
343
+ 0.16101539507508278,
344
+ 0.1521204449236393,
345
+ 0.15381720289587975,
346
+ 0.16098500788211823,
347
+ 0.1530577912926674,
348
+ 0.1520393267273903,
349
+ 0.2233075276017189,
350
+ 0.18319787457585335,
351
+ 0.14668099954724312,
352
+ 0.1477702632546425,
353
+ 0.1587279476225376,
354
+ 0.30601438134908676,
355
+ 0.1573706418275833,
356
+ 0.15311282873153687,
357
+ 0.1491524986922741,
358
+ 0.14643868431448936,
359
+ 0.15172262489795685,
360
+ 0.27787161245942116,
361
+ 0.17872869223356247,
362
+ 0.15965665131807327,
363
+ 0.15329846367239952,
364
+ 0.15216953679919243,
365
+ 0.1540345810353756,
366
+ 0.16133840382099152,
367
+ 0.15683456882834435,
368
+ 0.2934487983584404,
369
+ 0.17761101201176643,
370
+ 0.1538052260875702,
371
+ 0.2449340969324112,
372
+ 0.1569734513759613,
373
+ 0.1520020179450512,
374
+ 0.1534476801753044,
375
+ 0.15756065025925636,
376
+ 0.2761836163699627,
377
+ 0.21986213698983192,
378
+ 0.1885678917169571,
379
+ 0.18862299993634224,
380
+ 0.21107355505228043,
381
+ 0.1645197682082653,
382
+ 0.1521223746240139,
383
+ 0.1565866880118847,
384
+ 0.15358155593276024,
385
+ 0.3630015552043915,
386
+ 0.17469030618667603,
387
+ 0.14798744767904282,
388
+ 0.14919350668787956,
389
+ 0.14570282772183418,
390
+ 0.1528305560350418,
391
+ 0.1565646156668663,
392
+ 0.3742227740585804,
393
+ 0.23841682076454163,
394
+ 0.15160172805190086,
395
+ 0.1474267914891243,
396
+ 0.14957717433571815,
397
+ 0.1562964953482151,
398
+ 0.15076233446598053,
399
+ 0.15194469690322876,
400
+ 0.29144833609461784,
401
+ 0.15708014741539955,
402
+ 0.1488501951098442,
403
+ 0.2107512727379799,
404
+ 0.28758834674954414,
405
+ 0.15844067186117172,
406
+ 0.15052589401602745,
407
+ 0.14786330983042717,
408
+ 0.1483595408499241,
409
+ 0.14761295169591904,
410
+ 0.148051917552948,
411
+ 0.15036337450146675,
412
+ 0.15597660094499588,
413
+ 0.15763574466109276,
414
+ 0.17207906767725945,
415
+ 0.17377248033881187,
416
+ 0.1551077887415886,
417
+ 0.15144430845975876,
418
+ 0.15393829718232155,
419
+ 0.15750518068671227,
420
+ 0.16416142135858536,
421
+ 0.16136294975876808,
422
+ 0.16649267449975014,
423
+ 0.31490200385451317,
424
+ 0.2826903760433197,
425
+ 0.16906822100281715,
426
+ 0.14847518131136894,
427
+ 0.19953395053744316,
428
+ 0.18416323140263557,
429
+ 0.15209738910198212,
430
+ 0.15568198263645172,
431
+ 0.27935130149126053,
432
+ 0.1667834259569645,
433
+ 0.2530501186847687,
434
+ 0.18106288462877274,
435
+ 0.1530996412038803,
436
+ 0.2775697261095047,
437
+ 0.19319012388586998,
438
+ 0.15242192894220352,
439
+ 0.3225148431956768,
440
+ 0.16148624196648598,
441
+ 0.3304699994623661,
442
+ 0.16135315969586372,
443
+ 0.15226125344634056,
444
+ 0.15467924252152443,
445
+ 0.18589209020137787,
446
+ 0.17088539898395538,
447
+ 0.3860659673810005,
448
+ 0.22311565652489662,
449
+ 0.21387384086847305,
450
+ 0.1924678459763527,
451
+ 0.16477536410093307,
452
+ 0.1643211916089058,
453
+ 0.3421355411410332,
454
+ 0.16146600618958473,
455
+ 0.3718172386288643,
456
+ 0.18753405660390854,
457
+ 0.15255767107009888,
458
+ 0.15613503381609917,
459
+ 0.15569071844220161,
460
+ 0.18399671092629433,
461
+ 0.183570709079504,
462
+ 0.2789601869881153,
463
+ 0.1653294414281845,
464
+ 0.1859029419720173,
465
+ 0.16990133747458458,
466
+ 0.17148002982139587,
467
+ 0.3150439225137234,
468
+ 0.18125254288315773,
469
+ 0.15679020434617996,
470
+ 0.15106311812996864,
471
+ 0.14785011112689972,
472
+ 0.14653801545500755,
473
+ 0.14618313685059547,
474
+ 0.14944056794047356,
475
+ 0.34435415267944336,
476
+ 0.1981407105922699,
477
+ 0.15930432081222534,
478
+ 0.1584480218589306,
479
+ 0.15400691330432892,
480
+ 0.1878376193344593,
481
+ 0.16417282819747925,
482
+ 0.15464921668171883,
483
+ 0.15918367728590965,
484
+ 0.1825840026140213,
485
+ 0.16766951233148575,
486
+ 0.1551675833761692,
487
+ 0.1610039658844471,
488
+ 0.15935760363936424,
489
+ 0.15604324266314507,
490
+ 0.155699722468853,
491
+ 0.1552584208548069,
492
+ 0.16058748215436935,
493
+ 0.15429501608014107,
494
+ 0.15965940058231354,
495
+ 0.15671104565262794,
496
+ 0.16993919759988785,
497
+ 0.25908438116312027,
498
+ 0.15675005689263344,
499
+ 0.3461707681417465,
500
+ 0.16702311486005783,
501
+ 0.16865606978535652,
502
+ 0.16130151972174644,
503
+ 0.16315693780779839,
504
+ 0.15860896557569504,
505
+ 0.15859384089708328,
506
+ 0.24710458889603615,
507
+ 0.184930220246315,
508
+ 0.15271210297942162,
509
+ 0.35912545397877693,
510
+ 0.19241072982549667,
511
+ 0.15738612040877342,
512
+ 0.15803262591362,
513
+ 0.1639743708074093,
514
+ 0.23577681183815002,
515
+ 0.1849268600344658,
516
+ 0.14777686819434166
517
+ ],
518
+ "count": 310,
519
+ "total": 58.63794834539294,
520
+ "mean": 0.18915467208191272,
521
+ "p50": 0.1613580547273159,
522
+ "p90": 0.2795095726847649,
523
+ "p95": 0.31915292888879787,
524
+ "p99": 0.3852414566650989,
525
+ "stdev": 0.05783868153672995,
526
+ "stdev_": 30.577453308519452
527
+ },
528
+ "throughput": {
529
+ "unit": "tokens/s",
530
+ "value": 10.573357654808058
531
+ },
532
+ "energy": null,
533
+ "efficiency": null
534
+ }
535
+ }
536
+ }