Hugging Face's logo

Datasets:
MrOpenVINO
/
benchmarks

Dataset card Data Studio Files
xet
Community
MrOpenVINO commited on
Commit
6bc34fd
·
verified ·
1 Parent(s): ebc9dbe

Upload 2024-10-10-13-15-21/openvino/benchmark.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. 2024-10-10-13-15-21/openvino/benchmark.json +536 -0
2024-10-10-13-15-21/openvino/benchmark.json ADDED
@@ -0,0 +1,536 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "config": {
3
+ "name": "2024-10-10-13-15-21/openvino",
4
+ "backend": {
5
+ "name": "openvino",
6
+ "version": "2024.4.0",
7
+ "_target_": "optimum_benchmark.backends.openvino.backend.OVBackend",
8
+ "task": "text-generation",
9
+ "library": "transformers",
10
+ "model_type": "llama",
11
+ "model": "TinyLlama/TinyLlama-1.1B-Chat-v1.0",
12
+ "processor": "TinyLlama/TinyLlama-1.1B-Chat-v1.0",
13
+ "device": "cpu",
14
+ "device_ids": null,
15
+ "seed": 42,
16
+ "inter_op_num_threads": null,
17
+ "intra_op_num_threads": null,
18
+ "model_kwargs": {},
19
+ "processor_kwargs": {},
20
+ "no_weights": false,
21
+ "export": true,
22
+ "use_cache": true,
23
+ "use_merged": true,
24
+ "openvino_config": {},
25
+ "half": false,
26
+ "reshape": false,
27
+ "quantization": false,
28
+ "quantization_config": {},
29
+ "calibration": false,
30
+ "calibration_config": {}
31
+ },
32
+ "scenario": {
33
+ "name": "inference",
34
+ "_target_": "optimum_benchmark.scenarios.inference.scenario.InferenceScenario",
35
+ "iterations": 10,
36
+ "duration": 10,
37
+ "warmup_runs": 10,
38
+ "input_shapes": {
39
+ "batch_size": 2,
40
+ "num_choices": 2,
41
+ "sequence_length": 16
42
+ },
43
+ "new_tokens": null,
44
+ "memory": true,
45
+ "latency": true,
46
+ "energy": false,
47
+ "forward_kwargs": {},
48
+ "generate_kwargs": {
49
+ "max_new_tokens": 32,
50
+ "min_new_tokens": 32
51
+ },
52
+ "call_kwargs": {}
53
+ },
54
+ "launcher": {
55
+ "name": "process",
56
+ "_target_": "optimum_benchmark.launchers.process.launcher.ProcessLauncher",
57
+ "device_isolation": false,
58
+ "device_isolation_action": null,
59
+ "numactl": true,
60
+ "numactl_kwargs": {
61
+ "cpunodebind": 0,
62
+ "membind": 0
63
+ },
64
+ "start_method": "spawn"
65
+ },
66
+ "environment": {
67
+ "cpu": " AMD EPYC 7R13 Processor",
68
+ "cpu_count": 64,
69
+ "cpu_ram_mb": 529717.026816,
70
+ "system": "Linux",
71
+ "machine": "x86_64",
72
+ "platform": "Linux-5.10.205-195.807.amzn2.x86_64-x86_64-with-glibc2.36",
73
+ "processor": "",
74
+ "python_version": "3.10.15",
75
+ "optimum_benchmark_version": "0.5.0",
76
+ "optimum_benchmark_commit": null,
77
+ "transformers_version": "4.44.2",
78
+ "transformers_commit": null,
79
+ "accelerate_version": "0.34.2",
80
+ "accelerate_commit": null,
81
+ "diffusers_version": null,
82
+ "diffusers_commit": null,
83
+ "optimum_version": "1.22.0",
84
+ "optimum_commit": null,
85
+ "timm_version": null,
86
+ "timm_commit": null,
87
+ "peft_version": null,
88
+ "peft_commit": null
89
+ },
90
+ "print_report": false,
91
+ "log_report": true
92
+ },
93
+ "report": {
94
+ "load": {
95
+ "memory": {
96
+ "unit": "MB",
97
+ "max_ram": 4841.96352,
98
+ "max_global_vram": null,
99
+ "max_process_vram": null,
100
+ "max_reserved": null,
101
+ "max_allocated": null
102
+ },
103
+ "latency": {
104
+ "unit": "s",
105
+ "values": [
106
+ 25.399079136550426
107
+ ],
108
+ "count": 1,
109
+ "total": 25.399079136550426,
110
+ "mean": 25.399079136550426,
111
+ "p50": 25.399079136550426,
112
+ "p90": 25.399079136550426,
113
+ "p95": 25.399079136550426,
114
+ "p99": 25.399079136550426,
115
+ "stdev": 0,
116
+ "stdev_": 0
117
+ },
118
+ "throughput": null,
119
+ "energy": null,
120
+ "efficiency": null
121
+ },
122
+ "prefill": {
123
+ "memory": {
124
+ "unit": "MB",
125
+ "max_ram": 3465.314304,
126
+ "max_global_vram": null,
127
+ "max_process_vram": null,
128
+ "max_reserved": null,
129
+ "max_allocated": null
130
+ },
131
+ "latency": {
132
+ "unit": "s",
133
+ "values": [
134
+ 0.20681462809443474,
135
+ 0.14498980715870857,
136
+ 0.1491953432559967,
137
+ 0.14298798888921738,
138
+ 0.27635738253593445,
139
+ 0.14056112617254257,
140
+ 0.2304190769791603,
141
+ 0.27384644746780396,
142
+ 0.17013894766569138,
143
+ 0.17990026250481606
144
+ ],
145
+ "count": 10,
146
+ "total": 1.915211010724306,
147
+ "mean": 0.19152110107243062,
148
+ "p50": 0.17501960508525372,
149
+ "p90": 0.274097540974617,
150
+ "p95": 0.27522746175527574,
151
+ "p99": 0.2761313983798027,
152
+ "stdev": 0.05022236084794941,
153
+ "stdev_": 26.22288644265679
154
+ },
155
+ "throughput": {
156
+ "unit": "tokens/s",
157
+ "value": 167.08341702723422
158
+ },
159
+ "energy": null,
160
+ "efficiency": null
161
+ },
162
+ "decode": {
163
+ "memory": {
164
+ "unit": "MB",
165
+ "max_ram": 3465.314304,
166
+ "max_global_vram": null,
167
+ "max_process_vram": null,
168
+ "max_reserved": null,
169
+ "max_allocated": null
170
+ },
171
+ "latency": {
172
+ "unit": "s",
173
+ "values": [
174
+ 3.7909555956721306,
175
+ 1.7467840760946274,
176
+ 1.8483475632965565,
177
+ 3.0832476131618023,
178
+ 3.204444296658039,
179
+ 3.070590779185295,
180
+ 4.489215832203627,
181
+ 2.3151063695549965,
182
+ 2.322327557951212,
183
+ 2.0380597300827503
184
+ ],
185
+ "count": 10,
186
+ "total": 27.909079413861036,
187
+ "mean": 2.7909079413861035,
188
+ "p50": 2.6964591685682535,
189
+ "p90": 3.8607816193252797,
190
+ "p95": 4.1749987257644525,
191
+ "p99": 4.426372410915792,
192
+ "stdev": 0.8491402797309818,
193
+ "stdev_": 30.425234280900593
194
+ },
195
+ "throughput": {
196
+ "unit": "tokens/s",
197
+ "value": 22.214992863292984
198
+ },
199
+ "energy": null,
200
+ "efficiency": null
201
+ },
202
+ "per_token": {
203
+ "memory": null,
204
+ "latency": {
205
+ "unit": "s",
206
+ "values": [
207
+ 0.1709301434457302,
208
+ 0.13552312925457954,
209
+ 0.17639076337218285,
210
+ 0.12885065376758575,
211
+ 0.18046993762254715,
212
+ 0.17862163111567497,
213
+ 0.11986216530203819,
214
+ 0.029551289975643158,
215
+ 0.07815691828727722,
216
+ 0.0336882621049881,
217
+ 0.05917498469352722,
218
+ 0.10874683782458305,
219
+ 0.1791577711701393,
220
+ 0.1273934617638588,
221
+ 0.1760333590209484,
222
+ 0.12730960175395012,
223
+ 0.17486324533820152,
224
+ 0.12671242281794548,
225
+ 0.17677857726812363,
226
+ 0.13253434747457504,
227
+ 0.17124810814857483,
228
+ 0.17878321558237076,
229
+ 0.1312917247414589,
230
+ 0.16972606629133224,
231
+ 0.12835174426436424,
232
+ 0.08066151291131973,
233
+ 0.0533665232360363,
234
+ 0.07638739794492722,
235
+ 0.0748925469815731,
236
+ 0.034503910690546036,
237
+ 0.07049091532826424,
238
+ 0.09074411541223526,
239
+ 0.06657073274254799,
240
+ 0.034675534814596176,
241
+ 0.05592576786875725,
242
+ 0.037223897874355316,
243
+ 0.051507432013750076,
244
+ 0.042772360146045685,
245
+ 0.07619524747133255,
246
+ 0.038203079253435135,
247
+ 0.045311760157346725,
248
+ 0.03497037664055824,
249
+ 0.06459365040063858,
250
+ 0.036531344056129456,
251
+ 0.06414467096328735,
252
+ 0.03258122131228447,
253
+ 0.07270125672221184,
254
+ 0.040004052221775055,
255
+ 0.06740126013755798,
256
+ 0.031864479184150696,
257
+ 0.09027478098869324,
258
+ 0.0737798884510994,
259
+ 0.036847759038209915,
260
+ 0.06981456279754639,
261
+ 0.031870801001787186,
262
+ 0.07502009719610214,
263
+ 0.03239614516496658,
264
+ 0.07102349773049355,
265
+ 0.030988365411758423,
266
+ 0.06044533848762512,
267
+ 0.030576631426811218,
268
+ 0.10677962750196457,
269
+ 0.09759572148323059,
270
+ 0.07268866524100304,
271
+ 0.03137582913041115,
272
+ 0.062497060745954514,
273
+ 0.031675662845373154,
274
+ 0.0479043573141098,
275
+ 0.10300867632031441,
276
+ 0.0330539271235466,
277
+ 0.06352171301841736,
278
+ 0.0346953347325325,
279
+ 0.06260599941015244,
280
+ 0.030248668044805527,
281
+ 0.03307543694972992,
282
+ 0.05948163941502571,
283
+ 0.09529730305075645,
284
+ 0.03459831699728966,
285
+ 0.07449464499950409,
286
+ 0.03778298944234848,
287
+ 0.05391417071223259,
288
+ 0.03238305822014809,
289
+ 0.11822688952088356,
290
+ 0.06367209926247597,
291
+ 0.07068879529833794,
292
+ 0.03649164363741875,
293
+ 0.09772084653377533,
294
+ 0.07733475416898727,
295
+ 0.03142799064517021,
296
+ 0.05276267230510712,
297
+ 0.10297438874840736,
298
+ 0.032485611736774445,
299
+ 0.07218378409743309,
300
+ 0.10613632202148438,
301
+ 0.0760919600725174,
302
+ 0.11259664967656136,
303
+ 0.0890037752687931,
304
+ 0.06813114881515503,
305
+ 0.04095321148633957,
306
+ 0.09489258006215096,
307
+ 0.07290996238589287,
308
+ 0.03474113345146179,
309
+ 0.03153308480978012,
310
+ 0.05299040675163269,
311
+ 0.03671445697546005,
312
+ 0.058582961559295654,
313
+ 0.030376631766557693,
314
+ 0.05477210506796837,
315
+ 0.03524759039282799,
316
+ 0.06346473097801208,
317
+ 0.033426422625780106,
318
+ 0.10178082063794136,
319
+ 0.1657605953514576,
320
+ 0.12842823192477226,
321
+ 0.1802729368209839,
322
+ 0.13658418133854866,
323
+ 0.16553160920739174,
324
+ 0.1806233823299408,
325
+ 0.12518059089779854,
326
+ 0.18070843815803528,
327
+ 0.12875185906887054,
328
+ 0.1790192872285843,
329
+ 0.1822548620402813,
330
+ 0.12355682998895645,
331
+ 0.1381109543144703,
332
+ 0.09080950543284416,
333
+ 0.06610842794179916,
334
+ 0.11989215388894081,
335
+ 0.17689665406942368,
336
+ 0.13010451197624207,
337
+ 0.17568881064653397,
338
+ 0.12441826611757278,
339
+ 0.17286929488182068,
340
+ 0.1319400556385517,
341
+ 0.17867709323763847,
342
+ 0.13374633714556694,
343
+ 0.17653320729732513,
344
+ 0.17198729887604713,
345
+ 0.12940312549471855,
346
+ 0.18303905054926872,
347
+ 0.126364354044199,
348
+ 0.1136375367641449,
349
+ 0.06879616156220436,
350
+ 0.09510578587651253,
351
+ 0.0288594551384449,
352
+ 0.07580956816673279,
353
+ 0.03208049386739731,
354
+ 0.0490642674267292,
355
+ 0.030969437211751938,
356
+ 0.03197863698005676,
357
+ 0.06189698725938797,
358
+ 0.03491896390914917,
359
+ 0.05908999219536781,
360
+ 0.03562674671411514,
361
+ 0.059562887996435165,
362
+ 0.04730972275137901,
363
+ 0.034886911511421204,
364
+ 0.10049081966280937,
365
+ 0.06916074827313423,
366
+ 0.032521020621061325,
367
+ 0.09892217069864273,
368
+ 0.07491806522011757,
369
+ 0.09691368043422699,
370
+ 0.028815966099500656,
371
+ 0.11093197762966156,
372
+ 0.08014471083879471,
373
+ 0.06889450177550316,
374
+ 0.04138600826263428,
375
+ 0.10803612321615219,
376
+ 0.16751666367053986,
377
+ 0.11025062575936317,
378
+ 0.02884206920862198,
379
+ 0.07204868271946907,
380
+ 0.03581579402089119,
381
+ 0.06424704939126968,
382
+ 0.03577512130141258,
383
+ 0.1410284824669361,
384
+ 0.12901543825864792,
385
+ 0.17939384654164314,
386
+ 0.13028626516461372,
387
+ 0.17821437492966652,
388
+ 0.18342141807079315,
389
+ 0.12325875088572502,
390
+ 0.17637451365590096,
391
+ 0.13285650312900543,
392
+ 0.17692208662629128,
393
+ 0.17121662572026253,
394
+ 0.18042497336864471,
395
+ 0.13195935636758804,
396
+ 0.16256281360983849,
397
+ 0.028257112950086594,
398
+ 0.11455624178051949,
399
+ 0.16819915920495987,
400
+ 0.13464046269655228,
401
+ 0.17146628350019455,
402
+ 0.13633042946457863,
403
+ 0.1543312817811966,
404
+ 0.13264010101556778,
405
+ 0.17639197036623955,
406
+ 0.13351089134812355,
407
+ 0.16319039463996887,
408
+ 0.1325398087501526,
409
+ 0.1768389567732811,
410
+ 0.18276658654212952,
411
+ 0.13118812069296837,
412
+ 0.08812873065471649,
413
+ 0.09491998702287674,
414
+ 0.12260259315371513,
415
+ 0.1687469705939293,
416
+ 0.13245533034205437,
417
+ 0.16988644748926163,
418
+ 0.13244165107607841,
419
+ 0.17320386320352554,
420
+ 0.18035554513335228,
421
+ 0.1312447376549244,
422
+ 0.17742431908845901,
423
+ 0.12287625297904015,
424
+ 0.1787617914378643,
425
+ 0.13292308151721954,
426
+ 0.1747838854789734,
427
+ 0.04516390711069107,
428
+ 0.06991574913263321,
429
+ 0.04327603802084923,
430
+ 0.07434695586562157,
431
+ 0.07025150582194328,
432
+ 0.03275751322507858,
433
+ 0.10043282434344292,
434
+ 0.07050737366080284,
435
+ 0.036541298031806946,
436
+ 0.0654517225921154,
437
+ 0.03270701318979263,
438
+ 0.07563759386539459,
439
+ 0.03540855646133423,
440
+ 0.061998359858989716,
441
+ 0.09367645904421806,
442
+ 0.03282085806131363,
443
+ 0.16104663908481598,
444
+ 0.10270818695425987,
445
+ 0.043530091643333435,
446
+ 0.06910138949751854,
447
+ 0.03136958181858063,
448
+ 0.14365136995911598,
449
+ 0.03708682209253311,
450
+ 0.07186723127961159,
451
+ 0.03551614657044411,
452
+ 0.06333264708518982,
453
+ 0.10045941174030304,
454
+ 0.027633681893348694,
455
+ 0.09771396964788437,
456
+ 0.0289132259786129,
457
+ 0.06674544140696526,
458
+ 0.03305989131331444,
459
+ 0.10554086789488792,
460
+ 0.07858514413237572,
461
+ 0.09522752091288567,
462
+ 0.031621746718883514,
463
+ 0.0651640072464943,
464
+ 0.03787003830075264,
465
+ 0.02989954873919487,
466
+ 0.1388397477567196,
467
+ 0.12874992936849594,
468
+ 0.08882145583629608,
469
+ 0.031416378915309906,
470
+ 0.05920087546110153,
471
+ 0.03717849403619766,
472
+ 0.14277033880352974,
473
+ 0.03314758092164993,
474
+ 0.09528126567602158,
475
+ 0.07885976508259773,
476
+ 0.03970850631594658,
477
+ 0.05910776928067207,
478
+ 0.03507590293884277,
479
+ 0.1067962795495987,
480
+ 0.06919199228286743,
481
+ 0.036647599190473557,
482
+ 0.09056707099080086,
483
+ 0.15163831040263176,
484
+ 0.13192638009786606,
485
+ 0.09659228101372719,
486
+ 0.03539071977138519,
487
+ 0.09655871242284775,
488
+ 0.0676942951977253,
489
+ 0.03991246968507767,
490
+ 0.056575048714876175,
491
+ 0.09936098754405975,
492
+ 0.0999956950545311,
493
+ 0.03706963360309601,
494
+ 0.06787383928894997,
495
+ 0.09511307999491692,
496
+ 0.027143824845552444,
497
+ 0.0967935062944889,
498
+ 0.02895590290427208,
499
+ 0.07179578021168709,
500
+ 0.031422000378370285,
501
+ 0.08785632625222206,
502
+ 0.06475986167788506,
503
+ 0.03221173584461212,
504
+ 0.09412364661693573,
505
+ 0.09305229783058167,
506
+ 0.09938482940196991,
507
+ 0.1084253266453743,
508
+ 0.07635966688394547,
509
+ 0.09564392268657684,
510
+ 0.02892351895570755,
511
+ 0.07740995660424232,
512
+ 0.03868601471185684,
513
+ 0.06123805791139603,
514
+ 0.034528590738773346,
515
+ 0.05639708787202835,
516
+ 0.03693850338459015
517
+ ],
518
+ "count": 310,
519
+ "total": 27.817084301263094,
520
+ "mean": 0.0897325300040745,
521
+ "p50": 0.07614360377192497,
522
+ "p90": 0.17336186543107035,
523
+ "p95": 0.1786521352827549,
524
+ "p99": 0.1821156838908792,
525
+ "stdev": 0.04931600958951952,
526
+ "stdev_": 54.958897946241144
527
+ },
528
+ "throughput": {
529
+ "unit": "tokens/s",
530
+ "value": 22.288461050960958
531
+ },
532
+ "energy": null,
533
+ "efficiency": null
534
+ }
535
+ }
536
+ }