Hugging Face's logo

Datasets:
regisss
/
benchmarks

Dataset card Viewer Files Community
regisss HF staff commited on
Commit
9bf5877
•
1 Parent(s): 392e1a0

Upload 2024-10-21-17-02-49/pytorch/benchmark_report.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. 2024-10-21-17-02-49/pytorch/benchmark_report.json +443 -0
2024-10-21-17-02-49/pytorch/benchmark_report.json ADDED
@@ -0,0 +1,443 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "load": {
3
+ "memory": {
4
+ "unit": "MB",
5
+ "max_ram": 1511.952384,
6
+ "max_global_vram": null,
7
+ "max_process_vram": null,
8
+ "max_reserved": null,
9
+ "max_allocated": null
10
+ },
11
+ "latency": {
12
+ "unit": "s",
13
+ "values": [
14
+ 1.6824433393776417
15
+ ],
16
+ "count": 1,
17
+ "total": 1.6824433393776417,
18
+ "mean": 1.6824433393776417,
19
+ "p50": 1.6824433393776417,
20
+ "p90": 1.6824433393776417,
21
+ "p95": 1.6824433393776417,
22
+ "p99": 1.6824433393776417,
23
+ "stdev": 0,
24
+ "stdev_": 0
25
+ },
26
+ "throughput": null,
27
+ "energy": null,
28
+ "efficiency": null
29
+ },
30
+ "prefill": {
31
+ "memory": {
32
+ "unit": "MB",
33
+ "max_ram": 1607.860224,
34
+ "max_global_vram": null,
35
+ "max_process_vram": null,
36
+ "max_reserved": null,
37
+ "max_allocated": null
38
+ },
39
+ "latency": {
40
+ "unit": "s",
41
+ "values": [
42
+ 0.11356927827000618,
43
+ 0.12102339044213295,
44
+ 0.17740445584058762,
45
+ 0.12898390367627144,
46
+ 0.12069202959537506,
47
+ 0.17938660830259323,
48
+ 0.12032097578048706,
49
+ 0.12909867987036705,
50
+ 0.16880978643894196,
51
+ 0.1704593002796173
52
+ ],
53
+ "count": 10,
54
+ "total": 1.4297484084963799,
55
+ "mean": 0.142974840849638,
56
+ "p50": 0.12904129177331924,
57
+ "p90": 0.17760267108678818,
58
+ "p95": 0.1784946396946907,
59
+ "p99": 0.17920821458101271,
60
+ "stdev": 0.025843033593847917,
61
+ "stdev_": 18.07523158639232
62
+ },
63
+ "throughput": {
64
+ "unit": "tokens/s",
65
+ "value": 223.8156014711243
66
+ },
67
+ "energy": null,
68
+ "efficiency": null
69
+ },
70
+ "decode": {
71
+ "memory": {
72
+ "unit": "MB",
73
+ "max_ram": 1608.192,
74
+ "max_global_vram": null,
75
+ "max_process_vram": null,
76
+ "max_reserved": null,
77
+ "max_allocated": null
78
+ },
79
+ "latency": {
80
+ "unit": "s",
81
+ "values": [
82
+ 2.003968395292759,
83
+ 1.99579543992877,
84
+ 1.9997130669653416,
85
+ 2.0577770359814167,
86
+ 2.002662528306246,
87
+ 1.9959323331713676,
88
+ 1.9956984110176563,
89
+ 1.9877891093492508,
90
+ 1.9437489062547684,
91
+ 1.9966221041977406
92
+ ],
93
+ "count": 10,
94
+ "total": 19.979707330465317,
95
+ "mean": 1.9979707330465317,
96
+ "p50": 1.996277218684554,
97
+ "p90": 2.009349259361625,
98
+ "p95": 2.033563147671521,
99
+ "p99": 2.0529342583194374,
100
+ "stdev": 0.025879249750573787,
101
+ "stdev_": 1.295276718649065
102
+ },
103
+ "throughput": {
104
+ "unit": "tokens/s",
105
+ "value": 31.031485584106427
106
+ },
107
+ "energy": null,
108
+ "efficiency": null
109
+ },
110
+ "per_token": {
111
+ "memory": null,
112
+ "latency": {
113
+ "unit": "s",
114
+ "values": [
115
+ 0.08290493860840797,
116
+ 0.029768113046884537,
117
+ 0.08687425404787064,
118
+ 0.02995363250374794,
119
+ 0.07877011969685555,
120
+ 0.08731310814619064,
121
+ 0.030303150415420532,
122
+ 0.0795217789709568,
123
+ 0.08783405274152756,
124
+ 0.030614882707595825,
125
+ 0.07916086539626122,
126
+ 0.08686229214072227,
127
+ 0.030553389340639114,
128
+ 0.0792069211602211,
129
+ 0.086700938642025,
130
+ 0.030286431312561035,
131
+ 0.08023051917552948,
132
+ 0.08692965283989906,
133
+ 0.030506007373332977,
134
+ 0.07954404130578041,
135
+ 0.03117005154490471,
136
+ 0.08802908658981323,
137
+ 0.07969382405281067,
138
+ 0.030377954244613647,
139
+ 0.08688848465681076,
140
+ 0.07893484830856323,
141
+ 0.030035004019737244,
142
+ 0.08739648759365082,
143
+ 0.07898245379328728,
144
+ 0.030569743365049362,
145
+ 0.08748139441013336,
146
+ 0.08720375597476959,
147
+ 0.07930684834718704,
148
+ 0.03003791719675064,
149
+ 0.08707630634307861,
150
+ 0.0779709741473198,
151
+ 0.029767539352178574,
152
+ 0.08651818707585335,
153
+ 0.029979880899190903,
154
+ 0.07837695255875587,
155
+ 0.08719000965356827,
156
+ 0.029964357614517212,
157
+ 0.07853163778781891,
158
+ 0.08769164234399796,
159
+ 0.030194584280252457,
160
+ 0.07925865799188614,
161
+ 0.08732463419437408,
162
+ 0.030628014355897903,
163
+ 0.0792209841310978,
164
+ 0.0856688842177391,
165
+ 0.030306946486234665,
166
+ 0.07938256859779358,
167
+ 0.08724340423941612,
168
+ 0.030177336186170578,
169
+ 0.08117293566465378,
170
+ 0.08820676058530807,
171
+ 0.03051135689020157,
172
+ 0.07929281145334244,
173
+ 0.030114222317934036,
174
+ 0.08731184527277946,
175
+ 0.07917311415076256,
176
+ 0.030417781323194504,
177
+ 0.08629284054040909,
178
+ 0.030060309916734695,
179
+ 0.07856028154492378,
180
+ 0.029982127249240875,
181
+ 0.08629709482192993,
182
+ 0.08167045935988426,
183
+ 0.030002914369106293,
184
+ 0.08692952245473862,
185
+ 0.07855475321412086,
186
+ 0.03024846687912941,
187
+ 0.08675124868750572,
188
+ 0.02980988100171089,
189
+ 0.0783306434750557,
190
+ 0.08686115965247154,
191
+ 0.030309975147247314,
192
+ 0.08038786426186562,
193
+ 0.0886889360845089,
194
+ 0.030641652643680573,
195
+ 0.07971063628792763,
196
+ 0.08724543079733849,
197
+ 0.030308179557323456,
198
+ 0.07917986437678337,
199
+ 0.08771225437521935,
200
+ 0.031097538769245148,
201
+ 0.07969512417912483,
202
+ 0.0873819962143898,
203
+ 0.030842453241348267,
204
+ 0.07923725619912148,
205
+ 0.08584609627723694,
206
+ 0.03114262968301773,
207
+ 0.07933365553617477,
208
+ 0.07954621315002441,
209
+ 0.08699578046798706,
210
+ 0.030185505747795105,
211
+ 0.07905017212033272,
212
+ 0.08748038858175278,
213
+ 0.03184349834918976,
214
+ 0.0800260566174984,
215
+ 0.0873182825744152,
216
+ 0.030915815383195877,
217
+ 0.07943721860647202,
218
+ 0.08623646199703217,
219
+ 0.03124794363975525,
220
+ 0.07934311404824257,
221
+ 0.03690690919756889,
222
+ 0.07905439287424088,
223
+ 0.07919153571128845,
224
+ 0.030887730419635773,
225
+ 0.08812009915709496,
226
+ 0.07986462488770485,
227
+ 0.03187134489417076,
228
+ 0.08786103129386902,
229
+ 0.07940198108553886,
230
+ 0.0318022258579731,
231
+ 0.08803275227546692,
232
+ 0.07987315952777863,
233
+ 0.030230648815631866,
234
+ 0.08732926845550537,
235
+ 0.07893716543912888,
236
+ 0.031017296016216278,
237
+ 0.08815096691250801,
238
+ 0.07903868332505226,
239
+ 0.08737840875983238,
240
+ 0.029742710292339325,
241
+ 0.0789823979139328,
242
+ 0.0855221338570118,
243
+ 0.029834691435098648,
244
+ 0.0783546008169651,
245
+ 0.02991395816206932,
246
+ 0.08675343915820122,
247
+ 0.07866501063108444,
248
+ 0.029960516840219498,
249
+ 0.08699065446853638,
250
+ 0.07840747386217117,
251
+ 0.02972714975476265,
252
+ 0.08706442266702652,
253
+ 0.029849741607904434,
254
+ 0.0785021223127842,
255
+ 0.0864981971681118,
256
+ 0.030232835561037064,
257
+ 0.08035014197230339,
258
+ 0.08821791410446167,
259
+ 0.03116045519709587,
260
+ 0.08355510979890823,
261
+ 0.08799733594059944,
262
+ 0.030904293060302734,
263
+ 0.08000020310282707,
264
+ 0.08788298442959785,
265
+ 0.030625533312559128,
266
+ 0.07993805781006813,
267
+ 0.08801978453993797,
268
+ 0.03132043033838272,
269
+ 0.07973895967006683,
270
+ 0.03054724633693695,
271
+ 0.08731510490179062,
272
+ 0.07880424708127975,
273
+ 0.032222680747509,
274
+ 0.08731842413544655,
275
+ 0.07901722192764282,
276
+ 0.03086073324084282,
277
+ 0.08730969205498695,
278
+ 0.030536796897649765,
279
+ 0.0789499506354332,
280
+ 0.08745970949530602,
281
+ 0.030350439250469208,
282
+ 0.07874463871121407,
283
+ 0.08698621019721031,
284
+ 0.029977574944496155,
285
+ 0.0795634314417839,
286
+ 0.0866161435842514,
287
+ 0.03001048043370247,
288
+ 0.0784013606607914,
289
+ 0.08582095056772232,
290
+ 0.030003368854522705,
291
+ 0.07894011959433556,
292
+ 0.030307583510875702,
293
+ 0.08764849603176117,
294
+ 0.07853236794471741,
295
+ 0.029854703694581985,
296
+ 0.08743537962436676,
297
+ 0.07888195663690567,
298
+ 0.030176900327205658,
299
+ 0.08757654950022697,
300
+ 0.07885708659887314,
301
+ 0.08741167560219765,
302
+ 0.03005054220557213,
303
+ 0.07889170572161674,
304
+ 0.0855594091117382,
305
+ 0.029977966099977493,
306
+ 0.07899346202611923,
307
+ 0.03016415238380432,
308
+ 0.08618698641657829,
309
+ 0.0784686841070652,
310
+ 0.02999270334839821,
311
+ 0.08749986067414284,
312
+ 0.07894236221909523,
313
+ 0.030670788139104843,
314
+ 0.08774841204285622,
315
+ 0.07908780872821808,
316
+ 0.030093010514974594,
317
+ 0.0870266929268837,
318
+ 0.030419915914535522,
319
+ 0.07873887568712234,
320
+ 0.08668454363942146,
321
+ 0.030091028660535812,
322
+ 0.07879319041967392,
323
+ 0.08715524151921272,
324
+ 0.030114606022834778,
325
+ 0.08289114013314247,
326
+ 0.08667659759521484,
327
+ 0.030603285878896713,
328
+ 0.07916923239827156,
329
+ 0.08658843114972115,
330
+ 0.03079453483223915,
331
+ 0.07964383810758591,
332
+ 0.07865237444639206,
333
+ 0.08655481413006783,
334
+ 0.02999911457300186,
335
+ 0.07880894839763641,
336
+ 0.08662855625152588,
337
+ 0.029709503054618835,
338
+ 0.07869342342019081,
339
+ 0.03609725087881088,
340
+ 0.0786292776465416,
341
+ 0.07863548398017883,
342
+ 0.03002322092652321,
343
+ 0.08683636412024498,
344
+ 0.07837329059839249,
345
+ 0.029871869832277298,
346
+ 0.08657090365886688,
347
+ 0.030100088566541672,
348
+ 0.07891098782420158,
349
+ 0.08725613355636597,
350
+ 0.030206460505723953,
351
+ 0.07921726629137993,
352
+ 0.08741254732012749,
353
+ 0.03001110628247261,
354
+ 0.07912136614322662,
355
+ 0.08734156936407089,
356
+ 0.0299556702375412,
357
+ 0.07879934832453728,
358
+ 0.08639783039689064,
359
+ 0.030215512961149216,
360
+ 0.08374343067407608,
361
+ 0.08407200500369072,
362
+ 0.03037494421005249,
363
+ 0.030978109687566757,
364
+ 0.08719741553068161,
365
+ 0.029958996921777725,
366
+ 0.0788278877735138,
367
+ 0.08679919689893723,
368
+ 0.03013148158788681,
369
+ 0.07876430824398994,
370
+ 0.08646280318498611,
371
+ 0.029811915010213852,
372
+ 0.07895421981811523,
373
+ 0.08696038648486137,
374
+ 0.031066812574863434,
375
+ 0.07892268151044846,
376
+ 0.08609519898891449,
377
+ 0.02981487289071083,
378
+ 0.0792936161160469,
379
+ 0.030287284404039383,
380
+ 0.0870140790939331,
381
+ 0.07865964248776436,
382
+ 0.03012550249695778,
383
+ 0.08696513995528221,
384
+ 0.0784844309091568,
385
+ 0.029944688081741333,
386
+ 0.086761474609375,
387
+ 0.07896649464964867,
388
+ 0.03031099960207939,
389
+ 0.08786065503954887,
390
+ 0.030277341604232788,
391
+ 0.07935434579849243,
392
+ 0.08759656175971031,
393
+ 0.030528832226991653,
394
+ 0.08571954816579819,
395
+ 0.029911436140537262,
396
+ 0.07833398878574371,
397
+ 0.029860004782676697,
398
+ 0.08652855828404427,
399
+ 0.07841072604060173,
400
+ 0.030123412609100342,
401
+ 0.08655818551778793,
402
+ 0.07855880260467529,
403
+ 0.03036956489086151,
404
+ 0.08715884387493134,
405
+ 0.030181337147951126,
406
+ 0.07853639498353004,
407
+ 0.08769216015934944,
408
+ 0.03001139685511589,
409
+ 0.08302642032504082,
410
+ 0.08739649876952171,
411
+ 0.03041168302297592,
412
+ 0.07898931205272675,
413
+ 0.08745930716395378,
414
+ 0.030811142176389694,
415
+ 0.07905949652194977,
416
+ 0.08724984526634216,
417
+ 0.02985016629099846,
418
+ 0.08056964725255966,
419
+ 0.08694979920983315,
420
+ 0.031596966087818146,
421
+ 0.0788983553647995,
422
+ 0.08599378913640976,
423
+ 0.030666440725326538,
424
+ 0.07916632294654846
425
+ ],
426
+ "count": 310,
427
+ "total": 19.973630283027887,
428
+ "mean": 0.06443106542912222,
429
+ "p50": 0.07896035723388195,
430
+ "p90": 0.08737876750528813,
431
+ "p95": 0.08769192714244127,
432
+ "p99": 0.08814818881452084,
433
+ "stdev": 0.025390094743037318,
434
+ "stdev_": 39.4066039012933
435
+ },
436
+ "throughput": {
437
+ "unit": "tokens/s",
438
+ "value": 31.040927023007434
439
+ },
440
+ "energy": null,
441
+ "efficiency": null
442
+ }
443
+ }