IlyasMoutawwakil HF Staff commited on
Commit
ae869fc
·
verified ·
1 Parent(s): 33a0632

Upload cuda_inference_transformers_fill-mask_hf-internal-testing/tiny-random-BertModel/benchmark_report.json with huggingface_hub

Browse files
cuda_inference_transformers_fill-mask_hf-internal-testing/tiny-random-BertModel/benchmark_report.json CHANGED
@@ -2,7 +2,7 @@
2
  "load_model": {
3
  "memory": {
4
  "unit": "MB",
5
- "max_ram": 812.044288,
6
  "max_global_vram": 639.107072,
7
  "max_process_vram": 0.0,
8
  "max_reserved": 2.097152,
@@ -11,32 +11,66 @@
11
  "latency": {
12
  "unit": "s",
13
  "values": [
14
- 0.057968639373779295
15
  ],
16
  "count": 1,
17
- "total": 0.057968639373779295,
18
- "mean": 0.057968639373779295,
19
- "p50": 0.057968639373779295,
20
- "p90": 0.057968639373779295,
21
- "p95": 0.057968639373779295,
22
- "p99": 0.057968639373779295,
23
  "stdev": 0,
24
  "stdev_": 0
25
  },
26
  "throughput": null,
27
  "energy": {
28
  "unit": "kWh",
29
- "cpu": 9.994954019513855e-05,
30
- "ram": 5.4779313656757765e-05,
31
- "gpu": 0.0001367231649340001,
32
- "total": 0.00029145201878589644
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
33
  },
34
  "efficiency": null
35
  },
36
  "forward": {
37
  "memory": {
38
  "unit": "MB",
39
- "max_ram": 1050.898432,
40
  "max_global_vram": 670.564352,
41
  "max_process_vram": 0.0,
42
  "max_reserved": 23.068672,
@@ -45,394 +79,400 @@
45
  "latency": {
46
  "unit": "s",
47
  "values": [
48
- 0.0030074880123138427,
49
- 0.00293068790435791,
50
- 0.002787328004837036,
51
- 0.002766848087310791,
52
- 0.0027330880165100098,
53
- 0.0028180480003356934,
54
- 0.0029049599170684814,
55
- 0.002875391960144043,
56
- 0.0029849600791931152,
57
- 0.0028446719646453857,
58
- 0.0029194240570068358,
59
- 0.0028057599067687986,
60
- 0.002732032060623169,
61
- 0.002677759885787964,
62
- 0.002840575933456421,
63
- 0.00276582407951355,
64
- 0.002795520067214966,
65
- 0.0027791359424591063,
66
- 0.002672640085220337,
67
- 0.0026717441082000732,
68
- 0.0026951680183410643,
69
- 0.0026408960819244384,
70
- 0.0026460158824920654,
71
- 0.0026951680183410643,
72
- 0.002715519905090332,
73
- 0.0026664960384368895,
74
- 0.0027688961029052736,
75
- 0.0027371840476989747,
76
- 0.0027197439670562746,
77
- 0.002790271997451782,
78
- 0.0027514879703521727,
79
- 0.0025456640720367433,
80
- 0.002590719938278198,
81
- 0.002661344051361084,
82
- 0.0026173439025878906,
83
- 0.0026961920261383055,
84
- 0.002669568061828613,
85
- 0.002649183988571167,
86
- 0.002721695899963379,
87
- 0.0027648000717163087,
88
- 0.002686111927032471,
89
- 0.002786303997039795,
90
- 0.0028282880783081056,
91
- 0.0026818559169769288,
92
- 0.002661375999450684,
93
- 0.0028045759201049806,
94
- 0.002615295886993408,
95
- 0.0026492159366607666,
96
- 0.002615295886993408,
97
- 0.0026808319091796875,
98
- 0.002736128091812134,
99
- 0.0025456640720367433,
100
- 0.0025569279193878173,
101
- 0.0025692479610443116,
102
- 0.002657279968261719,
103
- 0.0027013120651245117,
104
- 0.002632704019546509,
105
- 0.002634752035140991,
106
- 0.002657279968261719,
107
- 0.002686975955963135,
108
- 0.0026522560119628907,
109
- 0.0026306560039520265,
110
- 0.0025538558959960936,
111
- 0.0025876479148864745,
112
- 0.002561023950576782,
113
- 0.0026122241020202636,
114
- 0.0025886719226837157,
115
- 0.0026849279403686525,
116
- 0.002643968105316162,
117
- 0.0026255359649658204,
118
- 0.002623487949371338,
119
- 0.0026767680644989014,
120
- 0.002633631944656372,
121
- 0.0026122241020202636,
122
- 0.002815999984741211,
123
- 0.002712575912475586,
124
- 0.0026408960819244384,
125
- 0.003082240104675293,
126
- 0.0027946240901947023,
127
- 0.002825216054916382,
128
- 0.002754496097564697,
129
- 0.002817023992538452,
130
- 0.0028016641139984133,
131
- 0.0029368319511413575,
132
- 0.0031662399768829347,
133
- 0.0027432959079742433,
134
- 0.0028835198879241944,
135
- 0.0033351678848266603,
136
- 0.002610176086425781,
137
- 0.002699264049530029,
138
- 0.0027187199592590334,
139
- 0.0027043840885162354,
140
- 0.0027199039459228514,
141
- 0.0027678720951080323,
142
- 0.0026521599292755127,
143
- 0.0027555840015411376,
144
- 0.0027924480438232422,
145
- 0.0028897280693054197,
146
- 0.0028723840713500977,
147
  0.002899967908859253,
148
- 0.002891776084899902,
149
- 0.0028774399757385254,
150
- 0.002979840040206909,
151
- 0.002949120044708252,
152
- 0.002949120044708252,
153
- 0.0027740159034729006,
154
- 0.0028477439880371094,
155
- 0.0027964799404144288,
156
- 0.0027730560302734377,
157
- 0.0026951680183410643,
158
- 0.0027678720951080323,
159
- 0.0027351040840148926,
160
- 0.002606080055236816,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
161
  0.0026839039325714112,
162
- 0.0026786880493164062,
163
- 0.002717695951461792,
164
- 0.0027340800762176514,
165
- 0.002889568090438843,
166
- 0.0028282880783081056,
167
- 0.0027002880573272704,
168
- 0.002663424015045166,
169
- 0.0025753600597381594,
170
- 0.002627583980560303,
171
- 0.002849792003631592,
172
- 0.0026920959949493406,
173
- 0.002614272117614746,
174
- 0.0027381761074066163,
175
- 0.0026900479793548586,
176
- 0.002561023950576782,
177
- 0.002610176086425781,
178
- 0.002615328073501587,
179
- 0.0024832000732421876,
180
- 0.0026163198947906493,
181
- 0.0025681920051574708,
182
- 0.002555903911590576,
183
  0.002627583980560303,
184
- 0.0026460158824920654,
185
- 0.0025999360084533693,
186
- 0.0026194241046905518,
187
- 0.0027596800327301025,
188
- 0.002573312044143677,
189
- 0.0025702080726623536,
190
- 0.0025466880798339846,
191
- 0.002577408075332642,
192
- 0.00253439998626709,
193
- 0.002564095973968506,
194
- 0.0025958399772644043,
195
- 0.00277292799949646,
196
- 0.00275763201713562,
197
- 0.0028426239490509033,
198
- 0.002783168077468872,
199
  0.002649087905883789,
200
- 0.0025835518836975096,
201
- 0.002614272117614746,
202
- 0.002589695930480957,
203
- 0.0025968639850616456,
204
- 0.002606080055236816,
205
- 0.002593791961669922,
206
- 0.002585599899291992,
207
- 0.002634752035140991,
208
- 0.0025876479148864745,
209
- 0.00268287992477417,
210
- 0.0026306560039520265,
211
- 0.002542655944824219,
212
- 0.00268287992477417,
213
  0.0026296319961547853,
214
- 0.0026071040630340574,
215
- 0.0026368000507354735,
216
- 0.0026552319526672364,
217
- 0.002584575891494751,
218
- 0.002674783945083618,
219
- 0.0026839039325714112,
220
- 0.0027105278968811036,
221
- 0.002632704019546509,
222
- 0.002736128091812134,
223
- 0.002743328094482422,
224
- 0.002737152099609375,
225
- 0.0029214720726013182,
226
- 0.002775007963180542,
227
- 0.0026593279838562013,
228
- 0.002741247892379761,
229
- 0.0027504639625549315,
230
- 0.0027555840015411376,
231
- 0.002817023992538452,
232
- 0.0028897280693054197,
233
- 0.00306275200843811,
234
- 0.002840575933456421,
235
- 0.002924544095993042,
236
- 0.0029378559589385987,
237
- 0.002943840026855469,
238
- 0.0028324160575866697,
239
- 0.0030710079669952393,
240
- 0.0028580160140991213,
241
- 0.0029624319076538086,
242
- 0.002918368101119995,
243
- 0.0031590399742126465,
244
- 0.0029020159244537353,
245
- 0.0027523839473724363,
246
- 0.002712575912475586,
247
- 0.0028231680393218995,
248
- 0.002837503910064697,
249
- 0.002770944118499756,
250
- 0.002845695972442627,
251
- 0.002777087926864624,
252
- 0.0026574079990386965,
253
- 0.002632704019546509,
254
- 0.002727936029434204,
255
- 0.00283238410949707,
256
- 0.002888672113418579,
257
- 0.0028519039154052735,
258
- 0.002783231973648071,
259
- 0.0026839039325714112,
260
- 0.0027013120651245117,
261
- 0.0027289600372314453,
262
- 0.002693120002746582,
263
  0.0027146239280700685,
264
- 0.002737152099609375,
265
- 0.002708479881286621,
266
- 0.0026593279838562013,
267
- 0.002673664093017578,
268
- 0.002825279951095581,
269
- 0.002712575912475586,
270
- 0.002953183889389038,
271
- 0.002756608009338379,
272
- 0.0027197439670562746,
273
- 0.0027443199157714845,
274
- 0.002687999963760376,
275
- 0.0026521599292755127,
276
- 0.0026541759967803956,
277
  0.0026265599727630616,
278
- 0.002628607988357544,
279
- 0.0026675200462341307,
280
- 0.0026808319091796875,
281
- 0.0026920959949493406,
282
- 0.00268287992477417,
283
- 0.002686975955963135,
284
  0.0026368000507354735,
285
- 0.0026951680183410643,
286
- 0.0026910719871521,
287
- 0.0026552319526672364,
288
- 0.002603008031845093,
289
- 0.0026880640983581545,
290
- 0.0027443199157714845,
291
- 0.002702336072921753,
292
- 0.002728991985321045,
293
- 0.0027188479900360106,
294
- 0.0026562559604644776,
295
- 0.00276582407951355,
296
- 0.0028651518821716307,
297
- 0.002804735898971558,
298
- 0.002836479902267456,
299
- 0.0027852799892425536,
300
- 0.0026666560173034667,
301
- 0.002664448022842407,
302
- 0.00283238410949707,
303
- 0.0026735680103302,
304
- 0.002653183937072754,
305
- 0.0028599679470062258,
306
- 0.00330348801612854,
307
- 0.003123199939727783,
308
- 0.003081216096878052,
309
- 0.0031928319931030275,
310
- 0.0031518080234527587,
311
- 0.003126271963119507,
312
- 0.003181567907333374,
313
- 0.003122175931930542,
314
- 0.002888832092285156,
315
- 0.002778111934661865,
316
- 0.0027515840530395507,
317
- 0.002718559980392456,
318
- 0.0027678720951080323,
319
- 0.0027310080528259277,
320
- 0.002720736026763916,
321
- 0.0027596800327301025,
322
- 0.0028815360069274903,
323
- 0.002713632106781006,
324
  0.002708479881286621,
325
- 0.002786303997039795,
326
- 0.0027013120651245117,
327
- 0.0027729918956756593,
 
 
 
 
 
 
 
 
 
 
 
328
  0.0027514879703521727,
329
- 0.0027105278968811036,
330
- 0.002657279968261719,
331
- 0.002766848087310791,
 
 
 
 
 
 
 
 
 
332
  0.002686975955963135,
333
- 0.0026255359649658204,
334
- 0.002708479881286621,
335
- 0.0027187199592590334,
336
- 0.0026183679103851318,
337
- 0.0026849279403686525,
338
- 0.002700223922729492,
339
- 0.0025518720149993895,
340
- 0.0026071040630340574,
341
- 0.0026705920696258544,
342
- 0.0026071040630340574,
343
- 0.0026603519916534426,
344
- 0.0026839039325714112,
345
- 0.0026317760944366453,
346
- 0.002678783893585205,
347
  0.0026767361164093018,
348
- 0.0026142079830169676,
349
- 0.0026664960384368895,
350
- 0.0026408960819244384,
351
- 0.002597887992858887,
352
- 0.002693120002746582,
353
- 0.0027095038890838623,
354
- 0.002648063898086548,
355
- 0.0026664960384368895,
356
- 0.0026593279838562013,
357
- 0.002648063898086548,
358
  0.002702336072921753,
 
 
 
 
 
 
 
 
 
359
  0.002821120023727417,
360
- 0.002649087905883789,
361
- 0.00265830397605896,
362
- 0.002669568061828613,
363
- 0.002610176086425781,
364
- 0.0026767361164093018,
365
- 0.0026378240585327147,
 
 
 
 
 
 
 
 
366
  0.002653183937072754,
367
- 0.0026849279403686525,
368
- 0.0026910719871521,
369
- 0.0027054080963134766,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
370
  0.0026470398902893066,
371
- 0.00268287992477417,
372
- 0.0026632959842681886,
373
- 0.0027904000282287598,
374
- 0.0026603519916534426,
 
 
 
 
375
  0.002638848066329956,
376
- 0.002623487949371338,
377
- 0.0026551361083984376,
378
- 0.0026306560039520265,
379
- 0.0026408960819244384,
380
- 0.0026890239715576174,
381
- 0.002643968105316162,
382
- 0.0026368000507354735,
383
  0.0026716160774230956,
 
 
 
 
 
 
 
 
384
  0.002613248109817505,
385
- 0.0026316800117492677,
386
- 0.002672640085220337,
387
- 0.002625472068786621,
388
- 0.0026511681079864503,
389
- 0.002654207944869995,
390
- 0.002577408075332642,
391
- 0.002648063898086548,
392
  0.0026675200462341307,
393
- 0.002610176086425781,
394
- 0.002628607988357544,
 
 
 
 
395
  0.002668544054031372,
396
- 0.0026859519481658937,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
397
  0.0026255359649658204,
398
- 0.002689055919647217,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
399
  0.0026255359649658204,
400
- 0.0026562559604644776,
401
- 0.002693120002746582,
402
- 0.0026634559631347654,
403
  0.0026163198947906493,
404
- 0.002703360080718994,
405
- 0.002677759885787964,
406
- 0.002643968105316162,
407
- 0.002711551904678345,
408
- 0.0026961920261383055,
409
- 0.002565119981765747,
410
- 0.002657279968261719
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
411
  ],
412
- "count": 363,
413
- "total": 0.9889577596187595,
414
- "mean": 0.002724401541649474,
415
- "p50": 0.0026900479793548586,
416
- "p90": 0.0028888000965118406,
417
- "p95": 0.0029527775049209594,
418
- "p99": 0.0031720645904541015,
419
- "stdev": 0.00012883610853180137,
420
- "stdev_": 4.72896915385675
421
  },
422
  "throughput": {
423
  "unit": "samples/s",
424
- "value": 734.1061768703563
425
  },
426
  "energy": {
427
  "unit": "kWh",
428
- "cpu": 3.316368346560843e-08,
429
- "ram": 1.8171209702871468e-08,
430
- "gpu": 4.704563365266097e-08,
431
- "total": 9.838052682114079e-08
432
  },
433
  "efficiency": {
434
  "unit": "samples/kWh",
435
- "value": 20329226.368507553
436
  }
437
  }
438
  }
 
2
  "load_model": {
3
  "memory": {
4
  "unit": "MB",
5
+ "max_ram": 815.108096,
6
  "max_global_vram": 639.107072,
7
  "max_process_vram": 0.0,
8
  "max_reserved": 2.097152,
 
11
  "latency": {
12
  "unit": "s",
13
  "values": [
14
+ 0.05326847839355469
15
  ],
16
  "count": 1,
17
+ "total": 0.05326847839355469,
18
+ "mean": 0.05326847839355469,
19
+ "p50": 0.05326847839355469,
20
+ "p90": 0.05326847839355469,
21
+ "p95": 0.05326847839355469,
22
+ "p99": 0.05326847839355469,
23
  "stdev": 0,
24
  "stdev_": 0
25
  },
26
  "throughput": null,
27
  "energy": {
28
  "unit": "kWh",
29
+ "cpu": 9.806133058611128e-05,
30
+ "ram": 4.6145561772222104e-05,
31
+ "gpu": 0.0001350398302540001,
32
+ "total": 0.0002792467226123335
33
+ },
34
+ "efficiency": null
35
+ },
36
+ "first_forward": {
37
+ "memory": {
38
+ "unit": "MB",
39
+ "max_ram": 1052.213248,
40
+ "max_global_vram": 670.564352,
41
+ "max_process_vram": 0.0,
42
+ "max_reserved": 23.068672,
43
+ "max_allocated": 10.112
44
+ },
45
+ "latency": {
46
+ "unit": "s",
47
+ "values": [
48
+ 0.15373619079589843
49
+ ],
50
+ "count": 1,
51
+ "total": 0.15373619079589843,
52
+ "mean": 0.15373619079589843,
53
+ "p50": 0.15373619079589843,
54
+ "p90": 0.15373619079589843,
55
+ "p95": 0.15373619079589843,
56
+ "p99": 0.15373619079589843,
57
+ "stdev": 0,
58
+ "stdev_": 0
59
+ },
60
+ "throughput": null,
61
+ "energy": {
62
+ "unit": "kWh",
63
+ "cpu": 9.891497327291666e-05,
64
+ "ram": 4.6547049861110974e-05,
65
+ "gpu": 0.00013621705341799995,
66
+ "total": 0.0002816790765520276
67
  },
68
  "efficiency": null
69
  },
70
  "forward": {
71
  "memory": {
72
  "unit": "MB",
73
+ "max_ram": 1053.14304,
74
  "max_global_vram": 670.564352,
75
  "max_process_vram": 0.0,
76
  "max_reserved": 23.068672,
 
79
  "latency": {
80
  "unit": "s",
81
  "values": [
82
+ 0.0030003199577331545,
83
+ 0.002859008073806763,
84
+ 0.0030003199577331545,
85
+ 0.0030556159019470217,
86
+ 0.0030023679733276365,
87
+ 0.0029614078998565674,
88
+ 0.00301363205909729,
89
+ 0.0030105600357055663,
90
+ 0.0030064640045166014,
91
+ 0.002959359884262085,
92
+ 0.0029409279823303224,
93
+ 0.0029573121070861816,
94
+ 0.0029276158809661865,
95
+ 0.00291430401802063,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
96
  0.002899967908859253,
97
+ 0.002942975997924805,
98
+ 0.0027924480438232422,
99
+ 0.002761728048324585,
100
+ 0.0027699520587921144,
101
+ 0.0027443199157714845,
102
+ 0.002723839998245239,
103
+ 0.0027289600372314453,
104
+ 0.0026204159259796142,
105
+ 0.002573312044143677,
106
+ 0.002539520025253296,
107
+ 0.0025415680408477784,
108
+ 0.002514944076538086,
109
+ 0.002550784111022949,
110
+ 0.0025456640720367433,
111
+ 0.0025518081188201903,
112
+ 0.0026460158824920654,
113
+ 0.002645024061203003,
114
+ 0.0025835518836975096,
115
+ 0.0026204159259796142,
116
+ 0.0026009600162506105,
117
+ 0.0025190720558166506,
118
+ 0.0024913918972015382,
119
+ 0.0024872961044311525,
120
+ 0.002451456069946289,
121
+ 0.0024934399127960207,
122
+ 0.002471935987472534,
123
+ 0.002494463920593262,
124
+ 0.0024985599517822264,
125
+ 0.002489343881607056,
126
+ 0.0025436480045318605,
127
+ 0.0025282559394836424,
128
+ 0.0025282559394836424,
129
+ 0.0025231359004974367,
130
+ 0.0025528318881988523,
131
+ 0.0025251839160919188,
132
+ 0.002619391918182373,
133
  0.0026839039325714112,
134
+ 0.0026316800117492677,
135
+ 0.0026859519481658937,
136
+ 0.0026798079013824463,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
137
  0.002627583980560303,
138
+ 0.002615295886993408,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
139
  0.002649087905883789,
140
+ 0.0025927679538726807,
 
 
 
 
 
 
 
 
 
 
 
 
141
  0.0026296319961547853,
142
+ 0.0026306560039520265,
143
+ 0.00253439998626709,
144
+ 0.002520064115524292,
145
+ 0.00249452805519104,
146
+ 0.0024985599517822264,
147
+ 0.002510848045349121,
148
+ 0.002489408016204834,
149
+ 0.0025528318881988523,
150
+ 0.0025825281143188475,
151
+ 0.0026449921131134033,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
152
  0.0027146239280700685,
153
+ 0.002669568061828613,
154
+ 0.002632704019546509,
155
+ 0.002669568061828613,
 
 
 
 
 
 
 
 
 
 
156
  0.0026265599727630616,
157
+ 0.0026173439025878906,
158
+ 0.002648031949996948,
159
+ 0.002627583980560303,
 
 
 
160
  0.0026368000507354735,
161
+ 0.002655296087265015,
162
+ 0.002623487949371338,
163
+ 0.002643968105316162,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
164
  0.002708479881286621,
165
+ 0.0026654720306396483,
166
+ 0.0025722880363464357,
167
+ 0.0025620479583740234,
168
+ 0.002590719938278198,
169
+ 0.0025425920486450196,
170
+ 0.0025815041065216063,
171
+ 0.002579456090927124,
172
+ 0.0027504639625549315,
173
+ 0.002796544075012207,
174
+ 0.002742271900177002,
175
+ 0.002717695951461792,
176
+ 0.0027965118885040284,
177
+ 0.002762752056121826,
178
+ 0.002849792003631592,
179
  0.0027514879703521727,
180
+ 0.0027545599937438964,
181
+ 0.002702336072921753,
182
+ 0.0026060159206390382,
183
+ 0.002642944097518921,
184
+ 0.00263372802734375,
185
+ 0.0025968639850616456,
186
+ 0.002623487949371338,
187
+ 0.002624511957168579,
188
+ 0.0026009600162506105,
189
+ 0.0026716160774230956,
190
+ 0.0026716160774230956,
191
+ 0.0026664960384368895,
192
  0.002686975955963135,
193
+ 0.0029419519901275636,
 
 
 
 
 
 
 
 
 
 
 
 
 
194
  0.0026767361164093018,
195
+ 0.0026920959949493406,
196
+ 0.002678783893585205,
197
+ 0.002663392066955566,
 
 
 
 
 
 
 
198
  0.002702336072921753,
199
+ 0.0026890239715576174,
200
+ 0.002706432104110718,
201
+ 0.0026746881008148193,
202
+ 0.0026808319091796875,
203
+ 0.0026951680183410643,
204
+ 0.0027187199592590334,
205
+ 0.0027248640060424803,
206
+ 0.0027791359424591063,
207
+ 0.002769920110702515,
208
  0.002821120023727417,
209
+ 0.0028354558944702147,
210
+ 0.002820096015930176,
211
+ 0.002840575933456421,
212
+ 0.002826240062713623,
213
+ 0.002850816011428833,
214
+ 0.0027893760204315186,
215
+ 0.002826240062713623,
216
+ 0.002826240062713623,
217
+ 0.002846719980239868,
218
+ 0.002723839998245239,
219
+ 0.002716671943664551,
220
+ 0.0027514879703521727,
221
+ 0.0026808319091796875,
222
+ 0.0026337919235229494,
223
  0.002653183937072754,
224
+ 0.0025968639850616456,
225
+ 0.0026746881008148193,
226
+ 0.0027934720516204835,
227
+ 0.0027688961029052736,
228
+ 0.0028129279613494872,
229
+ 0.002800640106201172,
230
+ 0.002736128091812134,
231
+ 0.002705440044403076,
232
+ 0.002672640085220337,
233
+ 0.0027289600372314453,
234
+ 0.002712608098983765,
235
+ 0.002736128091812134,
236
+ 0.0027514879703521727,
237
+ 0.0027494399547576902,
238
+ 0.0027289600372314453,
239
+ 0.002648063898086548,
240
+ 0.002614272117614746,
241
+ 0.0026378240585327147,
242
+ 0.002619391918182373,
243
  0.0026470398902893066,
244
+ 0.0026910719871521,
245
+ 0.002677759885787964,
246
+ 0.002662400007247925,
247
+ 0.0026900479793548586,
248
+ 0.0026449921131134033,
249
+ 0.002615295886993408,
250
+ 0.002648063898086548,
251
+ 0.0026255359649658204,
252
  0.002638848066329956,
 
 
 
 
 
 
 
253
  0.0026716160774230956,
254
+ 0.0027443199157714845,
255
+ 0.0028149759769439697,
256
+ 0.002866175889968872,
257
+ 0.0028682239055633544,
258
+ 0.002707456111907959,
259
+ 0.002624511957168579,
260
+ 0.00349183988571167,
261
+ 0.0027054080963134766,
262
  0.002613248109817505,
263
+ 0.002623487949371338,
264
+ 0.002632704019546509,
265
+ 0.002598912000656128,
 
 
 
 
266
  0.0026675200462341307,
267
+ 0.0026757121086120605,
268
+ 0.0026818559169769288,
269
+ 0.002654207944869995,
270
+ 0.002659264087677002,
271
+ 0.0026798079013824463,
272
+ 0.002638848066329956,
273
  0.002668544054031372,
274
+ 0.0026890239715576174,
275
+ 0.0026746881008148193,
276
+ 0.0026849279403686525,
277
+ 0.0026900479793548586,
278
+ 0.0026593279838562013,
279
+ 0.0026654720306396483,
280
+ 0.0026675200462341307,
281
+ 0.002642944097518921,
282
+ 0.00265830397605896,
283
+ 0.002649087905883789,
284
+ 0.002638848066329956,
285
+ 0.002708479881286621,
286
+ 0.002769920110702515,
287
+ 0.002795520067214966,
288
+ 0.002859008073806763,
289
+ 0.002905087947845459,
290
+ 0.002896895885467529,
291
+ 0.0028016641139984133,
292
+ 0.0028181118965148926,
293
+ 0.0028436479568481445,
294
+ 0.0028477439880371094,
295
+ 0.0028743679523468017,
296
+ 0.0028538880348205568,
297
+ 0.0028129279613494872,
298
+ 0.002694144010543823,
299
+ 0.0027002880573272704,
300
+ 0.0027207679748535154,
301
+ 0.002712575912475586,
302
+ 0.0027648000717163087,
303
+ 0.002769920110702515,
304
+ 0.002723839998245239,
305
+ 0.0026654720306396483,
306
+ 0.0026593279838562013,
307
+ 0.00260915207862854,
308
+ 0.0026562559604644776,
309
+ 0.0028180480003356934,
310
+ 0.0027924480438232422,
311
+ 0.0026419200897216796,
312
+ 0.002634752035140991,
313
+ 0.0026204159259796142,
314
+ 0.0025876479148864745,
315
  0.0026255359649658204,
316
+ 0.0026440000534057617,
317
+ 0.002597887992858887,
318
+ 0.002606080055236816,
319
+ 0.002615295886993408,
320
+ 0.002580480098724365,
321
+ 0.002654207944869995,
322
+ 0.002686975955963135,
323
+ 0.002662400007247925,
324
+ 0.0030955519676208495,
325
+ 0.0027637760639190674,
326
+ 0.0026122241020202636,
327
+ 0.002628607988357544,
328
+ 0.0025968639850616456,
329
+ 0.003086335897445679,
330
+ 0.003226624011993408,
331
+ 0.002972671985626221,
332
+ 0.0026296319961547853,
333
+ 0.0028723199367523193,
334
+ 0.0028733439445495605,
335
+ 0.0026347839832305906,
336
+ 0.0025876479148864745,
337
+ 0.0026368639469146727,
338
+ 0.002643968105316162,
339
+ 0.00260915207862854,
340
+ 0.0026818559169769288,
341
+ 0.002677759885787964,
342
+ 0.002619391918182373,
343
+ 0.0026767361164093018,
344
+ 0.0026951680183410643,
345
+ 0.002657279968261719,
346
+ 0.0027146239280700685,
347
+ 0.002831360101699829,
348
+ 0.002748415946960449,
349
+ 0.0031600639820098878,
350
+ 0.002883584022521973,
351
+ 0.0027801599502563475,
352
+ 0.0026501119136810303,
353
+ 0.0025927679538726807,
354
+ 0.0026050560474395754,
355
+ 0.0028723199367523193,
356
+ 0.0025702400207519532,
357
+ 0.0026214399337768555,
358
+ 0.0026163198947906493,
359
+ 0.0025784320831298826,
360
+ 0.002627583980560303,
361
+ 0.002584575891494751,
362
+ 0.0025917439460754394,
363
+ 0.0026378240585327147,
364
+ 0.0025753600597381594,
365
+ 0.0026122241020202636,
366
+ 0.0026296319961547853,
367
+ 0.0025927679538726807,
368
  0.0026255359649658204,
369
+ 0.00260915207862854,
370
+ 0.002574336051940918,
 
371
  0.0026163198947906493,
372
+ 0.002597887992858887,
373
+ 0.002564095973968506,
374
+ 0.0026122241020202636,
375
+ 0.00260915207862854,
376
+ 0.002573312044143677,
377
+ 0.0026880319118499757,
378
+ 0.002606080055236816,
379
+ 0.0025763840675354006,
380
+ 0.0026102080345153807,
381
+ 0.002585599899291992,
382
+ 0.0025753600597381594,
383
+ 0.002593791961669922,
384
+ 0.002649087905883789,
385
+ 0.0029224960803985595,
386
+ 0.002661375999450684,
387
+ 0.0025968639850616456,
388
+ 0.0025763840675354006,
389
+ 0.002615295886993408,
390
+ 0.0025958399772644043,
391
+ 0.0025763840675354006,
392
+ 0.002598912000656128,
393
+ 0.0025886719226837157,
394
+ 0.002580480098724365,
395
+ 0.0025671679973602295,
396
+ 0.0026019840240478517,
397
+ 0.002577408075332642,
398
+ 0.002585599899291992,
399
+ 0.002590719938278198,
400
+ 0.0025763840675354006,
401
+ 0.002594815969467163,
402
+ 0.002610176086425781,
403
+ 0.0026122241020202636,
404
+ 0.002849792003631592,
405
+ 0.0026357760429382322,
406
+ 0.0025815041065216063,
407
+ 0.002639872074127197,
408
+ 0.002623487949371338,
409
+ 0.0025999360084533693,
410
+ 0.002610176086425781,
411
+ 0.002624511957168579,
412
+ 0.002584575891494751,
413
+ 0.0026019840240478517,
414
+ 0.002584575891494751,
415
+ 0.002584575891494751,
416
+ 0.002612191915512085,
417
+ 0.002603008031845093,
418
+ 0.002598912000656128,
419
+ 0.0025906879901885986,
420
+ 0.0025825281143188475,
421
+ 0.002627583980560303,
422
+ 0.002594815969467163,
423
+ 0.0026163198947906493,
424
+ 0.002606080055236816,
425
+ 0.0025959041118621827,
426
+ 0.002597887992858887,
427
+ 0.0026112000942230223,
428
+ 0.002628607988357544,
429
+ 0.0025835518836975096,
430
+ 0.002615295886993408,
431
+ 0.002603008031845093,
432
+ 0.002587615966796875,
433
+ 0.0026081600189208983,
434
+ 0.002603008031845093,
435
+ 0.0025927999019622803,
436
+ 0.0026163198947906493,
437
+ 0.00260915207862854,
438
+ 0.0025886719226837157,
439
+ 0.0026019840240478517,
440
+ 0.0026050560474395754,
441
+ 0.0025702400207519532,
442
+ 0.002604032039642334,
443
+ 0.0025999360084533693,
444
+ 0.002606080055236816,
445
+ 0.0026009600162506105,
446
+ 0.0026019840240478517,
447
+ 0.002589695930480957,
448
+ 0.002600895881652832,
449
+ 0.0026255359649658204,
450
+ 0.002634752035140991
451
  ],
452
+ "count": 369,
453
+ "total": 0.9883908472061147,
454
+ "mean": 0.00267856598158839,
455
+ "p50": 0.0026419200897216796,
456
+ "p90": 0.002849792003631592,
457
+ "p95": 0.0029356031417846675,
458
+ "p99": 0.0030892850399017336,
459
+ "stdev": 0.0001273070788407616,
460
+ "stdev_": 4.752807275080395
461
  },
462
  "throughput": {
463
  "unit": "samples/s",
464
+ "value": 746.6681850465374
465
  },
466
  "energy": {
467
  "unit": "kWh",
468
+ "cpu": 3.059598161521312e-08,
469
+ "ram": 1.4394251986183234e-08,
470
+ "gpu": 4.4428648093264125e-08,
471
+ "total": 8.941888169466055e-08
472
  },
473
  "efficiency": {
474
  "unit": "samples/kWh",
475
+ "value": 22366640.71498252
476
  }
477
  }
478
  }