Hugging Face's logo

Fsoft-AIC
/
backup_checkpoints_libmoe

Image-Text-to-Text
TensorBoard
Safetensors
English
Model card Files
xet
Metrics Community
6187
DavidNguyen commited on
Commit
9ebf5bf
·
verified ·
1 Parent(s): 68f9d8e

4acec47145f23d5dc99b9354622d98f1679b6f18bb2e495d039a96d7ec161a1c

Browse files
Files changed (7) hide show
  1. .gitattributes +3 -0
  2. sft/665K36/Full_smoe_sigmoidgating/analysts/mathvista_testmini_data_selected_final.json +3 -0
  3. sft/665K36/Full_smoe_sigmoidgating/analysts/mathvista_testmini_score_selected_final.json +336 -0
  4. sft/665K36/Full_smoe_sigmoidgating/analysts/mme_data_selected_final.json +3 -0
  5. sft/665K36/Full_smoe_sigmoidgating/analysts/mme_score_selected_final.json +336 -0
  6. sft/665K36/Full_smoe_sigmoidgating/analysts/mmmu_val_data_selected_final.json +3 -0
  7. sft/665K36/Full_smoe_sigmoidgating/analysts/mmmu_val_score_selected_final.json +336 -0
.gitattributes CHANGED
@@ -406,3 +406,6 @@ sft/665K36/Full_smoe/analysts/mathvista_testmini_data_selected_final.json filter
406
  sft/665K36/Full_smoe/analysts/mme_data_selected_final.json filter=lfs diff=lfs merge=lfs -text
407
  sft/665K36/Full_smoe_share/analysts/mathvista_testmini_data_selected_final.json filter=lfs diff=lfs merge=lfs -text
408
  sft/665K36/Full_smoe_share/analysts/mme_data_selected_final.json filter=lfs diff=lfs merge=lfs -text
 
 
 
 
406
  sft/665K36/Full_smoe/analysts/mme_data_selected_final.json filter=lfs diff=lfs merge=lfs -text
407
  sft/665K36/Full_smoe_share/analysts/mathvista_testmini_data_selected_final.json filter=lfs diff=lfs merge=lfs -text
408
  sft/665K36/Full_smoe_share/analysts/mme_data_selected_final.json filter=lfs diff=lfs merge=lfs -text
409
+ sft/665K36/Full_smoe_sigmoidgating/analysts/mathvista_testmini_data_selected_final.json filter=lfs diff=lfs merge=lfs -text
410
+ sft/665K36/Full_smoe_sigmoidgating/analysts/mme_data_selected_final.json filter=lfs diff=lfs merge=lfs -text
411
+ sft/665K36/Full_smoe_sigmoidgating/analysts/mmmu_val_data_selected_final.json filter=lfs diff=lfs merge=lfs -text
sft/665K36/Full_smoe_sigmoidgating/analysts/mathvista_testmini_data_selected_final.json ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f23a0e2296d61bda45d5ef4f10aeb657c72036dd8239d1e87fa18d6940b88c77
3
+ size 11763963
sft/665K36/Full_smoe_sigmoidgating/analysts/mathvista_testmini_score_selected_final.json ADDED
@@ -0,0 +1,336 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "Full_smoe_sigmoidgating": {
3
+ "0": {
4
+ "0": [
5
+ 0.20166666666666666
6
+ ],
7
+ "1": [
8
+ 0.132
9
+ ],
10
+ "2": [
11
+ 0.7553333333333333
12
+ ],
13
+ "3": [
14
+ 0.782
15
+ ],
16
+ "4": [
17
+ 0.745
18
+ ],
19
+ "5": [
20
+ 0.44466666666666665
21
+ ],
22
+ "6": [
23
+ 0.7936666666666666
24
+ ],
25
+ "7": [
26
+ 0.731
27
+ ],
28
+ "8": [
29
+ 0.633
30
+ ],
31
+ "9": [
32
+ 0.5866666666666667
33
+ ],
34
+ "10": [
35
+ 0.6733333333333333
36
+ ],
37
+ "11": [
38
+ 0.3946666666666666
39
+ ],
40
+ "12": [
41
+ 0.5093333333333334
42
+ ],
43
+ "13": [
44
+ 0.403
45
+ ],
46
+ "14": [
47
+ 0.5863333333333334
48
+ ],
49
+ "15": [
50
+ 0.6433333333333333
51
+ ],
52
+ "16": [
53
+ 0.5036666666666666
54
+ ],
55
+ "17": [
56
+ 0.6806666666666666
57
+ ],
58
+ "18": [
59
+ 0.6313333333333334
60
+ ],
61
+ "19": [
62
+ 0.5916666666666667
63
+ ],
64
+ "20": [
65
+ 0.731
66
+ ],
67
+ "21": [
68
+ 0.67
69
+ ],
70
+ "22": [
71
+ 0.7346666666666666
72
+ ],
73
+ "23": [
74
+ 0.712
75
+ ],
76
+ "24": [
77
+ 0.638
78
+ ],
79
+ "25": [
80
+ 0.716
81
+ ],
82
+ "26": [
83
+ 0.7073333333333333
84
+ ]
85
+ },
86
+ "1": {
87
+ "0": [
88
+ 0.427
89
+ ],
90
+ "1": [
91
+ 0.020666666666666663
92
+ ],
93
+ "2": [
94
+ 0.8799999999999999
95
+ ],
96
+ "3": [
97
+ 0.6133333333333333
98
+ ],
99
+ "4": [
100
+ 0.442
101
+ ],
102
+ "5": [
103
+ 0.405
104
+ ],
105
+ "6": [
106
+ 0.627
107
+ ],
108
+ "7": [
109
+ 0.6366666666666666
110
+ ],
111
+ "8": [
112
+ 0.49999999999999994
113
+ ],
114
+ "9": [
115
+ 0.555
116
+ ],
117
+ "10": [
118
+ 0.577
119
+ ],
120
+ "11": [
121
+ 0.4693333333333333
122
+ ],
123
+ "12": [
124
+ 0.7743333333333332
125
+ ],
126
+ "13": [
127
+ 0.5213333333333332
128
+ ],
129
+ "14": [
130
+ 0.697
131
+ ],
132
+ "15": [
133
+ 0.6313333333333334
134
+ ],
135
+ "16": [
136
+ 0.5826666666666668
137
+ ],
138
+ "17": [
139
+ 0.5396666666666666
140
+ ],
141
+ "18": [
142
+ 0.5633333333333332
143
+ ],
144
+ "19": [
145
+ 0.6436666666666667
146
+ ],
147
+ "20": [
148
+ 0.6553333333333333
149
+ ],
150
+ "21": [
151
+ 0.6196666666666667
152
+ ],
153
+ "22": [
154
+ 0.6276666666666667
155
+ ],
156
+ "23": [
157
+ 0.712
158
+ ],
159
+ "24": [
160
+ 0.537
161
+ ],
162
+ "25": [
163
+ 0.6366666666666666
164
+ ],
165
+ "26": [
166
+ 0.6423333333333333
167
+ ]
168
+ },
169
+ "2": {
170
+ "0": [
171
+ 0.15266666666666667
172
+ ],
173
+ "1": [
174
+ 0.030333333333333334
175
+ ],
176
+ "2": [
177
+ 0.5813333333333333
178
+ ],
179
+ "3": [
180
+ 0.203
181
+ ],
182
+ "4": [
183
+ 0.41133333333333333
184
+ ],
185
+ "5": [
186
+ 0.3586666666666667
187
+ ],
188
+ "6": [
189
+ 0.43433333333333335
190
+ ],
191
+ "7": [
192
+ 0.6176666666666666
193
+ ],
194
+ "8": [
195
+ 0.4766666666666666
196
+ ],
197
+ "9": [
198
+ 0.6003333333333333
199
+ ],
200
+ "10": [
201
+ 0.526
202
+ ],
203
+ "11": [
204
+ 0.3883333333333333
205
+ ],
206
+ "12": [
207
+ 0.6163333333333333
208
+ ],
209
+ "13": [
210
+ 0.3333333333333333
211
+ ],
212
+ "14": [
213
+ 0.5536666666666666
214
+ ],
215
+ "15": [
216
+ 0.557
217
+ ],
218
+ "16": [
219
+ 0.5466666666666667
220
+ ],
221
+ "17": [
222
+ 0.425
223
+ ],
224
+ "18": [
225
+ 0.4666666666666666
226
+ ],
227
+ "19": [
228
+ 0.577
229
+ ],
230
+ "20": [
231
+ 0.602
232
+ ],
233
+ "21": [
234
+ 0.552
235
+ ],
236
+ "22": [
237
+ 0.45433333333333337
238
+ ],
239
+ "23": [
240
+ 0.528
241
+ ],
242
+ "24": [
243
+ 0.4486666666666666
244
+ ],
245
+ "25": [
246
+ 0.545
247
+ ],
248
+ "26": [
249
+ 0.5673333333333332
250
+ ]
251
+ },
252
+ "3": {
253
+ "0": [
254
+ 0.075
255
+ ],
256
+ "1": [
257
+ 0.015333333333333332
258
+ ],
259
+ "2": [
260
+ 0.1673333333333333
261
+ ],
262
+ "3": [
263
+ 0.13166666666666665
264
+ ],
265
+ "4": [
266
+ 0.17666666666666667
267
+ ],
268
+ "5": [
269
+ 0.18633333333333332
270
+ ],
271
+ "6": [
272
+ 0.22133333333333333
273
+ ],
274
+ "7": [
275
+ 0.29466666666666663
276
+ ],
277
+ "8": [
278
+ 0.23866666666666667
279
+ ],
280
+ "9": [
281
+ 0.302
282
+ ],
283
+ "10": [
284
+ 0.3203333333333333
285
+ ],
286
+ "11": [
287
+ 0.25
288
+ ],
289
+ "12": [
290
+ 0.4066666666666667
291
+ ],
292
+ "13": [
293
+ 0.22366666666666665
294
+ ],
295
+ "14": [
296
+ 0.37
297
+ ],
298
+ "15": [
299
+ 0.38433333333333336
300
+ ],
301
+ "16": [
302
+ 0.32033333333333336
303
+ ],
304
+ "17": [
305
+ 0.26833333333333337
306
+ ],
307
+ "18": [
308
+ 0.28633333333333333
309
+ ],
310
+ "19": [
311
+ 0.3916666666666666
312
+ ],
313
+ "20": [
314
+ 0.4383333333333333
315
+ ],
316
+ "21": [
317
+ 0.3913333333333333
318
+ ],
319
+ "22": [
320
+ 0.2843333333333334
321
+ ],
322
+ "23": [
323
+ 0.37566666666666665
324
+ ],
325
+ "24": [
326
+ 0.321
327
+ ],
328
+ "25": [
329
+ 0.302
330
+ ],
331
+ "26": [
332
+ 0.3593333333333334
333
+ ]
334
+ }
335
+ }
336
+ }
sft/665K36/Full_smoe_sigmoidgating/analysts/mme_data_selected_final.json ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3dcc33cc75ec22c3c1d8cf2b2dbe5f1fa6f7aabdc9585e623af847ae48f48439
3
+ size 34902744
sft/665K36/Full_smoe_sigmoidgating/analysts/mme_score_selected_final.json ADDED
@@ -0,0 +1,336 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "Full_smoe_sigmoidgating": {
3
+ "0": {
4
+ "0": [
5
+ 0.12664981746700363
6
+ ],
7
+ "1": [
8
+ 0.21258073574838526
9
+ ],
10
+ "2": [
11
+ 0.6821117663577647
12
+ ],
13
+ "3": [
14
+ 0.8256107834877844
15
+ ],
16
+ "4": [
17
+ 0.7848918843021624
18
+ ],
19
+ "5": [
20
+ 0.558270148834597
21
+ ],
22
+ "6": [
23
+ 0.7868576242628476
24
+ ],
25
+ "7": [
26
+ 0.7854535242909295
27
+ ],
28
+ "8": [
29
+ 0.7829261443414771
30
+ ],
31
+ "9": [
32
+ 0.7099129458017411
33
+ ],
34
+ "10": [
35
+ 0.6964335860713283
36
+ ],
37
+ "11": [
38
+ 0.4771131704577366
39
+ ],
40
+ "12": [
41
+ 0.607413647851727
42
+ ],
43
+ "13": [
44
+ 0.44678461106430784
45
+ ],
46
+ "14": [
47
+ 0.5734344285313114
48
+ ],
49
+ "15": [
50
+ 0.6641392867172142
51
+ ],
52
+ "16": [
53
+ 0.4771131704577366
54
+ ],
55
+ "17": [
56
+ 0.6781802864363943
57
+ ],
58
+ "18": [
59
+ 0.5065992698680145
60
+ ],
61
+ "19": [
62
+ 0.5037910699241785
63
+ ],
64
+ "20": [
65
+ 0.7837686043246278
66
+ ],
67
+ "21": [
68
+ 0.6809884863802304
69
+ ],
70
+ "22": [
71
+ 0.667789946644201
72
+ ],
73
+ "23": [
74
+ 0.6882898062342039
75
+ ],
76
+ "24": [
77
+ 0.7337826453243471
78
+ ],
79
+ "25": [
80
+ 0.6632968267340634
81
+ ],
82
+ "26": [
83
+ 0.7312552653748947
84
+ ]
85
+ },
86
+ "1": {
87
+ "0": [
88
+ 0.17158101656837962
89
+ ],
90
+ "1": [
91
+ 0.06739679865206402
92
+ ],
93
+ "2": [
94
+ 0.8452681830946362
95
+ ],
96
+ "3": [
97
+ 0.6515023869699522
98
+ ],
99
+ "4": [
100
+ 0.4776748104465038
101
+ ],
102
+ "5": [
103
+ 0.4771131704577366
104
+ ],
105
+ "6": [
106
+ 0.6206121875877563
107
+ ],
108
+ "7": [
109
+ 0.5981465880370682
110
+ ],
111
+ "8": [
112
+ 0.5237292895254142
113
+ ],
114
+ "9": [
115
+ 0.627071047458579
116
+ ],
117
+ "10": [
118
+ 0.5973041280539174
119
+ ],
120
+ "11": [
121
+ 0.45801741083965175
122
+ ],
123
+ "12": [
124
+ 0.782926144341477
125
+ ],
126
+ "13": [
127
+ 0.4425723111485537
128
+ ],
129
+ "14": [
130
+ 0.6896939062061218
131
+ ],
132
+ "15": [
133
+ 0.6700365065992698
134
+ ],
135
+ "16": [
136
+ 0.5520921089581577
137
+ ],
138
+ "17": [
139
+ 0.5490030890199382
140
+ ],
141
+ "18": [
142
+ 0.481044650379107
143
+ ],
144
+ "19": [
145
+ 0.5492839090143218
146
+ ],
147
+ "20": [
148
+ 0.6624543667509126
149
+ ],
150
+ "21": [
151
+ 0.6812693063746139
152
+ ],
153
+ "22": [
154
+ 0.6310025273799494
155
+ ],
156
+ "23": [
157
+ 0.6840775063184499
158
+ ],
159
+ "24": [
160
+ 0.5341196293176074
161
+ ],
162
+ "25": [
163
+ 0.6576804268463914
164
+ ],
165
+ "26": [
166
+ 0.723392305532154
167
+ ]
168
+ },
169
+ "2": {
170
+ "0": [
171
+ 0.12580735748385283
172
+ ],
173
+ "1": [
174
+ 0.05672563886548722
175
+ ],
176
+ "2": [
177
+ 0.6694748666105026
178
+ ],
179
+ "3": [
180
+ 0.24627913507441723
181
+ ],
182
+ "4": [
183
+ 0.4001684919966302
184
+ ],
185
+ "5": [
186
+ 0.36843583263128327
187
+ ],
188
+ "6": [
189
+ 0.3869699522606009
190
+ ],
191
+ "7": [
192
+ 0.5554619488907611
193
+ ],
194
+ "8": [
195
+ 0.5338388093232238
196
+ ],
197
+ "9": [
198
+ 0.6279135074417299
199
+ ],
200
+ "10": [
201
+ 0.4625105307497894
202
+ ],
203
+ "11": [
204
+ 0.37180567256388647
205
+ ],
206
+ "12": [
207
+ 0.5046335299073293
208
+ ],
209
+ "13": [
210
+ 0.3083403538331929
211
+ ],
212
+ "14": [
213
+ 0.49817467003650656
214
+ ],
215
+ "15": [
216
+ 0.5178320696433586
217
+ ],
218
+ "16": [
219
+ 0.47205841055883174
220
+ ],
221
+ "17": [
222
+ 0.44032575119348494
223
+ ],
224
+ "18": [
225
+ 0.4029766919404662
226
+ ],
227
+ "19": [
228
+ 0.4813254703734906
229
+ ],
230
+ "20": [
231
+ 0.5914069081718618
232
+ ],
233
+ "21": [
234
+ 0.5768042684639147
235
+ ],
236
+ "22": [
237
+ 0.43920247121595063
238
+ ],
239
+ "23": [
240
+ 0.4987363100252738
241
+ ],
242
+ "24": [
243
+ 0.4731816905363663
244
+ ],
245
+ "25": [
246
+ 0.532996349340073
247
+ ],
248
+ "26": [
249
+ 0.5644481887110362
250
+ ]
251
+ },
252
+ "3": {
253
+ "0": [
254
+ 0.049985959000280814
255
+ ],
256
+ "1": [
257
+ 0.038753159224936815
258
+ ],
259
+ "2": [
260
+ 0.19292333614153326
261
+ ],
262
+ "3": [
263
+ 0.13114293737714125
264
+ ],
265
+ "4": [
266
+ 0.14911541701769165
267
+ ],
268
+ "5": [
269
+ 0.15192361696152767
270
+ ],
271
+ "6": [
272
+ 0.12973883740522324
273
+ ],
274
+ "7": [
275
+ 0.22437517551249647
276
+ ],
277
+ "8": [
278
+ 0.23083403538331929
279
+ ],
280
+ "9": [
281
+ 0.2802583543948329
282
+ ],
283
+ "10": [
284
+ 0.2468407750631845
285
+ ],
286
+ "11": [
287
+ 0.23083403538331929
288
+ ],
289
+ "12": [
290
+ 0.34877843302443134
291
+ ],
292
+ "13": [
293
+ 0.16456051670878968
294
+ ],
295
+ "14": [
296
+ 0.3229429935411401
297
+ ],
298
+ "15": [
299
+ 0.36534681269306374
300
+ ],
301
+ "16": [
302
+ 0.3080595338388093
303
+ ],
304
+ "17": [
305
+ 0.29851165402976687
306
+ ],
307
+ "18": [
308
+ 0.2645324347093513
309
+ ],
310
+ "19": [
311
+ 0.34484695310306085
312
+ ],
313
+ "20": [
314
+ 0.3976411120471778
315
+ ],
316
+ "21": [
317
+ 0.40550407188991855
318
+ ],
319
+ "22": [
320
+ 0.2721145745577085
321
+ ],
322
+ "23": [
323
+ 0.33951137320977254
324
+ ],
325
+ "24": [
326
+ 0.2985116540297669
327
+ ],
328
+ "25": [
329
+ 0.3310867733782645
330
+ ],
331
+ "26": [
332
+ 0.3931479921370401
333
+ ]
334
+ }
335
+ }
336
+ }
sft/665K36/Full_smoe_sigmoidgating/analysts/mmmu_val_data_selected_final.json ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:1edfdccfac21870b0988ee83f291eecc89ee8639cc1fb7908fd7d3f9c60b7b76
3
+ size 13234944
sft/665K36/Full_smoe_sigmoidgating/analysts/mmmu_val_score_selected_final.json ADDED
@@ -0,0 +1,336 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "Full_smoe_sigmoidgating": {
3
+ "0": {
4
+ "0": [
5
+ 0.11296296296296295
6
+ ],
7
+ "1": [
8
+ 0.13185185185185183
9
+ ],
10
+ "2": [
11
+ 0.712962962962963
12
+ ],
13
+ "3": [
14
+ 0.8103703703703703
15
+ ],
16
+ "4": [
17
+ 0.8181481481481482
18
+ ],
19
+ "5": [
20
+ 0.41740740740740734
21
+ ],
22
+ "6": [
23
+ 0.8333333333333334
24
+ ],
25
+ "7": [
26
+ 0.7825925925925925
27
+ ],
28
+ "8": [
29
+ 0.6514814814814814
30
+ ],
31
+ "9": [
32
+ 0.6162962962962963
33
+ ],
34
+ "10": [
35
+ 0.6948148148148149
36
+ ],
37
+ "11": [
38
+ 0.49444444444444446
39
+ ],
40
+ "12": [
41
+ 0.5174074074074073
42
+ ],
43
+ "13": [
44
+ 0.4674074074074074
45
+ ],
46
+ "14": [
47
+ 0.5977777777777777
48
+ ],
49
+ "15": [
50
+ 0.7077777777777777
51
+ ],
52
+ "16": [
53
+ 0.44
54
+ ],
55
+ "17": [
56
+ 0.7233333333333334
57
+ ],
58
+ "18": [
59
+ 0.6607407407407409
60
+ ],
61
+ "19": [
62
+ 0.5433333333333333
63
+ ],
64
+ "20": [
65
+ 0.8037037037037036
66
+ ],
67
+ "21": [
68
+ 0.7111111111111111
69
+ ],
70
+ "22": [
71
+ 0.6781481481481481
72
+ ],
73
+ "23": [
74
+ 0.705925925925926
75
+ ],
76
+ "24": [
77
+ 0.6533333333333333
78
+ ],
79
+ "25": [
80
+ 0.6925925925925925
81
+ ],
82
+ "26": [
83
+ 0.6596296296296295
84
+ ]
85
+ },
86
+ "1": {
87
+ "0": [
88
+ 0.3025925925925926
89
+ ],
90
+ "1": [
91
+ 0.031111111111111107
92
+ ],
93
+ "2": [
94
+ 0.822962962962963
95
+ ],
96
+ "3": [
97
+ 0.502962962962963
98
+ ],
99
+ "4": [
100
+ 0.45259259259259255
101
+ ],
102
+ "5": [
103
+ 0.3903703703703704
104
+ ],
105
+ "6": [
106
+ 0.5951851851851853
107
+ ],
108
+ "7": [
109
+ 0.5474074074074073
110
+ ],
111
+ "8": [
112
+ 0.5177777777777778
113
+ ],
114
+ "9": [
115
+ 0.48333333333333334
116
+ ],
117
+ "10": [
118
+ 0.5748148148148149
119
+ ],
120
+ "11": [
121
+ 0.4962962962962963
122
+ ],
123
+ "12": [
124
+ 0.7418518518518518
125
+ ],
126
+ "13": [
127
+ 0.5107407407407407
128
+ ],
129
+ "14": [
130
+ 0.7192592592592592
131
+ ],
132
+ "15": [
133
+ 0.6266666666666667
134
+ ],
135
+ "16": [
136
+ 0.4807407407407407
137
+ ],
138
+ "17": [
139
+ 0.5407407407407407
140
+ ],
141
+ "18": [
142
+ 0.5488888888888889
143
+ ],
144
+ "19": [
145
+ 0.5285185185185185
146
+ ],
147
+ "20": [
148
+ 0.6851851851851851
149
+ ],
150
+ "21": [
151
+ 0.5762962962962964
152
+ ],
153
+ "22": [
154
+ 0.5762962962962963
155
+ ],
156
+ "23": [
157
+ 0.7122222222222222
158
+ ],
159
+ "24": [
160
+ 0.48444444444444446
161
+ ],
162
+ "25": [
163
+ 0.6037037037037036
164
+ ],
165
+ "26": [
166
+ 0.6351851851851852
167
+ ]
168
+ },
169
+ "2": {
170
+ "0": [
171
+ 0.08037037037037037
172
+ ],
173
+ "1": [
174
+ 0.02666666666666666
175
+ ],
176
+ "2": [
177
+ 0.6748148148148148
178
+ ],
179
+ "3": [
180
+ 0.22444444444444445
181
+ ],
182
+ "4": [
183
+ 0.4711111111111111
184
+ ],
185
+ "5": [
186
+ 0.4729629629629629
187
+ ],
188
+ "6": [
189
+ 0.48370370370370375
190
+ ],
191
+ "7": [
192
+ 0.6429629629629631
193
+ ],
194
+ "8": [
195
+ 0.4314814814814815
196
+ ],
197
+ "9": [
198
+ 0.6574074074074073
199
+ ],
200
+ "10": [
201
+ 0.5385185185185185
202
+ ],
203
+ "11": [
204
+ 0.4077777777777778
205
+ ],
206
+ "12": [
207
+ 0.5218518518518519
208
+ ],
209
+ "13": [
210
+ 0.3377777777777778
211
+ ],
212
+ "14": [
213
+ 0.5003703703703704
214
+ ],
215
+ "15": [
216
+ 0.5492592592592593
217
+ ],
218
+ "16": [
219
+ 0.5374074074074073
220
+ ],
221
+ "17": [
222
+ 0.46407407407407403
223
+ ],
224
+ "18": [
225
+ 0.3848148148148148
226
+ ],
227
+ "19": [
228
+ 0.48518518518518516
229
+ ],
230
+ "20": [
231
+ 0.5403703703703704
232
+ ],
233
+ "21": [
234
+ 0.5955555555555555
235
+ ],
236
+ "22": [
237
+ 0.49925925925925924
238
+ ],
239
+ "23": [
240
+ 0.5007407407407407
241
+ ],
242
+ "24": [
243
+ 0.4862962962962962
244
+ ],
245
+ "25": [
246
+ 0.5366666666666666
247
+ ],
248
+ "26": [
249
+ 0.6044444444444445
250
+ ]
251
+ },
252
+ "3": {
253
+ "0": [
254
+ 0.027777777777777776
255
+ ],
256
+ "1": [
257
+ 0.015185185185185187
258
+ ],
259
+ "2": [
260
+ 0.1548148148148148
261
+ ],
262
+ "3": [
263
+ 0.09666666666666666
264
+ ],
265
+ "4": [
266
+ 0.2411111111111111
267
+ ],
268
+ "5": [
269
+ 0.11777777777777776
270
+ ],
271
+ "6": [
272
+ 0.12777777777777777
273
+ ],
274
+ "7": [
275
+ 0.21888888888888888
276
+ ],
277
+ "8": [
278
+ 0.18259259259259258
279
+ ],
280
+ "9": [
281
+ 0.22222222222222218
282
+ ],
283
+ "10": [
284
+ 0.23814814814814814
285
+ ],
286
+ "11": [
287
+ 0.29037037037037033
288
+ ],
289
+ "12": [
290
+ 0.3888888888888889
291
+ ],
292
+ "13": [
293
+ 0.25037037037037035
294
+ ],
295
+ "14": [
296
+ 0.27555555555555555
297
+ ],
298
+ "15": [
299
+ 0.31
300
+ ],
301
+ "16": [
302
+ 0.27814814814814814
303
+ ],
304
+ "17": [
305
+ 0.2585185185185185
306
+ ],
307
+ "18": [
308
+ 0.23407407407407405
309
+ ],
310
+ "19": [
311
+ 0.30148148148148146
312
+ ],
313
+ "20": [
314
+ 0.3488888888888889
315
+ ],
316
+ "21": [
317
+ 0.3522222222222222
318
+ ],
319
+ "22": [
320
+ 0.34407407407407403
321
+ ],
322
+ "23": [
323
+ 0.38962962962962966
324
+ ],
325
+ "24": [
326
+ 0.3385185185185185
327
+ ],
328
+ "25": [
329
+ 0.2677777777777778
330
+ ],
331
+ "26": [
332
+ 0.37333333333333335
333
+ ]
334
+ }
335
+ }
336
+ }