Hugging Face's logo

Datasets:
NaiveNeuron
/
parlir

Tasks:
Text Retrieval
Modalities:
Tabular
Text
Formats:
json
Sub-tasks:
document-retrieval
Languages:
English
multilingual
Size:
100K - 1M
Tags:
european-parliament
parliamentary-questions
test-collection
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
mrshu commited on
Commit
b80a941
·
verified ·
1 Parent(s): 718d778

Add files using upload-large-folder tool

Browse files
Files changed (14) hide show
  1. v1.0/experiments/runs/cite_dev_me5-large_text.metrics.json +1818 -0
  2. v1.0/experiments/runs/cite_dev_qwen3-emb-8b_text.metrics.json +1818 -0
  3. v1.0/experiments/runs/cite_dev_rrf_text.metrics.json +1818 -0
  4. v1.0/experiments/runs/cite_train_bm25q2q_text.metrics.json +0 -0
  5. v1.0/experiments/runs/cite_train_me5-base_text.metrics.json +0 -0
  6. v1.0/experiments/runs/precedent_dev_bge-m3q2q_text.meta.json +14 -0
  7. v1.0/experiments/runs/precedent_dev_bge-m3q2q_text.run +0 -0
  8. v1.0/experiments/runs/precedent_dev_bm25q2q_text.metrics.json +1536 -0
  9. v1.0/experiments/runs/precedent_dev_qwen3-emb-8b_text.run +0 -0
  10. v1.0/experiments/runs/precedent_dev_rrf_text.meta.json +9 -0
  11. v1.0/experiments/runs/precedent_dev_rrf_text.metrics.json +1536 -0
  12. v1.0/experiments/runs/precedent_train_bge-m3_text.metrics.json +0 -0
  13. v1.0/experiments/runs/precedent_train_bm25q2q_text.metrics.json +0 -0
  14. v1.0/experiments/runs/precedent_train_rrf_text.meta.json +9 -0
v1.0/experiments/runs/cite_dev_me5-large_text.metrics.json ADDED
@@ -0,0 +1,1818 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "aggregate": {
3
+ "RR@10": 0.32004034612730264,
4
+ "R@10": 0.506911928651059,
5
+ "R@30": 0.6461538461538461,
6
+ "R@100": 0.7584169453734672,
7
+ "nDCG@10": 0.35000511760801256,
8
+ "Success@1": 0.2140468227424749
9
+ },
10
+ "per_query": {
11
+ "RR@10": {
12
+ "E-9-2022-000040": 0.0,
13
+ "E-9-2022-000065": 0.0,
14
+ "E-9-2022-000104": 1.0,
15
+ "E-9-2022-000148": 0.0,
16
+ "E-9-2022-000167": 0.0,
17
+ "E-9-2022-000169": 0.0,
18
+ "E-9-2022-000230": 0.0,
19
+ "E-9-2022-000264": 0.0,
20
+ "E-9-2022-000285": 0.1,
21
+ "E-9-2022-000315": 0.5,
22
+ "E-9-2022-000350": 0.0,
23
+ "E-9-2022-000391": 0.0,
24
+ "E-9-2022-000392": 0.3333333333333333,
25
+ "E-9-2022-000398": 0.0,
26
+ "E-9-2022-000411": 0.0,
27
+ "E-9-2022-000423": 0.0,
28
+ "E-9-2022-000424": 0.5,
29
+ "E-9-2022-000447": 1.0,
30
+ "E-9-2022-000493": 0.0,
31
+ "E-9-2022-000495": 0.0,
32
+ "E-9-2022-000501": 0.25,
33
+ "E-9-2022-000502": 0.0,
34
+ "E-9-2022-000577": 0.125,
35
+ "E-9-2022-000578": 0.0,
36
+ "E-9-2022-000603": 0.0,
37
+ "E-9-2022-000608": 0.3333333333333333,
38
+ "E-9-2022-000615": 0.0,
39
+ "E-9-2022-000639": 1.0,
40
+ "E-9-2022-000667": 0.0,
41
+ "E-9-2022-000689": 0.3333333333333333,
42
+ "E-9-2022-000748": 0.0,
43
+ "E-9-2022-000783": 0.0,
44
+ "E-9-2022-000797": 0.25,
45
+ "E-9-2022-000985": 1.0,
46
+ "E-9-2022-001024": 0.0,
47
+ "E-9-2022-001030": 0.16666666666666666,
48
+ "E-9-2022-001097": 0.0,
49
+ "E-9-2022-001100": 1.0,
50
+ "E-9-2022-001124": 1.0,
51
+ "E-9-2022-001161": 0.25,
52
+ "E-9-2022-001178": 1.0,
53
+ "E-9-2022-001181": 0.3333333333333333,
54
+ "E-9-2022-001189": 0.3333333333333333,
55
+ "E-9-2022-001205": 0.3333333333333333,
56
+ "E-9-2022-001235": 0.0,
57
+ "E-9-2022-001244": 0.3333333333333333,
58
+ "E-9-2022-001246": 0.0,
59
+ "E-9-2022-001270": 1.0,
60
+ "E-9-2022-001284": 0.1111111111111111,
61
+ "E-9-2022-001285": 0.0,
62
+ "E-9-2022-001290": 0.3333333333333333,
63
+ "E-9-2022-001347": 1.0,
64
+ "E-9-2022-001358": 1.0,
65
+ "E-9-2022-001373": 0.0,
66
+ "E-9-2022-001381": 0.0,
67
+ "E-9-2022-001394": 0.3333333333333333,
68
+ "E-9-2022-001402": 0.0,
69
+ "E-9-2022-001415": 0.16666666666666666,
70
+ "E-9-2022-001425": 0.125,
71
+ "E-9-2022-001475": 0.2,
72
+ "E-9-2022-001502": 1.0,
73
+ "E-9-2022-001507": 0.25,
74
+ "E-9-2022-001536": 0.0,
75
+ "E-9-2022-001543": 0.16666666666666666,
76
+ "E-9-2022-001546": 0.3333333333333333,
77
+ "E-9-2022-001558": 0.0,
78
+ "E-9-2022-001567": 1.0,
79
+ "E-9-2022-001571": 0.0,
80
+ "E-9-2022-001592": 0.2,
81
+ "E-9-2022-001726": 0.0,
82
+ "E-9-2022-001764": 0.14285714285714285,
83
+ "E-9-2022-001816": 0.3333333333333333,
84
+ "E-9-2022-001852": 0.3333333333333333,
85
+ "E-9-2022-001955": 0.0,
86
+ "E-9-2022-001970": 0.5,
87
+ "E-9-2022-002064": 0.5,
88
+ "E-9-2022-002080": 1.0,
89
+ "E-9-2022-002101": 0.0,
90
+ "E-9-2022-002174": 0.0,
91
+ "E-9-2022-002205": 0.14285714285714285,
92
+ "E-9-2022-002238": 0.0,
93
+ "E-9-2022-002266": 0.5,
94
+ "E-9-2022-002272": 0.0,
95
+ "E-9-2022-002299": 0.0,
96
+ "E-9-2022-002306": 0.0,
97
+ "E-9-2022-002405": 0.0,
98
+ "E-9-2022-002415": 0.0,
99
+ "E-9-2022-002432": 1.0,
100
+ "E-9-2022-002444": 0.3333333333333333,
101
+ "E-9-2022-002475": 0.0,
102
+ "E-9-2022-002516": 0.125,
103
+ "E-9-2022-002608": 0.0,
104
+ "E-9-2022-002670": 0.2,
105
+ "E-9-2022-002675": 1.0,
106
+ "E-9-2022-002761": 1.0,
107
+ "E-9-2022-002777": 1.0,
108
+ "E-9-2022-002810": 0.25,
109
+ "E-9-2022-002814": 1.0,
110
+ "E-9-2022-002820": 0.0,
111
+ "E-9-2022-002824": 0.2,
112
+ "E-9-2022-002831": 0.0,
113
+ "E-9-2022-002928": 0.3333333333333333,
114
+ "E-9-2022-002946": 1.0,
115
+ "E-9-2022-002989": 0.1,
116
+ "E-9-2022-003065": 0.0,
117
+ "E-9-2022-003071": 0.0,
118
+ "E-9-2022-003111": 0.5,
119
+ "E-9-2022-003127": 0.0,
120
+ "E-9-2022-003155": 0.0,
121
+ "E-9-2022-003215": 0.0,
122
+ "E-9-2022-003265": 0.0,
123
+ "E-9-2022-003290": 1.0,
124
+ "E-9-2022-003293": 0.0,
125
+ "E-9-2022-003299": 0.3333333333333333,
126
+ "E-9-2022-003343": 0.16666666666666666,
127
+ "E-9-2022-003374": 0.0,
128
+ "E-9-2022-003407": 0.1,
129
+ "E-9-2022-003439": 0.5,
130
+ "E-9-2022-003470": 0.0,
131
+ "E-9-2022-003507": 0.0,
132
+ "E-9-2022-003570": 0.16666666666666666,
133
+ "E-9-2022-003594": 0.3333333333333333,
134
+ "E-9-2022-003743": 0.1111111111111111,
135
+ "E-9-2022-003836": 0.0,
136
+ "E-9-2022-003894": 1.0,
137
+ "E-9-2022-003930": 1.0,
138
+ "E-9-2022-004005": 0.0,
139
+ "E-9-2022-004012": 0.5,
140
+ "E-9-2022-004013": 0.16666666666666666,
141
+ "E-9-2022-004038": 1.0,
142
+ "E-9-2022-004059": 0.5,
143
+ "E-9-2022-004074": 0.3333333333333333,
144
+ "E-9-2022-004090": 0.1,
145
+ "E-9-2022-004116": 0.125,
146
+ "E-9-2022-004149": 0.0,
147
+ "E-9-2023-000017": 0.0,
148
+ "E-9-2023-000037": 1.0,
149
+ "E-9-2023-000073": 0.0,
150
+ "E-9-2023-000105": 1.0,
151
+ "E-9-2023-000108": 0.25,
152
+ "E-9-2023-000113": 0.0,
153
+ "E-9-2023-000141": 0.14285714285714285,
154
+ "E-9-2023-000166": 0.0,
155
+ "E-9-2023-000172": 1.0,
156
+ "E-9-2023-000221": 0.0,
157
+ "E-9-2023-000238": 0.0,
158
+ "E-9-2023-000282": 0.3333333333333333,
159
+ "E-9-2023-000331": 0.1111111111111111,
160
+ "E-9-2023-000360": 0.0,
161
+ "E-9-2023-000476": 1.0,
162
+ "E-9-2023-000511": 0.0,
163
+ "E-9-2023-000526": 0.25,
164
+ "E-9-2023-000529": 0.0,
165
+ "E-9-2023-000533": 1.0,
166
+ "E-9-2023-000550": 0.0,
167
+ "E-9-2023-000553": 0.0,
168
+ "E-9-2023-000589": 0.3333333333333333,
169
+ "E-9-2023-000617": 0.0,
170
+ "E-9-2023-000666": 0.5,
171
+ "E-9-2023-000773": 0.0,
172
+ "E-9-2023-000871": 0.16666666666666666,
173
+ "E-9-2023-000918": 0.5,
174
+ "E-9-2023-000992": 1.0,
175
+ "E-9-2023-001006": 1.0,
176
+ "E-9-2023-001048": 0.25,
177
+ "E-9-2023-001148": 0.0,
178
+ "E-9-2023-001188": 0.3333333333333333,
179
+ "E-9-2023-001237": 0.5,
180
+ "E-9-2023-001247": 1.0,
181
+ "E-9-2023-001280": 0.3333333333333333,
182
+ "E-9-2023-001318": 0.1111111111111111,
183
+ "E-9-2023-001322": 0.0,
184
+ "E-9-2023-001346": 1.0,
185
+ "E-9-2023-001358": 0.125,
186
+ "E-9-2023-001426": 1.0,
187
+ "E-9-2023-001437": 0.25,
188
+ "E-9-2023-001454": 1.0,
189
+ "E-9-2023-001458": 0.0,
190
+ "E-9-2023-001491": 0.0,
191
+ "E-9-2023-001520": 0.0,
192
+ "E-9-2023-001538": 1.0,
193
+ "E-9-2023-001600": 1.0,
194
+ "E-9-2023-001611": 0.3333333333333333,
195
+ "E-9-2023-001615": 1.0,
196
+ "E-9-2023-001638": 0.5,
197
+ "E-9-2023-001685": 0.0,
198
+ "E-9-2023-001692": 0.0,
199
+ "E-9-2023-001758": 1.0,
200
+ "E-9-2023-001819": 0.0,
201
+ "E-9-2023-001839": 0.0,
202
+ "E-9-2023-001846": 0.25,
203
+ "E-9-2023-001859": 0.0,
204
+ "E-9-2023-001877": 0.0,
205
+ "E-9-2023-001904": 0.5,
206
+ "E-9-2023-001982": 0.0,
207
+ "E-9-2023-002001": 0.125,
208
+ "E-9-2023-002033": 0.0,
209
+ "E-9-2023-002095": 0.0,
210
+ "E-9-2023-002103": 0.5,
211
+ "E-9-2023-002115": 1.0,
212
+ "E-9-2023-002178": 0.5,
213
+ "E-9-2023-002186": 1.0,
214
+ "E-9-2023-002240": 0.3333333333333333,
215
+ "E-9-2023-002242": 0.0,
216
+ "E-9-2023-002281": 0.14285714285714285,
217
+ "E-9-2023-002383": 0.2,
218
+ "E-9-2023-002395": 0.0,
219
+ "E-9-2023-002442": 0.16666666666666666,
220
+ "E-9-2023-002479": 0.25,
221
+ "E-9-2023-002505": 0.0,
222
+ "E-9-2023-002509": 0.0,
223
+ "E-9-2023-002540": 0.0,
224
+ "E-9-2023-002584": 1.0,
225
+ "E-9-2023-002610": 0.5,
226
+ "E-9-2023-002625": 0.5,
227
+ "E-9-2023-002637": 0.5,
228
+ "E-9-2023-002640": 1.0,
229
+ "E-9-2023-002675": 0.0,
230
+ "E-9-2023-002683": 1.0,
231
+ "E-9-2023-002699": 1.0,
232
+ "E-9-2023-002743": 0.1,
233
+ "E-9-2023-002751": 0.0,
234
+ "E-9-2023-002758": 0.0,
235
+ "E-9-2023-002815": 0.2,
236
+ "E-9-2023-002816": 0.0,
237
+ "E-9-2023-002833": 1.0,
238
+ "E-9-2023-002883": 0.25,
239
+ "E-9-2023-002980": 1.0,
240
+ "E-9-2023-002994": 1.0,
241
+ "E-9-2023-003002": 0.5,
242
+ "E-9-2023-003022": 0.5,
243
+ "E-9-2023-003040": 0.5,
244
+ "E-9-2023-003117": 1.0,
245
+ "E-9-2023-003122": 1.0,
246
+ "E-9-2023-003167": 0.0,
247
+ "E-9-2023-003215": 0.0,
248
+ "E-9-2023-003326": 1.0,
249
+ "E-9-2023-003373": 0.0,
250
+ "E-9-2023-003386": 0.25,
251
+ "E-9-2023-003391": 1.0,
252
+ "E-9-2023-003404": 0.14285714285714285,
253
+ "E-9-2023-003408": 0.0,
254
+ "E-9-2023-003419": 1.0,
255
+ "E-9-2023-003430": 1.0,
256
+ "E-9-2023-003439": 0.0,
257
+ "E-9-2023-003453": 0.0,
258
+ "E-9-2023-003457": 0.0,
259
+ "E-9-2023-003492": 0.5,
260
+ "E-9-2023-003533": 1.0,
261
+ "E-9-2023-003602": 0.0,
262
+ "E-9-2023-003607": 0.1,
263
+ "E-9-2023-003675": 0.0,
264
+ "E-9-2023-003685": 0.0,
265
+ "E-9-2023-003728": 0.0,
266
+ "E-9-2023-003749": 1.0,
267
+ "E-9-2023-003754": 0.0,
268
+ "P-9-2022-000135": 0.0,
269
+ "P-9-2022-000661": 1.0,
270
+ "P-9-2022-001060": 0.5,
271
+ "P-9-2022-001119": 0.3333333333333333,
272
+ "P-9-2022-001271": 0.5,
273
+ "P-9-2022-001337": 0.0,
274
+ "P-9-2022-001416": 0.0,
275
+ "P-9-2022-001521": 0.16666666666666666,
276
+ "P-9-2022-001555": 0.0,
277
+ "P-9-2022-001666": 0.0,
278
+ "P-9-2022-002383": 0.0,
279
+ "P-9-2022-002535": 0.16666666666666666,
280
+ "P-9-2022-002627": 0.5,
281
+ "P-9-2022-002830": 0.0,
282
+ "P-9-2022-002838": 0.0,
283
+ "P-9-2022-002863": 0.0,
284
+ "P-9-2022-003082": 0.0,
285
+ "P-9-2022-003461": 0.2,
286
+ "P-9-2022-003463": 0.5,
287
+ "P-9-2022-003675": 0.0,
288
+ "P-9-2023-000298": 0.3333333333333333,
289
+ "P-9-2023-000633": 0.0,
290
+ "P-9-2023-000876": 0.0,
291
+ "P-9-2023-001138": 0.3333333333333333,
292
+ "P-9-2023-001534": 0.0,
293
+ "P-9-2023-001841": 1.0,
294
+ "P-9-2023-002104": 1.0,
295
+ "P-9-2023-002410": 1.0,
296
+ "P-9-2023-002436": 0.2,
297
+ "P-9-2023-002485": 1.0,
298
+ "P-9-2023-002496": 0.0,
299
+ "P-9-2023-002514": 0.0,
300
+ "P-9-2023-002791": 0.0,
301
+ "P-9-2023-002805": 1.0,
302
+ "P-9-2023-002808": 1.0,
303
+ "P-9-2023-002868": 1.0,
304
+ "P-9-2023-003005": 0.0,
305
+ "P-9-2023-003064": 0.0,
306
+ "P-9-2023-003169": 0.0,
307
+ "P-9-2023-003268": 0.0,
308
+ "P-9-2023-003372": 0.5,
309
+ "P-9-2023-003471": 0.0,
310
+ "P-9-2023-003707": 1.0
311
+ },
312
+ "R@10": {
313
+ "E-9-2022-000040": 0.0,
314
+ "E-9-2022-000065": 0.0,
315
+ "E-9-2022-000104": 1.0,
316
+ "E-9-2022-000148": 0.0,
317
+ "E-9-2022-000167": 0.0,
318
+ "E-9-2022-000169": 0.0,
319
+ "E-9-2022-000230": 0.0,
320
+ "E-9-2022-000264": 0.0,
321
+ "E-9-2022-000285": 0.3333333333333333,
322
+ "E-9-2022-000315": 0.5,
323
+ "E-9-2022-000350": 0.0,
324
+ "E-9-2022-000391": 0.0,
325
+ "E-9-2022-000392": 1.0,
326
+ "E-9-2022-000398": 0.0,
327
+ "E-9-2022-000411": 0.0,
328
+ "E-9-2022-000423": 0.0,
329
+ "E-9-2022-000424": 0.4,
330
+ "E-9-2022-000447": 1.0,
331
+ "E-9-2022-000493": 0.0,
332
+ "E-9-2022-000495": 0.0,
333
+ "E-9-2022-000501": 0.3333333333333333,
334
+ "E-9-2022-000502": 0.0,
335
+ "E-9-2022-000577": 1.0,
336
+ "E-9-2022-000578": 0.0,
337
+ "E-9-2022-000603": 0.0,
338
+ "E-9-2022-000608": 1.0,
339
+ "E-9-2022-000615": 0.0,
340
+ "E-9-2022-000639": 0.6,
341
+ "E-9-2022-000667": 0.0,
342
+ "E-9-2022-000689": 1.0,
343
+ "E-9-2022-000748": 0.0,
344
+ "E-9-2022-000783": 0.0,
345
+ "E-9-2022-000797": 1.0,
346
+ "E-9-2022-000985": 1.0,
347
+ "E-9-2022-001024": 0.0,
348
+ "E-9-2022-001030": 1.0,
349
+ "E-9-2022-001097": 0.0,
350
+ "E-9-2022-001100": 1.0,
351
+ "E-9-2022-001124": 1.0,
352
+ "E-9-2022-001161": 1.0,
353
+ "E-9-2022-001178": 1.0,
354
+ "E-9-2022-001181": 0.25,
355
+ "E-9-2022-001189": 1.0,
356
+ "E-9-2022-001205": 0.6666666666666666,
357
+ "E-9-2022-001235": 0.0,
358
+ "E-9-2022-001244": 1.0,
359
+ "E-9-2022-001246": 0.0,
360
+ "E-9-2022-001270": 1.0,
361
+ "E-9-2022-001284": 1.0,
362
+ "E-9-2022-001285": 0.0,
363
+ "E-9-2022-001290": 0.5,
364
+ "E-9-2022-001347": 1.0,
365
+ "E-9-2022-001358": 1.0,
366
+ "E-9-2022-001373": 0.0,
367
+ "E-9-2022-001381": 0.0,
368
+ "E-9-2022-001394": 1.0,
369
+ "E-9-2022-001402": 0.0,
370
+ "E-9-2022-001415": 0.5,
371
+ "E-9-2022-001425": 1.0,
372
+ "E-9-2022-001475": 0.3333333333333333,
373
+ "E-9-2022-001502": 1.0,
374
+ "E-9-2022-001507": 1.0,
375
+ "E-9-2022-001536": 0.0,
376
+ "E-9-2022-001543": 1.0,
377
+ "E-9-2022-001546": 0.5,
378
+ "E-9-2022-001558": 0.0,
379
+ "E-9-2022-001567": 1.0,
380
+ "E-9-2022-001571": 0.0,
381
+ "E-9-2022-001592": 1.0,
382
+ "E-9-2022-001726": 0.0,
383
+ "E-9-2022-001764": 1.0,
384
+ "E-9-2022-001816": 1.0,
385
+ "E-9-2022-001852": 1.0,
386
+ "E-9-2022-001955": 0.0,
387
+ "E-9-2022-001970": 1.0,
388
+ "E-9-2022-002064": 1.0,
389
+ "E-9-2022-002080": 1.0,
390
+ "E-9-2022-002101": 0.0,
391
+ "E-9-2022-002174": 0.0,
392
+ "E-9-2022-002205": 1.0,
393
+ "E-9-2022-002238": 0.0,
394
+ "E-9-2022-002266": 1.0,
395
+ "E-9-2022-002272": 0.0,
396
+ "E-9-2022-002299": 0.0,
397
+ "E-9-2022-002306": 0.0,
398
+ "E-9-2022-002405": 0.0,
399
+ "E-9-2022-002415": 0.0,
400
+ "E-9-2022-002432": 1.0,
401
+ "E-9-2022-002444": 1.0,
402
+ "E-9-2022-002475": 0.0,
403
+ "E-9-2022-002516": 0.5,
404
+ "E-9-2022-002608": 0.0,
405
+ "E-9-2022-002670": 1.0,
406
+ "E-9-2022-002675": 0.5,
407
+ "E-9-2022-002761": 0.6666666666666666,
408
+ "E-9-2022-002777": 1.0,
409
+ "E-9-2022-002810": 0.6666666666666666,
410
+ "E-9-2022-002814": 1.0,
411
+ "E-9-2022-002820": 0.0,
412
+ "E-9-2022-002824": 0.3333333333333333,
413
+ "E-9-2022-002831": 0.0,
414
+ "E-9-2022-002928": 1.0,
415
+ "E-9-2022-002946": 1.0,
416
+ "E-9-2022-002989": 1.0,
417
+ "E-9-2022-003065": 0.0,
418
+ "E-9-2022-003071": 0.0,
419
+ "E-9-2022-003111": 1.0,
420
+ "E-9-2022-003127": 0.0,
421
+ "E-9-2022-003155": 0.0,
422
+ "E-9-2022-003215": 0.0,
423
+ "E-9-2022-003265": 0.0,
424
+ "E-9-2022-003290": 1.0,
425
+ "E-9-2022-003293": 0.0,
426
+ "E-9-2022-003299": 1.0,
427
+ "E-9-2022-003343": 1.0,
428
+ "E-9-2022-003374": 0.0,
429
+ "E-9-2022-003407": 1.0,
430
+ "E-9-2022-003439": 1.0,
431
+ "E-9-2022-003470": 0.0,
432
+ "E-9-2022-003507": 0.0,
433
+ "E-9-2022-003570": 1.0,
434
+ "E-9-2022-003594": 1.0,
435
+ "E-9-2022-003743": 1.0,
436
+ "E-9-2022-003836": 0.0,
437
+ "E-9-2022-003894": 1.0,
438
+ "E-9-2022-003930": 1.0,
439
+ "E-9-2022-004005": 0.0,
440
+ "E-9-2022-004012": 1.0,
441
+ "E-9-2022-004013": 1.0,
442
+ "E-9-2022-004038": 1.0,
443
+ "E-9-2022-004059": 1.0,
444
+ "E-9-2022-004074": 1.0,
445
+ "E-9-2022-004090": 1.0,
446
+ "E-9-2022-004116": 1.0,
447
+ "E-9-2022-004149": 0.0,
448
+ "E-9-2023-000017": 0.0,
449
+ "E-9-2023-000037": 0.5,
450
+ "E-9-2023-000073": 0.0,
451
+ "E-9-2023-000105": 1.0,
452
+ "E-9-2023-000108": 1.0,
453
+ "E-9-2023-000113": 0.0,
454
+ "E-9-2023-000141": 1.0,
455
+ "E-9-2023-000166": 0.0,
456
+ "E-9-2023-000172": 1.0,
457
+ "E-9-2023-000221": 0.0,
458
+ "E-9-2023-000238": 0.0,
459
+ "E-9-2023-000282": 1.0,
460
+ "E-9-2023-000331": 1.0,
461
+ "E-9-2023-000360": 0.0,
462
+ "E-9-2023-000476": 1.0,
463
+ "E-9-2023-000511": 0.0,
464
+ "E-9-2023-000526": 1.0,
465
+ "E-9-2023-000529": 0.0,
466
+ "E-9-2023-000533": 0.5,
467
+ "E-9-2023-000550": 0.0,
468
+ "E-9-2023-000553": 0.0,
469
+ "E-9-2023-000589": 1.0,
470
+ "E-9-2023-000617": 0.0,
471
+ "E-9-2023-000666": 1.0,
472
+ "E-9-2023-000773": 0.0,
473
+ "E-9-2023-000871": 1.0,
474
+ "E-9-2023-000918": 1.0,
475
+ "E-9-2023-000992": 0.5,
476
+ "E-9-2023-001006": 1.0,
477
+ "E-9-2023-001048": 1.0,
478
+ "E-9-2023-001148": 0.0,
479
+ "E-9-2023-001188": 1.0,
480
+ "E-9-2023-001237": 1.0,
481
+ "E-9-2023-001247": 1.0,
482
+ "E-9-2023-001280": 1.0,
483
+ "E-9-2023-001318": 0.3333333333333333,
484
+ "E-9-2023-001322": 0.0,
485
+ "E-9-2023-001346": 1.0,
486
+ "E-9-2023-001358": 0.5,
487
+ "E-9-2023-001426": 1.0,
488
+ "E-9-2023-001437": 0.5,
489
+ "E-9-2023-001454": 1.0,
490
+ "E-9-2023-001458": 0.0,
491
+ "E-9-2023-001491": 0.0,
492
+ "E-9-2023-001520": 0.0,
493
+ "E-9-2023-001538": 1.0,
494
+ "E-9-2023-001600": 1.0,
495
+ "E-9-2023-001611": 0.3333333333333333,
496
+ "E-9-2023-001615": 0.5,
497
+ "E-9-2023-001638": 0.4,
498
+ "E-9-2023-001685": 0.0,
499
+ "E-9-2023-001692": 0.0,
500
+ "E-9-2023-001758": 1.0,
501
+ "E-9-2023-001819": 0.0,
502
+ "E-9-2023-001839": 0.0,
503
+ "E-9-2023-001846": 1.0,
504
+ "E-9-2023-001859": 0.0,
505
+ "E-9-2023-001877": 0.0,
506
+ "E-9-2023-001904": 0.5,
507
+ "E-9-2023-001982": 0.0,
508
+ "E-9-2023-002001": 1.0,
509
+ "E-9-2023-002033": 0.0,
510
+ "E-9-2023-002095": 0.0,
511
+ "E-9-2023-002103": 1.0,
512
+ "E-9-2023-002115": 1.0,
513
+ "E-9-2023-002178": 1.0,
514
+ "E-9-2023-002186": 1.0,
515
+ "E-9-2023-002240": 1.0,
516
+ "E-9-2023-002242": 0.0,
517
+ "E-9-2023-002281": 1.0,
518
+ "E-9-2023-002383": 0.5,
519
+ "E-9-2023-002395": 0.0,
520
+ "E-9-2023-002442": 1.0,
521
+ "E-9-2023-002479": 1.0,
522
+ "E-9-2023-002505": 0.0,
523
+ "E-9-2023-002509": 0.0,
524
+ "E-9-2023-002540": 0.0,
525
+ "E-9-2023-002584": 1.0,
526
+ "E-9-2023-002610": 1.0,
527
+ "E-9-2023-002625": 1.0,
528
+ "E-9-2023-002637": 1.0,
529
+ "E-9-2023-002640": 1.0,
530
+ "E-9-2023-002675": 0.0,
531
+ "E-9-2023-002683": 1.0,
532
+ "E-9-2023-002699": 1.0,
533
+ "E-9-2023-002743": 1.0,
534
+ "E-9-2023-002751": 0.0,
535
+ "E-9-2023-002758": 0.0,
536
+ "E-9-2023-002815": 0.5,
537
+ "E-9-2023-002816": 0.0,
538
+ "E-9-2023-002833": 1.0,
539
+ "E-9-2023-002883": 1.0,
540
+ "E-9-2023-002980": 1.0,
541
+ "E-9-2023-002994": 1.0,
542
+ "E-9-2023-003002": 1.0,
543
+ "E-9-2023-003022": 1.0,
544
+ "E-9-2023-003040": 1.0,
545
+ "E-9-2023-003117": 0.6666666666666666,
546
+ "E-9-2023-003122": 1.0,
547
+ "E-9-2023-003167": 0.0,
548
+ "E-9-2023-003215": 0.0,
549
+ "E-9-2023-003326": 1.0,
550
+ "E-9-2023-003373": 0.0,
551
+ "E-9-2023-003386": 1.0,
552
+ "E-9-2023-003391": 1.0,
553
+ "E-9-2023-003404": 0.3333333333333333,
554
+ "E-9-2023-003408": 0.0,
555
+ "E-9-2023-003419": 0.6666666666666666,
556
+ "E-9-2023-003430": 1.0,
557
+ "E-9-2023-003439": 0.0,
558
+ "E-9-2023-003453": 0.0,
559
+ "E-9-2023-003457": 0.0,
560
+ "E-9-2023-003492": 1.0,
561
+ "E-9-2023-003533": 0.5,
562
+ "E-9-2023-003602": 0.0,
563
+ "E-9-2023-003607": 1.0,
564
+ "E-9-2023-003675": 0.0,
565
+ "E-9-2023-003685": 0.0,
566
+ "E-9-2023-003728": 0.0,
567
+ "E-9-2023-003749": 1.0,
568
+ "E-9-2023-003754": 0.0,
569
+ "P-9-2022-000135": 0.0,
570
+ "P-9-2022-000661": 1.0,
571
+ "P-9-2022-001060": 1.0,
572
+ "P-9-2022-001119": 0.5,
573
+ "P-9-2022-001271": 0.25,
574
+ "P-9-2022-001337": 0.0,
575
+ "P-9-2022-001416": 0.0,
576
+ "P-9-2022-001521": 1.0,
577
+ "P-9-2022-001555": 0.0,
578
+ "P-9-2022-001666": 0.0,
579
+ "P-9-2022-002383": 0.0,
580
+ "P-9-2022-002535": 1.0,
581
+ "P-9-2022-002627": 1.0,
582
+ "P-9-2022-002830": 0.0,
583
+ "P-9-2022-002838": 0.0,
584
+ "P-9-2022-002863": 0.0,
585
+ "P-9-2022-003082": 0.0,
586
+ "P-9-2022-003461": 1.0,
587
+ "P-9-2022-003463": 1.0,
588
+ "P-9-2022-003675": 0.0,
589
+ "P-9-2023-000298": 1.0,
590
+ "P-9-2023-000633": 0.0,
591
+ "P-9-2023-000876": 0.0,
592
+ "P-9-2023-001138": 1.0,
593
+ "P-9-2023-001534": 0.0,
594
+ "P-9-2023-001841": 1.0,
595
+ "P-9-2023-002104": 1.0,
596
+ "P-9-2023-002410": 1.0,
597
+ "P-9-2023-002436": 1.0,
598
+ "P-9-2023-002485": 1.0,
599
+ "P-9-2023-002496": 0.0,
600
+ "P-9-2023-002514": 0.0,
601
+ "P-9-2023-002791": 0.0,
602
+ "P-9-2023-002805": 0.5,
603
+ "P-9-2023-002808": 1.0,
604
+ "P-9-2023-002868": 1.0,
605
+ "P-9-2023-003005": 0.0,
606
+ "P-9-2023-003064": 0.0,
607
+ "P-9-2023-003169": 0.0,
608
+ "P-9-2023-003268": 0.0,
609
+ "P-9-2023-003372": 1.0,
610
+ "P-9-2023-003471": 0.0,
611
+ "P-9-2023-003707": 1.0
612
+ },
613
+ "R@30": {
614
+ "E-9-2022-000040": 0.0,
615
+ "E-9-2022-000065": 0.0,
616
+ "E-9-2022-000104": 1.0,
617
+ "E-9-2022-000148": 0.0,
618
+ "E-9-2022-000167": 1.0,
619
+ "E-9-2022-000169": 0.0,
620
+ "E-9-2022-000230": 0.0,
621
+ "E-9-2022-000264": 0.25,
622
+ "E-9-2022-000285": 0.3333333333333333,
623
+ "E-9-2022-000315": 0.75,
624
+ "E-9-2022-000350": 1.0,
625
+ "E-9-2022-000391": 1.0,
626
+ "E-9-2022-000392": 1.0,
627
+ "E-9-2022-000398": 0.0,
628
+ "E-9-2022-000411": 0.0,
629
+ "E-9-2022-000423": 0.0,
630
+ "E-9-2022-000424": 1.0,
631
+ "E-9-2022-000447": 1.0,
632
+ "E-9-2022-000493": 0.0,
633
+ "E-9-2022-000495": 0.0,
634
+ "E-9-2022-000501": 0.3333333333333333,
635
+ "E-9-2022-000502": 1.0,
636
+ "E-9-2022-000577": 1.0,
637
+ "E-9-2022-000578": 1.0,
638
+ "E-9-2022-000603": 1.0,
639
+ "E-9-2022-000608": 1.0,
640
+ "E-9-2022-000615": 0.0,
641
+ "E-9-2022-000639": 0.8,
642
+ "E-9-2022-000667": 0.0,
643
+ "E-9-2022-000689": 1.0,
644
+ "E-9-2022-000748": 0.0,
645
+ "E-9-2022-000783": 0.0,
646
+ "E-9-2022-000797": 1.0,
647
+ "E-9-2022-000985": 1.0,
648
+ "E-9-2022-001024": 0.0,
649
+ "E-9-2022-001030": 1.0,
650
+ "E-9-2022-001097": 0.0,
651
+ "E-9-2022-001100": 1.0,
652
+ "E-9-2022-001124": 1.0,
653
+ "E-9-2022-001161": 1.0,
654
+ "E-9-2022-001178": 1.0,
655
+ "E-9-2022-001181": 0.25,
656
+ "E-9-2022-001189": 1.0,
657
+ "E-9-2022-001205": 0.6666666666666666,
658
+ "E-9-2022-001235": 0.0,
659
+ "E-9-2022-001244": 1.0,
660
+ "E-9-2022-001246": 0.0,
661
+ "E-9-2022-001270": 1.0,
662
+ "E-9-2022-001284": 1.0,
663
+ "E-9-2022-001285": 0.5,
664
+ "E-9-2022-001290": 1.0,
665
+ "E-9-2022-001347": 1.0,
666
+ "E-9-2022-001358": 1.0,
667
+ "E-9-2022-001373": 0.0,
668
+ "E-9-2022-001381": 0.0,
669
+ "E-9-2022-001394": 1.0,
670
+ "E-9-2022-001402": 0.0,
671
+ "E-9-2022-001415": 0.5,
672
+ "E-9-2022-001425": 1.0,
673
+ "E-9-2022-001475": 1.0,
674
+ "E-9-2022-001502": 1.0,
675
+ "E-9-2022-001507": 1.0,
676
+ "E-9-2022-001536": 1.0,
677
+ "E-9-2022-001543": 1.0,
678
+ "E-9-2022-001546": 1.0,
679
+ "E-9-2022-001558": 1.0,
680
+ "E-9-2022-001567": 1.0,
681
+ "E-9-2022-001571": 0.0,
682
+ "E-9-2022-001592": 1.0,
683
+ "E-9-2022-001726": 0.0,
684
+ "E-9-2022-001764": 1.0,
685
+ "E-9-2022-001816": 1.0,
686
+ "E-9-2022-001852": 1.0,
687
+ "E-9-2022-001955": 0.0,
688
+ "E-9-2022-001970": 1.0,
689
+ "E-9-2022-002064": 1.0,
690
+ "E-9-2022-002080": 1.0,
691
+ "E-9-2022-002101": 0.0,
692
+ "E-9-2022-002174": 0.0,
693
+ "E-9-2022-002205": 1.0,
694
+ "E-9-2022-002238": 0.0,
695
+ "E-9-2022-002266": 1.0,
696
+ "E-9-2022-002272": 0.0,
697
+ "E-9-2022-002299": 1.0,
698
+ "E-9-2022-002306": 0.0,
699
+ "E-9-2022-002405": 0.0,
700
+ "E-9-2022-002415": 0.25,
701
+ "E-9-2022-002432": 1.0,
702
+ "E-9-2022-002444": 1.0,
703
+ "E-9-2022-002475": 1.0,
704
+ "E-9-2022-002516": 0.5,
705
+ "E-9-2022-002608": 0.0,
706
+ "E-9-2022-002670": 1.0,
707
+ "E-9-2022-002675": 0.5,
708
+ "E-9-2022-002761": 1.0,
709
+ "E-9-2022-002777": 1.0,
710
+ "E-9-2022-002810": 0.6666666666666666,
711
+ "E-9-2022-002814": 1.0,
712
+ "E-9-2022-002820": 0.0,
713
+ "E-9-2022-002824": 0.6666666666666666,
714
+ "E-9-2022-002831": 0.0,
715
+ "E-9-2022-002928": 1.0,
716
+ "E-9-2022-002946": 1.0,
717
+ "E-9-2022-002989": 1.0,
718
+ "E-9-2022-003065": 0.0,
719
+ "E-9-2022-003071": 1.0,
720
+ "E-9-2022-003111": 1.0,
721
+ "E-9-2022-003127": 0.0,
722
+ "E-9-2022-003155": 1.0,
723
+ "E-9-2022-003215": 0.0,
724
+ "E-9-2022-003265": 0.5,
725
+ "E-9-2022-003290": 1.0,
726
+ "E-9-2022-003293": 0.0,
727
+ "E-9-2022-003299": 1.0,
728
+ "E-9-2022-003343": 1.0,
729
+ "E-9-2022-003374": 0.6666666666666666,
730
+ "E-9-2022-003407": 1.0,
731
+ "E-9-2022-003439": 1.0,
732
+ "E-9-2022-003470": 0.0,
733
+ "E-9-2022-003507": 0.0,
734
+ "E-9-2022-003570": 1.0,
735
+ "E-9-2022-003594": 1.0,
736
+ "E-9-2022-003743": 1.0,
737
+ "E-9-2022-003836": 1.0,
738
+ "E-9-2022-003894": 1.0,
739
+ "E-9-2022-003930": 1.0,
740
+ "E-9-2022-004005": 0.0,
741
+ "E-9-2022-004012": 1.0,
742
+ "E-9-2022-004013": 1.0,
743
+ "E-9-2022-004038": 1.0,
744
+ "E-9-2022-004059": 1.0,
745
+ "E-9-2022-004074": 1.0,
746
+ "E-9-2022-004090": 1.0,
747
+ "E-9-2022-004116": 1.0,
748
+ "E-9-2022-004149": 0.0,
749
+ "E-9-2023-000017": 0.0,
750
+ "E-9-2023-000037": 0.5,
751
+ "E-9-2023-000073": 0.3333333333333333,
752
+ "E-9-2023-000105": 1.0,
753
+ "E-9-2023-000108": 1.0,
754
+ "E-9-2023-000113": 0.0,
755
+ "E-9-2023-000141": 1.0,
756
+ "E-9-2023-000166": 0.0,
757
+ "E-9-2023-000172": 1.0,
758
+ "E-9-2023-000221": 0.0,
759
+ "E-9-2023-000238": 0.0,
760
+ "E-9-2023-000282": 1.0,
761
+ "E-9-2023-000331": 1.0,
762
+ "E-9-2023-000360": 0.0,
763
+ "E-9-2023-000476": 1.0,
764
+ "E-9-2023-000511": 0.0,
765
+ "E-9-2023-000526": 1.0,
766
+ "E-9-2023-000529": 0.0,
767
+ "E-9-2023-000533": 0.5,
768
+ "E-9-2023-000550": 1.0,
769
+ "E-9-2023-000553": 0.0,
770
+ "E-9-2023-000589": 1.0,
771
+ "E-9-2023-000617": 0.0,
772
+ "E-9-2023-000666": 1.0,
773
+ "E-9-2023-000773": 0.0,
774
+ "E-9-2023-000871": 1.0,
775
+ "E-9-2023-000918": 1.0,
776
+ "E-9-2023-000992": 0.5,
777
+ "E-9-2023-001006": 1.0,
778
+ "E-9-2023-001048": 1.0,
779
+ "E-9-2023-001148": 0.0,
780
+ "E-9-2023-001188": 1.0,
781
+ "E-9-2023-001237": 1.0,
782
+ "E-9-2023-001247": 1.0,
783
+ "E-9-2023-001280": 1.0,
784
+ "E-9-2023-001318": 0.3333333333333333,
785
+ "E-9-2023-001322": 1.0,
786
+ "E-9-2023-001346": 1.0,
787
+ "E-9-2023-001358": 0.5,
788
+ "E-9-2023-001426": 1.0,
789
+ "E-9-2023-001437": 0.5,
790
+ "E-9-2023-001454": 1.0,
791
+ "E-9-2023-001458": 0.0,
792
+ "E-9-2023-001491": 0.0,
793
+ "E-9-2023-001520": 1.0,
794
+ "E-9-2023-001538": 1.0,
795
+ "E-9-2023-001600": 1.0,
796
+ "E-9-2023-001611": 0.6666666666666666,
797
+ "E-9-2023-001615": 0.5,
798
+ "E-9-2023-001638": 0.4,
799
+ "E-9-2023-001685": 1.0,
800
+ "E-9-2023-001692": 0.0,
801
+ "E-9-2023-001758": 1.0,
802
+ "E-9-2023-001819": 1.0,
803
+ "E-9-2023-001839": 0.0,
804
+ "E-9-2023-001846": 1.0,
805
+ "E-9-2023-001859": 0.0,
806
+ "E-9-2023-001877": 0.0,
807
+ "E-9-2023-001904": 0.75,
808
+ "E-9-2023-001982": 0.0,
809
+ "E-9-2023-002001": 1.0,
810
+ "E-9-2023-002033": 1.0,
811
+ "E-9-2023-002095": 0.0,
812
+ "E-9-2023-002103": 1.0,
813
+ "E-9-2023-002115": 1.0,
814
+ "E-9-2023-002178": 1.0,
815
+ "E-9-2023-002186": 1.0,
816
+ "E-9-2023-002240": 1.0,
817
+ "E-9-2023-002242": 1.0,
818
+ "E-9-2023-002281": 1.0,
819
+ "E-9-2023-002383": 1.0,
820
+ "E-9-2023-002395": 0.0,
821
+ "E-9-2023-002442": 1.0,
822
+ "E-9-2023-002479": 1.0,
823
+ "E-9-2023-002505": 1.0,
824
+ "E-9-2023-002509": 0.0,
825
+ "E-9-2023-002540": 0.0,
826
+ "E-9-2023-002584": 1.0,
827
+ "E-9-2023-002610": 1.0,
828
+ "E-9-2023-002625": 1.0,
829
+ "E-9-2023-002637": 1.0,
830
+ "E-9-2023-002640": 1.0,
831
+ "E-9-2023-002675": 0.0,
832
+ "E-9-2023-002683": 1.0,
833
+ "E-9-2023-002699": 1.0,
834
+ "E-9-2023-002743": 1.0,
835
+ "E-9-2023-002751": 0.0,
836
+ "E-9-2023-002758": 0.0,
837
+ "E-9-2023-002815": 0.5,
838
+ "E-9-2023-002816": 1.0,
839
+ "E-9-2023-002833": 1.0,
840
+ "E-9-2023-002883": 1.0,
841
+ "E-9-2023-002980": 1.0,
842
+ "E-9-2023-002994": 1.0,
843
+ "E-9-2023-003002": 1.0,
844
+ "E-9-2023-003022": 1.0,
845
+ "E-9-2023-003040": 1.0,
846
+ "E-9-2023-003117": 1.0,
847
+ "E-9-2023-003122": 1.0,
848
+ "E-9-2023-003167": 1.0,
849
+ "E-9-2023-003215": 0.25,
850
+ "E-9-2023-003326": 1.0,
851
+ "E-9-2023-003373": 1.0,
852
+ "E-9-2023-003386": 1.0,
853
+ "E-9-2023-003391": 1.0,
854
+ "E-9-2023-003404": 0.6666666666666666,
855
+ "E-9-2023-003408": 0.0,
856
+ "E-9-2023-003419": 0.6666666666666666,
857
+ "E-9-2023-003430": 1.0,
858
+ "E-9-2023-003439": 0.0,
859
+ "E-9-2023-003453": 1.0,
860
+ "E-9-2023-003457": 0.0,
861
+ "E-9-2023-003492": 1.0,
862
+ "E-9-2023-003533": 1.0,
863
+ "E-9-2023-003602": 1.0,
864
+ "E-9-2023-003607": 1.0,
865
+ "E-9-2023-003675": 1.0,
866
+ "E-9-2023-003685": 0.0,
867
+ "E-9-2023-003728": 0.0,
868
+ "E-9-2023-003749": 1.0,
869
+ "E-9-2023-003754": 0.5,
870
+ "P-9-2022-000135": 1.0,
871
+ "P-9-2022-000661": 1.0,
872
+ "P-9-2022-001060": 1.0,
873
+ "P-9-2022-001119": 1.0,
874
+ "P-9-2022-001271": 0.25,
875
+ "P-9-2022-001337": 0.0,
876
+ "P-9-2022-001416": 0.0,
877
+ "P-9-2022-001521": 1.0,
878
+ "P-9-2022-001555": 0.0,
879
+ "P-9-2022-001666": 0.0,
880
+ "P-9-2022-002383": 0.0,
881
+ "P-9-2022-002535": 1.0,
882
+ "P-9-2022-002627": 1.0,
883
+ "P-9-2022-002830": 0.25,
884
+ "P-9-2022-002838": 0.0,
885
+ "P-9-2022-002863": 0.0,
886
+ "P-9-2022-003082": 1.0,
887
+ "P-9-2022-003461": 1.0,
888
+ "P-9-2022-003463": 1.0,
889
+ "P-9-2022-003675": 0.0,
890
+ "P-9-2023-000298": 1.0,
891
+ "P-9-2023-000633": 1.0,
892
+ "P-9-2023-000876": 0.0,
893
+ "P-9-2023-001138": 1.0,
894
+ "P-9-2023-001534": 0.0,
895
+ "P-9-2023-001841": 1.0,
896
+ "P-9-2023-002104": 1.0,
897
+ "P-9-2023-002410": 1.0,
898
+ "P-9-2023-002436": 1.0,
899
+ "P-9-2023-002485": 1.0,
900
+ "P-9-2023-002496": 0.0,
901
+ "P-9-2023-002514": 0.0,
902
+ "P-9-2023-002791": 0.0,
903
+ "P-9-2023-002805": 1.0,
904
+ "P-9-2023-002808": 1.0,
905
+ "P-9-2023-002868": 1.0,
906
+ "P-9-2023-003005": 0.0,
907
+ "P-9-2023-003064": 1.0,
908
+ "P-9-2023-003169": 0.0,
909
+ "P-9-2023-003268": 0.0,
910
+ "P-9-2023-003372": 1.0,
911
+ "P-9-2023-003471": 0.5,
912
+ "P-9-2023-003707": 1.0
913
+ },
914
+ "R@100": {
915
+ "E-9-2022-000040": 0.0,
916
+ "E-9-2022-000065": 0.0,
917
+ "E-9-2022-000104": 1.0,
918
+ "E-9-2022-000148": 0.5,
919
+ "E-9-2022-000167": 1.0,
920
+ "E-9-2022-000169": 0.0,
921
+ "E-9-2022-000230": 0.0,
922
+ "E-9-2022-000264": 0.75,
923
+ "E-9-2022-000285": 0.6666666666666666,
924
+ "E-9-2022-000315": 1.0,
925
+ "E-9-2022-000350": 1.0,
926
+ "E-9-2022-000391": 1.0,
927
+ "E-9-2022-000392": 1.0,
928
+ "E-9-2022-000398": 0.0,
929
+ "E-9-2022-000411": 0.5,
930
+ "E-9-2022-000423": 0.0,
931
+ "E-9-2022-000424": 1.0,
932
+ "E-9-2022-000447": 1.0,
933
+ "E-9-2022-000493": 0.2,
934
+ "E-9-2022-000495": 0.0,
935
+ "E-9-2022-000501": 0.6666666666666666,
936
+ "E-9-2022-000502": 1.0,
937
+ "E-9-2022-000577": 1.0,
938
+ "E-9-2022-000578": 1.0,
939
+ "E-9-2022-000603": 1.0,
940
+ "E-9-2022-000608": 1.0,
941
+ "E-9-2022-000615": 0.0,
942
+ "E-9-2022-000639": 0.8,
943
+ "E-9-2022-000667": 0.0,
944
+ "E-9-2022-000689": 1.0,
945
+ "E-9-2022-000748": 0.0,
946
+ "E-9-2022-000783": 0.0,
947
+ "E-9-2022-000797": 1.0,
948
+ "E-9-2022-000985": 1.0,
949
+ "E-9-2022-001024": 1.0,
950
+ "E-9-2022-001030": 1.0,
951
+ "E-9-2022-001097": 0.0,
952
+ "E-9-2022-001100": 1.0,
953
+ "E-9-2022-001124": 1.0,
954
+ "E-9-2022-001161": 1.0,
955
+ "E-9-2022-001178": 1.0,
956
+ "E-9-2022-001181": 0.25,
957
+ "E-9-2022-001189": 1.0,
958
+ "E-9-2022-001205": 1.0,
959
+ "E-9-2022-001235": 0.0,
960
+ "E-9-2022-001244": 1.0,
961
+ "E-9-2022-001246": 0.0,
962
+ "E-9-2022-001270": 1.0,
963
+ "E-9-2022-001284": 1.0,
964
+ "E-9-2022-001285": 0.5,
965
+ "E-9-2022-001290": 1.0,
966
+ "E-9-2022-001347": 1.0,
967
+ "E-9-2022-001358": 1.0,
968
+ "E-9-2022-001373": 0.0,
969
+ "E-9-2022-001381": 1.0,
970
+ "E-9-2022-001394": 1.0,
971
+ "E-9-2022-001402": 0.5,
972
+ "E-9-2022-001415": 1.0,
973
+ "E-9-2022-001425": 1.0,
974
+ "E-9-2022-001475": 1.0,
975
+ "E-9-2022-001502": 1.0,
976
+ "E-9-2022-001507": 1.0,
977
+ "E-9-2022-001536": 1.0,
978
+ "E-9-2022-001543": 1.0,
979
+ "E-9-2022-001546": 1.0,
980
+ "E-9-2022-001558": 1.0,
981
+ "E-9-2022-001567": 1.0,
982
+ "E-9-2022-001571": 1.0,
983
+ "E-9-2022-001592": 1.0,
984
+ "E-9-2022-001726": 0.0,
985
+ "E-9-2022-001764": 1.0,
986
+ "E-9-2022-001816": 1.0,
987
+ "E-9-2022-001852": 1.0,
988
+ "E-9-2022-001955": 1.0,
989
+ "E-9-2022-001970": 1.0,
990
+ "E-9-2022-002064": 1.0,
991
+ "E-9-2022-002080": 1.0,
992
+ "E-9-2022-002101": 0.0,
993
+ "E-9-2022-002174": 0.0,
994
+ "E-9-2022-002205": 1.0,
995
+ "E-9-2022-002238": 0.0,
996
+ "E-9-2022-002266": 1.0,
997
+ "E-9-2022-002272": 0.5,
998
+ "E-9-2022-002299": 1.0,
999
+ "E-9-2022-002306": 0.0,
1000
+ "E-9-2022-002405": 0.0,
1001
+ "E-9-2022-002415": 0.5,
1002
+ "E-9-2022-002432": 1.0,
1003
+ "E-9-2022-002444": 1.0,
1004
+ "E-9-2022-002475": 1.0,
1005
+ "E-9-2022-002516": 1.0,
1006
+ "E-9-2022-002608": 1.0,
1007
+ "E-9-2022-002670": 1.0,
1008
+ "E-9-2022-002675": 0.5,
1009
+ "E-9-2022-002761": 1.0,
1010
+ "E-9-2022-002777": 1.0,
1011
+ "E-9-2022-002810": 0.6666666666666666,
1012
+ "E-9-2022-002814": 1.0,
1013
+ "E-9-2022-002820": 0.0,
1014
+ "E-9-2022-002824": 0.6666666666666666,
1015
+ "E-9-2022-002831": 1.0,
1016
+ "E-9-2022-002928": 1.0,
1017
+ "E-9-2022-002946": 1.0,
1018
+ "E-9-2022-002989": 1.0,
1019
+ "E-9-2022-003065": 0.0,
1020
+ "E-9-2022-003071": 1.0,
1021
+ "E-9-2022-003111": 1.0,
1022
+ "E-9-2022-003127": 0.6666666666666666,
1023
+ "E-9-2022-003155": 1.0,
1024
+ "E-9-2022-003215": 1.0,
1025
+ "E-9-2022-003265": 0.5,
1026
+ "E-9-2022-003290": 1.0,
1027
+ "E-9-2022-003293": 1.0,
1028
+ "E-9-2022-003299": 1.0,
1029
+ "E-9-2022-003343": 1.0,
1030
+ "E-9-2022-003374": 0.6666666666666666,
1031
+ "E-9-2022-003407": 1.0,
1032
+ "E-9-2022-003439": 1.0,
1033
+ "E-9-2022-003470": 1.0,
1034
+ "E-9-2022-003507": 0.0,
1035
+ "E-9-2022-003570": 1.0,
1036
+ "E-9-2022-003594": 1.0,
1037
+ "E-9-2022-003743": 1.0,
1038
+ "E-9-2022-003836": 1.0,
1039
+ "E-9-2022-003894": 1.0,
1040
+ "E-9-2022-003930": 1.0,
1041
+ "E-9-2022-004005": 0.0,
1042
+ "E-9-2022-004012": 1.0,
1043
+ "E-9-2022-004013": 1.0,
1044
+ "E-9-2022-004038": 1.0,
1045
+ "E-9-2022-004059": 1.0,
1046
+ "E-9-2022-004074": 1.0,
1047
+ "E-9-2022-004090": 1.0,
1048
+ "E-9-2022-004116": 1.0,
1049
+ "E-9-2022-004149": 0.0,
1050
+ "E-9-2023-000017": 0.0,
1051
+ "E-9-2023-000037": 0.5,
1052
+ "E-9-2023-000073": 0.3333333333333333,
1053
+ "E-9-2023-000105": 1.0,
1054
+ "E-9-2023-000108": 1.0,
1055
+ "E-9-2023-000113": 0.0,
1056
+ "E-9-2023-000141": 1.0,
1057
+ "E-9-2023-000166": 1.0,
1058
+ "E-9-2023-000172": 1.0,
1059
+ "E-9-2023-000221": 0.0,
1060
+ "E-9-2023-000238": 0.0,
1061
+ "E-9-2023-000282": 1.0,
1062
+ "E-9-2023-000331": 1.0,
1063
+ "E-9-2023-000360": 0.0,
1064
+ "E-9-2023-000476": 1.0,
1065
+ "E-9-2023-000511": 0.0,
1066
+ "E-9-2023-000526": 1.0,
1067
+ "E-9-2023-000529": 0.0,
1068
+ "E-9-2023-000533": 0.5,
1069
+ "E-9-2023-000550": 1.0,
1070
+ "E-9-2023-000553": 0.0,
1071
+ "E-9-2023-000589": 1.0,
1072
+ "E-9-2023-000617": 0.0,
1073
+ "E-9-2023-000666": 1.0,
1074
+ "E-9-2023-000773": 1.0,
1075
+ "E-9-2023-000871": 1.0,
1076
+ "E-9-2023-000918": 1.0,
1077
+ "E-9-2023-000992": 0.5,
1078
+ "E-9-2023-001006": 1.0,
1079
+ "E-9-2023-001048": 1.0,
1080
+ "E-9-2023-001148": 0.0,
1081
+ "E-9-2023-001188": 1.0,
1082
+ "E-9-2023-001237": 1.0,
1083
+ "E-9-2023-001247": 1.0,
1084
+ "E-9-2023-001280": 1.0,
1085
+ "E-9-2023-001318": 0.6666666666666666,
1086
+ "E-9-2023-001322": 1.0,
1087
+ "E-9-2023-001346": 1.0,
1088
+ "E-9-2023-001358": 0.5,
1089
+ "E-9-2023-001426": 1.0,
1090
+ "E-9-2023-001437": 0.5,
1091
+ "E-9-2023-001454": 1.0,
1092
+ "E-9-2023-001458": 0.0,
1093
+ "E-9-2023-001491": 1.0,
1094
+ "E-9-2023-001520": 1.0,
1095
+ "E-9-2023-001538": 1.0,
1096
+ "E-9-2023-001600": 1.0,
1097
+ "E-9-2023-001611": 1.0,
1098
+ "E-9-2023-001615": 1.0,
1099
+ "E-9-2023-001638": 0.6,
1100
+ "E-9-2023-001685": 1.0,
1101
+ "E-9-2023-001692": 1.0,
1102
+ "E-9-2023-001758": 1.0,
1103
+ "E-9-2023-001819": 1.0,
1104
+ "E-9-2023-001839": 1.0,
1105
+ "E-9-2023-001846": 1.0,
1106
+ "E-9-2023-001859": 0.0,
1107
+ "E-9-2023-001877": 1.0,
1108
+ "E-9-2023-001904": 0.75,
1109
+ "E-9-2023-001982": 1.0,
1110
+ "E-9-2023-002001": 1.0,
1111
+ "E-9-2023-002033": 1.0,
1112
+ "E-9-2023-002095": 0.0,
1113
+ "E-9-2023-002103": 1.0,
1114
+ "E-9-2023-002115": 1.0,
1115
+ "E-9-2023-002178": 1.0,
1116
+ "E-9-2023-002186": 1.0,
1117
+ "E-9-2023-002240": 1.0,
1118
+ "E-9-2023-002242": 1.0,
1119
+ "E-9-2023-002281": 1.0,
1120
+ "E-9-2023-002383": 1.0,
1121
+ "E-9-2023-002395": 0.0,
1122
+ "E-9-2023-002442": 1.0,
1123
+ "E-9-2023-002479": 1.0,
1124
+ "E-9-2023-002505": 1.0,
1125
+ "E-9-2023-002509": 1.0,
1126
+ "E-9-2023-002540": 1.0,
1127
+ "E-9-2023-002584": 1.0,
1128
+ "E-9-2023-002610": 1.0,
1129
+ "E-9-2023-002625": 1.0,
1130
+ "E-9-2023-002637": 1.0,
1131
+ "E-9-2023-002640": 1.0,
1132
+ "E-9-2023-002675": 0.0,
1133
+ "E-9-2023-002683": 1.0,
1134
+ "E-9-2023-002699": 1.0,
1135
+ "E-9-2023-002743": 1.0,
1136
+ "E-9-2023-002751": 0.0,
1137
+ "E-9-2023-002758": 1.0,
1138
+ "E-9-2023-002815": 1.0,
1139
+ "E-9-2023-002816": 1.0,
1140
+ "E-9-2023-002833": 1.0,
1141
+ "E-9-2023-002883": 1.0,
1142
+ "E-9-2023-002980": 1.0,
1143
+ "E-9-2023-002994": 1.0,
1144
+ "E-9-2023-003002": 1.0,
1145
+ "E-9-2023-003022": 1.0,
1146
+ "E-9-2023-003040": 1.0,
1147
+ "E-9-2023-003117": 1.0,
1148
+ "E-9-2023-003122": 1.0,
1149
+ "E-9-2023-003167": 1.0,
1150
+ "E-9-2023-003215": 0.25,
1151
+ "E-9-2023-003326": 1.0,
1152
+ "E-9-2023-003373": 1.0,
1153
+ "E-9-2023-003386": 1.0,
1154
+ "E-9-2023-003391": 1.0,
1155
+ "E-9-2023-003404": 1.0,
1156
+ "E-9-2023-003408": 0.0,
1157
+ "E-9-2023-003419": 1.0,
1158
+ "E-9-2023-003430": 1.0,
1159
+ "E-9-2023-003439": 0.0,
1160
+ "E-9-2023-003453": 1.0,
1161
+ "E-9-2023-003457": 1.0,
1162
+ "E-9-2023-003492": 1.0,
1163
+ "E-9-2023-003533": 1.0,
1164
+ "E-9-2023-003602": 1.0,
1165
+ "E-9-2023-003607": 1.0,
1166
+ "E-9-2023-003675": 1.0,
1167
+ "E-9-2023-003685": 0.0,
1168
+ "E-9-2023-003728": 0.0,
1169
+ "E-9-2023-003749": 1.0,
1170
+ "E-9-2023-003754": 1.0,
1171
+ "P-9-2022-000135": 1.0,
1172
+ "P-9-2022-000661": 1.0,
1173
+ "P-9-2022-001060": 1.0,
1174
+ "P-9-2022-001119": 1.0,
1175
+ "P-9-2022-001271": 0.5,
1176
+ "P-9-2022-001337": 0.0,
1177
+ "P-9-2022-001416": 1.0,
1178
+ "P-9-2022-001521": 1.0,
1179
+ "P-9-2022-001555": 0.0,
1180
+ "P-9-2022-001666": 0.0,
1181
+ "P-9-2022-002383": 0.0,
1182
+ "P-9-2022-002535": 1.0,
1183
+ "P-9-2022-002627": 1.0,
1184
+ "P-9-2022-002830": 0.25,
1185
+ "P-9-2022-002838": 0.25,
1186
+ "P-9-2022-002863": 0.5,
1187
+ "P-9-2022-003082": 1.0,
1188
+ "P-9-2022-003461": 1.0,
1189
+ "P-9-2022-003463": 1.0,
1190
+ "P-9-2022-003675": 0.0,
1191
+ "P-9-2023-000298": 1.0,
1192
+ "P-9-2023-000633": 1.0,
1193
+ "P-9-2023-000876": 0.0,
1194
+ "P-9-2023-001138": 1.0,
1195
+ "P-9-2023-001534": 0.0,
1196
+ "P-9-2023-001841": 1.0,
1197
+ "P-9-2023-002104": 1.0,
1198
+ "P-9-2023-002410": 1.0,
1199
+ "P-9-2023-002436": 1.0,
1200
+ "P-9-2023-002485": 1.0,
1201
+ "P-9-2023-002496": 0.0,
1202
+ "P-9-2023-002514": 1.0,
1203
+ "P-9-2023-002791": 0.0,
1204
+ "P-9-2023-002805": 1.0,
1205
+ "P-9-2023-002808": 1.0,
1206
+ "P-9-2023-002868": 1.0,
1207
+ "P-9-2023-003005": 0.6666666666666666,
1208
+ "P-9-2023-003064": 1.0,
1209
+ "P-9-2023-003169": 0.0,
1210
+ "P-9-2023-003268": 1.0,
1211
+ "P-9-2023-003372": 1.0,
1212
+ "P-9-2023-003471": 0.5,
1213
+ "P-9-2023-003707": 1.0
1214
+ },
1215
+ "nDCG@10": {
1216
+ "E-9-2022-000040": 0.0,
1217
+ "E-9-2022-000065": 0.0,
1218
+ "E-9-2022-000104": 1.0,
1219
+ "E-9-2022-000148": 0.0,
1220
+ "E-9-2022-000167": 0.0,
1221
+ "E-9-2022-000169": 0.0,
1222
+ "E-9-2022-000230": 0.0,
1223
+ "E-9-2022-000264": 0.0,
1224
+ "E-9-2022-000285": 0.13565197343244778,
1225
+ "E-9-2022-000315": 0.3638184934971571,
1226
+ "E-9-2022-000350": 0.0,
1227
+ "E-9-2022-000391": 0.0,
1228
+ "E-9-2022-000392": 0.5,
1229
+ "E-9-2022-000398": 0.0,
1230
+ "E-9-2022-000411": 0.0,
1231
+ "E-9-2022-000423": 0.0,
1232
+ "E-9-2022-000424": 0.3120255505658846,
1233
+ "E-9-2022-000447": 1.0,
1234
+ "E-9-2022-000493": 0.0,
1235
+ "E-9-2022-000495": 0.0,
1236
+ "E-9-2022-000501": 0.20210734650054757,
1237
+ "E-9-2022-000502": 0.0,
1238
+ "E-9-2022-000577": 0.31546487678572877,
1239
+ "E-9-2022-000578": 0.0,
1240
+ "E-9-2022-000603": 0.0,
1241
+ "E-9-2022-000608": 0.5,
1242
+ "E-9-2022-000615": 0.0,
1243
+ "E-9-2022-000639": 0.7227265726449519,
1244
+ "E-9-2022-000667": 0.0,
1245
+ "E-9-2022-000689": 0.5,
1246
+ "E-9-2022-000748": 0.0,
1247
+ "E-9-2022-000783": 0.0,
1248
+ "E-9-2022-000797": 0.43067655807339306,
1249
+ "E-9-2022-000985": 1.0,
1250
+ "E-9-2022-001024": 0.0,
1251
+ "E-9-2022-001030": 0.4227898344066503,
1252
+ "E-9-2022-001097": 0.0,
1253
+ "E-9-2022-001100": 1.0,
1254
+ "E-9-2022-001124": 1.0,
1255
+ "E-9-2022-001161": 0.43067655807339306,
1256
+ "E-9-2022-001178": 1.0,
1257
+ "E-9-2022-001181": 0.19519002499605084,
1258
+ "E-9-2022-001189": 0.5,
1259
+ "E-9-2022-001205": 0.41618115554873086,
1260
+ "E-9-2022-001235": 0.0,
1261
+ "E-9-2022-001244": 0.5,
1262
+ "E-9-2022-001246": 0.0,
1263
+ "E-9-2022-001270": 1.0,
1264
+ "E-9-2022-001284": 0.3010299956639812,
1265
+ "E-9-2022-001285": 0.0,
1266
+ "E-9-2022-001290": 0.3065735963827292,
1267
+ "E-9-2022-001347": 0.7977228895450266,
1268
+ "E-9-2022-001358": 1.0,
1269
+ "E-9-2022-001373": 0.0,
1270
+ "E-9-2022-001381": 0.0,
1271
+ "E-9-2022-001394": 0.5,
1272
+ "E-9-2022-001402": 0.0,
1273
+ "E-9-2022-001415": 0.21840743681816419,
1274
+ "E-9-2022-001425": 0.31546487678572877,
1275
+ "E-9-2022-001475": 0.18154179253735267,
1276
+ "E-9-2022-001502": 1.0,
1277
+ "E-9-2022-001507": 0.43067655807339306,
1278
+ "E-9-2022-001536": 0.0,
1279
+ "E-9-2022-001543": 0.4227898344066503,
1280
+ "E-9-2022-001546": 0.3065735963827292,
1281
+ "E-9-2022-001558": 0.0,
1282
+ "E-9-2022-001567": 1.0,
1283
+ "E-9-2022-001571": 0.0,
1284
+ "E-9-2022-001592": 0.38685280723454163,
1285
+ "E-9-2022-001726": 0.0,
1286
+ "E-9-2022-001764": 0.3333333333333333,
1287
+ "E-9-2022-001816": 0.5,
1288
+ "E-9-2022-001852": 0.5249810332008933,
1289
+ "E-9-2022-001955": 0.0,
1290
+ "E-9-2022-001970": 0.6309297535714575,
1291
+ "E-9-2022-002064": 0.6309297535714575,
1292
+ "E-9-2022-002080": 1.0,
1293
+ "E-9-2022-002101": 0.0,
1294
+ "E-9-2022-002174": 0.0,
1295
+ "E-9-2022-002205": 0.3333333333333333,
1296
+ "E-9-2022-002238": 0.0,
1297
+ "E-9-2022-002266": 0.6309297535714575,
1298
+ "E-9-2022-002272": 0.0,
1299
+ "E-9-2022-002299": 0.0,
1300
+ "E-9-2022-002306": 0.0,
1301
+ "E-9-2022-002405": 0.0,
1302
+ "E-9-2022-002415": 0.0,
1303
+ "E-9-2022-002432": 1.0,
1304
+ "E-9-2022-002444": 0.5,
1305
+ "E-9-2022-002475": 0.0,
1306
+ "E-9-2022-002516": 0.19342640361727081,
1307
+ "E-9-2022-002608": 0.0,
1308
+ "E-9-2022-002670": 0.38685280723454163,
1309
+ "E-9-2022-002675": 0.6131471927654584,
1310
+ "E-9-2022-002761": 0.6049306994552042,
1311
+ "E-9-2022-002777": 1.0,
1312
+ "E-9-2022-002810": 0.38364913903790027,
1313
+ "E-9-2022-002814": 1.0,
1314
+ "E-9-2022-002820": 0.0,
1315
+ "E-9-2022-002824": 0.18154179253735267,
1316
+ "E-9-2022-002831": 0.0,
1317
+ "E-9-2022-002928": 0.5,
1318
+ "E-9-2022-002946": 1.0,
1319
+ "E-9-2022-002989": 0.2890648263178879,
1320
+ "E-9-2022-003065": 0.0,
1321
+ "E-9-2022-003071": 0.0,
1322
+ "E-9-2022-003111": 0.6309297535714575,
1323
+ "E-9-2022-003127": 0.0,
1324
+ "E-9-2022-003155": 0.0,
1325
+ "E-9-2022-003215": 0.0,
1326
+ "E-9-2022-003265": 0.0,
1327
+ "E-9-2022-003290": 1.0,
1328
+ "E-9-2022-003293": 0.0,
1329
+ "E-9-2022-003299": 0.5,
1330
+ "E-9-2022-003343": 0.3562071871080222,
1331
+ "E-9-2022-003374": 0.0,
1332
+ "E-9-2022-003407": 0.2890648263178879,
1333
+ "E-9-2022-003439": 0.6309297535714575,
1334
+ "E-9-2022-003470": 0.0,
1335
+ "E-9-2022-003507": 0.0,
1336
+ "E-9-2022-003570": 0.3562071871080222,
1337
+ "E-9-2022-003594": 0.5,
1338
+ "E-9-2022-003743": 0.3010299956639812,
1339
+ "E-9-2022-003836": 0.0,
1340
+ "E-9-2022-003894": 1.0,
1341
+ "E-9-2022-003930": 1.0,
1342
+ "E-9-2022-004005": 0.0,
1343
+ "E-9-2022-004012": 0.6309297535714575,
1344
+ "E-9-2022-004013": 0.3562071871080222,
1345
+ "E-9-2022-004038": 1.0,
1346
+ "E-9-2022-004059": 0.6309297535714575,
1347
+ "E-9-2022-004074": 0.5,
1348
+ "E-9-2022-004090": 0.2890648263178879,
1349
+ "E-9-2022-004116": 0.31546487678572877,
1350
+ "E-9-2022-004149": 0.0,
1351
+ "E-9-2023-000017": 0.0,
1352
+ "E-9-2023-000037": 0.6131471927654584,
1353
+ "E-9-2023-000073": 0.0,
1354
+ "E-9-2023-000105": 1.0,
1355
+ "E-9-2023-000108": 0.43067655807339306,
1356
+ "E-9-2023-000113": 0.0,
1357
+ "E-9-2023-000141": 0.3333333333333333,
1358
+ "E-9-2023-000166": 0.0,
1359
+ "E-9-2023-000172": 1.0,
1360
+ "E-9-2023-000221": 0.0,
1361
+ "E-9-2023-000238": 0.0,
1362
+ "E-9-2023-000282": 0.5,
1363
+ "E-9-2023-000331": 0.3010299956639812,
1364
+ "E-9-2023-000360": 0.0,
1365
+ "E-9-2023-000476": 1.0,
1366
+ "E-9-2023-000511": 0.0,
1367
+ "E-9-2023-000526": 0.43067655807339306,
1368
+ "E-9-2023-000529": 0.0,
1369
+ "E-9-2023-000533": 0.6131471927654584,
1370
+ "E-9-2023-000550": 0.0,
1371
+ "E-9-2023-000553": 0.0,
1372
+ "E-9-2023-000589": 0.5,
1373
+ "E-9-2023-000617": 0.0,
1374
+ "E-9-2023-000666": 0.6309297535714575,
1375
+ "E-9-2023-000773": 0.0,
1376
+ "E-9-2023-000871": 0.3562071871080222,
1377
+ "E-9-2023-000918": 0.6309297535714575,
1378
+ "E-9-2023-000992": 0.6131471927654584,
1379
+ "E-9-2023-001006": 1.0,
1380
+ "E-9-2023-001048": 0.43067655807339306,
1381
+ "E-9-2023-001148": 0.0,
1382
+ "E-9-2023-001188": 0.5,
1383
+ "E-9-2023-001237": 0.6309297535714575,
1384
+ "E-9-2023-001247": 1.0,
1385
+ "E-9-2023-001280": 0.5706417189553201,
1386
+ "E-9-2023-001318": 0.14126697285982898,
1387
+ "E-9-2023-001322": 0.0,
1388
+ "E-9-2023-001346": 1.0,
1389
+ "E-9-2023-001358": 0.19342640361727081,
1390
+ "E-9-2023-001426": 1.0,
1391
+ "E-9-2023-001437": 0.2640681225725909,
1392
+ "E-9-2023-001454": 1.0,
1393
+ "E-9-2023-001458": 0.0,
1394
+ "E-9-2023-001491": 0.0,
1395
+ "E-9-2023-001520": 0.0,
1396
+ "E-9-2023-001538": 0.9197207891481876,
1397
+ "E-9-2023-001600": 1.0,
1398
+ "E-9-2023-001611": 0.23463936301137822,
1399
+ "E-9-2023-001615": 0.6131471927654584,
1400
+ "E-9-2023-001638": 0.36005461457723403,
1401
+ "E-9-2023-001685": 0.0,
1402
+ "E-9-2023-001692": 0.0,
1403
+ "E-9-2023-001758": 0.8854598815714874,
1404
+ "E-9-2023-001819": 0.0,
1405
+ "E-9-2023-001839": 0.0,
1406
+ "E-9-2023-001846": 0.49418556194058083,
1407
+ "E-9-2023-001859": 0.0,
1408
+ "E-9-2023-001877": 0.0,
1409
+ "E-9-2023-001904": 0.369453583111095,
1410
+ "E-9-2023-001982": 0.0,
1411
+ "E-9-2023-002001": 0.31546487678572877,
1412
+ "E-9-2023-002033": 0.0,
1413
+ "E-9-2023-002095": 0.0,
1414
+ "E-9-2023-002103": 0.6309297535714575,
1415
+ "E-9-2023-002115": 1.0,
1416
+ "E-9-2023-002178": 0.6309297535714575,
1417
+ "E-9-2023-002186": 1.0,
1418
+ "E-9-2023-002240": 0.5,
1419
+ "E-9-2023-002242": 0.0,
1420
+ "E-9-2023-002281": 0.3333333333333333,
1421
+ "E-9-2023-002383": 0.23719771276929622,
1422
+ "E-9-2023-002395": 0.0,
1423
+ "E-9-2023-002442": 0.3562071871080222,
1424
+ "E-9-2023-002479": 0.43067655807339306,
1425
+ "E-9-2023-002505": 0.0,
1426
+ "E-9-2023-002509": 0.0,
1427
+ "E-9-2023-002540": 0.0,
1428
+ "E-9-2023-002584": 1.0,
1429
+ "E-9-2023-002610": 0.6309297535714575,
1430
+ "E-9-2023-002625": 0.6309297535714575,
1431
+ "E-9-2023-002637": 0.6309297535714575,
1432
+ "E-9-2023-002640": 1.0,
1433
+ "E-9-2023-002675": 0.0,
1434
+ "E-9-2023-002683": 1.0,
1435
+ "E-9-2023-002699": 1.0,
1436
+ "E-9-2023-002743": 0.2890648263178879,
1437
+ "E-9-2023-002751": 0.0,
1438
+ "E-9-2023-002758": 0.0,
1439
+ "E-9-2023-002815": 0.23719771276929622,
1440
+ "E-9-2023-002816": 0.0,
1441
+ "E-9-2023-002833": 1.0,
1442
+ "E-9-2023-002883": 0.45749452618986164,
1443
+ "E-9-2023-002980": 1.0,
1444
+ "E-9-2023-002994": 1.0,
1445
+ "E-9-2023-003002": 0.6309297535714575,
1446
+ "E-9-2023-003022": 0.6309297535714575,
1447
+ "E-9-2023-003040": 0.6309297535714575,
1448
+ "E-9-2023-003117": 0.7039180890341347,
1449
+ "E-9-2023-003122": 1.0,
1450
+ "E-9-2023-003167": 0.0,
1451
+ "E-9-2023-003215": 0.0,
1452
+ "E-9-2023-003326": 1.0,
1453
+ "E-9-2023-003373": 0.0,
1454
+ "E-9-2023-003386": 0.43067655807339306,
1455
+ "E-9-2023-003391": 1.0,
1456
+ "E-9-2023-003404": 0.15642624200758548,
1457
+ "E-9-2023-003408": 0.0,
1458
+ "E-9-2023-003419": 0.7653606369886217,
1459
+ "E-9-2023-003430": 1.0,
1460
+ "E-9-2023-003439": 0.0,
1461
+ "E-9-2023-003453": 0.0,
1462
+ "E-9-2023-003457": 0.0,
1463
+ "E-9-2023-003492": 0.6309297535714575,
1464
+ "E-9-2023-003533": 0.6131471927654584,
1465
+ "E-9-2023-003602": 0.0,
1466
+ "E-9-2023-003607": 0.2890648263178879,
1467
+ "E-9-2023-003675": 0.0,
1468
+ "E-9-2023-003685": 0.0,
1469
+ "E-9-2023-003728": 0.0,
1470
+ "E-9-2023-003749": 1.0,
1471
+ "E-9-2023-003754": 0.0,
1472
+ "P-9-2022-000135": 0.0,
1473
+ "P-9-2022-000661": 1.0,
1474
+ "P-9-2022-001060": 0.6934264036172708,
1475
+ "P-9-2022-001119": 0.3065735963827292,
1476
+ "P-9-2022-001271": 0.24630238874073,
1477
+ "P-9-2022-001337": 0.0,
1478
+ "P-9-2022-001416": 0.0,
1479
+ "P-9-2022-001521": 0.3562071871080222,
1480
+ "P-9-2022-001555": 0.0,
1481
+ "P-9-2022-001666": 0.0,
1482
+ "P-9-2022-002383": 0.0,
1483
+ "P-9-2022-002535": 0.3562071871080222,
1484
+ "P-9-2022-002627": 0.6309297535714575,
1485
+ "P-9-2022-002830": 0.0,
1486
+ "P-9-2022-002838": 0.0,
1487
+ "P-9-2022-002863": 0.0,
1488
+ "P-9-2022-003082": 0.0,
1489
+ "P-9-2022-003461": 0.38685280723454163,
1490
+ "P-9-2022-003463": 0.6309297535714575,
1491
+ "P-9-2022-003675": 0.0,
1492
+ "P-9-2023-000298": 0.5,
1493
+ "P-9-2023-000633": 0.0,
1494
+ "P-9-2023-000876": 0.0,
1495
+ "P-9-2023-001138": 0.5,
1496
+ "P-9-2023-001534": 0.0,
1497
+ "P-9-2023-001841": 1.0,
1498
+ "P-9-2023-002104": 1.0,
1499
+ "P-9-2023-002410": 0.9197207891481876,
1500
+ "P-9-2023-002436": 0.38685280723454163,
1501
+ "P-9-2023-002485": 1.0,
1502
+ "P-9-2023-002496": 0.0,
1503
+ "P-9-2023-002514": 0.0,
1504
+ "P-9-2023-002791": 0.0,
1505
+ "P-9-2023-002805": 0.6131471927654584,
1506
+ "P-9-2023-002808": 1.0,
1507
+ "P-9-2023-002868": 1.0,
1508
+ "P-9-2023-003005": 0.0,
1509
+ "P-9-2023-003064": 0.0,
1510
+ "P-9-2023-003169": 0.0,
1511
+ "P-9-2023-003268": 0.0,
1512
+ "P-9-2023-003372": 0.6309297535714575,
1513
+ "P-9-2023-003471": 0.0,
1514
+ "P-9-2023-003707": 1.0
1515
+ },
1516
+ "Success@1": {
1517
+ "E-9-2022-000040": 0.0,
1518
+ "E-9-2022-000065": 0.0,
1519
+ "E-9-2022-000104": 1.0,
1520
+ "E-9-2022-000148": 0.0,
1521
+ "E-9-2022-000167": 0.0,
1522
+ "E-9-2022-000169": 0.0,
1523
+ "E-9-2022-000230": 0.0,
1524
+ "E-9-2022-000264": 0.0,
1525
+ "E-9-2022-000285": 0.0,
1526
+ "E-9-2022-000315": 0.0,
1527
+ "E-9-2022-000350": 0.0,
1528
+ "E-9-2022-000391": 0.0,
1529
+ "E-9-2022-000392": 0.0,
1530
+ "E-9-2022-000398": 0.0,
1531
+ "E-9-2022-000411": 0.0,
1532
+ "E-9-2022-000423": 0.0,
1533
+ "E-9-2022-000424": 0.0,
1534
+ "E-9-2022-000447": 1.0,
1535
+ "E-9-2022-000493": 0.0,
1536
+ "E-9-2022-000495": 0.0,
1537
+ "E-9-2022-000501": 0.0,
1538
+ "E-9-2022-000502": 0.0,
1539
+ "E-9-2022-000577": 0.0,
1540
+ "E-9-2022-000578": 0.0,
1541
+ "E-9-2022-000603": 0.0,
1542
+ "E-9-2022-000608": 0.0,
1543
+ "E-9-2022-000615": 0.0,
1544
+ "E-9-2022-000639": 1.0,
1545
+ "E-9-2022-000667": 0.0,
1546
+ "E-9-2022-000689": 0.0,
1547
+ "E-9-2022-000748": 0.0,
1548
+ "E-9-2022-000783": 0.0,
1549
+ "E-9-2022-000797": 0.0,
1550
+ "E-9-2022-000985": 1.0,
1551
+ "E-9-2022-001024": 0.0,
1552
+ "E-9-2022-001030": 0.0,
1553
+ "E-9-2022-001097": 0.0,
1554
+ "E-9-2022-001100": 1.0,
1555
+ "E-9-2022-001124": 1.0,
1556
+ "E-9-2022-001161": 0.0,
1557
+ "E-9-2022-001178": 1.0,
1558
+ "E-9-2022-001181": 0.0,
1559
+ "E-9-2022-001189": 0.0,
1560
+ "E-9-2022-001205": 0.0,
1561
+ "E-9-2022-001235": 0.0,
1562
+ "E-9-2022-001244": 0.0,
1563
+ "E-9-2022-001246": 0.0,
1564
+ "E-9-2022-001270": 1.0,
1565
+ "E-9-2022-001284": 0.0,
1566
+ "E-9-2022-001285": 0.0,
1567
+ "E-9-2022-001290": 0.0,
1568
+ "E-9-2022-001347": 1.0,
1569
+ "E-9-2022-001358": 1.0,
1570
+ "E-9-2022-001373": 0.0,
1571
+ "E-9-2022-001381": 0.0,
1572
+ "E-9-2022-001394": 0.0,
1573
+ "E-9-2022-001402": 0.0,
1574
+ "E-9-2022-001415": 0.0,
1575
+ "E-9-2022-001425": 0.0,
1576
+ "E-9-2022-001475": 0.0,
1577
+ "E-9-2022-001502": 1.0,
1578
+ "E-9-2022-001507": 0.0,
1579
+ "E-9-2022-001536": 0.0,
1580
+ "E-9-2022-001543": 0.0,
1581
+ "E-9-2022-001546": 0.0,
1582
+ "E-9-2022-001558": 0.0,
1583
+ "E-9-2022-001567": 1.0,
1584
+ "E-9-2022-001571": 0.0,
1585
+ "E-9-2022-001592": 0.0,
1586
+ "E-9-2022-001726": 0.0,
1587
+ "E-9-2022-001764": 0.0,
1588
+ "E-9-2022-001816": 0.0,
1589
+ "E-9-2022-001852": 0.0,
1590
+ "E-9-2022-001955": 0.0,
1591
+ "E-9-2022-001970": 0.0,
1592
+ "E-9-2022-002064": 0.0,
1593
+ "E-9-2022-002080": 1.0,
1594
+ "E-9-2022-002101": 0.0,
1595
+ "E-9-2022-002174": 0.0,
1596
+ "E-9-2022-002205": 0.0,
1597
+ "E-9-2022-002238": 0.0,
1598
+ "E-9-2022-002266": 0.0,
1599
+ "E-9-2022-002272": 0.0,
1600
+ "E-9-2022-002299": 0.0,
1601
+ "E-9-2022-002306": 0.0,
1602
+ "E-9-2022-002405": 0.0,
1603
+ "E-9-2022-002415": 0.0,
1604
+ "E-9-2022-002432": 1.0,
1605
+ "E-9-2022-002444": 0.0,
1606
+ "E-9-2022-002475": 0.0,
1607
+ "E-9-2022-002516": 0.0,
1608
+ "E-9-2022-002608": 0.0,
1609
+ "E-9-2022-002670": 0.0,
1610
+ "E-9-2022-002675": 1.0,
1611
+ "E-9-2022-002761": 1.0,
1612
+ "E-9-2022-002777": 1.0,
1613
+ "E-9-2022-002810": 0.0,
1614
+ "E-9-2022-002814": 1.0,
1615
+ "E-9-2022-002820": 0.0,
1616
+ "E-9-2022-002824": 0.0,
1617
+ "E-9-2022-002831": 0.0,
1618
+ "E-9-2022-002928": 0.0,
1619
+ "E-9-2022-002946": 1.0,
1620
+ "E-9-2022-002989": 0.0,
1621
+ "E-9-2022-003065": 0.0,
1622
+ "E-9-2022-003071": 0.0,
1623
+ "E-9-2022-003111": 0.0,
1624
+ "E-9-2022-003127": 0.0,
1625
+ "E-9-2022-003155": 0.0,
1626
+ "E-9-2022-003215": 0.0,
1627
+ "E-9-2022-003265": 0.0,
1628
+ "E-9-2022-003290": 1.0,
1629
+ "E-9-2022-003293": 0.0,
1630
+ "E-9-2022-003299": 0.0,
1631
+ "E-9-2022-003343": 0.0,
1632
+ "E-9-2022-003374": 0.0,
1633
+ "E-9-2022-003407": 0.0,
1634
+ "E-9-2022-003439": 0.0,
1635
+ "E-9-2022-003470": 0.0,
1636
+ "E-9-2022-003507": 0.0,
1637
+ "E-9-2022-003570": 0.0,
1638
+ "E-9-2022-003594": 0.0,
1639
+ "E-9-2022-003743": 0.0,
1640
+ "E-9-2022-003836": 0.0,
1641
+ "E-9-2022-003894": 1.0,
1642
+ "E-9-2022-003930": 1.0,
1643
+ "E-9-2022-004005": 0.0,
1644
+ "E-9-2022-004012": 0.0,
1645
+ "E-9-2022-004013": 0.0,
1646
+ "E-9-2022-004038": 1.0,
1647
+ "E-9-2022-004059": 0.0,
1648
+ "E-9-2022-004074": 0.0,
1649
+ "E-9-2022-004090": 0.0,
1650
+ "E-9-2022-004116": 0.0,
1651
+ "E-9-2022-004149": 0.0,
1652
+ "E-9-2023-000017": 0.0,
1653
+ "E-9-2023-000037": 1.0,
1654
+ "E-9-2023-000073": 0.0,
1655
+ "E-9-2023-000105": 1.0,
1656
+ "E-9-2023-000108": 0.0,
1657
+ "E-9-2023-000113": 0.0,
1658
+ "E-9-2023-000141": 0.0,
1659
+ "E-9-2023-000166": 0.0,
1660
+ "E-9-2023-000172": 1.0,
1661
+ "E-9-2023-000221": 0.0,
1662
+ "E-9-2023-000238": 0.0,
1663
+ "E-9-2023-000282": 0.0,
1664
+ "E-9-2023-000331": 0.0,
1665
+ "E-9-2023-000360": 0.0,
1666
+ "E-9-2023-000476": 1.0,
1667
+ "E-9-2023-000511": 0.0,
1668
+ "E-9-2023-000526": 0.0,
1669
+ "E-9-2023-000529": 0.0,
1670
+ "E-9-2023-000533": 1.0,
1671
+ "E-9-2023-000550": 0.0,
1672
+ "E-9-2023-000553": 0.0,
1673
+ "E-9-2023-000589": 0.0,
1674
+ "E-9-2023-000617": 0.0,
1675
+ "E-9-2023-000666": 0.0,
1676
+ "E-9-2023-000773": 0.0,
1677
+ "E-9-2023-000871": 0.0,
1678
+ "E-9-2023-000918": 0.0,
1679
+ "E-9-2023-000992": 1.0,
1680
+ "E-9-2023-001006": 1.0,
1681
+ "E-9-2023-001048": 0.0,
1682
+ "E-9-2023-001148": 0.0,
1683
+ "E-9-2023-001188": 0.0,
1684
+ "E-9-2023-001237": 0.0,
1685
+ "E-9-2023-001247": 1.0,
1686
+ "E-9-2023-001280": 0.0,
1687
+ "E-9-2023-001318": 0.0,
1688
+ "E-9-2023-001322": 0.0,
1689
+ "E-9-2023-001346": 1.0,
1690
+ "E-9-2023-001358": 0.0,
1691
+ "E-9-2023-001426": 1.0,
1692
+ "E-9-2023-001437": 0.0,
1693
+ "E-9-2023-001454": 1.0,
1694
+ "E-9-2023-001458": 0.0,
1695
+ "E-9-2023-001491": 0.0,
1696
+ "E-9-2023-001520": 0.0,
1697
+ "E-9-2023-001538": 1.0,
1698
+ "E-9-2023-001600": 1.0,
1699
+ "E-9-2023-001611": 0.0,
1700
+ "E-9-2023-001615": 1.0,
1701
+ "E-9-2023-001638": 0.0,
1702
+ "E-9-2023-001685": 0.0,
1703
+ "E-9-2023-001692": 0.0,
1704
+ "E-9-2023-001758": 1.0,
1705
+ "E-9-2023-001819": 0.0,
1706
+ "E-9-2023-001839": 0.0,
1707
+ "E-9-2023-001846": 0.0,
1708
+ "E-9-2023-001859": 0.0,
1709
+ "E-9-2023-001877": 0.0,
1710
+ "E-9-2023-001904": 0.0,
1711
+ "E-9-2023-001982": 0.0,
1712
+ "E-9-2023-002001": 0.0,
1713
+ "E-9-2023-002033": 0.0,
1714
+ "E-9-2023-002095": 0.0,
1715
+ "E-9-2023-002103": 0.0,
1716
+ "E-9-2023-002115": 1.0,
1717
+ "E-9-2023-002178": 0.0,
1718
+ "E-9-2023-002186": 1.0,
1719
+ "E-9-2023-002240": 0.0,
1720
+ "E-9-2023-002242": 0.0,
1721
+ "E-9-2023-002281": 0.0,
1722
+ "E-9-2023-002383": 0.0,
1723
+ "E-9-2023-002395": 0.0,
1724
+ "E-9-2023-002442": 0.0,
1725
+ "E-9-2023-002479": 0.0,
1726
+ "E-9-2023-002505": 0.0,
1727
+ "E-9-2023-002509": 0.0,
1728
+ "E-9-2023-002540": 0.0,
1729
+ "E-9-2023-002584": 1.0,
1730
+ "E-9-2023-002610": 0.0,
1731
+ "E-9-2023-002625": 0.0,
1732
+ "E-9-2023-002637": 0.0,
1733
+ "E-9-2023-002640": 1.0,
1734
+ "E-9-2023-002675": 0.0,
1735
+ "E-9-2023-002683": 1.0,
1736
+ "E-9-2023-002699": 1.0,
1737
+ "E-9-2023-002743": 0.0,
1738
+ "E-9-2023-002751": 0.0,
1739
+ "E-9-2023-002758": 0.0,
1740
+ "E-9-2023-002815": 0.0,
1741
+ "E-9-2023-002816": 0.0,
1742
+ "E-9-2023-002833": 1.0,
1743
+ "E-9-2023-002883": 0.0,
1744
+ "E-9-2023-002980": 1.0,
1745
+ "E-9-2023-002994": 1.0,
1746
+ "E-9-2023-003002": 0.0,
1747
+ "E-9-2023-003022": 0.0,
1748
+ "E-9-2023-003040": 0.0,
1749
+ "E-9-2023-003117": 1.0,
1750
+ "E-9-2023-003122": 1.0,
1751
+ "E-9-2023-003167": 0.0,
1752
+ "E-9-2023-003215": 0.0,
1753
+ "E-9-2023-003326": 1.0,
1754
+ "E-9-2023-003373": 0.0,
1755
+ "E-9-2023-003386": 0.0,
1756
+ "E-9-2023-003391": 1.0,
1757
+ "E-9-2023-003404": 0.0,
1758
+ "E-9-2023-003408": 0.0,
1759
+ "E-9-2023-003419": 1.0,
1760
+ "E-9-2023-003430": 1.0,
1761
+ "E-9-2023-003439": 0.0,
1762
+ "E-9-2023-003453": 0.0,
1763
+ "E-9-2023-003457": 0.0,
1764
+ "E-9-2023-003492": 0.0,
1765
+ "E-9-2023-003533": 1.0,
1766
+ "E-9-2023-003602": 0.0,
1767
+ "E-9-2023-003607": 0.0,
1768
+ "E-9-2023-003675": 0.0,
1769
+ "E-9-2023-003685": 0.0,
1770
+ "E-9-2023-003728": 0.0,
1771
+ "E-9-2023-003749": 1.0,
1772
+ "E-9-2023-003754": 0.0,
1773
+ "P-9-2022-000135": 0.0,
1774
+ "P-9-2022-000661": 1.0,
1775
+ "P-9-2022-001060": 0.0,
1776
+ "P-9-2022-001119": 0.0,
1777
+ "P-9-2022-001271": 0.0,
1778
+ "P-9-2022-001337": 0.0,
1779
+ "P-9-2022-001416": 0.0,
1780
+ "P-9-2022-001521": 0.0,
1781
+ "P-9-2022-001555": 0.0,
1782
+ "P-9-2022-001666": 0.0,
1783
+ "P-9-2022-002383": 0.0,
1784
+ "P-9-2022-002535": 0.0,
1785
+ "P-9-2022-002627": 0.0,
1786
+ "P-9-2022-002830": 0.0,
1787
+ "P-9-2022-002838": 0.0,
1788
+ "P-9-2022-002863": 0.0,
1789
+ "P-9-2022-003082": 0.0,
1790
+ "P-9-2022-003461": 0.0,
1791
+ "P-9-2022-003463": 0.0,
1792
+ "P-9-2022-003675": 0.0,
1793
+ "P-9-2023-000298": 0.0,
1794
+ "P-9-2023-000633": 0.0,
1795
+ "P-9-2023-000876": 0.0,
1796
+ "P-9-2023-001138": 0.0,
1797
+ "P-9-2023-001534": 0.0,
1798
+ "P-9-2023-001841": 1.0,
1799
+ "P-9-2023-002104": 1.0,
1800
+ "P-9-2023-002410": 1.0,
1801
+ "P-9-2023-002436": 0.0,
1802
+ "P-9-2023-002485": 1.0,
1803
+ "P-9-2023-002496": 0.0,
1804
+ "P-9-2023-002514": 0.0,
1805
+ "P-9-2023-002791": 0.0,
1806
+ "P-9-2023-002805": 1.0,
1807
+ "P-9-2023-002808": 1.0,
1808
+ "P-9-2023-002868": 1.0,
1809
+ "P-9-2023-003005": 0.0,
1810
+ "P-9-2023-003064": 0.0,
1811
+ "P-9-2023-003169": 0.0,
1812
+ "P-9-2023-003268": 0.0,
1813
+ "P-9-2023-003372": 0.0,
1814
+ "P-9-2023-003471": 0.0,
1815
+ "P-9-2023-003707": 1.0
1816
+ }
1817
+ }
1818
+ }
v1.0/experiments/runs/cite_dev_qwen3-emb-8b_text.metrics.json ADDED
@@ -0,0 +1,1818 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "aggregate": {
3
+ "RR@10": 0.44883075861336735,
4
+ "R@10": 0.6254180602006689,
5
+ "R@30": 0.7565217391304347,
6
+ "R@100": 0.8609253065774806,
7
+ "nDCG@10": 0.471435546166485,
8
+ "Success@1": 0.34448160535117056
9
+ },
10
+ "per_query": {
11
+ "RR@10": {
12
+ "E-9-2022-000040": 0.25,
13
+ "E-9-2022-000065": 0.0,
14
+ "E-9-2022-000104": 1.0,
15
+ "E-9-2022-000148": 0.0,
16
+ "E-9-2022-000167": 1.0,
17
+ "E-9-2022-000169": 0.2,
18
+ "E-9-2022-000230": 0.0,
19
+ "E-9-2022-000264": 0.5,
20
+ "E-9-2022-000285": 0.14285714285714285,
21
+ "E-9-2022-000315": 0.5,
22
+ "E-9-2022-000350": 0.0,
23
+ "E-9-2022-000391": 0.14285714285714285,
24
+ "E-9-2022-000392": 0.25,
25
+ "E-9-2022-000398": 0.0,
26
+ "E-9-2022-000411": 0.0,
27
+ "E-9-2022-000423": 0.0,
28
+ "E-9-2022-000424": 0.5,
29
+ "E-9-2022-000447": 0.5,
30
+ "E-9-2022-000493": 0.0,
31
+ "E-9-2022-000495": 0.0,
32
+ "E-9-2022-000501": 0.5,
33
+ "E-9-2022-000502": 0.5,
34
+ "E-9-2022-000577": 0.3333333333333333,
35
+ "E-9-2022-000578": 0.0,
36
+ "E-9-2022-000603": 0.2,
37
+ "E-9-2022-000608": 0.5,
38
+ "E-9-2022-000615": 0.0,
39
+ "E-9-2022-000639": 1.0,
40
+ "E-9-2022-000667": 0.0,
41
+ "E-9-2022-000689": 0.3333333333333333,
42
+ "E-9-2022-000748": 0.0,
43
+ "E-9-2022-000783": 1.0,
44
+ "E-9-2022-000797": 0.3333333333333333,
45
+ "E-9-2022-000985": 1.0,
46
+ "E-9-2022-001024": 0.1111111111111111,
47
+ "E-9-2022-001030": 0.2,
48
+ "E-9-2022-001097": 0.0,
49
+ "E-9-2022-001100": 1.0,
50
+ "E-9-2022-001124": 1.0,
51
+ "E-9-2022-001161": 0.2,
52
+ "E-9-2022-001178": 0.5,
53
+ "E-9-2022-001181": 1.0,
54
+ "E-9-2022-001189": 1.0,
55
+ "E-9-2022-001205": 0.0,
56
+ "E-9-2022-001235": 0.0,
57
+ "E-9-2022-001244": 0.16666666666666666,
58
+ "E-9-2022-001246": 0.0,
59
+ "E-9-2022-001270": 1.0,
60
+ "E-9-2022-001284": 0.5,
61
+ "E-9-2022-001285": 0.3333333333333333,
62
+ "E-9-2022-001290": 0.1111111111111111,
63
+ "E-9-2022-001347": 0.3333333333333333,
64
+ "E-9-2022-001358": 1.0,
65
+ "E-9-2022-001373": 0.0,
66
+ "E-9-2022-001381": 1.0,
67
+ "E-9-2022-001394": 1.0,
68
+ "E-9-2022-001402": 0.3333333333333333,
69
+ "E-9-2022-001415": 0.2,
70
+ "E-9-2022-001425": 0.25,
71
+ "E-9-2022-001475": 0.0,
72
+ "E-9-2022-001502": 1.0,
73
+ "E-9-2022-001507": 0.0,
74
+ "E-9-2022-001536": 0.3333333333333333,
75
+ "E-9-2022-001543": 0.0,
76
+ "E-9-2022-001546": 1.0,
77
+ "E-9-2022-001558": 0.0,
78
+ "E-9-2022-001567": 1.0,
79
+ "E-9-2022-001571": 1.0,
80
+ "E-9-2022-001592": 0.25,
81
+ "E-9-2022-001726": 0.0,
82
+ "E-9-2022-001764": 1.0,
83
+ "E-9-2022-001816": 1.0,
84
+ "E-9-2022-001852": 0.3333333333333333,
85
+ "E-9-2022-001955": 0.1111111111111111,
86
+ "E-9-2022-001970": 1.0,
87
+ "E-9-2022-002064": 0.5,
88
+ "E-9-2022-002080": 1.0,
89
+ "E-9-2022-002101": 0.0,
90
+ "E-9-2022-002174": 1.0,
91
+ "E-9-2022-002205": 1.0,
92
+ "E-9-2022-002238": 0.0,
93
+ "E-9-2022-002266": 0.0,
94
+ "E-9-2022-002272": 0.0,
95
+ "E-9-2022-002299": 1.0,
96
+ "E-9-2022-002306": 0.0,
97
+ "E-9-2022-002405": 1.0,
98
+ "E-9-2022-002415": 0.3333333333333333,
99
+ "E-9-2022-002432": 0.25,
100
+ "E-9-2022-002444": 1.0,
101
+ "E-9-2022-002475": 0.2,
102
+ "E-9-2022-002516": 0.5,
103
+ "E-9-2022-002608": 0.125,
104
+ "E-9-2022-002670": 1.0,
105
+ "E-9-2022-002675": 1.0,
106
+ "E-9-2022-002761": 1.0,
107
+ "E-9-2022-002777": 1.0,
108
+ "E-9-2022-002810": 0.3333333333333333,
109
+ "E-9-2022-002814": 0.1,
110
+ "E-9-2022-002820": 0.0,
111
+ "E-9-2022-002824": 0.0,
112
+ "E-9-2022-002831": 0.0,
113
+ "E-9-2022-002928": 0.0,
114
+ "E-9-2022-002946": 1.0,
115
+ "E-9-2022-002989": 0.0,
116
+ "E-9-2022-003065": 0.0,
117
+ "E-9-2022-003071": 0.16666666666666666,
118
+ "E-9-2022-003111": 0.3333333333333333,
119
+ "E-9-2022-003127": 0.0,
120
+ "E-9-2022-003155": 0.1111111111111111,
121
+ "E-9-2022-003215": 0.0,
122
+ "E-9-2022-003265": 1.0,
123
+ "E-9-2022-003290": 1.0,
124
+ "E-9-2022-003293": 0.0,
125
+ "E-9-2022-003299": 0.0,
126
+ "E-9-2022-003343": 1.0,
127
+ "E-9-2022-003374": 1.0,
128
+ "E-9-2022-003407": 0.2,
129
+ "E-9-2022-003439": 1.0,
130
+ "E-9-2022-003470": 1.0,
131
+ "E-9-2022-003507": 0.1111111111111111,
132
+ "E-9-2022-003570": 0.0,
133
+ "E-9-2022-003594": 1.0,
134
+ "E-9-2022-003743": 0.3333333333333333,
135
+ "E-9-2022-003836": 0.25,
136
+ "E-9-2022-003894": 1.0,
137
+ "E-9-2022-003930": 1.0,
138
+ "E-9-2022-004005": 0.0,
139
+ "E-9-2022-004012": 1.0,
140
+ "E-9-2022-004013": 0.5,
141
+ "E-9-2022-004038": 0.25,
142
+ "E-9-2022-004059": 0.2,
143
+ "E-9-2022-004074": 0.3333333333333333,
144
+ "E-9-2022-004090": 0.25,
145
+ "E-9-2022-004116": 0.1111111111111111,
146
+ "E-9-2022-004149": 0.0,
147
+ "E-9-2023-000017": 0.0,
148
+ "E-9-2023-000037": 0.5,
149
+ "E-9-2023-000073": 0.1111111111111111,
150
+ "E-9-2023-000105": 1.0,
151
+ "E-9-2023-000108": 0.5,
152
+ "E-9-2023-000113": 0.0,
153
+ "E-9-2023-000141": 0.3333333333333333,
154
+ "E-9-2023-000166": 0.0,
155
+ "E-9-2023-000172": 1.0,
156
+ "E-9-2023-000221": 0.0,
157
+ "E-9-2023-000238": 0.0,
158
+ "E-9-2023-000282": 1.0,
159
+ "E-9-2023-000331": 0.0,
160
+ "E-9-2023-000360": 0.0,
161
+ "E-9-2023-000476": 0.3333333333333333,
162
+ "E-9-2023-000511": 0.0,
163
+ "E-9-2023-000526": 0.5,
164
+ "E-9-2023-000529": 0.0,
165
+ "E-9-2023-000533": 0.25,
166
+ "E-9-2023-000550": 0.0,
167
+ "E-9-2023-000553": 1.0,
168
+ "E-9-2023-000589": 1.0,
169
+ "E-9-2023-000617": 0.0,
170
+ "E-9-2023-000666": 0.25,
171
+ "E-9-2023-000773": 0.0,
172
+ "E-9-2023-000871": 1.0,
173
+ "E-9-2023-000918": 0.25,
174
+ "E-9-2023-000992": 0.5,
175
+ "E-9-2023-001006": 1.0,
176
+ "E-9-2023-001048": 0.5,
177
+ "E-9-2023-001148": 0.0,
178
+ "E-9-2023-001188": 0.14285714285714285,
179
+ "E-9-2023-001237": 1.0,
180
+ "E-9-2023-001247": 1.0,
181
+ "E-9-2023-001280": 1.0,
182
+ "E-9-2023-001318": 0.0,
183
+ "E-9-2023-001322": 0.0,
184
+ "E-9-2023-001346": 1.0,
185
+ "E-9-2023-001358": 0.14285714285714285,
186
+ "E-9-2023-001426": 1.0,
187
+ "E-9-2023-001437": 1.0,
188
+ "E-9-2023-001454": 1.0,
189
+ "E-9-2023-001458": 0.0,
190
+ "E-9-2023-001491": 0.25,
191
+ "E-9-2023-001520": 0.125,
192
+ "E-9-2023-001538": 1.0,
193
+ "E-9-2023-001600": 0.0,
194
+ "E-9-2023-001611": 0.16666666666666666,
195
+ "E-9-2023-001615": 1.0,
196
+ "E-9-2023-001638": 1.0,
197
+ "E-9-2023-001685": 1.0,
198
+ "E-9-2023-001692": 0.25,
199
+ "E-9-2023-001758": 1.0,
200
+ "E-9-2023-001819": 0.0,
201
+ "E-9-2023-001839": 0.0,
202
+ "E-9-2023-001846": 1.0,
203
+ "E-9-2023-001859": 0.0,
204
+ "E-9-2023-001877": 0.5,
205
+ "E-9-2023-001904": 0.2,
206
+ "E-9-2023-001982": 0.0,
207
+ "E-9-2023-002001": 1.0,
208
+ "E-9-2023-002033": 0.0,
209
+ "E-9-2023-002095": 0.0,
210
+ "E-9-2023-002103": 1.0,
211
+ "E-9-2023-002115": 1.0,
212
+ "E-9-2023-002178": 1.0,
213
+ "E-9-2023-002186": 1.0,
214
+ "E-9-2023-002240": 0.5,
215
+ "E-9-2023-002242": 1.0,
216
+ "E-9-2023-002281": 0.2,
217
+ "E-9-2023-002383": 0.0,
218
+ "E-9-2023-002395": 1.0,
219
+ "E-9-2023-002442": 0.0,
220
+ "E-9-2023-002479": 0.25,
221
+ "E-9-2023-002505": 0.25,
222
+ "E-9-2023-002509": 1.0,
223
+ "E-9-2023-002540": 0.0,
224
+ "E-9-2023-002584": 0.14285714285714285,
225
+ "E-9-2023-002610": 1.0,
226
+ "E-9-2023-002625": 0.25,
227
+ "E-9-2023-002637": 1.0,
228
+ "E-9-2023-002640": 1.0,
229
+ "E-9-2023-002675": 0.0,
230
+ "E-9-2023-002683": 1.0,
231
+ "E-9-2023-002699": 1.0,
232
+ "E-9-2023-002743": 0.0,
233
+ "E-9-2023-002751": 0.0,
234
+ "E-9-2023-002758": 0.5,
235
+ "E-9-2023-002815": 0.0,
236
+ "E-9-2023-002816": 0.1,
237
+ "E-9-2023-002833": 1.0,
238
+ "E-9-2023-002883": 0.3333333333333333,
239
+ "E-9-2023-002980": 1.0,
240
+ "E-9-2023-002994": 1.0,
241
+ "E-9-2023-003002": 0.3333333333333333,
242
+ "E-9-2023-003022": 0.5,
243
+ "E-9-2023-003040": 1.0,
244
+ "E-9-2023-003117": 0.25,
245
+ "E-9-2023-003122": 0.0,
246
+ "E-9-2023-003167": 0.16666666666666666,
247
+ "E-9-2023-003215": 0.1111111111111111,
248
+ "E-9-2023-003326": 1.0,
249
+ "E-9-2023-003373": 0.0,
250
+ "E-9-2023-003386": 1.0,
251
+ "E-9-2023-003391": 1.0,
252
+ "E-9-2023-003404": 0.16666666666666666,
253
+ "E-9-2023-003408": 0.0,
254
+ "E-9-2023-003419": 1.0,
255
+ "E-9-2023-003430": 1.0,
256
+ "E-9-2023-003439": 0.0,
257
+ "E-9-2023-003453": 1.0,
258
+ "E-9-2023-003457": 0.0,
259
+ "E-9-2023-003492": 1.0,
260
+ "E-9-2023-003533": 1.0,
261
+ "E-9-2023-003602": 0.0,
262
+ "E-9-2023-003607": 0.5,
263
+ "E-9-2023-003675": 0.16666666666666666,
264
+ "E-9-2023-003685": 0.2,
265
+ "E-9-2023-003728": 0.0,
266
+ "E-9-2023-003749": 1.0,
267
+ "E-9-2023-003754": 0.0,
268
+ "P-9-2022-000135": 0.0,
269
+ "P-9-2022-000661": 0.0,
270
+ "P-9-2022-001060": 0.5,
271
+ "P-9-2022-001119": 0.16666666666666666,
272
+ "P-9-2022-001271": 0.5,
273
+ "P-9-2022-001337": 1.0,
274
+ "P-9-2022-001416": 0.125,
275
+ "P-9-2022-001521": 0.5,
276
+ "P-9-2022-001555": 0.5,
277
+ "P-9-2022-001666": 0.0,
278
+ "P-9-2022-002383": 0.0,
279
+ "P-9-2022-002535": 0.16666666666666666,
280
+ "P-9-2022-002627": 0.5,
281
+ "P-9-2022-002830": 0.3333333333333333,
282
+ "P-9-2022-002838": 1.0,
283
+ "P-9-2022-002863": 0.0,
284
+ "P-9-2022-003082": 1.0,
285
+ "P-9-2022-003461": 1.0,
286
+ "P-9-2022-003463": 0.0,
287
+ "P-9-2022-003675": 1.0,
288
+ "P-9-2023-000298": 0.1,
289
+ "P-9-2023-000633": 1.0,
290
+ "P-9-2023-000876": 0.25,
291
+ "P-9-2023-001138": 0.3333333333333333,
292
+ "P-9-2023-001534": 0.0,
293
+ "P-9-2023-001841": 1.0,
294
+ "P-9-2023-002104": 1.0,
295
+ "P-9-2023-002410": 0.5,
296
+ "P-9-2023-002436": 1.0,
297
+ "P-9-2023-002485": 1.0,
298
+ "P-9-2023-002496": 0.1111111111111111,
299
+ "P-9-2023-002514": 0.1111111111111111,
300
+ "P-9-2023-002791": 1.0,
301
+ "P-9-2023-002805": 1.0,
302
+ "P-9-2023-002808": 1.0,
303
+ "P-9-2023-002868": 1.0,
304
+ "P-9-2023-003005": 1.0,
305
+ "P-9-2023-003064": 0.0,
306
+ "P-9-2023-003169": 0.0,
307
+ "P-9-2023-003268": 0.3333333333333333,
308
+ "P-9-2023-003372": 0.0,
309
+ "P-9-2023-003471": 0.0,
310
+ "P-9-2023-003707": 1.0
311
+ },
312
+ "R@10": {
313
+ "E-9-2022-000040": 0.2,
314
+ "E-9-2022-000065": 0.0,
315
+ "E-9-2022-000104": 1.0,
316
+ "E-9-2022-000148": 0.0,
317
+ "E-9-2022-000167": 1.0,
318
+ "E-9-2022-000169": 1.0,
319
+ "E-9-2022-000230": 0.0,
320
+ "E-9-2022-000264": 0.5,
321
+ "E-9-2022-000285": 0.3333333333333333,
322
+ "E-9-2022-000315": 0.75,
323
+ "E-9-2022-000350": 0.0,
324
+ "E-9-2022-000391": 1.0,
325
+ "E-9-2022-000392": 1.0,
326
+ "E-9-2022-000398": 0.0,
327
+ "E-9-2022-000411": 0.0,
328
+ "E-9-2022-000423": 0.0,
329
+ "E-9-2022-000424": 0.4,
330
+ "E-9-2022-000447": 1.0,
331
+ "E-9-2022-000493": 0.0,
332
+ "E-9-2022-000495": 0.0,
333
+ "E-9-2022-000501": 0.6666666666666666,
334
+ "E-9-2022-000502": 1.0,
335
+ "E-9-2022-000577": 1.0,
336
+ "E-9-2022-000578": 0.0,
337
+ "E-9-2022-000603": 1.0,
338
+ "E-9-2022-000608": 1.0,
339
+ "E-9-2022-000615": 0.0,
340
+ "E-9-2022-000639": 0.8,
341
+ "E-9-2022-000667": 0.0,
342
+ "E-9-2022-000689": 1.0,
343
+ "E-9-2022-000748": 0.0,
344
+ "E-9-2022-000783": 1.0,
345
+ "E-9-2022-000797": 1.0,
346
+ "E-9-2022-000985": 1.0,
347
+ "E-9-2022-001024": 1.0,
348
+ "E-9-2022-001030": 0.5,
349
+ "E-9-2022-001097": 0.0,
350
+ "E-9-2022-001100": 1.0,
351
+ "E-9-2022-001124": 1.0,
352
+ "E-9-2022-001161": 1.0,
353
+ "E-9-2022-001178": 1.0,
354
+ "E-9-2022-001181": 0.5,
355
+ "E-9-2022-001189": 1.0,
356
+ "E-9-2022-001205": 0.0,
357
+ "E-9-2022-001235": 0.0,
358
+ "E-9-2022-001244": 1.0,
359
+ "E-9-2022-001246": 0.0,
360
+ "E-9-2022-001270": 1.0,
361
+ "E-9-2022-001284": 1.0,
362
+ "E-9-2022-001285": 0.5,
363
+ "E-9-2022-001290": 0.5,
364
+ "E-9-2022-001347": 1.0,
365
+ "E-9-2022-001358": 1.0,
366
+ "E-9-2022-001373": 0.0,
367
+ "E-9-2022-001381": 1.0,
368
+ "E-9-2022-001394": 1.0,
369
+ "E-9-2022-001402": 0.5,
370
+ "E-9-2022-001415": 0.5,
371
+ "E-9-2022-001425": 1.0,
372
+ "E-9-2022-001475": 0.0,
373
+ "E-9-2022-001502": 1.0,
374
+ "E-9-2022-001507": 0.0,
375
+ "E-9-2022-001536": 1.0,
376
+ "E-9-2022-001543": 0.0,
377
+ "E-9-2022-001546": 0.5,
378
+ "E-9-2022-001558": 0.0,
379
+ "E-9-2022-001567": 1.0,
380
+ "E-9-2022-001571": 1.0,
381
+ "E-9-2022-001592": 1.0,
382
+ "E-9-2022-001726": 0.0,
383
+ "E-9-2022-001764": 1.0,
384
+ "E-9-2022-001816": 1.0,
385
+ "E-9-2022-001852": 1.0,
386
+ "E-9-2022-001955": 1.0,
387
+ "E-9-2022-001970": 1.0,
388
+ "E-9-2022-002064": 1.0,
389
+ "E-9-2022-002080": 1.0,
390
+ "E-9-2022-002101": 0.0,
391
+ "E-9-2022-002174": 0.5,
392
+ "E-9-2022-002205": 1.0,
393
+ "E-9-2022-002238": 0.0,
394
+ "E-9-2022-002266": 0.0,
395
+ "E-9-2022-002272": 0.0,
396
+ "E-9-2022-002299": 1.0,
397
+ "E-9-2022-002306": 0.0,
398
+ "E-9-2022-002405": 0.5,
399
+ "E-9-2022-002415": 0.5,
400
+ "E-9-2022-002432": 1.0,
401
+ "E-9-2022-002444": 1.0,
402
+ "E-9-2022-002475": 1.0,
403
+ "E-9-2022-002516": 0.5,
404
+ "E-9-2022-002608": 1.0,
405
+ "E-9-2022-002670": 1.0,
406
+ "E-9-2022-002675": 1.0,
407
+ "E-9-2022-002761": 0.3333333333333333,
408
+ "E-9-2022-002777": 1.0,
409
+ "E-9-2022-002810": 0.3333333333333333,
410
+ "E-9-2022-002814": 1.0,
411
+ "E-9-2022-002820": 0.0,
412
+ "E-9-2022-002824": 0.0,
413
+ "E-9-2022-002831": 0.0,
414
+ "E-9-2022-002928": 0.0,
415
+ "E-9-2022-002946": 1.0,
416
+ "E-9-2022-002989": 0.0,
417
+ "E-9-2022-003065": 0.0,
418
+ "E-9-2022-003071": 1.0,
419
+ "E-9-2022-003111": 1.0,
420
+ "E-9-2022-003127": 0.0,
421
+ "E-9-2022-003155": 1.0,
422
+ "E-9-2022-003215": 0.0,
423
+ "E-9-2022-003265": 1.0,
424
+ "E-9-2022-003290": 1.0,
425
+ "E-9-2022-003293": 0.0,
426
+ "E-9-2022-003299": 0.0,
427
+ "E-9-2022-003343": 1.0,
428
+ "E-9-2022-003374": 0.3333333333333333,
429
+ "E-9-2022-003407": 1.0,
430
+ "E-9-2022-003439": 1.0,
431
+ "E-9-2022-003470": 0.5,
432
+ "E-9-2022-003507": 1.0,
433
+ "E-9-2022-003570": 0.0,
434
+ "E-9-2022-003594": 1.0,
435
+ "E-9-2022-003743": 1.0,
436
+ "E-9-2022-003836": 1.0,
437
+ "E-9-2022-003894": 1.0,
438
+ "E-9-2022-003930": 1.0,
439
+ "E-9-2022-004005": 0.0,
440
+ "E-9-2022-004012": 1.0,
441
+ "E-9-2022-004013": 1.0,
442
+ "E-9-2022-004038": 1.0,
443
+ "E-9-2022-004059": 1.0,
444
+ "E-9-2022-004074": 1.0,
445
+ "E-9-2022-004090": 1.0,
446
+ "E-9-2022-004116": 1.0,
447
+ "E-9-2022-004149": 0.0,
448
+ "E-9-2023-000017": 0.0,
449
+ "E-9-2023-000037": 0.5,
450
+ "E-9-2023-000073": 0.3333333333333333,
451
+ "E-9-2023-000105": 1.0,
452
+ "E-9-2023-000108": 1.0,
453
+ "E-9-2023-000113": 0.0,
454
+ "E-9-2023-000141": 1.0,
455
+ "E-9-2023-000166": 0.0,
456
+ "E-9-2023-000172": 1.0,
457
+ "E-9-2023-000221": 0.0,
458
+ "E-9-2023-000238": 0.0,
459
+ "E-9-2023-000282": 1.0,
460
+ "E-9-2023-000331": 0.0,
461
+ "E-9-2023-000360": 0.0,
462
+ "E-9-2023-000476": 1.0,
463
+ "E-9-2023-000511": 0.0,
464
+ "E-9-2023-000526": 1.0,
465
+ "E-9-2023-000529": 0.0,
466
+ "E-9-2023-000533": 0.5,
467
+ "E-9-2023-000550": 0.0,
468
+ "E-9-2023-000553": 1.0,
469
+ "E-9-2023-000589": 1.0,
470
+ "E-9-2023-000617": 0.0,
471
+ "E-9-2023-000666": 1.0,
472
+ "E-9-2023-000773": 0.0,
473
+ "E-9-2023-000871": 1.0,
474
+ "E-9-2023-000918": 1.0,
475
+ "E-9-2023-000992": 0.5,
476
+ "E-9-2023-001006": 1.0,
477
+ "E-9-2023-001048": 1.0,
478
+ "E-9-2023-001148": 0.0,
479
+ "E-9-2023-001188": 1.0,
480
+ "E-9-2023-001237": 1.0,
481
+ "E-9-2023-001247": 1.0,
482
+ "E-9-2023-001280": 1.0,
483
+ "E-9-2023-001318": 0.0,
484
+ "E-9-2023-001322": 0.0,
485
+ "E-9-2023-001346": 1.0,
486
+ "E-9-2023-001358": 0.5,
487
+ "E-9-2023-001426": 1.0,
488
+ "E-9-2023-001437": 1.0,
489
+ "E-9-2023-001454": 1.0,
490
+ "E-9-2023-001458": 0.0,
491
+ "E-9-2023-001491": 1.0,
492
+ "E-9-2023-001520": 1.0,
493
+ "E-9-2023-001538": 1.0,
494
+ "E-9-2023-001600": 0.0,
495
+ "E-9-2023-001611": 0.3333333333333333,
496
+ "E-9-2023-001615": 0.5,
497
+ "E-9-2023-001638": 0.6,
498
+ "E-9-2023-001685": 1.0,
499
+ "E-9-2023-001692": 1.0,
500
+ "E-9-2023-001758": 0.6666666666666666,
501
+ "E-9-2023-001819": 0.0,
502
+ "E-9-2023-001839": 0.0,
503
+ "E-9-2023-001846": 1.0,
504
+ "E-9-2023-001859": 0.0,
505
+ "E-9-2023-001877": 1.0,
506
+ "E-9-2023-001904": 0.25,
507
+ "E-9-2023-001982": 0.0,
508
+ "E-9-2023-002001": 1.0,
509
+ "E-9-2023-002033": 0.0,
510
+ "E-9-2023-002095": 0.0,
511
+ "E-9-2023-002103": 1.0,
512
+ "E-9-2023-002115": 1.0,
513
+ "E-9-2023-002178": 1.0,
514
+ "E-9-2023-002186": 1.0,
515
+ "E-9-2023-002240": 1.0,
516
+ "E-9-2023-002242": 1.0,
517
+ "E-9-2023-002281": 1.0,
518
+ "E-9-2023-002383": 0.0,
519
+ "E-9-2023-002395": 1.0,
520
+ "E-9-2023-002442": 0.0,
521
+ "E-9-2023-002479": 1.0,
522
+ "E-9-2023-002505": 1.0,
523
+ "E-9-2023-002509": 1.0,
524
+ "E-9-2023-002540": 0.0,
525
+ "E-9-2023-002584": 1.0,
526
+ "E-9-2023-002610": 1.0,
527
+ "E-9-2023-002625": 1.0,
528
+ "E-9-2023-002637": 1.0,
529
+ "E-9-2023-002640": 1.0,
530
+ "E-9-2023-002675": 0.0,
531
+ "E-9-2023-002683": 1.0,
532
+ "E-9-2023-002699": 1.0,
533
+ "E-9-2023-002743": 0.0,
534
+ "E-9-2023-002751": 0.0,
535
+ "E-9-2023-002758": 1.0,
536
+ "E-9-2023-002815": 0.0,
537
+ "E-9-2023-002816": 1.0,
538
+ "E-9-2023-002833": 1.0,
539
+ "E-9-2023-002883": 1.0,
540
+ "E-9-2023-002980": 1.0,
541
+ "E-9-2023-002994": 1.0,
542
+ "E-9-2023-003002": 1.0,
543
+ "E-9-2023-003022": 1.0,
544
+ "E-9-2023-003040": 1.0,
545
+ "E-9-2023-003117": 0.6666666666666666,
546
+ "E-9-2023-003122": 0.0,
547
+ "E-9-2023-003167": 1.0,
548
+ "E-9-2023-003215": 0.25,
549
+ "E-9-2023-003326": 1.0,
550
+ "E-9-2023-003373": 0.0,
551
+ "E-9-2023-003386": 1.0,
552
+ "E-9-2023-003391": 1.0,
553
+ "E-9-2023-003404": 0.3333333333333333,
554
+ "E-9-2023-003408": 0.0,
555
+ "E-9-2023-003419": 1.0,
556
+ "E-9-2023-003430": 1.0,
557
+ "E-9-2023-003439": 0.0,
558
+ "E-9-2023-003453": 1.0,
559
+ "E-9-2023-003457": 0.0,
560
+ "E-9-2023-003492": 1.0,
561
+ "E-9-2023-003533": 1.0,
562
+ "E-9-2023-003602": 0.0,
563
+ "E-9-2023-003607": 1.0,
564
+ "E-9-2023-003675": 0.5,
565
+ "E-9-2023-003685": 1.0,
566
+ "E-9-2023-003728": 0.0,
567
+ "E-9-2023-003749": 1.0,
568
+ "E-9-2023-003754": 0.0,
569
+ "P-9-2022-000135": 0.0,
570
+ "P-9-2022-000661": 0.0,
571
+ "P-9-2022-001060": 1.0,
572
+ "P-9-2022-001119": 0.5,
573
+ "P-9-2022-001271": 0.5,
574
+ "P-9-2022-001337": 1.0,
575
+ "P-9-2022-001416": 1.0,
576
+ "P-9-2022-001521": 1.0,
577
+ "P-9-2022-001555": 1.0,
578
+ "P-9-2022-001666": 0.0,
579
+ "P-9-2022-002383": 0.0,
580
+ "P-9-2022-002535": 1.0,
581
+ "P-9-2022-002627": 1.0,
582
+ "P-9-2022-002830": 0.25,
583
+ "P-9-2022-002838": 0.5,
584
+ "P-9-2022-002863": 0.0,
585
+ "P-9-2022-003082": 1.0,
586
+ "P-9-2022-003461": 1.0,
587
+ "P-9-2022-003463": 0.0,
588
+ "P-9-2022-003675": 1.0,
589
+ "P-9-2023-000298": 1.0,
590
+ "P-9-2023-000633": 1.0,
591
+ "P-9-2023-000876": 0.5,
592
+ "P-9-2023-001138": 1.0,
593
+ "P-9-2023-001534": 0.0,
594
+ "P-9-2023-001841": 1.0,
595
+ "P-9-2023-002104": 1.0,
596
+ "P-9-2023-002410": 1.0,
597
+ "P-9-2023-002436": 1.0,
598
+ "P-9-2023-002485": 1.0,
599
+ "P-9-2023-002496": 1.0,
600
+ "P-9-2023-002514": 1.0,
601
+ "P-9-2023-002791": 1.0,
602
+ "P-9-2023-002805": 1.0,
603
+ "P-9-2023-002808": 1.0,
604
+ "P-9-2023-002868": 1.0,
605
+ "P-9-2023-003005": 0.6666666666666666,
606
+ "P-9-2023-003064": 0.0,
607
+ "P-9-2023-003169": 0.0,
608
+ "P-9-2023-003268": 1.0,
609
+ "P-9-2023-003372": 0.0,
610
+ "P-9-2023-003471": 0.0,
611
+ "P-9-2023-003707": 1.0
612
+ },
613
+ "R@30": {
614
+ "E-9-2022-000040": 0.6,
615
+ "E-9-2022-000065": 1.0,
616
+ "E-9-2022-000104": 1.0,
617
+ "E-9-2022-000148": 0.0,
618
+ "E-9-2022-000167": 1.0,
619
+ "E-9-2022-000169": 1.0,
620
+ "E-9-2022-000230": 0.0,
621
+ "E-9-2022-000264": 0.75,
622
+ "E-9-2022-000285": 0.6666666666666666,
623
+ "E-9-2022-000315": 0.75,
624
+ "E-9-2022-000350": 1.0,
625
+ "E-9-2022-000391": 1.0,
626
+ "E-9-2022-000392": 1.0,
627
+ "E-9-2022-000398": 0.0,
628
+ "E-9-2022-000411": 0.0,
629
+ "E-9-2022-000423": 0.0,
630
+ "E-9-2022-000424": 0.8,
631
+ "E-9-2022-000447": 1.0,
632
+ "E-9-2022-000493": 0.0,
633
+ "E-9-2022-000495": 0.0,
634
+ "E-9-2022-000501": 0.6666666666666666,
635
+ "E-9-2022-000502": 1.0,
636
+ "E-9-2022-000577": 1.0,
637
+ "E-9-2022-000578": 0.0,
638
+ "E-9-2022-000603": 1.0,
639
+ "E-9-2022-000608": 1.0,
640
+ "E-9-2022-000615": 0.0,
641
+ "E-9-2022-000639": 1.0,
642
+ "E-9-2022-000667": 0.0,
643
+ "E-9-2022-000689": 1.0,
644
+ "E-9-2022-000748": 1.0,
645
+ "E-9-2022-000783": 1.0,
646
+ "E-9-2022-000797": 1.0,
647
+ "E-9-2022-000985": 1.0,
648
+ "E-9-2022-001024": 1.0,
649
+ "E-9-2022-001030": 1.0,
650
+ "E-9-2022-001097": 0.0,
651
+ "E-9-2022-001100": 1.0,
652
+ "E-9-2022-001124": 1.0,
653
+ "E-9-2022-001161": 1.0,
654
+ "E-9-2022-001178": 1.0,
655
+ "E-9-2022-001181": 0.5,
656
+ "E-9-2022-001189": 1.0,
657
+ "E-9-2022-001205": 0.3333333333333333,
658
+ "E-9-2022-001235": 0.0,
659
+ "E-9-2022-001244": 1.0,
660
+ "E-9-2022-001246": 0.0,
661
+ "E-9-2022-001270": 1.0,
662
+ "E-9-2022-001284": 1.0,
663
+ "E-9-2022-001285": 0.5,
664
+ "E-9-2022-001290": 0.5,
665
+ "E-9-2022-001347": 1.0,
666
+ "E-9-2022-001358": 1.0,
667
+ "E-9-2022-001373": 1.0,
668
+ "E-9-2022-001381": 1.0,
669
+ "E-9-2022-001394": 1.0,
670
+ "E-9-2022-001402": 0.5,
671
+ "E-9-2022-001415": 0.5,
672
+ "E-9-2022-001425": 1.0,
673
+ "E-9-2022-001475": 0.0,
674
+ "E-9-2022-001502": 1.0,
675
+ "E-9-2022-001507": 1.0,
676
+ "E-9-2022-001536": 1.0,
677
+ "E-9-2022-001543": 0.0,
678
+ "E-9-2022-001546": 1.0,
679
+ "E-9-2022-001558": 1.0,
680
+ "E-9-2022-001567": 1.0,
681
+ "E-9-2022-001571": 1.0,
682
+ "E-9-2022-001592": 1.0,
683
+ "E-9-2022-001726": 0.0,
684
+ "E-9-2022-001764": 1.0,
685
+ "E-9-2022-001816": 1.0,
686
+ "E-9-2022-001852": 1.0,
687
+ "E-9-2022-001955": 1.0,
688
+ "E-9-2022-001970": 1.0,
689
+ "E-9-2022-002064": 1.0,
690
+ "E-9-2022-002080": 1.0,
691
+ "E-9-2022-002101": 0.0,
692
+ "E-9-2022-002174": 0.5,
693
+ "E-9-2022-002205": 1.0,
694
+ "E-9-2022-002238": 0.0,
695
+ "E-9-2022-002266": 1.0,
696
+ "E-9-2022-002272": 0.5,
697
+ "E-9-2022-002299": 1.0,
698
+ "E-9-2022-002306": 0.0,
699
+ "E-9-2022-002405": 0.5,
700
+ "E-9-2022-002415": 0.5,
701
+ "E-9-2022-002432": 1.0,
702
+ "E-9-2022-002444": 1.0,
703
+ "E-9-2022-002475": 1.0,
704
+ "E-9-2022-002516": 1.0,
705
+ "E-9-2022-002608": 1.0,
706
+ "E-9-2022-002670": 1.0,
707
+ "E-9-2022-002675": 1.0,
708
+ "E-9-2022-002761": 0.3333333333333333,
709
+ "E-9-2022-002777": 1.0,
710
+ "E-9-2022-002810": 1.0,
711
+ "E-9-2022-002814": 1.0,
712
+ "E-9-2022-002820": 1.0,
713
+ "E-9-2022-002824": 0.6666666666666666,
714
+ "E-9-2022-002831": 0.0,
715
+ "E-9-2022-002928": 0.0,
716
+ "E-9-2022-002946": 1.0,
717
+ "E-9-2022-002989": 1.0,
718
+ "E-9-2022-003065": 1.0,
719
+ "E-9-2022-003071": 1.0,
720
+ "E-9-2022-003111": 1.0,
721
+ "E-9-2022-003127": 0.6666666666666666,
722
+ "E-9-2022-003155": 1.0,
723
+ "E-9-2022-003215": 0.0,
724
+ "E-9-2022-003265": 1.0,
725
+ "E-9-2022-003290": 1.0,
726
+ "E-9-2022-003293": 1.0,
727
+ "E-9-2022-003299": 0.0,
728
+ "E-9-2022-003343": 1.0,
729
+ "E-9-2022-003374": 0.3333333333333333,
730
+ "E-9-2022-003407": 1.0,
731
+ "E-9-2022-003439": 1.0,
732
+ "E-9-2022-003470": 1.0,
733
+ "E-9-2022-003507": 1.0,
734
+ "E-9-2022-003570": 1.0,
735
+ "E-9-2022-003594": 1.0,
736
+ "E-9-2022-003743": 1.0,
737
+ "E-9-2022-003836": 1.0,
738
+ "E-9-2022-003894": 1.0,
739
+ "E-9-2022-003930": 1.0,
740
+ "E-9-2022-004005": 1.0,
741
+ "E-9-2022-004012": 1.0,
742
+ "E-9-2022-004013": 1.0,
743
+ "E-9-2022-004038": 1.0,
744
+ "E-9-2022-004059": 1.0,
745
+ "E-9-2022-004074": 1.0,
746
+ "E-9-2022-004090": 1.0,
747
+ "E-9-2022-004116": 1.0,
748
+ "E-9-2022-004149": 0.0,
749
+ "E-9-2023-000017": 0.2,
750
+ "E-9-2023-000037": 0.5,
751
+ "E-9-2023-000073": 0.3333333333333333,
752
+ "E-9-2023-000105": 1.0,
753
+ "E-9-2023-000108": 1.0,
754
+ "E-9-2023-000113": 1.0,
755
+ "E-9-2023-000141": 1.0,
756
+ "E-9-2023-000166": 0.0,
757
+ "E-9-2023-000172": 1.0,
758
+ "E-9-2023-000221": 0.0,
759
+ "E-9-2023-000238": 0.0,
760
+ "E-9-2023-000282": 1.0,
761
+ "E-9-2023-000331": 1.0,
762
+ "E-9-2023-000360": 0.0,
763
+ "E-9-2023-000476": 1.0,
764
+ "E-9-2023-000511": 0.0,
765
+ "E-9-2023-000526": 1.0,
766
+ "E-9-2023-000529": 0.0,
767
+ "E-9-2023-000533": 1.0,
768
+ "E-9-2023-000550": 1.0,
769
+ "E-9-2023-000553": 1.0,
770
+ "E-9-2023-000589": 1.0,
771
+ "E-9-2023-000617": 0.0,
772
+ "E-9-2023-000666": 1.0,
773
+ "E-9-2023-000773": 0.0,
774
+ "E-9-2023-000871": 1.0,
775
+ "E-9-2023-000918": 1.0,
776
+ "E-9-2023-000992": 0.5,
777
+ "E-9-2023-001006": 1.0,
778
+ "E-9-2023-001048": 1.0,
779
+ "E-9-2023-001148": 0.0,
780
+ "E-9-2023-001188": 1.0,
781
+ "E-9-2023-001237": 1.0,
782
+ "E-9-2023-001247": 1.0,
783
+ "E-9-2023-001280": 1.0,
784
+ "E-9-2023-001318": 0.3333333333333333,
785
+ "E-9-2023-001322": 1.0,
786
+ "E-9-2023-001346": 1.0,
787
+ "E-9-2023-001358": 1.0,
788
+ "E-9-2023-001426": 1.0,
789
+ "E-9-2023-001437": 1.0,
790
+ "E-9-2023-001454": 1.0,
791
+ "E-9-2023-001458": 0.0,
792
+ "E-9-2023-001491": 1.0,
793
+ "E-9-2023-001520": 1.0,
794
+ "E-9-2023-001538": 1.0,
795
+ "E-9-2023-001600": 1.0,
796
+ "E-9-2023-001611": 0.6666666666666666,
797
+ "E-9-2023-001615": 0.5,
798
+ "E-9-2023-001638": 0.6,
799
+ "E-9-2023-001685": 1.0,
800
+ "E-9-2023-001692": 1.0,
801
+ "E-9-2023-001758": 0.6666666666666666,
802
+ "E-9-2023-001819": 0.0,
803
+ "E-9-2023-001839": 0.0,
804
+ "E-9-2023-001846": 1.0,
805
+ "E-9-2023-001859": 0.0,
806
+ "E-9-2023-001877": 1.0,
807
+ "E-9-2023-001904": 0.25,
808
+ "E-9-2023-001982": 0.0,
809
+ "E-9-2023-002001": 1.0,
810
+ "E-9-2023-002033": 1.0,
811
+ "E-9-2023-002095": 0.0,
812
+ "E-9-2023-002103": 1.0,
813
+ "E-9-2023-002115": 1.0,
814
+ "E-9-2023-002178": 1.0,
815
+ "E-9-2023-002186": 1.0,
816
+ "E-9-2023-002240": 1.0,
817
+ "E-9-2023-002242": 1.0,
818
+ "E-9-2023-002281": 1.0,
819
+ "E-9-2023-002383": 0.5,
820
+ "E-9-2023-002395": 1.0,
821
+ "E-9-2023-002442": 1.0,
822
+ "E-9-2023-002479": 1.0,
823
+ "E-9-2023-002505": 1.0,
824
+ "E-9-2023-002509": 1.0,
825
+ "E-9-2023-002540": 1.0,
826
+ "E-9-2023-002584": 1.0,
827
+ "E-9-2023-002610": 1.0,
828
+ "E-9-2023-002625": 1.0,
829
+ "E-9-2023-002637": 1.0,
830
+ "E-9-2023-002640": 1.0,
831
+ "E-9-2023-002675": 1.0,
832
+ "E-9-2023-002683": 1.0,
833
+ "E-9-2023-002699": 1.0,
834
+ "E-9-2023-002743": 0.0,
835
+ "E-9-2023-002751": 0.0,
836
+ "E-9-2023-002758": 1.0,
837
+ "E-9-2023-002815": 1.0,
838
+ "E-9-2023-002816": 1.0,
839
+ "E-9-2023-002833": 1.0,
840
+ "E-9-2023-002883": 1.0,
841
+ "E-9-2023-002980": 1.0,
842
+ "E-9-2023-002994": 1.0,
843
+ "E-9-2023-003002": 1.0,
844
+ "E-9-2023-003022": 1.0,
845
+ "E-9-2023-003040": 1.0,
846
+ "E-9-2023-003117": 1.0,
847
+ "E-9-2023-003122": 1.0,
848
+ "E-9-2023-003167": 1.0,
849
+ "E-9-2023-003215": 0.5,
850
+ "E-9-2023-003326": 1.0,
851
+ "E-9-2023-003373": 0.0,
852
+ "E-9-2023-003386": 1.0,
853
+ "E-9-2023-003391": 1.0,
854
+ "E-9-2023-003404": 0.3333333333333333,
855
+ "E-9-2023-003408": 0.0,
856
+ "E-9-2023-003419": 1.0,
857
+ "E-9-2023-003430": 1.0,
858
+ "E-9-2023-003439": 0.0,
859
+ "E-9-2023-003453": 1.0,
860
+ "E-9-2023-003457": 0.0,
861
+ "E-9-2023-003492": 1.0,
862
+ "E-9-2023-003533": 1.0,
863
+ "E-9-2023-003602": 0.0,
864
+ "E-9-2023-003607": 1.0,
865
+ "E-9-2023-003675": 1.0,
866
+ "E-9-2023-003685": 1.0,
867
+ "E-9-2023-003728": 0.0,
868
+ "E-9-2023-003749": 1.0,
869
+ "E-9-2023-003754": 1.0,
870
+ "P-9-2022-000135": 1.0,
871
+ "P-9-2022-000661": 1.0,
872
+ "P-9-2022-001060": 1.0,
873
+ "P-9-2022-001119": 0.5,
874
+ "P-9-2022-001271": 0.5,
875
+ "P-9-2022-001337": 1.0,
876
+ "P-9-2022-001416": 1.0,
877
+ "P-9-2022-001521": 1.0,
878
+ "P-9-2022-001555": 1.0,
879
+ "P-9-2022-001666": 0.0,
880
+ "P-9-2022-002383": 0.0,
881
+ "P-9-2022-002535": 1.0,
882
+ "P-9-2022-002627": 1.0,
883
+ "P-9-2022-002830": 0.25,
884
+ "P-9-2022-002838": 0.5,
885
+ "P-9-2022-002863": 1.0,
886
+ "P-9-2022-003082": 1.0,
887
+ "P-9-2022-003461": 1.0,
888
+ "P-9-2022-003463": 1.0,
889
+ "P-9-2022-003675": 1.0,
890
+ "P-9-2023-000298": 1.0,
891
+ "P-9-2023-000633": 1.0,
892
+ "P-9-2023-000876": 0.5,
893
+ "P-9-2023-001138": 1.0,
894
+ "P-9-2023-001534": 0.0,
895
+ "P-9-2023-001841": 1.0,
896
+ "P-9-2023-002104": 1.0,
897
+ "P-9-2023-002410": 1.0,
898
+ "P-9-2023-002436": 1.0,
899
+ "P-9-2023-002485": 1.0,
900
+ "P-9-2023-002496": 1.0,
901
+ "P-9-2023-002514": 1.0,
902
+ "P-9-2023-002791": 1.0,
903
+ "P-9-2023-002805": 1.0,
904
+ "P-9-2023-002808": 1.0,
905
+ "P-9-2023-002868": 1.0,
906
+ "P-9-2023-003005": 1.0,
907
+ "P-9-2023-003064": 0.0,
908
+ "P-9-2023-003169": 0.0,
909
+ "P-9-2023-003268": 1.0,
910
+ "P-9-2023-003372": 0.0,
911
+ "P-9-2023-003471": 0.0,
912
+ "P-9-2023-003707": 1.0
913
+ },
914
+ "R@100": {
915
+ "E-9-2022-000040": 0.8,
916
+ "E-9-2022-000065": 1.0,
917
+ "E-9-2022-000104": 1.0,
918
+ "E-9-2022-000148": 0.5,
919
+ "E-9-2022-000167": 1.0,
920
+ "E-9-2022-000169": 1.0,
921
+ "E-9-2022-000230": 0.0,
922
+ "E-9-2022-000264": 1.0,
923
+ "E-9-2022-000285": 1.0,
924
+ "E-9-2022-000315": 1.0,
925
+ "E-9-2022-000350": 1.0,
926
+ "E-9-2022-000391": 1.0,
927
+ "E-9-2022-000392": 1.0,
928
+ "E-9-2022-000398": 0.3333333333333333,
929
+ "E-9-2022-000411": 0.0,
930
+ "E-9-2022-000423": 1.0,
931
+ "E-9-2022-000424": 1.0,
932
+ "E-9-2022-000447": 1.0,
933
+ "E-9-2022-000493": 0.4,
934
+ "E-9-2022-000495": 0.0,
935
+ "E-9-2022-000501": 1.0,
936
+ "E-9-2022-000502": 1.0,
937
+ "E-9-2022-000577": 1.0,
938
+ "E-9-2022-000578": 0.0,
939
+ "E-9-2022-000603": 1.0,
940
+ "E-9-2022-000608": 1.0,
941
+ "E-9-2022-000615": 1.0,
942
+ "E-9-2022-000639": 1.0,
943
+ "E-9-2022-000667": 0.0,
944
+ "E-9-2022-000689": 1.0,
945
+ "E-9-2022-000748": 1.0,
946
+ "E-9-2022-000783": 1.0,
947
+ "E-9-2022-000797": 1.0,
948
+ "E-9-2022-000985": 1.0,
949
+ "E-9-2022-001024": 1.0,
950
+ "E-9-2022-001030": 1.0,
951
+ "E-9-2022-001097": 0.0,
952
+ "E-9-2022-001100": 1.0,
953
+ "E-9-2022-001124": 1.0,
954
+ "E-9-2022-001161": 1.0,
955
+ "E-9-2022-001178": 1.0,
956
+ "E-9-2022-001181": 0.5,
957
+ "E-9-2022-001189": 1.0,
958
+ "E-9-2022-001205": 0.3333333333333333,
959
+ "E-9-2022-001235": 0.0,
960
+ "E-9-2022-001244": 1.0,
961
+ "E-9-2022-001246": 0.5,
962
+ "E-9-2022-001270": 1.0,
963
+ "E-9-2022-001284": 1.0,
964
+ "E-9-2022-001285": 1.0,
965
+ "E-9-2022-001290": 1.0,
966
+ "E-9-2022-001347": 1.0,
967
+ "E-9-2022-001358": 1.0,
968
+ "E-9-2022-001373": 1.0,
969
+ "E-9-2022-001381": 1.0,
970
+ "E-9-2022-001394": 1.0,
971
+ "E-9-2022-001402": 0.5,
972
+ "E-9-2022-001415": 1.0,
973
+ "E-9-2022-001425": 1.0,
974
+ "E-9-2022-001475": 0.3333333333333333,
975
+ "E-9-2022-001502": 1.0,
976
+ "E-9-2022-001507": 1.0,
977
+ "E-9-2022-001536": 1.0,
978
+ "E-9-2022-001543": 1.0,
979
+ "E-9-2022-001546": 1.0,
980
+ "E-9-2022-001558": 1.0,
981
+ "E-9-2022-001567": 1.0,
982
+ "E-9-2022-001571": 1.0,
983
+ "E-9-2022-001592": 1.0,
984
+ "E-9-2022-001726": 1.0,
985
+ "E-9-2022-001764": 1.0,
986
+ "E-9-2022-001816": 1.0,
987
+ "E-9-2022-001852": 1.0,
988
+ "E-9-2022-001955": 1.0,
989
+ "E-9-2022-001970": 1.0,
990
+ "E-9-2022-002064": 1.0,
991
+ "E-9-2022-002080": 1.0,
992
+ "E-9-2022-002101": 0.25,
993
+ "E-9-2022-002174": 0.5,
994
+ "E-9-2022-002205": 1.0,
995
+ "E-9-2022-002238": 1.0,
996
+ "E-9-2022-002266": 1.0,
997
+ "E-9-2022-002272": 0.5,
998
+ "E-9-2022-002299": 1.0,
999
+ "E-9-2022-002306": 0.0,
1000
+ "E-9-2022-002405": 0.5,
1001
+ "E-9-2022-002415": 1.0,
1002
+ "E-9-2022-002432": 1.0,
1003
+ "E-9-2022-002444": 1.0,
1004
+ "E-9-2022-002475": 1.0,
1005
+ "E-9-2022-002516": 1.0,
1006
+ "E-9-2022-002608": 1.0,
1007
+ "E-9-2022-002670": 1.0,
1008
+ "E-9-2022-002675": 1.0,
1009
+ "E-9-2022-002761": 1.0,
1010
+ "E-9-2022-002777": 1.0,
1011
+ "E-9-2022-002810": 1.0,
1012
+ "E-9-2022-002814": 1.0,
1013
+ "E-9-2022-002820": 1.0,
1014
+ "E-9-2022-002824": 0.6666666666666666,
1015
+ "E-9-2022-002831": 1.0,
1016
+ "E-9-2022-002928": 1.0,
1017
+ "E-9-2022-002946": 1.0,
1018
+ "E-9-2022-002989": 1.0,
1019
+ "E-9-2022-003065": 1.0,
1020
+ "E-9-2022-003071": 1.0,
1021
+ "E-9-2022-003111": 1.0,
1022
+ "E-9-2022-003127": 1.0,
1023
+ "E-9-2022-003155": 1.0,
1024
+ "E-9-2022-003215": 0.0,
1025
+ "E-9-2022-003265": 1.0,
1026
+ "E-9-2022-003290": 1.0,
1027
+ "E-9-2022-003293": 1.0,
1028
+ "E-9-2022-003299": 0.0,
1029
+ "E-9-2022-003343": 1.0,
1030
+ "E-9-2022-003374": 0.6666666666666666,
1031
+ "E-9-2022-003407": 1.0,
1032
+ "E-9-2022-003439": 1.0,
1033
+ "E-9-2022-003470": 1.0,
1034
+ "E-9-2022-003507": 1.0,
1035
+ "E-9-2022-003570": 1.0,
1036
+ "E-9-2022-003594": 1.0,
1037
+ "E-9-2022-003743": 1.0,
1038
+ "E-9-2022-003836": 1.0,
1039
+ "E-9-2022-003894": 1.0,
1040
+ "E-9-2022-003930": 1.0,
1041
+ "E-9-2022-004005": 1.0,
1042
+ "E-9-2022-004012": 1.0,
1043
+ "E-9-2022-004013": 1.0,
1044
+ "E-9-2022-004038": 1.0,
1045
+ "E-9-2022-004059": 1.0,
1046
+ "E-9-2022-004074": 1.0,
1047
+ "E-9-2022-004090": 1.0,
1048
+ "E-9-2022-004116": 1.0,
1049
+ "E-9-2022-004149": 0.0,
1050
+ "E-9-2023-000017": 0.2,
1051
+ "E-9-2023-000037": 1.0,
1052
+ "E-9-2023-000073": 0.6666666666666666,
1053
+ "E-9-2023-000105": 1.0,
1054
+ "E-9-2023-000108": 1.0,
1055
+ "E-9-2023-000113": 1.0,
1056
+ "E-9-2023-000141": 1.0,
1057
+ "E-9-2023-000166": 0.0,
1058
+ "E-9-2023-000172": 1.0,
1059
+ "E-9-2023-000221": 0.0,
1060
+ "E-9-2023-000238": 1.0,
1061
+ "E-9-2023-000282": 1.0,
1062
+ "E-9-2023-000331": 1.0,
1063
+ "E-9-2023-000360": 1.0,
1064
+ "E-9-2023-000476": 1.0,
1065
+ "E-9-2023-000511": 0.0,
1066
+ "E-9-2023-000526": 1.0,
1067
+ "E-9-2023-000529": 0.0,
1068
+ "E-9-2023-000533": 1.0,
1069
+ "E-9-2023-000550": 1.0,
1070
+ "E-9-2023-000553": 1.0,
1071
+ "E-9-2023-000589": 1.0,
1072
+ "E-9-2023-000617": 0.0,
1073
+ "E-9-2023-000666": 1.0,
1074
+ "E-9-2023-000773": 1.0,
1075
+ "E-9-2023-000871": 1.0,
1076
+ "E-9-2023-000918": 1.0,
1077
+ "E-9-2023-000992": 1.0,
1078
+ "E-9-2023-001006": 1.0,
1079
+ "E-9-2023-001048": 1.0,
1080
+ "E-9-2023-001148": 1.0,
1081
+ "E-9-2023-001188": 1.0,
1082
+ "E-9-2023-001237": 1.0,
1083
+ "E-9-2023-001247": 1.0,
1084
+ "E-9-2023-001280": 1.0,
1085
+ "E-9-2023-001318": 0.6666666666666666,
1086
+ "E-9-2023-001322": 1.0,
1087
+ "E-9-2023-001346": 1.0,
1088
+ "E-9-2023-001358": 1.0,
1089
+ "E-9-2023-001426": 1.0,
1090
+ "E-9-2023-001437": 1.0,
1091
+ "E-9-2023-001454": 1.0,
1092
+ "E-9-2023-001458": 0.0,
1093
+ "E-9-2023-001491": 1.0,
1094
+ "E-9-2023-001520": 1.0,
1095
+ "E-9-2023-001538": 1.0,
1096
+ "E-9-2023-001600": 1.0,
1097
+ "E-9-2023-001611": 1.0,
1098
+ "E-9-2023-001615": 0.5,
1099
+ "E-9-2023-001638": 0.6,
1100
+ "E-9-2023-001685": 1.0,
1101
+ "E-9-2023-001692": 1.0,
1102
+ "E-9-2023-001758": 1.0,
1103
+ "E-9-2023-001819": 0.0,
1104
+ "E-9-2023-001839": 1.0,
1105
+ "E-9-2023-001846": 1.0,
1106
+ "E-9-2023-001859": 0.0,
1107
+ "E-9-2023-001877": 1.0,
1108
+ "E-9-2023-001904": 1.0,
1109
+ "E-9-2023-001982": 1.0,
1110
+ "E-9-2023-002001": 1.0,
1111
+ "E-9-2023-002033": 1.0,
1112
+ "E-9-2023-002095": 0.0,
1113
+ "E-9-2023-002103": 1.0,
1114
+ "E-9-2023-002115": 1.0,
1115
+ "E-9-2023-002178": 1.0,
1116
+ "E-9-2023-002186": 1.0,
1117
+ "E-9-2023-002240": 1.0,
1118
+ "E-9-2023-002242": 1.0,
1119
+ "E-9-2023-002281": 1.0,
1120
+ "E-9-2023-002383": 1.0,
1121
+ "E-9-2023-002395": 1.0,
1122
+ "E-9-2023-002442": 1.0,
1123
+ "E-9-2023-002479": 1.0,
1124
+ "E-9-2023-002505": 1.0,
1125
+ "E-9-2023-002509": 1.0,
1126
+ "E-9-2023-002540": 1.0,
1127
+ "E-9-2023-002584": 1.0,
1128
+ "E-9-2023-002610": 1.0,
1129
+ "E-9-2023-002625": 1.0,
1130
+ "E-9-2023-002637": 1.0,
1131
+ "E-9-2023-002640": 1.0,
1132
+ "E-9-2023-002675": 1.0,
1133
+ "E-9-2023-002683": 1.0,
1134
+ "E-9-2023-002699": 1.0,
1135
+ "E-9-2023-002743": 1.0,
1136
+ "E-9-2023-002751": 0.0,
1137
+ "E-9-2023-002758": 1.0,
1138
+ "E-9-2023-002815": 1.0,
1139
+ "E-9-2023-002816": 1.0,
1140
+ "E-9-2023-002833": 1.0,
1141
+ "E-9-2023-002883": 1.0,
1142
+ "E-9-2023-002980": 1.0,
1143
+ "E-9-2023-002994": 1.0,
1144
+ "E-9-2023-003002": 1.0,
1145
+ "E-9-2023-003022": 1.0,
1146
+ "E-9-2023-003040": 1.0,
1147
+ "E-9-2023-003117": 1.0,
1148
+ "E-9-2023-003122": 1.0,
1149
+ "E-9-2023-003167": 1.0,
1150
+ "E-9-2023-003215": 0.75,
1151
+ "E-9-2023-003326": 1.0,
1152
+ "E-9-2023-003373": 1.0,
1153
+ "E-9-2023-003386": 1.0,
1154
+ "E-9-2023-003391": 1.0,
1155
+ "E-9-2023-003404": 1.0,
1156
+ "E-9-2023-003408": 0.0,
1157
+ "E-9-2023-003419": 1.0,
1158
+ "E-9-2023-003430": 1.0,
1159
+ "E-9-2023-003439": 0.0,
1160
+ "E-9-2023-003453": 1.0,
1161
+ "E-9-2023-003457": 1.0,
1162
+ "E-9-2023-003492": 1.0,
1163
+ "E-9-2023-003533": 1.0,
1164
+ "E-9-2023-003602": 1.0,
1165
+ "E-9-2023-003607": 1.0,
1166
+ "E-9-2023-003675": 1.0,
1167
+ "E-9-2023-003685": 1.0,
1168
+ "E-9-2023-003728": 0.0,
1169
+ "E-9-2023-003749": 1.0,
1170
+ "E-9-2023-003754": 1.0,
1171
+ "P-9-2022-000135": 1.0,
1172
+ "P-9-2022-000661": 1.0,
1173
+ "P-9-2022-001060": 1.0,
1174
+ "P-9-2022-001119": 1.0,
1175
+ "P-9-2022-001271": 0.5,
1176
+ "P-9-2022-001337": 1.0,
1177
+ "P-9-2022-001416": 1.0,
1178
+ "P-9-2022-001521": 1.0,
1179
+ "P-9-2022-001555": 1.0,
1180
+ "P-9-2022-001666": 0.0,
1181
+ "P-9-2022-002383": 0.0,
1182
+ "P-9-2022-002535": 1.0,
1183
+ "P-9-2022-002627": 1.0,
1184
+ "P-9-2022-002830": 0.25,
1185
+ "P-9-2022-002838": 0.5,
1186
+ "P-9-2022-002863": 1.0,
1187
+ "P-9-2022-003082": 1.0,
1188
+ "P-9-2022-003461": 1.0,
1189
+ "P-9-2022-003463": 1.0,
1190
+ "P-9-2022-003675": 1.0,
1191
+ "P-9-2023-000298": 1.0,
1192
+ "P-9-2023-000633": 1.0,
1193
+ "P-9-2023-000876": 1.0,
1194
+ "P-9-2023-001138": 1.0,
1195
+ "P-9-2023-001534": 0.0,
1196
+ "P-9-2023-001841": 1.0,
1197
+ "P-9-2023-002104": 1.0,
1198
+ "P-9-2023-002410": 1.0,
1199
+ "P-9-2023-002436": 1.0,
1200
+ "P-9-2023-002485": 1.0,
1201
+ "P-9-2023-002496": 1.0,
1202
+ "P-9-2023-002514": 1.0,
1203
+ "P-9-2023-002791": 1.0,
1204
+ "P-9-2023-002805": 1.0,
1205
+ "P-9-2023-002808": 1.0,
1206
+ "P-9-2023-002868": 1.0,
1207
+ "P-9-2023-003005": 1.0,
1208
+ "P-9-2023-003064": 0.0,
1209
+ "P-9-2023-003169": 0.0,
1210
+ "P-9-2023-003268": 1.0,
1211
+ "P-9-2023-003372": 1.0,
1212
+ "P-9-2023-003471": 0.5,
1213
+ "P-9-2023-003707": 1.0
1214
+ },
1215
+ "nDCG@10": {
1216
+ "E-9-2022-000040": 0.14606834984270645,
1217
+ "E-9-2022-000065": 0.0,
1218
+ "E-9-2022-000104": 1.0,
1219
+ "E-9-2022-000148": 0.0,
1220
+ "E-9-2022-000167": 1.0,
1221
+ "E-9-2022-000169": 0.38685280723454163,
1222
+ "E-9-2022-000230": 0.0,
1223
+ "E-9-2022-000264": 0.4144299250118475,
1224
+ "E-9-2022-000285": 0.15642624200758548,
1225
+ "E-9-2022-000315": 0.5085097626218706,
1226
+ "E-9-2022-000350": 0.0,
1227
+ "E-9-2022-000391": 0.3333333333333333,
1228
+ "E-9-2022-000392": 0.43067655807339306,
1229
+ "E-9-2022-000398": 0.0,
1230
+ "E-9-2022-000411": 0.0,
1231
+ "E-9-2022-000423": 0.0,
1232
+ "E-9-2022-000424": 0.34519134224686937,
1233
+ "E-9-2022-000447": 0.6309297535714575,
1234
+ "E-9-2022-000493": 0.0,
1235
+ "E-9-2022-000495": 0.0,
1236
+ "E-9-2022-000501": 0.4525081529734507,
1237
+ "E-9-2022-000502": 0.6309297535714575,
1238
+ "E-9-2022-000577": 0.5,
1239
+ "E-9-2022-000578": 0.0,
1240
+ "E-9-2022-000603": 0.38685280723454163,
1241
+ "E-9-2022-000608": 0.6309297535714575,
1242
+ "E-9-2022-000615": 0.0,
1243
+ "E-9-2022-000639": 0.8539316501572937,
1244
+ "E-9-2022-000667": 0.0,
1245
+ "E-9-2022-000689": 0.5,
1246
+ "E-9-2022-000748": 0.0,
1247
+ "E-9-2022-000783": 1.0,
1248
+ "E-9-2022-000797": 0.5,
1249
+ "E-9-2022-000985": 1.0,
1250
+ "E-9-2022-001024": 0.3010299956639812,
1251
+ "E-9-2022-001030": 0.23719771276929622,
1252
+ "E-9-2022-001097": 0.0,
1253
+ "E-9-2022-001100": 1.0,
1254
+ "E-9-2022-001124": 1.0,
1255
+ "E-9-2022-001161": 0.38685280723454163,
1256
+ "E-9-2022-001178": 0.6309297535714575,
1257
+ "E-9-2022-001181": 0.5585075862632192,
1258
+ "E-9-2022-001189": 1.0,
1259
+ "E-9-2022-001205": 0.0,
1260
+ "E-9-2022-001235": 0.0,
1261
+ "E-9-2022-001244": 0.3562071871080222,
1262
+ "E-9-2022-001246": 0.0,
1263
+ "E-9-2022-001270": 1.0,
1264
+ "E-9-2022-001284": 0.6309297535714575,
1265
+ "E-9-2022-001285": 0.3065735963827292,
1266
+ "E-9-2022-001290": 0.18457569677956817,
1267
+ "E-9-2022-001347": 0.5437713091520254,
1268
+ "E-9-2022-001358": 1.0,
1269
+ "E-9-2022-001373": 0.0,
1270
+ "E-9-2022-001381": 1.0,
1271
+ "E-9-2022-001394": 1.0,
1272
+ "E-9-2022-001402": 0.3065735963827292,
1273
+ "E-9-2022-001415": 0.23719771276929622,
1274
+ "E-9-2022-001425": 0.43067655807339306,
1275
+ "E-9-2022-001475": 0.0,
1276
+ "E-9-2022-001502": 1.0,
1277
+ "E-9-2022-001507": 0.0,
1278
+ "E-9-2022-001536": 0.5,
1279
+ "E-9-2022-001543": 0.0,
1280
+ "E-9-2022-001546": 0.6131471927654584,
1281
+ "E-9-2022-001558": 0.0,
1282
+ "E-9-2022-001567": 1.0,
1283
+ "E-9-2022-001571": 1.0,
1284
+ "E-9-2022-001592": 0.43067655807339306,
1285
+ "E-9-2022-001726": 0.0,
1286
+ "E-9-2022-001764": 1.0,
1287
+ "E-9-2022-001816": 1.0,
1288
+ "E-9-2022-001852": 0.5706417189553201,
1289
+ "E-9-2022-001955": 0.3010299956639812,
1290
+ "E-9-2022-001970": 1.0,
1291
+ "E-9-2022-002064": 0.6309297535714575,
1292
+ "E-9-2022-002080": 1.0,
1293
+ "E-9-2022-002101": 0.0,
1294
+ "E-9-2022-002174": 0.6131471927654584,
1295
+ "E-9-2022-002205": 1.0,
1296
+ "E-9-2022-002238": 0.0,
1297
+ "E-9-2022-002266": 0.0,
1298
+ "E-9-2022-002272": 0.0,
1299
+ "E-9-2022-002299": 1.0,
1300
+ "E-9-2022-002306": 0.0,
1301
+ "E-9-2022-002405": 0.6131471927654584,
1302
+ "E-9-2022-002415": 0.34620964322385606,
1303
+ "E-9-2022-002432": 0.43067655807339306,
1304
+ "E-9-2022-002444": 1.0,
1305
+ "E-9-2022-002475": 0.38685280723454163,
1306
+ "E-9-2022-002516": 0.38685280723454163,
1307
+ "E-9-2022-002608": 0.31546487678572877,
1308
+ "E-9-2022-002670": 1.0,
1309
+ "E-9-2022-002675": 0.8772153153380493,
1310
+ "E-9-2022-002761": 0.46927872602275644,
1311
+ "E-9-2022-002777": 1.0,
1312
+ "E-9-2022-002810": 0.23463936301137822,
1313
+ "E-9-2022-002814": 0.2890648263178879,
1314
+ "E-9-2022-002820": 0.0,
1315
+ "E-9-2022-002824": 0.0,
1316
+ "E-9-2022-002831": 0.0,
1317
+ "E-9-2022-002928": 0.0,
1318
+ "E-9-2022-002946": 1.0,
1319
+ "E-9-2022-002989": 0.0,
1320
+ "E-9-2022-003065": 0.0,
1321
+ "E-9-2022-003071": 0.3562071871080222,
1322
+ "E-9-2022-003111": 0.5,
1323
+ "E-9-2022-003127": 0.0,
1324
+ "E-9-2022-003155": 0.3010299956639812,
1325
+ "E-9-2022-003215": 0.0,
1326
+ "E-9-2022-003265": 0.8175295903539445,
1327
+ "E-9-2022-003290": 1.0,
1328
+ "E-9-2022-003293": 0.0,
1329
+ "E-9-2022-003299": 0.0,
1330
+ "E-9-2022-003343": 1.0,
1331
+ "E-9-2022-003374": 0.46927872602275644,
1332
+ "E-9-2022-003407": 0.38685280723454163,
1333
+ "E-9-2022-003439": 1.0,
1334
+ "E-9-2022-003470": 0.6131471927654584,
1335
+ "E-9-2022-003507": 0.3010299956639812,
1336
+ "E-9-2022-003570": 0.0,
1337
+ "E-9-2022-003594": 1.0,
1338
+ "E-9-2022-003743": 0.5,
1339
+ "E-9-2022-003836": 0.43067655807339306,
1340
+ "E-9-2022-003894": 1.0,
1341
+ "E-9-2022-003930": 1.0,
1342
+ "E-9-2022-004005": 0.0,
1343
+ "E-9-2022-004012": 1.0,
1344
+ "E-9-2022-004013": 0.6309297535714575,
1345
+ "E-9-2022-004038": 0.43067655807339306,
1346
+ "E-9-2022-004059": 0.38685280723454163,
1347
+ "E-9-2022-004074": 0.5,
1348
+ "E-9-2022-004090": 0.43067655807339306,
1349
+ "E-9-2022-004116": 0.3010299956639812,
1350
+ "E-9-2022-004149": 0.0,
1351
+ "E-9-2023-000017": 0.0,
1352
+ "E-9-2023-000037": 0.38685280723454163,
1353
+ "E-9-2023-000073": 0.14126697285982898,
1354
+ "E-9-2023-000105": 1.0,
1355
+ "E-9-2023-000108": 0.6309297535714575,
1356
+ "E-9-2023-000113": 0.0,
1357
+ "E-9-2023-000141": 0.5,
1358
+ "E-9-2023-000166": 0.0,
1359
+ "E-9-2023-000172": 1.0,
1360
+ "E-9-2023-000221": 0.0,
1361
+ "E-9-2023-000238": 0.0,
1362
+ "E-9-2023-000282": 1.0,
1363
+ "E-9-2023-000331": 0.0,
1364
+ "E-9-2023-000360": 0.0,
1365
+ "E-9-2023-000476": 0.5,
1366
+ "E-9-2023-000511": 0.0,
1367
+ "E-9-2023-000526": 0.6309297535714575,
1368
+ "E-9-2023-000529": 0.0,
1369
+ "E-9-2023-000533": 0.2640681225725909,
1370
+ "E-9-2023-000550": 0.0,
1371
+ "E-9-2023-000553": 1.0,
1372
+ "E-9-2023-000589": 1.0,
1373
+ "E-9-2023-000617": 0.0,
1374
+ "E-9-2023-000666": 0.43067655807339306,
1375
+ "E-9-2023-000773": 0.0,
1376
+ "E-9-2023-000871": 1.0,
1377
+ "E-9-2023-000918": 0.43067655807339306,
1378
+ "E-9-2023-000992": 0.38685280723454163,
1379
+ "E-9-2023-001006": 1.0,
1380
+ "E-9-2023-001048": 0.6309297535714575,
1381
+ "E-9-2023-001148": 0.0,
1382
+ "E-9-2023-001188": 0.3333333333333333,
1383
+ "E-9-2023-001237": 1.0,
1384
+ "E-9-2023-001247": 1.0,
1385
+ "E-9-2023-001280": 0.9197207891481876,
1386
+ "E-9-2023-001318": 0.0,
1387
+ "E-9-2023-001322": 0.0,
1388
+ "E-9-2023-001346": 1.0,
1389
+ "E-9-2023-001358": 0.20438239758848611,
1390
+ "E-9-2023-001426": 1.0,
1391
+ "E-9-2023-001437": 0.8772153153380493,
1392
+ "E-9-2023-001454": 1.0,
1393
+ "E-9-2023-001458": 0.0,
1394
+ "E-9-2023-001491": 0.43067655807339306,
1395
+ "E-9-2023-001520": 0.31546487678572877,
1396
+ "E-9-2023-001538": 1.0,
1397
+ "E-9-2023-001600": 0.0,
1398
+ "E-9-2023-001611": 0.16716045496620227,
1399
+ "E-9-2023-001615": 0.6131471927654584,
1400
+ "E-9-2023-001638": 0.5724626779088695,
1401
+ "E-9-2023-001685": 1.0,
1402
+ "E-9-2023-001692": 0.43067655807339306,
1403
+ "E-9-2023-001758": 0.7039180890341347,
1404
+ "E-9-2023-001819": 0.0,
1405
+ "E-9-2023-001839": 0.0,
1406
+ "E-9-2023-001846": 0.8529278650606567,
1407
+ "E-9-2023-001859": 0.0,
1408
+ "E-9-2023-001877": 0.6309297535714575,
1409
+ "E-9-2023-001904": 0.15101961822780524,
1410
+ "E-9-2023-001982": 0.0,
1411
+ "E-9-2023-002001": 1.0,
1412
+ "E-9-2023-002033": 0.0,
1413
+ "E-9-2023-002095": 0.0,
1414
+ "E-9-2023-002103": 1.0,
1415
+ "E-9-2023-002115": 1.0,
1416
+ "E-9-2023-002178": 1.0,
1417
+ "E-9-2023-002186": 1.0,
1418
+ "E-9-2023-002240": 0.6309297535714575,
1419
+ "E-9-2023-002242": 1.0,
1420
+ "E-9-2023-002281": 0.38685280723454163,
1421
+ "E-9-2023-002383": 0.0,
1422
+ "E-9-2023-002395": 1.0,
1423
+ "E-9-2023-002442": 0.0,
1424
+ "E-9-2023-002479": 0.43067655807339306,
1425
+ "E-9-2023-002505": 0.43067655807339306,
1426
+ "E-9-2023-002509": 1.0,
1427
+ "E-9-2023-002540": 0.0,
1428
+ "E-9-2023-002584": 0.3333333333333333,
1429
+ "E-9-2023-002610": 1.0,
1430
+ "E-9-2023-002625": 0.43067655807339306,
1431
+ "E-9-2023-002637": 1.0,
1432
+ "E-9-2023-002640": 1.0,
1433
+ "E-9-2023-002675": 0.0,
1434
+ "E-9-2023-002683": 1.0,
1435
+ "E-9-2023-002699": 1.0,
1436
+ "E-9-2023-002743": 0.0,
1437
+ "E-9-2023-002751": 0.0,
1438
+ "E-9-2023-002758": 0.6309297535714575,
1439
+ "E-9-2023-002815": 0.0,
1440
+ "E-9-2023-002816": 0.2890648263178879,
1441
+ "E-9-2023-002833": 1.0,
1442
+ "E-9-2023-002883": 0.5109559939712153,
1443
+ "E-9-2023-002980": 1.0,
1444
+ "E-9-2023-002994": 1.0,
1445
+ "E-9-2023-003002": 0.5,
1446
+ "E-9-2023-003022": 0.6309297535714575,
1447
+ "E-9-2023-003040": 1.0,
1448
+ "E-9-2023-003117": 0.38364913903790027,
1449
+ "E-9-2023-003122": 0.0,
1450
+ "E-9-2023-003167": 0.3562071871080222,
1451
+ "E-9-2023-003215": 0.11751610475642714,
1452
+ "E-9-2023-003326": 1.0,
1453
+ "E-9-2023-003373": 0.0,
1454
+ "E-9-2023-003386": 1.0,
1455
+ "E-9-2023-003391": 1.0,
1456
+ "E-9-2023-003404": 0.16716045496620227,
1457
+ "E-9-2023-003408": 0.0,
1458
+ "E-9-2023-003419": 1.0,
1459
+ "E-9-2023-003430": 1.0,
1460
+ "E-9-2023-003439": 0.0,
1461
+ "E-9-2023-003453": 1.0,
1462
+ "E-9-2023-003457": 0.0,
1463
+ "E-9-2023-003492": 1.0,
1464
+ "E-9-2023-003533": 0.8065735963827293,
1465
+ "E-9-2023-003602": 0.0,
1466
+ "E-9-2023-003607": 0.6309297535714575,
1467
+ "E-9-2023-003675": 0.21840743681816419,
1468
+ "E-9-2023-003685": 0.38685280723454163,
1469
+ "E-9-2023-003728": 0.0,
1470
+ "E-9-2023-003749": 1.0,
1471
+ "E-9-2023-003754": 0.0,
1472
+ "P-9-2022-000135": 0.0,
1473
+ "P-9-2022-000661": 0.0,
1474
+ "P-9-2022-001060": 0.6934264036172708,
1475
+ "P-9-2022-001119": 0.21840743681816419,
1476
+ "P-9-2022-001271": 0.4144299250118475,
1477
+ "P-9-2022-001337": 1.0,
1478
+ "P-9-2022-001416": 0.31546487678572877,
1479
+ "P-9-2022-001521": 0.6309297535714575,
1480
+ "P-9-2022-001555": 0.6309297535714575,
1481
+ "P-9-2022-001666": 0.0,
1482
+ "P-9-2022-002383": 0.0,
1483
+ "P-9-2022-002535": 0.3562071871080222,
1484
+ "P-9-2022-002627": 0.6309297535714575,
1485
+ "P-9-2022-002830": 0.19519002499605084,
1486
+ "P-9-2022-002838": 0.6366824387328317,
1487
+ "P-9-2022-002863": 0.0,
1488
+ "P-9-2022-003082": 1.0,
1489
+ "P-9-2022-003461": 1.0,
1490
+ "P-9-2022-003463": 0.0,
1491
+ "P-9-2022-003675": 1.0,
1492
+ "P-9-2023-000298": 0.2890648263178879,
1493
+ "P-9-2023-000633": 1.0,
1494
+ "P-9-2023-000876": 0.2640681225725909,
1495
+ "P-9-2023-001138": 0.5,
1496
+ "P-9-2023-001534": 0.0,
1497
+ "P-9-2023-001841": 1.0,
1498
+ "P-9-2023-002104": 1.0,
1499
+ "P-9-2023-002410": 0.6240505200038379,
1500
+ "P-9-2023-002436": 1.0,
1501
+ "P-9-2023-002485": 1.0,
1502
+ "P-9-2023-002496": 0.3010299956639812,
1503
+ "P-9-2023-002514": 0.3010299956639812,
1504
+ "P-9-2023-002791": 1.0,
1505
+ "P-9-2023-002805": 1.0,
1506
+ "P-9-2023-002808": 1.0,
1507
+ "P-9-2023-002868": 1.0,
1508
+ "P-9-2023-003005": 0.7653606369886217,
1509
+ "P-9-2023-003064": 0.0,
1510
+ "P-9-2023-003169": 0.0,
1511
+ "P-9-2023-003268": 0.5,
1512
+ "P-9-2023-003372": 0.0,
1513
+ "P-9-2023-003471": 0.0,
1514
+ "P-9-2023-003707": 1.0
1515
+ },
1516
+ "Success@1": {
1517
+ "E-9-2022-000040": 0.0,
1518
+ "E-9-2022-000065": 0.0,
1519
+ "E-9-2022-000104": 1.0,
1520
+ "E-9-2022-000148": 0.0,
1521
+ "E-9-2022-000167": 1.0,
1522
+ "E-9-2022-000169": 0.0,
1523
+ "E-9-2022-000230": 0.0,
1524
+ "E-9-2022-000264": 0.0,
1525
+ "E-9-2022-000285": 0.0,
1526
+ "E-9-2022-000315": 0.0,
1527
+ "E-9-2022-000350": 0.0,
1528
+ "E-9-2022-000391": 0.0,
1529
+ "E-9-2022-000392": 0.0,
1530
+ "E-9-2022-000398": 0.0,
1531
+ "E-9-2022-000411": 0.0,
1532
+ "E-9-2022-000423": 0.0,
1533
+ "E-9-2022-000424": 0.0,
1534
+ "E-9-2022-000447": 0.0,
1535
+ "E-9-2022-000493": 0.0,
1536
+ "E-9-2022-000495": 0.0,
1537
+ "E-9-2022-000501": 0.0,
1538
+ "E-9-2022-000502": 0.0,
1539
+ "E-9-2022-000577": 0.0,
1540
+ "E-9-2022-000578": 0.0,
1541
+ "E-9-2022-000603": 0.0,
1542
+ "E-9-2022-000608": 0.0,
1543
+ "E-9-2022-000615": 0.0,
1544
+ "E-9-2022-000639": 1.0,
1545
+ "E-9-2022-000667": 0.0,
1546
+ "E-9-2022-000689": 0.0,
1547
+ "E-9-2022-000748": 0.0,
1548
+ "E-9-2022-000783": 1.0,
1549
+ "E-9-2022-000797": 0.0,
1550
+ "E-9-2022-000985": 1.0,
1551
+ "E-9-2022-001024": 0.0,
1552
+ "E-9-2022-001030": 0.0,
1553
+ "E-9-2022-001097": 0.0,
1554
+ "E-9-2022-001100": 1.0,
1555
+ "E-9-2022-001124": 1.0,
1556
+ "E-9-2022-001161": 0.0,
1557
+ "E-9-2022-001178": 0.0,
1558
+ "E-9-2022-001181": 1.0,
1559
+ "E-9-2022-001189": 1.0,
1560
+ "E-9-2022-001205": 0.0,
1561
+ "E-9-2022-001235": 0.0,
1562
+ "E-9-2022-001244": 0.0,
1563
+ "E-9-2022-001246": 0.0,
1564
+ "E-9-2022-001270": 1.0,
1565
+ "E-9-2022-001284": 0.0,
1566
+ "E-9-2022-001285": 0.0,
1567
+ "E-9-2022-001290": 0.0,
1568
+ "E-9-2022-001347": 0.0,
1569
+ "E-9-2022-001358": 1.0,
1570
+ "E-9-2022-001373": 0.0,
1571
+ "E-9-2022-001381": 1.0,
1572
+ "E-9-2022-001394": 1.0,
1573
+ "E-9-2022-001402": 0.0,
1574
+ "E-9-2022-001415": 0.0,
1575
+ "E-9-2022-001425": 0.0,
1576
+ "E-9-2022-001475": 0.0,
1577
+ "E-9-2022-001502": 1.0,
1578
+ "E-9-2022-001507": 0.0,
1579
+ "E-9-2022-001536": 0.0,
1580
+ "E-9-2022-001543": 0.0,
1581
+ "E-9-2022-001546": 1.0,
1582
+ "E-9-2022-001558": 0.0,
1583
+ "E-9-2022-001567": 1.0,
1584
+ "E-9-2022-001571": 1.0,
1585
+ "E-9-2022-001592": 0.0,
1586
+ "E-9-2022-001726": 0.0,
1587
+ "E-9-2022-001764": 1.0,
1588
+ "E-9-2022-001816": 1.0,
1589
+ "E-9-2022-001852": 0.0,
1590
+ "E-9-2022-001955": 0.0,
1591
+ "E-9-2022-001970": 1.0,
1592
+ "E-9-2022-002064": 0.0,
1593
+ "E-9-2022-002080": 1.0,
1594
+ "E-9-2022-002101": 0.0,
1595
+ "E-9-2022-002174": 1.0,
1596
+ "E-9-2022-002205": 1.0,
1597
+ "E-9-2022-002238": 0.0,
1598
+ "E-9-2022-002266": 0.0,
1599
+ "E-9-2022-002272": 0.0,
1600
+ "E-9-2022-002299": 1.0,
1601
+ "E-9-2022-002306": 0.0,
1602
+ "E-9-2022-002405": 1.0,
1603
+ "E-9-2022-002415": 0.0,
1604
+ "E-9-2022-002432": 0.0,
1605
+ "E-9-2022-002444": 1.0,
1606
+ "E-9-2022-002475": 0.0,
1607
+ "E-9-2022-002516": 0.0,
1608
+ "E-9-2022-002608": 0.0,
1609
+ "E-9-2022-002670": 1.0,
1610
+ "E-9-2022-002675": 1.0,
1611
+ "E-9-2022-002761": 1.0,
1612
+ "E-9-2022-002777": 1.0,
1613
+ "E-9-2022-002810": 0.0,
1614
+ "E-9-2022-002814": 0.0,
1615
+ "E-9-2022-002820": 0.0,
1616
+ "E-9-2022-002824": 0.0,
1617
+ "E-9-2022-002831": 0.0,
1618
+ "E-9-2022-002928": 0.0,
1619
+ "E-9-2022-002946": 1.0,
1620
+ "E-9-2022-002989": 0.0,
1621
+ "E-9-2022-003065": 0.0,
1622
+ "E-9-2022-003071": 0.0,
1623
+ "E-9-2022-003111": 0.0,
1624
+ "E-9-2022-003127": 0.0,
1625
+ "E-9-2022-003155": 0.0,
1626
+ "E-9-2022-003215": 0.0,
1627
+ "E-9-2022-003265": 1.0,
1628
+ "E-9-2022-003290": 1.0,
1629
+ "E-9-2022-003293": 0.0,
1630
+ "E-9-2022-003299": 0.0,
1631
+ "E-9-2022-003343": 1.0,
1632
+ "E-9-2022-003374": 1.0,
1633
+ "E-9-2022-003407": 0.0,
1634
+ "E-9-2022-003439": 1.0,
1635
+ "E-9-2022-003470": 1.0,
1636
+ "E-9-2022-003507": 0.0,
1637
+ "E-9-2022-003570": 0.0,
1638
+ "E-9-2022-003594": 1.0,
1639
+ "E-9-2022-003743": 0.0,
1640
+ "E-9-2022-003836": 0.0,
1641
+ "E-9-2022-003894": 1.0,
1642
+ "E-9-2022-003930": 1.0,
1643
+ "E-9-2022-004005": 0.0,
1644
+ "E-9-2022-004012": 1.0,
1645
+ "E-9-2022-004013": 0.0,
1646
+ "E-9-2022-004038": 0.0,
1647
+ "E-9-2022-004059": 0.0,
1648
+ "E-9-2022-004074": 0.0,
1649
+ "E-9-2022-004090": 0.0,
1650
+ "E-9-2022-004116": 0.0,
1651
+ "E-9-2022-004149": 0.0,
1652
+ "E-9-2023-000017": 0.0,
1653
+ "E-9-2023-000037": 0.0,
1654
+ "E-9-2023-000073": 0.0,
1655
+ "E-9-2023-000105": 1.0,
1656
+ "E-9-2023-000108": 0.0,
1657
+ "E-9-2023-000113": 0.0,
1658
+ "E-9-2023-000141": 0.0,
1659
+ "E-9-2023-000166": 0.0,
1660
+ "E-9-2023-000172": 1.0,
1661
+ "E-9-2023-000221": 0.0,
1662
+ "E-9-2023-000238": 0.0,
1663
+ "E-9-2023-000282": 1.0,
1664
+ "E-9-2023-000331": 0.0,
1665
+ "E-9-2023-000360": 0.0,
1666
+ "E-9-2023-000476": 0.0,
1667
+ "E-9-2023-000511": 0.0,
1668
+ "E-9-2023-000526": 0.0,
1669
+ "E-9-2023-000529": 0.0,
1670
+ "E-9-2023-000533": 0.0,
1671
+ "E-9-2023-000550": 0.0,
1672
+ "E-9-2023-000553": 1.0,
1673
+ "E-9-2023-000589": 1.0,
1674
+ "E-9-2023-000617": 0.0,
1675
+ "E-9-2023-000666": 0.0,
1676
+ "E-9-2023-000773": 0.0,
1677
+ "E-9-2023-000871": 1.0,
1678
+ "E-9-2023-000918": 0.0,
1679
+ "E-9-2023-000992": 0.0,
1680
+ "E-9-2023-001006": 1.0,
1681
+ "E-9-2023-001048": 0.0,
1682
+ "E-9-2023-001148": 0.0,
1683
+ "E-9-2023-001188": 0.0,
1684
+ "E-9-2023-001237": 1.0,
1685
+ "E-9-2023-001247": 1.0,
1686
+ "E-9-2023-001280": 1.0,
1687
+ "E-9-2023-001318": 0.0,
1688
+ "E-9-2023-001322": 0.0,
1689
+ "E-9-2023-001346": 1.0,
1690
+ "E-9-2023-001358": 0.0,
1691
+ "E-9-2023-001426": 1.0,
1692
+ "E-9-2023-001437": 1.0,
1693
+ "E-9-2023-001454": 1.0,
1694
+ "E-9-2023-001458": 0.0,
1695
+ "E-9-2023-001491": 0.0,
1696
+ "E-9-2023-001520": 0.0,
1697
+ "E-9-2023-001538": 1.0,
1698
+ "E-9-2023-001600": 0.0,
1699
+ "E-9-2023-001611": 0.0,
1700
+ "E-9-2023-001615": 1.0,
1701
+ "E-9-2023-001638": 1.0,
1702
+ "E-9-2023-001685": 1.0,
1703
+ "E-9-2023-001692": 0.0,
1704
+ "E-9-2023-001758": 1.0,
1705
+ "E-9-2023-001819": 0.0,
1706
+ "E-9-2023-001839": 0.0,
1707
+ "E-9-2023-001846": 1.0,
1708
+ "E-9-2023-001859": 0.0,
1709
+ "E-9-2023-001877": 0.0,
1710
+ "E-9-2023-001904": 0.0,
1711
+ "E-9-2023-001982": 0.0,
1712
+ "E-9-2023-002001": 1.0,
1713
+ "E-9-2023-002033": 0.0,
1714
+ "E-9-2023-002095": 0.0,
1715
+ "E-9-2023-002103": 1.0,
1716
+ "E-9-2023-002115": 1.0,
1717
+ "E-9-2023-002178": 1.0,
1718
+ "E-9-2023-002186": 1.0,
1719
+ "E-9-2023-002240": 0.0,
1720
+ "E-9-2023-002242": 1.0,
1721
+ "E-9-2023-002281": 0.0,
1722
+ "E-9-2023-002383": 0.0,
1723
+ "E-9-2023-002395": 1.0,
1724
+ "E-9-2023-002442": 0.0,
1725
+ "E-9-2023-002479": 0.0,
1726
+ "E-9-2023-002505": 0.0,
1727
+ "E-9-2023-002509": 1.0,
1728
+ "E-9-2023-002540": 0.0,
1729
+ "E-9-2023-002584": 0.0,
1730
+ "E-9-2023-002610": 1.0,
1731
+ "E-9-2023-002625": 0.0,
1732
+ "E-9-2023-002637": 1.0,
1733
+ "E-9-2023-002640": 1.0,
1734
+ "E-9-2023-002675": 0.0,
1735
+ "E-9-2023-002683": 1.0,
1736
+ "E-9-2023-002699": 1.0,
1737
+ "E-9-2023-002743": 0.0,
1738
+ "E-9-2023-002751": 0.0,
1739
+ "E-9-2023-002758": 0.0,
1740
+ "E-9-2023-002815": 0.0,
1741
+ "E-9-2023-002816": 0.0,
1742
+ "E-9-2023-002833": 1.0,
1743
+ "E-9-2023-002883": 0.0,
1744
+ "E-9-2023-002980": 1.0,
1745
+ "E-9-2023-002994": 1.0,
1746
+ "E-9-2023-003002": 0.0,
1747
+ "E-9-2023-003022": 0.0,
1748
+ "E-9-2023-003040": 1.0,
1749
+ "E-9-2023-003117": 0.0,
1750
+ "E-9-2023-003122": 0.0,
1751
+ "E-9-2023-003167": 0.0,
1752
+ "E-9-2023-003215": 0.0,
1753
+ "E-9-2023-003326": 1.0,
1754
+ "E-9-2023-003373": 0.0,
1755
+ "E-9-2023-003386": 1.0,
1756
+ "E-9-2023-003391": 1.0,
1757
+ "E-9-2023-003404": 0.0,
1758
+ "E-9-2023-003408": 0.0,
1759
+ "E-9-2023-003419": 1.0,
1760
+ "E-9-2023-003430": 1.0,
1761
+ "E-9-2023-003439": 0.0,
1762
+ "E-9-2023-003453": 1.0,
1763
+ "E-9-2023-003457": 0.0,
1764
+ "E-9-2023-003492": 1.0,
1765
+ "E-9-2023-003533": 1.0,
1766
+ "E-9-2023-003602": 0.0,
1767
+ "E-9-2023-003607": 0.0,
1768
+ "E-9-2023-003675": 0.0,
1769
+ "E-9-2023-003685": 0.0,
1770
+ "E-9-2023-003728": 0.0,
1771
+ "E-9-2023-003749": 1.0,
1772
+ "E-9-2023-003754": 0.0,
1773
+ "P-9-2022-000135": 0.0,
1774
+ "P-9-2022-000661": 0.0,
1775
+ "P-9-2022-001060": 0.0,
1776
+ "P-9-2022-001119": 0.0,
1777
+ "P-9-2022-001271": 0.0,
1778
+ "P-9-2022-001337": 1.0,
1779
+ "P-9-2022-001416": 0.0,
1780
+ "P-9-2022-001521": 0.0,
1781
+ "P-9-2022-001555": 0.0,
1782
+ "P-9-2022-001666": 0.0,
1783
+ "P-9-2022-002383": 0.0,
1784
+ "P-9-2022-002535": 0.0,
1785
+ "P-9-2022-002627": 0.0,
1786
+ "P-9-2022-002830": 0.0,
1787
+ "P-9-2022-002838": 1.0,
1788
+ "P-9-2022-002863": 0.0,
1789
+ "P-9-2022-003082": 1.0,
1790
+ "P-9-2022-003461": 1.0,
1791
+ "P-9-2022-003463": 0.0,
1792
+ "P-9-2022-003675": 1.0,
1793
+ "P-9-2023-000298": 0.0,
1794
+ "P-9-2023-000633": 1.0,
1795
+ "P-9-2023-000876": 0.0,
1796
+ "P-9-2023-001138": 0.0,
1797
+ "P-9-2023-001534": 0.0,
1798
+ "P-9-2023-001841": 1.0,
1799
+ "P-9-2023-002104": 1.0,
1800
+ "P-9-2023-002410": 0.0,
1801
+ "P-9-2023-002436": 1.0,
1802
+ "P-9-2023-002485": 1.0,
1803
+ "P-9-2023-002496": 0.0,
1804
+ "P-9-2023-002514": 0.0,
1805
+ "P-9-2023-002791": 1.0,
1806
+ "P-9-2023-002805": 1.0,
1807
+ "P-9-2023-002808": 1.0,
1808
+ "P-9-2023-002868": 1.0,
1809
+ "P-9-2023-003005": 1.0,
1810
+ "P-9-2023-003064": 0.0,
1811
+ "P-9-2023-003169": 0.0,
1812
+ "P-9-2023-003268": 0.0,
1813
+ "P-9-2023-003372": 0.0,
1814
+ "P-9-2023-003471": 0.0,
1815
+ "P-9-2023-003707": 1.0
1816
+ }
1817
+ }
1818
+ }
v1.0/experiments/runs/cite_dev_rrf_text.metrics.json ADDED
@@ -0,0 +1,1818 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "aggregate": {
3
+ "RR@10": 0.4049729256250995,
4
+ "R@10": 0.5610925306577481,
5
+ "R@30": 0.7066332218506132,
6
+ "R@100": 0.8149386845039018,
7
+ "nDCG@10": 0.42603625378123866,
8
+ "Success@1": 0.29431438127090304
9
+ },
10
+ "per_query": {
11
+ "RR@10": {
12
+ "E-9-2022-000040": 0.1111111111111111,
13
+ "E-9-2022-000065": 0.0,
14
+ "E-9-2022-000104": 1.0,
15
+ "E-9-2022-000148": 0.0,
16
+ "E-9-2022-000167": 1.0,
17
+ "E-9-2022-000169": 0.0,
18
+ "E-9-2022-000230": 0.0,
19
+ "E-9-2022-000264": 0.16666666666666666,
20
+ "E-9-2022-000285": 0.1111111111111111,
21
+ "E-9-2022-000315": 1.0,
22
+ "E-9-2022-000350": 0.0,
23
+ "E-9-2022-000391": 0.25,
24
+ "E-9-2022-000392": 0.3333333333333333,
25
+ "E-9-2022-000398": 0.0,
26
+ "E-9-2022-000411": 0.0,
27
+ "E-9-2022-000423": 0.5,
28
+ "E-9-2022-000424": 1.0,
29
+ "E-9-2022-000447": 0.5,
30
+ "E-9-2022-000493": 0.1,
31
+ "E-9-2022-000495": 0.0,
32
+ "E-9-2022-000501": 0.5,
33
+ "E-9-2022-000502": 1.0,
34
+ "E-9-2022-000577": 1.0,
35
+ "E-9-2022-000578": 0.16666666666666666,
36
+ "E-9-2022-000603": 0.0,
37
+ "E-9-2022-000608": 0.5,
38
+ "E-9-2022-000615": 0.0,
39
+ "E-9-2022-000639": 1.0,
40
+ "E-9-2022-000667": 0.0,
41
+ "E-9-2022-000689": 1.0,
42
+ "E-9-2022-000748": 0.0,
43
+ "E-9-2022-000783": 1.0,
44
+ "E-9-2022-000797": 1.0,
45
+ "E-9-2022-000985": 1.0,
46
+ "E-9-2022-001024": 0.0,
47
+ "E-9-2022-001030": 1.0,
48
+ "E-9-2022-001097": 0.0,
49
+ "E-9-2022-001100": 1.0,
50
+ "E-9-2022-001124": 1.0,
51
+ "E-9-2022-001161": 0.1111111111111111,
52
+ "E-9-2022-001178": 0.5,
53
+ "E-9-2022-001181": 0.0,
54
+ "E-9-2022-001189": 1.0,
55
+ "E-9-2022-001205": 1.0,
56
+ "E-9-2022-001235": 0.0,
57
+ "E-9-2022-001244": 0.5,
58
+ "E-9-2022-001246": 0.0,
59
+ "E-9-2022-001270": 1.0,
60
+ "E-9-2022-001284": 0.0,
61
+ "E-9-2022-001285": 0.25,
62
+ "E-9-2022-001290": 0.14285714285714285,
63
+ "E-9-2022-001347": 1.0,
64
+ "E-9-2022-001358": 1.0,
65
+ "E-9-2022-001373": 0.0,
66
+ "E-9-2022-001381": 0.5,
67
+ "E-9-2022-001394": 1.0,
68
+ "E-9-2022-001402": 0.0,
69
+ "E-9-2022-001415": 0.5,
70
+ "E-9-2022-001425": 0.3333333333333333,
71
+ "E-9-2022-001475": 1.0,
72
+ "E-9-2022-001502": 1.0,
73
+ "E-9-2022-001507": 0.0,
74
+ "E-9-2022-001536": 0.2,
75
+ "E-9-2022-001543": 0.5,
76
+ "E-9-2022-001546": 0.5,
77
+ "E-9-2022-001558": 0.125,
78
+ "E-9-2022-001567": 1.0,
79
+ "E-9-2022-001571": 0.5,
80
+ "E-9-2022-001592": 0.0,
81
+ "E-9-2022-001726": 0.0,
82
+ "E-9-2022-001764": 0.5,
83
+ "E-9-2022-001816": 1.0,
84
+ "E-9-2022-001852": 0.3333333333333333,
85
+ "E-9-2022-001955": 0.0,
86
+ "E-9-2022-001970": 1.0,
87
+ "E-9-2022-002064": 1.0,
88
+ "E-9-2022-002080": 1.0,
89
+ "E-9-2022-002101": 0.0,
90
+ "E-9-2022-002174": 1.0,
91
+ "E-9-2022-002205": 1.0,
92
+ "E-9-2022-002238": 0.0,
93
+ "E-9-2022-002266": 0.0,
94
+ "E-9-2022-002272": 0.0,
95
+ "E-9-2022-002299": 0.1111111111111111,
96
+ "E-9-2022-002306": 0.0,
97
+ "E-9-2022-002405": 0.0,
98
+ "E-9-2022-002415": 0.16666666666666666,
99
+ "E-9-2022-002432": 0.5,
100
+ "E-9-2022-002444": 1.0,
101
+ "E-9-2022-002475": 0.0,
102
+ "E-9-2022-002516": 0.0,
103
+ "E-9-2022-002608": 0.0,
104
+ "E-9-2022-002670": 1.0,
105
+ "E-9-2022-002675": 0.1,
106
+ "E-9-2022-002761": 1.0,
107
+ "E-9-2022-002777": 1.0,
108
+ "E-9-2022-002810": 0.16666666666666666,
109
+ "E-9-2022-002814": 1.0,
110
+ "E-9-2022-002820": 0.0,
111
+ "E-9-2022-002824": 0.0,
112
+ "E-9-2022-002831": 0.0,
113
+ "E-9-2022-002928": 0.0,
114
+ "E-9-2022-002946": 1.0,
115
+ "E-9-2022-002989": 0.1111111111111111,
116
+ "E-9-2022-003065": 0.0,
117
+ "E-9-2022-003071": 0.16666666666666666,
118
+ "E-9-2022-003111": 0.3333333333333333,
119
+ "E-9-2022-003127": 0.5,
120
+ "E-9-2022-003155": 1.0,
121
+ "E-9-2022-003215": 1.0,
122
+ "E-9-2022-003265": 0.5,
123
+ "E-9-2022-003290": 1.0,
124
+ "E-9-2022-003293": 0.0,
125
+ "E-9-2022-003299": 0.0,
126
+ "E-9-2022-003343": 0.5,
127
+ "E-9-2022-003374": 1.0,
128
+ "E-9-2022-003407": 0.0,
129
+ "E-9-2022-003439": 1.0,
130
+ "E-9-2022-003470": 1.0,
131
+ "E-9-2022-003507": 0.0,
132
+ "E-9-2022-003570": 0.0,
133
+ "E-9-2022-003594": 0.3333333333333333,
134
+ "E-9-2022-003743": 0.3333333333333333,
135
+ "E-9-2022-003836": 0.14285714285714285,
136
+ "E-9-2022-003894": 1.0,
137
+ "E-9-2022-003930": 1.0,
138
+ "E-9-2022-004005": 0.0,
139
+ "E-9-2022-004012": 1.0,
140
+ "E-9-2022-004013": 0.0,
141
+ "E-9-2022-004038": 0.5,
142
+ "E-9-2022-004059": 0.0,
143
+ "E-9-2022-004074": 0.5,
144
+ "E-9-2022-004090": 0.0,
145
+ "E-9-2022-004116": 0.25,
146
+ "E-9-2022-004149": 0.0,
147
+ "E-9-2023-000017": 0.0,
148
+ "E-9-2023-000037": 1.0,
149
+ "E-9-2023-000073": 0.2,
150
+ "E-9-2023-000105": 0.5,
151
+ "E-9-2023-000108": 0.3333333333333333,
152
+ "E-9-2023-000113": 0.0,
153
+ "E-9-2023-000141": 0.0,
154
+ "E-9-2023-000166": 0.5,
155
+ "E-9-2023-000172": 1.0,
156
+ "E-9-2023-000221": 0.0,
157
+ "E-9-2023-000238": 0.125,
158
+ "E-9-2023-000282": 1.0,
159
+ "E-9-2023-000331": 0.1111111111111111,
160
+ "E-9-2023-000360": 0.0,
161
+ "E-9-2023-000476": 1.0,
162
+ "E-9-2023-000511": 0.3333333333333333,
163
+ "E-9-2023-000526": 0.5,
164
+ "E-9-2023-000529": 0.0,
165
+ "E-9-2023-000533": 0.5,
166
+ "E-9-2023-000550": 0.0,
167
+ "E-9-2023-000553": 0.1111111111111111,
168
+ "E-9-2023-000589": 1.0,
169
+ "E-9-2023-000617": 0.0,
170
+ "E-9-2023-000666": 1.0,
171
+ "E-9-2023-000773": 0.0,
172
+ "E-9-2023-000871": 1.0,
173
+ "E-9-2023-000918": 0.5,
174
+ "E-9-2023-000992": 0.3333333333333333,
175
+ "E-9-2023-001006": 1.0,
176
+ "E-9-2023-001048": 0.3333333333333333,
177
+ "E-9-2023-001148": 0.0,
178
+ "E-9-2023-001188": 0.5,
179
+ "E-9-2023-001237": 1.0,
180
+ "E-9-2023-001247": 1.0,
181
+ "E-9-2023-001280": 0.25,
182
+ "E-9-2023-001318": 0.0,
183
+ "E-9-2023-001322": 0.0,
184
+ "E-9-2023-001346": 0.0,
185
+ "E-9-2023-001358": 0.125,
186
+ "E-9-2023-001426": 1.0,
187
+ "E-9-2023-001437": 0.5,
188
+ "E-9-2023-001454": 0.5,
189
+ "E-9-2023-001458": 0.0,
190
+ "E-9-2023-001491": 0.3333333333333333,
191
+ "E-9-2023-001520": 0.5,
192
+ "E-9-2023-001538": 0.5,
193
+ "E-9-2023-001600": 0.0,
194
+ "E-9-2023-001611": 0.5,
195
+ "E-9-2023-001615": 1.0,
196
+ "E-9-2023-001638": 0.3333333333333333,
197
+ "E-9-2023-001685": 0.125,
198
+ "E-9-2023-001692": 0.5,
199
+ "E-9-2023-001758": 1.0,
200
+ "E-9-2023-001819": 0.0,
201
+ "E-9-2023-001839": 0.0,
202
+ "E-9-2023-001846": 0.2,
203
+ "E-9-2023-001859": 0.0,
204
+ "E-9-2023-001877": 0.3333333333333333,
205
+ "E-9-2023-001904": 0.0,
206
+ "E-9-2023-001982": 0.0,
207
+ "E-9-2023-002001": 1.0,
208
+ "E-9-2023-002033": 0.0,
209
+ "E-9-2023-002095": 0.0,
210
+ "E-9-2023-002103": 1.0,
211
+ "E-9-2023-002115": 1.0,
212
+ "E-9-2023-002178": 0.5,
213
+ "E-9-2023-002186": 1.0,
214
+ "E-9-2023-002240": 0.5,
215
+ "E-9-2023-002242": 0.0,
216
+ "E-9-2023-002281": 0.0,
217
+ "E-9-2023-002383": 1.0,
218
+ "E-9-2023-002395": 1.0,
219
+ "E-9-2023-002442": 0.0,
220
+ "E-9-2023-002479": 0.0,
221
+ "E-9-2023-002505": 0.0,
222
+ "E-9-2023-002509": 0.5,
223
+ "E-9-2023-002540": 0.14285714285714285,
224
+ "E-9-2023-002584": 0.0,
225
+ "E-9-2023-002610": 0.0,
226
+ "E-9-2023-002625": 0.5,
227
+ "E-9-2023-002637": 1.0,
228
+ "E-9-2023-002640": 1.0,
229
+ "E-9-2023-002675": 0.0,
230
+ "E-9-2023-002683": 1.0,
231
+ "E-9-2023-002699": 1.0,
232
+ "E-9-2023-002743": 0.0,
233
+ "E-9-2023-002751": 0.0,
234
+ "E-9-2023-002758": 0.0,
235
+ "E-9-2023-002815": 0.0,
236
+ "E-9-2023-002816": 0.0,
237
+ "E-9-2023-002833": 1.0,
238
+ "E-9-2023-002883": 0.3333333333333333,
239
+ "E-9-2023-002980": 1.0,
240
+ "E-9-2023-002994": 1.0,
241
+ "E-9-2023-003002": 0.3333333333333333,
242
+ "E-9-2023-003022": 0.3333333333333333,
243
+ "E-9-2023-003040": 1.0,
244
+ "E-9-2023-003117": 0.2,
245
+ "E-9-2023-003122": 1.0,
246
+ "E-9-2023-003167": 0.16666666666666666,
247
+ "E-9-2023-003215": 0.1111111111111111,
248
+ "E-9-2023-003326": 1.0,
249
+ "E-9-2023-003373": 0.0,
250
+ "E-9-2023-003386": 0.5,
251
+ "E-9-2023-003391": 1.0,
252
+ "E-9-2023-003404": 0.5,
253
+ "E-9-2023-003408": 0.0,
254
+ "E-9-2023-003419": 1.0,
255
+ "E-9-2023-003430": 1.0,
256
+ "E-9-2023-003439": 0.0,
257
+ "E-9-2023-003453": 1.0,
258
+ "E-9-2023-003457": 1.0,
259
+ "E-9-2023-003492": 0.0,
260
+ "E-9-2023-003533": 1.0,
261
+ "E-9-2023-003602": 0.0,
262
+ "E-9-2023-003607": 0.5,
263
+ "E-9-2023-003675": 0.0,
264
+ "E-9-2023-003685": 0.2,
265
+ "E-9-2023-003728": 0.0,
266
+ "E-9-2023-003749": 1.0,
267
+ "E-9-2023-003754": 0.0,
268
+ "P-9-2022-000135": 0.0,
269
+ "P-9-2022-000661": 0.0,
270
+ "P-9-2022-001060": 1.0,
271
+ "P-9-2022-001119": 0.25,
272
+ "P-9-2022-001271": 0.2,
273
+ "P-9-2022-001337": 0.0,
274
+ "P-9-2022-001416": 0.0,
275
+ "P-9-2022-001521": 0.25,
276
+ "P-9-2022-001555": 0.0,
277
+ "P-9-2022-001666": 0.0,
278
+ "P-9-2022-002383": 0.0,
279
+ "P-9-2022-002535": 0.0,
280
+ "P-9-2022-002627": 0.5,
281
+ "P-9-2022-002830": 0.2,
282
+ "P-9-2022-002838": 0.0,
283
+ "P-9-2022-002863": 0.0,
284
+ "P-9-2022-003082": 0.2,
285
+ "P-9-2022-003461": 0.5,
286
+ "P-9-2022-003463": 0.0,
287
+ "P-9-2022-003675": 0.125,
288
+ "P-9-2023-000298": 0.2,
289
+ "P-9-2023-000633": 0.0,
290
+ "P-9-2023-000876": 0.1111111111111111,
291
+ "P-9-2023-001138": 0.25,
292
+ "P-9-2023-001534": 0.0,
293
+ "P-9-2023-001841": 1.0,
294
+ "P-9-2023-002104": 1.0,
295
+ "P-9-2023-002410": 0.3333333333333333,
296
+ "P-9-2023-002436": 0.2,
297
+ "P-9-2023-002485": 1.0,
298
+ "P-9-2023-002496": 0.0,
299
+ "P-9-2023-002514": 1.0,
300
+ "P-9-2023-002791": 0.0,
301
+ "P-9-2023-002805": 1.0,
302
+ "P-9-2023-002808": 1.0,
303
+ "P-9-2023-002868": 0.5,
304
+ "P-9-2023-003005": 0.25,
305
+ "P-9-2023-003064": 0.16666666666666666,
306
+ "P-9-2023-003169": 0.0,
307
+ "P-9-2023-003268": 0.0,
308
+ "P-9-2023-003372": 0.0,
309
+ "P-9-2023-003471": 0.0,
310
+ "P-9-2023-003707": 1.0
311
+ },
312
+ "R@10": {
313
+ "E-9-2022-000040": 0.2,
314
+ "E-9-2022-000065": 0.0,
315
+ "E-9-2022-000104": 1.0,
316
+ "E-9-2022-000148": 0.0,
317
+ "E-9-2022-000167": 1.0,
318
+ "E-9-2022-000169": 0.0,
319
+ "E-9-2022-000230": 0.0,
320
+ "E-9-2022-000264": 0.5,
321
+ "E-9-2022-000285": 0.3333333333333333,
322
+ "E-9-2022-000315": 0.75,
323
+ "E-9-2022-000350": 0.0,
324
+ "E-9-2022-000391": 1.0,
325
+ "E-9-2022-000392": 1.0,
326
+ "E-9-2022-000398": 0.0,
327
+ "E-9-2022-000411": 0.0,
328
+ "E-9-2022-000423": 1.0,
329
+ "E-9-2022-000424": 0.4,
330
+ "E-9-2022-000447": 1.0,
331
+ "E-9-2022-000493": 0.1,
332
+ "E-9-2022-000495": 0.0,
333
+ "E-9-2022-000501": 0.6666666666666666,
334
+ "E-9-2022-000502": 1.0,
335
+ "E-9-2022-000577": 1.0,
336
+ "E-9-2022-000578": 1.0,
337
+ "E-9-2022-000603": 0.0,
338
+ "E-9-2022-000608": 1.0,
339
+ "E-9-2022-000615": 0.0,
340
+ "E-9-2022-000639": 1.0,
341
+ "E-9-2022-000667": 0.0,
342
+ "E-9-2022-000689": 1.0,
343
+ "E-9-2022-000748": 0.0,
344
+ "E-9-2022-000783": 1.0,
345
+ "E-9-2022-000797": 1.0,
346
+ "E-9-2022-000985": 1.0,
347
+ "E-9-2022-001024": 0.0,
348
+ "E-9-2022-001030": 0.5,
349
+ "E-9-2022-001097": 0.0,
350
+ "E-9-2022-001100": 1.0,
351
+ "E-9-2022-001124": 1.0,
352
+ "E-9-2022-001161": 1.0,
353
+ "E-9-2022-001178": 1.0,
354
+ "E-9-2022-001181": 0.0,
355
+ "E-9-2022-001189": 1.0,
356
+ "E-9-2022-001205": 1.0,
357
+ "E-9-2022-001235": 0.0,
358
+ "E-9-2022-001244": 1.0,
359
+ "E-9-2022-001246": 0.0,
360
+ "E-9-2022-001270": 1.0,
361
+ "E-9-2022-001284": 0.0,
362
+ "E-9-2022-001285": 0.5,
363
+ "E-9-2022-001290": 0.5,
364
+ "E-9-2022-001347": 1.0,
365
+ "E-9-2022-001358": 1.0,
366
+ "E-9-2022-001373": 0.0,
367
+ "E-9-2022-001381": 1.0,
368
+ "E-9-2022-001394": 1.0,
369
+ "E-9-2022-001402": 0.0,
370
+ "E-9-2022-001415": 1.0,
371
+ "E-9-2022-001425": 1.0,
372
+ "E-9-2022-001475": 0.6666666666666666,
373
+ "E-9-2022-001502": 1.0,
374
+ "E-9-2022-001507": 0.0,
375
+ "E-9-2022-001536": 1.0,
376
+ "E-9-2022-001543": 0.5,
377
+ "E-9-2022-001546": 1.0,
378
+ "E-9-2022-001558": 1.0,
379
+ "E-9-2022-001567": 1.0,
380
+ "E-9-2022-001571": 1.0,
381
+ "E-9-2022-001592": 0.0,
382
+ "E-9-2022-001726": 0.0,
383
+ "E-9-2022-001764": 1.0,
384
+ "E-9-2022-001816": 1.0,
385
+ "E-9-2022-001852": 1.0,
386
+ "E-9-2022-001955": 0.0,
387
+ "E-9-2022-001970": 1.0,
388
+ "E-9-2022-002064": 1.0,
389
+ "E-9-2022-002080": 1.0,
390
+ "E-9-2022-002101": 0.0,
391
+ "E-9-2022-002174": 0.5,
392
+ "E-9-2022-002205": 1.0,
393
+ "E-9-2022-002238": 0.0,
394
+ "E-9-2022-002266": 0.0,
395
+ "E-9-2022-002272": 0.0,
396
+ "E-9-2022-002299": 1.0,
397
+ "E-9-2022-002306": 0.0,
398
+ "E-9-2022-002405": 0.0,
399
+ "E-9-2022-002415": 0.25,
400
+ "E-9-2022-002432": 1.0,
401
+ "E-9-2022-002444": 1.0,
402
+ "E-9-2022-002475": 0.0,
403
+ "E-9-2022-002516": 0.0,
404
+ "E-9-2022-002608": 0.0,
405
+ "E-9-2022-002670": 1.0,
406
+ "E-9-2022-002675": 0.5,
407
+ "E-9-2022-002761": 0.3333333333333333,
408
+ "E-9-2022-002777": 1.0,
409
+ "E-9-2022-002810": 0.3333333333333333,
410
+ "E-9-2022-002814": 1.0,
411
+ "E-9-2022-002820": 0.0,
412
+ "E-9-2022-002824": 0.0,
413
+ "E-9-2022-002831": 0.0,
414
+ "E-9-2022-002928": 0.0,
415
+ "E-9-2022-002946": 1.0,
416
+ "E-9-2022-002989": 1.0,
417
+ "E-9-2022-003065": 0.0,
418
+ "E-9-2022-003071": 1.0,
419
+ "E-9-2022-003111": 1.0,
420
+ "E-9-2022-003127": 0.3333333333333333,
421
+ "E-9-2022-003155": 1.0,
422
+ "E-9-2022-003215": 1.0,
423
+ "E-9-2022-003265": 1.0,
424
+ "E-9-2022-003290": 1.0,
425
+ "E-9-2022-003293": 0.0,
426
+ "E-9-2022-003299": 0.0,
427
+ "E-9-2022-003343": 1.0,
428
+ "E-9-2022-003374": 0.3333333333333333,
429
+ "E-9-2022-003407": 0.0,
430
+ "E-9-2022-003439": 1.0,
431
+ "E-9-2022-003470": 0.5,
432
+ "E-9-2022-003507": 0.0,
433
+ "E-9-2022-003570": 0.0,
434
+ "E-9-2022-003594": 1.0,
435
+ "E-9-2022-003743": 1.0,
436
+ "E-9-2022-003836": 1.0,
437
+ "E-9-2022-003894": 1.0,
438
+ "E-9-2022-003930": 1.0,
439
+ "E-9-2022-004005": 0.0,
440
+ "E-9-2022-004012": 1.0,
441
+ "E-9-2022-004013": 0.0,
442
+ "E-9-2022-004038": 1.0,
443
+ "E-9-2022-004059": 0.0,
444
+ "E-9-2022-004074": 1.0,
445
+ "E-9-2022-004090": 0.0,
446
+ "E-9-2022-004116": 1.0,
447
+ "E-9-2022-004149": 0.0,
448
+ "E-9-2023-000017": 0.0,
449
+ "E-9-2023-000037": 0.5,
450
+ "E-9-2023-000073": 0.3333333333333333,
451
+ "E-9-2023-000105": 1.0,
452
+ "E-9-2023-000108": 1.0,
453
+ "E-9-2023-000113": 0.0,
454
+ "E-9-2023-000141": 0.0,
455
+ "E-9-2023-000166": 1.0,
456
+ "E-9-2023-000172": 1.0,
457
+ "E-9-2023-000221": 0.0,
458
+ "E-9-2023-000238": 1.0,
459
+ "E-9-2023-000282": 1.0,
460
+ "E-9-2023-000331": 1.0,
461
+ "E-9-2023-000360": 0.0,
462
+ "E-9-2023-000476": 1.0,
463
+ "E-9-2023-000511": 1.0,
464
+ "E-9-2023-000526": 1.0,
465
+ "E-9-2023-000529": 0.0,
466
+ "E-9-2023-000533": 0.5,
467
+ "E-9-2023-000550": 0.0,
468
+ "E-9-2023-000553": 1.0,
469
+ "E-9-2023-000589": 1.0,
470
+ "E-9-2023-000617": 0.0,
471
+ "E-9-2023-000666": 1.0,
472
+ "E-9-2023-000773": 0.0,
473
+ "E-9-2023-000871": 1.0,
474
+ "E-9-2023-000918": 1.0,
475
+ "E-9-2023-000992": 0.5,
476
+ "E-9-2023-001006": 1.0,
477
+ "E-9-2023-001048": 1.0,
478
+ "E-9-2023-001148": 0.0,
479
+ "E-9-2023-001188": 1.0,
480
+ "E-9-2023-001237": 1.0,
481
+ "E-9-2023-001247": 1.0,
482
+ "E-9-2023-001280": 1.0,
483
+ "E-9-2023-001318": 0.0,
484
+ "E-9-2023-001322": 0.0,
485
+ "E-9-2023-001346": 0.0,
486
+ "E-9-2023-001358": 0.5,
487
+ "E-9-2023-001426": 1.0,
488
+ "E-9-2023-001437": 0.5,
489
+ "E-9-2023-001454": 1.0,
490
+ "E-9-2023-001458": 0.0,
491
+ "E-9-2023-001491": 1.0,
492
+ "E-9-2023-001520": 1.0,
493
+ "E-9-2023-001538": 1.0,
494
+ "E-9-2023-001600": 0.0,
495
+ "E-9-2023-001611": 0.3333333333333333,
496
+ "E-9-2023-001615": 0.5,
497
+ "E-9-2023-001638": 0.4,
498
+ "E-9-2023-001685": 1.0,
499
+ "E-9-2023-001692": 1.0,
500
+ "E-9-2023-001758": 0.3333333333333333,
501
+ "E-9-2023-001819": 0.0,
502
+ "E-9-2023-001839": 0.0,
503
+ "E-9-2023-001846": 0.6666666666666666,
504
+ "E-9-2023-001859": 0.0,
505
+ "E-9-2023-001877": 1.0,
506
+ "E-9-2023-001904": 0.0,
507
+ "E-9-2023-001982": 0.0,
508
+ "E-9-2023-002001": 1.0,
509
+ "E-9-2023-002033": 0.0,
510
+ "E-9-2023-002095": 0.0,
511
+ "E-9-2023-002103": 1.0,
512
+ "E-9-2023-002115": 1.0,
513
+ "E-9-2023-002178": 1.0,
514
+ "E-9-2023-002186": 1.0,
515
+ "E-9-2023-002240": 1.0,
516
+ "E-9-2023-002242": 0.0,
517
+ "E-9-2023-002281": 0.0,
518
+ "E-9-2023-002383": 1.0,
519
+ "E-9-2023-002395": 1.0,
520
+ "E-9-2023-002442": 0.0,
521
+ "E-9-2023-002479": 0.0,
522
+ "E-9-2023-002505": 0.0,
523
+ "E-9-2023-002509": 1.0,
524
+ "E-9-2023-002540": 1.0,
525
+ "E-9-2023-002584": 0.0,
526
+ "E-9-2023-002610": 0.0,
527
+ "E-9-2023-002625": 1.0,
528
+ "E-9-2023-002637": 1.0,
529
+ "E-9-2023-002640": 1.0,
530
+ "E-9-2023-002675": 0.0,
531
+ "E-9-2023-002683": 1.0,
532
+ "E-9-2023-002699": 1.0,
533
+ "E-9-2023-002743": 0.0,
534
+ "E-9-2023-002751": 0.0,
535
+ "E-9-2023-002758": 0.0,
536
+ "E-9-2023-002815": 0.0,
537
+ "E-9-2023-002816": 0.0,
538
+ "E-9-2023-002833": 1.0,
539
+ "E-9-2023-002883": 1.0,
540
+ "E-9-2023-002980": 1.0,
541
+ "E-9-2023-002994": 1.0,
542
+ "E-9-2023-003002": 1.0,
543
+ "E-9-2023-003022": 1.0,
544
+ "E-9-2023-003040": 1.0,
545
+ "E-9-2023-003117": 0.3333333333333333,
546
+ "E-9-2023-003122": 1.0,
547
+ "E-9-2023-003167": 1.0,
548
+ "E-9-2023-003215": 0.25,
549
+ "E-9-2023-003326": 1.0,
550
+ "E-9-2023-003373": 0.0,
551
+ "E-9-2023-003386": 1.0,
552
+ "E-9-2023-003391": 1.0,
553
+ "E-9-2023-003404": 0.6666666666666666,
554
+ "E-9-2023-003408": 0.0,
555
+ "E-9-2023-003419": 1.0,
556
+ "E-9-2023-003430": 1.0,
557
+ "E-9-2023-003439": 0.0,
558
+ "E-9-2023-003453": 1.0,
559
+ "E-9-2023-003457": 1.0,
560
+ "E-9-2023-003492": 0.0,
561
+ "E-9-2023-003533": 1.0,
562
+ "E-9-2023-003602": 0.0,
563
+ "E-9-2023-003607": 1.0,
564
+ "E-9-2023-003675": 0.0,
565
+ "E-9-2023-003685": 1.0,
566
+ "E-9-2023-003728": 0.0,
567
+ "E-9-2023-003749": 1.0,
568
+ "E-9-2023-003754": 0.0,
569
+ "P-9-2022-000135": 0.0,
570
+ "P-9-2022-000661": 0.0,
571
+ "P-9-2022-001060": 1.0,
572
+ "P-9-2022-001119": 0.5,
573
+ "P-9-2022-001271": 0.5,
574
+ "P-9-2022-001337": 0.0,
575
+ "P-9-2022-001416": 0.0,
576
+ "P-9-2022-001521": 1.0,
577
+ "P-9-2022-001555": 0.0,
578
+ "P-9-2022-001666": 0.0,
579
+ "P-9-2022-002383": 0.0,
580
+ "P-9-2022-002535": 0.0,
581
+ "P-9-2022-002627": 1.0,
582
+ "P-9-2022-002830": 0.25,
583
+ "P-9-2022-002838": 0.0,
584
+ "P-9-2022-002863": 0.0,
585
+ "P-9-2022-003082": 1.0,
586
+ "P-9-2022-003461": 1.0,
587
+ "P-9-2022-003463": 0.0,
588
+ "P-9-2022-003675": 1.0,
589
+ "P-9-2023-000298": 1.0,
590
+ "P-9-2023-000633": 0.0,
591
+ "P-9-2023-000876": 0.5,
592
+ "P-9-2023-001138": 1.0,
593
+ "P-9-2023-001534": 0.0,
594
+ "P-9-2023-001841": 1.0,
595
+ "P-9-2023-002104": 1.0,
596
+ "P-9-2023-002410": 1.0,
597
+ "P-9-2023-002436": 1.0,
598
+ "P-9-2023-002485": 1.0,
599
+ "P-9-2023-002496": 0.0,
600
+ "P-9-2023-002514": 1.0,
601
+ "P-9-2023-002791": 0.0,
602
+ "P-9-2023-002805": 1.0,
603
+ "P-9-2023-002808": 1.0,
604
+ "P-9-2023-002868": 1.0,
605
+ "P-9-2023-003005": 1.0,
606
+ "P-9-2023-003064": 1.0,
607
+ "P-9-2023-003169": 0.0,
608
+ "P-9-2023-003268": 0.0,
609
+ "P-9-2023-003372": 0.0,
610
+ "P-9-2023-003471": 0.0,
611
+ "P-9-2023-003707": 1.0
612
+ },
613
+ "R@30": {
614
+ "E-9-2022-000040": 0.6,
615
+ "E-9-2022-000065": 1.0,
616
+ "E-9-2022-000104": 1.0,
617
+ "E-9-2022-000148": 0.0,
618
+ "E-9-2022-000167": 1.0,
619
+ "E-9-2022-000169": 0.0,
620
+ "E-9-2022-000230": 0.0,
621
+ "E-9-2022-000264": 0.75,
622
+ "E-9-2022-000285": 0.6666666666666666,
623
+ "E-9-2022-000315": 0.75,
624
+ "E-9-2022-000350": 0.0,
625
+ "E-9-2022-000391": 1.0,
626
+ "E-9-2022-000392": 1.0,
627
+ "E-9-2022-000398": 0.0,
628
+ "E-9-2022-000411": 0.5,
629
+ "E-9-2022-000423": 1.0,
630
+ "E-9-2022-000424": 0.6,
631
+ "E-9-2022-000447": 1.0,
632
+ "E-9-2022-000493": 0.2,
633
+ "E-9-2022-000495": 0.0,
634
+ "E-9-2022-000501": 0.6666666666666666,
635
+ "E-9-2022-000502": 1.0,
636
+ "E-9-2022-000577": 1.0,
637
+ "E-9-2022-000578": 1.0,
638
+ "E-9-2022-000603": 0.0,
639
+ "E-9-2022-000608": 1.0,
640
+ "E-9-2022-000615": 1.0,
641
+ "E-9-2022-000639": 1.0,
642
+ "E-9-2022-000667": 0.0,
643
+ "E-9-2022-000689": 1.0,
644
+ "E-9-2022-000748": 0.0,
645
+ "E-9-2022-000783": 1.0,
646
+ "E-9-2022-000797": 1.0,
647
+ "E-9-2022-000985": 1.0,
648
+ "E-9-2022-001024": 0.0,
649
+ "E-9-2022-001030": 0.5,
650
+ "E-9-2022-001097": 0.0,
651
+ "E-9-2022-001100": 1.0,
652
+ "E-9-2022-001124": 1.0,
653
+ "E-9-2022-001161": 1.0,
654
+ "E-9-2022-001178": 1.0,
655
+ "E-9-2022-001181": 0.0,
656
+ "E-9-2022-001189": 1.0,
657
+ "E-9-2022-001205": 1.0,
658
+ "E-9-2022-001235": 0.0,
659
+ "E-9-2022-001244": 1.0,
660
+ "E-9-2022-001246": 0.0,
661
+ "E-9-2022-001270": 1.0,
662
+ "E-9-2022-001284": 1.0,
663
+ "E-9-2022-001285": 0.5,
664
+ "E-9-2022-001290": 0.5,
665
+ "E-9-2022-001347": 1.0,
666
+ "E-9-2022-001358": 1.0,
667
+ "E-9-2022-001373": 0.0,
668
+ "E-9-2022-001381": 1.0,
669
+ "E-9-2022-001394": 1.0,
670
+ "E-9-2022-001402": 0.5,
671
+ "E-9-2022-001415": 1.0,
672
+ "E-9-2022-001425": 1.0,
673
+ "E-9-2022-001475": 1.0,
674
+ "E-9-2022-001502": 1.0,
675
+ "E-9-2022-001507": 0.0,
676
+ "E-9-2022-001536": 1.0,
677
+ "E-9-2022-001543": 1.0,
678
+ "E-9-2022-001546": 1.0,
679
+ "E-9-2022-001558": 1.0,
680
+ "E-9-2022-001567": 1.0,
681
+ "E-9-2022-001571": 1.0,
682
+ "E-9-2022-001592": 1.0,
683
+ "E-9-2022-001726": 0.0,
684
+ "E-9-2022-001764": 1.0,
685
+ "E-9-2022-001816": 1.0,
686
+ "E-9-2022-001852": 1.0,
687
+ "E-9-2022-001955": 0.0,
688
+ "E-9-2022-001970": 1.0,
689
+ "E-9-2022-002064": 1.0,
690
+ "E-9-2022-002080": 1.0,
691
+ "E-9-2022-002101": 0.0,
692
+ "E-9-2022-002174": 0.5,
693
+ "E-9-2022-002205": 1.0,
694
+ "E-9-2022-002238": 0.0,
695
+ "E-9-2022-002266": 0.0,
696
+ "E-9-2022-002272": 0.5,
697
+ "E-9-2022-002299": 1.0,
698
+ "E-9-2022-002306": 0.0,
699
+ "E-9-2022-002405": 0.5,
700
+ "E-9-2022-002415": 0.25,
701
+ "E-9-2022-002432": 1.0,
702
+ "E-9-2022-002444": 1.0,
703
+ "E-9-2022-002475": 1.0,
704
+ "E-9-2022-002516": 0.5,
705
+ "E-9-2022-002608": 1.0,
706
+ "E-9-2022-002670": 1.0,
707
+ "E-9-2022-002675": 1.0,
708
+ "E-9-2022-002761": 0.3333333333333333,
709
+ "E-9-2022-002777": 1.0,
710
+ "E-9-2022-002810": 1.0,
711
+ "E-9-2022-002814": 1.0,
712
+ "E-9-2022-002820": 1.0,
713
+ "E-9-2022-002824": 0.0,
714
+ "E-9-2022-002831": 0.0,
715
+ "E-9-2022-002928": 1.0,
716
+ "E-9-2022-002946": 1.0,
717
+ "E-9-2022-002989": 1.0,
718
+ "E-9-2022-003065": 0.0,
719
+ "E-9-2022-003071": 1.0,
720
+ "E-9-2022-003111": 1.0,
721
+ "E-9-2022-003127": 0.3333333333333333,
722
+ "E-9-2022-003155": 1.0,
723
+ "E-9-2022-003215": 1.0,
724
+ "E-9-2022-003265": 1.0,
725
+ "E-9-2022-003290": 1.0,
726
+ "E-9-2022-003293": 1.0,
727
+ "E-9-2022-003299": 0.0,
728
+ "E-9-2022-003343": 1.0,
729
+ "E-9-2022-003374": 1.0,
730
+ "E-9-2022-003407": 0.0,
731
+ "E-9-2022-003439": 1.0,
732
+ "E-9-2022-003470": 0.5,
733
+ "E-9-2022-003507": 0.0,
734
+ "E-9-2022-003570": 1.0,
735
+ "E-9-2022-003594": 1.0,
736
+ "E-9-2022-003743": 1.0,
737
+ "E-9-2022-003836": 1.0,
738
+ "E-9-2022-003894": 1.0,
739
+ "E-9-2022-003930": 1.0,
740
+ "E-9-2022-004005": 0.0,
741
+ "E-9-2022-004012": 1.0,
742
+ "E-9-2022-004013": 0.0,
743
+ "E-9-2022-004038": 1.0,
744
+ "E-9-2022-004059": 1.0,
745
+ "E-9-2022-004074": 1.0,
746
+ "E-9-2022-004090": 0.0,
747
+ "E-9-2022-004116": 1.0,
748
+ "E-9-2022-004149": 0.0,
749
+ "E-9-2023-000017": 0.0,
750
+ "E-9-2023-000037": 0.5,
751
+ "E-9-2023-000073": 0.3333333333333333,
752
+ "E-9-2023-000105": 1.0,
753
+ "E-9-2023-000108": 1.0,
754
+ "E-9-2023-000113": 0.0,
755
+ "E-9-2023-000141": 1.0,
756
+ "E-9-2023-000166": 1.0,
757
+ "E-9-2023-000172": 1.0,
758
+ "E-9-2023-000221": 0.0,
759
+ "E-9-2023-000238": 1.0,
760
+ "E-9-2023-000282": 1.0,
761
+ "E-9-2023-000331": 1.0,
762
+ "E-9-2023-000360": 0.0,
763
+ "E-9-2023-000476": 1.0,
764
+ "E-9-2023-000511": 1.0,
765
+ "E-9-2023-000526": 1.0,
766
+ "E-9-2023-000529": 0.0,
767
+ "E-9-2023-000533": 0.5,
768
+ "E-9-2023-000550": 0.0,
769
+ "E-9-2023-000553": 1.0,
770
+ "E-9-2023-000589": 1.0,
771
+ "E-9-2023-000617": 0.0,
772
+ "E-9-2023-000666": 1.0,
773
+ "E-9-2023-000773": 0.0,
774
+ "E-9-2023-000871": 1.0,
775
+ "E-9-2023-000918": 1.0,
776
+ "E-9-2023-000992": 0.5,
777
+ "E-9-2023-001006": 1.0,
778
+ "E-9-2023-001048": 1.0,
779
+ "E-9-2023-001148": 1.0,
780
+ "E-9-2023-001188": 1.0,
781
+ "E-9-2023-001237": 1.0,
782
+ "E-9-2023-001247": 1.0,
783
+ "E-9-2023-001280": 1.0,
784
+ "E-9-2023-001318": 0.6666666666666666,
785
+ "E-9-2023-001322": 0.0,
786
+ "E-9-2023-001346": 0.0,
787
+ "E-9-2023-001358": 1.0,
788
+ "E-9-2023-001426": 1.0,
789
+ "E-9-2023-001437": 0.5,
790
+ "E-9-2023-001454": 1.0,
791
+ "E-9-2023-001458": 0.0,
792
+ "E-9-2023-001491": 1.0,
793
+ "E-9-2023-001520": 1.0,
794
+ "E-9-2023-001538": 1.0,
795
+ "E-9-2023-001600": 1.0,
796
+ "E-9-2023-001611": 0.3333333333333333,
797
+ "E-9-2023-001615": 0.5,
798
+ "E-9-2023-001638": 0.8,
799
+ "E-9-2023-001685": 1.0,
800
+ "E-9-2023-001692": 1.0,
801
+ "E-9-2023-001758": 0.3333333333333333,
802
+ "E-9-2023-001819": 0.0,
803
+ "E-9-2023-001839": 1.0,
804
+ "E-9-2023-001846": 1.0,
805
+ "E-9-2023-001859": 1.0,
806
+ "E-9-2023-001877": 1.0,
807
+ "E-9-2023-001904": 0.25,
808
+ "E-9-2023-001982": 1.0,
809
+ "E-9-2023-002001": 1.0,
810
+ "E-9-2023-002033": 1.0,
811
+ "E-9-2023-002095": 0.0,
812
+ "E-9-2023-002103": 1.0,
813
+ "E-9-2023-002115": 1.0,
814
+ "E-9-2023-002178": 1.0,
815
+ "E-9-2023-002186": 1.0,
816
+ "E-9-2023-002240": 1.0,
817
+ "E-9-2023-002242": 0.0,
818
+ "E-9-2023-002281": 0.0,
819
+ "E-9-2023-002383": 1.0,
820
+ "E-9-2023-002395": 1.0,
821
+ "E-9-2023-002442": 0.0,
822
+ "E-9-2023-002479": 0.0,
823
+ "E-9-2023-002505": 1.0,
824
+ "E-9-2023-002509": 1.0,
825
+ "E-9-2023-002540": 1.0,
826
+ "E-9-2023-002584": 0.0,
827
+ "E-9-2023-002610": 1.0,
828
+ "E-9-2023-002625": 1.0,
829
+ "E-9-2023-002637": 1.0,
830
+ "E-9-2023-002640": 1.0,
831
+ "E-9-2023-002675": 0.0,
832
+ "E-9-2023-002683": 1.0,
833
+ "E-9-2023-002699": 1.0,
834
+ "E-9-2023-002743": 1.0,
835
+ "E-9-2023-002751": 0.0,
836
+ "E-9-2023-002758": 1.0,
837
+ "E-9-2023-002815": 1.0,
838
+ "E-9-2023-002816": 0.0,
839
+ "E-9-2023-002833": 1.0,
840
+ "E-9-2023-002883": 1.0,
841
+ "E-9-2023-002980": 1.0,
842
+ "E-9-2023-002994": 1.0,
843
+ "E-9-2023-003002": 1.0,
844
+ "E-9-2023-003022": 1.0,
845
+ "E-9-2023-003040": 1.0,
846
+ "E-9-2023-003117": 0.6666666666666666,
847
+ "E-9-2023-003122": 1.0,
848
+ "E-9-2023-003167": 1.0,
849
+ "E-9-2023-003215": 0.25,
850
+ "E-9-2023-003326": 1.0,
851
+ "E-9-2023-003373": 0.0,
852
+ "E-9-2023-003386": 1.0,
853
+ "E-9-2023-003391": 1.0,
854
+ "E-9-2023-003404": 1.0,
855
+ "E-9-2023-003408": 0.0,
856
+ "E-9-2023-003419": 1.0,
857
+ "E-9-2023-003430": 1.0,
858
+ "E-9-2023-003439": 0.0,
859
+ "E-9-2023-003453": 1.0,
860
+ "E-9-2023-003457": 1.0,
861
+ "E-9-2023-003492": 1.0,
862
+ "E-9-2023-003533": 1.0,
863
+ "E-9-2023-003602": 1.0,
864
+ "E-9-2023-003607": 1.0,
865
+ "E-9-2023-003675": 1.0,
866
+ "E-9-2023-003685": 1.0,
867
+ "E-9-2023-003728": 0.0,
868
+ "E-9-2023-003749": 1.0,
869
+ "E-9-2023-003754": 1.0,
870
+ "P-9-2022-000135": 0.0,
871
+ "P-9-2022-000661": 1.0,
872
+ "P-9-2022-001060": 1.0,
873
+ "P-9-2022-001119": 1.0,
874
+ "P-9-2022-001271": 0.75,
875
+ "P-9-2022-001337": 0.0,
876
+ "P-9-2022-001416": 1.0,
877
+ "P-9-2022-001521": 1.0,
878
+ "P-9-2022-001555": 1.0,
879
+ "P-9-2022-001666": 0.0,
880
+ "P-9-2022-002383": 0.0,
881
+ "P-9-2022-002535": 0.0,
882
+ "P-9-2022-002627": 1.0,
883
+ "P-9-2022-002830": 0.25,
884
+ "P-9-2022-002838": 0.0,
885
+ "P-9-2022-002863": 0.0,
886
+ "P-9-2022-003082": 1.0,
887
+ "P-9-2022-003461": 1.0,
888
+ "P-9-2022-003463": 0.0,
889
+ "P-9-2022-003675": 1.0,
890
+ "P-9-2023-000298": 1.0,
891
+ "P-9-2023-000633": 0.0,
892
+ "P-9-2023-000876": 1.0,
893
+ "P-9-2023-001138": 1.0,
894
+ "P-9-2023-001534": 0.0,
895
+ "P-9-2023-001841": 1.0,
896
+ "P-9-2023-002104": 1.0,
897
+ "P-9-2023-002410": 1.0,
898
+ "P-9-2023-002436": 1.0,
899
+ "P-9-2023-002485": 1.0,
900
+ "P-9-2023-002496": 0.0,
901
+ "P-9-2023-002514": 1.0,
902
+ "P-9-2023-002791": 1.0,
903
+ "P-9-2023-002805": 1.0,
904
+ "P-9-2023-002808": 1.0,
905
+ "P-9-2023-002868": 1.0,
906
+ "P-9-2023-003005": 1.0,
907
+ "P-9-2023-003064": 1.0,
908
+ "P-9-2023-003169": 0.0,
909
+ "P-9-2023-003268": 1.0,
910
+ "P-9-2023-003372": 1.0,
911
+ "P-9-2023-003471": 0.0,
912
+ "P-9-2023-003707": 1.0
913
+ },
914
+ "R@100": {
915
+ "E-9-2022-000040": 0.8,
916
+ "E-9-2022-000065": 1.0,
917
+ "E-9-2022-000104": 1.0,
918
+ "E-9-2022-000148": 0.0,
919
+ "E-9-2022-000167": 1.0,
920
+ "E-9-2022-000169": 0.0,
921
+ "E-9-2022-000230": 0.0,
922
+ "E-9-2022-000264": 0.75,
923
+ "E-9-2022-000285": 1.0,
924
+ "E-9-2022-000315": 0.75,
925
+ "E-9-2022-000350": 1.0,
926
+ "E-9-2022-000391": 1.0,
927
+ "E-9-2022-000392": 1.0,
928
+ "E-9-2022-000398": 0.0,
929
+ "E-9-2022-000411": 0.5,
930
+ "E-9-2022-000423": 1.0,
931
+ "E-9-2022-000424": 1.0,
932
+ "E-9-2022-000447": 1.0,
933
+ "E-9-2022-000493": 0.2,
934
+ "E-9-2022-000495": 0.0,
935
+ "E-9-2022-000501": 0.6666666666666666,
936
+ "E-9-2022-000502": 1.0,
937
+ "E-9-2022-000577": 1.0,
938
+ "E-9-2022-000578": 1.0,
939
+ "E-9-2022-000603": 1.0,
940
+ "E-9-2022-000608": 1.0,
941
+ "E-9-2022-000615": 1.0,
942
+ "E-9-2022-000639": 1.0,
943
+ "E-9-2022-000667": 0.0,
944
+ "E-9-2022-000689": 1.0,
945
+ "E-9-2022-000748": 0.0,
946
+ "E-9-2022-000783": 1.0,
947
+ "E-9-2022-000797": 1.0,
948
+ "E-9-2022-000985": 1.0,
949
+ "E-9-2022-001024": 1.0,
950
+ "E-9-2022-001030": 1.0,
951
+ "E-9-2022-001097": 0.0,
952
+ "E-9-2022-001100": 1.0,
953
+ "E-9-2022-001124": 1.0,
954
+ "E-9-2022-001161": 1.0,
955
+ "E-9-2022-001178": 1.0,
956
+ "E-9-2022-001181": 0.5,
957
+ "E-9-2022-001189": 1.0,
958
+ "E-9-2022-001205": 1.0,
959
+ "E-9-2022-001235": 0.0,
960
+ "E-9-2022-001244": 1.0,
961
+ "E-9-2022-001246": 0.0,
962
+ "E-9-2022-001270": 1.0,
963
+ "E-9-2022-001284": 1.0,
964
+ "E-9-2022-001285": 1.0,
965
+ "E-9-2022-001290": 1.0,
966
+ "E-9-2022-001347": 1.0,
967
+ "E-9-2022-001358": 1.0,
968
+ "E-9-2022-001373": 0.0,
969
+ "E-9-2022-001381": 1.0,
970
+ "E-9-2022-001394": 1.0,
971
+ "E-9-2022-001402": 0.5,
972
+ "E-9-2022-001415": 1.0,
973
+ "E-9-2022-001425": 1.0,
974
+ "E-9-2022-001475": 1.0,
975
+ "E-9-2022-001502": 1.0,
976
+ "E-9-2022-001507": 1.0,
977
+ "E-9-2022-001536": 1.0,
978
+ "E-9-2022-001543": 1.0,
979
+ "E-9-2022-001546": 1.0,
980
+ "E-9-2022-001558": 1.0,
981
+ "E-9-2022-001567": 1.0,
982
+ "E-9-2022-001571": 1.0,
983
+ "E-9-2022-001592": 1.0,
984
+ "E-9-2022-001726": 0.0,
985
+ "E-9-2022-001764": 1.0,
986
+ "E-9-2022-001816": 1.0,
987
+ "E-9-2022-001852": 1.0,
988
+ "E-9-2022-001955": 1.0,
989
+ "E-9-2022-001970": 1.0,
990
+ "E-9-2022-002064": 1.0,
991
+ "E-9-2022-002080": 1.0,
992
+ "E-9-2022-002101": 0.0,
993
+ "E-9-2022-002174": 0.5,
994
+ "E-9-2022-002205": 1.0,
995
+ "E-9-2022-002238": 0.5,
996
+ "E-9-2022-002266": 1.0,
997
+ "E-9-2022-002272": 0.5,
998
+ "E-9-2022-002299": 1.0,
999
+ "E-9-2022-002306": 0.0,
1000
+ "E-9-2022-002405": 0.5,
1001
+ "E-9-2022-002415": 0.25,
1002
+ "E-9-2022-002432": 1.0,
1003
+ "E-9-2022-002444": 1.0,
1004
+ "E-9-2022-002475": 1.0,
1005
+ "E-9-2022-002516": 1.0,
1006
+ "E-9-2022-002608": 1.0,
1007
+ "E-9-2022-002670": 1.0,
1008
+ "E-9-2022-002675": 1.0,
1009
+ "E-9-2022-002761": 0.6666666666666666,
1010
+ "E-9-2022-002777": 1.0,
1011
+ "E-9-2022-002810": 1.0,
1012
+ "E-9-2022-002814": 1.0,
1013
+ "E-9-2022-002820": 1.0,
1014
+ "E-9-2022-002824": 0.3333333333333333,
1015
+ "E-9-2022-002831": 1.0,
1016
+ "E-9-2022-002928": 1.0,
1017
+ "E-9-2022-002946": 1.0,
1018
+ "E-9-2022-002989": 1.0,
1019
+ "E-9-2022-003065": 0.0,
1020
+ "E-9-2022-003071": 1.0,
1021
+ "E-9-2022-003111": 1.0,
1022
+ "E-9-2022-003127": 0.6666666666666666,
1023
+ "E-9-2022-003155": 1.0,
1024
+ "E-9-2022-003215": 1.0,
1025
+ "E-9-2022-003265": 1.0,
1026
+ "E-9-2022-003290": 1.0,
1027
+ "E-9-2022-003293": 1.0,
1028
+ "E-9-2022-003299": 1.0,
1029
+ "E-9-2022-003343": 1.0,
1030
+ "E-9-2022-003374": 1.0,
1031
+ "E-9-2022-003407": 1.0,
1032
+ "E-9-2022-003439": 1.0,
1033
+ "E-9-2022-003470": 0.5,
1034
+ "E-9-2022-003507": 0.0,
1035
+ "E-9-2022-003570": 1.0,
1036
+ "E-9-2022-003594": 1.0,
1037
+ "E-9-2022-003743": 1.0,
1038
+ "E-9-2022-003836": 1.0,
1039
+ "E-9-2022-003894": 1.0,
1040
+ "E-9-2022-003930": 1.0,
1041
+ "E-9-2022-004005": 1.0,
1042
+ "E-9-2022-004012": 1.0,
1043
+ "E-9-2022-004013": 1.0,
1044
+ "E-9-2022-004038": 1.0,
1045
+ "E-9-2022-004059": 1.0,
1046
+ "E-9-2022-004074": 1.0,
1047
+ "E-9-2022-004090": 0.0,
1048
+ "E-9-2022-004116": 1.0,
1049
+ "E-9-2022-004149": 0.0,
1050
+ "E-9-2023-000017": 0.2,
1051
+ "E-9-2023-000037": 0.5,
1052
+ "E-9-2023-000073": 0.3333333333333333,
1053
+ "E-9-2023-000105": 1.0,
1054
+ "E-9-2023-000108": 1.0,
1055
+ "E-9-2023-000113": 0.0,
1056
+ "E-9-2023-000141": 1.0,
1057
+ "E-9-2023-000166": 1.0,
1058
+ "E-9-2023-000172": 1.0,
1059
+ "E-9-2023-000221": 1.0,
1060
+ "E-9-2023-000238": 1.0,
1061
+ "E-9-2023-000282": 1.0,
1062
+ "E-9-2023-000331": 1.0,
1063
+ "E-9-2023-000360": 0.0,
1064
+ "E-9-2023-000476": 1.0,
1065
+ "E-9-2023-000511": 1.0,
1066
+ "E-9-2023-000526": 1.0,
1067
+ "E-9-2023-000529": 0.0,
1068
+ "E-9-2023-000533": 0.5,
1069
+ "E-9-2023-000550": 1.0,
1070
+ "E-9-2023-000553": 1.0,
1071
+ "E-9-2023-000589": 1.0,
1072
+ "E-9-2023-000617": 0.0,
1073
+ "E-9-2023-000666": 1.0,
1074
+ "E-9-2023-000773": 0.0,
1075
+ "E-9-2023-000871": 1.0,
1076
+ "E-9-2023-000918": 1.0,
1077
+ "E-9-2023-000992": 1.0,
1078
+ "E-9-2023-001006": 1.0,
1079
+ "E-9-2023-001048": 1.0,
1080
+ "E-9-2023-001148": 1.0,
1081
+ "E-9-2023-001188": 1.0,
1082
+ "E-9-2023-001237": 1.0,
1083
+ "E-9-2023-001247": 1.0,
1084
+ "E-9-2023-001280": 1.0,
1085
+ "E-9-2023-001318": 0.6666666666666666,
1086
+ "E-9-2023-001322": 0.0,
1087
+ "E-9-2023-001346": 0.0,
1088
+ "E-9-2023-001358": 1.0,
1089
+ "E-9-2023-001426": 1.0,
1090
+ "E-9-2023-001437": 0.5,
1091
+ "E-9-2023-001454": 1.0,
1092
+ "E-9-2023-001458": 0.0,
1093
+ "E-9-2023-001491": 1.0,
1094
+ "E-9-2023-001520": 1.0,
1095
+ "E-9-2023-001538": 1.0,
1096
+ "E-9-2023-001600": 1.0,
1097
+ "E-9-2023-001611": 1.0,
1098
+ "E-9-2023-001615": 0.5,
1099
+ "E-9-2023-001638": 0.8,
1100
+ "E-9-2023-001685": 1.0,
1101
+ "E-9-2023-001692": 1.0,
1102
+ "E-9-2023-001758": 0.6666666666666666,
1103
+ "E-9-2023-001819": 0.0,
1104
+ "E-9-2023-001839": 1.0,
1105
+ "E-9-2023-001846": 1.0,
1106
+ "E-9-2023-001859": 1.0,
1107
+ "E-9-2023-001877": 1.0,
1108
+ "E-9-2023-001904": 0.75,
1109
+ "E-9-2023-001982": 1.0,
1110
+ "E-9-2023-002001": 1.0,
1111
+ "E-9-2023-002033": 1.0,
1112
+ "E-9-2023-002095": 0.0,
1113
+ "E-9-2023-002103": 1.0,
1114
+ "E-9-2023-002115": 1.0,
1115
+ "E-9-2023-002178": 1.0,
1116
+ "E-9-2023-002186": 1.0,
1117
+ "E-9-2023-002240": 1.0,
1118
+ "E-9-2023-002242": 1.0,
1119
+ "E-9-2023-002281": 1.0,
1120
+ "E-9-2023-002383": 1.0,
1121
+ "E-9-2023-002395": 1.0,
1122
+ "E-9-2023-002442": 1.0,
1123
+ "E-9-2023-002479": 0.0,
1124
+ "E-9-2023-002505": 1.0,
1125
+ "E-9-2023-002509": 1.0,
1126
+ "E-9-2023-002540": 1.0,
1127
+ "E-9-2023-002584": 1.0,
1128
+ "E-9-2023-002610": 1.0,
1129
+ "E-9-2023-002625": 1.0,
1130
+ "E-9-2023-002637": 1.0,
1131
+ "E-9-2023-002640": 1.0,
1132
+ "E-9-2023-002675": 0.0,
1133
+ "E-9-2023-002683": 1.0,
1134
+ "E-9-2023-002699": 1.0,
1135
+ "E-9-2023-002743": 1.0,
1136
+ "E-9-2023-002751": 0.0,
1137
+ "E-9-2023-002758": 1.0,
1138
+ "E-9-2023-002815": 1.0,
1139
+ "E-9-2023-002816": 1.0,
1140
+ "E-9-2023-002833": 1.0,
1141
+ "E-9-2023-002883": 1.0,
1142
+ "E-9-2023-002980": 1.0,
1143
+ "E-9-2023-002994": 1.0,
1144
+ "E-9-2023-003002": 1.0,
1145
+ "E-9-2023-003022": 1.0,
1146
+ "E-9-2023-003040": 1.0,
1147
+ "E-9-2023-003117": 0.6666666666666666,
1148
+ "E-9-2023-003122": 1.0,
1149
+ "E-9-2023-003167": 1.0,
1150
+ "E-9-2023-003215": 0.75,
1151
+ "E-9-2023-003326": 1.0,
1152
+ "E-9-2023-003373": 1.0,
1153
+ "E-9-2023-003386": 1.0,
1154
+ "E-9-2023-003391": 1.0,
1155
+ "E-9-2023-003404": 1.0,
1156
+ "E-9-2023-003408": 0.0,
1157
+ "E-9-2023-003419": 1.0,
1158
+ "E-9-2023-003430": 1.0,
1159
+ "E-9-2023-003439": 0.0,
1160
+ "E-9-2023-003453": 1.0,
1161
+ "E-9-2023-003457": 1.0,
1162
+ "E-9-2023-003492": 1.0,
1163
+ "E-9-2023-003533": 1.0,
1164
+ "E-9-2023-003602": 1.0,
1165
+ "E-9-2023-003607": 1.0,
1166
+ "E-9-2023-003675": 1.0,
1167
+ "E-9-2023-003685": 1.0,
1168
+ "E-9-2023-003728": 0.0,
1169
+ "E-9-2023-003749": 1.0,
1170
+ "E-9-2023-003754": 1.0,
1171
+ "P-9-2022-000135": 1.0,
1172
+ "P-9-2022-000661": 1.0,
1173
+ "P-9-2022-001060": 1.0,
1174
+ "P-9-2022-001119": 1.0,
1175
+ "P-9-2022-001271": 0.75,
1176
+ "P-9-2022-001337": 0.0,
1177
+ "P-9-2022-001416": 1.0,
1178
+ "P-9-2022-001521": 1.0,
1179
+ "P-9-2022-001555": 1.0,
1180
+ "P-9-2022-001666": 0.0,
1181
+ "P-9-2022-002383": 0.0,
1182
+ "P-9-2022-002535": 1.0,
1183
+ "P-9-2022-002627": 1.0,
1184
+ "P-9-2022-002830": 0.25,
1185
+ "P-9-2022-002838": 0.25,
1186
+ "P-9-2022-002863": 0.0,
1187
+ "P-9-2022-003082": 1.0,
1188
+ "P-9-2022-003461": 1.0,
1189
+ "P-9-2022-003463": 1.0,
1190
+ "P-9-2022-003675": 1.0,
1191
+ "P-9-2023-000298": 1.0,
1192
+ "P-9-2023-000633": 1.0,
1193
+ "P-9-2023-000876": 1.0,
1194
+ "P-9-2023-001138": 1.0,
1195
+ "P-9-2023-001534": 0.0,
1196
+ "P-9-2023-001841": 1.0,
1197
+ "P-9-2023-002104": 1.0,
1198
+ "P-9-2023-002410": 1.0,
1199
+ "P-9-2023-002436": 1.0,
1200
+ "P-9-2023-002485": 1.0,
1201
+ "P-9-2023-002496": 0.0,
1202
+ "P-9-2023-002514": 1.0,
1203
+ "P-9-2023-002791": 1.0,
1204
+ "P-9-2023-002805": 1.0,
1205
+ "P-9-2023-002808": 1.0,
1206
+ "P-9-2023-002868": 1.0,
1207
+ "P-9-2023-003005": 1.0,
1208
+ "P-9-2023-003064": 1.0,
1209
+ "P-9-2023-003169": 1.0,
1210
+ "P-9-2023-003268": 1.0,
1211
+ "P-9-2023-003372": 1.0,
1212
+ "P-9-2023-003471": 0.5,
1213
+ "P-9-2023-003707": 1.0
1214
+ },
1215
+ "nDCG@10": {
1216
+ "E-9-2022-000040": 0.10209739512291163,
1217
+ "E-9-2022-000065": 0.0,
1218
+ "E-9-2022-000104": 1.0,
1219
+ "E-9-2022-000148": 0.0,
1220
+ "E-9-2022-000167": 1.0,
1221
+ "E-9-2022-000169": 0.0,
1222
+ "E-9-2022-000230": 0.0,
1223
+ "E-9-2022-000264": 0.2691828628414762,
1224
+ "E-9-2022-000285": 0.14126697285982898,
1225
+ "E-9-2022-000315": 0.7246262544989281,
1226
+ "E-9-2022-000350": 0.0,
1227
+ "E-9-2022-000391": 0.43067655807339306,
1228
+ "E-9-2022-000392": 0.5,
1229
+ "E-9-2022-000398": 0.0,
1230
+ "E-9-2022-000411": 0.0,
1231
+ "E-9-2022-000423": 0.6309297535714575,
1232
+ "E-9-2022-000424": 0.48522855511632257,
1233
+ "E-9-2022-000447": 0.6309297535714575,
1234
+ "E-9-2022-000493": 0.06362078819895171,
1235
+ "E-9-2022-000495": 0.0,
1236
+ "E-9-2022-000501": 0.4776237035032179,
1237
+ "E-9-2022-000502": 1.0,
1238
+ "E-9-2022-000577": 1.0,
1239
+ "E-9-2022-000578": 0.3562071871080222,
1240
+ "E-9-2022-000603": 0.0,
1241
+ "E-9-2022-000608": 0.6309297535714575,
1242
+ "E-9-2022-000615": 0.0,
1243
+ "E-9-2022-000639": 0.9708923176105698,
1244
+ "E-9-2022-000667": 0.0,
1245
+ "E-9-2022-000689": 1.0,
1246
+ "E-9-2022-000748": 0.0,
1247
+ "E-9-2022-000783": 1.0,
1248
+ "E-9-2022-000797": 1.0,
1249
+ "E-9-2022-000985": 1.0,
1250
+ "E-9-2022-001024": 0.0,
1251
+ "E-9-2022-001030": 0.6131471927654584,
1252
+ "E-9-2022-001097": 0.0,
1253
+ "E-9-2022-001100": 1.0,
1254
+ "E-9-2022-001124": 1.0,
1255
+ "E-9-2022-001161": 0.3010299956639812,
1256
+ "E-9-2022-001178": 0.6309297535714575,
1257
+ "E-9-2022-001181": 0.0,
1258
+ "E-9-2022-001189": 1.0,
1259
+ "E-9-2022-001205": 0.9325210919548239,
1260
+ "E-9-2022-001235": 0.0,
1261
+ "E-9-2022-001244": 0.6309297535714575,
1262
+ "E-9-2022-001246": 0.0,
1263
+ "E-9-2022-001270": 1.0,
1264
+ "E-9-2022-001284": 0.0,
1265
+ "E-9-2022-001285": 0.2640681225725909,
1266
+ "E-9-2022-001290": 0.20438239758848611,
1267
+ "E-9-2022-001347": 0.7977228895450266,
1268
+ "E-9-2022-001358": 1.0,
1269
+ "E-9-2022-001373": 0.0,
1270
+ "E-9-2022-001381": 0.6309297535714575,
1271
+ "E-9-2022-001394": 1.0,
1272
+ "E-9-2022-001402": 0.0,
1273
+ "E-9-2022-001415": 0.6934264036172708,
1274
+ "E-9-2022-001425": 0.5,
1275
+ "E-9-2022-001475": 0.6049306994552042,
1276
+ "E-9-2022-001502": 1.0,
1277
+ "E-9-2022-001507": 0.0,
1278
+ "E-9-2022-001536": 0.38685280723454163,
1279
+ "E-9-2022-001543": 0.38685280723454163,
1280
+ "E-9-2022-001546": 0.6240505200038379,
1281
+ "E-9-2022-001558": 0.31546487678572877,
1282
+ "E-9-2022-001567": 1.0,
1283
+ "E-9-2022-001571": 0.6309297535714575,
1284
+ "E-9-2022-001592": 0.0,
1285
+ "E-9-2022-001726": 0.0,
1286
+ "E-9-2022-001764": 0.6309297535714575,
1287
+ "E-9-2022-001816": 1.0,
1288
+ "E-9-2022-001852": 0.5249810332008933,
1289
+ "E-9-2022-001955": 0.0,
1290
+ "E-9-2022-001970": 1.0,
1291
+ "E-9-2022-002064": 1.0,
1292
+ "E-9-2022-002080": 1.0,
1293
+ "E-9-2022-002101": 0.0,
1294
+ "E-9-2022-002174": 0.6131471927654584,
1295
+ "E-9-2022-002205": 1.0,
1296
+ "E-9-2022-002238": 0.0,
1297
+ "E-9-2022-002266": 0.0,
1298
+ "E-9-2022-002272": 0.0,
1299
+ "E-9-2022-002299": 0.3010299956639812,
1300
+ "E-9-2022-002306": 0.0,
1301
+ "E-9-2022-002405": 0.0,
1302
+ "E-9-2022-002415": 0.13905617951077562,
1303
+ "E-9-2022-002432": 0.6309297535714575,
1304
+ "E-9-2022-002444": 1.0,
1305
+ "E-9-2022-002475": 0.0,
1306
+ "E-9-2022-002516": 0.0,
1307
+ "E-9-2022-002608": 0.0,
1308
+ "E-9-2022-002670": 1.0,
1309
+ "E-9-2022-002675": 0.17723928678404774,
1310
+ "E-9-2022-002761": 0.46927872602275644,
1311
+ "E-9-2022-002777": 1.0,
1312
+ "E-9-2022-002810": 0.16716045496620227,
1313
+ "E-9-2022-002814": 1.0,
1314
+ "E-9-2022-002820": 0.0,
1315
+ "E-9-2022-002824": 0.0,
1316
+ "E-9-2022-002831": 0.0,
1317
+ "E-9-2022-002928": 0.0,
1318
+ "E-9-2022-002946": 1.0,
1319
+ "E-9-2022-002989": 0.3010299956639812,
1320
+ "E-9-2022-003065": 0.0,
1321
+ "E-9-2022-003071": 0.3562071871080222,
1322
+ "E-9-2022-003111": 0.5,
1323
+ "E-9-2022-003127": 0.2960819109658652,
1324
+ "E-9-2022-003155": 1.0,
1325
+ "E-9-2022-003215": 1.0,
1326
+ "E-9-2022-003265": 0.5802792108518124,
1327
+ "E-9-2022-003290": 1.0,
1328
+ "E-9-2022-003293": 0.0,
1329
+ "E-9-2022-003299": 0.0,
1330
+ "E-9-2022-003343": 0.6309297535714575,
1331
+ "E-9-2022-003374": 0.46927872602275644,
1332
+ "E-9-2022-003407": 0.0,
1333
+ "E-9-2022-003439": 1.0,
1334
+ "E-9-2022-003470": 0.6131471927654584,
1335
+ "E-9-2022-003507": 0.0,
1336
+ "E-9-2022-003570": 0.0,
1337
+ "E-9-2022-003594": 0.5,
1338
+ "E-9-2022-003743": 0.5,
1339
+ "E-9-2022-003836": 0.3333333333333333,
1340
+ "E-9-2022-003894": 1.0,
1341
+ "E-9-2022-003930": 1.0,
1342
+ "E-9-2022-004005": 0.0,
1343
+ "E-9-2022-004012": 1.0,
1344
+ "E-9-2022-004013": 0.0,
1345
+ "E-9-2022-004038": 0.6309297535714575,
1346
+ "E-9-2022-004059": 0.0,
1347
+ "E-9-2022-004074": 0.6309297535714575,
1348
+ "E-9-2022-004090": 0.0,
1349
+ "E-9-2022-004116": 0.43067655807339306,
1350
+ "E-9-2022-004149": 0.0,
1351
+ "E-9-2023-000017": 0.0,
1352
+ "E-9-2023-000037": 0.6131471927654584,
1353
+ "E-9-2023-000073": 0.18154179253735267,
1354
+ "E-9-2023-000105": 0.6309297535714575,
1355
+ "E-9-2023-000108": 0.5,
1356
+ "E-9-2023-000113": 0.0,
1357
+ "E-9-2023-000141": 0.0,
1358
+ "E-9-2023-000166": 0.6309297535714575,
1359
+ "E-9-2023-000172": 1.0,
1360
+ "E-9-2023-000221": 0.0,
1361
+ "E-9-2023-000238": 0.31546487678572877,
1362
+ "E-9-2023-000282": 1.0,
1363
+ "E-9-2023-000331": 0.3010299956639812,
1364
+ "E-9-2023-000360": 0.0,
1365
+ "E-9-2023-000476": 1.0,
1366
+ "E-9-2023-000511": 0.5,
1367
+ "E-9-2023-000526": 0.6309297535714575,
1368
+ "E-9-2023-000529": 0.0,
1369
+ "E-9-2023-000533": 0.38685280723454163,
1370
+ "E-9-2023-000550": 0.0,
1371
+ "E-9-2023-000553": 0.3010299956639812,
1372
+ "E-9-2023-000589": 1.0,
1373
+ "E-9-2023-000617": 0.0,
1374
+ "E-9-2023-000666": 1.0,
1375
+ "E-9-2023-000773": 0.0,
1376
+ "E-9-2023-000871": 1.0,
1377
+ "E-9-2023-000918": 0.6309297535714575,
1378
+ "E-9-2023-000992": 0.3065735963827292,
1379
+ "E-9-2023-001006": 1.0,
1380
+ "E-9-2023-001048": 0.5,
1381
+ "E-9-2023-001148": 0.0,
1382
+ "E-9-2023-001188": 0.6309297535714575,
1383
+ "E-9-2023-001237": 1.0,
1384
+ "E-9-2023-001247": 1.0,
1385
+ "E-9-2023-001280": 0.5012658353418871,
1386
+ "E-9-2023-001318": 0.0,
1387
+ "E-9-2023-001322": 0.0,
1388
+ "E-9-2023-001346": 0.0,
1389
+ "E-9-2023-001358": 0.19342640361727081,
1390
+ "E-9-2023-001426": 1.0,
1391
+ "E-9-2023-001437": 0.38685280723454163,
1392
+ "E-9-2023-001454": 0.6309297535714575,
1393
+ "E-9-2023-001458": 0.0,
1394
+ "E-9-2023-001491": 0.5,
1395
+ "E-9-2023-001520": 0.6309297535714575,
1396
+ "E-9-2023-001538": 0.6934264036172708,
1397
+ "E-9-2023-001600": 0.0,
1398
+ "E-9-2023-001611": 0.2960819109658652,
1399
+ "E-9-2023-001615": 0.6131471927654584,
1400
+ "E-9-2023-001638": 0.2765732350040718,
1401
+ "E-9-2023-001685": 0.31546487678572877,
1402
+ "E-9-2023-001692": 0.6309297535714575,
1403
+ "E-9-2023-001758": 0.46927872602275644,
1404
+ "E-9-2023-001819": 0.0,
1405
+ "E-9-2023-001839": 0.0,
1406
+ "E-9-2023-001846": 0.3171937659698004,
1407
+ "E-9-2023-001859": 0.0,
1408
+ "E-9-2023-001877": 0.5,
1409
+ "E-9-2023-001904": 0.0,
1410
+ "E-9-2023-001982": 0.0,
1411
+ "E-9-2023-002001": 1.0,
1412
+ "E-9-2023-002033": 0.0,
1413
+ "E-9-2023-002095": 0.0,
1414
+ "E-9-2023-002103": 1.0,
1415
+ "E-9-2023-002115": 1.0,
1416
+ "E-9-2023-002178": 0.6309297535714575,
1417
+ "E-9-2023-002186": 1.0,
1418
+ "E-9-2023-002240": 0.6309297535714575,
1419
+ "E-9-2023-002242": 0.0,
1420
+ "E-9-2023-002281": 0.0,
1421
+ "E-9-2023-002383": 0.8503449055347546,
1422
+ "E-9-2023-002395": 1.0,
1423
+ "E-9-2023-002442": 0.0,
1424
+ "E-9-2023-002479": 0.0,
1425
+ "E-9-2023-002505": 0.0,
1426
+ "E-9-2023-002509": 0.6309297535714575,
1427
+ "E-9-2023-002540": 0.3333333333333333,
1428
+ "E-9-2023-002584": 0.0,
1429
+ "E-9-2023-002610": 0.0,
1430
+ "E-9-2023-002625": 0.6309297535714575,
1431
+ "E-9-2023-002637": 1.0,
1432
+ "E-9-2023-002640": 1.0,
1433
+ "E-9-2023-002675": 0.0,
1434
+ "E-9-2023-002683": 1.0,
1435
+ "E-9-2023-002699": 1.0,
1436
+ "E-9-2023-002743": 0.0,
1437
+ "E-9-2023-002751": 0.0,
1438
+ "E-9-2023-002758": 0.0,
1439
+ "E-9-2023-002815": 0.0,
1440
+ "E-9-2023-002816": 0.0,
1441
+ "E-9-2023-002833": 1.0,
1442
+ "E-9-2023-002883": 0.5706417189553201,
1443
+ "E-9-2023-002980": 1.0,
1444
+ "E-9-2023-002994": 1.0,
1445
+ "E-9-2023-003002": 0.5,
1446
+ "E-9-2023-003022": 0.5,
1447
+ "E-9-2023-003040": 1.0,
1448
+ "E-9-2023-003117": 0.18154179253735267,
1449
+ "E-9-2023-003122": 1.0,
1450
+ "E-9-2023-003167": 0.3562071871080222,
1451
+ "E-9-2023-003215": 0.11751610475642714,
1452
+ "E-9-2023-003326": 1.0,
1453
+ "E-9-2023-003373": 0.0,
1454
+ "E-9-2023-003386": 0.6309297535714575,
1455
+ "E-9-2023-003391": 1.0,
1456
+ "E-9-2023-003404": 0.43734888382569426,
1457
+ "E-9-2023-003408": 0.0,
1458
+ "E-9-2023-003419": 1.0,
1459
+ "E-9-2023-003430": 1.0,
1460
+ "E-9-2023-003439": 0.0,
1461
+ "E-9-2023-003453": 1.0,
1462
+ "E-9-2023-003457": 1.0,
1463
+ "E-9-2023-003492": 0.0,
1464
+ "E-9-2023-003533": 0.9197207891481876,
1465
+ "E-9-2023-003602": 0.0,
1466
+ "E-9-2023-003607": 0.6309297535714575,
1467
+ "E-9-2023-003675": 0.0,
1468
+ "E-9-2023-003685": 0.38685280723454163,
1469
+ "E-9-2023-003728": 0.0,
1470
+ "E-9-2023-003749": 1.0,
1471
+ "E-9-2023-003754": 0.0,
1472
+ "P-9-2022-000135": 0.0,
1473
+ "P-9-2022-000661": 0.0,
1474
+ "P-9-2022-001060": 0.9197207891481876,
1475
+ "P-9-2022-001119": 0.2640681225725909,
1476
+ "P-9-2022-001271": 0.2741708125981702,
1477
+ "P-9-2022-001337": 0.0,
1478
+ "P-9-2022-001416": 0.0,
1479
+ "P-9-2022-001521": 0.43067655807339306,
1480
+ "P-9-2022-001555": 0.0,
1481
+ "P-9-2022-001666": 0.0,
1482
+ "P-9-2022-002383": 0.0,
1483
+ "P-9-2022-002535": 0.0,
1484
+ "P-9-2022-002627": 0.6309297535714575,
1485
+ "P-9-2022-002830": 0.15101961822780524,
1486
+ "P-9-2022-002838": 0.0,
1487
+ "P-9-2022-002863": 0.0,
1488
+ "P-9-2022-003082": 0.38685280723454163,
1489
+ "P-9-2022-003461": 0.6309297535714575,
1490
+ "P-9-2022-003463": 0.0,
1491
+ "P-9-2022-003675": 0.31546487678572877,
1492
+ "P-9-2023-000298": 0.38685280723454163,
1493
+ "P-9-2023-000633": 0.0,
1494
+ "P-9-2023-000876": 0.18457569677956817,
1495
+ "P-9-2023-001138": 0.43067655807339306,
1496
+ "P-9-2023-001534": 0.0,
1497
+ "P-9-2023-001841": 1.0,
1498
+ "P-9-2023-002104": 1.0,
1499
+ "P-9-2023-002410": 0.5437713091520254,
1500
+ "P-9-2023-002436": 0.38685280723454163,
1501
+ "P-9-2023-002485": 1.0,
1502
+ "P-9-2023-002496": 0.0,
1503
+ "P-9-2023-002514": 1.0,
1504
+ "P-9-2023-002791": 0.0,
1505
+ "P-9-2023-002805": 1.0,
1506
+ "P-9-2023-002808": 1.0,
1507
+ "P-9-2023-002868": 0.6309297535714575,
1508
+ "P-9-2023-003005": 0.5173087569496825,
1509
+ "P-9-2023-003064": 0.3562071871080222,
1510
+ "P-9-2023-003169": 0.0,
1511
+ "P-9-2023-003268": 0.0,
1512
+ "P-9-2023-003372": 0.0,
1513
+ "P-9-2023-003471": 0.0,
1514
+ "P-9-2023-003707": 1.0
1515
+ },
1516
+ "Success@1": {
1517
+ "E-9-2022-000040": 0.0,
1518
+ "E-9-2022-000065": 0.0,
1519
+ "E-9-2022-000104": 1.0,
1520
+ "E-9-2022-000148": 0.0,
1521
+ "E-9-2022-000167": 1.0,
1522
+ "E-9-2022-000169": 0.0,
1523
+ "E-9-2022-000230": 0.0,
1524
+ "E-9-2022-000264": 0.0,
1525
+ "E-9-2022-000285": 0.0,
1526
+ "E-9-2022-000315": 1.0,
1527
+ "E-9-2022-000350": 0.0,
1528
+ "E-9-2022-000391": 0.0,
1529
+ "E-9-2022-000392": 0.0,
1530
+ "E-9-2022-000398": 0.0,
1531
+ "E-9-2022-000411": 0.0,
1532
+ "E-9-2022-000423": 0.0,
1533
+ "E-9-2022-000424": 1.0,
1534
+ "E-9-2022-000447": 0.0,
1535
+ "E-9-2022-000493": 0.0,
1536
+ "E-9-2022-000495": 0.0,
1537
+ "E-9-2022-000501": 0.0,
1538
+ "E-9-2022-000502": 1.0,
1539
+ "E-9-2022-000577": 1.0,
1540
+ "E-9-2022-000578": 0.0,
1541
+ "E-9-2022-000603": 0.0,
1542
+ "E-9-2022-000608": 0.0,
1543
+ "E-9-2022-000615": 0.0,
1544
+ "E-9-2022-000639": 1.0,
1545
+ "E-9-2022-000667": 0.0,
1546
+ "E-9-2022-000689": 1.0,
1547
+ "E-9-2022-000748": 0.0,
1548
+ "E-9-2022-000783": 1.0,
1549
+ "E-9-2022-000797": 1.0,
1550
+ "E-9-2022-000985": 1.0,
1551
+ "E-9-2022-001024": 0.0,
1552
+ "E-9-2022-001030": 1.0,
1553
+ "E-9-2022-001097": 0.0,
1554
+ "E-9-2022-001100": 1.0,
1555
+ "E-9-2022-001124": 1.0,
1556
+ "E-9-2022-001161": 0.0,
1557
+ "E-9-2022-001178": 0.0,
1558
+ "E-9-2022-001181": 0.0,
1559
+ "E-9-2022-001189": 1.0,
1560
+ "E-9-2022-001205": 1.0,
1561
+ "E-9-2022-001235": 0.0,
1562
+ "E-9-2022-001244": 0.0,
1563
+ "E-9-2022-001246": 0.0,
1564
+ "E-9-2022-001270": 1.0,
1565
+ "E-9-2022-001284": 0.0,
1566
+ "E-9-2022-001285": 0.0,
1567
+ "E-9-2022-001290": 0.0,
1568
+ "E-9-2022-001347": 1.0,
1569
+ "E-9-2022-001358": 1.0,
1570
+ "E-9-2022-001373": 0.0,
1571
+ "E-9-2022-001381": 0.0,
1572
+ "E-9-2022-001394": 1.0,
1573
+ "E-9-2022-001402": 0.0,
1574
+ "E-9-2022-001415": 0.0,
1575
+ "E-9-2022-001425": 0.0,
1576
+ "E-9-2022-001475": 1.0,
1577
+ "E-9-2022-001502": 1.0,
1578
+ "E-9-2022-001507": 0.0,
1579
+ "E-9-2022-001536": 0.0,
1580
+ "E-9-2022-001543": 0.0,
1581
+ "E-9-2022-001546": 0.0,
1582
+ "E-9-2022-001558": 0.0,
1583
+ "E-9-2022-001567": 1.0,
1584
+ "E-9-2022-001571": 0.0,
1585
+ "E-9-2022-001592": 0.0,
1586
+ "E-9-2022-001726": 0.0,
1587
+ "E-9-2022-001764": 0.0,
1588
+ "E-9-2022-001816": 1.0,
1589
+ "E-9-2022-001852": 0.0,
1590
+ "E-9-2022-001955": 0.0,
1591
+ "E-9-2022-001970": 1.0,
1592
+ "E-9-2022-002064": 1.0,
1593
+ "E-9-2022-002080": 1.0,
1594
+ "E-9-2022-002101": 0.0,
1595
+ "E-9-2022-002174": 1.0,
1596
+ "E-9-2022-002205": 1.0,
1597
+ "E-9-2022-002238": 0.0,
1598
+ "E-9-2022-002266": 0.0,
1599
+ "E-9-2022-002272": 0.0,
1600
+ "E-9-2022-002299": 0.0,
1601
+ "E-9-2022-002306": 0.0,
1602
+ "E-9-2022-002405": 0.0,
1603
+ "E-9-2022-002415": 0.0,
1604
+ "E-9-2022-002432": 0.0,
1605
+ "E-9-2022-002444": 1.0,
1606
+ "E-9-2022-002475": 0.0,
1607
+ "E-9-2022-002516": 0.0,
1608
+ "E-9-2022-002608": 0.0,
1609
+ "E-9-2022-002670": 1.0,
1610
+ "E-9-2022-002675": 0.0,
1611
+ "E-9-2022-002761": 1.0,
1612
+ "E-9-2022-002777": 1.0,
1613
+ "E-9-2022-002810": 0.0,
1614
+ "E-9-2022-002814": 1.0,
1615
+ "E-9-2022-002820": 0.0,
1616
+ "E-9-2022-002824": 0.0,
1617
+ "E-9-2022-002831": 0.0,
1618
+ "E-9-2022-002928": 0.0,
1619
+ "E-9-2022-002946": 1.0,
1620
+ "E-9-2022-002989": 0.0,
1621
+ "E-9-2022-003065": 0.0,
1622
+ "E-9-2022-003071": 0.0,
1623
+ "E-9-2022-003111": 0.0,
1624
+ "E-9-2022-003127": 0.0,
1625
+ "E-9-2022-003155": 1.0,
1626
+ "E-9-2022-003215": 1.0,
1627
+ "E-9-2022-003265": 0.0,
1628
+ "E-9-2022-003290": 1.0,
1629
+ "E-9-2022-003293": 0.0,
1630
+ "E-9-2022-003299": 0.0,
1631
+ "E-9-2022-003343": 0.0,
1632
+ "E-9-2022-003374": 1.0,
1633
+ "E-9-2022-003407": 0.0,
1634
+ "E-9-2022-003439": 1.0,
1635
+ "E-9-2022-003470": 1.0,
1636
+ "E-9-2022-003507": 0.0,
1637
+ "E-9-2022-003570": 0.0,
1638
+ "E-9-2022-003594": 0.0,
1639
+ "E-9-2022-003743": 0.0,
1640
+ "E-9-2022-003836": 0.0,
1641
+ "E-9-2022-003894": 1.0,
1642
+ "E-9-2022-003930": 1.0,
1643
+ "E-9-2022-004005": 0.0,
1644
+ "E-9-2022-004012": 1.0,
1645
+ "E-9-2022-004013": 0.0,
1646
+ "E-9-2022-004038": 0.0,
1647
+ "E-9-2022-004059": 0.0,
1648
+ "E-9-2022-004074": 0.0,
1649
+ "E-9-2022-004090": 0.0,
1650
+ "E-9-2022-004116": 0.0,
1651
+ "E-9-2022-004149": 0.0,
1652
+ "E-9-2023-000017": 0.0,
1653
+ "E-9-2023-000037": 1.0,
1654
+ "E-9-2023-000073": 0.0,
1655
+ "E-9-2023-000105": 0.0,
1656
+ "E-9-2023-000108": 0.0,
1657
+ "E-9-2023-000113": 0.0,
1658
+ "E-9-2023-000141": 0.0,
1659
+ "E-9-2023-000166": 0.0,
1660
+ "E-9-2023-000172": 1.0,
1661
+ "E-9-2023-000221": 0.0,
1662
+ "E-9-2023-000238": 0.0,
1663
+ "E-9-2023-000282": 1.0,
1664
+ "E-9-2023-000331": 0.0,
1665
+ "E-9-2023-000360": 0.0,
1666
+ "E-9-2023-000476": 1.0,
1667
+ "E-9-2023-000511": 0.0,
1668
+ "E-9-2023-000526": 0.0,
1669
+ "E-9-2023-000529": 0.0,
1670
+ "E-9-2023-000533": 0.0,
1671
+ "E-9-2023-000550": 0.0,
1672
+ "E-9-2023-000553": 0.0,
1673
+ "E-9-2023-000589": 1.0,
1674
+ "E-9-2023-000617": 0.0,
1675
+ "E-9-2023-000666": 1.0,
1676
+ "E-9-2023-000773": 0.0,
1677
+ "E-9-2023-000871": 1.0,
1678
+ "E-9-2023-000918": 0.0,
1679
+ "E-9-2023-000992": 0.0,
1680
+ "E-9-2023-001006": 1.0,
1681
+ "E-9-2023-001048": 0.0,
1682
+ "E-9-2023-001148": 0.0,
1683
+ "E-9-2023-001188": 0.0,
1684
+ "E-9-2023-001237": 1.0,
1685
+ "E-9-2023-001247": 1.0,
1686
+ "E-9-2023-001280": 0.0,
1687
+ "E-9-2023-001318": 0.0,
1688
+ "E-9-2023-001322": 0.0,
1689
+ "E-9-2023-001346": 0.0,
1690
+ "E-9-2023-001358": 0.0,
1691
+ "E-9-2023-001426": 1.0,
1692
+ "E-9-2023-001437": 0.0,
1693
+ "E-9-2023-001454": 0.0,
1694
+ "E-9-2023-001458": 0.0,
1695
+ "E-9-2023-001491": 0.0,
1696
+ "E-9-2023-001520": 0.0,
1697
+ "E-9-2023-001538": 0.0,
1698
+ "E-9-2023-001600": 0.0,
1699
+ "E-9-2023-001611": 0.0,
1700
+ "E-9-2023-001615": 1.0,
1701
+ "E-9-2023-001638": 0.0,
1702
+ "E-9-2023-001685": 0.0,
1703
+ "E-9-2023-001692": 0.0,
1704
+ "E-9-2023-001758": 1.0,
1705
+ "E-9-2023-001819": 0.0,
1706
+ "E-9-2023-001839": 0.0,
1707
+ "E-9-2023-001846": 0.0,
1708
+ "E-9-2023-001859": 0.0,
1709
+ "E-9-2023-001877": 0.0,
1710
+ "E-9-2023-001904": 0.0,
1711
+ "E-9-2023-001982": 0.0,
1712
+ "E-9-2023-002001": 1.0,
1713
+ "E-9-2023-002033": 0.0,
1714
+ "E-9-2023-002095": 0.0,
1715
+ "E-9-2023-002103": 1.0,
1716
+ "E-9-2023-002115": 1.0,
1717
+ "E-9-2023-002178": 0.0,
1718
+ "E-9-2023-002186": 1.0,
1719
+ "E-9-2023-002240": 0.0,
1720
+ "E-9-2023-002242": 0.0,
1721
+ "E-9-2023-002281": 0.0,
1722
+ "E-9-2023-002383": 1.0,
1723
+ "E-9-2023-002395": 1.0,
1724
+ "E-9-2023-002442": 0.0,
1725
+ "E-9-2023-002479": 0.0,
1726
+ "E-9-2023-002505": 0.0,
1727
+ "E-9-2023-002509": 0.0,
1728
+ "E-9-2023-002540": 0.0,
1729
+ "E-9-2023-002584": 0.0,
1730
+ "E-9-2023-002610": 0.0,
1731
+ "E-9-2023-002625": 0.0,
1732
+ "E-9-2023-002637": 1.0,
1733
+ "E-9-2023-002640": 1.0,
1734
+ "E-9-2023-002675": 0.0,
1735
+ "E-9-2023-002683": 1.0,
1736
+ "E-9-2023-002699": 1.0,
1737
+ "E-9-2023-002743": 0.0,
1738
+ "E-9-2023-002751": 0.0,
1739
+ "E-9-2023-002758": 0.0,
1740
+ "E-9-2023-002815": 0.0,
1741
+ "E-9-2023-002816": 0.0,
1742
+ "E-9-2023-002833": 1.0,
1743
+ "E-9-2023-002883": 0.0,
1744
+ "E-9-2023-002980": 1.0,
1745
+ "E-9-2023-002994": 1.0,
1746
+ "E-9-2023-003002": 0.0,
1747
+ "E-9-2023-003022": 0.0,
1748
+ "E-9-2023-003040": 1.0,
1749
+ "E-9-2023-003117": 0.0,
1750
+ "E-9-2023-003122": 1.0,
1751
+ "E-9-2023-003167": 0.0,
1752
+ "E-9-2023-003215": 0.0,
1753
+ "E-9-2023-003326": 1.0,
1754
+ "E-9-2023-003373": 0.0,
1755
+ "E-9-2023-003386": 0.0,
1756
+ "E-9-2023-003391": 1.0,
1757
+ "E-9-2023-003404": 0.0,
1758
+ "E-9-2023-003408": 0.0,
1759
+ "E-9-2023-003419": 1.0,
1760
+ "E-9-2023-003430": 1.0,
1761
+ "E-9-2023-003439": 0.0,
1762
+ "E-9-2023-003453": 1.0,
1763
+ "E-9-2023-003457": 1.0,
1764
+ "E-9-2023-003492": 0.0,
1765
+ "E-9-2023-003533": 1.0,
1766
+ "E-9-2023-003602": 0.0,
1767
+ "E-9-2023-003607": 0.0,
1768
+ "E-9-2023-003675": 0.0,
1769
+ "E-9-2023-003685": 0.0,
1770
+ "E-9-2023-003728": 0.0,
1771
+ "E-9-2023-003749": 1.0,
1772
+ "E-9-2023-003754": 0.0,
1773
+ "P-9-2022-000135": 0.0,
1774
+ "P-9-2022-000661": 0.0,
1775
+ "P-9-2022-001060": 1.0,
1776
+ "P-9-2022-001119": 0.0,
1777
+ "P-9-2022-001271": 0.0,
1778
+ "P-9-2022-001337": 0.0,
1779
+ "P-9-2022-001416": 0.0,
1780
+ "P-9-2022-001521": 0.0,
1781
+ "P-9-2022-001555": 0.0,
1782
+ "P-9-2022-001666": 0.0,
1783
+ "P-9-2022-002383": 0.0,
1784
+ "P-9-2022-002535": 0.0,
1785
+ "P-9-2022-002627": 0.0,
1786
+ "P-9-2022-002830": 0.0,
1787
+ "P-9-2022-002838": 0.0,
1788
+ "P-9-2022-002863": 0.0,
1789
+ "P-9-2022-003082": 0.0,
1790
+ "P-9-2022-003461": 0.0,
1791
+ "P-9-2022-003463": 0.0,
1792
+ "P-9-2022-003675": 0.0,
1793
+ "P-9-2023-000298": 0.0,
1794
+ "P-9-2023-000633": 0.0,
1795
+ "P-9-2023-000876": 0.0,
1796
+ "P-9-2023-001138": 0.0,
1797
+ "P-9-2023-001534": 0.0,
1798
+ "P-9-2023-001841": 1.0,
1799
+ "P-9-2023-002104": 1.0,
1800
+ "P-9-2023-002410": 0.0,
1801
+ "P-9-2023-002436": 0.0,
1802
+ "P-9-2023-002485": 1.0,
1803
+ "P-9-2023-002496": 0.0,
1804
+ "P-9-2023-002514": 1.0,
1805
+ "P-9-2023-002791": 0.0,
1806
+ "P-9-2023-002805": 1.0,
1807
+ "P-9-2023-002808": 1.0,
1808
+ "P-9-2023-002868": 0.0,
1809
+ "P-9-2023-003005": 0.0,
1810
+ "P-9-2023-003064": 0.0,
1811
+ "P-9-2023-003169": 0.0,
1812
+ "P-9-2023-003268": 0.0,
1813
+ "P-9-2023-003372": 0.0,
1814
+ "P-9-2023-003471": 0.0,
1815
+ "P-9-2023-003707": 1.0
1816
+ }
1817
+ }
1818
+ }
v1.0/experiments/runs/cite_train_bm25q2q_text.metrics.json ADDED
The diff for this file is too large to render. See raw diff
 
v1.0/experiments/runs/cite_train_me5-base_text.metrics.json ADDED
The diff for this file is too large to render. See raw diff
 
v1.0/experiments/runs/precedent_dev_bge-m3q2q_text.meta.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "build": "data/build/v1.0",
3
+ "build_manifest_sha": "a63cc3ff183111c94a25c37c8b9b08f6b4782ce5449147d20cd8d7cd425c40ba",
4
+ "task": "precedent",
5
+ "split": "dev",
6
+ "system": "bge-m3q2q",
7
+ "field": "text",
8
+ "k": 100,
9
+ "k1": 0.9,
10
+ "b": 0.4,
11
+ "n_queries": 252,
12
+ "n_docs": 76536,
13
+ "seconds": 2.9
14
+ }
v1.0/experiments/runs/precedent_dev_bge-m3q2q_text.run ADDED
The diff for this file is too large to render. See raw diff
 
v1.0/experiments/runs/precedent_dev_bm25q2q_text.metrics.json ADDED
@@ -0,0 +1,1536 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "aggregate": {
3
+ "RR@10": 0.5802894305870496,
4
+ "R@10": 0.7386904761904762,
5
+ "R@30": 0.8451058201058201,
6
+ "R@100": 0.907010582010582,
7
+ "nDCG@10": 0.6019513614829348,
8
+ "Success@1": 0.46825396825396826
9
+ },
10
+ "per_query": {
11
+ "RR@10": {
12
+ "E-9-2022-000040": 0.0,
13
+ "E-9-2022-000104": 1.0,
14
+ "E-9-2022-000148": 1.0,
15
+ "E-9-2022-000167": 1.0,
16
+ "E-9-2022-000169": 1.0,
17
+ "E-9-2022-000230": 0.3333333333333333,
18
+ "E-9-2022-000264": 0.0,
19
+ "E-9-2022-000285": 0.0,
20
+ "E-9-2022-000315": 0.5,
21
+ "E-9-2022-000391": 1.0,
22
+ "E-9-2022-000392": 1.0,
23
+ "E-9-2022-000398": 0.0,
24
+ "E-9-2022-000411": 1.0,
25
+ "E-9-2022-000423": 1.0,
26
+ "E-9-2022-000424": 0.5,
27
+ "E-9-2022-000447": 1.0,
28
+ "E-9-2022-000493": 0.2,
29
+ "E-9-2022-000495": 0.0,
30
+ "E-9-2022-000501": 0.0,
31
+ "E-9-2022-000502": 0.25,
32
+ "E-9-2022-000577": 1.0,
33
+ "E-9-2022-000578": 1.0,
34
+ "E-9-2022-000603": 1.0,
35
+ "E-9-2022-000608": 1.0,
36
+ "E-9-2022-000615": 0.3333333333333333,
37
+ "E-9-2022-000639": 1.0,
38
+ "E-9-2022-000667": 1.0,
39
+ "E-9-2022-000783": 1.0,
40
+ "E-9-2022-000797": 0.5,
41
+ "E-9-2022-001030": 1.0,
42
+ "E-9-2022-001097": 0.5,
43
+ "E-9-2022-001100": 0.3333333333333333,
44
+ "E-9-2022-001124": 0.5,
45
+ "E-9-2022-001178": 0.5,
46
+ "E-9-2022-001181": 1.0,
47
+ "E-9-2022-001189": 0.0,
48
+ "E-9-2022-001205": 1.0,
49
+ "E-9-2022-001244": 1.0,
50
+ "E-9-2022-001246": 0.3333333333333333,
51
+ "E-9-2022-001270": 1.0,
52
+ "E-9-2022-001284": 1.0,
53
+ "E-9-2022-001285": 0.16666666666666666,
54
+ "E-9-2022-001290": 0.0,
55
+ "E-9-2022-001347": 1.0,
56
+ "E-9-2022-001358": 0.5,
57
+ "E-9-2022-001373": 1.0,
58
+ "E-9-2022-001381": 0.5,
59
+ "E-9-2022-001394": 0.14285714285714285,
60
+ "E-9-2022-001402": 0.0,
61
+ "E-9-2022-001415": 1.0,
62
+ "E-9-2022-001475": 0.0,
63
+ "E-9-2022-001502": 0.0,
64
+ "E-9-2022-001507": 1.0,
65
+ "E-9-2022-001536": 0.14285714285714285,
66
+ "E-9-2022-001543": 1.0,
67
+ "E-9-2022-001546": 1.0,
68
+ "E-9-2022-001558": 0.0,
69
+ "E-9-2022-001567": 1.0,
70
+ "E-9-2022-001571": 1.0,
71
+ "E-9-2022-001592": 0.5,
72
+ "E-9-2022-001726": 0.0,
73
+ "E-9-2022-001764": 1.0,
74
+ "E-9-2022-001816": 1.0,
75
+ "E-9-2022-001852": 0.0,
76
+ "E-9-2022-001970": 0.14285714285714285,
77
+ "E-9-2022-002080": 1.0,
78
+ "E-9-2022-002101": 0.0,
79
+ "E-9-2022-002174": 1.0,
80
+ "E-9-2022-002205": 1.0,
81
+ "E-9-2022-002238": 0.0,
82
+ "E-9-2022-002266": 0.0,
83
+ "E-9-2022-002272": 1.0,
84
+ "E-9-2022-002299": 1.0,
85
+ "E-9-2022-002306": 0.0,
86
+ "E-9-2022-002405": 0.0,
87
+ "E-9-2022-002415": 0.0,
88
+ "E-9-2022-002432": 1.0,
89
+ "E-9-2022-002444": 1.0,
90
+ "E-9-2022-002475": 0.5,
91
+ "E-9-2022-002516": 0.14285714285714285,
92
+ "E-9-2022-002608": 0.25,
93
+ "E-9-2022-002670": 1.0,
94
+ "E-9-2022-002675": 0.5,
95
+ "E-9-2022-002761": 1.0,
96
+ "E-9-2022-002777": 1.0,
97
+ "E-9-2022-002820": 0.0,
98
+ "E-9-2022-002824": 1.0,
99
+ "E-9-2022-002831": 0.0,
100
+ "E-9-2022-002928": 0.5,
101
+ "E-9-2022-002946": 1.0,
102
+ "E-9-2022-002989": 0.0,
103
+ "E-9-2022-003065": 0.0,
104
+ "E-9-2022-003071": 0.5,
105
+ "E-9-2022-003111": 1.0,
106
+ "E-9-2022-003127": 0.5,
107
+ "E-9-2022-003155": 1.0,
108
+ "E-9-2022-003215": 0.5,
109
+ "E-9-2022-003265": 0.5,
110
+ "E-9-2022-003290": 1.0,
111
+ "E-9-2022-003293": 1.0,
112
+ "E-9-2022-003299": 1.0,
113
+ "E-9-2022-003343": 1.0,
114
+ "E-9-2022-003374": 1.0,
115
+ "E-9-2022-003407": 0.3333333333333333,
116
+ "E-9-2022-003439": 1.0,
117
+ "E-9-2022-003470": 1.0,
118
+ "E-9-2022-003507": 0.0,
119
+ "E-9-2022-003570": 0.0,
120
+ "E-9-2022-003743": 1.0,
121
+ "E-9-2022-003836": 0.5,
122
+ "E-9-2022-003894": 1.0,
123
+ "E-9-2022-003930": 1.0,
124
+ "E-9-2022-004012": 1.0,
125
+ "E-9-2022-004013": 0.14285714285714285,
126
+ "E-9-2022-004038": 0.0,
127
+ "E-9-2022-004074": 1.0,
128
+ "E-9-2022-004090": 0.0,
129
+ "E-9-2022-004116": 0.25,
130
+ "E-9-2022-004149": 0.3333333333333333,
131
+ "E-9-2023-000037": 0.125,
132
+ "E-9-2023-000073": 0.0,
133
+ "E-9-2023-000108": 0.5,
134
+ "E-9-2023-000113": 1.0,
135
+ "E-9-2023-000141": 1.0,
136
+ "E-9-2023-000166": 0.0,
137
+ "E-9-2023-000172": 1.0,
138
+ "E-9-2023-000238": 0.0,
139
+ "E-9-2023-000331": 0.2,
140
+ "E-9-2023-000360": 0.3333333333333333,
141
+ "E-9-2023-000476": 1.0,
142
+ "E-9-2023-000511": 0.1111111111111111,
143
+ "E-9-2023-000526": 0.5,
144
+ "E-9-2023-000529": 0.0,
145
+ "E-9-2023-000533": 0.1,
146
+ "E-9-2023-000550": 0.5,
147
+ "E-9-2023-000553": 0.0,
148
+ "E-9-2023-000589": 1.0,
149
+ "E-9-2023-000617": 1.0,
150
+ "E-9-2023-000666": 0.1111111111111111,
151
+ "E-9-2023-000918": 1.0,
152
+ "E-9-2023-000992": 1.0,
153
+ "E-9-2023-001048": 0.5,
154
+ "E-9-2023-001148": 0.0,
155
+ "E-9-2023-001188": 0.14285714285714285,
156
+ "E-9-2023-001237": 1.0,
157
+ "E-9-2023-001247": 1.0,
158
+ "E-9-2023-001318": 1.0,
159
+ "E-9-2023-001322": 0.5,
160
+ "E-9-2023-001346": 1.0,
161
+ "E-9-2023-001358": 0.3333333333333333,
162
+ "E-9-2023-001426": 1.0,
163
+ "E-9-2023-001437": 0.5,
164
+ "E-9-2023-001454": 0.5,
165
+ "E-9-2023-001458": 0.5,
166
+ "E-9-2023-001491": 0.0,
167
+ "E-9-2023-001520": 1.0,
168
+ "E-9-2023-001538": 0.0,
169
+ "E-9-2023-001600": 0.2,
170
+ "E-9-2023-001611": 0.5,
171
+ "E-9-2023-001638": 0.5,
172
+ "E-9-2023-001685": 0.5,
173
+ "E-9-2023-001692": 1.0,
174
+ "E-9-2023-001758": 0.0,
175
+ "E-9-2023-001819": 0.0,
176
+ "E-9-2023-001839": 1.0,
177
+ "E-9-2023-001846": 1.0,
178
+ "E-9-2023-001859": 0.0,
179
+ "E-9-2023-001877": 1.0,
180
+ "E-9-2023-001904": 1.0,
181
+ "E-9-2023-002095": 0.5,
182
+ "E-9-2023-002103": 1.0,
183
+ "E-9-2023-002115": 1.0,
184
+ "E-9-2023-002186": 1.0,
185
+ "E-9-2023-002240": 0.5,
186
+ "E-9-2023-002242": 1.0,
187
+ "E-9-2023-002281": 1.0,
188
+ "E-9-2023-002383": 1.0,
189
+ "E-9-2023-002395": 1.0,
190
+ "E-9-2023-002442": 1.0,
191
+ "E-9-2023-002479": 1.0,
192
+ "E-9-2023-002505": 1.0,
193
+ "E-9-2023-002509": 0.5,
194
+ "E-9-2023-002540": 1.0,
195
+ "E-9-2023-002610": 0.2,
196
+ "E-9-2023-002625": 0.5,
197
+ "E-9-2023-002637": 1.0,
198
+ "E-9-2023-002640": 1.0,
199
+ "E-9-2023-002683": 1.0,
200
+ "E-9-2023-002699": 0.16666666666666666,
201
+ "E-9-2023-002743": 0.0,
202
+ "E-9-2023-002751": 0.0,
203
+ "E-9-2023-002758": 0.0,
204
+ "E-9-2023-002815": 1.0,
205
+ "E-9-2023-002833": 1.0,
206
+ "E-9-2023-002883": 0.5,
207
+ "E-9-2023-002980": 1.0,
208
+ "E-9-2023-002994": 1.0,
209
+ "E-9-2023-003002": 0.0,
210
+ "E-9-2023-003022": 0.2,
211
+ "E-9-2023-003117": 0.14285714285714285,
212
+ "E-9-2023-003122": 1.0,
213
+ "E-9-2023-003167": 0.14285714285714285,
214
+ "E-9-2023-003215": 0.14285714285714285,
215
+ "E-9-2023-003326": 1.0,
216
+ "E-9-2023-003373": 0.0,
217
+ "E-9-2023-003404": 0.0,
218
+ "E-9-2023-003408": 0.16666666666666666,
219
+ "E-9-2023-003419": 1.0,
220
+ "E-9-2023-003439": 0.0,
221
+ "E-9-2023-003453": 1.0,
222
+ "E-9-2023-003492": 1.0,
223
+ "E-9-2023-003533": 1.0,
224
+ "E-9-2023-003602": 0.25,
225
+ "E-9-2023-003607": 0.5,
226
+ "E-9-2023-003675": 0.16666666666666666,
227
+ "E-9-2023-003685": 0.5,
228
+ "E-9-2023-003728": 0.0,
229
+ "E-9-2023-003749": 1.0,
230
+ "E-9-2023-003754": 0.3333333333333333,
231
+ "P-9-2022-000135": 0.5,
232
+ "P-9-2022-000661": 1.0,
233
+ "P-9-2022-001119": 0.2,
234
+ "P-9-2022-001271": 1.0,
235
+ "P-9-2022-001337": 1.0,
236
+ "P-9-2022-001555": 0.16666666666666666,
237
+ "P-9-2022-001666": 0.0,
238
+ "P-9-2022-002383": 0.16666666666666666,
239
+ "P-9-2022-002535": 0.2,
240
+ "P-9-2022-002627": 0.5,
241
+ "P-9-2022-002830": 1.0,
242
+ "P-9-2022-002838": 1.0,
243
+ "P-9-2022-002863": 0.3333333333333333,
244
+ "P-9-2022-003463": 0.0,
245
+ "P-9-2022-003675": 1.0,
246
+ "P-9-2023-000633": 0.0,
247
+ "P-9-2023-001534": 0.0,
248
+ "P-9-2023-001841": 0.3333333333333333,
249
+ "P-9-2023-002104": 1.0,
250
+ "P-9-2023-002410": 1.0,
251
+ "P-9-2023-002436": 1.0,
252
+ "P-9-2023-002485": 1.0,
253
+ "P-9-2023-002496": 0.0,
254
+ "P-9-2023-002514": 1.0,
255
+ "P-9-2023-002791": 0.3333333333333333,
256
+ "P-9-2023-002805": 1.0,
257
+ "P-9-2023-002808": 1.0,
258
+ "P-9-2023-003005": 0.5,
259
+ "P-9-2023-003169": 1.0,
260
+ "P-9-2023-003268": 0.1,
261
+ "P-9-2023-003372": 1.0,
262
+ "P-9-2023-003471": 0.0,
263
+ "P-9-2023-003707": 1.0
264
+ },
265
+ "R@10": {
266
+ "E-9-2022-000040": 0.0,
267
+ "E-9-2022-000104": 1.0,
268
+ "E-9-2022-000148": 0.5,
269
+ "E-9-2022-000167": 1.0,
270
+ "E-9-2022-000169": 1.0,
271
+ "E-9-2022-000230": 0.5,
272
+ "E-9-2022-000264": 0.0,
273
+ "E-9-2022-000285": 0.0,
274
+ "E-9-2022-000315": 0.75,
275
+ "E-9-2022-000391": 1.0,
276
+ "E-9-2022-000392": 1.0,
277
+ "E-9-2022-000398": 0.0,
278
+ "E-9-2022-000411": 1.0,
279
+ "E-9-2022-000423": 1.0,
280
+ "E-9-2022-000424": 1.0,
281
+ "E-9-2022-000447": 1.0,
282
+ "E-9-2022-000493": 0.3,
283
+ "E-9-2022-000495": 0.0,
284
+ "E-9-2022-000501": 0.0,
285
+ "E-9-2022-000502": 1.0,
286
+ "E-9-2022-000577": 1.0,
287
+ "E-9-2022-000578": 1.0,
288
+ "E-9-2022-000603": 1.0,
289
+ "E-9-2022-000608": 1.0,
290
+ "E-9-2022-000615": 1.0,
291
+ "E-9-2022-000639": 1.0,
292
+ "E-9-2022-000667": 1.0,
293
+ "E-9-2022-000783": 1.0,
294
+ "E-9-2022-000797": 1.0,
295
+ "E-9-2022-001030": 1.0,
296
+ "E-9-2022-001097": 1.0,
297
+ "E-9-2022-001100": 1.0,
298
+ "E-9-2022-001124": 1.0,
299
+ "E-9-2022-001178": 1.0,
300
+ "E-9-2022-001181": 0.25,
301
+ "E-9-2022-001189": 0.0,
302
+ "E-9-2022-001205": 1.0,
303
+ "E-9-2022-001244": 1.0,
304
+ "E-9-2022-001246": 0.5,
305
+ "E-9-2022-001270": 1.0,
306
+ "E-9-2022-001284": 1.0,
307
+ "E-9-2022-001285": 1.0,
308
+ "E-9-2022-001290": 0.0,
309
+ "E-9-2022-001347": 0.5,
310
+ "E-9-2022-001358": 1.0,
311
+ "E-9-2022-001373": 1.0,
312
+ "E-9-2022-001381": 1.0,
313
+ "E-9-2022-001394": 1.0,
314
+ "E-9-2022-001402": 0.0,
315
+ "E-9-2022-001415": 1.0,
316
+ "E-9-2022-001475": 0.0,
317
+ "E-9-2022-001502": 0.0,
318
+ "E-9-2022-001507": 1.0,
319
+ "E-9-2022-001536": 1.0,
320
+ "E-9-2022-001543": 1.0,
321
+ "E-9-2022-001546": 1.0,
322
+ "E-9-2022-001558": 0.0,
323
+ "E-9-2022-001567": 1.0,
324
+ "E-9-2022-001571": 1.0,
325
+ "E-9-2022-001592": 1.0,
326
+ "E-9-2022-001726": 0.0,
327
+ "E-9-2022-001764": 1.0,
328
+ "E-9-2022-001816": 1.0,
329
+ "E-9-2022-001852": 0.0,
330
+ "E-9-2022-001970": 1.0,
331
+ "E-9-2022-002080": 1.0,
332
+ "E-9-2022-002101": 0.0,
333
+ "E-9-2022-002174": 1.0,
334
+ "E-9-2022-002205": 1.0,
335
+ "E-9-2022-002238": 0.0,
336
+ "E-9-2022-002266": 0.0,
337
+ "E-9-2022-002272": 0.5,
338
+ "E-9-2022-002299": 1.0,
339
+ "E-9-2022-002306": 0.0,
340
+ "E-9-2022-002405": 0.0,
341
+ "E-9-2022-002415": 0.0,
342
+ "E-9-2022-002432": 1.0,
343
+ "E-9-2022-002444": 1.0,
344
+ "E-9-2022-002475": 1.0,
345
+ "E-9-2022-002516": 0.5,
346
+ "E-9-2022-002608": 1.0,
347
+ "E-9-2022-002670": 1.0,
348
+ "E-9-2022-002675": 1.0,
349
+ "E-9-2022-002761": 1.0,
350
+ "E-9-2022-002777": 1.0,
351
+ "E-9-2022-002820": 0.0,
352
+ "E-9-2022-002824": 1.0,
353
+ "E-9-2022-002831": 0.0,
354
+ "E-9-2022-002928": 1.0,
355
+ "E-9-2022-002946": 1.0,
356
+ "E-9-2022-002989": 0.0,
357
+ "E-9-2022-003065": 0.0,
358
+ "E-9-2022-003071": 1.0,
359
+ "E-9-2022-003111": 1.0,
360
+ "E-9-2022-003127": 0.6666666666666666,
361
+ "E-9-2022-003155": 1.0,
362
+ "E-9-2022-003215": 1.0,
363
+ "E-9-2022-003265": 1.0,
364
+ "E-9-2022-003290": 1.0,
365
+ "E-9-2022-003293": 1.0,
366
+ "E-9-2022-003299": 1.0,
367
+ "E-9-2022-003343": 1.0,
368
+ "E-9-2022-003374": 1.0,
369
+ "E-9-2022-003407": 1.0,
370
+ "E-9-2022-003439": 1.0,
371
+ "E-9-2022-003470": 0.5,
372
+ "E-9-2022-003507": 0.0,
373
+ "E-9-2022-003570": 0.0,
374
+ "E-9-2022-003743": 1.0,
375
+ "E-9-2022-003836": 1.0,
376
+ "E-9-2022-003894": 1.0,
377
+ "E-9-2022-003930": 1.0,
378
+ "E-9-2022-004012": 1.0,
379
+ "E-9-2022-004013": 1.0,
380
+ "E-9-2022-004038": 0.0,
381
+ "E-9-2022-004074": 1.0,
382
+ "E-9-2022-004090": 0.0,
383
+ "E-9-2022-004116": 1.0,
384
+ "E-9-2022-004149": 1.0,
385
+ "E-9-2023-000037": 0.5,
386
+ "E-9-2023-000073": 0.0,
387
+ "E-9-2023-000108": 1.0,
388
+ "E-9-2023-000113": 1.0,
389
+ "E-9-2023-000141": 1.0,
390
+ "E-9-2023-000166": 0.0,
391
+ "E-9-2023-000172": 1.0,
392
+ "E-9-2023-000238": 0.0,
393
+ "E-9-2023-000331": 1.0,
394
+ "E-9-2023-000360": 1.0,
395
+ "E-9-2023-000476": 1.0,
396
+ "E-9-2023-000511": 1.0,
397
+ "E-9-2023-000526": 1.0,
398
+ "E-9-2023-000529": 0.0,
399
+ "E-9-2023-000533": 0.5,
400
+ "E-9-2023-000550": 1.0,
401
+ "E-9-2023-000553": 0.0,
402
+ "E-9-2023-000589": 1.0,
403
+ "E-9-2023-000617": 1.0,
404
+ "E-9-2023-000666": 1.0,
405
+ "E-9-2023-000918": 1.0,
406
+ "E-9-2023-000992": 1.0,
407
+ "E-9-2023-001048": 1.0,
408
+ "E-9-2023-001148": 0.0,
409
+ "E-9-2023-001188": 1.0,
410
+ "E-9-2023-001237": 1.0,
411
+ "E-9-2023-001247": 1.0,
412
+ "E-9-2023-001318": 1.0,
413
+ "E-9-2023-001322": 1.0,
414
+ "E-9-2023-001346": 1.0,
415
+ "E-9-2023-001358": 1.0,
416
+ "E-9-2023-001426": 1.0,
417
+ "E-9-2023-001437": 1.0,
418
+ "E-9-2023-001454": 1.0,
419
+ "E-9-2023-001458": 1.0,
420
+ "E-9-2023-001491": 0.0,
421
+ "E-9-2023-001520": 1.0,
422
+ "E-9-2023-001538": 0.0,
423
+ "E-9-2023-001600": 1.0,
424
+ "E-9-2023-001611": 0.5,
425
+ "E-9-2023-001638": 0.6,
426
+ "E-9-2023-001685": 1.0,
427
+ "E-9-2023-001692": 1.0,
428
+ "E-9-2023-001758": 0.0,
429
+ "E-9-2023-001819": 0.0,
430
+ "E-9-2023-001839": 1.0,
431
+ "E-9-2023-001846": 1.0,
432
+ "E-9-2023-001859": 0.0,
433
+ "E-9-2023-001877": 1.0,
434
+ "E-9-2023-001904": 1.0,
435
+ "E-9-2023-002095": 1.0,
436
+ "E-9-2023-002103": 1.0,
437
+ "E-9-2023-002115": 1.0,
438
+ "E-9-2023-002186": 1.0,
439
+ "E-9-2023-002240": 1.0,
440
+ "E-9-2023-002242": 1.0,
441
+ "E-9-2023-002281": 1.0,
442
+ "E-9-2023-002383": 1.0,
443
+ "E-9-2023-002395": 1.0,
444
+ "E-9-2023-002442": 1.0,
445
+ "E-9-2023-002479": 1.0,
446
+ "E-9-2023-002505": 1.0,
447
+ "E-9-2023-002509": 1.0,
448
+ "E-9-2023-002540": 1.0,
449
+ "E-9-2023-002610": 1.0,
450
+ "E-9-2023-002625": 1.0,
451
+ "E-9-2023-002637": 1.0,
452
+ "E-9-2023-002640": 1.0,
453
+ "E-9-2023-002683": 1.0,
454
+ "E-9-2023-002699": 1.0,
455
+ "E-9-2023-002743": 0.0,
456
+ "E-9-2023-002751": 0.0,
457
+ "E-9-2023-002758": 0.0,
458
+ "E-9-2023-002815": 0.5,
459
+ "E-9-2023-002833": 1.0,
460
+ "E-9-2023-002883": 0.5,
461
+ "E-9-2023-002980": 1.0,
462
+ "E-9-2023-002994": 1.0,
463
+ "E-9-2023-003002": 0.0,
464
+ "E-9-2023-003022": 1.0,
465
+ "E-9-2023-003117": 0.5,
466
+ "E-9-2023-003122": 1.0,
467
+ "E-9-2023-003167": 1.0,
468
+ "E-9-2023-003215": 0.25,
469
+ "E-9-2023-003326": 1.0,
470
+ "E-9-2023-003373": 0.0,
471
+ "E-9-2023-003404": 0.0,
472
+ "E-9-2023-003408": 1.0,
473
+ "E-9-2023-003419": 1.0,
474
+ "E-9-2023-003439": 0.0,
475
+ "E-9-2023-003453": 1.0,
476
+ "E-9-2023-003492": 1.0,
477
+ "E-9-2023-003533": 1.0,
478
+ "E-9-2023-003602": 1.0,
479
+ "E-9-2023-003607": 1.0,
480
+ "E-9-2023-003675": 1.0,
481
+ "E-9-2023-003685": 1.0,
482
+ "E-9-2023-003728": 0.0,
483
+ "E-9-2023-003749": 1.0,
484
+ "E-9-2023-003754": 0.5,
485
+ "P-9-2022-000135": 1.0,
486
+ "P-9-2022-000661": 1.0,
487
+ "P-9-2022-001119": 0.5,
488
+ "P-9-2022-001271": 0.5,
489
+ "P-9-2022-001337": 1.0,
490
+ "P-9-2022-001555": 1.0,
491
+ "P-9-2022-001666": 0.0,
492
+ "P-9-2022-002383": 1.0,
493
+ "P-9-2022-002535": 1.0,
494
+ "P-9-2022-002627": 1.0,
495
+ "P-9-2022-002830": 0.75,
496
+ "P-9-2022-002838": 0.75,
497
+ "P-9-2022-002863": 0.5,
498
+ "P-9-2022-003463": 0.0,
499
+ "P-9-2022-003675": 1.0,
500
+ "P-9-2023-000633": 0.0,
501
+ "P-9-2023-001534": 0.0,
502
+ "P-9-2023-001841": 1.0,
503
+ "P-9-2023-002104": 1.0,
504
+ "P-9-2023-002410": 1.0,
505
+ "P-9-2023-002436": 1.0,
506
+ "P-9-2023-002485": 1.0,
507
+ "P-9-2023-002496": 0.0,
508
+ "P-9-2023-002514": 1.0,
509
+ "P-9-2023-002791": 1.0,
510
+ "P-9-2023-002805": 1.0,
511
+ "P-9-2023-002808": 1.0,
512
+ "P-9-2023-003005": 0.3333333333333333,
513
+ "P-9-2023-003169": 1.0,
514
+ "P-9-2023-003268": 1.0,
515
+ "P-9-2023-003372": 1.0,
516
+ "P-9-2023-003471": 0.0,
517
+ "P-9-2023-003707": 1.0
518
+ },
519
+ "R@30": {
520
+ "E-9-2022-000040": 0.4,
521
+ "E-9-2022-000104": 1.0,
522
+ "E-9-2022-000148": 1.0,
523
+ "E-9-2022-000167": 1.0,
524
+ "E-9-2022-000169": 1.0,
525
+ "E-9-2022-000230": 1.0,
526
+ "E-9-2022-000264": 0.75,
527
+ "E-9-2022-000285": 0.6666666666666666,
528
+ "E-9-2022-000315": 1.0,
529
+ "E-9-2022-000391": 1.0,
530
+ "E-9-2022-000392": 1.0,
531
+ "E-9-2022-000398": 0.0,
532
+ "E-9-2022-000411": 1.0,
533
+ "E-9-2022-000423": 1.0,
534
+ "E-9-2022-000424": 1.0,
535
+ "E-9-2022-000447": 1.0,
536
+ "E-9-2022-000493": 0.6,
537
+ "E-9-2022-000495": 1.0,
538
+ "E-9-2022-000501": 0.0,
539
+ "E-9-2022-000502": 1.0,
540
+ "E-9-2022-000577": 1.0,
541
+ "E-9-2022-000578": 1.0,
542
+ "E-9-2022-000603": 1.0,
543
+ "E-9-2022-000608": 1.0,
544
+ "E-9-2022-000615": 1.0,
545
+ "E-9-2022-000639": 1.0,
546
+ "E-9-2022-000667": 1.0,
547
+ "E-9-2022-000783": 1.0,
548
+ "E-9-2022-000797": 1.0,
549
+ "E-9-2022-001030": 1.0,
550
+ "E-9-2022-001097": 1.0,
551
+ "E-9-2022-001100": 1.0,
552
+ "E-9-2022-001124": 1.0,
553
+ "E-9-2022-001178": 1.0,
554
+ "E-9-2022-001181": 0.25,
555
+ "E-9-2022-001189": 0.0,
556
+ "E-9-2022-001205": 1.0,
557
+ "E-9-2022-001244": 1.0,
558
+ "E-9-2022-001246": 1.0,
559
+ "E-9-2022-001270": 1.0,
560
+ "E-9-2022-001284": 1.0,
561
+ "E-9-2022-001285": 1.0,
562
+ "E-9-2022-001290": 0.5,
563
+ "E-9-2022-001347": 1.0,
564
+ "E-9-2022-001358": 1.0,
565
+ "E-9-2022-001373": 1.0,
566
+ "E-9-2022-001381": 1.0,
567
+ "E-9-2022-001394": 1.0,
568
+ "E-9-2022-001402": 0.5,
569
+ "E-9-2022-001415": 1.0,
570
+ "E-9-2022-001475": 0.0,
571
+ "E-9-2022-001502": 1.0,
572
+ "E-9-2022-001507": 1.0,
573
+ "E-9-2022-001536": 1.0,
574
+ "E-9-2022-001543": 1.0,
575
+ "E-9-2022-001546": 1.0,
576
+ "E-9-2022-001558": 1.0,
577
+ "E-9-2022-001567": 1.0,
578
+ "E-9-2022-001571": 1.0,
579
+ "E-9-2022-001592": 1.0,
580
+ "E-9-2022-001726": 0.0,
581
+ "E-9-2022-001764": 1.0,
582
+ "E-9-2022-001816": 1.0,
583
+ "E-9-2022-001852": 1.0,
584
+ "E-9-2022-001970": 1.0,
585
+ "E-9-2022-002080": 1.0,
586
+ "E-9-2022-002101": 0.3333333333333333,
587
+ "E-9-2022-002174": 1.0,
588
+ "E-9-2022-002205": 1.0,
589
+ "E-9-2022-002238": 0.0,
590
+ "E-9-2022-002266": 1.0,
591
+ "E-9-2022-002272": 0.5,
592
+ "E-9-2022-002299": 1.0,
593
+ "E-9-2022-002306": 0.0,
594
+ "E-9-2022-002405": 0.5,
595
+ "E-9-2022-002415": 0.0,
596
+ "E-9-2022-002432": 1.0,
597
+ "E-9-2022-002444": 1.0,
598
+ "E-9-2022-002475": 1.0,
599
+ "E-9-2022-002516": 0.5,
600
+ "E-9-2022-002608": 1.0,
601
+ "E-9-2022-002670": 1.0,
602
+ "E-9-2022-002675": 1.0,
603
+ "E-9-2022-002761": 1.0,
604
+ "E-9-2022-002777": 1.0,
605
+ "E-9-2022-002820": 0.0,
606
+ "E-9-2022-002824": 1.0,
607
+ "E-9-2022-002831": 0.0,
608
+ "E-9-2022-002928": 1.0,
609
+ "E-9-2022-002946": 1.0,
610
+ "E-9-2022-002989": 1.0,
611
+ "E-9-2022-003065": 0.0,
612
+ "E-9-2022-003071": 1.0,
613
+ "E-9-2022-003111": 1.0,
614
+ "E-9-2022-003127": 0.6666666666666666,
615
+ "E-9-2022-003155": 1.0,
616
+ "E-9-2022-003215": 1.0,
617
+ "E-9-2022-003265": 1.0,
618
+ "E-9-2022-003290": 1.0,
619
+ "E-9-2022-003293": 1.0,
620
+ "E-9-2022-003299": 1.0,
621
+ "E-9-2022-003343": 1.0,
622
+ "E-9-2022-003374": 1.0,
623
+ "E-9-2022-003407": 1.0,
624
+ "E-9-2022-003439": 1.0,
625
+ "E-9-2022-003470": 0.5,
626
+ "E-9-2022-003507": 1.0,
627
+ "E-9-2022-003570": 1.0,
628
+ "E-9-2022-003743": 1.0,
629
+ "E-9-2022-003836": 1.0,
630
+ "E-9-2022-003894": 1.0,
631
+ "E-9-2022-003930": 1.0,
632
+ "E-9-2022-004012": 1.0,
633
+ "E-9-2022-004013": 1.0,
634
+ "E-9-2022-004038": 0.0,
635
+ "E-9-2022-004074": 1.0,
636
+ "E-9-2022-004090": 1.0,
637
+ "E-9-2022-004116": 1.0,
638
+ "E-9-2022-004149": 1.0,
639
+ "E-9-2023-000037": 0.5,
640
+ "E-9-2023-000073": 0.5,
641
+ "E-9-2023-000108": 1.0,
642
+ "E-9-2023-000113": 1.0,
643
+ "E-9-2023-000141": 1.0,
644
+ "E-9-2023-000166": 1.0,
645
+ "E-9-2023-000172": 1.0,
646
+ "E-9-2023-000238": 0.0,
647
+ "E-9-2023-000331": 1.0,
648
+ "E-9-2023-000360": 1.0,
649
+ "E-9-2023-000476": 1.0,
650
+ "E-9-2023-000511": 1.0,
651
+ "E-9-2023-000526": 1.0,
652
+ "E-9-2023-000529": 0.0,
653
+ "E-9-2023-000533": 0.5,
654
+ "E-9-2023-000550": 1.0,
655
+ "E-9-2023-000553": 1.0,
656
+ "E-9-2023-000589": 1.0,
657
+ "E-9-2023-000617": 1.0,
658
+ "E-9-2023-000666": 1.0,
659
+ "E-9-2023-000918": 1.0,
660
+ "E-9-2023-000992": 1.0,
661
+ "E-9-2023-001048": 1.0,
662
+ "E-9-2023-001148": 0.0,
663
+ "E-9-2023-001188": 1.0,
664
+ "E-9-2023-001237": 1.0,
665
+ "E-9-2023-001247": 1.0,
666
+ "E-9-2023-001318": 1.0,
667
+ "E-9-2023-001322": 1.0,
668
+ "E-9-2023-001346": 1.0,
669
+ "E-9-2023-001358": 1.0,
670
+ "E-9-2023-001426": 1.0,
671
+ "E-9-2023-001437": 1.0,
672
+ "E-9-2023-001454": 1.0,
673
+ "E-9-2023-001458": 1.0,
674
+ "E-9-2023-001491": 0.0,
675
+ "E-9-2023-001520": 1.0,
676
+ "E-9-2023-001538": 0.0,
677
+ "E-9-2023-001600": 1.0,
678
+ "E-9-2023-001611": 1.0,
679
+ "E-9-2023-001638": 0.8,
680
+ "E-9-2023-001685": 1.0,
681
+ "E-9-2023-001692": 1.0,
682
+ "E-9-2023-001758": 0.3333333333333333,
683
+ "E-9-2023-001819": 0.0,
684
+ "E-9-2023-001839": 1.0,
685
+ "E-9-2023-001846": 1.0,
686
+ "E-9-2023-001859": 0.0,
687
+ "E-9-2023-001877": 1.0,
688
+ "E-9-2023-001904": 1.0,
689
+ "E-9-2023-002095": 1.0,
690
+ "E-9-2023-002103": 1.0,
691
+ "E-9-2023-002115": 1.0,
692
+ "E-9-2023-002186": 1.0,
693
+ "E-9-2023-002240": 1.0,
694
+ "E-9-2023-002242": 1.0,
695
+ "E-9-2023-002281": 1.0,
696
+ "E-9-2023-002383": 1.0,
697
+ "E-9-2023-002395": 1.0,
698
+ "E-9-2023-002442": 1.0,
699
+ "E-9-2023-002479": 1.0,
700
+ "E-9-2023-002505": 1.0,
701
+ "E-9-2023-002509": 1.0,
702
+ "E-9-2023-002540": 1.0,
703
+ "E-9-2023-002610": 1.0,
704
+ "E-9-2023-002625": 1.0,
705
+ "E-9-2023-002637": 1.0,
706
+ "E-9-2023-002640": 1.0,
707
+ "E-9-2023-002683": 1.0,
708
+ "E-9-2023-002699": 1.0,
709
+ "E-9-2023-002743": 1.0,
710
+ "E-9-2023-002751": 0.0,
711
+ "E-9-2023-002758": 1.0,
712
+ "E-9-2023-002815": 0.5,
713
+ "E-9-2023-002833": 1.0,
714
+ "E-9-2023-002883": 1.0,
715
+ "E-9-2023-002980": 1.0,
716
+ "E-9-2023-002994": 1.0,
717
+ "E-9-2023-003002": 0.0,
718
+ "E-9-2023-003022": 1.0,
719
+ "E-9-2023-003117": 1.0,
720
+ "E-9-2023-003122": 1.0,
721
+ "E-9-2023-003167": 1.0,
722
+ "E-9-2023-003215": 0.5,
723
+ "E-9-2023-003326": 1.0,
724
+ "E-9-2023-003373": 1.0,
725
+ "E-9-2023-003404": 0.0,
726
+ "E-9-2023-003408": 1.0,
727
+ "E-9-2023-003419": 1.0,
728
+ "E-9-2023-003439": 0.0,
729
+ "E-9-2023-003453": 1.0,
730
+ "E-9-2023-003492": 1.0,
731
+ "E-9-2023-003533": 1.0,
732
+ "E-9-2023-003602": 1.0,
733
+ "E-9-2023-003607": 1.0,
734
+ "E-9-2023-003675": 1.0,
735
+ "E-9-2023-003685": 1.0,
736
+ "E-9-2023-003728": 0.0,
737
+ "E-9-2023-003749": 1.0,
738
+ "E-9-2023-003754": 1.0,
739
+ "P-9-2022-000135": 1.0,
740
+ "P-9-2022-000661": 1.0,
741
+ "P-9-2022-001119": 1.0,
742
+ "P-9-2022-001271": 0.5,
743
+ "P-9-2022-001337": 1.0,
744
+ "P-9-2022-001555": 1.0,
745
+ "P-9-2022-001666": 0.0,
746
+ "P-9-2022-002383": 1.0,
747
+ "P-9-2022-002535": 1.0,
748
+ "P-9-2022-002627": 1.0,
749
+ "P-9-2022-002830": 1.0,
750
+ "P-9-2022-002838": 1.0,
751
+ "P-9-2022-002863": 1.0,
752
+ "P-9-2022-003463": 0.0,
753
+ "P-9-2022-003675": 1.0,
754
+ "P-9-2023-000633": 0.0,
755
+ "P-9-2023-001534": 0.5,
756
+ "P-9-2023-001841": 1.0,
757
+ "P-9-2023-002104": 1.0,
758
+ "P-9-2023-002410": 1.0,
759
+ "P-9-2023-002436": 1.0,
760
+ "P-9-2023-002485": 1.0,
761
+ "P-9-2023-002496": 1.0,
762
+ "P-9-2023-002514": 1.0,
763
+ "P-9-2023-002791": 1.0,
764
+ "P-9-2023-002805": 1.0,
765
+ "P-9-2023-002808": 1.0,
766
+ "P-9-2023-003005": 0.6666666666666666,
767
+ "P-9-2023-003169": 1.0,
768
+ "P-9-2023-003268": 1.0,
769
+ "P-9-2023-003372": 1.0,
770
+ "P-9-2023-003471": 0.0,
771
+ "P-9-2023-003707": 1.0
772
+ },
773
+ "R@100": {
774
+ "E-9-2022-000040": 0.4,
775
+ "E-9-2022-000104": 1.0,
776
+ "E-9-2022-000148": 1.0,
777
+ "E-9-2022-000167": 1.0,
778
+ "E-9-2022-000169": 1.0,
779
+ "E-9-2022-000230": 1.0,
780
+ "E-9-2022-000264": 0.75,
781
+ "E-9-2022-000285": 1.0,
782
+ "E-9-2022-000315": 1.0,
783
+ "E-9-2022-000391": 1.0,
784
+ "E-9-2022-000392": 1.0,
785
+ "E-9-2022-000398": 1.0,
786
+ "E-9-2022-000411": 1.0,
787
+ "E-9-2022-000423": 1.0,
788
+ "E-9-2022-000424": 1.0,
789
+ "E-9-2022-000447": 1.0,
790
+ "E-9-2022-000493": 0.7,
791
+ "E-9-2022-000495": 1.0,
792
+ "E-9-2022-000501": 0.0,
793
+ "E-9-2022-000502": 1.0,
794
+ "E-9-2022-000577": 1.0,
795
+ "E-9-2022-000578": 1.0,
796
+ "E-9-2022-000603": 1.0,
797
+ "E-9-2022-000608": 1.0,
798
+ "E-9-2022-000615": 1.0,
799
+ "E-9-2022-000639": 1.0,
800
+ "E-9-2022-000667": 1.0,
801
+ "E-9-2022-000783": 1.0,
802
+ "E-9-2022-000797": 1.0,
803
+ "E-9-2022-001030": 1.0,
804
+ "E-9-2022-001097": 1.0,
805
+ "E-9-2022-001100": 1.0,
806
+ "E-9-2022-001124": 1.0,
807
+ "E-9-2022-001178": 1.0,
808
+ "E-9-2022-001181": 0.75,
809
+ "E-9-2022-001189": 1.0,
810
+ "E-9-2022-001205": 1.0,
811
+ "E-9-2022-001244": 1.0,
812
+ "E-9-2022-001246": 1.0,
813
+ "E-9-2022-001270": 1.0,
814
+ "E-9-2022-001284": 1.0,
815
+ "E-9-2022-001285": 1.0,
816
+ "E-9-2022-001290": 1.0,
817
+ "E-9-2022-001347": 1.0,
818
+ "E-9-2022-001358": 1.0,
819
+ "E-9-2022-001373": 1.0,
820
+ "E-9-2022-001381": 1.0,
821
+ "E-9-2022-001394": 1.0,
822
+ "E-9-2022-001402": 0.5,
823
+ "E-9-2022-001415": 1.0,
824
+ "E-9-2022-001475": 0.6666666666666666,
825
+ "E-9-2022-001502": 1.0,
826
+ "E-9-2022-001507": 1.0,
827
+ "E-9-2022-001536": 1.0,
828
+ "E-9-2022-001543": 1.0,
829
+ "E-9-2022-001546": 1.0,
830
+ "E-9-2022-001558": 1.0,
831
+ "E-9-2022-001567": 1.0,
832
+ "E-9-2022-001571": 1.0,
833
+ "E-9-2022-001592": 1.0,
834
+ "E-9-2022-001726": 0.0,
835
+ "E-9-2022-001764": 1.0,
836
+ "E-9-2022-001816": 1.0,
837
+ "E-9-2022-001852": 1.0,
838
+ "E-9-2022-001970": 1.0,
839
+ "E-9-2022-002080": 1.0,
840
+ "E-9-2022-002101": 0.3333333333333333,
841
+ "E-9-2022-002174": 1.0,
842
+ "E-9-2022-002205": 1.0,
843
+ "E-9-2022-002238": 0.0,
844
+ "E-9-2022-002266": 1.0,
845
+ "E-9-2022-002272": 0.5,
846
+ "E-9-2022-002299": 1.0,
847
+ "E-9-2022-002306": 1.0,
848
+ "E-9-2022-002405": 1.0,
849
+ "E-9-2022-002415": 0.6666666666666666,
850
+ "E-9-2022-002432": 1.0,
851
+ "E-9-2022-002444": 1.0,
852
+ "E-9-2022-002475": 1.0,
853
+ "E-9-2022-002516": 1.0,
854
+ "E-9-2022-002608": 1.0,
855
+ "E-9-2022-002670": 1.0,
856
+ "E-9-2022-002675": 1.0,
857
+ "E-9-2022-002761": 1.0,
858
+ "E-9-2022-002777": 1.0,
859
+ "E-9-2022-002820": 0.0,
860
+ "E-9-2022-002824": 1.0,
861
+ "E-9-2022-002831": 1.0,
862
+ "E-9-2022-002928": 1.0,
863
+ "E-9-2022-002946": 1.0,
864
+ "E-9-2022-002989": 1.0,
865
+ "E-9-2022-003065": 0.0,
866
+ "E-9-2022-003071": 1.0,
867
+ "E-9-2022-003111": 1.0,
868
+ "E-9-2022-003127": 0.6666666666666666,
869
+ "E-9-2022-003155": 1.0,
870
+ "E-9-2022-003215": 1.0,
871
+ "E-9-2022-003265": 1.0,
872
+ "E-9-2022-003290": 1.0,
873
+ "E-9-2022-003293": 1.0,
874
+ "E-9-2022-003299": 1.0,
875
+ "E-9-2022-003343": 1.0,
876
+ "E-9-2022-003374": 1.0,
877
+ "E-9-2022-003407": 1.0,
878
+ "E-9-2022-003439": 1.0,
879
+ "E-9-2022-003470": 1.0,
880
+ "E-9-2022-003507": 1.0,
881
+ "E-9-2022-003570": 1.0,
882
+ "E-9-2022-003743": 1.0,
883
+ "E-9-2022-003836": 1.0,
884
+ "E-9-2022-003894": 1.0,
885
+ "E-9-2022-003930": 1.0,
886
+ "E-9-2022-004012": 1.0,
887
+ "E-9-2022-004013": 1.0,
888
+ "E-9-2022-004038": 1.0,
889
+ "E-9-2022-004074": 1.0,
890
+ "E-9-2022-004090": 1.0,
891
+ "E-9-2022-004116": 1.0,
892
+ "E-9-2022-004149": 1.0,
893
+ "E-9-2023-000037": 0.5,
894
+ "E-9-2023-000073": 0.5,
895
+ "E-9-2023-000108": 1.0,
896
+ "E-9-2023-000113": 1.0,
897
+ "E-9-2023-000141": 1.0,
898
+ "E-9-2023-000166": 1.0,
899
+ "E-9-2023-000172": 1.0,
900
+ "E-9-2023-000238": 1.0,
901
+ "E-9-2023-000331": 1.0,
902
+ "E-9-2023-000360": 1.0,
903
+ "E-9-2023-000476": 1.0,
904
+ "E-9-2023-000511": 1.0,
905
+ "E-9-2023-000526": 1.0,
906
+ "E-9-2023-000529": 0.0,
907
+ "E-9-2023-000533": 1.0,
908
+ "E-9-2023-000550": 1.0,
909
+ "E-9-2023-000553": 1.0,
910
+ "E-9-2023-000589": 1.0,
911
+ "E-9-2023-000617": 1.0,
912
+ "E-9-2023-000666": 1.0,
913
+ "E-9-2023-000918": 1.0,
914
+ "E-9-2023-000992": 1.0,
915
+ "E-9-2023-001048": 1.0,
916
+ "E-9-2023-001148": 0.0,
917
+ "E-9-2023-001188": 1.0,
918
+ "E-9-2023-001237": 1.0,
919
+ "E-9-2023-001247": 1.0,
920
+ "E-9-2023-001318": 1.0,
921
+ "E-9-2023-001322": 1.0,
922
+ "E-9-2023-001346": 1.0,
923
+ "E-9-2023-001358": 1.0,
924
+ "E-9-2023-001426": 1.0,
925
+ "E-9-2023-001437": 1.0,
926
+ "E-9-2023-001454": 1.0,
927
+ "E-9-2023-001458": 1.0,
928
+ "E-9-2023-001491": 1.0,
929
+ "E-9-2023-001520": 1.0,
930
+ "E-9-2023-001538": 0.5,
931
+ "E-9-2023-001600": 1.0,
932
+ "E-9-2023-001611": 1.0,
933
+ "E-9-2023-001638": 0.8,
934
+ "E-9-2023-001685": 1.0,
935
+ "E-9-2023-001692": 1.0,
936
+ "E-9-2023-001758": 0.6666666666666666,
937
+ "E-9-2023-001819": 0.0,
938
+ "E-9-2023-001839": 1.0,
939
+ "E-9-2023-001846": 1.0,
940
+ "E-9-2023-001859": 0.0,
941
+ "E-9-2023-001877": 1.0,
942
+ "E-9-2023-001904": 1.0,
943
+ "E-9-2023-002095": 1.0,
944
+ "E-9-2023-002103": 1.0,
945
+ "E-9-2023-002115": 1.0,
946
+ "E-9-2023-002186": 1.0,
947
+ "E-9-2023-002240": 1.0,
948
+ "E-9-2023-002242": 1.0,
949
+ "E-9-2023-002281": 1.0,
950
+ "E-9-2023-002383": 1.0,
951
+ "E-9-2023-002395": 1.0,
952
+ "E-9-2023-002442": 1.0,
953
+ "E-9-2023-002479": 1.0,
954
+ "E-9-2023-002505": 1.0,
955
+ "E-9-2023-002509": 1.0,
956
+ "E-9-2023-002540": 1.0,
957
+ "E-9-2023-002610": 1.0,
958
+ "E-9-2023-002625": 1.0,
959
+ "E-9-2023-002637": 1.0,
960
+ "E-9-2023-002640": 1.0,
961
+ "E-9-2023-002683": 1.0,
962
+ "E-9-2023-002699": 1.0,
963
+ "E-9-2023-002743": 1.0,
964
+ "E-9-2023-002751": 0.0,
965
+ "E-9-2023-002758": 1.0,
966
+ "E-9-2023-002815": 1.0,
967
+ "E-9-2023-002833": 1.0,
968
+ "E-9-2023-002883": 1.0,
969
+ "E-9-2023-002980": 1.0,
970
+ "E-9-2023-002994": 1.0,
971
+ "E-9-2023-003002": 1.0,
972
+ "E-9-2023-003022": 1.0,
973
+ "E-9-2023-003117": 1.0,
974
+ "E-9-2023-003122": 1.0,
975
+ "E-9-2023-003167": 1.0,
976
+ "E-9-2023-003215": 0.75,
977
+ "E-9-2023-003326": 1.0,
978
+ "E-9-2023-003373": 1.0,
979
+ "E-9-2023-003404": 0.0,
980
+ "E-9-2023-003408": 1.0,
981
+ "E-9-2023-003419": 1.0,
982
+ "E-9-2023-003439": 0.0,
983
+ "E-9-2023-003453": 1.0,
984
+ "E-9-2023-003492": 1.0,
985
+ "E-9-2023-003533": 1.0,
986
+ "E-9-2023-003602": 1.0,
987
+ "E-9-2023-003607": 1.0,
988
+ "E-9-2023-003675": 1.0,
989
+ "E-9-2023-003685": 1.0,
990
+ "E-9-2023-003728": 1.0,
991
+ "E-9-2023-003749": 1.0,
992
+ "E-9-2023-003754": 1.0,
993
+ "P-9-2022-000135": 1.0,
994
+ "P-9-2022-000661": 1.0,
995
+ "P-9-2022-001119": 1.0,
996
+ "P-9-2022-001271": 0.75,
997
+ "P-9-2022-001337": 1.0,
998
+ "P-9-2022-001555": 1.0,
999
+ "P-9-2022-001666": 0.0,
1000
+ "P-9-2022-002383": 1.0,
1001
+ "P-9-2022-002535": 1.0,
1002
+ "P-9-2022-002627": 1.0,
1003
+ "P-9-2022-002830": 1.0,
1004
+ "P-9-2022-002838": 1.0,
1005
+ "P-9-2022-002863": 1.0,
1006
+ "P-9-2022-003463": 0.0,
1007
+ "P-9-2022-003675": 1.0,
1008
+ "P-9-2023-000633": 0.0,
1009
+ "P-9-2023-001534": 0.5,
1010
+ "P-9-2023-001841": 1.0,
1011
+ "P-9-2023-002104": 1.0,
1012
+ "P-9-2023-002410": 1.0,
1013
+ "P-9-2023-002436": 1.0,
1014
+ "P-9-2023-002485": 1.0,
1015
+ "P-9-2023-002496": 1.0,
1016
+ "P-9-2023-002514": 1.0,
1017
+ "P-9-2023-002791": 1.0,
1018
+ "P-9-2023-002805": 1.0,
1019
+ "P-9-2023-002808": 1.0,
1020
+ "P-9-2023-003005": 0.6666666666666666,
1021
+ "P-9-2023-003169": 1.0,
1022
+ "P-9-2023-003268": 1.0,
1023
+ "P-9-2023-003372": 1.0,
1024
+ "P-9-2023-003471": 0.0,
1025
+ "P-9-2023-003707": 1.0
1026
+ },
1027
+ "nDCG@10": {
1028
+ "E-9-2022-000040": 0.0,
1029
+ "E-9-2022-000104": 1.0,
1030
+ "E-9-2022-000148": 0.6131471927654584,
1031
+ "E-9-2022-000167": 1.0,
1032
+ "E-9-2022-000169": 1.0,
1033
+ "E-9-2022-000230": 0.3065735963827292,
1034
+ "E-9-2022-000264": 0.0,
1035
+ "E-9-2022-000285": 0.0,
1036
+ "E-9-2022-000315": 0.5101671483174705,
1037
+ "E-9-2022-000391": 1.0,
1038
+ "E-9-2022-000392": 1.0,
1039
+ "E-9-2022-000398": 0.0,
1040
+ "E-9-2022-000411": 1.0,
1041
+ "E-9-2022-000423": 1.0,
1042
+ "E-9-2022-000424": 0.725124396546942,
1043
+ "E-9-2022-000447": 1.0,
1044
+ "E-9-2022-000493": 0.23690530871965634,
1045
+ "E-9-2022-000495": 0.0,
1046
+ "E-9-2022-000501": 0.0,
1047
+ "E-9-2022-000502": 0.43067655807339306,
1048
+ "E-9-2022-000577": 1.0,
1049
+ "E-9-2022-000578": 1.0,
1050
+ "E-9-2022-000603": 1.0,
1051
+ "E-9-2022-000608": 1.0,
1052
+ "E-9-2022-000615": 0.5,
1053
+ "E-9-2022-000639": 1.0,
1054
+ "E-9-2022-000667": 1.0,
1055
+ "E-9-2022-000783": 1.0,
1056
+ "E-9-2022-000797": 0.6309297535714575,
1057
+ "E-9-2022-001030": 1.0,
1058
+ "E-9-2022-001097": 0.6309297535714575,
1059
+ "E-9-2022-001100": 0.5,
1060
+ "E-9-2022-001124": 0.6309297535714575,
1061
+ "E-9-2022-001178": 0.6309297535714575,
1062
+ "E-9-2022-001181": 0.3903800499921017,
1063
+ "E-9-2022-001189": 0.0,
1064
+ "E-9-2022-001205": 0.9197207891481876,
1065
+ "E-9-2022-001244": 1.0,
1066
+ "E-9-2022-001246": 0.3065735963827292,
1067
+ "E-9-2022-001270": 1.0,
1068
+ "E-9-2022-001284": 1.0,
1069
+ "E-9-2022-001285": 0.3562071871080222,
1070
+ "E-9-2022-001290": 0.0,
1071
+ "E-9-2022-001347": 0.6131471927654584,
1072
+ "E-9-2022-001358": 0.6309297535714575,
1073
+ "E-9-2022-001373": 1.0,
1074
+ "E-9-2022-001381": 0.6309297535714575,
1075
+ "E-9-2022-001394": 0.3333333333333333,
1076
+ "E-9-2022-001402": 0.0,
1077
+ "E-9-2022-001415": 1.0,
1078
+ "E-9-2022-001475": 0.0,
1079
+ "E-9-2022-001502": 0.0,
1080
+ "E-9-2022-001507": 1.0,
1081
+ "E-9-2022-001536": 0.3333333333333333,
1082
+ "E-9-2022-001543": 0.8175295903539445,
1083
+ "E-9-2022-001546": 1.0,
1084
+ "E-9-2022-001558": 0.0,
1085
+ "E-9-2022-001567": 1.0,
1086
+ "E-9-2022-001571": 1.0,
1087
+ "E-9-2022-001592": 0.6309297535714575,
1088
+ "E-9-2022-001726": 0.0,
1089
+ "E-9-2022-001764": 1.0,
1090
+ "E-9-2022-001816": 1.0,
1091
+ "E-9-2022-001852": 0.0,
1092
+ "E-9-2022-001970": 0.3333333333333333,
1093
+ "E-9-2022-002080": 1.0,
1094
+ "E-9-2022-002101": 0.0,
1095
+ "E-9-2022-002174": 1.0,
1096
+ "E-9-2022-002205": 1.0,
1097
+ "E-9-2022-002238": 0.0,
1098
+ "E-9-2022-002266": 0.0,
1099
+ "E-9-2022-002272": 0.6131471927654584,
1100
+ "E-9-2022-002299": 1.0,
1101
+ "E-9-2022-002306": 0.0,
1102
+ "E-9-2022-002405": 0.0,
1103
+ "E-9-2022-002415": 0.0,
1104
+ "E-9-2022-002432": 1.0,
1105
+ "E-9-2022-002444": 1.0,
1106
+ "E-9-2022-002475": 0.6309297535714575,
1107
+ "E-9-2022-002516": 0.20438239758848611,
1108
+ "E-9-2022-002608": 0.43067655807339306,
1109
+ "E-9-2022-002670": 1.0,
1110
+ "E-9-2022-002675": 0.6934264036172708,
1111
+ "E-9-2022-002761": 0.9197207891481876,
1112
+ "E-9-2022-002777": 1.0,
1113
+ "E-9-2022-002820": 0.0,
1114
+ "E-9-2022-002824": 1.0,
1115
+ "E-9-2022-002831": 0.0,
1116
+ "E-9-2022-002928": 0.6309297535714575,
1117
+ "E-9-2022-002946": 1.0,
1118
+ "E-9-2022-002989": 0.0,
1119
+ "E-9-2022-003065": 0.0,
1120
+ "E-9-2022-003071": 0.6309297535714575,
1121
+ "E-9-2022-003111": 1.0,
1122
+ "E-9-2022-003127": 0.431733884398313,
1123
+ "E-9-2022-003155": 1.0,
1124
+ "E-9-2022-003215": 0.6309297535714575,
1125
+ "E-9-2022-003265": 0.6509209298071326,
1126
+ "E-9-2022-003290": 1.0,
1127
+ "E-9-2022-003293": 1.0,
1128
+ "E-9-2022-003299": 1.0,
1129
+ "E-9-2022-003343": 1.0,
1130
+ "E-9-2022-003374": 0.7928654229965442,
1131
+ "E-9-2022-003407": 0.5,
1132
+ "E-9-2022-003439": 1.0,
1133
+ "E-9-2022-003470": 0.6131471927654584,
1134
+ "E-9-2022-003507": 0.0,
1135
+ "E-9-2022-003570": 0.0,
1136
+ "E-9-2022-003743": 1.0,
1137
+ "E-9-2022-003836": 0.6309297535714575,
1138
+ "E-9-2022-003894": 1.0,
1139
+ "E-9-2022-003930": 1.0,
1140
+ "E-9-2022-004012": 1.0,
1141
+ "E-9-2022-004013": 0.3333333333333333,
1142
+ "E-9-2022-004038": 0.0,
1143
+ "E-9-2022-004074": 1.0,
1144
+ "E-9-2022-004090": 0.0,
1145
+ "E-9-2022-004116": 0.43067655807339306,
1146
+ "E-9-2022-004149": 0.5,
1147
+ "E-9-2023-000037": 0.19342640361727081,
1148
+ "E-9-2023-000073": 0.0,
1149
+ "E-9-2023-000108": 0.6309297535714575,
1150
+ "E-9-2023-000113": 1.0,
1151
+ "E-9-2023-000141": 1.0,
1152
+ "E-9-2023-000166": 0.0,
1153
+ "E-9-2023-000172": 1.0,
1154
+ "E-9-2023-000238": 0.0,
1155
+ "E-9-2023-000331": 0.38685280723454163,
1156
+ "E-9-2023-000360": 0.5,
1157
+ "E-9-2023-000476": 1.0,
1158
+ "E-9-2023-000511": 0.3010299956639812,
1159
+ "E-9-2023-000526": 0.6309297535714575,
1160
+ "E-9-2023-000529": 0.0,
1161
+ "E-9-2023-000533": 0.17723928678404774,
1162
+ "E-9-2023-000550": 0.6309297535714575,
1163
+ "E-9-2023-000553": 0.0,
1164
+ "E-9-2023-000589": 1.0,
1165
+ "E-9-2023-000617": 1.0,
1166
+ "E-9-2023-000666": 0.3010299956639812,
1167
+ "E-9-2023-000918": 1.0,
1168
+ "E-9-2023-000992": 1.0,
1169
+ "E-9-2023-001048": 0.6309297535714575,
1170
+ "E-9-2023-001148": 0.0,
1171
+ "E-9-2023-001188": 0.3333333333333333,
1172
+ "E-9-2023-001237": 1.0,
1173
+ "E-9-2023-001247": 1.0,
1174
+ "E-9-2023-001318": 0.8854598815714874,
1175
+ "E-9-2023-001322": 0.6309297535714575,
1176
+ "E-9-2023-001346": 1.0,
1177
+ "E-9-2023-001358": 0.5109559939712153,
1178
+ "E-9-2023-001426": 1.0,
1179
+ "E-9-2023-001437": 0.6052602440527057,
1180
+ "E-9-2023-001454": 0.6309297535714575,
1181
+ "E-9-2023-001458": 0.6309297535714575,
1182
+ "E-9-2023-001491": 0.0,
1183
+ "E-9-2023-001520": 1.0,
1184
+ "E-9-2023-001538": 0.0,
1185
+ "E-9-2023-001600": 0.38685280723454163,
1186
+ "E-9-2023-001611": 0.38685280723454163,
1187
+ "E-9-2023-001638": 0.4368949625569334,
1188
+ "E-9-2023-001685": 0.6309297535714575,
1189
+ "E-9-2023-001692": 1.0,
1190
+ "E-9-2023-001758": 0.0,
1191
+ "E-9-2023-001819": 0.0,
1192
+ "E-9-2023-001839": 1.0,
1193
+ "E-9-2023-001846": 0.9325210919548239,
1194
+ "E-9-2023-001859": 0.0,
1195
+ "E-9-2023-001877": 1.0,
1196
+ "E-9-2023-001904": 0.8451850618939637,
1197
+ "E-9-2023-002095": 0.6309297535714575,
1198
+ "E-9-2023-002103": 1.0,
1199
+ "E-9-2023-002115": 1.0,
1200
+ "E-9-2023-002186": 1.0,
1201
+ "E-9-2023-002240": 0.6309297535714575,
1202
+ "E-9-2023-002242": 1.0,
1203
+ "E-9-2023-002281": 1.0,
1204
+ "E-9-2023-002383": 1.0,
1205
+ "E-9-2023-002395": 1.0,
1206
+ "E-9-2023-002442": 1.0,
1207
+ "E-9-2023-002479": 1.0,
1208
+ "E-9-2023-002505": 1.0,
1209
+ "E-9-2023-002509": 0.6309297535714575,
1210
+ "E-9-2023-002540": 1.0,
1211
+ "E-9-2023-002610": 0.38685280723454163,
1212
+ "E-9-2023-002625": 0.6309297535714575,
1213
+ "E-9-2023-002637": 1.0,
1214
+ "E-9-2023-002640": 1.0,
1215
+ "E-9-2023-002683": 1.0,
1216
+ "E-9-2023-002699": 0.3562071871080222,
1217
+ "E-9-2023-002743": 0.0,
1218
+ "E-9-2023-002751": 0.0,
1219
+ "E-9-2023-002758": 0.0,
1220
+ "E-9-2023-002815": 0.6131471927654584,
1221
+ "E-9-2023-002833": 1.0,
1222
+ "E-9-2023-002883": 0.38685280723454163,
1223
+ "E-9-2023-002980": 1.0,
1224
+ "E-9-2023-002994": 1.0,
1225
+ "E-9-2023-003002": 0.0,
1226
+ "E-9-2023-003022": 0.38685280723454163,
1227
+ "E-9-2023-003117": 0.20438239758848611,
1228
+ "E-9-2023-003122": 1.0,
1229
+ "E-9-2023-003167": 0.3333333333333333,
1230
+ "E-9-2023-003215": 0.13012668333070054,
1231
+ "E-9-2023-003326": 1.0,
1232
+ "E-9-2023-003373": 0.0,
1233
+ "E-9-2023-003404": 0.0,
1234
+ "E-9-2023-003408": 0.3562071871080222,
1235
+ "E-9-2023-003419": 0.9060254355346823,
1236
+ "E-9-2023-003439": 0.0,
1237
+ "E-9-2023-003453": 1.0,
1238
+ "E-9-2023-003492": 1.0,
1239
+ "E-9-2023-003533": 1.0,
1240
+ "E-9-2023-003602": 0.43067655807339306,
1241
+ "E-9-2023-003607": 0.6309297535714575,
1242
+ "E-9-2023-003675": 0.41183384043543503,
1243
+ "E-9-2023-003685": 0.6309297535714575,
1244
+ "E-9-2023-003728": 0.0,
1245
+ "E-9-2023-003749": 1.0,
1246
+ "E-9-2023-003754": 0.3065735963827292,
1247
+ "P-9-2022-000135": 0.6309297535714575,
1248
+ "P-9-2022-000661": 1.0,
1249
+ "P-9-2022-001119": 0.23719771276929622,
1250
+ "P-9-2022-001271": 0.6366824387328317,
1251
+ "P-9-2022-001337": 1.0,
1252
+ "P-9-2022-001555": 0.3562071871080222,
1253
+ "P-9-2022-001666": 0.0,
1254
+ "P-9-2022-002383": 0.3562071871080222,
1255
+ "P-9-2022-002535": 0.38685280723454163,
1256
+ "P-9-2022-002627": 0.6309297535714575,
1257
+ "P-9-2022-002830": 0.7757386182436072,
1258
+ "P-9-2022-002838": 0.7757386182436072,
1259
+ "P-9-2022-002863": 0.3065735963827292,
1260
+ "P-9-2022-003463": 0.0,
1261
+ "P-9-2022-003675": 1.0,
1262
+ "P-9-2023-000633": 0.0,
1263
+ "P-9-2023-001534": 0.0,
1264
+ "P-9-2023-001841": 0.5,
1265
+ "P-9-2023-002104": 1.0,
1266
+ "P-9-2023-002410": 1.0,
1267
+ "P-9-2023-002436": 1.0,
1268
+ "P-9-2023-002485": 1.0,
1269
+ "P-9-2023-002496": 0.0,
1270
+ "P-9-2023-002514": 1.0,
1271
+ "P-9-2023-002791": 0.5,
1272
+ "P-9-2023-002805": 0.8772153153380493,
1273
+ "P-9-2023-002808": 1.0,
1274
+ "P-9-2023-003005": 0.2960819109658652,
1275
+ "P-9-2023-003169": 1.0,
1276
+ "P-9-2023-003268": 0.2890648263178879,
1277
+ "P-9-2023-003372": 1.0,
1278
+ "P-9-2023-003471": 0.0,
1279
+ "P-9-2023-003707": 1.0
1280
+ },
1281
+ "Success@1": {
1282
+ "E-9-2022-000040": 0.0,
1283
+ "E-9-2022-000104": 1.0,
1284
+ "E-9-2022-000148": 1.0,
1285
+ "E-9-2022-000167": 1.0,
1286
+ "E-9-2022-000169": 1.0,
1287
+ "E-9-2022-000230": 0.0,
1288
+ "E-9-2022-000264": 0.0,
1289
+ "E-9-2022-000285": 0.0,
1290
+ "E-9-2022-000315": 0.0,
1291
+ "E-9-2022-000391": 1.0,
1292
+ "E-9-2022-000392": 1.0,
1293
+ "E-9-2022-000398": 0.0,
1294
+ "E-9-2022-000411": 1.0,
1295
+ "E-9-2022-000423": 1.0,
1296
+ "E-9-2022-000424": 0.0,
1297
+ "E-9-2022-000447": 1.0,
1298
+ "E-9-2022-000493": 0.0,
1299
+ "E-9-2022-000495": 0.0,
1300
+ "E-9-2022-000501": 0.0,
1301
+ "E-9-2022-000502": 0.0,
1302
+ "E-9-2022-000577": 1.0,
1303
+ "E-9-2022-000578": 1.0,
1304
+ "E-9-2022-000603": 1.0,
1305
+ "E-9-2022-000608": 1.0,
1306
+ "E-9-2022-000615": 0.0,
1307
+ "E-9-2022-000639": 1.0,
1308
+ "E-9-2022-000667": 1.0,
1309
+ "E-9-2022-000783": 1.0,
1310
+ "E-9-2022-000797": 0.0,
1311
+ "E-9-2022-001030": 1.0,
1312
+ "E-9-2022-001097": 0.0,
1313
+ "E-9-2022-001100": 0.0,
1314
+ "E-9-2022-001124": 0.0,
1315
+ "E-9-2022-001178": 0.0,
1316
+ "E-9-2022-001181": 1.0,
1317
+ "E-9-2022-001189": 0.0,
1318
+ "E-9-2022-001205": 1.0,
1319
+ "E-9-2022-001244": 1.0,
1320
+ "E-9-2022-001246": 0.0,
1321
+ "E-9-2022-001270": 1.0,
1322
+ "E-9-2022-001284": 1.0,
1323
+ "E-9-2022-001285": 0.0,
1324
+ "E-9-2022-001290": 0.0,
1325
+ "E-9-2022-001347": 1.0,
1326
+ "E-9-2022-001358": 0.0,
1327
+ "E-9-2022-001373": 1.0,
1328
+ "E-9-2022-001381": 0.0,
1329
+ "E-9-2022-001394": 0.0,
1330
+ "E-9-2022-001402": 0.0,
1331
+ "E-9-2022-001415": 1.0,
1332
+ "E-9-2022-001475": 0.0,
1333
+ "E-9-2022-001502": 0.0,
1334
+ "E-9-2022-001507": 1.0,
1335
+ "E-9-2022-001536": 0.0,
1336
+ "E-9-2022-001543": 1.0,
1337
+ "E-9-2022-001546": 1.0,
1338
+ "E-9-2022-001558": 0.0,
1339
+ "E-9-2022-001567": 1.0,
1340
+ "E-9-2022-001571": 1.0,
1341
+ "E-9-2022-001592": 0.0,
1342
+ "E-9-2022-001726": 0.0,
1343
+ "E-9-2022-001764": 1.0,
1344
+ "E-9-2022-001816": 1.0,
1345
+ "E-9-2022-001852": 0.0,
1346
+ "E-9-2022-001970": 0.0,
1347
+ "E-9-2022-002080": 1.0,
1348
+ "E-9-2022-002101": 0.0,
1349
+ "E-9-2022-002174": 1.0,
1350
+ "E-9-2022-002205": 1.0,
1351
+ "E-9-2022-002238": 0.0,
1352
+ "E-9-2022-002266": 0.0,
1353
+ "E-9-2022-002272": 1.0,
1354
+ "E-9-2022-002299": 1.0,
1355
+ "E-9-2022-002306": 0.0,
1356
+ "E-9-2022-002405": 0.0,
1357
+ "E-9-2022-002415": 0.0,
1358
+ "E-9-2022-002432": 1.0,
1359
+ "E-9-2022-002444": 1.0,
1360
+ "E-9-2022-002475": 0.0,
1361
+ "E-9-2022-002516": 0.0,
1362
+ "E-9-2022-002608": 0.0,
1363
+ "E-9-2022-002670": 1.0,
1364
+ "E-9-2022-002675": 0.0,
1365
+ "E-9-2022-002761": 1.0,
1366
+ "E-9-2022-002777": 1.0,
1367
+ "E-9-2022-002820": 0.0,
1368
+ "E-9-2022-002824": 1.0,
1369
+ "E-9-2022-002831": 0.0,
1370
+ "E-9-2022-002928": 0.0,
1371
+ "E-9-2022-002946": 1.0,
1372
+ "E-9-2022-002989": 0.0,
1373
+ "E-9-2022-003065": 0.0,
1374
+ "E-9-2022-003071": 0.0,
1375
+ "E-9-2022-003111": 1.0,
1376
+ "E-9-2022-003127": 0.0,
1377
+ "E-9-2022-003155": 1.0,
1378
+ "E-9-2022-003215": 0.0,
1379
+ "E-9-2022-003265": 0.0,
1380
+ "E-9-2022-003290": 1.0,
1381
+ "E-9-2022-003293": 1.0,
1382
+ "E-9-2022-003299": 1.0,
1383
+ "E-9-2022-003343": 1.0,
1384
+ "E-9-2022-003374": 1.0,
1385
+ "E-9-2022-003407": 0.0,
1386
+ "E-9-2022-003439": 1.0,
1387
+ "E-9-2022-003470": 1.0,
1388
+ "E-9-2022-003507": 0.0,
1389
+ "E-9-2022-003570": 0.0,
1390
+ "E-9-2022-003743": 1.0,
1391
+ "E-9-2022-003836": 0.0,
1392
+ "E-9-2022-003894": 1.0,
1393
+ "E-9-2022-003930": 1.0,
1394
+ "E-9-2022-004012": 1.0,
1395
+ "E-9-2022-004013": 0.0,
1396
+ "E-9-2022-004038": 0.0,
1397
+ "E-9-2022-004074": 1.0,
1398
+ "E-9-2022-004090": 0.0,
1399
+ "E-9-2022-004116": 0.0,
1400
+ "E-9-2022-004149": 0.0,
1401
+ "E-9-2023-000037": 0.0,
1402
+ "E-9-2023-000073": 0.0,
1403
+ "E-9-2023-000108": 0.0,
1404
+ "E-9-2023-000113": 1.0,
1405
+ "E-9-2023-000141": 1.0,
1406
+ "E-9-2023-000166": 0.0,
1407
+ "E-9-2023-000172": 1.0,
1408
+ "E-9-2023-000238": 0.0,
1409
+ "E-9-2023-000331": 0.0,
1410
+ "E-9-2023-000360": 0.0,
1411
+ "E-9-2023-000476": 1.0,
1412
+ "E-9-2023-000511": 0.0,
1413
+ "E-9-2023-000526": 0.0,
1414
+ "E-9-2023-000529": 0.0,
1415
+ "E-9-2023-000533": 0.0,
1416
+ "E-9-2023-000550": 0.0,
1417
+ "E-9-2023-000553": 0.0,
1418
+ "E-9-2023-000589": 1.0,
1419
+ "E-9-2023-000617": 1.0,
1420
+ "E-9-2023-000666": 0.0,
1421
+ "E-9-2023-000918": 1.0,
1422
+ "E-9-2023-000992": 1.0,
1423
+ "E-9-2023-001048": 0.0,
1424
+ "E-9-2023-001148": 0.0,
1425
+ "E-9-2023-001188": 0.0,
1426
+ "E-9-2023-001237": 1.0,
1427
+ "E-9-2023-001247": 1.0,
1428
+ "E-9-2023-001318": 1.0,
1429
+ "E-9-2023-001322": 0.0,
1430
+ "E-9-2023-001346": 1.0,
1431
+ "E-9-2023-001358": 0.0,
1432
+ "E-9-2023-001426": 1.0,
1433
+ "E-9-2023-001437": 0.0,
1434
+ "E-9-2023-001454": 0.0,
1435
+ "E-9-2023-001458": 0.0,
1436
+ "E-9-2023-001491": 0.0,
1437
+ "E-9-2023-001520": 1.0,
1438
+ "E-9-2023-001538": 0.0,
1439
+ "E-9-2023-001600": 0.0,
1440
+ "E-9-2023-001611": 0.0,
1441
+ "E-9-2023-001638": 0.0,
1442
+ "E-9-2023-001685": 0.0,
1443
+ "E-9-2023-001692": 1.0,
1444
+ "E-9-2023-001758": 0.0,
1445
+ "E-9-2023-001819": 0.0,
1446
+ "E-9-2023-001839": 1.0,
1447
+ "E-9-2023-001846": 1.0,
1448
+ "E-9-2023-001859": 0.0,
1449
+ "E-9-2023-001877": 1.0,
1450
+ "E-9-2023-001904": 1.0,
1451
+ "E-9-2023-002095": 0.0,
1452
+ "E-9-2023-002103": 1.0,
1453
+ "E-9-2023-002115": 1.0,
1454
+ "E-9-2023-002186": 1.0,
1455
+ "E-9-2023-002240": 0.0,
1456
+ "E-9-2023-002242": 1.0,
1457
+ "E-9-2023-002281": 1.0,
1458
+ "E-9-2023-002383": 1.0,
1459
+ "E-9-2023-002395": 1.0,
1460
+ "E-9-2023-002442": 1.0,
1461
+ "E-9-2023-002479": 1.0,
1462
+ "E-9-2023-002505": 1.0,
1463
+ "E-9-2023-002509": 0.0,
1464
+ "E-9-2023-002540": 1.0,
1465
+ "E-9-2023-002610": 0.0,
1466
+ "E-9-2023-002625": 0.0,
1467
+ "E-9-2023-002637": 1.0,
1468
+ "E-9-2023-002640": 1.0,
1469
+ "E-9-2023-002683": 1.0,
1470
+ "E-9-2023-002699": 0.0,
1471
+ "E-9-2023-002743": 0.0,
1472
+ "E-9-2023-002751": 0.0,
1473
+ "E-9-2023-002758": 0.0,
1474
+ "E-9-2023-002815": 1.0,
1475
+ "E-9-2023-002833": 1.0,
1476
+ "E-9-2023-002883": 0.0,
1477
+ "E-9-2023-002980": 1.0,
1478
+ "E-9-2023-002994": 1.0,
1479
+ "E-9-2023-003002": 0.0,
1480
+ "E-9-2023-003022": 0.0,
1481
+ "E-9-2023-003117": 0.0,
1482
+ "E-9-2023-003122": 1.0,
1483
+ "E-9-2023-003167": 0.0,
1484
+ "E-9-2023-003215": 0.0,
1485
+ "E-9-2023-003326": 1.0,
1486
+ "E-9-2023-003373": 0.0,
1487
+ "E-9-2023-003404": 0.0,
1488
+ "E-9-2023-003408": 0.0,
1489
+ "E-9-2023-003419": 1.0,
1490
+ "E-9-2023-003439": 0.0,
1491
+ "E-9-2023-003453": 1.0,
1492
+ "E-9-2023-003492": 1.0,
1493
+ "E-9-2023-003533": 1.0,
1494
+ "E-9-2023-003602": 0.0,
1495
+ "E-9-2023-003607": 0.0,
1496
+ "E-9-2023-003675": 0.0,
1497
+ "E-9-2023-003685": 0.0,
1498
+ "E-9-2023-003728": 0.0,
1499
+ "E-9-2023-003749": 1.0,
1500
+ "E-9-2023-003754": 0.0,
1501
+ "P-9-2022-000135": 0.0,
1502
+ "P-9-2022-000661": 1.0,
1503
+ "P-9-2022-001119": 0.0,
1504
+ "P-9-2022-001271": 1.0,
1505
+ "P-9-2022-001337": 1.0,
1506
+ "P-9-2022-001555": 0.0,
1507
+ "P-9-2022-001666": 0.0,
1508
+ "P-9-2022-002383": 0.0,
1509
+ "P-9-2022-002535": 0.0,
1510
+ "P-9-2022-002627": 0.0,
1511
+ "P-9-2022-002830": 1.0,
1512
+ "P-9-2022-002838": 1.0,
1513
+ "P-9-2022-002863": 0.0,
1514
+ "P-9-2022-003463": 0.0,
1515
+ "P-9-2022-003675": 1.0,
1516
+ "P-9-2023-000633": 0.0,
1517
+ "P-9-2023-001534": 0.0,
1518
+ "P-9-2023-001841": 0.0,
1519
+ "P-9-2023-002104": 1.0,
1520
+ "P-9-2023-002410": 1.0,
1521
+ "P-9-2023-002436": 1.0,
1522
+ "P-9-2023-002485": 1.0,
1523
+ "P-9-2023-002496": 0.0,
1524
+ "P-9-2023-002514": 1.0,
1525
+ "P-9-2023-002791": 0.0,
1526
+ "P-9-2023-002805": 1.0,
1527
+ "P-9-2023-002808": 1.0,
1528
+ "P-9-2023-003005": 0.0,
1529
+ "P-9-2023-003169": 1.0,
1530
+ "P-9-2023-003268": 0.0,
1531
+ "P-9-2023-003372": 1.0,
1532
+ "P-9-2023-003471": 0.0,
1533
+ "P-9-2023-003707": 1.0
1534
+ }
1535
+ }
1536
+ }
v1.0/experiments/runs/precedent_dev_qwen3-emb-8b_text.run ADDED
The diff for this file is too large to render. See raw diff
 
v1.0/experiments/runs/precedent_dev_rrf_text.meta.json ADDED
@@ -0,0 +1,9 @@
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "runs": [
3
+ "experiments/v1.0/runs/precedent_dev_bm25_text.run",
4
+ "experiments/v1.0/runs/precedent_dev_bge-m3_text.run"
5
+ ],
6
+ "rrf_k": 60,
7
+ "seconds": 0.0,
8
+ "query_coverage": 1.0
9
+ }
v1.0/experiments/runs/precedent_dev_rrf_text.metrics.json ADDED
@@ -0,0 +1,1536 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "aggregate": {
3
+ "RR@10": 0.4076814058956916,
4
+ "R@10": 0.556415343915344,
5
+ "R@30": 0.7005291005291006,
6
+ "R@100": 0.7988095238095239,
7
+ "nDCG@10": 0.42818360775473363,
8
+ "Success@1": 0.30952380952380953
9
+ },
10
+ "per_query": {
11
+ "RR@10": {
12
+ "E-9-2022-000040": 0.14285714285714285,
13
+ "E-9-2022-000104": 1.0,
14
+ "E-9-2022-000148": 0.0,
15
+ "E-9-2022-000167": 1.0,
16
+ "E-9-2022-000169": 0.0,
17
+ "E-9-2022-000230": 0.0,
18
+ "E-9-2022-000264": 0.16666666666666666,
19
+ "E-9-2022-000285": 0.1111111111111111,
20
+ "E-9-2022-000315": 1.0,
21
+ "E-9-2022-000391": 0.25,
22
+ "E-9-2022-000392": 0.3333333333333333,
23
+ "E-9-2022-000398": 0.0,
24
+ "E-9-2022-000411": 0.0,
25
+ "E-9-2022-000423": 0.5,
26
+ "E-9-2022-000424": 1.0,
27
+ "E-9-2022-000447": 0.5,
28
+ "E-9-2022-000493": 0.1,
29
+ "E-9-2022-000495": 0.0,
30
+ "E-9-2022-000501": 0.0,
31
+ "E-9-2022-000502": 1.0,
32
+ "E-9-2022-000577": 1.0,
33
+ "E-9-2022-000578": 0.16666666666666666,
34
+ "E-9-2022-000603": 0.0,
35
+ "E-9-2022-000608": 0.5,
36
+ "E-9-2022-000615": 0.0,
37
+ "E-9-2022-000639": 1.0,
38
+ "E-9-2022-000667": 0.0,
39
+ "E-9-2022-000783": 1.0,
40
+ "E-9-2022-000797": 1.0,
41
+ "E-9-2022-001030": 1.0,
42
+ "E-9-2022-001097": 0.0,
43
+ "E-9-2022-001100": 1.0,
44
+ "E-9-2022-001124": 1.0,
45
+ "E-9-2022-001178": 0.5,
46
+ "E-9-2022-001181": 0.0,
47
+ "E-9-2022-001189": 1.0,
48
+ "E-9-2022-001205": 1.0,
49
+ "E-9-2022-001244": 0.5,
50
+ "E-9-2022-001246": 0.0,
51
+ "E-9-2022-001270": 1.0,
52
+ "E-9-2022-001284": 0.0,
53
+ "E-9-2022-001285": 0.25,
54
+ "E-9-2022-001290": 0.2,
55
+ "E-9-2022-001347": 1.0,
56
+ "E-9-2022-001358": 1.0,
57
+ "E-9-2022-001373": 0.0,
58
+ "E-9-2022-001381": 0.5,
59
+ "E-9-2022-001394": 1.0,
60
+ "E-9-2022-001402": 0.0,
61
+ "E-9-2022-001415": 0.5,
62
+ "E-9-2022-001475": 1.0,
63
+ "E-9-2022-001502": 1.0,
64
+ "E-9-2022-001507": 0.0,
65
+ "E-9-2022-001536": 0.2,
66
+ "E-9-2022-001543": 0.5,
67
+ "E-9-2022-001546": 0.5,
68
+ "E-9-2022-001558": 0.125,
69
+ "E-9-2022-001567": 1.0,
70
+ "E-9-2022-001571": 0.5,
71
+ "E-9-2022-001592": 0.0,
72
+ "E-9-2022-001726": 0.0,
73
+ "E-9-2022-001764": 0.5,
74
+ "E-9-2022-001816": 1.0,
75
+ "E-9-2022-001852": 0.2,
76
+ "E-9-2022-001970": 1.0,
77
+ "E-9-2022-002080": 1.0,
78
+ "E-9-2022-002101": 0.0,
79
+ "E-9-2022-002174": 1.0,
80
+ "E-9-2022-002205": 1.0,
81
+ "E-9-2022-002238": 0.0,
82
+ "E-9-2022-002266": 0.0,
83
+ "E-9-2022-002272": 0.0,
84
+ "E-9-2022-002299": 0.1111111111111111,
85
+ "E-9-2022-002306": 0.0,
86
+ "E-9-2022-002405": 0.0,
87
+ "E-9-2022-002415": 0.0,
88
+ "E-9-2022-002432": 0.5,
89
+ "E-9-2022-002444": 1.0,
90
+ "E-9-2022-002475": 0.0,
91
+ "E-9-2022-002516": 0.0,
92
+ "E-9-2022-002608": 0.0,
93
+ "E-9-2022-002670": 1.0,
94
+ "E-9-2022-002675": 0.125,
95
+ "E-9-2022-002761": 1.0,
96
+ "E-9-2022-002777": 1.0,
97
+ "E-9-2022-002820": 0.0,
98
+ "E-9-2022-002824": 0.0,
99
+ "E-9-2022-002831": 0.0,
100
+ "E-9-2022-002928": 0.0,
101
+ "E-9-2022-002946": 1.0,
102
+ "E-9-2022-002989": 0.1111111111111111,
103
+ "E-9-2022-003065": 0.0,
104
+ "E-9-2022-003071": 0.16666666666666666,
105
+ "E-9-2022-003111": 0.3333333333333333,
106
+ "E-9-2022-003127": 0.5,
107
+ "E-9-2022-003155": 1.0,
108
+ "E-9-2022-003215": 1.0,
109
+ "E-9-2022-003265": 0.5,
110
+ "E-9-2022-003290": 1.0,
111
+ "E-9-2022-003293": 0.0,
112
+ "E-9-2022-003299": 0.0,
113
+ "E-9-2022-003343": 0.5,
114
+ "E-9-2022-003374": 1.0,
115
+ "E-9-2022-003407": 0.0,
116
+ "E-9-2022-003439": 1.0,
117
+ "E-9-2022-003470": 1.0,
118
+ "E-9-2022-003507": 0.0,
119
+ "E-9-2022-003570": 0.0,
120
+ "E-9-2022-003743": 0.3333333333333333,
121
+ "E-9-2022-003836": 0.16666666666666666,
122
+ "E-9-2022-003894": 1.0,
123
+ "E-9-2022-003930": 1.0,
124
+ "E-9-2022-004012": 1.0,
125
+ "E-9-2022-004013": 0.0,
126
+ "E-9-2022-004038": 0.5,
127
+ "E-9-2022-004074": 0.5,
128
+ "E-9-2022-004090": 0.0,
129
+ "E-9-2022-004116": 0.25,
130
+ "E-9-2022-004149": 0.0,
131
+ "E-9-2023-000037": 1.0,
132
+ "E-9-2023-000073": 0.0,
133
+ "E-9-2023-000108": 0.3333333333333333,
134
+ "E-9-2023-000113": 0.0,
135
+ "E-9-2023-000141": 0.0,
136
+ "E-9-2023-000166": 0.5,
137
+ "E-9-2023-000172": 1.0,
138
+ "E-9-2023-000238": 0.16666666666666666,
139
+ "E-9-2023-000331": 0.1111111111111111,
140
+ "E-9-2023-000360": 0.0,
141
+ "E-9-2023-000476": 1.0,
142
+ "E-9-2023-000511": 0.3333333333333333,
143
+ "E-9-2023-000526": 1.0,
144
+ "E-9-2023-000529": 0.0,
145
+ "E-9-2023-000533": 0.5,
146
+ "E-9-2023-000550": 0.0,
147
+ "E-9-2023-000553": 0.1111111111111111,
148
+ "E-9-2023-000589": 1.0,
149
+ "E-9-2023-000617": 0.0,
150
+ "E-9-2023-000666": 1.0,
151
+ "E-9-2023-000918": 0.5,
152
+ "E-9-2023-000992": 0.0,
153
+ "E-9-2023-001048": 0.3333333333333333,
154
+ "E-9-2023-001148": 0.0,
155
+ "E-9-2023-001188": 1.0,
156
+ "E-9-2023-001237": 1.0,
157
+ "E-9-2023-001247": 1.0,
158
+ "E-9-2023-001318": 0.0,
159
+ "E-9-2023-001322": 0.0,
160
+ "E-9-2023-001346": 0.0,
161
+ "E-9-2023-001358": 0.125,
162
+ "E-9-2023-001426": 1.0,
163
+ "E-9-2023-001437": 0.5,
164
+ "E-9-2023-001454": 0.5,
165
+ "E-9-2023-001458": 0.0,
166
+ "E-9-2023-001491": 0.2,
167
+ "E-9-2023-001520": 0.5,
168
+ "E-9-2023-001538": 0.5,
169
+ "E-9-2023-001600": 0.0,
170
+ "E-9-2023-001611": 0.5,
171
+ "E-9-2023-001638": 0.3333333333333333,
172
+ "E-9-2023-001685": 0.125,
173
+ "E-9-2023-001692": 0.5,
174
+ "E-9-2023-001758": 1.0,
175
+ "E-9-2023-001819": 0.0,
176
+ "E-9-2023-001839": 0.0,
177
+ "E-9-2023-001846": 0.2,
178
+ "E-9-2023-001859": 0.0,
179
+ "E-9-2023-001877": 0.3333333333333333,
180
+ "E-9-2023-001904": 0.0,
181
+ "E-9-2023-002095": 0.0,
182
+ "E-9-2023-002103": 1.0,
183
+ "E-9-2023-002115": 1.0,
184
+ "E-9-2023-002186": 1.0,
185
+ "E-9-2023-002240": 1.0,
186
+ "E-9-2023-002242": 0.0,
187
+ "E-9-2023-002281": 0.0,
188
+ "E-9-2023-002383": 0.25,
189
+ "E-9-2023-002395": 1.0,
190
+ "E-9-2023-002442": 0.0,
191
+ "E-9-2023-002479": 0.0,
192
+ "E-9-2023-002505": 0.0,
193
+ "E-9-2023-002509": 0.5,
194
+ "E-9-2023-002540": 0.14285714285714285,
195
+ "E-9-2023-002610": 0.0,
196
+ "E-9-2023-002625": 1.0,
197
+ "E-9-2023-002637": 1.0,
198
+ "E-9-2023-002640": 1.0,
199
+ "E-9-2023-002683": 1.0,
200
+ "E-9-2023-002699": 1.0,
201
+ "E-9-2023-002743": 0.0,
202
+ "E-9-2023-002751": 0.0,
203
+ "E-9-2023-002758": 0.0,
204
+ "E-9-2023-002815": 0.0,
205
+ "E-9-2023-002833": 1.0,
206
+ "E-9-2023-002883": 0.5,
207
+ "E-9-2023-002980": 1.0,
208
+ "E-9-2023-002994": 1.0,
209
+ "E-9-2023-003002": 1.0,
210
+ "E-9-2023-003022": 0.3333333333333333,
211
+ "E-9-2023-003117": 0.2,
212
+ "E-9-2023-003122": 1.0,
213
+ "E-9-2023-003167": 0.16666666666666666,
214
+ "E-9-2023-003215": 0.1111111111111111,
215
+ "E-9-2023-003326": 1.0,
216
+ "E-9-2023-003373": 0.0,
217
+ "E-9-2023-003404": 0.125,
218
+ "E-9-2023-003408": 0.0,
219
+ "E-9-2023-003419": 1.0,
220
+ "E-9-2023-003439": 0.0,
221
+ "E-9-2023-003453": 1.0,
222
+ "E-9-2023-003492": 0.0,
223
+ "E-9-2023-003533": 1.0,
224
+ "E-9-2023-003602": 0.0,
225
+ "E-9-2023-003607": 0.5,
226
+ "E-9-2023-003675": 0.0,
227
+ "E-9-2023-003685": 0.2,
228
+ "E-9-2023-003728": 0.0,
229
+ "E-9-2023-003749": 1.0,
230
+ "E-9-2023-003754": 0.0,
231
+ "P-9-2022-000135": 0.0,
232
+ "P-9-2022-000661": 0.0,
233
+ "P-9-2022-001119": 0.25,
234
+ "P-9-2022-001271": 0.25,
235
+ "P-9-2022-001337": 0.0,
236
+ "P-9-2022-001555": 0.0,
237
+ "P-9-2022-001666": 0.0,
238
+ "P-9-2022-002383": 0.0,
239
+ "P-9-2022-002535": 0.0,
240
+ "P-9-2022-002627": 0.5,
241
+ "P-9-2022-002830": 0.25,
242
+ "P-9-2022-002838": 0.0,
243
+ "P-9-2022-002863": 0.0,
244
+ "P-9-2022-003463": 0.0,
245
+ "P-9-2022-003675": 0.125,
246
+ "P-9-2023-000633": 0.0,
247
+ "P-9-2023-001534": 0.0,
248
+ "P-9-2023-001841": 1.0,
249
+ "P-9-2023-002104": 1.0,
250
+ "P-9-2023-002410": 0.3333333333333333,
251
+ "P-9-2023-002436": 0.2,
252
+ "P-9-2023-002485": 1.0,
253
+ "P-9-2023-002496": 0.0,
254
+ "P-9-2023-002514": 1.0,
255
+ "P-9-2023-002791": 0.0,
256
+ "P-9-2023-002805": 1.0,
257
+ "P-9-2023-002808": 1.0,
258
+ "P-9-2023-003005": 0.25,
259
+ "P-9-2023-003169": 0.0,
260
+ "P-9-2023-003268": 0.0,
261
+ "P-9-2023-003372": 0.0,
262
+ "P-9-2023-003471": 0.0,
263
+ "P-9-2023-003707": 1.0
264
+ },
265
+ "R@10": {
266
+ "E-9-2022-000040": 0.4,
267
+ "E-9-2022-000104": 1.0,
268
+ "E-9-2022-000148": 0.0,
269
+ "E-9-2022-000167": 1.0,
270
+ "E-9-2022-000169": 0.0,
271
+ "E-9-2022-000230": 0.0,
272
+ "E-9-2022-000264": 0.5,
273
+ "E-9-2022-000285": 0.3333333333333333,
274
+ "E-9-2022-000315": 0.75,
275
+ "E-9-2022-000391": 1.0,
276
+ "E-9-2022-000392": 1.0,
277
+ "E-9-2022-000398": 0.0,
278
+ "E-9-2022-000411": 0.0,
279
+ "E-9-2022-000423": 1.0,
280
+ "E-9-2022-000424": 0.4,
281
+ "E-9-2022-000447": 1.0,
282
+ "E-9-2022-000493": 0.1,
283
+ "E-9-2022-000495": 0.0,
284
+ "E-9-2022-000501": 0.0,
285
+ "E-9-2022-000502": 1.0,
286
+ "E-9-2022-000577": 1.0,
287
+ "E-9-2022-000578": 1.0,
288
+ "E-9-2022-000603": 0.0,
289
+ "E-9-2022-000608": 1.0,
290
+ "E-9-2022-000615": 0.0,
291
+ "E-9-2022-000639": 1.0,
292
+ "E-9-2022-000667": 0.0,
293
+ "E-9-2022-000783": 1.0,
294
+ "E-9-2022-000797": 1.0,
295
+ "E-9-2022-001030": 1.0,
296
+ "E-9-2022-001097": 0.0,
297
+ "E-9-2022-001100": 1.0,
298
+ "E-9-2022-001124": 1.0,
299
+ "E-9-2022-001178": 1.0,
300
+ "E-9-2022-001181": 0.0,
301
+ "E-9-2022-001189": 1.0,
302
+ "E-9-2022-001205": 1.0,
303
+ "E-9-2022-001244": 1.0,
304
+ "E-9-2022-001246": 0.0,
305
+ "E-9-2022-001270": 1.0,
306
+ "E-9-2022-001284": 0.0,
307
+ "E-9-2022-001285": 1.0,
308
+ "E-9-2022-001290": 0.5,
309
+ "E-9-2022-001347": 1.0,
310
+ "E-9-2022-001358": 1.0,
311
+ "E-9-2022-001373": 0.0,
312
+ "E-9-2022-001381": 1.0,
313
+ "E-9-2022-001394": 1.0,
314
+ "E-9-2022-001402": 0.0,
315
+ "E-9-2022-001415": 1.0,
316
+ "E-9-2022-001475": 0.6666666666666666,
317
+ "E-9-2022-001502": 1.0,
318
+ "E-9-2022-001507": 0.0,
319
+ "E-9-2022-001536": 1.0,
320
+ "E-9-2022-001543": 0.5,
321
+ "E-9-2022-001546": 1.0,
322
+ "E-9-2022-001558": 1.0,
323
+ "E-9-2022-001567": 1.0,
324
+ "E-9-2022-001571": 1.0,
325
+ "E-9-2022-001592": 0.0,
326
+ "E-9-2022-001726": 0.0,
327
+ "E-9-2022-001764": 1.0,
328
+ "E-9-2022-001816": 1.0,
329
+ "E-9-2022-001852": 1.0,
330
+ "E-9-2022-001970": 1.0,
331
+ "E-9-2022-002080": 1.0,
332
+ "E-9-2022-002101": 0.0,
333
+ "E-9-2022-002174": 0.5,
334
+ "E-9-2022-002205": 1.0,
335
+ "E-9-2022-002238": 0.0,
336
+ "E-9-2022-002266": 0.0,
337
+ "E-9-2022-002272": 0.0,
338
+ "E-9-2022-002299": 1.0,
339
+ "E-9-2022-002306": 0.0,
340
+ "E-9-2022-002405": 0.0,
341
+ "E-9-2022-002415": 0.0,
342
+ "E-9-2022-002432": 1.0,
343
+ "E-9-2022-002444": 1.0,
344
+ "E-9-2022-002475": 0.0,
345
+ "E-9-2022-002516": 0.0,
346
+ "E-9-2022-002608": 0.0,
347
+ "E-9-2022-002670": 1.0,
348
+ "E-9-2022-002675": 1.0,
349
+ "E-9-2022-002761": 0.5,
350
+ "E-9-2022-002777": 1.0,
351
+ "E-9-2022-002820": 0.0,
352
+ "E-9-2022-002824": 0.0,
353
+ "E-9-2022-002831": 0.0,
354
+ "E-9-2022-002928": 0.0,
355
+ "E-9-2022-002946": 1.0,
356
+ "E-9-2022-002989": 1.0,
357
+ "E-9-2022-003065": 0.0,
358
+ "E-9-2022-003071": 1.0,
359
+ "E-9-2022-003111": 1.0,
360
+ "E-9-2022-003127": 0.3333333333333333,
361
+ "E-9-2022-003155": 1.0,
362
+ "E-9-2022-003215": 1.0,
363
+ "E-9-2022-003265": 1.0,
364
+ "E-9-2022-003290": 1.0,
365
+ "E-9-2022-003293": 0.0,
366
+ "E-9-2022-003299": 0.0,
367
+ "E-9-2022-003343": 1.0,
368
+ "E-9-2022-003374": 0.3333333333333333,
369
+ "E-9-2022-003407": 0.0,
370
+ "E-9-2022-003439": 1.0,
371
+ "E-9-2022-003470": 0.5,
372
+ "E-9-2022-003507": 0.0,
373
+ "E-9-2022-003570": 0.0,
374
+ "E-9-2022-003743": 1.0,
375
+ "E-9-2022-003836": 1.0,
376
+ "E-9-2022-003894": 1.0,
377
+ "E-9-2022-003930": 1.0,
378
+ "E-9-2022-004012": 1.0,
379
+ "E-9-2022-004013": 0.0,
380
+ "E-9-2022-004038": 1.0,
381
+ "E-9-2022-004074": 1.0,
382
+ "E-9-2022-004090": 0.0,
383
+ "E-9-2022-004116": 1.0,
384
+ "E-9-2022-004149": 0.0,
385
+ "E-9-2023-000037": 0.5,
386
+ "E-9-2023-000073": 0.0,
387
+ "E-9-2023-000108": 1.0,
388
+ "E-9-2023-000113": 0.0,
389
+ "E-9-2023-000141": 0.0,
390
+ "E-9-2023-000166": 1.0,
391
+ "E-9-2023-000172": 1.0,
392
+ "E-9-2023-000238": 1.0,
393
+ "E-9-2023-000331": 1.0,
394
+ "E-9-2023-000360": 0.0,
395
+ "E-9-2023-000476": 1.0,
396
+ "E-9-2023-000511": 1.0,
397
+ "E-9-2023-000526": 1.0,
398
+ "E-9-2023-000529": 0.0,
399
+ "E-9-2023-000533": 0.5,
400
+ "E-9-2023-000550": 0.0,
401
+ "E-9-2023-000553": 1.0,
402
+ "E-9-2023-000589": 1.0,
403
+ "E-9-2023-000617": 0.0,
404
+ "E-9-2023-000666": 1.0,
405
+ "E-9-2023-000918": 1.0,
406
+ "E-9-2023-000992": 0.0,
407
+ "E-9-2023-001048": 1.0,
408
+ "E-9-2023-001148": 0.0,
409
+ "E-9-2023-001188": 1.0,
410
+ "E-9-2023-001237": 1.0,
411
+ "E-9-2023-001247": 1.0,
412
+ "E-9-2023-001318": 0.0,
413
+ "E-9-2023-001322": 0.0,
414
+ "E-9-2023-001346": 0.0,
415
+ "E-9-2023-001358": 0.5,
416
+ "E-9-2023-001426": 1.0,
417
+ "E-9-2023-001437": 0.5,
418
+ "E-9-2023-001454": 1.0,
419
+ "E-9-2023-001458": 0.0,
420
+ "E-9-2023-001491": 1.0,
421
+ "E-9-2023-001520": 1.0,
422
+ "E-9-2023-001538": 1.0,
423
+ "E-9-2023-001600": 0.0,
424
+ "E-9-2023-001611": 0.5,
425
+ "E-9-2023-001638": 0.4,
426
+ "E-9-2023-001685": 1.0,
427
+ "E-9-2023-001692": 1.0,
428
+ "E-9-2023-001758": 0.3333333333333333,
429
+ "E-9-2023-001819": 0.0,
430
+ "E-9-2023-001839": 0.0,
431
+ "E-9-2023-001846": 0.6666666666666666,
432
+ "E-9-2023-001859": 0.0,
433
+ "E-9-2023-001877": 1.0,
434
+ "E-9-2023-001904": 0.0,
435
+ "E-9-2023-002095": 0.0,
436
+ "E-9-2023-002103": 1.0,
437
+ "E-9-2023-002115": 1.0,
438
+ "E-9-2023-002186": 1.0,
439
+ "E-9-2023-002240": 1.0,
440
+ "E-9-2023-002242": 0.0,
441
+ "E-9-2023-002281": 0.0,
442
+ "E-9-2023-002383": 1.0,
443
+ "E-9-2023-002395": 1.0,
444
+ "E-9-2023-002442": 0.0,
445
+ "E-9-2023-002479": 0.0,
446
+ "E-9-2023-002505": 0.0,
447
+ "E-9-2023-002509": 1.0,
448
+ "E-9-2023-002540": 1.0,
449
+ "E-9-2023-002610": 0.0,
450
+ "E-9-2023-002625": 1.0,
451
+ "E-9-2023-002637": 1.0,
452
+ "E-9-2023-002640": 1.0,
453
+ "E-9-2023-002683": 1.0,
454
+ "E-9-2023-002699": 1.0,
455
+ "E-9-2023-002743": 0.0,
456
+ "E-9-2023-002751": 0.0,
457
+ "E-9-2023-002758": 0.0,
458
+ "E-9-2023-002815": 0.0,
459
+ "E-9-2023-002833": 1.0,
460
+ "E-9-2023-002883": 1.0,
461
+ "E-9-2023-002980": 1.0,
462
+ "E-9-2023-002994": 1.0,
463
+ "E-9-2023-003002": 1.0,
464
+ "E-9-2023-003022": 1.0,
465
+ "E-9-2023-003117": 0.5,
466
+ "E-9-2023-003122": 1.0,
467
+ "E-9-2023-003167": 1.0,
468
+ "E-9-2023-003215": 0.25,
469
+ "E-9-2023-003326": 1.0,
470
+ "E-9-2023-003373": 0.0,
471
+ "E-9-2023-003404": 1.0,
472
+ "E-9-2023-003408": 0.0,
473
+ "E-9-2023-003419": 1.0,
474
+ "E-9-2023-003439": 0.0,
475
+ "E-9-2023-003453": 1.0,
476
+ "E-9-2023-003492": 0.0,
477
+ "E-9-2023-003533": 1.0,
478
+ "E-9-2023-003602": 0.0,
479
+ "E-9-2023-003607": 1.0,
480
+ "E-9-2023-003675": 0.0,
481
+ "E-9-2023-003685": 1.0,
482
+ "E-9-2023-003728": 0.0,
483
+ "E-9-2023-003749": 1.0,
484
+ "E-9-2023-003754": 0.0,
485
+ "P-9-2022-000135": 0.0,
486
+ "P-9-2022-000661": 0.0,
487
+ "P-9-2022-001119": 0.5,
488
+ "P-9-2022-001271": 0.5,
489
+ "P-9-2022-001337": 0.0,
490
+ "P-9-2022-001555": 0.0,
491
+ "P-9-2022-001666": 0.0,
492
+ "P-9-2022-002383": 0.0,
493
+ "P-9-2022-002535": 0.0,
494
+ "P-9-2022-002627": 1.0,
495
+ "P-9-2022-002830": 0.25,
496
+ "P-9-2022-002838": 0.0,
497
+ "P-9-2022-002863": 0.0,
498
+ "P-9-2022-003463": 0.0,
499
+ "P-9-2022-003675": 1.0,
500
+ "P-9-2023-000633": 0.0,
501
+ "P-9-2023-001534": 0.0,
502
+ "P-9-2023-001841": 1.0,
503
+ "P-9-2023-002104": 1.0,
504
+ "P-9-2023-002410": 1.0,
505
+ "P-9-2023-002436": 1.0,
506
+ "P-9-2023-002485": 1.0,
507
+ "P-9-2023-002496": 0.0,
508
+ "P-9-2023-002514": 1.0,
509
+ "P-9-2023-002791": 0.0,
510
+ "P-9-2023-002805": 1.0,
511
+ "P-9-2023-002808": 1.0,
512
+ "P-9-2023-003005": 1.0,
513
+ "P-9-2023-003169": 0.0,
514
+ "P-9-2023-003268": 0.0,
515
+ "P-9-2023-003372": 0.0,
516
+ "P-9-2023-003471": 0.0,
517
+ "P-9-2023-003707": 1.0
518
+ },
519
+ "R@30": {
520
+ "E-9-2022-000040": 0.6,
521
+ "E-9-2022-000104": 1.0,
522
+ "E-9-2022-000148": 0.0,
523
+ "E-9-2022-000167": 1.0,
524
+ "E-9-2022-000169": 0.0,
525
+ "E-9-2022-000230": 0.0,
526
+ "E-9-2022-000264": 0.75,
527
+ "E-9-2022-000285": 0.6666666666666666,
528
+ "E-9-2022-000315": 0.75,
529
+ "E-9-2022-000391": 1.0,
530
+ "E-9-2022-000392": 1.0,
531
+ "E-9-2022-000398": 0.0,
532
+ "E-9-2022-000411": 0.5,
533
+ "E-9-2022-000423": 1.0,
534
+ "E-9-2022-000424": 0.6,
535
+ "E-9-2022-000447": 1.0,
536
+ "E-9-2022-000493": 0.2,
537
+ "E-9-2022-000495": 0.0,
538
+ "E-9-2022-000501": 0.0,
539
+ "E-9-2022-000502": 1.0,
540
+ "E-9-2022-000577": 1.0,
541
+ "E-9-2022-000578": 1.0,
542
+ "E-9-2022-000603": 0.0,
543
+ "E-9-2022-000608": 1.0,
544
+ "E-9-2022-000615": 1.0,
545
+ "E-9-2022-000639": 1.0,
546
+ "E-9-2022-000667": 0.0,
547
+ "E-9-2022-000783": 1.0,
548
+ "E-9-2022-000797": 1.0,
549
+ "E-9-2022-001030": 1.0,
550
+ "E-9-2022-001097": 0.0,
551
+ "E-9-2022-001100": 1.0,
552
+ "E-9-2022-001124": 1.0,
553
+ "E-9-2022-001178": 1.0,
554
+ "E-9-2022-001181": 0.25,
555
+ "E-9-2022-001189": 1.0,
556
+ "E-9-2022-001205": 1.0,
557
+ "E-9-2022-001244": 1.0,
558
+ "E-9-2022-001246": 0.0,
559
+ "E-9-2022-001270": 1.0,
560
+ "E-9-2022-001284": 1.0,
561
+ "E-9-2022-001285": 1.0,
562
+ "E-9-2022-001290": 0.5,
563
+ "E-9-2022-001347": 1.0,
564
+ "E-9-2022-001358": 1.0,
565
+ "E-9-2022-001373": 0.0,
566
+ "E-9-2022-001381": 1.0,
567
+ "E-9-2022-001394": 1.0,
568
+ "E-9-2022-001402": 0.5,
569
+ "E-9-2022-001415": 1.0,
570
+ "E-9-2022-001475": 1.0,
571
+ "E-9-2022-001502": 1.0,
572
+ "E-9-2022-001507": 0.0,
573
+ "E-9-2022-001536": 1.0,
574
+ "E-9-2022-001543": 1.0,
575
+ "E-9-2022-001546": 1.0,
576
+ "E-9-2022-001558": 1.0,
577
+ "E-9-2022-001567": 1.0,
578
+ "E-9-2022-001571": 1.0,
579
+ "E-9-2022-001592": 1.0,
580
+ "E-9-2022-001726": 0.0,
581
+ "E-9-2022-001764": 1.0,
582
+ "E-9-2022-001816": 1.0,
583
+ "E-9-2022-001852": 1.0,
584
+ "E-9-2022-001970": 1.0,
585
+ "E-9-2022-002080": 1.0,
586
+ "E-9-2022-002101": 0.0,
587
+ "E-9-2022-002174": 0.5,
588
+ "E-9-2022-002205": 1.0,
589
+ "E-9-2022-002238": 0.0,
590
+ "E-9-2022-002266": 0.0,
591
+ "E-9-2022-002272": 0.5,
592
+ "E-9-2022-002299": 1.0,
593
+ "E-9-2022-002306": 0.0,
594
+ "E-9-2022-002405": 0.5,
595
+ "E-9-2022-002415": 0.0,
596
+ "E-9-2022-002432": 1.0,
597
+ "E-9-2022-002444": 1.0,
598
+ "E-9-2022-002475": 1.0,
599
+ "E-9-2022-002516": 0.5,
600
+ "E-9-2022-002608": 1.0,
601
+ "E-9-2022-002670": 1.0,
602
+ "E-9-2022-002675": 1.0,
603
+ "E-9-2022-002761": 0.5,
604
+ "E-9-2022-002777": 1.0,
605
+ "E-9-2022-002820": 1.0,
606
+ "E-9-2022-002824": 0.0,
607
+ "E-9-2022-002831": 0.0,
608
+ "E-9-2022-002928": 1.0,
609
+ "E-9-2022-002946": 1.0,
610
+ "E-9-2022-002989": 1.0,
611
+ "E-9-2022-003065": 0.0,
612
+ "E-9-2022-003071": 1.0,
613
+ "E-9-2022-003111": 1.0,
614
+ "E-9-2022-003127": 0.3333333333333333,
615
+ "E-9-2022-003155": 1.0,
616
+ "E-9-2022-003215": 1.0,
617
+ "E-9-2022-003265": 1.0,
618
+ "E-9-2022-003290": 1.0,
619
+ "E-9-2022-003293": 1.0,
620
+ "E-9-2022-003299": 0.0,
621
+ "E-9-2022-003343": 1.0,
622
+ "E-9-2022-003374": 1.0,
623
+ "E-9-2022-003407": 0.0,
624
+ "E-9-2022-003439": 1.0,
625
+ "E-9-2022-003470": 0.5,
626
+ "E-9-2022-003507": 0.0,
627
+ "E-9-2022-003570": 1.0,
628
+ "E-9-2022-003743": 1.0,
629
+ "E-9-2022-003836": 1.0,
630
+ "E-9-2022-003894": 1.0,
631
+ "E-9-2022-003930": 1.0,
632
+ "E-9-2022-004012": 1.0,
633
+ "E-9-2022-004013": 0.0,
634
+ "E-9-2022-004038": 1.0,
635
+ "E-9-2022-004074": 1.0,
636
+ "E-9-2022-004090": 0.0,
637
+ "E-9-2022-004116": 1.0,
638
+ "E-9-2022-004149": 0.0,
639
+ "E-9-2023-000037": 0.5,
640
+ "E-9-2023-000073": 0.0,
641
+ "E-9-2023-000108": 1.0,
642
+ "E-9-2023-000113": 0.0,
643
+ "E-9-2023-000141": 1.0,
644
+ "E-9-2023-000166": 1.0,
645
+ "E-9-2023-000172": 1.0,
646
+ "E-9-2023-000238": 1.0,
647
+ "E-9-2023-000331": 1.0,
648
+ "E-9-2023-000360": 0.0,
649
+ "E-9-2023-000476": 1.0,
650
+ "E-9-2023-000511": 1.0,
651
+ "E-9-2023-000526": 1.0,
652
+ "E-9-2023-000529": 0.0,
653
+ "E-9-2023-000533": 0.5,
654
+ "E-9-2023-000550": 0.0,
655
+ "E-9-2023-000553": 1.0,
656
+ "E-9-2023-000589": 1.0,
657
+ "E-9-2023-000617": 0.0,
658
+ "E-9-2023-000666": 1.0,
659
+ "E-9-2023-000918": 1.0,
660
+ "E-9-2023-000992": 0.0,
661
+ "E-9-2023-001048": 1.0,
662
+ "E-9-2023-001148": 1.0,
663
+ "E-9-2023-001188": 1.0,
664
+ "E-9-2023-001237": 1.0,
665
+ "E-9-2023-001247": 1.0,
666
+ "E-9-2023-001318": 0.6666666666666666,
667
+ "E-9-2023-001322": 0.0,
668
+ "E-9-2023-001346": 0.0,
669
+ "E-9-2023-001358": 1.0,
670
+ "E-9-2023-001426": 1.0,
671
+ "E-9-2023-001437": 0.5,
672
+ "E-9-2023-001454": 1.0,
673
+ "E-9-2023-001458": 0.0,
674
+ "E-9-2023-001491": 1.0,
675
+ "E-9-2023-001520": 1.0,
676
+ "E-9-2023-001538": 1.0,
677
+ "E-9-2023-001600": 1.0,
678
+ "E-9-2023-001611": 0.5,
679
+ "E-9-2023-001638": 0.8,
680
+ "E-9-2023-001685": 1.0,
681
+ "E-9-2023-001692": 1.0,
682
+ "E-9-2023-001758": 0.3333333333333333,
683
+ "E-9-2023-001819": 0.0,
684
+ "E-9-2023-001839": 1.0,
685
+ "E-9-2023-001846": 1.0,
686
+ "E-9-2023-001859": 1.0,
687
+ "E-9-2023-001877": 1.0,
688
+ "E-9-2023-001904": 0.3333333333333333,
689
+ "E-9-2023-002095": 0.0,
690
+ "E-9-2023-002103": 1.0,
691
+ "E-9-2023-002115": 1.0,
692
+ "E-9-2023-002186": 1.0,
693
+ "E-9-2023-002240": 1.0,
694
+ "E-9-2023-002242": 0.0,
695
+ "E-9-2023-002281": 0.0,
696
+ "E-9-2023-002383": 1.0,
697
+ "E-9-2023-002395": 1.0,
698
+ "E-9-2023-002442": 0.0,
699
+ "E-9-2023-002479": 0.0,
700
+ "E-9-2023-002505": 1.0,
701
+ "E-9-2023-002509": 1.0,
702
+ "E-9-2023-002540": 1.0,
703
+ "E-9-2023-002610": 1.0,
704
+ "E-9-2023-002625": 1.0,
705
+ "E-9-2023-002637": 1.0,
706
+ "E-9-2023-002640": 1.0,
707
+ "E-9-2023-002683": 1.0,
708
+ "E-9-2023-002699": 1.0,
709
+ "E-9-2023-002743": 1.0,
710
+ "E-9-2023-002751": 0.0,
711
+ "E-9-2023-002758": 1.0,
712
+ "E-9-2023-002815": 1.0,
713
+ "E-9-2023-002833": 1.0,
714
+ "E-9-2023-002883": 1.0,
715
+ "E-9-2023-002980": 1.0,
716
+ "E-9-2023-002994": 1.0,
717
+ "E-9-2023-003002": 1.0,
718
+ "E-9-2023-003022": 1.0,
719
+ "E-9-2023-003117": 0.5,
720
+ "E-9-2023-003122": 1.0,
721
+ "E-9-2023-003167": 1.0,
722
+ "E-9-2023-003215": 0.25,
723
+ "E-9-2023-003326": 1.0,
724
+ "E-9-2023-003373": 0.0,
725
+ "E-9-2023-003404": 1.0,
726
+ "E-9-2023-003408": 0.0,
727
+ "E-9-2023-003419": 1.0,
728
+ "E-9-2023-003439": 0.0,
729
+ "E-9-2023-003453": 1.0,
730
+ "E-9-2023-003492": 1.0,
731
+ "E-9-2023-003533": 1.0,
732
+ "E-9-2023-003602": 1.0,
733
+ "E-9-2023-003607": 1.0,
734
+ "E-9-2023-003675": 1.0,
735
+ "E-9-2023-003685": 1.0,
736
+ "E-9-2023-003728": 0.0,
737
+ "E-9-2023-003749": 1.0,
738
+ "E-9-2023-003754": 1.0,
739
+ "P-9-2022-000135": 0.0,
740
+ "P-9-2022-000661": 1.0,
741
+ "P-9-2022-001119": 1.0,
742
+ "P-9-2022-001271": 0.75,
743
+ "P-9-2022-001337": 0.0,
744
+ "P-9-2022-001555": 1.0,
745
+ "P-9-2022-001666": 0.0,
746
+ "P-9-2022-002383": 0.0,
747
+ "P-9-2022-002535": 0.0,
748
+ "P-9-2022-002627": 1.0,
749
+ "P-9-2022-002830": 0.25,
750
+ "P-9-2022-002838": 0.0,
751
+ "P-9-2022-002863": 0.0,
752
+ "P-9-2022-003463": 0.0,
753
+ "P-9-2022-003675": 1.0,
754
+ "P-9-2023-000633": 0.0,
755
+ "P-9-2023-001534": 0.0,
756
+ "P-9-2023-001841": 1.0,
757
+ "P-9-2023-002104": 1.0,
758
+ "P-9-2023-002410": 1.0,
759
+ "P-9-2023-002436": 1.0,
760
+ "P-9-2023-002485": 1.0,
761
+ "P-9-2023-002496": 0.0,
762
+ "P-9-2023-002514": 1.0,
763
+ "P-9-2023-002791": 1.0,
764
+ "P-9-2023-002805": 1.0,
765
+ "P-9-2023-002808": 1.0,
766
+ "P-9-2023-003005": 1.0,
767
+ "P-9-2023-003169": 0.0,
768
+ "P-9-2023-003268": 1.0,
769
+ "P-9-2023-003372": 1.0,
770
+ "P-9-2023-003471": 0.0,
771
+ "P-9-2023-003707": 1.0
772
+ },
773
+ "R@100": {
774
+ "E-9-2022-000040": 0.8,
775
+ "E-9-2022-000104": 1.0,
776
+ "E-9-2022-000148": 0.0,
777
+ "E-9-2022-000167": 1.0,
778
+ "E-9-2022-000169": 0.0,
779
+ "E-9-2022-000230": 0.0,
780
+ "E-9-2022-000264": 0.75,
781
+ "E-9-2022-000285": 1.0,
782
+ "E-9-2022-000315": 0.75,
783
+ "E-9-2022-000391": 1.0,
784
+ "E-9-2022-000392": 1.0,
785
+ "E-9-2022-000398": 0.0,
786
+ "E-9-2022-000411": 0.5,
787
+ "E-9-2022-000423": 1.0,
788
+ "E-9-2022-000424": 1.0,
789
+ "E-9-2022-000447": 1.0,
790
+ "E-9-2022-000493": 0.2,
791
+ "E-9-2022-000495": 0.0,
792
+ "E-9-2022-000501": 0.0,
793
+ "E-9-2022-000502": 1.0,
794
+ "E-9-2022-000577": 1.0,
795
+ "E-9-2022-000578": 1.0,
796
+ "E-9-2022-000603": 1.0,
797
+ "E-9-2022-000608": 1.0,
798
+ "E-9-2022-000615": 1.0,
799
+ "E-9-2022-000639": 1.0,
800
+ "E-9-2022-000667": 0.0,
801
+ "E-9-2022-000783": 1.0,
802
+ "E-9-2022-000797": 1.0,
803
+ "E-9-2022-001030": 1.0,
804
+ "E-9-2022-001097": 0.0,
805
+ "E-9-2022-001100": 1.0,
806
+ "E-9-2022-001124": 1.0,
807
+ "E-9-2022-001178": 1.0,
808
+ "E-9-2022-001181": 0.5,
809
+ "E-9-2022-001189": 1.0,
810
+ "E-9-2022-001205": 1.0,
811
+ "E-9-2022-001244": 1.0,
812
+ "E-9-2022-001246": 0.0,
813
+ "E-9-2022-001270": 1.0,
814
+ "E-9-2022-001284": 1.0,
815
+ "E-9-2022-001285": 1.0,
816
+ "E-9-2022-001290": 1.0,
817
+ "E-9-2022-001347": 1.0,
818
+ "E-9-2022-001358": 1.0,
819
+ "E-9-2022-001373": 0.0,
820
+ "E-9-2022-001381": 1.0,
821
+ "E-9-2022-001394": 1.0,
822
+ "E-9-2022-001402": 0.5,
823
+ "E-9-2022-001415": 1.0,
824
+ "E-9-2022-001475": 1.0,
825
+ "E-9-2022-001502": 1.0,
826
+ "E-9-2022-001507": 1.0,
827
+ "E-9-2022-001536": 1.0,
828
+ "E-9-2022-001543": 1.0,
829
+ "E-9-2022-001546": 1.0,
830
+ "E-9-2022-001558": 1.0,
831
+ "E-9-2022-001567": 1.0,
832
+ "E-9-2022-001571": 1.0,
833
+ "E-9-2022-001592": 1.0,
834
+ "E-9-2022-001726": 0.0,
835
+ "E-9-2022-001764": 1.0,
836
+ "E-9-2022-001816": 1.0,
837
+ "E-9-2022-001852": 1.0,
838
+ "E-9-2022-001970": 1.0,
839
+ "E-9-2022-002080": 1.0,
840
+ "E-9-2022-002101": 0.0,
841
+ "E-9-2022-002174": 0.5,
842
+ "E-9-2022-002205": 1.0,
843
+ "E-9-2022-002238": 0.5,
844
+ "E-9-2022-002266": 1.0,
845
+ "E-9-2022-002272": 0.5,
846
+ "E-9-2022-002299": 1.0,
847
+ "E-9-2022-002306": 0.0,
848
+ "E-9-2022-002405": 0.5,
849
+ "E-9-2022-002415": 0.0,
850
+ "E-9-2022-002432": 1.0,
851
+ "E-9-2022-002444": 1.0,
852
+ "E-9-2022-002475": 1.0,
853
+ "E-9-2022-002516": 1.0,
854
+ "E-9-2022-002608": 1.0,
855
+ "E-9-2022-002670": 1.0,
856
+ "E-9-2022-002675": 1.0,
857
+ "E-9-2022-002761": 0.5,
858
+ "E-9-2022-002777": 1.0,
859
+ "E-9-2022-002820": 1.0,
860
+ "E-9-2022-002824": 0.5,
861
+ "E-9-2022-002831": 1.0,
862
+ "E-9-2022-002928": 1.0,
863
+ "E-9-2022-002946": 1.0,
864
+ "E-9-2022-002989": 1.0,
865
+ "E-9-2022-003065": 0.0,
866
+ "E-9-2022-003071": 1.0,
867
+ "E-9-2022-003111": 1.0,
868
+ "E-9-2022-003127": 0.6666666666666666,
869
+ "E-9-2022-003155": 1.0,
870
+ "E-9-2022-003215": 1.0,
871
+ "E-9-2022-003265": 1.0,
872
+ "E-9-2022-003290": 1.0,
873
+ "E-9-2022-003293": 1.0,
874
+ "E-9-2022-003299": 1.0,
875
+ "E-9-2022-003343": 1.0,
876
+ "E-9-2022-003374": 1.0,
877
+ "E-9-2022-003407": 1.0,
878
+ "E-9-2022-003439": 1.0,
879
+ "E-9-2022-003470": 0.5,
880
+ "E-9-2022-003507": 0.0,
881
+ "E-9-2022-003570": 1.0,
882
+ "E-9-2022-003743": 1.0,
883
+ "E-9-2022-003836": 1.0,
884
+ "E-9-2022-003894": 1.0,
885
+ "E-9-2022-003930": 1.0,
886
+ "E-9-2022-004012": 1.0,
887
+ "E-9-2022-004013": 1.0,
888
+ "E-9-2022-004038": 1.0,
889
+ "E-9-2022-004074": 1.0,
890
+ "E-9-2022-004090": 0.0,
891
+ "E-9-2022-004116": 1.0,
892
+ "E-9-2022-004149": 0.0,
893
+ "E-9-2023-000037": 0.5,
894
+ "E-9-2023-000073": 0.0,
895
+ "E-9-2023-000108": 1.0,
896
+ "E-9-2023-000113": 0.0,
897
+ "E-9-2023-000141": 1.0,
898
+ "E-9-2023-000166": 1.0,
899
+ "E-9-2023-000172": 1.0,
900
+ "E-9-2023-000238": 1.0,
901
+ "E-9-2023-000331": 1.0,
902
+ "E-9-2023-000360": 0.0,
903
+ "E-9-2023-000476": 1.0,
904
+ "E-9-2023-000511": 1.0,
905
+ "E-9-2023-000526": 1.0,
906
+ "E-9-2023-000529": 0.0,
907
+ "E-9-2023-000533": 0.5,
908
+ "E-9-2023-000550": 1.0,
909
+ "E-9-2023-000553": 1.0,
910
+ "E-9-2023-000589": 1.0,
911
+ "E-9-2023-000617": 0.0,
912
+ "E-9-2023-000666": 1.0,
913
+ "E-9-2023-000918": 1.0,
914
+ "E-9-2023-000992": 1.0,
915
+ "E-9-2023-001048": 1.0,
916
+ "E-9-2023-001148": 1.0,
917
+ "E-9-2023-001188": 1.0,
918
+ "E-9-2023-001237": 1.0,
919
+ "E-9-2023-001247": 1.0,
920
+ "E-9-2023-001318": 0.6666666666666666,
921
+ "E-9-2023-001322": 0.0,
922
+ "E-9-2023-001346": 0.0,
923
+ "E-9-2023-001358": 1.0,
924
+ "E-9-2023-001426": 1.0,
925
+ "E-9-2023-001437": 0.5,
926
+ "E-9-2023-001454": 1.0,
927
+ "E-9-2023-001458": 0.0,
928
+ "E-9-2023-001491": 1.0,
929
+ "E-9-2023-001520": 1.0,
930
+ "E-9-2023-001538": 1.0,
931
+ "E-9-2023-001600": 1.0,
932
+ "E-9-2023-001611": 1.0,
933
+ "E-9-2023-001638": 0.8,
934
+ "E-9-2023-001685": 1.0,
935
+ "E-9-2023-001692": 1.0,
936
+ "E-9-2023-001758": 0.6666666666666666,
937
+ "E-9-2023-001819": 0.0,
938
+ "E-9-2023-001839": 1.0,
939
+ "E-9-2023-001846": 1.0,
940
+ "E-9-2023-001859": 1.0,
941
+ "E-9-2023-001877": 1.0,
942
+ "E-9-2023-001904": 1.0,
943
+ "E-9-2023-002095": 0.0,
944
+ "E-9-2023-002103": 1.0,
945
+ "E-9-2023-002115": 1.0,
946
+ "E-9-2023-002186": 1.0,
947
+ "E-9-2023-002240": 1.0,
948
+ "E-9-2023-002242": 1.0,
949
+ "E-9-2023-002281": 1.0,
950
+ "E-9-2023-002383": 1.0,
951
+ "E-9-2023-002395": 1.0,
952
+ "E-9-2023-002442": 1.0,
953
+ "E-9-2023-002479": 0.0,
954
+ "E-9-2023-002505": 1.0,
955
+ "E-9-2023-002509": 1.0,
956
+ "E-9-2023-002540": 1.0,
957
+ "E-9-2023-002610": 1.0,
958
+ "E-9-2023-002625": 1.0,
959
+ "E-9-2023-002637": 1.0,
960
+ "E-9-2023-002640": 1.0,
961
+ "E-9-2023-002683": 1.0,
962
+ "E-9-2023-002699": 1.0,
963
+ "E-9-2023-002743": 1.0,
964
+ "E-9-2023-002751": 0.0,
965
+ "E-9-2023-002758": 1.0,
966
+ "E-9-2023-002815": 1.0,
967
+ "E-9-2023-002833": 1.0,
968
+ "E-9-2023-002883": 1.0,
969
+ "E-9-2023-002980": 1.0,
970
+ "E-9-2023-002994": 1.0,
971
+ "E-9-2023-003002": 1.0,
972
+ "E-9-2023-003022": 1.0,
973
+ "E-9-2023-003117": 0.5,
974
+ "E-9-2023-003122": 1.0,
975
+ "E-9-2023-003167": 1.0,
976
+ "E-9-2023-003215": 0.75,
977
+ "E-9-2023-003326": 1.0,
978
+ "E-9-2023-003373": 1.0,
979
+ "E-9-2023-003404": 1.0,
980
+ "E-9-2023-003408": 0.0,
981
+ "E-9-2023-003419": 1.0,
982
+ "E-9-2023-003439": 0.0,
983
+ "E-9-2023-003453": 1.0,
984
+ "E-9-2023-003492": 1.0,
985
+ "E-9-2023-003533": 1.0,
986
+ "E-9-2023-003602": 1.0,
987
+ "E-9-2023-003607": 1.0,
988
+ "E-9-2023-003675": 1.0,
989
+ "E-9-2023-003685": 1.0,
990
+ "E-9-2023-003728": 0.0,
991
+ "E-9-2023-003749": 1.0,
992
+ "E-9-2023-003754": 1.0,
993
+ "P-9-2022-000135": 1.0,
994
+ "P-9-2022-000661": 1.0,
995
+ "P-9-2022-001119": 1.0,
996
+ "P-9-2022-001271": 0.75,
997
+ "P-9-2022-001337": 0.0,
998
+ "P-9-2022-001555": 1.0,
999
+ "P-9-2022-001666": 0.0,
1000
+ "P-9-2022-002383": 0.0,
1001
+ "P-9-2022-002535": 1.0,
1002
+ "P-9-2022-002627": 1.0,
1003
+ "P-9-2022-002830": 0.25,
1004
+ "P-9-2022-002838": 0.25,
1005
+ "P-9-2022-002863": 0.0,
1006
+ "P-9-2022-003463": 1.0,
1007
+ "P-9-2022-003675": 1.0,
1008
+ "P-9-2023-000633": 1.0,
1009
+ "P-9-2023-001534": 0.0,
1010
+ "P-9-2023-001841": 1.0,
1011
+ "P-9-2023-002104": 1.0,
1012
+ "P-9-2023-002410": 1.0,
1013
+ "P-9-2023-002436": 1.0,
1014
+ "P-9-2023-002485": 1.0,
1015
+ "P-9-2023-002496": 0.0,
1016
+ "P-9-2023-002514": 1.0,
1017
+ "P-9-2023-002791": 1.0,
1018
+ "P-9-2023-002805": 1.0,
1019
+ "P-9-2023-002808": 1.0,
1020
+ "P-9-2023-003005": 1.0,
1021
+ "P-9-2023-003169": 1.0,
1022
+ "P-9-2023-003268": 1.0,
1023
+ "P-9-2023-003372": 1.0,
1024
+ "P-9-2023-003471": 1.0,
1025
+ "P-9-2023-003707": 1.0
1026
+ },
1027
+ "nDCG@10": {
1028
+ "E-9-2022-000040": 0.21515079688078367,
1029
+ "E-9-2022-000104": 1.0,
1030
+ "E-9-2022-000148": 0.0,
1031
+ "E-9-2022-000167": 1.0,
1032
+ "E-9-2022-000169": 0.0,
1033
+ "E-9-2022-000230": 0.0,
1034
+ "E-9-2022-000264": 0.2691828628414762,
1035
+ "E-9-2022-000285": 0.14126697285982898,
1036
+ "E-9-2022-000315": 0.7246262544989281,
1037
+ "E-9-2022-000391": 0.43067655807339306,
1038
+ "E-9-2022-000392": 0.5,
1039
+ "E-9-2022-000398": 0.0,
1040
+ "E-9-2022-000411": 0.0,
1041
+ "E-9-2022-000423": 0.6309297535714575,
1042
+ "E-9-2022-000424": 0.48522855511632257,
1043
+ "E-9-2022-000447": 0.6309297535714575,
1044
+ "E-9-2022-000493": 0.06362078819895171,
1045
+ "E-9-2022-000495": 0.0,
1046
+ "E-9-2022-000501": 0.0,
1047
+ "E-9-2022-000502": 1.0,
1048
+ "E-9-2022-000577": 1.0,
1049
+ "E-9-2022-000578": 0.3562071871080222,
1050
+ "E-9-2022-000603": 0.0,
1051
+ "E-9-2022-000608": 0.6309297535714575,
1052
+ "E-9-2022-000615": 0.0,
1053
+ "E-9-2022-000639": 0.9708923176105698,
1054
+ "E-9-2022-000667": 0.0,
1055
+ "E-9-2022-000783": 1.0,
1056
+ "E-9-2022-000797": 1.0,
1057
+ "E-9-2022-001030": 1.0,
1058
+ "E-9-2022-001097": 0.0,
1059
+ "E-9-2022-001100": 1.0,
1060
+ "E-9-2022-001124": 1.0,
1061
+ "E-9-2022-001178": 0.6309297535714575,
1062
+ "E-9-2022-001181": 0.0,
1063
+ "E-9-2022-001189": 1.0,
1064
+ "E-9-2022-001205": 0.8503449055347546,
1065
+ "E-9-2022-001244": 0.6309297535714575,
1066
+ "E-9-2022-001246": 0.0,
1067
+ "E-9-2022-001270": 1.0,
1068
+ "E-9-2022-001284": 0.0,
1069
+ "E-9-2022-001285": 0.43067655807339306,
1070
+ "E-9-2022-001290": 0.23719771276929622,
1071
+ "E-9-2022-001347": 0.7977228895450266,
1072
+ "E-9-2022-001358": 1.0,
1073
+ "E-9-2022-001373": 0.0,
1074
+ "E-9-2022-001381": 0.6309297535714575,
1075
+ "E-9-2022-001394": 1.0,
1076
+ "E-9-2022-001402": 0.0,
1077
+ "E-9-2022-001415": 0.6309297535714575,
1078
+ "E-9-2022-001475": 0.6105456988825855,
1079
+ "E-9-2022-001502": 1.0,
1080
+ "E-9-2022-001507": 0.0,
1081
+ "E-9-2022-001536": 0.38685280723454163,
1082
+ "E-9-2022-001543": 0.38685280723454163,
1083
+ "E-9-2022-001546": 0.6240505200038379,
1084
+ "E-9-2022-001558": 0.31546487678572877,
1085
+ "E-9-2022-001567": 1.0,
1086
+ "E-9-2022-001571": 0.6309297535714575,
1087
+ "E-9-2022-001592": 0.0,
1088
+ "E-9-2022-001726": 0.0,
1089
+ "E-9-2022-001764": 0.6309297535714575,
1090
+ "E-9-2022-001816": 1.0,
1091
+ "E-9-2022-001852": 0.38685280723454163,
1092
+ "E-9-2022-001970": 1.0,
1093
+ "E-9-2022-002080": 1.0,
1094
+ "E-9-2022-002101": 0.0,
1095
+ "E-9-2022-002174": 0.6131471927654584,
1096
+ "E-9-2022-002205": 1.0,
1097
+ "E-9-2022-002238": 0.0,
1098
+ "E-9-2022-002266": 0.0,
1099
+ "E-9-2022-002272": 0.0,
1100
+ "E-9-2022-002299": 0.3010299956639812,
1101
+ "E-9-2022-002306": 0.0,
1102
+ "E-9-2022-002405": 0.0,
1103
+ "E-9-2022-002415": 0.0,
1104
+ "E-9-2022-002432": 0.6309297535714575,
1105
+ "E-9-2022-002444": 1.0,
1106
+ "E-9-2022-002475": 0.0,
1107
+ "E-9-2022-002516": 0.0,
1108
+ "E-9-2022-002608": 0.0,
1109
+ "E-9-2022-002670": 1.0,
1110
+ "E-9-2022-002675": 0.3706656904013186,
1111
+ "E-9-2022-002761": 0.6131471927654584,
1112
+ "E-9-2022-002777": 1.0,
1113
+ "E-9-2022-002820": 0.0,
1114
+ "E-9-2022-002824": 0.0,
1115
+ "E-9-2022-002831": 0.0,
1116
+ "E-9-2022-002928": 0.0,
1117
+ "E-9-2022-002946": 1.0,
1118
+ "E-9-2022-002989": 0.3010299956639812,
1119
+ "E-9-2022-003065": 0.0,
1120
+ "E-9-2022-003071": 0.3562071871080222,
1121
+ "E-9-2022-003111": 0.5,
1122
+ "E-9-2022-003127": 0.2960819109658652,
1123
+ "E-9-2022-003155": 1.0,
1124
+ "E-9-2022-003215": 1.0,
1125
+ "E-9-2022-003265": 0.5802792108518124,
1126
+ "E-9-2022-003290": 1.0,
1127
+ "E-9-2022-003293": 0.0,
1128
+ "E-9-2022-003299": 0.0,
1129
+ "E-9-2022-003343": 0.6309297535714575,
1130
+ "E-9-2022-003374": 0.46927872602275644,
1131
+ "E-9-2022-003407": 0.0,
1132
+ "E-9-2022-003439": 1.0,
1133
+ "E-9-2022-003470": 0.6131471927654584,
1134
+ "E-9-2022-003507": 0.0,
1135
+ "E-9-2022-003570": 0.0,
1136
+ "E-9-2022-003743": 0.5,
1137
+ "E-9-2022-003836": 0.3562071871080222,
1138
+ "E-9-2022-003894": 1.0,
1139
+ "E-9-2022-003930": 1.0,
1140
+ "E-9-2022-004012": 1.0,
1141
+ "E-9-2022-004013": 0.0,
1142
+ "E-9-2022-004038": 0.6309297535714575,
1143
+ "E-9-2022-004074": 0.6309297535714575,
1144
+ "E-9-2022-004090": 0.0,
1145
+ "E-9-2022-004116": 0.43067655807339306,
1146
+ "E-9-2022-004149": 0.0,
1147
+ "E-9-2023-000037": 0.6131471927654584,
1148
+ "E-9-2023-000073": 0.0,
1149
+ "E-9-2023-000108": 0.5,
1150
+ "E-9-2023-000113": 0.0,
1151
+ "E-9-2023-000141": 0.0,
1152
+ "E-9-2023-000166": 0.6309297535714575,
1153
+ "E-9-2023-000172": 1.0,
1154
+ "E-9-2023-000238": 0.3562071871080222,
1155
+ "E-9-2023-000331": 0.3010299956639812,
1156
+ "E-9-2023-000360": 0.0,
1157
+ "E-9-2023-000476": 1.0,
1158
+ "E-9-2023-000511": 0.5,
1159
+ "E-9-2023-000526": 1.0,
1160
+ "E-9-2023-000529": 0.0,
1161
+ "E-9-2023-000533": 0.38685280723454163,
1162
+ "E-9-2023-000550": 0.0,
1163
+ "E-9-2023-000553": 0.3010299956639812,
1164
+ "E-9-2023-000589": 1.0,
1165
+ "E-9-2023-000617": 0.0,
1166
+ "E-9-2023-000666": 1.0,
1167
+ "E-9-2023-000918": 0.6309297535714575,
1168
+ "E-9-2023-000992": 0.0,
1169
+ "E-9-2023-001048": 0.5,
1170
+ "E-9-2023-001148": 0.0,
1171
+ "E-9-2023-001188": 1.0,
1172
+ "E-9-2023-001237": 1.0,
1173
+ "E-9-2023-001247": 1.0,
1174
+ "E-9-2023-001318": 0.0,
1175
+ "E-9-2023-001322": 0.0,
1176
+ "E-9-2023-001346": 0.0,
1177
+ "E-9-2023-001358": 0.19342640361727081,
1178
+ "E-9-2023-001426": 1.0,
1179
+ "E-9-2023-001437": 0.38685280723454163,
1180
+ "E-9-2023-001454": 0.6309297535714575,
1181
+ "E-9-2023-001458": 0.0,
1182
+ "E-9-2023-001491": 0.38685280723454163,
1183
+ "E-9-2023-001520": 0.6309297535714575,
1184
+ "E-9-2023-001538": 0.6934264036172708,
1185
+ "E-9-2023-001600": 0.0,
1186
+ "E-9-2023-001611": 0.38685280723454163,
1187
+ "E-9-2023-001638": 0.2765732350040718,
1188
+ "E-9-2023-001685": 0.31546487678572877,
1189
+ "E-9-2023-001692": 0.6309297535714575,
1190
+ "E-9-2023-001758": 0.46927872602275644,
1191
+ "E-9-2023-001819": 0.0,
1192
+ "E-9-2023-001839": 0.0,
1193
+ "E-9-2023-001846": 0.3171937659698004,
1194
+ "E-9-2023-001859": 0.0,
1195
+ "E-9-2023-001877": 0.5,
1196
+ "E-9-2023-001904": 0.0,
1197
+ "E-9-2023-002095": 0.0,
1198
+ "E-9-2023-002103": 1.0,
1199
+ "E-9-2023-002115": 1.0,
1200
+ "E-9-2023-002186": 1.0,
1201
+ "E-9-2023-002240": 1.0,
1202
+ "E-9-2023-002242": 0.0,
1203
+ "E-9-2023-002281": 0.0,
1204
+ "E-9-2023-002383": 0.43067655807339306,
1205
+ "E-9-2023-002395": 1.0,
1206
+ "E-9-2023-002442": 0.0,
1207
+ "E-9-2023-002479": 0.0,
1208
+ "E-9-2023-002505": 0.0,
1209
+ "E-9-2023-002509": 0.6309297535714575,
1210
+ "E-9-2023-002540": 0.3333333333333333,
1211
+ "E-9-2023-002610": 0.0,
1212
+ "E-9-2023-002625": 1.0,
1213
+ "E-9-2023-002637": 1.0,
1214
+ "E-9-2023-002640": 1.0,
1215
+ "E-9-2023-002683": 1.0,
1216
+ "E-9-2023-002699": 1.0,
1217
+ "E-9-2023-002743": 0.0,
1218
+ "E-9-2023-002751": 0.0,
1219
+ "E-9-2023-002758": 0.0,
1220
+ "E-9-2023-002815": 0.0,
1221
+ "E-9-2023-002833": 1.0,
1222
+ "E-9-2023-002883": 0.6934264036172708,
1223
+ "E-9-2023-002980": 1.0,
1224
+ "E-9-2023-002994": 1.0,
1225
+ "E-9-2023-003002": 1.0,
1226
+ "E-9-2023-003022": 0.5,
1227
+ "E-9-2023-003117": 0.23719771276929622,
1228
+ "E-9-2023-003122": 1.0,
1229
+ "E-9-2023-003167": 0.3562071871080222,
1230
+ "E-9-2023-003215": 0.11751610475642714,
1231
+ "E-9-2023-003326": 1.0,
1232
+ "E-9-2023-003373": 0.0,
1233
+ "E-9-2023-003404": 0.31546487678572877,
1234
+ "E-9-2023-003408": 0.0,
1235
+ "E-9-2023-003419": 1.0,
1236
+ "E-9-2023-003439": 0.0,
1237
+ "E-9-2023-003453": 1.0,
1238
+ "E-9-2023-003492": 0.0,
1239
+ "E-9-2023-003533": 0.9197207891481876,
1240
+ "E-9-2023-003602": 0.0,
1241
+ "E-9-2023-003607": 0.6309297535714575,
1242
+ "E-9-2023-003675": 0.0,
1243
+ "E-9-2023-003685": 0.38685280723454163,
1244
+ "E-9-2023-003728": 0.0,
1245
+ "E-9-2023-003749": 1.0,
1246
+ "E-9-2023-003754": 0.0,
1247
+ "P-9-2022-000135": 0.0,
1248
+ "P-9-2022-000661": 0.0,
1249
+ "P-9-2022-001119": 0.2640681225725909,
1250
+ "P-9-2022-001271": 0.298254219601818,
1251
+ "P-9-2022-001337": 0.0,
1252
+ "P-9-2022-001555": 0.0,
1253
+ "P-9-2022-001666": 0.0,
1254
+ "P-9-2022-002383": 0.0,
1255
+ "P-9-2022-002535": 0.0,
1256
+ "P-9-2022-002627": 0.6309297535714575,
1257
+ "P-9-2022-002830": 0.16812753627111746,
1258
+ "P-9-2022-002838": 0.0,
1259
+ "P-9-2022-002863": 0.0,
1260
+ "P-9-2022-003463": 0.0,
1261
+ "P-9-2022-003675": 0.31546487678572877,
1262
+ "P-9-2023-000633": 0.0,
1263
+ "P-9-2023-001534": 0.0,
1264
+ "P-9-2023-001841": 1.0,
1265
+ "P-9-2023-002104": 1.0,
1266
+ "P-9-2023-002410": 0.5437713091520254,
1267
+ "P-9-2023-002436": 0.38685280723454163,
1268
+ "P-9-2023-002485": 1.0,
1269
+ "P-9-2023-002496": 0.0,
1270
+ "P-9-2023-002514": 1.0,
1271
+ "P-9-2023-002791": 0.0,
1272
+ "P-9-2023-002805": 1.0,
1273
+ "P-9-2023-002808": 1.0,
1274
+ "P-9-2023-003005": 0.5173087569496825,
1275
+ "P-9-2023-003169": 0.0,
1276
+ "P-9-2023-003268": 0.0,
1277
+ "P-9-2023-003372": 0.0,
1278
+ "P-9-2023-003471": 0.0,
1279
+ "P-9-2023-003707": 1.0
1280
+ },
1281
+ "Success@1": {
1282
+ "E-9-2022-000040": 0.0,
1283
+ "E-9-2022-000104": 1.0,
1284
+ "E-9-2022-000148": 0.0,
1285
+ "E-9-2022-000167": 1.0,
1286
+ "E-9-2022-000169": 0.0,
1287
+ "E-9-2022-000230": 0.0,
1288
+ "E-9-2022-000264": 0.0,
1289
+ "E-9-2022-000285": 0.0,
1290
+ "E-9-2022-000315": 1.0,
1291
+ "E-9-2022-000391": 0.0,
1292
+ "E-9-2022-000392": 0.0,
1293
+ "E-9-2022-000398": 0.0,
1294
+ "E-9-2022-000411": 0.0,
1295
+ "E-9-2022-000423": 0.0,
1296
+ "E-9-2022-000424": 1.0,
1297
+ "E-9-2022-000447": 0.0,
1298
+ "E-9-2022-000493": 0.0,
1299
+ "E-9-2022-000495": 0.0,
1300
+ "E-9-2022-000501": 0.0,
1301
+ "E-9-2022-000502": 1.0,
1302
+ "E-9-2022-000577": 1.0,
1303
+ "E-9-2022-000578": 0.0,
1304
+ "E-9-2022-000603": 0.0,
1305
+ "E-9-2022-000608": 0.0,
1306
+ "E-9-2022-000615": 0.0,
1307
+ "E-9-2022-000639": 1.0,
1308
+ "E-9-2022-000667": 0.0,
1309
+ "E-9-2022-000783": 1.0,
1310
+ "E-9-2022-000797": 1.0,
1311
+ "E-9-2022-001030": 1.0,
1312
+ "E-9-2022-001097": 0.0,
1313
+ "E-9-2022-001100": 1.0,
1314
+ "E-9-2022-001124": 1.0,
1315
+ "E-9-2022-001178": 0.0,
1316
+ "E-9-2022-001181": 0.0,
1317
+ "E-9-2022-001189": 1.0,
1318
+ "E-9-2022-001205": 1.0,
1319
+ "E-9-2022-001244": 0.0,
1320
+ "E-9-2022-001246": 0.0,
1321
+ "E-9-2022-001270": 1.0,
1322
+ "E-9-2022-001284": 0.0,
1323
+ "E-9-2022-001285": 0.0,
1324
+ "E-9-2022-001290": 0.0,
1325
+ "E-9-2022-001347": 1.0,
1326
+ "E-9-2022-001358": 1.0,
1327
+ "E-9-2022-001373": 0.0,
1328
+ "E-9-2022-001381": 0.0,
1329
+ "E-9-2022-001394": 1.0,
1330
+ "E-9-2022-001402": 0.0,
1331
+ "E-9-2022-001415": 0.0,
1332
+ "E-9-2022-001475": 1.0,
1333
+ "E-9-2022-001502": 1.0,
1334
+ "E-9-2022-001507": 0.0,
1335
+ "E-9-2022-001536": 0.0,
1336
+ "E-9-2022-001543": 0.0,
1337
+ "E-9-2022-001546": 0.0,
1338
+ "E-9-2022-001558": 0.0,
1339
+ "E-9-2022-001567": 1.0,
1340
+ "E-9-2022-001571": 0.0,
1341
+ "E-9-2022-001592": 0.0,
1342
+ "E-9-2022-001726": 0.0,
1343
+ "E-9-2022-001764": 0.0,
1344
+ "E-9-2022-001816": 1.0,
1345
+ "E-9-2022-001852": 0.0,
1346
+ "E-9-2022-001970": 1.0,
1347
+ "E-9-2022-002080": 1.0,
1348
+ "E-9-2022-002101": 0.0,
1349
+ "E-9-2022-002174": 1.0,
1350
+ "E-9-2022-002205": 1.0,
1351
+ "E-9-2022-002238": 0.0,
1352
+ "E-9-2022-002266": 0.0,
1353
+ "E-9-2022-002272": 0.0,
1354
+ "E-9-2022-002299": 0.0,
1355
+ "E-9-2022-002306": 0.0,
1356
+ "E-9-2022-002405": 0.0,
1357
+ "E-9-2022-002415": 0.0,
1358
+ "E-9-2022-002432": 0.0,
1359
+ "E-9-2022-002444": 1.0,
1360
+ "E-9-2022-002475": 0.0,
1361
+ "E-9-2022-002516": 0.0,
1362
+ "E-9-2022-002608": 0.0,
1363
+ "E-9-2022-002670": 1.0,
1364
+ "E-9-2022-002675": 0.0,
1365
+ "E-9-2022-002761": 1.0,
1366
+ "E-9-2022-002777": 1.0,
1367
+ "E-9-2022-002820": 0.0,
1368
+ "E-9-2022-002824": 0.0,
1369
+ "E-9-2022-002831": 0.0,
1370
+ "E-9-2022-002928": 0.0,
1371
+ "E-9-2022-002946": 1.0,
1372
+ "E-9-2022-002989": 0.0,
1373
+ "E-9-2022-003065": 0.0,
1374
+ "E-9-2022-003071": 0.0,
1375
+ "E-9-2022-003111": 0.0,
1376
+ "E-9-2022-003127": 0.0,
1377
+ "E-9-2022-003155": 1.0,
1378
+ "E-9-2022-003215": 1.0,
1379
+ "E-9-2022-003265": 0.0,
1380
+ "E-9-2022-003290": 1.0,
1381
+ "E-9-2022-003293": 0.0,
1382
+ "E-9-2022-003299": 0.0,
1383
+ "E-9-2022-003343": 0.0,
1384
+ "E-9-2022-003374": 1.0,
1385
+ "E-9-2022-003407": 0.0,
1386
+ "E-9-2022-003439": 1.0,
1387
+ "E-9-2022-003470": 1.0,
1388
+ "E-9-2022-003507": 0.0,
1389
+ "E-9-2022-003570": 0.0,
1390
+ "E-9-2022-003743": 0.0,
1391
+ "E-9-2022-003836": 0.0,
1392
+ "E-9-2022-003894": 1.0,
1393
+ "E-9-2022-003930": 1.0,
1394
+ "E-9-2022-004012": 1.0,
1395
+ "E-9-2022-004013": 0.0,
1396
+ "E-9-2022-004038": 0.0,
1397
+ "E-9-2022-004074": 0.0,
1398
+ "E-9-2022-004090": 0.0,
1399
+ "E-9-2022-004116": 0.0,
1400
+ "E-9-2022-004149": 0.0,
1401
+ "E-9-2023-000037": 1.0,
1402
+ "E-9-2023-000073": 0.0,
1403
+ "E-9-2023-000108": 0.0,
1404
+ "E-9-2023-000113": 0.0,
1405
+ "E-9-2023-000141": 0.0,
1406
+ "E-9-2023-000166": 0.0,
1407
+ "E-9-2023-000172": 1.0,
1408
+ "E-9-2023-000238": 0.0,
1409
+ "E-9-2023-000331": 0.0,
1410
+ "E-9-2023-000360": 0.0,
1411
+ "E-9-2023-000476": 1.0,
1412
+ "E-9-2023-000511": 0.0,
1413
+ "E-9-2023-000526": 1.0,
1414
+ "E-9-2023-000529": 0.0,
1415
+ "E-9-2023-000533": 0.0,
1416
+ "E-9-2023-000550": 0.0,
1417
+ "E-9-2023-000553": 0.0,
1418
+ "E-9-2023-000589": 1.0,
1419
+ "E-9-2023-000617": 0.0,
1420
+ "E-9-2023-000666": 1.0,
1421
+ "E-9-2023-000918": 0.0,
1422
+ "E-9-2023-000992": 0.0,
1423
+ "E-9-2023-001048": 0.0,
1424
+ "E-9-2023-001148": 0.0,
1425
+ "E-9-2023-001188": 1.0,
1426
+ "E-9-2023-001237": 1.0,
1427
+ "E-9-2023-001247": 1.0,
1428
+ "E-9-2023-001318": 0.0,
1429
+ "E-9-2023-001322": 0.0,
1430
+ "E-9-2023-001346": 0.0,
1431
+ "E-9-2023-001358": 0.0,
1432
+ "E-9-2023-001426": 1.0,
1433
+ "E-9-2023-001437": 0.0,
1434
+ "E-9-2023-001454": 0.0,
1435
+ "E-9-2023-001458": 0.0,
1436
+ "E-9-2023-001491": 0.0,
1437
+ "E-9-2023-001520": 0.0,
1438
+ "E-9-2023-001538": 0.0,
1439
+ "E-9-2023-001600": 0.0,
1440
+ "E-9-2023-001611": 0.0,
1441
+ "E-9-2023-001638": 0.0,
1442
+ "E-9-2023-001685": 0.0,
1443
+ "E-9-2023-001692": 0.0,
1444
+ "E-9-2023-001758": 1.0,
1445
+ "E-9-2023-001819": 0.0,
1446
+ "E-9-2023-001839": 0.0,
1447
+ "E-9-2023-001846": 0.0,
1448
+ "E-9-2023-001859": 0.0,
1449
+ "E-9-2023-001877": 0.0,
1450
+ "E-9-2023-001904": 0.0,
1451
+ "E-9-2023-002095": 0.0,
1452
+ "E-9-2023-002103": 1.0,
1453
+ "E-9-2023-002115": 1.0,
1454
+ "E-9-2023-002186": 1.0,
1455
+ "E-9-2023-002240": 1.0,
1456
+ "E-9-2023-002242": 0.0,
1457
+ "E-9-2023-002281": 0.0,
1458
+ "E-9-2023-002383": 0.0,
1459
+ "E-9-2023-002395": 1.0,
1460
+ "E-9-2023-002442": 0.0,
1461
+ "E-9-2023-002479": 0.0,
1462
+ "E-9-2023-002505": 0.0,
1463
+ "E-9-2023-002509": 0.0,
1464
+ "E-9-2023-002540": 0.0,
1465
+ "E-9-2023-002610": 0.0,
1466
+ "E-9-2023-002625": 1.0,
1467
+ "E-9-2023-002637": 1.0,
1468
+ "E-9-2023-002640": 1.0,
1469
+ "E-9-2023-002683": 1.0,
1470
+ "E-9-2023-002699": 1.0,
1471
+ "E-9-2023-002743": 0.0,
1472
+ "E-9-2023-002751": 0.0,
1473
+ "E-9-2023-002758": 0.0,
1474
+ "E-9-2023-002815": 0.0,
1475
+ "E-9-2023-002833": 1.0,
1476
+ "E-9-2023-002883": 0.0,
1477
+ "E-9-2023-002980": 1.0,
1478
+ "E-9-2023-002994": 1.0,
1479
+ "E-9-2023-003002": 1.0,
1480
+ "E-9-2023-003022": 0.0,
1481
+ "E-9-2023-003117": 0.0,
1482
+ "E-9-2023-003122": 1.0,
1483
+ "E-9-2023-003167": 0.0,
1484
+ "E-9-2023-003215": 0.0,
1485
+ "E-9-2023-003326": 1.0,
1486
+ "E-9-2023-003373": 0.0,
1487
+ "E-9-2023-003404": 0.0,
1488
+ "E-9-2023-003408": 0.0,
1489
+ "E-9-2023-003419": 1.0,
1490
+ "E-9-2023-003439": 0.0,
1491
+ "E-9-2023-003453": 1.0,
1492
+ "E-9-2023-003492": 0.0,
1493
+ "E-9-2023-003533": 1.0,
1494
+ "E-9-2023-003602": 0.0,
1495
+ "E-9-2023-003607": 0.0,
1496
+ "E-9-2023-003675": 0.0,
1497
+ "E-9-2023-003685": 0.0,
1498
+ "E-9-2023-003728": 0.0,
1499
+ "E-9-2023-003749": 1.0,
1500
+ "E-9-2023-003754": 0.0,
1501
+ "P-9-2022-000135": 0.0,
1502
+ "P-9-2022-000661": 0.0,
1503
+ "P-9-2022-001119": 0.0,
1504
+ "P-9-2022-001271": 0.0,
1505
+ "P-9-2022-001337": 0.0,
1506
+ "P-9-2022-001555": 0.0,
1507
+ "P-9-2022-001666": 0.0,
1508
+ "P-9-2022-002383": 0.0,
1509
+ "P-9-2022-002535": 0.0,
1510
+ "P-9-2022-002627": 0.0,
1511
+ "P-9-2022-002830": 0.0,
1512
+ "P-9-2022-002838": 0.0,
1513
+ "P-9-2022-002863": 0.0,
1514
+ "P-9-2022-003463": 0.0,
1515
+ "P-9-2022-003675": 0.0,
1516
+ "P-9-2023-000633": 0.0,
1517
+ "P-9-2023-001534": 0.0,
1518
+ "P-9-2023-001841": 1.0,
1519
+ "P-9-2023-002104": 1.0,
1520
+ "P-9-2023-002410": 0.0,
1521
+ "P-9-2023-002436": 0.0,
1522
+ "P-9-2023-002485": 1.0,
1523
+ "P-9-2023-002496": 0.0,
1524
+ "P-9-2023-002514": 1.0,
1525
+ "P-9-2023-002791": 0.0,
1526
+ "P-9-2023-002805": 1.0,
1527
+ "P-9-2023-002808": 1.0,
1528
+ "P-9-2023-003005": 0.0,
1529
+ "P-9-2023-003169": 0.0,
1530
+ "P-9-2023-003268": 0.0,
1531
+ "P-9-2023-003372": 0.0,
1532
+ "P-9-2023-003471": 0.0,
1533
+ "P-9-2023-003707": 1.0
1534
+ }
1535
+ }
1536
+ }
v1.0/experiments/runs/precedent_train_bge-m3_text.metrics.json ADDED
The diff for this file is too large to render. See raw diff
 
v1.0/experiments/runs/precedent_train_bm25q2q_text.metrics.json ADDED
The diff for this file is too large to render. See raw diff
 
v1.0/experiments/runs/precedent_train_rrf_text.meta.json ADDED
@@ -0,0 +1,9 @@
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "runs": [
3
+ "experiments/v1.0/runs/precedent_train_bm25_text.run",
4
+ "experiments/v1.0/runs/precedent_train_bge-m3_text.run"
5
+ ],
6
+ "rrf_k": 60,
7
+ "seconds": 0.4,
8
+ "query_coverage": 1.0
9
+ }