Files changed (2) hide show
  1. searchqa_test.json +1202 -0
  2. webarena_test.json +109 -19
searchqa_test.json ADDED
@@ -0,0 +1,1202 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ [
2
+ {
3
+ "item_id": "triviaqa_12545"
4
+ },
5
+ {
6
+ "item_id": "popqa_24044"
7
+ },
8
+ {
9
+ "item_id": "popqa_24053"
10
+ },
11
+ {
12
+ "item_id": "hotpotqa_29308"
13
+ },
14
+ {
15
+ "item_id": "bamboogle_51622"
16
+ },
17
+ {
18
+ "item_id": "triviaqa_12942"
19
+ },
20
+ {
21
+ "item_id": "popqa_24354"
22
+ },
23
+ {
24
+ "item_id": "2wikimultihopqa_48888"
25
+ },
26
+ {
27
+ "item_id": "nq_394"
28
+ },
29
+ {
30
+ "item_id": "triviaqa_12737"
31
+ },
32
+ {
33
+ "item_id": "2wikimultihopqa_47880"
34
+ },
35
+ {
36
+ "item_id": "triviaqa_4996"
37
+ },
38
+ {
39
+ "item_id": "bamboogle_51684"
40
+ },
41
+ {
42
+ "item_id": "triviaqa_11515"
43
+ },
44
+ {
45
+ "item_id": "musique_50181"
46
+ },
47
+ {
48
+ "item_id": "triviaqa_6884"
49
+ },
50
+ {
51
+ "item_id": "musique_51525"
52
+ },
53
+ {
54
+ "item_id": "musique_49422"
55
+ },
56
+ {
57
+ "item_id": "popqa_21986"
58
+ },
59
+ {
60
+ "item_id": "hotpotqa_35025"
61
+ },
62
+ {
63
+ "item_id": "musique_51542"
64
+ },
65
+ {
66
+ "item_id": "nq_389"
67
+ },
68
+ {
69
+ "item_id": "musique_50638"
70
+ },
71
+ {
72
+ "item_id": "musique_50158"
73
+ },
74
+ {
75
+ "item_id": "popqa_15561"
76
+ },
77
+ {
78
+ "item_id": "bamboogle_51673"
79
+ },
80
+ {
81
+ "item_id": "nq_1646"
82
+ },
83
+ {
84
+ "item_id": "hotpotqa_31117"
85
+ },
86
+ {
87
+ "item_id": "2wikimultihopqa_46504"
88
+ },
89
+ {
90
+ "item_id": "musique_49506"
91
+ },
92
+ {
93
+ "item_id": "2wikimultihopqa_47329"
94
+ },
95
+ {
96
+ "item_id": "2wikimultihopqa_44228"
97
+ },
98
+ {
99
+ "item_id": "triviaqa_9275"
100
+ },
101
+ {
102
+ "item_id": "nq_100"
103
+ },
104
+ {
105
+ "item_id": "bamboogle_51640"
106
+ },
107
+ {
108
+ "item_id": "musique_50599"
109
+ },
110
+ {
111
+ "item_id": "musique_49692"
112
+ },
113
+ {
114
+ "item_id": "2wikimultihopqa_41747"
115
+ },
116
+ {
117
+ "item_id": "bamboogle_51679"
118
+ },
119
+ {
120
+ "item_id": "nq_464"
121
+ },
122
+ {
123
+ "item_id": "hotpotqa_34632"
124
+ },
125
+ {
126
+ "item_id": "musique_51195"
127
+ },
128
+ {
129
+ "item_id": "hotpotqa_34181"
130
+ },
131
+ {
132
+ "item_id": "popqa_16697"
133
+ },
134
+ {
135
+ "item_id": "bamboogle_51648"
136
+ },
137
+ {
138
+ "item_id": "2wikimultihopqa_41200"
139
+ },
140
+ {
141
+ "item_id": "nq_3445"
142
+ },
143
+ {
144
+ "item_id": "nq_2942"
145
+ },
146
+ {
147
+ "item_id": "nq_515"
148
+ },
149
+ {
150
+ "item_id": "musique_49846"
151
+ },
152
+ {
153
+ "item_id": "musique_50666"
154
+ },
155
+ {
156
+ "item_id": "musique_49173"
157
+ },
158
+ {
159
+ "item_id": "bamboogle_51704"
160
+ },
161
+ {
162
+ "item_id": "triviaqa_12973"
163
+ },
164
+ {
165
+ "item_id": "musique_51580"
166
+ },
167
+ {
168
+ "item_id": "musique_50703"
169
+ },
170
+ {
171
+ "item_id": "hotpotqa_36157"
172
+ },
173
+ {
174
+ "item_id": "nq_2707"
175
+ },
176
+ {
177
+ "item_id": "hotpotqa_31667"
178
+ },
179
+ {
180
+ "item_id": "musique_51025"
181
+ },
182
+ {
183
+ "item_id": "musique_50381"
184
+ },
185
+ {
186
+ "item_id": "musique_50059"
187
+ },
188
+ {
189
+ "item_id": "nq_1517"
190
+ },
191
+ {
192
+ "item_id": "2wikimultihopqa_41089"
193
+ },
194
+ {
195
+ "item_id": "hotpotqa_36467"
196
+ },
197
+ {
198
+ "item_id": "musique_50137"
199
+ },
200
+ {
201
+ "item_id": "2wikimultihopqa_40382"
202
+ },
203
+ {
204
+ "item_id": "bamboogle_51613"
205
+ },
206
+ {
207
+ "item_id": "nq_7"
208
+ },
209
+ {
210
+ "item_id": "nq_184"
211
+ },
212
+ {
213
+ "item_id": "triviaqa_11557"
214
+ },
215
+ {
216
+ "item_id": "hotpotqa_31814"
217
+ },
218
+ {
219
+ "item_id": "musique_50257"
220
+ },
221
+ {
222
+ "item_id": "musique_49390"
223
+ },
224
+ {
225
+ "item_id": "popqa_27941"
226
+ },
227
+ {
228
+ "item_id": "triviaqa_5746"
229
+ },
230
+ {
231
+ "item_id": "2wikimultihopqa_48361"
232
+ },
233
+ {
234
+ "item_id": "bamboogle_51692"
235
+ },
236
+ {
237
+ "item_id": "hotpotqa_30825"
238
+ },
239
+ {
240
+ "item_id": "musique_51403"
241
+ },
242
+ {
243
+ "item_id": "musique_50154"
244
+ },
245
+ {
246
+ "item_id": "musique_51452"
247
+ },
248
+ {
249
+ "item_id": "2wikimultihopqa_40566"
250
+ },
251
+ {
252
+ "item_id": "popqa_18881"
253
+ },
254
+ {
255
+ "item_id": "popqa_25448"
256
+ },
257
+ {
258
+ "item_id": "bamboogle_51628"
259
+ },
260
+ {
261
+ "item_id": "hotpotqa_35095"
262
+ },
263
+ {
264
+ "item_id": "musique_51491"
265
+ },
266
+ {
267
+ "item_id": "nq_2179"
268
+ },
269
+ {
270
+ "item_id": "musique_50620"
271
+ },
272
+ {
273
+ "item_id": "musique_49281"
274
+ },
275
+ {
276
+ "item_id": "triviaqa_11034"
277
+ },
278
+ {
279
+ "item_id": "2wikimultihopqa_47074"
280
+ },
281
+ {
282
+ "item_id": "popqa_19750"
283
+ },
284
+ {
285
+ "item_id": "bamboogle_51660"
286
+ },
287
+ {
288
+ "item_id": "musique_51196"
289
+ },
290
+ {
291
+ "item_id": "popqa_27948"
292
+ },
293
+ {
294
+ "item_id": "bamboogle_51643"
295
+ },
296
+ {
297
+ "item_id": "bamboogle_51604"
298
+ },
299
+ {
300
+ "item_id": "2wikimultihopqa_47418"
301
+ },
302
+ {
303
+ "item_id": "nq_2482"
304
+ },
305
+ {
306
+ "item_id": "popqa_25599"
307
+ },
308
+ {
309
+ "item_id": "triviaqa_9588"
310
+ },
311
+ {
312
+ "item_id": "bamboogle_51674"
313
+ },
314
+ {
315
+ "item_id": "popqa_24837"
316
+ },
317
+ {
318
+ "item_id": "nq_1259"
319
+ },
320
+ {
321
+ "item_id": "musique_49567"
322
+ },
323
+ {
324
+ "item_id": "musique_51145"
325
+ },
326
+ {
327
+ "item_id": "nq_405"
328
+ },
329
+ {
330
+ "item_id": "bamboogle_51709"
331
+ },
332
+ {
333
+ "item_id": "bamboogle_51627"
334
+ },
335
+ {
336
+ "item_id": "musique_50095"
337
+ },
338
+ {
339
+ "item_id": "triviaqa_7597"
340
+ },
341
+ {
342
+ "item_id": "bamboogle_51603"
343
+ },
344
+ {
345
+ "item_id": "nq_1481"
346
+ },
347
+ {
348
+ "item_id": "musique_50912"
349
+ },
350
+ {
351
+ "item_id": "triviaqa_4317"
352
+ },
353
+ {
354
+ "item_id": "popqa_24764"
355
+ },
356
+ {
357
+ "item_id": "musique_50515"
358
+ },
359
+ {
360
+ "item_id": "triviaqa_11715"
361
+ },
362
+ {
363
+ "item_id": "hotpotqa_35119"
364
+ },
365
+ {
366
+ "item_id": "nq_2626"
367
+ },
368
+ {
369
+ "item_id": "2wikimultihopqa_45897"
370
+ },
371
+ {
372
+ "item_id": "musique_51583"
373
+ },
374
+ {
375
+ "item_id": "triviaqa_5212"
376
+ },
377
+ {
378
+ "item_id": "hotpotqa_33573"
379
+ },
380
+ {
381
+ "item_id": "popqa_19767"
382
+ },
383
+ {
384
+ "item_id": "hotpotqa_35206"
385
+ },
386
+ {
387
+ "item_id": "triviaqa_13193"
388
+ },
389
+ {
390
+ "item_id": "popqa_17697"
391
+ },
392
+ {
393
+ "item_id": "musique_51169"
394
+ },
395
+ {
396
+ "item_id": "nq_863"
397
+ },
398
+ {
399
+ "item_id": "musique_49806"
400
+ },
401
+ {
402
+ "item_id": "popqa_24135"
403
+ },
404
+ {
405
+ "item_id": "hotpotqa_33452"
406
+ },
407
+ {
408
+ "item_id": "nq_1672"
409
+ },
410
+ {
411
+ "item_id": "musique_49229"
412
+ },
413
+ {
414
+ "item_id": "2wikimultihopqa_37702"
415
+ },
416
+ {
417
+ "item_id": "triviaqa_7294"
418
+ },
419
+ {
420
+ "item_id": "popqa_21043"
421
+ },
422
+ {
423
+ "item_id": "hotpotqa_30090"
424
+ },
425
+ {
426
+ "item_id": "bamboogle_51666"
427
+ },
428
+ {
429
+ "item_id": "popqa_16408"
430
+ },
431
+ {
432
+ "item_id": "bamboogle_51676"
433
+ },
434
+ {
435
+ "item_id": "triviaqa_11098"
436
+ },
437
+ {
438
+ "item_id": "2wikimultihopqa_46590"
439
+ },
440
+ {
441
+ "item_id": "musique_50252"
442
+ },
443
+ {
444
+ "item_id": "triviaqa_13801"
445
+ },
446
+ {
447
+ "item_id": "musique_51101"
448
+ },
449
+ {
450
+ "item_id": "musique_49408"
451
+ },
452
+ {
453
+ "item_id": "musique_49923"
454
+ },
455
+ {
456
+ "item_id": "nq_3609"
457
+ },
458
+ {
459
+ "item_id": "bamboogle_51609"
460
+ },
461
+ {
462
+ "item_id": "triviaqa_13790"
463
+ },
464
+ {
465
+ "item_id": "triviaqa_4439"
466
+ },
467
+ {
468
+ "item_id": "popqa_28319"
469
+ },
470
+ {
471
+ "item_id": "bamboogle_51589"
472
+ },
473
+ {
474
+ "item_id": "musique_49702"
475
+ },
476
+ {
477
+ "item_id": "bamboogle_51689"
478
+ },
479
+ {
480
+ "item_id": "triviaqa_11364"
481
+ },
482
+ {
483
+ "item_id": "triviaqa_11329"
484
+ },
485
+ {
486
+ "item_id": "triviaqa_10690"
487
+ },
488
+ {
489
+ "item_id": "hotpotqa_35112"
490
+ },
491
+ {
492
+ "item_id": "nq_36"
493
+ },
494
+ {
495
+ "item_id": "2wikimultihopqa_41868"
496
+ },
497
+ {
498
+ "item_id": "hotpotqa_32711"
499
+ },
500
+ {
501
+ "item_id": "2wikimultihopqa_46610"
502
+ },
503
+ {
504
+ "item_id": "bamboogle_51651"
505
+ },
506
+ {
507
+ "item_id": "triviaqa_11880"
508
+ },
509
+ {
510
+ "item_id": "nq_1764"
511
+ },
512
+ {
513
+ "item_id": "2wikimultihopqa_43254"
514
+ },
515
+ {
516
+ "item_id": "nq_1619"
517
+ },
518
+ {
519
+ "item_id": "triviaqa_8562"
520
+ },
521
+ {
522
+ "item_id": "triviaqa_5747"
523
+ },
524
+ {
525
+ "item_id": "bamboogle_51607"
526
+ },
527
+ {
528
+ "item_id": "musique_50994"
529
+ },
530
+ {
531
+ "item_id": "bamboogle_51703"
532
+ },
533
+ {
534
+ "item_id": "bamboogle_51626"
535
+ },
536
+ {
537
+ "item_id": "nq_2980"
538
+ },
539
+ {
540
+ "item_id": "musique_49678"
541
+ },
542
+ {
543
+ "item_id": "triviaqa_12962"
544
+ },
545
+ {
546
+ "item_id": "hotpotqa_35218"
547
+ },
548
+ {
549
+ "item_id": "musique_49340"
550
+ },
551
+ {
552
+ "item_id": "musique_51412"
553
+ },
554
+ {
555
+ "item_id": "popqa_24640"
556
+ },
557
+ {
558
+ "item_id": "musique_51564"
559
+ },
560
+ {
561
+ "item_id": "nq_1120"
562
+ },
563
+ {
564
+ "item_id": "2wikimultihopqa_38222"
565
+ },
566
+ {
567
+ "item_id": "musique_49476"
568
+ },
569
+ {
570
+ "item_id": "2wikimultihopqa_45506"
571
+ },
572
+ {
573
+ "item_id": "popqa_18046"
574
+ },
575
+ {
576
+ "item_id": "2wikimultihopqa_37316"
577
+ },
578
+ {
579
+ "item_id": "bamboogle_51631"
580
+ },
581
+ {
582
+ "item_id": "triviaqa_4629"
583
+ },
584
+ {
585
+ "item_id": "musique_50372"
586
+ },
587
+ {
588
+ "item_id": "bamboogle_51653"
589
+ },
590
+ {
591
+ "item_id": "popqa_20099"
592
+ },
593
+ {
594
+ "item_id": "popqa_27926"
595
+ },
596
+ {
597
+ "item_id": "triviaqa_13392"
598
+ },
599
+ {
600
+ "item_id": "2wikimultihopqa_44174"
601
+ },
602
+ {
603
+ "item_id": "bamboogle_51646"
604
+ },
605
+ {
606
+ "item_id": "triviaqa_9341"
607
+ },
608
+ {
609
+ "item_id": "bamboogle_51632"
610
+ },
611
+ {
612
+ "item_id": "musique_49607"
613
+ },
614
+ {
615
+ "item_id": "nq_620"
616
+ },
617
+ {
618
+ "item_id": "musique_50813"
619
+ },
620
+ {
621
+ "item_id": "popqa_25505"
622
+ },
623
+ {
624
+ "item_id": "hotpotqa_34386"
625
+ },
626
+ {
627
+ "item_id": "musique_50008"
628
+ },
629
+ {
630
+ "item_id": "musique_50764"
631
+ },
632
+ {
633
+ "item_id": "triviaqa_6414"
634
+ },
635
+ {
636
+ "item_id": "triviaqa_8815"
637
+ },
638
+ {
639
+ "item_id": "2wikimultihopqa_41825"
640
+ },
641
+ {
642
+ "item_id": "popqa_22095"
643
+ },
644
+ {
645
+ "item_id": "bamboogle_51616"
646
+ },
647
+ {
648
+ "item_id": "musique_49646"
649
+ },
650
+ {
651
+ "item_id": "hotpotqa_30485"
652
+ },
653
+ {
654
+ "item_id": "hotpotqa_36189"
655
+ },
656
+ {
657
+ "item_id": "musique_51401"
658
+ },
659
+ {
660
+ "item_id": "triviaqa_10478"
661
+ },
662
+ {
663
+ "item_id": "2wikimultihopqa_41459"
664
+ },
665
+ {
666
+ "item_id": "musique_50166"
667
+ },
668
+ {
669
+ "item_id": "popqa_28746"
670
+ },
671
+ {
672
+ "item_id": "popqa_26186"
673
+ },
674
+ {
675
+ "item_id": "popqa_16658"
676
+ },
677
+ {
678
+ "item_id": "bamboogle_51711"
679
+ },
680
+ {
681
+ "item_id": "musique_51029"
682
+ },
683
+ {
684
+ "item_id": "musique_50668"
685
+ },
686
+ {
687
+ "item_id": "musique_49859"
688
+ },
689
+ {
690
+ "item_id": "nq_2430"
691
+ },
692
+ {
693
+ "item_id": "hotpotqa_29913"
694
+ },
695
+ {
696
+ "item_id": "bamboogle_51642"
697
+ },
698
+ {
699
+ "item_id": "nq_3216"
700
+ },
701
+ {
702
+ "item_id": "musique_49886"
703
+ },
704
+ {
705
+ "item_id": "popqa_27999"
706
+ },
707
+ {
708
+ "item_id": "musique_51541"
709
+ },
710
+ {
711
+ "item_id": "bamboogle_51654"
712
+ },
713
+ {
714
+ "item_id": "bamboogle_51645"
715
+ },
716
+ {
717
+ "item_id": "popqa_20816"
718
+ },
719
+ {
720
+ "item_id": "triviaqa_6697"
721
+ },
722
+ {
723
+ "item_id": "bamboogle_51671"
724
+ },
725
+ {
726
+ "item_id": "popqa_26118"
727
+ },
728
+ {
729
+ "item_id": "musique_50660"
730
+ },
731
+ {
732
+ "item_id": "musique_49588"
733
+ },
734
+ {
735
+ "item_id": "musique_50536"
736
+ },
737
+ {
738
+ "item_id": "nq_2551"
739
+ },
740
+ {
741
+ "item_id": "hotpotqa_34132"
742
+ },
743
+ {
744
+ "item_id": "triviaqa_12347"
745
+ },
746
+ {
747
+ "item_id": "hotpotqa_30273"
748
+ },
749
+ {
750
+ "item_id": "nq_1776"
751
+ },
752
+ {
753
+ "item_id": "hotpotqa_31238"
754
+ },
755
+ {
756
+ "item_id": "2wikimultihopqa_42200"
757
+ },
758
+ {
759
+ "item_id": "hotpotqa_34723"
760
+ },
761
+ {
762
+ "item_id": "hotpotqa_35597"
763
+ },
764
+ {
765
+ "item_id": "triviaqa_6971"
766
+ },
767
+ {
768
+ "item_id": "musique_51351"
769
+ },
770
+ {
771
+ "item_id": "triviaqa_9562"
772
+ },
773
+ {
774
+ "item_id": "bamboogle_51620"
775
+ },
776
+ {
777
+ "item_id": "musique_50169"
778
+ },
779
+ {
780
+ "item_id": "nq_1087"
781
+ },
782
+ {
783
+ "item_id": "bamboogle_51595"
784
+ },
785
+ {
786
+ "item_id": "bamboogle_51650"
787
+ },
788
+ {
789
+ "item_id": "musique_50924"
790
+ },
791
+ {
792
+ "item_id": "nq_2164"
793
+ },
794
+ {
795
+ "item_id": "hotpotqa_31758"
796
+ },
797
+ {
798
+ "item_id": "hotpotqa_36507"
799
+ },
800
+ {
801
+ "item_id": "hotpotqa_34029"
802
+ },
803
+ {
804
+ "item_id": "2wikimultihopqa_47695"
805
+ },
806
+ {
807
+ "item_id": "triviaqa_5794"
808
+ },
809
+ {
810
+ "item_id": "nq_741"
811
+ },
812
+ {
813
+ "item_id": "nq_2167"
814
+ },
815
+ {
816
+ "item_id": "nq_1738"
817
+ },
818
+ {
819
+ "item_id": "2wikimultihopqa_48078"
820
+ },
821
+ {
822
+ "item_id": "musique_50600"
823
+ },
824
+ {
825
+ "item_id": "musique_51393"
826
+ },
827
+ {
828
+ "item_id": "2wikimultihopqa_37678"
829
+ },
830
+ {
831
+ "item_id": "musique_50307"
832
+ },
833
+ {
834
+ "item_id": "musique_50135"
835
+ },
836
+ {
837
+ "item_id": "2wikimultihopqa_41412"
838
+ },
839
+ {
840
+ "item_id": "2wikimultihopqa_48085"
841
+ },
842
+ {
843
+ "item_id": "hotpotqa_30035"
844
+ },
845
+ {
846
+ "item_id": "triviaqa_14157"
847
+ },
848
+ {
849
+ "item_id": "hotpotqa_32546"
850
+ },
851
+ {
852
+ "item_id": "popqa_18471"
853
+ },
854
+ {
855
+ "item_id": "2wikimultihopqa_40231"
856
+ },
857
+ {
858
+ "item_id": "nq_2027"
859
+ },
860
+ {
861
+ "item_id": "triviaqa_13945"
862
+ },
863
+ {
864
+ "item_id": "nq_3266"
865
+ },
866
+ {
867
+ "item_id": "2wikimultihopqa_40817"
868
+ },
869
+ {
870
+ "item_id": "triviaqa_14663"
871
+ },
872
+ {
873
+ "item_id": "2wikimultihopqa_41396"
874
+ },
875
+ {
876
+ "item_id": "2wikimultihopqa_40155"
877
+ },
878
+ {
879
+ "item_id": "hotpotqa_29830"
880
+ },
881
+ {
882
+ "item_id": "bamboogle_51638"
883
+ },
884
+ {
885
+ "item_id": "hotpotqa_36342"
886
+ },
887
+ {
888
+ "item_id": "2wikimultihopqa_44484"
889
+ },
890
+ {
891
+ "item_id": "musique_50616"
892
+ },
893
+ {
894
+ "item_id": "hotpotqa_33521"
895
+ },
896
+ {
897
+ "item_id": "2wikimultihopqa_45582"
898
+ },
899
+ {
900
+ "item_id": "musique_51506"
901
+ },
902
+ {
903
+ "item_id": "musique_49887"
904
+ },
905
+ {
906
+ "item_id": "2wikimultihopqa_48644"
907
+ },
908
+ {
909
+ "item_id": "popqa_17593"
910
+ },
911
+ {
912
+ "item_id": "triviaqa_8470"
913
+ },
914
+ {
915
+ "item_id": "musique_50258"
916
+ },
917
+ {
918
+ "item_id": "popqa_27507"
919
+ },
920
+ {
921
+ "item_id": "bamboogle_51611"
922
+ },
923
+ {
924
+ "item_id": "nq_2017"
925
+ },
926
+ {
927
+ "item_id": "2wikimultihopqa_41959"
928
+ },
929
+ {
930
+ "item_id": "nq_300"
931
+ },
932
+ {
933
+ "item_id": "nq_2081"
934
+ },
935
+ {
936
+ "item_id": "triviaqa_11192"
937
+ },
938
+ {
939
+ "item_id": "hotpotqa_36359"
940
+ },
941
+ {
942
+ "item_id": "hotpotqa_32265"
943
+ },
944
+ {
945
+ "item_id": "hotpotqa_35858"
946
+ },
947
+ {
948
+ "item_id": "popqa_19525"
949
+ },
950
+ {
951
+ "item_id": "2wikimultihopqa_48482"
952
+ },
953
+ {
954
+ "item_id": "musique_50083"
955
+ },
956
+ {
957
+ "item_id": "2wikimultihopqa_45792"
958
+ },
959
+ {
960
+ "item_id": "2wikimultihopqa_43680"
961
+ },
962
+ {
963
+ "item_id": "nq_319"
964
+ },
965
+ {
966
+ "item_id": "hotpotqa_31522"
967
+ },
968
+ {
969
+ "item_id": "musique_49916"
970
+ },
971
+ {
972
+ "item_id": "bamboogle_51669"
973
+ },
974
+ {
975
+ "item_id": "nq_1676"
976
+ },
977
+ {
978
+ "item_id": "musique_49645"
979
+ },
980
+ {
981
+ "item_id": "2wikimultihopqa_45214"
982
+ },
983
+ {
984
+ "item_id": "musique_50650"
985
+ },
986
+ {
987
+ "item_id": "musique_50324"
988
+ },
989
+ {
990
+ "item_id": "musique_51483"
991
+ },
992
+ {
993
+ "item_id": "hotpotqa_33020"
994
+ },
995
+ {
996
+ "item_id": "2wikimultihopqa_41374"
997
+ },
998
+ {
999
+ "item_id": "musique_50329"
1000
+ },
1001
+ {
1002
+ "item_id": "hotpotqa_33281"
1003
+ },
1004
+ {
1005
+ "item_id": "hotpotqa_33454"
1006
+ },
1007
+ {
1008
+ "item_id": "popqa_29008"
1009
+ },
1010
+ {
1011
+ "item_id": "hotpotqa_35165"
1012
+ },
1013
+ {
1014
+ "item_id": "bamboogle_51675"
1015
+ },
1016
+ {
1017
+ "item_id": "2wikimultihopqa_41240"
1018
+ },
1019
+ {
1020
+ "item_id": "triviaqa_12271"
1021
+ },
1022
+ {
1023
+ "item_id": "bamboogle_51590"
1024
+ },
1025
+ {
1026
+ "item_id": "hotpotqa_34927"
1027
+ },
1028
+ {
1029
+ "item_id": "hotpotqa_33528"
1030
+ },
1031
+ {
1032
+ "item_id": "musique_51182"
1033
+ },
1034
+ {
1035
+ "item_id": "nq_2308"
1036
+ },
1037
+ {
1038
+ "item_id": "triviaqa_6782"
1039
+ },
1040
+ {
1041
+ "item_id": "bamboogle_51593"
1042
+ },
1043
+ {
1044
+ "item_id": "musique_51288"
1045
+ },
1046
+ {
1047
+ "item_id": "popqa_25783"
1048
+ },
1049
+ {
1050
+ "item_id": "2wikimultihopqa_36757"
1051
+ },
1052
+ {
1053
+ "item_id": "hotpotqa_29335"
1054
+ },
1055
+ {
1056
+ "item_id": "bamboogle_51672"
1057
+ },
1058
+ {
1059
+ "item_id": "nq_2371"
1060
+ },
1061
+ {
1062
+ "item_id": "popqa_15269"
1063
+ },
1064
+ {
1065
+ "item_id": "nq_2763"
1066
+ },
1067
+ {
1068
+ "item_id": "triviaqa_9061"
1069
+ },
1070
+ {
1071
+ "item_id": "musique_50893"
1072
+ },
1073
+ {
1074
+ "item_id": "triviaqa_9991"
1075
+ },
1076
+ {
1077
+ "item_id": "musique_51375"
1078
+ },
1079
+ {
1080
+ "item_id": "musique_49419"
1081
+ },
1082
+ {
1083
+ "item_id": "popqa_23066"
1084
+ },
1085
+ {
1086
+ "item_id": "nq_1586"
1087
+ },
1088
+ {
1089
+ "item_id": "popqa_22241"
1090
+ },
1091
+ {
1092
+ "item_id": "popqa_22327"
1093
+ },
1094
+ {
1095
+ "item_id": "popqa_25773"
1096
+ },
1097
+ {
1098
+ "item_id": "musique_50720"
1099
+ },
1100
+ {
1101
+ "item_id": "nq_1534"
1102
+ },
1103
+ {
1104
+ "item_id": "musique_49413"
1105
+ },
1106
+ {
1107
+ "item_id": "musique_50422"
1108
+ },
1109
+ {
1110
+ "item_id": "hotpotqa_31256"
1111
+ },
1112
+ {
1113
+ "item_id": "2wikimultihopqa_47406"
1114
+ },
1115
+ {
1116
+ "item_id": "musique_50456"
1117
+ },
1118
+ {
1119
+ "item_id": "bamboogle_51665"
1120
+ },
1121
+ {
1122
+ "item_id": "hotpotqa_30568"
1123
+ },
1124
+ {
1125
+ "item_id": "popqa_19240"
1126
+ },
1127
+ {
1128
+ "item_id": "musique_49502"
1129
+ },
1130
+ {
1131
+ "item_id": "bamboogle_51592"
1132
+ },
1133
+ {
1134
+ "item_id": "popqa_20053"
1135
+ },
1136
+ {
1137
+ "item_id": "nq_1863"
1138
+ },
1139
+ {
1140
+ "item_id": "musique_50204"
1141
+ },
1142
+ {
1143
+ "item_id": "popqa_18515"
1144
+ },
1145
+ {
1146
+ "item_id": "musique_49615"
1147
+ },
1148
+ {
1149
+ "item_id": "popqa_27887"
1150
+ },
1151
+ {
1152
+ "item_id": "hotpotqa_34259"
1153
+ },
1154
+ {
1155
+ "item_id": "musique_49948"
1156
+ },
1157
+ {
1158
+ "item_id": "musique_50949"
1159
+ },
1160
+ {
1161
+ "item_id": "nq_1582"
1162
+ },
1163
+ {
1164
+ "item_id": "musique_50058"
1165
+ },
1166
+ {
1167
+ "item_id": "triviaqa_7714"
1168
+ },
1169
+ {
1170
+ "item_id": "bamboogle_51687"
1171
+ },
1172
+ {
1173
+ "item_id": "popqa_16886"
1174
+ },
1175
+ {
1176
+ "item_id": "musique_50899"
1177
+ },
1178
+ {
1179
+ "item_id": "musique_50221"
1180
+ },
1181
+ {
1182
+ "item_id": "2wikimultihopqa_38210"
1183
+ },
1184
+ {
1185
+ "item_id": "2wikimultihopqa_37680"
1186
+ },
1187
+ {
1188
+ "item_id": "2wikimultihopqa_46830"
1189
+ },
1190
+ {
1191
+ "item_id": "musique_49294"
1192
+ },
1193
+ {
1194
+ "item_id": "bamboogle_51635"
1195
+ },
1196
+ {
1197
+ "item_id": "popqa_20559"
1198
+ },
1199
+ {
1200
+ "item_id": "popqa_29163"
1201
+ }
1202
+ ]
webarena_test.json CHANGED
@@ -1,62 +1,152 @@
1
  [
2
  {
3
- "item_id": "webarena_456"
4
  },
5
  {
6
- "item_id": "webarena_24"
7
  },
8
  {
9
- "item_id": "webarena_460"
10
  },
11
  {
12
- "item_id": "webarena_799"
13
  },
14
  {
15
- "item_id": "webarena_65"
16
  },
17
  {
18
- "item_id": "webarena_454"
19
  },
20
  {
21
- "item_id": "webarena_648"
22
  },
23
  {
24
- "item_id": "webarena_580"
25
  },
26
  {
27
- "item_id": "webarena_505"
28
  },
29
  {
30
- "item_id": "webarena_551"
31
  },
32
  {
33
- "item_id": "webarena_238"
34
  },
35
  {
36
- "item_id": "webarena_215"
37
  },
38
  {
39
- "item_id": "webarena_729"
40
  },
41
  {
42
- "item_id": "webarena_228"
43
  },
44
  {
45
- "item_id": "webarena_4"
46
  },
47
  {
48
- "item_id": "webarena_450"
49
  },
50
  {
51
- "item_id": "webarena_95"
52
  },
53
  {
54
- "item_id": "webarena_158"
 
 
 
55
  },
56
  {
57
  "item_id": "webarena_115"
58
  },
59
  {
60
- "item_id": "webarena_437"
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
61
  }
62
  ]
 
1
  [
2
  {
3
+ "item_id": "webarena_24"
4
  },
5
  {
6
+ "item_id": "webarena_238"
7
  },
8
  {
9
+ "item_id": "webarena_228"
10
  },
11
  {
12
+ "item_id": "webarena_158"
13
  },
14
  {
15
+ "item_id": "webarena_278"
16
  },
17
  {
18
+ "item_id": "webarena_280"
19
  },
20
  {
21
+ "item_id": "webarena_22"
22
  },
23
  {
24
+ "item_id": "webarena_165"
25
  },
26
  {
27
+ "item_id": "webarena_300"
28
  },
29
  {
30
+ "item_id": "webarena_328"
31
  },
32
  {
33
+ "item_id": "webarena_239"
34
  },
35
  {
36
+ "item_id": "webarena_386"
37
  },
38
  {
39
+ "item_id": "webarena_387"
40
  },
41
  {
42
+ "item_id": "webarena_264"
43
  },
44
  {
45
+ "item_id": "webarena_23"
46
  },
47
  {
48
+ "item_id": "webarena_65"
49
  },
50
  {
51
+ "item_id": "webarena_215"
52
  },
53
  {
54
+ "item_id": "webarena_4"
55
+ },
56
+ {
57
+ "item_id": "webarena_95"
58
  },
59
  {
60
  "item_id": "webarena_115"
61
  },
62
  {
63
+ "item_id": "webarena_6"
64
+ },
65
+ {
66
+ "item_id": "webarena_680"
67
+ },
68
+ {
69
+ "item_id": "webarena_203"
70
+ },
71
+ {
72
+ "item_id": "webarena_214"
73
+ },
74
+ {
75
+ "item_id": "webarena_108"
76
+ },
77
+ {
78
+ "item_id": "webarena_110"
79
+ },
80
+ {
81
+ "item_id": "webarena_247"
82
+ },
83
+ {
84
+ "item_id": "webarena_122"
85
+ },
86
+ {
87
+ "item_id": "webarena_123"
88
+ },
89
+ {
90
+ "item_id": "webarena_128"
91
+ },
92
+ {
93
+ "item_id": "webarena_318"
94
+ },
95
+ {
96
+ "item_id": "webarena_526"
97
+ },
98
+ {
99
+ "item_id": "webarena_537"
100
+ },
101
+ {
102
+ "item_id": "webarena_535"
103
+ },
104
+ {
105
+ "item_id": "webarena_168"
106
+ },
107
+ {
108
+ "item_id": "webarena_598"
109
+ },
110
+ {
111
+ "item_id": "webarena_27"
112
+ },
113
+ {
114
+ "item_id": "webarena_28"
115
+ },
116
+ {
117
+ "item_id": "webarena_67"
118
+ },
119
+ {
120
+ "item_id": "webarena_29"
121
+ },
122
+ {
123
+ "item_id": "webarena_36"
124
+ },
125
+ {
126
+ "item_id": "webarena_60"
127
+ },
128
+ {
129
+ "item_id": "webarena_74"
130
+ },
131
+ {
132
+ "item_id": "webarena_222"
133
+ },
134
+ {
135
+ "item_id": "webarena_251"
136
+ },
137
+ {
138
+ "item_id": "webarena_255"
139
+ },
140
+ {
141
+ "item_id": "webarena_381"
142
+ },
143
+ {
144
+ "item_id": "webarena_378"
145
+ },
146
+ {
147
+ "item_id": "webarena_365"
148
+ },
149
+ {
150
+ "item_id": "webarena_763"
151
  }
152
  ]