{ "val_query_ids": [ "q1306", "q1453", "q319", "q421", "q432", "q467", "q498", "q514", "q525", "q528", "q815", "q830", "q1073", "q1135", "q1168", "q1180", "q1215", "q1266", "q156", "q167", "q1741", "q1764", "q1770", "q22", "q223", "q270", "q291", "q359", "q37", "q373", "q49", "q576", "q810", "q812", "q914", "q942", "q96", "q1015", "q1302", "q1322", "q237", "q279", "q388", "q422", "q442", "q465", "q487", "q511", "q715", "q807", "q91", "q1002", "q1143", "q1177", "q1318", "q1343", "q1663", "q1833", "q461", "q569", "q595", "q654", "q999", "q1044", "q1458", "q1488", "q1512", "q1519", "q1522", "q1523", "q1543", "q1571", "q1597", "q1669", "q1675", "q1960", "q775", "q81", "q1203", "q389", "q450", "q452", "q632", "q679", "q697", "q713", "q727", "q733", "q735", "q820", "q844", "q845", "q1229", "q1433", "q1451", "q1803", "q245", "q416", "q463", "q604", "q657", "q674", "q693", "q694", "q711", "q716", "q779", "q796", "q814", "q846", "q883", "q932", "q941", "q956", "q1013", "q1116", "q1169", "q1249", "q1259", "q1423", "q15", "q1645", "q1720", "q1721", "q1751", "q1774", "q187", "q206", "q255", "q26", "q30", "q35", "q355", "q54", "q655", "q725", "q770", "q877", "q1163", "q1286", "q1438", "q219", "q347", "q365", "q491", "q588", "q596", "q672", "q678", "q699", "q706", "q752", "q842", "q86", "q1289", "q1364", "q318", "q361", "q391", "q433", "q486", "q536", "q538", "q547", "q571", "q653", "q685", "q709", "q750", "q837", "q1118", "q1232", "q1335", "q1419", "q1536", "q1548", "q1552", "q1578", "q1579", "q1587", "q1605", "q1652", "q1668", "q1962", "q306", "q38", "q4", "q798", "q919" ], "train_query_ids": [ "q1395", "q1403", "q1583", "q404", "q458", "q910", "q1053", "q1230", "q1278", "q1279", "q1365", "q1367", "q1623", "q1765", "q186", "q1934", "q1965", "q334", "q74", "q819", "q822", "q864", "q929", "q1006", "q1794", "q346", "q364", "q411", "q431", "q447", "q470", "q483", "q507", "q581", "q800", "q824", "q1452", "q177", "q1891", "q591", "q593", "q663", "q717", "q901", "q986", "q1106", "q1114", "q1161", "q1209", "q1421", "q1435", "q1647", "q1762", "q178", "q195", "q230", "q247", "q281", "q445", "q640", "q874", "q1060", "q1265", "q141", "q1426", "q275", "q471", "q545", "q628", "q860", "q872", "q915", "q954", "q957", "q1113", "q1290", "q1391", "q1792", "q130", "q1495", "q1526", "q1576", "q1632", "q1700", "q199", "q226", "q65", "q79", "q1826", "q1875", "q1882", "q1913", "q1917", "q1973", "q214", "q52", "q1072", "q1246", "q14", "q544", "q805", "q823", "q870", "q875", "q1383", "q720", "q778", "q1074", "q1085", "q1096", "q1121", "q1283", "q1303", "q1382", "q1460", "q1480", "q1648", "q31", "q769", "q772", "q802", "q888", "q921", "q923", "q926", "q381", "q413", "q466", "q527", "q549", "q618", "q707", "q90", "q979", "q1030", "q1105", "q1159", "q134", "q166", "q1699", "q1749", "q176", "q202", "q211", "q246", "q248", "q269", "q363", "q396", "q455", "q523", "q580", "q673", "q813", "q97", "q991", "q1", "q1071", "q1120", "q1220", "q1222", "q1293", "q1447", "q1786", "q181", "q1940", "q198", "q342", "q548", "q759", "q1150", "q1164", "q1213", "q1221", "q1257", "q1268", "q1300", "q1330", "q1437", "q435", "q575", "q660", "q123", "q1429", "q160", "q193", "q384", "q386", "q434", "q457", "q532", "q540", "q560", "q858", "q963", "q975", "q981", "q1358", "q1468", "q1484", "q1504", "q1511", "q1524", "q1542", "q1566", "q1569", "q1593", "q1594", "q1603", "q1607", "q1611", "q1620", "q1643", "q1680", "q1701", "q1723", "q1743", "q61", "q10", "q102", "q1165", "q1167", "q1345", "q138", "q1627", "q1753", "q1789", "q1948", "q1964", "q380", "q572", "q63", "q876", "q890", "q931", "q953", "q1067", "q1431", "q276", "q499", "q546", "q649", "q651", "q1005", "q1090", "q1223", "q1445", "q1671", "q1706", "q1767", "q1769", "q1771", "q1813", "q1968", "q204", "q266", "q440", "q520", "q794", "q1057", "q1777", "q1781", "q1785", "q1872", "q2", "q232", "q473", "q489", "q490", "q62", "q1340", "q1859", "q437", "q454", "q1787", "q1793", "q1829", "q1844", "q1866", "q1874", "q1885", "q1888", "q1894", "q1906", "q1926", "q631", "q782", "q909", "q1869", "q1045", "q1287", "q1381", "q1773", "q290", "q428", "q475", "q555", "q818", "q871", "q1214", "q1414", "q1574", "q1820", "q639", "q922", "q960", "q990", "q1490", "q1604", "q688", "q1077", "q1102", "q149", "q207", "q377", "q838", "q899", "q1047", "q1190", "q1408", "q1654", "q1763", "q1930", "q1952", "q27", "q310", "q36", "q78", "q1035", "q1194", "q1255", "q1428", "q508", "q676", "q1019", "q1066", "q1271", "q1760", "q1766", "q1953", "q41", "q56", "q884", "q917", "q920", "q101", "q1202", "q1411", "q1510", "q1530", "q1540", "q1585", "q1589", "q1600", "q1708", "q1711", "q1147", "q1158", "q1285", "q1305", "q314", "q345", "q407", "q505", "q762", "q40", "q951", "q1296", "q662", "q885", "q1264", "q1477", "q1621", "q1644", "q1683", "q1775", "q1837", "q1838", "q1846", "q1862", "q1863", "q1867", "q1868", "q1876", "q1975", "q1978", "q865", "q119", "q1216", "q148", "q349", "q378", "q456", "q95", "q98", "q1037", "q1413", "q143", "q146", "q1933", "q272", "q358", "q393", "q821", "q841", "q973", "q1469", "q1508", "q1516", "q1546", "q1553", "q1562", "q161", "q1715", "q1726", "q235", "q103", "q1254", "q1267", "q1353", "q1369", "q1457", "q153", "q1565", "q1679", "q1681", "q534", "q579", "q1010", "q1840", "q185", "q231", "q256", "q294", "q441", "q723", "q833", "q873", "q1078", "q1378", "q1080", "q1086", "q1087", "q1088", "q1111", "q1129", "q1155", "q1280", "q1297", "q132", "q1432", "q1602", "q1635", "q1641", "q1688", "q236", "q317", "q402", "q500", "q570", "q574", "q677", "q1024", "q1189", "q1327", "q136", "q1410", "q1442", "q1702", "q1759", "q1969", "q215", "q286", "q395", "q665", "q848", "q918", "q988", "q1461", "q1463", "q1466", "q1473", "q1507", "q1514", "q1521", "q1527", "q1528", "q1529", "q1535", "q1550", "q1555", "q1586", "q1618", "q1712", "q1714", "q1718", "q1959", "q902", "q1291", "q1329", "q1373", "q1396", "q1483", "q1493", "q1532", "q1545", "q1558", "q1599", "q1622", "q1646", "q1658", "q1660", "q1661", "q1678", "q1696", "q189", "q1956", "q850", "q1068", "q92", "q250", "q638", "q682", "q907", "q1061", "q1092", "q1397", "q1745", "q1776", "q1782", "q1881", "q1949", "q1970", "q5", "q565", "q964", "q1079", "q11", "q1108", "q1191", "q128", "q1640", "q17", "q1704", "q174", "q1966", "q620", "q76", "q781", "q84", "q1359", "q1693", "q322", "q637", "q745", "q1200", "q1288", "q343", "q351", "q398", "q712", "q724", "q936", "q1064", "q1664", "q180", "q263", "q356", "q372", "q484", "q506", "q518", "q701", "q1069", "q1157", "q959", "q1237", "q1301", "q1312", "q1320", "q144", "q1449", "q1800", "q1810", "q1822", "q1823", "q1871", "q1925", "q331", "q387", "q390", "q453", "q474", "q1172", "q1261", "q1307", "q196", "q222", "q24", "q282", "q624", "q646", "q945", "q100", "q1026", "q1103", "q1188", "q1341", "q1456", "q304", "q403", "q562", "q1317", "q1368", "q1754", "q325", "q636", "q642", "q761", "q1048", "q1310", "q1415", "q1465", "q1561", "q1705", "q252", "q623", "q895", "q1455", "q1805", "q1883", "q1890", "q1915", "q1921", "q375", "q414", "q0", "q1204", "q1235", "q1282", "q1299", "q137", "q1626", "q212", "q251", "q512", "q73", "q839", "q862", "q1331", "q1444", "q567", "q612", "q840", "q106", "q1780", "q1797", "q1798", "q1809", "q1811", "q1812", "q1903", "q1914", "q1920", "q1945", "q1954", "q1971", "q289", "q427", "q1083", "q127", "q175", "q1961", "q1967", "q803", "q828", "q868", "q879", "q940", "q104", "q1182", "q1256", "q131", "q1629", "q1631", "q1695", "q1707", "q182", "q1879", "q1936", "q20", "q280", "q43", "q448", "q479", "q504", "q513", "q551", "q592", "q913", "q925", "q1014", "q1046", "q1134", "q1138", "q1325", "q150", "q327", "q666", "q69", "q1795", "q1799", "q1806", "q1905", "q1927", "q1929", "q367", "q1171", "q1187", "q1205", "q1228", "q1448", "q1638", "q1731", "q179", "q412", "q444", "q614", "q1185", "q1385", "q1506", "q1758", "q429", "q53", "q644", "q1275", "q1304", "q1350", "q1656", "q1802", "q1828", "q369", "q383", "q521", "q764", "q1027", "q1132", "q1505", "q1614", "q1725", "q1733", "q1740", "q1957", "q1183", "q12", "q1375", "q1541", "q157", "q1591", "q16", "q1755", "q1757", "q493", "q621", "q75", "q843", "q855", "q952", "q995", "q1117", "q1146", "q1252", "q1309", "q1315", "q1400", "q817", "q905", "q1000", "q1029", "q1039", "q1276", "q1717", "q208", "q332", "q71", "q1075", "q1206", "q1243", "q1729", "q23", "q44", "q443", "q469", "q70", "q780", "q836", "q88", "q116", "q1328", "q1503", "q1941", "q1055", "q1056", "q1099", "q1139", "q1360", "q1401", "q1412", "q1677", "q184", "q1963", "q227", "q284", "q409", "q485", "q50", "q542", "q605", "q721", "q756", "q887", "q939", "q1007", "q1153", "q124", "q139", "q1420", "q154", "q190", "q192", "q259", "q368", "q517", "q553", "q598", "q606", "q774", "q958", "q996", "q1062", "q1911", "q109", "q1234", "q1236", "q1489", "q1492", "q1513", "q1557", "q1666", "q583", "q586", "q892", "q115", "q1339", "q1399", "q1653", "q1659", "q1730", "q1735", "q533", "q768", "q793", "q831", "q944", "q1097", "q1199", "q1895", "q645", "q894", "q1154", "q1173", "q1175", "q1217", "q1337", "q1388", "q42", "q664", "q751", "q1033", "q1525", "q1537", "q1538", "q1572", "q1580", "q1596", "q1606", "q1637", "q1722", "q1742", "q1166", "q121", "q1616", "q1747", "q225", "q425", "q1032", "q1184", "q1311", "q1402", "q213", "q760", "q853", "q1137", "q1404", "q1691", "q172", "q585", "q594", "q943", "q1262", "q1387", "q1422", "q145", "q164", "q1682", "q1784", "q228", "q244", "q366", "q382", "q47", "q478", "q494", "q530", "q537", "q997", "q1198", "q1238", "q1294", "q1366", "q285", "q357", "q408", "q561", "q933", "q938", "q1050", "q1211", "q1225", "q313", "q77", "q866", "q1049", "q1380", "q647", "q829", "q937", "q1021", "q1082", "q1151", "q1272", "q1386", "q155", "q1634", "q302", "q45", "q597", "q64", "q903", "q1008", "q1839", "q1860", "q1861", "q1898", "q258", "q298", "q362", "q370", "q496", "q524", "q563", "q607", "q611", "q626", "q755", "q1332", "q264", "q577", "q1051", "q111", "q117", "q1374", "q1393", "q1615", "q1697", "q1772", "q1808", "q194", "q265", "q271", "q344", "q410", "q482", "q558", "q578", "q590", "q669", "q886", "q1909", "q1170", "q1239", "q1406", "q1613", "q253", "q29", "q68", "q783", "q930", "q948", "q961", "q994", "q1250", "q1409", "q502", "q599", "q617", "q808", "q1054", "q1148", "q337", "q503", "q609", "q730", "q786", "q1076", "q114", "q1779", "q262", "q312", "q529", "q656", "q66", "q869", "q912", "q955", "q968", "q969", "q992", "q1347", "q303", "q476", "q698", "q825", "q1314", "q305", "q889", "q89", "q1582", "q1832", "q1848", "q1878", "q1950", "q1977", "q1979", "q1063", "q1124", "q120", "q72", "q1416", "q1598", "q1841", "q1946", "q1972", "q1974", "q418", "q737", "q105", "q1248", "q1326", "q133", "q152", "q353", "q405", "q94", "q976", "q1058", "q1625", "q3", "q683", "q1916", "q1918", "q1012", "q1750", "q417", "q430", "q477", "q619", "q681", "q687", "q692", "q777", "q8", "q965", "q1791", "q233", "q299", "q308", "q315", "q323", "q371", "q406", "q419", "q497", "q526", "q541", "q587", "q695", "q705", "q754", "q87", "q1609", "q1633", "q1817", "q1850", "q1853", "q1854", "q1873", "q1877", "q1880", "q1924", "q1942", "q1193", "q1788", "q1836", "q1858", "q1884", "q1955", "q468", "q652", "q1142", "q1241", "q1338", "q1790", "q1943", "q218", "q300", "q307", "q374", "q415", "q462", "q1801", "q1937", "q1938", "q1197", "q1321", "q107", "q1778", "q1904", "q550", "q602", "q633", "q650", "q792", "q1284", "q277", "q671", "q970", "q1025", "q610", "q950", "q1059", "q1816", "q1893", "q1907", "q1980", "q771", "q816", "q827", "q1258", "q589", "q789", "q1160", "q1292", "q1298", "q1316", "q1336", "q217", "q661", "q719", "q83", "q234", "q241", "q394", "q543", "q559", "q584", "q722", "q797", "q243", "q260", "q301", "q320", "q439", "q522", "q564", "q675", "q743", "q747", "q757", "q880", "q1123", "q1140", "q1226", "q1231", "q162", "q1692", "q1746", "q210", "q296", "q341", "q360", "q46", "q480", "q59", "q80", "q985", "q1324", "q1425", "q19", "q753", "q1174", "q1405", "q168", "q1756", "q292", "q32", "q339", "q446", "q788", "q832", "q934", "q350", "q1210", "q25", "q714", "q987", "q1023", "q1034", "q1212", "q472", "q582", "q684", "q1052", "q1089", "q110", "q1131", "q1195", "q1218", "q1361", "q1370", "q1628", "q1676", "q784", "q1247", "q1684", "q1698", "q1736", "q1739", "q18", "q216", "q278", "q897", "q898" ], "test_query_ids": [ "q1004", "q1016", "q1018", "q1031", "q1042", "q1043", "q1091", "q1094", "q1100", "q1101", "q1107", "q1110", "q1115", "q1119", "q1126", "q1127", "q1133", "q1136", "q1141", "q1144", "q1152", "q1156", "q1162", "q1179", "q118", "q1181", "q1186", "q1192", "q1196", "q1208", "q122", "q1233", "q1242", "q1244", "q1253", "q126", "q1260", "q1263", "q1270", "q1273", "q1274", "q1277", "q1281", "q13", "q1333", "q1342", "q1344", "q1346", "q1348", "q1349", "q135", "q1351", "q1352", "q1354", "q1355", "q1356", "q1357", "q1362", "q1363", "q1371", "q1372", "q1376", "q1379", "q1384", "q1389", "q1390", "q1392", "q140", "q1407", "q1417", "q1418", "q1434", "q1443", "q1446", "q1454", "q1476", "q1487", "q1531", "q1570", "q1573", "q1577", "q159", "q1612", "q165", "q169", "q1709", "q171", "q1719", "q173", "q1752", "q1761", "q1768", "q1804", "q1807", "q1814", "q1815", "q1821", "q1824", "q1831", "q1834", "q1864", "q1865", "q1896", "q1901", "q1902", "q1919", "q1928", "q1939", "q1947", "q1951", "q1958", "q200", "q203", "q209", "q21", "q220", "q229", "q240", "q242", "q254", "q261", "q293", "q297", "q309", "q316", "q321", "q328", "q329", "q33", "q330", "q335", "q336", "q34", "q352", "q392", "q400", "q420", "q451", "q460", "q481", "q492", "q495", "q501", "q51", "q531", "q557", "q566", "q57", "q601", "q603", "q608", "q616", "q622", "q634", "q641", "q643", "q659", "q667", "q668", "q67", "q670", "q680", "q686", "q696", "q7", "q702", "q703", "q704", "q729", "q746", "q765", "q766", "q767", "q773", "q776", "q785", "q790", "q791", "q795", "q799", "q804", "q809", "q811", "q82", "q835", "q854", "q856", "q857", "q859", "q861", "q867", "q878", "q882", "q893", "q9", "q900", "q904", "q908", "q916", "q924", "q927", "q935", "q947", "q949", "q962", "q972", "q974", "q978", "q983", "q984", "q998" ], "val_from": "train", "val_split_info": { "n_val": 189, "n_remaining": 1263, "n_clusters": 145, "val_clusters": [ 6, 45, 50, 61, 78, 90, 93, 94, 99, 114, 117 ], "remaining_clusters": [ 0, 1, 2, 3, 4, 5, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 46, 47, 48, 49, 51, 52, 53, 54, 55, 56, 57, 58, 59, 60, 62, 63, 64, 65, 66, 67, 68, 69, 70, 71, 72, 73, 74, 75, 76, 77, 79, 80, 81, 82, 83, 84, 85, 86, 87, 88, 89, 91, 92, 95, 96, 97, 98, 100, 101, 102, 103, 104, 105, 106, 107, 108, 109, 110, 111, 112, 113, 115, 116, 118, 119, 120, 121, 122, 123, 124, 125, 126, 127, 128, 129, 130, 131, 132, 133, 134, 135, 136, 137, 138, 139, 140, 141, 142, 143, 144 ], "mean_val_cosine_distance": 0.35609084367752075, "mean_remaining_cosine_distance": 0.4419604539871216, "mean_cross_cosine_distance": 0.4237837493419647, "separation_ratio": 1.1901001018878972, "mode": "from_train", "source": "train", "val_scale": 0.9, "effective_ratio": { "train_pct": 76, "val_pct": 11, "test_pct": 13 } } }