{ "val_query_ids": [ "q1133", "q1134", "q1205", "q160", "q1607", "q1665", "q1689", "q174", "q205", "q290", "q403", "q46", "q505", "q531", "q629", "q80", "q881", "q941", "q968", "q97", "q1318", "q1426", "q1831", "q216", "q301", "q308", "q313", "q358", "q392", "q409", "q416", "q488", "q489", "q514", "q517", "q708", "q815", "q818", "q990", "q1018", "q1041", "q1083", "q1381", "q1390", "q1406", "q1747", "q2", "q270", "q481", "q62", "q625", "q778", "q826", "q856", "q1084", "q1117", "q112", "q114", "q1372", "q141", "q148", "q1755", "q1765", "q1767", "q1885", "q1924", "q1950", "q352", "q369", "q378", "q408", "q449", "q491", "q539", "q643", "q69", "q806", "q843", "q895", "q937", "q938", "q951", "q958", "q1010", "q1094", "q1104", "q1120", "q1254", "q1306", "q1369", "q1397", "q1483", "q1604", "q1619", "q1670", "q1708", "q1717", "q180", "q272", "q326", "q335", "q404", "q422", "q450", "q472", "q53", "q544", "q568", "q586", "q737", "q882", "q953", "q969", "q982", "q1157", "q1290", "q1803", "q1809", "q1895", "q233", "q241", "q383", "q385", "q455", "q595", "q641", "q658", "q683", "q713", "q719", "q721", "q748", "q792", "q799", "q800", "q924", "q996", "q1123", "q1282", "q1298", "q1410", "q1792", "q1829", "q1868", "q229", "q345", "q377", "q410", "q413", "q442", "q478", "q548", "q552", "q613", "q634", "q692", "q698", "q702", "q706", "q710", "q741", "q750", "q764", "q765", "q831", "q919" ], "train_query_ids": [ "q1316", "q294", "q309", "q317", "q364", "q1053", "q109", "q1111", "q1198", "q1215", "q1265", "q1285", "q1351", "q396", "q604", "q770", "q775", "q779", "q803", "q872", "q1048", "q1114", "q1903", "q420", "q535", "q1230", "q1281", "q1635", "q1373", "q1412", "q1435", "q1455", "q1460", "q1461", "q1471", "q1481", "q1496", "q1504", "q1531", "q1585", "q1606", "q1663", "q1679", "q1683", "q1687", "q186", "q198", "q219", "q248", "q835", "q1559", "q1586", "q1000", "q117", "q1170", "q1630", "q1658", "q1737", "q183", "q251", "q262", "q402", "q509", "q78", "q1002", "q1145", "q1147", "q118", "q1295", "q1307", "q1407", "q360", "q486", "q519", "q574", "q632", "q72", "q874", "q914", "q1004", "q1130", "q1144", "q1201", "q1236", "q1314", "q1319", "q1358", "q1414", "q428", "q681", "q782", "q948", "q1027", "q1040", "q139", "q1786", "q1863", "q258", "q271", "q380", "q638", "q801", "q894", "q974", "q1070", "q119", "q1191", "q1218", "q1258", "q1339", "q135", "q14", "q1592", "q1655", "q191", "q25", "q593", "q808", "q1127", "q1283", "q1328", "q237", "q359", "q400", "q429", "q433", "q479", "q527", "q583", "q584", "q981", "q984", "q1148", "q560", "q687", "q70", "q742", "q828", "q1338", "q1344", "q150", "q277", "q350", "q1118", "q121", "q1403", "q1408", "q1775", "q1860", "q1879", "q1884", "q1890", "q465", "q518", "q534", "q615", "q652", "q757", "q845", "q853", "q940", "q946", "q952", "q964", "q995", "q1907", "q1908", "q1025", "q1055", "q1078", "q1231", "q1313", "q1388", "q1389", "q1861", "q68", "q769", "q931", "q1160", "q1195", "q1257", "q126", "q1343", "q155", "q1741", "q56", "q650", "q1820", "q1758", "q1763", "q1787", "q1799", "q1802", "q1814", "q1828", "q1848", "q1852", "q1854", "q1858", "q1864", "q1876", "q1920", "q1949", "q618", "q768", "q1014", "q103", "q1189", "q1225", "q1331", "q1356", "q1589", "q1653", "q1668", "q1678", "q196", "q221", "q296", "q558", "q587", "q793", "q797", "q1", "q905", "q113", "q1269", "q1378", "q1446", "q1467", "q1507", "q1532", "q1677", "q1321", "q407", "q444", "q466", "q538", "q557", "q592", "q786", "q1119", "q12", "q1721", "q1726", "q485", "q573", "q871", "q1047", "q1163", "q165", "q1731", "q1735", "q22", "q285", "q37", "q41", "q498", "q642", "q795", "q855", "q868", "q897", "q1015", "q446", "q464", "q667", "q670", "q684", "q1359", "q1479", "q1566", "q1629", "q1634", "q1702", "q1926", "q223", "q471", "q540", "q754", "q906", "q101", "q1125", "q1184", "q1233", "q1365", "q1417", "q1443", "q146", "q170", "q284", "q307", "q319", "q343", "q435", "q755", "q926", "q927", "q971", "q979", "q1383", "q166", "q23", "q438", "q602", "q850", "q1366", "q1610", "q1623", "q176", "q565", "q674", "q709", "q1323", "q4", "q913", "q944", "q1089", "q1167", "q1178", "q122", "q1762", "q925", "q1067", "q1154", "q1165", "q1245", "q1621", "q1692", "q1935", "q203", "q211", "q288", "q328", "q756", "q780", "q807", "q987", "q994", "q193", "q347", "q399", "q633", "q1264", "q1266", "q1296", "q1780", "q215", "q227", "q254", "q325", "q355", "q365", "q368", "q375", "q424", "q426", "q453", "q457", "q513", "q516", "q532", "q572", "q697", "q1169", "q1308", "q134", "q1422", "q177", "q1904", "q461", "q594", "q607", "q823", "q917", "q1031", "q1039", "q1164", "q1200", "q1363", "q1601", "q1729", "q1910", "q537", "q857", "q861", "q883", "q1881", "q239", "q256", "q295", "q314", "q431", "q511", "q661", "q729", "q733", "q743", "q867", "q1436", "q1450", "q1473", "q1474", "q1497", "q1500", "q1513", "q1516", "q1533", "q1545", "q1563", "q1564", "q1572", "q1573", "q1577", "q1642", "q1650", "q1680", "q1688", "q1690", "q1699", "q1714", "q1715", "q1102", "q1194", "q1391", "q1709", "q1790", "q210", "q659", "q89", "q972", "q1193", "q1294", "q411", "q563", "q606", "q647", "q1052", "q1097", "q1101", "q1155", "q1202", "q1271", "q1379", "q1424", "q1616", "q1716", "q1756", "q195", "q631", "q651", "q921", "q943", "q1605", "q164", "q1720", "q187", "q199", "q222", "q242", "q265", "q390", "q440", "q580", "q610", "q65", "q657", "q71", "q79", "q798", "q879", "q908", "q1811", "q1836", "q1896", "q1916", "q1061", "q1227", "q1364", "q1742", "q249", "q887", "q144", "q158", "q283", "q306", "q321", "q361", "q427", "q521", "q529", "q549", "q1280", "q1284", "q1415", "q1793", "q1830", "q341", "q460", "q506", "q559", "q619", "q665", "q699", "q701", "q738", "q809", "q962", "q107", "q1749", "q1875", "q190", "q228", "q252", "q463", "q482", "q590", "q620", "q637", "q812", "q956", "q1028", "q1060", "q1071", "q1149", "q1196", "q1209", "q1256", "q1305", "q15", "q1722", "q1740", "q184", "q26", "q281", "q3", "q30", "q333", "q432", "q550", "q1005", "q1020", "q1272", "q1385", "q1419", "q1518", "q1568", "q16", "q1602", "q1676", "q17", "q1701", "q1727", "q1728", "q1736", "q1743", "q1933", "q1934", "q1936", "q40", "q547", "q608", "q76", "q821", "q84", "q840", "q934", "q108", "q1213", "q1360", "q1447", "q1457", "q1489", "q1644", "q1711", "q1930", "q1932", "q240", "q470", "q522", "q571", "q581", "q649", "q758", "q1032", "q1033", "q1185", "q1204", "q1249", "q1268", "q1277", "q1400", "q1599", "q1646", "q1730", "q1738", "q1745", "q27", "q44", "q500", "q504", "q52", "q745", "q766", "q804", "q854", "q870", "q912", "q96", "q1035", "q1043", "q1128", "q1177", "q1299", "q1402", "q1433", "q331", "q363", "q495", "q551", "q553", "q597", "q646", "q864", "q153", "q212", "q261", "q286", "q351", "q372", "q566", "q92", "q0", "q1034", "q1203", "q1352", "q1387", "q1480", "q154", "q1674", "q1783", "q266", "q901", "q1246", "q1292", "q1374", "q1734", "q182", "q299", "q31", "q344", "q554", "q106", "q1560", "q1744", "q1752", "q1769", "q1776", "q1853", "q1897", "q1899", "q1915", "q421", "q1042", "q1073", "q1153", "q1197", "q1849", "q1919", "q1940", "q398", "q42", "q5", "q947", "q1135", "q1229", "q1275", "q130", "q1617", "q1778", "q189", "q192", "q353", "q562", "q585", "q655", "q77", "q859", "q1168", "q1180", "q1183", "q384", "q415", "q475", "q490", "q668", "q814", "q91", "q988", "q125", "q1143", "q1174", "q1234", "q1361", "q1405", "q1428", "q1430", "q1761", "q1764", "q1773", "q292", "q302", "q312", "q337", "q340", "q401", "q405", "q454", "q458", "q462", "q515", "q525", "q536", "q664", "q671", "q691", "q693", "q695", "q716", "q736", "q740", "q822", "q90", "q556", "q648", "q915", "q1466", "q1469", "q1477", "q1482", "q1488", "q1490", "q1511", "q1539", "q1548", "q1555", "q1645", "q1697", "q1700", "q1705", "q1712", "q904", "q1753", "q349", "q746", "q767", "q1253", "q173", "q371", "q848", "q162", "q218", "q526", "q707", "q94", "q1179", "q1754", "q747", "q863", "q942", "q1441", "q1470", "q1478", "q1487", "q1499", "q1537", "q1556", "q1561", "q1567", "q1582", "q1710", "q1304", "q226", "q260", "q1087", "q1095", "q276", "q437", "q627", "q75", "q970", "q1274", "q1309", "q1421", "q869", "q1243", "q1657", "q1746", "q1832", "q1844", "q711", "q849", "q893", "q1216", "q1279", "q1300", "q1342", "q142", "q1632", "q1810", "q1841", "q381", "q388", "q445", "q662", "q783", "q830", "q920", "q1140", "q1192", "q1270", "q1276", "q1278", "q214", "q412", "q705", "q810", "q83", "q993", "q1006", "q598", "q933", "q1069", "q311", "q1186", "q1591", "q24", "q35", "q49", "q900", "q903", "q916", "q105", "q110", "q115", "q131", "q1669", "q279", "q366", "q476", "q508", "q523", "q977", "q1247", "q1325", "q1337", "q1380", "q1666", "q297", "q316", "q600", "q624", "q731", "q825", "q1011", "q1026", "q1260", "q128", "q1288", "q1551", "q1667", "q208", "q43", "q447", "q496", "q973", "q989", "q1603", "q1759", "q1865", "q1931", "q1937", "q1226", "q1347", "q1641", "q213", "q224", "q367", "q376", "q564", "q81", "q889", "q1141", "q1398", "q204", "q243", "q1173", "q1454", "q1806", "q1807", "q1808", "q1816", "q1823", "q1833", "q1838", "q1843", "q1845", "q1911", "q1925", "q1945", "q1948", "q639", "q1611", "q382", "q468", "q510", "q530", "q575", "q640", "q939", "q1146", "q418", "q700", "q703", "q1171", "q172", "q179", "q73", "q824", "q209", "q477", "q50", "q833", "q268", "q387", "q1796", "q1818", "q1824", "q1837", "q1839", "q1846", "q1847", "q1850", "q1851", "q1883", "q1894", "q1912", "q1942", "q1943", "q1947", "q336", "q1139", "q207", "q275", "q582", "q59", "q885", "q1240", "q1056", "q1115", "q1151", "q1250", "q137", "q152", "q1703", "q18", "q255", "q362", "q507", "q542", "q760", "q88", "q978", "q11", "q1131", "q1214", "q1217", "q1345", "q136", "q1371", "q1640", "q1900", "q1922", "q1938", "q267", "q36", "q474", "q64", "q847", "q1609", "q1620", "q1944", "q1886", "q1887", "q1888", "q1058", "q1293", "q1724", "q1939", "q63", "q1044", "q1080", "q1241", "q1725", "q10", "q817", "q1036", "q1049", "q1068", "q1376", "q1382", "q1918", "q32", "q374", "q936", "q95", "q98", "q1310", "q922", "q923", "q1038", "q1287", "q1748", "q1842", "q774", "q1099", "q1261", "q1569", "q1598", "q1707", "q300", "q38", "q909", "q1440", "q1448", "q1486", "q1491", "q1494", "q1534", "q1536", "q1553", "q1557", "q1581", "q1593", "q1594", "q1612", "q1625", "q1636", "q1637", "q1643", "q1649", "q1704", "q1262", "q1346", "q19", "q813", "q852", "q1077", "q1098", "q1182", "q1624", "q1718", "q1733", "q761", "q788", "q902", "q976", "q1016", "q1122", "q1138", "q1208", "q1220", "q1263", "q1267", "q1760", "q1770", "q1913", "q483", "q102", "q1377", "q1399", "q1437", "q1449", "q1495", "q1505", "q1525", "q1549", "q1574", "q1576", "q1590", "q1615", "q1622", "q1633", "q47", "q1008", "q1066", "q1112", "q1211", "q1396", "q181", "q29", "q784", "q802", "q858", "q876", "q1013", "q1289", "q1315", "q54", "q669", "q8", "q838", "q991", "q1054", "q1238", "q1425", "q147", "q1614", "q1693", "q1713", "q1923", "q20", "q201", "q232", "q273", "q304", "q406", "q663", "q1757", "q1771", "q1105", "q1652", "q1664", "q623", "q816", "q1063", "q1092", "q1109", "q1228", "q1237", "q1409", "q1579", "q1662", "q45", "q492", "q577", "q1007", "q1030", "q1874", "q626", "q891", "q100", "q1772", "q1798", "q298", "q397", "q439", "q569", "q772", "q86", "q87", "q1302", "q1303", "q246", "q739", "q1152", "q231", "q259", "q280", "q338", "q436", "q448", "q578", "q611", "q1235", "q579", "q886", "q1317", "q1429", "q860", "q423", "q469", "q570", "q673", "q678", "q763", "q143", "q873", "q1575", "q1597", "q1855", "q723", "q1348", "q1353", "q74", "q959", "q1050", "q1064", "q1137", "q1045", "q178", "q1057", "q1244", "q1432", "q1750", "q1779", "q1891", "q636", "q66", "q928", "q1393", "q389", "q1150", "q1222", "q789", "q878", "q1175", "q1386", "q494", "q533", "q1029", "q1037", "q1059", "q1126", "q1190", "q1207", "q1355", "q247", "q935", "q1639", "q230", "q274", "q293", "q339", "q356", "q425", "q434", "q459", "q497", "q499", "q503", "q576", "q599", "q605", "q644", "q660", "q679", "q680", "q685", "q805", "q827", "q829", "q104", "q1086", "q1162", "q1210", "q129", "q132", "q1392", "q1459", "q1671", "q175", "q1906", "q244", "q354", "q357", "q467", "q512", "q1751", "q1768", "q1781", "q1782", "q1873", "q1877", "q1941", "q898" ], "test_query_ids": [ "q1001", "q1009", "q1012", "q1017", "q1021", "q1023", "q1075", "q1081", "q1082", "q1088", "q1091", "q111", "q1113", "q1116", "q1121", "q1124", "q1136", "q1142", "q1156", "q1159", "q1161", "q1166", "q1172", "q1188", "q120", "q1221", "q1223", "q1239", "q124", "q1242", "q1248", "q1252", "q13", "q1301", "q1311", "q1320", "q1322", "q1324", "q1326", "q1327", "q133", "q1333", "q1334", "q1335", "q1340", "q1341", "q1349", "q1350", "q1354", "q1357", "q1362", "q1368", "q1370", "q1375", "q1384", "q1395", "q1404", "q1411", "q1413", "q1416", "q1423", "q1427", "q1431", "q1464", "q1508", "q1554", "q1565", "q157", "q1588", "q1659", "q1681", "q1682", "q1691", "q1706", "q171", "q1719", "q1774", "q1777", "q1785", "q1788", "q1789", "q1791", "q1794", "q1797", "q1800", "q1805", "q1812", "q1813", "q1815", "q1817", "q1819", "q1821", "q1822", "q1825", "q1826", "q1827", "q1834", "q1835", "q1856", "q1857", "q1859", "q1862", "q1867", "q1869", "q1870", "q1871", "q1872", "q1878", "q1880", "q1882", "q1889", "q1892", "q1893", "q1905", "q1909", "q1914", "q1946", "q197", "q225", "q234", "q236", "q238", "q253", "q257", "q291", "q303", "q310", "q315", "q322", "q323", "q324", "q329", "q330", "q342", "q386", "q39", "q414", "q48", "q484", "q493", "q51", "q520", "q541", "q545", "q546", "q57", "q589", "q591", "q596", "q6", "q601", "q603", "q609", "q612", "q621", "q630", "q645", "q653", "q656", "q666", "q672", "q682", "q688", "q689", "q694", "q7", "q704", "q715", "q717", "q724", "q728", "q730", "q735", "q744", "q753", "q759", "q762", "q776", "q777", "q781", "q790", "q796", "q82", "q820", "q846", "q851", "q862", "q865", "q866", "q880", "q884", "q890", "q899", "q9", "q911", "q918", "q929", "q93", "q930", "q945", "q949", "q950", "q955", "q957", "q961", "q963", "q980", "q983", "q985", "q986", "q992", "q998", "q999" ], "val_from": "train", "val_split_info": { "n_val": 166, "n_remaining": 1275, "n_clusters": 144, "val_clusters": [ 7, 9, 24, 37, 44, 68, 94 ], "remaining_clusters": [ 0, 1, 2, 3, 4, 5, 6, 8, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 38, 39, 40, 41, 42, 43, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54, 55, 56, 57, 58, 59, 60, 61, 62, 63, 64, 65, 66, 67, 69, 70, 71, 72, 73, 74, 75, 76, 77, 78, 79, 80, 81, 82, 83, 84, 85, 86, 87, 88, 89, 90, 91, 92, 93, 95, 96, 97, 98, 99, 100, 101, 102, 103, 104, 105, 106, 107, 108, 109, 110, 111, 112, 113, 114, 115, 116, 117, 118, 119, 120, 121, 122, 123, 124, 125, 126, 127, 128, 129, 130, 131, 132, 133, 134, 135, 136, 137, 138, 139, 140, 141, 142, 143 ], "mean_val_cosine_distance": 0.35466817021369934, "mean_remaining_cosine_distance": 0.4180464446544647, "mean_cross_cosine_distance": 0.40393227338790894, "separation_ratio": 1.1389019576933739, "mode": "from_train", "source": "train", "val_scale": 0.9, "effective_ratio": { "train_pct": 76, "val_pct": 11, "test_pct": 13 } } }