{ "val_query_ids": [ "q1519", "q1520", "q233", "q252", "q286", "q289", "q718", "q726", "q727", "q728", "q729", "q736", "q737", "q783", "q1149", "q1159", "q1161", "q1164", "q1292", "q1293", "q1297", "q1300", "q1301", "q1302", "q1304", "q1311", "q1313", "q1315", "q1319", "q1323", "q1334", "q1355", "q143", "q163", "q657", "q658", "q659", "q786", "q789", "q807", "q809", "q810", "q1489", "q811", "q812", "q813", "q814", "q815", "q817", "q823", "q825", "q826", "q835", "q840", "q841", "q849", "q853", "q860", "q861", "q296", "q297", "q299", "q301", "q303", "q305", "q721", "q722", "q723", "q724", "q733", "q1223", "q1530", "q239", "q253", "q278", "q279", "q280", "q281", "q282", "q283", "q285", "q288", "q292", "q300", "q302", "q306", "q719", "q732", "q734", "q735", "q963", "q970", "q971", "q972", "q868", "q876", "q878", "q884", "q888", "q890", "q895", "q896", "q899", "q907", "q144", "q784", "q785", "q787", "q788", "q790", "q791", "q792", "q793", "q794", "q795", "q796", "q799", "q800", "q801", "q808", "q1490", "q821", "q828", "q830", "q831", "q832", "q833", "q834", "q836", "q842", "q848", "q852", "q854", "q1012", "q1153", "q1154", "q1155", "q1156", "q1157", "q1307", "q1308", "q1309", "q1310", "q1321", "q584" ], "train_query_ids": [ "q960", "q1030", "q1280", "q1464", "q1478", "q1480", "q1484", "q178", "q180", "q193", "q201", "q1002", "q1004", "q1007", "q1278", "q1445", "q985", "q504", "q532", "q533", "q534", "q541", "q1443", "q1444", "q1446", "q1460", "q1461", "q1463", "q1465", "q1466", "q1468", "q1472", "q1473", "q1474", "q1475", "q1477", "q1481", "q1487", "q858", "q90", "q603", "q910", "q914", "q918", "q921", "q923", "q926", "q1357", "q1442", "q1448", "q843", "q847", "q856", "q870", "q869", "q894", "q1115", "q1116", "q557", "q568", "q569", "q570", "q573", "q574", "q576", "q581", "q583", "q1165", "q1166", "q1168", "q1169", "q1170", "q1172", "q1173", "q1174", "q1175", "q1186", "q1190", "q1191", "q1194", "q1196", "q1203", "q1210", "q1211", "q369", "q385", "q386", "q388", "q391", "q393", "q28", "q39", "q44", "q47", "q582", "q663", "q664", "q666", "q670", "q676", "q112", "q114", "q1235", "q1237", "q1250", "q1269", "q1271", "q140", "q141", "q142", "q1427", "q164", "q598", "q446", "q456", "q457", "q458", "q459", "q461", "q462", "q464", "q468", "q471", "q473", "q384", "q396", "q397", "q399", "q400", "q419", "q424", "q425", "q426", "q427", "q429", "q430", "q438", "q440", "q444", "q89", "q1021", "q1022", "q1023", "q1024", "q341", "q343", "q344", "q345", "q346", "q347", "q1215", "q1224", "q1225", "q1514", "q929", "q930", "q978", "q107", "q116", "q117", "q1270", "q148", "q149", "q152", "q153", "q155", "q156", "q157", "q158", "q159", "q162", "q704", "q74", "q1343", "q1346", "q1347", "q1348", "q1349", "q1350", "q1359", "q1360", "q1361", "q1362", "q1363", "q1193", "q1420", "q1421", "q1422", "q1423", "q1424", "q1425", "q1431", "q1432", "q1433", "q1434", "q1435", "q1436", "q1437", "q1438", "q1440", "q1441", "q87", "q1143", "q1283", "q1286", "q1289", "q1290", "q1291", "q1298", "q1306", "q1312", "q1316", "q1318", "q1320", "q510", "q523", "q527", "q528", "q536", "q537", "q538", "q539", "q542", "q547", "q548", "q226", "q227", "q234", "q235", "q240", "q241", "q248", "q249", "q1227", "q1228", "q1232", "q1233", "q1236", "q1241", "q1242", "q1243", "q1244", "q1249", "q1256", "q1279", "q702", "q708", "q710", "q713", "q714", "q353", "q354", "q360", "q362", "q614", "q77", "q190", "q62", "q763", "q765", "q766", "q767", "q775", "q1100", "q1378", "q1380", "q1381", "q1382", "q1383", "q1392", "q1393", "q1399", "q1402", "q1403", "q1406", "q1408", "q1409", "q1410", "q1412", "q1418", "q1522", "q313", "q1083", "q1085", "q1087", "q1088", "q1090", "q1091", "q1092", "q1094", "q1095", "q1096", "q1097", "q1098", "q1102", "q1104", "q770", "q777", "q779", "q780", "q626", "q650", "q684", "q685", "q686", "q688", "q689", "q690", "q691", "q692", "q694", "q696", "q699", "q701", "q1213", "q1214", "q1216", "q1217", "q1221", "q1222", "q953", "q957", "q260", "q273", "q274", "q275", "q12", "q14", "q18", "q20", "q22", "q27", "q30", "q31", "q32", "q33", "q35", "q38", "q40", "q43", "q46", "q555", "q558", "q575", "q661", "q1077", "q1078", "q1079", "q1080", "q1081", "q1082", "q165", "q167", "q169", "q170", "q182", "q198", "q202", "q266", "q277", "q1065", "q1070", "q1429", "q179", "q181", "q183", "q259", "q263", "q269", "q1000", "q1001", "q1005", "q1008", "q1009", "q1010", "q1011", "q1013", "q1014", "q1126", "q1140", "q1146", "q1147", "q222", "q982", "q986", "q987", "q989", "q991", "q993", "q994", "q996", "q997", "q999", "q1136", "q1138", "q1141", "q549", "q550", "q567", "q572", "q667", "q671", "q1107", "q1397", "q1398", "q1401", "q1415", "q1417", "q601", "q118", "q818", "q820", "q822", "q829", "q837", "q838", "q839", "q850", "q859", "q1506", "q1510", "q1511", "q1527", "q1528", "q315", "q980", "q621", "q633", "q634", "q635", "q639", "q656", "q123", "q127", "q128", "q1281", "q1282", "q145", "q154", "q1541", "q75", "q81", "q83", "q84", "q1148", "q1150", "q1158", "q1163", "q1285", "q1287", "q1288", "q1296", "q1369", "q9", "q17", "q622", "q623", "q624", "q629", "q630", "q631", "q636", "q637", "q638", "q647", "q648", "q651", "q652", "q653", "q1219", "q1513", "q1516", "q1517", "q1518", "q973", "q976", "q206", "q207", "q209", "q213", "q218", "q79", "q475", "q476", "q477", "q480", "q481", "q482", "q484", "q485", "q486", "q488", "q489", "q13", "q16", "q23", "q25", "q26", "q29", "q36", "q41", "q42", "q45", "q595", "q596", "q604", "q1526", "q932", "q933", "q944", "q956", "q962", "q964", "q969", "q492", "q493", "q494", "q495", "q496", "q498", "q499", "q501", "q502", "q503", "q507", "q508", "q509", "q512", "q513", "q514", "q515", "q516", "q517", "q518", "q519", "q520", "q521", "q522", "q524", "q525", "q529", "q543", "q544", "q99", "q1015", "q1020", "q1026", "q1027", "q1028", "q1029", "q1385", "q1386", "q1387", "q1388", "q1389", "q1390", "q1411", "q1414", "q1416", "q602", "q974", "q308", "q310", "q311", "q317", "q324", "q325", "q329", "q330", "q331", "q332", "q333", "q1314", "q1505", "q1508", "q1521", "q287", "q935", "q939", "q941", "q942", "q943", "q948", "q949", "q950", "q952", "q954", "q958", "q959", "q1086", "q1089", "q1101", "q881", "q882", "q885", "q887", "q891", "q892", "q893", "q897", "q365", "q431", "q432", "q434", "q435", "q436", "q439", "q445", "q472", "q48", "q49", "q51", "q65", "q67", "q68", "q72", "q92", "q93", "q94", "q95", "q105", "q1240", "q866", "q874", "q875", "q900", "q904", "q905", "q906", "q911", "q915", "q916", "q919", "q920", "q922", "q924", "q925", "q927", "q1455", "q605", "q606", "q607", "q608", "q609", "q610", "q611", "q612", "q613", "q616", "q617", "q418", "q58", "q59", "q69", "q70", "q73", "q335", "q338", "q339", "q340", "q342", "q348", "q349", "q351", "q101", "q103", "q1017", "q1531", "q1532", "q1534", "q1535", "q1536", "q1537", "q1538", "q1257", "q1263", "q1264", "q1265", "q1266", "q1267", "q1268", "q1272", "q1275", "q1047", "q1375", "q1377", "q566", "q697", "q712", "q715", "q1160", "q1449", "q1450", "q1452", "q1453", "q1454", "q1457", "q1488", "q1498", "q309", "q208", "q210", "q211", "q215", "q216", "q219", "q223", "q627", "q366", "q389", "q405", "q407", "q408", "q409", "q410", "q411", "q412", "q413", "q414", "q415", "q416", "q417", "q441", "q1019", "q1119", "q1120", "q1121", "q1123", "q1125", "q1127", "q368", "q370", "q371", "q372", "q394", "q8", "q1056", "q738", "q739", "q740", "q741", "q743", "q745", "q746", "q747", "q749", "q750", "q751", "q753", "q754", "q756", "q759", "q387", "q678", "q679", "q681", "q682", "q683", "q1145", "q166", "q186", "q191", "q194", "q195", "q196", "q197", "q687", "q294", "q295", "q752", "q758", "q761", "q774", "q1031", "q1032", "q1033", "q1034", "q1037", "q1038", "q1054", "q1058", "q1060", "q1061", "q1062", "q1063", "q1064", "q1066", "q1067", "q1069", "q1274", "q1329", "q1333", "q1336", "q1337", "q1338", "q1339", "q1340", "q1341", "q1342", "q1344", "q1345", "q1352", "q1353", "q1354", "q1176", "q1177", "q1178", "q1179", "q1180", "q571", "q577", "q578", "q579", "q1052", "q11", "q1192", "q1198", "q1206", "q1208", "q1209", "q0", "q2", "q4", "q5", "q6", "q7", "q988", "q1324", "q1325", "q1326", "q1328", "q1330", "q1331", "q1045", "q1046", "q176", "q177", "q185", "q188", "q189", "q192", "q203", "q256", "q257", "q258", "q261", "q264", "q265", "q267", "q271", "q106", "q113", "q119", "q1252", "q1276", "q160", "q161", "q1039", "q1048", "q1049", "q1050", "q1053", "q1055", "q1057", "q1059", "q1071", "q1072", "q1230", "q1245", "q1253", "q1254", "q1255", "q1259", "q1260", "q1261", "q706", "q228", "q237", "q243", "q245", "q254", "q298", "q327", "q764", "q772", "q773", "q776", "q778", "q1181", "q1183", "q1184", "q1185", "q1188", "q1195", "q1197", "q1199", "q1200", "q1201", "q1202", "q1204", "q355", "q356", "q357", "q358", "q359", "q363", "q364", "q1111", "q1112", "q1114", "q1118", "q1128", "q1130", "q1132", "q1134", "q1135", "q1137", "q1142", "q1462", "q551", "q553", "q554", "q560", "q619", "q995", "q238", "q242", "q244", "q246", "q284", "q1073", "q1074", "q1075", "q1076", "q593", "q1458", "q307", "q320", "q322", "q323", "q709", "q1503", "q1504", "q224", "q225", "q230", "q231", "q232", "q318", "q1167", "q1512", "q229", "q250", "q255", "q707", "q936", "q945", "q968", "q21", "q563", "q662", "q665", "q668", "q669", "q672", "q673", "q674", "q312", "q398", "q401", "q402", "q403", "q404", "q421", "q433", "q478", "q479", "q483", "q487", "q491", "q937", "q938", "q82", "q862", "q864", "q867", "q871", "q872", "q873", "q879", "q908", "q1459", "q1483", "q319", "q321", "q448", "q450", "q451", "q453", "q455", "q460", "q467", "q470", "q76", "q78", "q85", "q86", "q88", "q91", "q96", "q168", "q172", "q173", "q174", "q199", "q200", "q374", "q375", "q376", "q377", "q378", "q379", "q380", "q381", "q382", "q383", "q442", "q705", "q100", "q104", "q108", "q109", "q110", "q111", "q97", "q150", "q585", "q587", "q588", "q589", "q590", "q591", "q592", "q1456", "q1479", "q1482", "q1486", "q1491", "q1492", "q1493", "q1499", "q1501", "q1502", "q121", "q122", "q124", "q126", "q129", "q132", "q133", "q134", "q138", "q641", "q642", "q643", "q645", "q730", "q760", "q762", "q768", "q769", "q1366", "q1367", "q1368", "q1370", "q1371", "q1373", "q1374", "q1376", "q1041", "q1042", "q1043", "q53", "q54", "q540", "q55", "q56", "q57", "q63", "q361" ], "test_query_ids": [ "q1", "q10", "q1003", "q1006", "q1016", "q1018", "q102", "q1025", "q1035", "q1036", "q1040", "q1044", "q1051", "q1068", "q1084", "q1093", "q1099", "q1103", "q1105", "q1106", "q1108", "q1109", "q1110", "q1113", "q1117", "q1122", "q1124", "q1129", "q1131", "q1133", "q1139", "q1144", "q115", "q1151", "q1152", "q1162", "q1171", "q1182", "q1187", "q1189", "q120", "q1205", "q1207", "q1212", "q1218", "q1220", "q1226", "q1229", "q1231", "q1234", "q1238", "q1239", "q1246", "q1247", "q1248", "q125", "q1251", "q1258", "q1262", "q1273", "q1277", "q1284", "q1294", "q1295", "q1299", "q130", "q1303", "q1305", "q131", "q1317", "q1322", "q1327", "q1332", "q1335", "q135", "q1351", "q1356", "q1358", "q136", "q1364", "q1365", "q137", "q1372", "q1379", "q1384", "q139", "q1391", "q1394", "q1395", "q1396", "q1400", "q1404", "q1405", "q1407", "q1413", "q1419", "q1426", "q1428", "q1430", "q1439", "q1447", "q1451", "q146", "q1467", "q1469", "q147", "q1470", "q1471", "q1476", "q1485", "q1494", "q1495", "q1496", "q1497", "q15", "q1500", "q1507", "q1509", "q151", "q1515", "q1523", "q1524", "q1525", "q1529", "q1533", "q1539", "q1540", "q1542", "q171", "q175", "q184", "q187", "q19", "q204", "q205", "q212", "q214", "q217", "q220", "q221", "q236", "q24", "q247", "q251", "q262", "q268", "q270", "q272", "q276", "q290", "q291", "q293", "q3", "q304", "q314", "q316", "q326", "q328", "q334", "q336", "q337", "q34", "q350", "q352", "q367", "q37", "q373", "q390", "q392", "q395", "q406", "q420", "q422", "q423", "q428", "q437", "q443", "q447", "q449", "q452", "q454", "q463", "q465", "q466", "q469", "q474", "q490", "q497", "q50", "q500", "q505", "q506", "q511", "q52", "q526", "q530", "q531", "q535", "q545", "q546", "q552", "q556", "q559", "q561", "q562", "q564", "q565", "q580", "q586", "q594", "q597", "q599", "q60", "q600", "q61", "q615", "q618", "q620", "q625", "q628", "q632", "q64", "q640", "q644", "q646", "q649", "q654", "q655", "q66", "q660", "q675", "q677", "q680", "q693", "q695", "q698", "q700", "q703", "q71", "q711", "q716", "q717", "q720", "q725", "q731", "q742", "q744", "q748", "q755", "q757", "q771", "q781", "q782", "q797", "q798", "q80", "q802", "q803", "q804", "q805", "q806", "q816", "q819", "q824", "q827", "q844", "q845", "q846", "q851", "q855", "q857", "q863", "q865", "q877", "q880", "q883", "q886", "q889", "q898", "q901", "q902", "q903", "q909", "q912", "q913", "q917", "q928", "q931", "q934", "q940", "q946", "q947", "q951", "q955", "q961", "q965", "q966", "q967", "q975", "q977", "q979", "q98", "q981", "q983", "q984", "q990", "q992", "q998" ], "val_from": "train", "val_split_info": { "n_val": 145, "n_remaining": 1090, "n_clusters": 123, "val_clusters": [ 2, 4, 6, 15, 33, 67, 82, 86, 108, 118 ], "remaining_clusters": [ 0, 1, 3, 5, 7, 8, 9, 10, 11, 12, 13, 14, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54, 55, 56, 57, 58, 59, 60, 61, 62, 63, 64, 65, 66, 68, 69, 70, 71, 72, 73, 74, 75, 76, 77, 78, 79, 80, 81, 83, 84, 85, 87, 88, 89, 90, 91, 92, 93, 94, 95, 96, 97, 98, 99, 100, 101, 102, 103, 104, 105, 106, 107, 109, 110, 111, 112, 113, 114, 115, 116, 117, 119, 120, 121, 122 ], "mean_val_cosine_distance": 0.4830792248249054, "mean_remaining_cosine_distance": 0.5341011881828308, "mean_cross_cosine_distance": 0.5250657200813293, "separation_ratio": 1.0869143053536243, "mode": "from_train", "source": "train", "val_scale": 0.5, "effective_ratio": { "train_pct": 70, "val_pct": 10, "test_pct": 20 } } }