| { | |
| "val_query_ids": [ | |
| "q1000", | |
| "q1009", | |
| "q1011", | |
| "q1020", | |
| "q857", | |
| "q862", | |
| "q870", | |
| "q885", | |
| "q903", | |
| "q924", | |
| "q940", | |
| "q941", | |
| "q944", | |
| "q947", | |
| "q952", | |
| "q953", | |
| "q955", | |
| "q956", | |
| "q958", | |
| "q959", | |
| "q962", | |
| "q964", | |
| "q986", | |
| "q999", | |
| "q1003", | |
| "q1007", | |
| "q1008", | |
| "q1013", | |
| "q1014", | |
| "q1017", | |
| "q1054", | |
| "q840", | |
| "q842", | |
| "q843", | |
| "q853", | |
| "q854", | |
| "q855", | |
| "q882", | |
| "q898", | |
| "q948", | |
| "q949", | |
| "q950", | |
| "q951", | |
| "q960", | |
| "q972", | |
| "q973", | |
| "q979", | |
| "q985", | |
| "q998", | |
| "q46", | |
| "q742", | |
| "q743", | |
| "q790", | |
| "q802", | |
| "q803", | |
| "q825", | |
| "q828", | |
| "q831", | |
| "q832", | |
| "q833", | |
| "q1010", | |
| "q1012", | |
| "q1016", | |
| "q931", | |
| "q937", | |
| "q938", | |
| "q974", | |
| "q980", | |
| "q987", | |
| "q996", | |
| "q997", | |
| "q1004", | |
| "q812", | |
| "q813", | |
| "q844", | |
| "q869", | |
| "q871", | |
| "q872", | |
| "q876", | |
| "q884", | |
| "q886", | |
| "q887", | |
| "q889", | |
| "q891", | |
| "q892", | |
| "q894", | |
| "q896", | |
| "q899", | |
| "q900", | |
| "q901", | |
| "q902", | |
| "q975", | |
| "q976", | |
| "q977", | |
| "q978", | |
| "q981", | |
| "q984", | |
| "q35", | |
| "q48", | |
| "q734", | |
| "q736", | |
| "q793", | |
| "q798", | |
| "q799", | |
| "q800", | |
| "q811", | |
| "q827", | |
| "q942" | |
| ], | |
| "train_query_ids": [ | |
| "q166", | |
| "q2", | |
| "q359", | |
| "q360", | |
| "q361", | |
| "q362", | |
| "q363", | |
| "q364", | |
| "q366", | |
| "q368", | |
| "q369", | |
| "q374", | |
| "q376", | |
| "q377", | |
| "q380", | |
| "q381", | |
| "q382", | |
| "q384", | |
| "q387", | |
| "q389", | |
| "q391", | |
| "q393", | |
| "q95", | |
| "q130", | |
| "q162", | |
| "q27", | |
| "q63", | |
| "q64", | |
| "q66", | |
| "q67", | |
| "q74", | |
| "q78", | |
| "q80", | |
| "q94", | |
| "q192", | |
| "q193", | |
| "q194", | |
| "q195", | |
| "q196", | |
| "q197", | |
| "q198", | |
| "q199", | |
| "q200", | |
| "q226", | |
| "q227", | |
| "q237", | |
| "q478", | |
| "q479", | |
| "q541", | |
| "q22", | |
| "q23", | |
| "q314", | |
| "q318", | |
| "q319", | |
| "q320", | |
| "q321", | |
| "q322", | |
| "q326", | |
| "q327", | |
| "q328", | |
| "q329", | |
| "q330", | |
| "q331", | |
| "q332", | |
| "q333", | |
| "q335", | |
| "q337", | |
| "q338", | |
| "q339", | |
| "q340", | |
| "q342", | |
| "q344", | |
| "q573", | |
| "q575", | |
| "q580", | |
| "q583", | |
| "q584", | |
| "q587", | |
| "q589", | |
| "q591", | |
| "q592", | |
| "q595", | |
| "q596", | |
| "q598", | |
| "q602", | |
| "q603", | |
| "q604", | |
| "q608", | |
| "q612", | |
| "q613", | |
| "q772", | |
| "q773", | |
| "q774", | |
| "q779", | |
| "q780", | |
| "q782", | |
| "q814", | |
| "q818", | |
| "q834", | |
| "q836", | |
| "q174", | |
| "q176", | |
| "q177", | |
| "q413", | |
| "q414", | |
| "q415", | |
| "q416", | |
| "q419", | |
| "q421", | |
| "q423", | |
| "q426", | |
| "q427", | |
| "q429", | |
| "q522", | |
| "q523", | |
| "q526", | |
| "q527", | |
| "q528", | |
| "q547", | |
| "q273", | |
| "q278", | |
| "q284", | |
| "q325", | |
| "q565", | |
| "q14", | |
| "q19", | |
| "q920", | |
| "q928", | |
| "q957", | |
| "q3", | |
| "q661", | |
| "q714", | |
| "q715", | |
| "q717", | |
| "q719", | |
| "q73", | |
| "q751", | |
| "q241", | |
| "q242", | |
| "q243", | |
| "q244", | |
| "q246", | |
| "q247", | |
| "q248", | |
| "q249", | |
| "q250", | |
| "q251", | |
| "q256", | |
| "q258", | |
| "q552", | |
| "q555", | |
| "q557", | |
| "q574", | |
| "q1060", | |
| "q1061", | |
| "q1062", | |
| "q1101", | |
| "q1104", | |
| "q1105", | |
| "q1106", | |
| "q567", | |
| "q681", | |
| "q682", | |
| "q1082", | |
| "q1083", | |
| "q1084", | |
| "q1085", | |
| "q1087", | |
| "q1089", | |
| "q1090", | |
| "q1091", | |
| "q1092", | |
| "q1094", | |
| "q1095", | |
| "q1096", | |
| "q1097", | |
| "q1098", | |
| "q1100", | |
| "q204", | |
| "q305", | |
| "q306", | |
| "q307", | |
| "q308", | |
| "q309", | |
| "q311", | |
| "q312", | |
| "q431", | |
| "q432", | |
| "q433", | |
| "q435", | |
| "q436", | |
| "q481", | |
| "q483", | |
| "q486", | |
| "q488", | |
| "q531", | |
| "q545", | |
| "q297", | |
| "q298", | |
| "q299", | |
| "q300", | |
| "q569", | |
| "q570", | |
| "q571", | |
| "q572", | |
| "q906", | |
| "q908", | |
| "q909", | |
| "q910", | |
| "q911", | |
| "q912", | |
| "q913", | |
| "q914", | |
| "q915", | |
| "q916", | |
| "q917", | |
| "q918", | |
| "q919", | |
| "q988", | |
| "q993", | |
| "q758", | |
| "q760", | |
| "q765", | |
| "q769", | |
| "q770", | |
| "q781", | |
| "q45", | |
| "q722", | |
| "q731", | |
| "q752", | |
| "q753", | |
| "q83", | |
| "q84", | |
| "q85", | |
| "q86", | |
| "q89", | |
| "q90", | |
| "q91", | |
| "q92", | |
| "q187", | |
| "q188", | |
| "q189", | |
| "q190", | |
| "q191", | |
| "q239", | |
| "q437", | |
| "q438", | |
| "q439", | |
| "q441", | |
| "q489", | |
| "q490", | |
| "q491", | |
| "q492", | |
| "q206", | |
| "q207", | |
| "q208", | |
| "q209", | |
| "q210", | |
| "q211", | |
| "q212", | |
| "q213", | |
| "q216", | |
| "q217", | |
| "q218", | |
| "q221", | |
| "q222", | |
| "q223", | |
| "q224", | |
| "q225", | |
| "q229", | |
| "q232", | |
| "q233", | |
| "q234", | |
| "q44", | |
| "q449", | |
| "q482", | |
| "q484", | |
| "q487", | |
| "q496", | |
| "q513", | |
| "q544", | |
| "q546", | |
| "q741", | |
| "q777", | |
| "q450", | |
| "q456", | |
| "q457", | |
| "q458", | |
| "q460", | |
| "q461", | |
| "q462", | |
| "q464", | |
| "q465", | |
| "q466", | |
| "q467", | |
| "q468", | |
| "q469", | |
| "q470", | |
| "q472", | |
| "q473", | |
| "q475", | |
| "q480", | |
| "q537", | |
| "q538", | |
| "q539", | |
| "q548", | |
| "q620", | |
| "q621", | |
| "q622", | |
| "q623", | |
| "q624", | |
| "q625", | |
| "q626", | |
| "q627", | |
| "q628", | |
| "q629", | |
| "q148", | |
| "q149", | |
| "q151", | |
| "q152", | |
| "q153", | |
| "q154", | |
| "q30", | |
| "q33", | |
| "q630", | |
| "q631", | |
| "q648", | |
| "q651", | |
| "q652", | |
| "q653", | |
| "q656", | |
| "q102", | |
| "q107", | |
| "q135", | |
| "q137", | |
| "q138", | |
| "q139", | |
| "q99", | |
| "q1067", | |
| "q1068", | |
| "q1069", | |
| "q1070", | |
| "q1078", | |
| "q1079", | |
| "q240", | |
| "q650", | |
| "q865", | |
| "q866", | |
| "q874", | |
| "q878", | |
| "q879", | |
| "q946", | |
| "q605", | |
| "q615", | |
| "q618", | |
| "q619", | |
| "q71", | |
| "q713", | |
| "q77", | |
| "q1031", | |
| "q1034", | |
| "q476", | |
| "q593", | |
| "q594", | |
| "q600", | |
| "q609", | |
| "q610", | |
| "q716", | |
| "q723", | |
| "q728", | |
| "q729", | |
| "q730", | |
| "q111", | |
| "q112", | |
| "q115", | |
| "q118", | |
| "q119", | |
| "q120", | |
| "q122", | |
| "q123", | |
| "q127", | |
| "q128", | |
| "q129", | |
| "q133", | |
| "q134", | |
| "q397", | |
| "q582", | |
| "q590", | |
| "q658", | |
| "q660", | |
| "q666", | |
| "q671", | |
| "q673", | |
| "q675", | |
| "q676", | |
| "q678", | |
| "q679", | |
| "q680", | |
| "q720", | |
| "q15", | |
| "q20", | |
| "q21", | |
| "q737", | |
| "q804", | |
| "q815", | |
| "q817", | |
| "q829", | |
| "q1050", | |
| "q1051", | |
| "q807", | |
| "q808", | |
| "q809", | |
| "q923", | |
| "q925", | |
| "q927", | |
| "q929", | |
| "q932", | |
| "q967", | |
| "q968", | |
| "q1047", | |
| "q269", | |
| "q356", | |
| "q396", | |
| "q398", | |
| "q559", | |
| "q606", | |
| "q698", | |
| "q699", | |
| "q700", | |
| "q702", | |
| "q704", | |
| "q740", | |
| "q259", | |
| "q263", | |
| "q265", | |
| "q266", | |
| "q267", | |
| "q576", | |
| "q577", | |
| "q579", | |
| "q346", | |
| "q347", | |
| "q348", | |
| "q349", | |
| "q350", | |
| "q351", | |
| "q352", | |
| "q353", | |
| "q354", | |
| "q485", | |
| "q654", | |
| "q738", | |
| "q805", | |
| "q820", | |
| "q965", | |
| "q175", | |
| "q405", | |
| "q406", | |
| "q407", | |
| "q408", | |
| "q410", | |
| "q442", | |
| "q453", | |
| "q459", | |
| "q494", | |
| "q497", | |
| "q521", | |
| "q529", | |
| "q530", | |
| "q533", | |
| "q536", | |
| "q543", | |
| "q549", | |
| "q847", | |
| "q848", | |
| "q849", | |
| "q850", | |
| "q851", | |
| "q852", | |
| "q990", | |
| "q992", | |
| "q1036", | |
| "q1065", | |
| "q1072", | |
| "q121", | |
| "q126", | |
| "q253", | |
| "q313", | |
| "q395", | |
| "q401", | |
| "q597", | |
| "q611", | |
| "q677", | |
| "q905", | |
| "q732", | |
| "q788", | |
| "q789", | |
| "q791", | |
| "q792", | |
| "q856", | |
| "q858", | |
| "q859", | |
| "q860", | |
| "q863", | |
| "q509", | |
| "q100", | |
| "q136", | |
| "q24", | |
| "q29", | |
| "q31", | |
| "q49", | |
| "q56", | |
| "q62", | |
| "q70", | |
| "q1052", | |
| "q1055", | |
| "q1056", | |
| "q1057", | |
| "q1058", | |
| "q568", | |
| "q1063", | |
| "q1064", | |
| "q970", | |
| "q754", | |
| "q755", | |
| "q756", | |
| "q757", | |
| "q767", | |
| "q776", | |
| "q778", | |
| "q1023", | |
| "q141", | |
| "q143", | |
| "q144", | |
| "q145", | |
| "q147", | |
| "q324", | |
| "q477", | |
| "q202", | |
| "q303", | |
| "q566", | |
| "q639", | |
| "q640", | |
| "q641", | |
| "q642", | |
| "q643", | |
| "q644", | |
| "q647", | |
| "q1", | |
| "q1073", | |
| "q156", | |
| "q157", | |
| "q163", | |
| "q164", | |
| "q165", | |
| "q167", | |
| "q169", | |
| "q170", | |
| "q357", | |
| "q372", | |
| "q383", | |
| "q385", | |
| "q388", | |
| "q390", | |
| "q103", | |
| "q104", | |
| "q106", | |
| "q124", | |
| "q125", | |
| "q131", | |
| "q355", | |
| "q402", | |
| "q403", | |
| "q655", | |
| "q97", | |
| "q98", | |
| "q443", | |
| "q445", | |
| "q446", | |
| "q448", | |
| "q451", | |
| "q540", | |
| "q1026", | |
| "q1028", | |
| "q1029", | |
| "q1030", | |
| "q1032", | |
| "q75", | |
| "q76", | |
| "q81", | |
| "q82", | |
| "q87", | |
| "q34", | |
| "q36", | |
| "q38", | |
| "q41", | |
| "q42", | |
| "q43", | |
| "q114", | |
| "q50", | |
| "q51", | |
| "q52", | |
| "q53", | |
| "q55", | |
| "q57", | |
| "q58", | |
| "q60", | |
| "q61", | |
| "q1048", | |
| "q1074", | |
| "q1107", | |
| "q739", | |
| "q806", | |
| "q821", | |
| "q966", | |
| "q109", | |
| "q683", | |
| "q685", | |
| "q687", | |
| "q688", | |
| "q689", | |
| "q690", | |
| "q692", | |
| "q693", | |
| "q694", | |
| "q695", | |
| "q696", | |
| "q705", | |
| "q706", | |
| "q707", | |
| "q709", | |
| "q710", | |
| "q735", | |
| "q794", | |
| "q796", | |
| "q797", | |
| "q801", | |
| "q816", | |
| "q926", | |
| "q1066", | |
| "q1071", | |
| "q1076", | |
| "q1077", | |
| "q1080", | |
| "q378", | |
| "q379", | |
| "q392", | |
| "q586", | |
| "q588", | |
| "q599", | |
| "q268", | |
| "q744", | |
| "q745", | |
| "q747", | |
| "q749", | |
| "q750", | |
| "q502", | |
| "q503", | |
| "q504", | |
| "q505", | |
| "q507", | |
| "q508", | |
| "q510", | |
| "q517", | |
| "q518", | |
| "q519", | |
| "q315", | |
| "q317", | |
| "q334", | |
| "q657", | |
| "q659", | |
| "q662", | |
| "q663", | |
| "q665", | |
| "q667", | |
| "q668", | |
| "q669", | |
| "q670", | |
| "q674", | |
| "q762", | |
| "q1059", | |
| "q1075", | |
| "q1102", | |
| "q1108", | |
| "q155", | |
| "q158", | |
| "q159", | |
| "q160", | |
| "q18", | |
| "q28", | |
| "q409", | |
| "q452", | |
| "q455", | |
| "q68", | |
| "q712", | |
| "q1035", | |
| "q1037", | |
| "q1038", | |
| "q1041", | |
| "q1042", | |
| "q1043", | |
| "q1044", | |
| "q1045", | |
| "q1046", | |
| "q161", | |
| "q254", | |
| "q255", | |
| "q551", | |
| "q1022", | |
| "q1024", | |
| "q1027", | |
| "q10", | |
| "q11", | |
| "q12", | |
| "q13", | |
| "q252", | |
| "q291", | |
| "q293", | |
| "q302", | |
| "q5", | |
| "q553", | |
| "q6", | |
| "q8", | |
| "q9", | |
| "q1006", | |
| "q868", | |
| "q883", | |
| "q890", | |
| "q895", | |
| "q261", | |
| "q578", | |
| "q179", | |
| "q180", | |
| "q181", | |
| "q183", | |
| "q184", | |
| "q185", | |
| "q186", | |
| "q235", | |
| "q236", | |
| "q428", | |
| "q525", | |
| "q270", | |
| "q271", | |
| "q272", | |
| "q277", | |
| "q282", | |
| "q283", | |
| "q286", | |
| "q288", | |
| "q289", | |
| "q290", | |
| "q295", | |
| "q474", | |
| "q561", | |
| "q564", | |
| "q296", | |
| "q370", | |
| "q697", | |
| "q703", | |
| "q708", | |
| "q1015", | |
| "q1018", | |
| "q1019", | |
| "q1021", | |
| "q399", | |
| "q520", | |
| "q763", | |
| "q764", | |
| "q837", | |
| "q838", | |
| "q276", | |
| "q279", | |
| "q280", | |
| "q285", | |
| "q287", | |
| "q558", | |
| "q563" | |
| ], | |
| "test_query_ids": [ | |
| "q1001", | |
| "q1002", | |
| "q1005", | |
| "q101", | |
| "q1025", | |
| "q1033", | |
| "q1039", | |
| "q1040", | |
| "q1049", | |
| "q105", | |
| "q1053", | |
| "q108", | |
| "q1081", | |
| "q1086", | |
| "q1088", | |
| "q1093", | |
| "q1099", | |
| "q110", | |
| "q1103", | |
| "q113", | |
| "q116", | |
| "q117", | |
| "q132", | |
| "q140", | |
| "q142", | |
| "q146", | |
| "q150", | |
| "q16", | |
| "q168", | |
| "q17", | |
| "q171", | |
| "q172", | |
| "q173", | |
| "q178", | |
| "q182", | |
| "q201", | |
| "q203", | |
| "q205", | |
| "q214", | |
| "q215", | |
| "q219", | |
| "q220", | |
| "q228", | |
| "q230", | |
| "q231", | |
| "q238", | |
| "q245", | |
| "q25", | |
| "q257", | |
| "q26", | |
| "q260", | |
| "q262", | |
| "q264", | |
| "q274", | |
| "q275", | |
| "q281", | |
| "q292", | |
| "q294", | |
| "q301", | |
| "q304", | |
| "q310", | |
| "q316", | |
| "q32", | |
| "q323", | |
| "q336", | |
| "q341", | |
| "q343", | |
| "q345", | |
| "q358", | |
| "q365", | |
| "q367", | |
| "q37", | |
| "q371", | |
| "q373", | |
| "q375", | |
| "q386", | |
| "q39", | |
| "q394", | |
| "q4", | |
| "q40", | |
| "q400", | |
| "q404", | |
| "q411", | |
| "q412", | |
| "q417", | |
| "q418", | |
| "q420", | |
| "q422", | |
| "q424", | |
| "q425", | |
| "q430", | |
| "q434", | |
| "q440", | |
| "q444", | |
| "q447", | |
| "q454", | |
| "q463", | |
| "q47", | |
| "q471", | |
| "q493", | |
| "q495", | |
| "q498", | |
| "q499", | |
| "q500", | |
| "q501", | |
| "q506", | |
| "q511", | |
| "q512", | |
| "q514", | |
| "q515", | |
| "q516", | |
| "q524", | |
| "q532", | |
| "q534", | |
| "q535", | |
| "q54", | |
| "q542", | |
| "q550", | |
| "q554", | |
| "q556", | |
| "q560", | |
| "q562", | |
| "q581", | |
| "q585", | |
| "q59", | |
| "q601", | |
| "q607", | |
| "q614", | |
| "q616", | |
| "q617", | |
| "q632", | |
| "q633", | |
| "q634", | |
| "q635", | |
| "q636", | |
| "q637", | |
| "q638", | |
| "q645", | |
| "q646", | |
| "q649", | |
| "q65", | |
| "q664", | |
| "q672", | |
| "q684", | |
| "q686", | |
| "q69", | |
| "q691", | |
| "q7", | |
| "q701", | |
| "q711", | |
| "q718", | |
| "q72", | |
| "q721", | |
| "q724", | |
| "q725", | |
| "q726", | |
| "q727", | |
| "q733", | |
| "q746", | |
| "q748", | |
| "q759", | |
| "q761", | |
| "q766", | |
| "q768", | |
| "q771", | |
| "q775", | |
| "q783", | |
| "q784", | |
| "q785", | |
| "q786", | |
| "q787", | |
| "q79", | |
| "q795", | |
| "q810", | |
| "q819", | |
| "q822", | |
| "q823", | |
| "q824", | |
| "q826", | |
| "q830", | |
| "q835", | |
| "q839", | |
| "q841", | |
| "q845", | |
| "q846", | |
| "q861", | |
| "q864", | |
| "q867", | |
| "q873", | |
| "q875", | |
| "q877", | |
| "q88", | |
| "q880", | |
| "q881", | |
| "q888", | |
| "q893", | |
| "q897", | |
| "q904", | |
| "q907", | |
| "q921", | |
| "q922", | |
| "q93", | |
| "q930", | |
| "q933", | |
| "q934", | |
| "q935", | |
| "q936", | |
| "q939", | |
| "q943", | |
| "q945", | |
| "q954", | |
| "q96", | |
| "q961", | |
| "q963", | |
| "q969", | |
| "q971", | |
| "q982", | |
| "q983", | |
| "q989", | |
| "q991", | |
| "q994", | |
| "q995" | |
| ], | |
| "val_from": "train", | |
| "val_split_info": { | |
| "n_val": 108, | |
| "n_remaining": 778, | |
| "n_clusters": 88, | |
| "val_clusters": [ | |
| 1, | |
| 18, | |
| 46, | |
| 65, | |
| 68, | |
| 75 | |
| ], | |
| "remaining_clusters": [ | |
| 0, | |
| 2, | |
| 3, | |
| 4, | |
| 5, | |
| 6, | |
| 7, | |
| 8, | |
| 9, | |
| 10, | |
| 11, | |
| 12, | |
| 13, | |
| 14, | |
| 15, | |
| 16, | |
| 17, | |
| 19, | |
| 20, | |
| 21, | |
| 22, | |
| 23, | |
| 24, | |
| 25, | |
| 26, | |
| 27, | |
| 28, | |
| 29, | |
| 30, | |
| 31, | |
| 32, | |
| 33, | |
| 34, | |
| 35, | |
| 36, | |
| 37, | |
| 38, | |
| 39, | |
| 40, | |
| 41, | |
| 42, | |
| 43, | |
| 44, | |
| 45, | |
| 47, | |
| 48, | |
| 49, | |
| 50, | |
| 51, | |
| 52, | |
| 53, | |
| 54, | |
| 55, | |
| 56, | |
| 57, | |
| 58, | |
| 59, | |
| 60, | |
| 61, | |
| 62, | |
| 63, | |
| 64, | |
| 66, | |
| 67, | |
| 69, | |
| 70, | |
| 71, | |
| 72, | |
| 73, | |
| 74, | |
| 76, | |
| 77, | |
| 78, | |
| 79, | |
| 80, | |
| 81, | |
| 82, | |
| 83, | |
| 84, | |
| 85, | |
| 86, | |
| 87 | |
| ], | |
| "mean_val_cosine_distance": 0.3498637080192566, | |
| "mean_remaining_cosine_distance": 0.5339017510414124, | |
| "mean_cross_cosine_distance": 0.534242570400238, | |
| "separation_ratio": 1.5270019672084227, | |
| "mode": "from_train", | |
| "source": "train", | |
| "val_scale": 0.5, | |
| "effective_ratio": { | |
| "train_pct": 70, | |
| "val_pct": 10, | |
| "test_pct": 20 | |
| } | |
| } | |
| } |