{ "_name_or_path": "google-bert/bert-base-uncased", "_num_labels": 1431, "architectures": [ "BertForSequenceClassification" ], "attention_probs_dropout_prob": 0.1, "classifier_dropout": null, "gradient_checkpointing": false, "hidden_act": "gelu", "hidden_dropout_prob": 0.1, "hidden_size": 768, "id2label": { "0": "100", "1": "1002", "2": "1006", "3": "1007", "4": "1009", "5": "1010", "6": "1011", "7": "1012", "8": "1013", "9": "1014", "10": "1015", "11": "1016", "12": "1019", "13": "102", "14": "1020", "15": "1021", "16": "1022", "17": "1023", "18": "1024", "19": "1025", "20": "1026", "21": "1027", "22": "1028", "23": "1029", "24": "1033", "25": "1036", "26": "1038", "27": "104", "28": "1040", "29": "1042", "30": "1043", "31": "1044", "32": "1046", "33": "1047", "34": "105", "35": "106", "36": "107", "37": "108", "38": "111", "39": "114", "40": "115", "41": "116", "42": "122", "43": "123", "44": "124", "45": "125", "46": "126", "47": "127", "48": "128", "49": "129", "50": "130", "51": "131", "52": "132", "53": "133", "54": "134", "55": "135", "56": "136", "57": "137", "58": "138", "59": "139", "60": "140", "61": "141", "62": "142", "63": "143", "64": "144", "65": "152", "66": "153", "67": "154", "68": "155", "69": "156", "70": "157", "71": "158", "72": "159", "73": "160", "74": "161", "75": "162", "76": "163", "77": "164", "78": "165", "79": "166", "80": "167", "81": "170", "82": "171", "83": "172", "84": "173", "85": "174", "86": "175", "87": "176", "88": "177", "89": "178", "90": "179", "91": "180", "92": "181", "93": "182", "94": "183", "95": "184", "96": "185", "97": "186", "98": "187", "99": "188", "100": "189", "101": "190", "102": "191", "103": "192", "104": "193", "105": "194", "106": "195", "107": "196", "108": "197", "109": "198", "110": "199", "111": "20", "112": "200", "113": "2002", "114": "2007", "115": "2008", "116": "201", "117": "2010", "118": "2011", "119": "2014", "120": "2015", "121": "2017", "122": "2018", "123": "2019", "124": "2025", "125": "2026", "126": "2027", "127": "2028", "128": "203", "129": "2031", "130": "2032", "131": "2033", "132": "2035", "133": "2036", "134": "2037", "135": "2038", "136": "2039", "137": "204", "138": "2040", "139": "2041", "140": "2042", "141": "2044", "142": "2047", "143": "2048", "144": "2049", "145": "205", "146": "2052", "147": "2053", "148": "2054", "149": "2055", "150": "2056", "151": "2057", "152": "2059", "153": "206", "154": "2060", "155": "2062", "156": "2063", "157": "2064", "158": "2065", "159": "2068", "160": "2069", "161": "207", "162": "2070", "163": "2072", "164": "2073", "165": "2074", "166": "2075", "167": "2076", "168": "2077", "169": "2078", "170": "2079", "171": "2080", "172": "2081", "173": "2082", "174": "2085", "175": "2086", "176": "2088", "177": "209", "178": "2090", "179": "2091", "180": "2092", "181": "2093", "182": "2096", "183": "2097", "184": "2098", "185": "210", "186": "2100", "187": "2102", "188": "2103", "189": "2104", "190": "2105", "191": "2106", "192": "2107", "193": "2108", "194": "2109", "195": "2111", "196": "2112", "197": "2113", "198": "2114", "199": "2116", "200": "2117", "201": "2118", "202": "2119", "203": "212", "204": "2120", "205": "2121", "206": "2122", "207": "2123", "208": "2124", "209": "2125", "210": "2126", "211": "2127", "212": "2128", "213": "2129", "214": "213", "215": "2130", "216": "2131", "217": "2133", "218": "2134", "219": "2135", "220": "2136", "221": "2137", "222": "2138", "223": "2139", "224": "214", "225": "2140", "226": "2141", "227": "2142", "228": "2143", "229": "2144", "230": "2145", "231": "2146", "232": "2148", "233": "2149", "234": "215", "235": "2150", "236": "2151", "237": "2152", "238": "2153", "239": "2158", "240": "2159", "241": "216", "242": "2160", "243": "2162", "244": "2164", "245": "217", "246": "2170", "247": "2171", "248": "2173", "249": "2174", "250": "2175", "251": "2176", "252": "2178", "253": "2179", "254": "218", "255": "2180", "256": "2181", "257": "2182", "258": "2183", "259": "2184", "260": "2185", "261": "219", "262": "220", "263": "2205", "264": "2206", "265": "2207", "266": "2211", "267": "2212", "268": "2216", "269": "2217", "270": "2219", "271": "2221", "272": "2222", "273": "2223", "274": "2224", "275": "2225", "276": "2226", "277": "2227", "278": "2228", "279": "2229", "280": "2230", "281": "2232", "282": "2233", "283": "2235", "284": "2237", "285": "2238", "286": "2239", "287": "2240", "288": "2241", "289": "2242", "290": "2243", "291": "2244", "292": "2246", "293": "2247", "294": "2248", "295": "2249", "296": "2250", "297": "2253", "298": "2254", "299": "2255", "300": "2256", "301": "2257", "302": "2258", "303": "2259", "304": "2261", "305": "2262", "306": "2263", "307": "2264", "308": "2266", "309": "2267", "310": "2268", "311": "2269", "312": "2270", "313": "2271", "314": "2272", "315": "2273", "316": "2274", "317": "2276", "318": "2278", "319": "2279", "320": "2280", "321": "2281", "322": "2285", "323": "2286", "324": "2288", "325": "2290", "326": "2291", "327": "2292", "328": "2293", "329": "2295", "330": "2296", "331": "2297", "332": "2298", "333": "2299", "334": "23", "335": "230", "336": "2303", "337": "2304", "338": "2305", "339": "2306", "340": "2308", "341": "2309", "342": "231", "343": "2310", "344": "2312", "345": "2313", "346": "2314", "347": "2315", "348": "2316", "349": "2320", "350": "2327", "351": "2328", "352": "2329", "353": "233", "354": "2330", "355": "2331", "356": "2332", "357": "2333", "358": "2334", "359": "2335", "360": "2336", "361": "2337", "362": "2338", "363": "2339", "364": "234", "365": "2341", "366": "2342", "367": "2343", "368": "2344", "369": "2346", "370": "2348", "371": "235", "372": "2351", "373": "2352", "374": "2353", "375": "2354", "376": "2356", "377": "236", "378": "2360", "379": "2361", "380": "2362", "381": "2363", "382": "2364", "383": "2366", "384": "2367", "385": "237", "386": "2370", "387": "2371", "388": "2373", "389": "2374", "390": "2375", "391": "2376", "392": "2377", "393": "2378", "394": "2379", "395": "238", "396": "2380", "397": "2381", "398": "2382", "399": "2383", "400": "2384", "401": "2385", "402": "2386", "403": "2387", "404": "2388", "405": "2389", "406": "239", "407": "2390", "408": "2391", "409": "2392", "410": "2393", "411": "2394", "412": "2395", "413": "2396", "414": "2397", "415": "2398", "416": "2399", "417": "24", "418": "240", "419": "2400", "420": "2401", "421": "2402", "422": "2403", "423": "2404", "424": "2405", "425": "2406", "426": "2407", "427": "2408", "428": "2409", "429": "241", "430": "2410", "431": "2411", "432": "2412", "433": "2413", "434": "2414", "435": "2415", "436": "2416", "437": "2417", "438": "2418", "439": "2419", "440": "242", "441": "2421", "442": "2422", "443": "2423", "444": "2424", "445": "2425", "446": "2426", "447": "2427", "448": "2428", "449": "2429", "450": "243", "451": "2430", "452": "2431", "453": "2433", "454": "2434", "455": "2435", "456": "2437", "457": "2438", "458": "2439", "459": "244", "460": "2440", "461": "2441", "462": "2442", "463": "2443", "464": "2444", "465": "2447", "466": "2448", "467": "2449", "468": "245", "469": "2450", "470": "2451", "471": "2452", "472": "2453", "473": "2454", "474": "2455", "475": "2456", "476": "2457", "477": "2459", "478": "246", "479": "2460", "480": "2462", "481": "2463", "482": "2464", "483": "2465", "484": "2466", "485": "2468", "486": "2469", "487": "247", "488": "2470", "489": "2471", "490": "2472", "491": "2473", "492": "2474", "493": "2475", "494": "2476", "495": "2477", "496": "2478", "497": "248", "498": "2480", "499": "2481", "500": "2482", "501": "2483", "502": "2484", "503": "2485", "504": "2486", "505": "2487", "506": "2488", "507": "2489", "508": "2490", "509": "2494", "510": "2495", "511": "2497", "512": "2498", "513": "2499", "514": "2500", "515": "2501", "516": "2502", "517": "2503", "518": "2504", "519": "2505", "520": "2507", "521": "2508", "522": "2509", "523": "2510", "524": "2513", "525": "2514", "526": "2518", "527": "2519", "528": "2520", "529": "2521", "530": "2522", "531": "2523", "532": "2524", "533": "2525", "534": "2526", "535": "2529", "536": "2530", "537": "2531", "538": "2532", "539": "2533", "540": "2534", "541": "2535", "542": "2536", "543": "2538", "544": "2541", "545": "2542", "546": "2543", "547": "2544", "548": "2545", "549": "2547", "550": "2548", "551": "255", "552": "2558", "553": "2561", "554": "2566", "555": "2567", "556": "2568", "557": "2578", "558": "2583", "559": "2595", "560": "2596", "561": "2597", "562": "2598", "563": "2599", "564": "2600", "565": "2601", "566": "2602", "567": "2603", "568": "2604", "569": "2605", "570": "2606", "571": "2607", "572": "2608", "573": "2609", "574": "2616", "575": "2617", "576": "2619", "577": "263", "578": "268", "579": "269", "580": "2691", "581": "2692", "582": "2693", "583": "2694", "584": "2696", "585": "2697", "586": "2698", "587": "2699", "588": "27", "589": "270", "590": "2700", "591": "2701", "592": "2702", "593": "2703", "594": "2704", "595": "2705", "596": "2706", "597": "2707", "598": "2708", "599": "2709", "600": "271", "601": "2710", "602": "2711", "603": "2712", "604": "2715", "605": "2716", "606": "2718", "607": "2719", "608": "272", "609": "2721", "610": "2722", "611": "2723", "612": "2724", "613": "2725", "614": "2726", "615": "2727", "616": "2728", "617": "2729", "618": "273", "619": "2730", "620": "2731", "621": "2732", "622": "2733", "623": "2734", "624": "2735", "625": "2736", "626": "2737", "627": "2738", "628": "2739", "629": "274", "630": "2740", "631": "2741", "632": "2742", "633": "2743", "634": "2744", "635": "2745", "636": "2746", "637": "2747", "638": "2748", "639": "2749", "640": "275", "641": "2750", "642": "2751", "643": "2753", "644": "2754", "645": "2755", "646": "2756", "647": "2759", "648": "276", "649": "2761", "650": "2762", "651": "2763", "652": "2764", "653": "2766", "654": "2767", "655": "277", "656": "2770", "657": "2771", "658": "2772", "659": "2773", "660": "2774", "661": "2776", "662": "2777", "663": "2778", "664": "2779", "665": "278", "666": "2780", "667": "2783", "668": "2784", "669": "2785", "670": "2786", "671": "2787", "672": "2788", "673": "2789", "674": "2790", "675": "2791", "676": "2792", "677": "2794", "678": "2795", "679": "2796", "680": "2798", "681": "2799", "682": "280", "683": "2800", "684": "2801", "685": "2803", "686": "2805", "687": "2806", "688": "2807", "689": "2808", "690": "2809", "691": "281", "692": "2810", "693": "2811", "694": "282", "695": "2822", "696": "2823", "697": "2824", "698": "2825", "699": "2826", "700": "2827", "701": "2828", "702": "2829", "703": "283", "704": "2830", "705": "2831", "706": "2832", "707": "2833", "708": "2834", "709": "2835", "710": "2836", "711": "2838", "712": "284", "713": "2840", "714": "2842", "715": "2843", "716": "2844", "717": "2845", "718": "2846", "719": "2847", "720": "2848", "721": "2849", "722": "285", "723": "2850", "724": "2851", "725": "2852", "726": "2853", "727": "2854", "728": "2855", "729": "2856", "730": "2857", "731": "286", "732": "2863", "733": "2864", "734": "2865", "735": "2866", "736": "2867", "737": "2868", "738": "2869", "739": "287", "740": "2870", "741": "2871", "742": "2872", "743": "2873", "744": "2874", "745": "2875", "746": "2876", "747": "2877", "748": "2878", "749": "2879", "750": "288", "751": "2880", "752": "2881", "753": "2882", "754": "2883", "755": "2884", "756": "2885", "757": "2886", "758": "289", "759": "2892", "760": "2893", "761": "2895", "762": "2897", "763": "2898", "764": "2899", "765": "29", "766": "290", "767": "2902", "768": "2903", "769": "2904", "770": "2906", "771": "2907", "772": "2908", "773": "2909", "774": "291", "775": "2910", "776": "2911", "777": "2912", "778": "2913", "779": "2914", "780": "2915", "781": "2917", "782": "2918", "783": "292", "784": "2920", "785": "2921", "786": "2922", "787": "293", "788": "294", "789": "295", "790": "296", "791": "297", "792": "298", "793": "299", "794": "3000", "795": "3001", "796": "3002", "797": "3003", "798": "3004", "799": "3005", "800": "3006", "801": "3007", "802": "3008", "803": "3009", "804": "301", "805": "3010", "806": "3011", "807": "3012", "808": "3013", "809": "3014", "810": "3015", "811": "3016", "812": "3017", "813": "3018", "814": "3019", "815": "302", "816": "3020", "817": "3021", "818": "3022", "819": "3023", "820": "3026", "821": "3027", "822": "3028", "823": "3029", "824": "303", "825": "3031", "826": "3032", "827": "3033", "828": "3034", "829": "3035", "830": "3037", "831": "3038", "832": "3039", "833": "304", "834": "3040", "835": "3041", "836": "3042", "837": "3044", "838": "3045", "839": "3046", "840": "3047", "841": "3048", "842": "3049", "843": "305", "844": "3050", "845": "3051", "846": "3052", "847": "3053", "848": "3054", "849": "3055", "850": "3056", "851": "3057", "852": "3058", "853": "3059", "854": "306", "855": "3060", "856": "3061", "857": "3062", "858": "3064", "859": "3065", "860": "3066", "861": "3067", "862": "3068", "863": "3069", "864": "307", "865": "3070", "866": "3071", "867": "3072", "868": "3073", "869": "3074", "870": "3075", "871": "3076", "872": "3077", "873": "3078", "874": "3079", "875": "308", "876": "3080", "877": "3081", "878": "3082", "879": "3083", "880": "3084", "881": "3085", "882": "3086", "883": "3087", "884": "3088", "885": "3089", "886": "309", "887": "3090", "888": "3091", "889": "3092", "890": "3093", "891": "310", "892": "3101", "893": "3102", "894": "3103", "895": "3104", "896": "3105", "897": "3106", "898": "3107", "899": "3108", "900": "3109", "901": "311", "902": "3111", "903": "3112", "904": "3114", "905": "3118", "906": "3119", "907": "312", "908": "3120", "909": "3121", "910": "3122", "911": "3123", "912": "3124", "913": "3125", "914": "3126", "915": "3127", "916": "3128", "917": "3129", "918": "313", "919": "3130", "920": "314", "921": "315", "922": "317", "923": "318", "924": "319", "925": "34", "926": "35", "927": "360", "928": "361", "929": "362", "930": "363", "931": "364", "932": "365", "933": "366", "934": "367", "935": "368", "936": "369", "937": "370", "938": "371", "939": "372", "940": "373", "941": "374", "942": "375", "943": "376", "944": "378", "945": "379", "946": "38", "947": "381", "948": "383", "949": "384", "950": "385", "951": "386", "952": "387", "953": "388", "954": "389", "955": "390", "956": "392", "957": "393", "958": "394", "959": "395", "960": "396", "961": "398", "962": "399", "963": "400", "964": "4005", "965": "4006", "966": "4007", "967": "4008", "968": "4009", "969": "401", "970": "4010", "971": "4011", "972": "4012", "973": "4013", "974": "4014", "975": "4015", "976": "4016", "977": "4017", "978": "4018", "979": "4019", "980": "402", "981": "4021", "982": "4023", "983": "4027", "984": "4028", "985": "403", "986": "4030", "987": "4032", "988": "4035", "989": "4036", "990": "4038", "991": "4039", "992": "404", "993": "4041", "994": "4042", "995": "4043", "996": "4044", "997": "4045", "998": "4046", "999": "4047", "1000": "4049", "1001": "405", "1002": "4052", "1003": "4054", "1004": "4055", "1005": "4056", "1006": "4057", "1007": "4059", "1008": "4061", "1009": "4062", "1010": "4063", "1011": "4064", "1012": "4065", "1013": "4066", "1014": "4067", "1015": "4068", "1016": "4070", "1017": "4071", "1018": "4072", "1019": "4073", "1020": "4074", "1021": "4075", "1022": "4076", "1023": "4077", "1024": "4078", "1025": "4079", "1026": "408", "1027": "4080", "1028": "4081", "1029": "4082", "1030": "409", "1031": "410", "1032": "412", "1033": "413", "1034": "416", "1035": "417", "1036": "418", "1037": "419", "1038": "420", "1039": "423", "1040": "424", "1041": "425", "1042": "426", "1043": "427", "1044": "428", "1045": "429", "1046": "430", "1047": "431", "1048": "432", "1049": "450", "1050": "452", "1051": "455", "1052": "456", "1053": "460", "1054": "461", "1055": "462", "1056": "463", "1057": "464", "1058": "465", "1059": "466", "1060": "467", "1061": "468", "1062": "469", "1063": "47", "1064": "470", "1065": "471", "1066": "472", "1067": "473", "1068": "474", "1069": "475", "1070": "476", "1071": "478", "1072": "479", "1073": "480", "1074": "481", "1075": "482", "1076": "483", "1077": "484", "1078": "485", "1079": "486", "1080": "487", "1081": "489", "1082": "490", "1083": "491", "1084": "492", "1085": "493", "1086": "494", "1087": "495", "1088": "496", "1089": "497", "1090": "498", "1091": "499", "1092": "536", "1093": "538", "1094": "539", "1095": "540", "1096": "541", "1097": "542", "1098": "543", "1099": "544", "1100": "545", "1101": "546", "1102": "547", "1103": "548", "1104": "549", "1105": "550", "1106": "551", "1107": "552", "1108": "553", "1109": "554", "1110": "555", "1111": "556", "1112": "557", "1113": "559", "1114": "560", "1115": "561", "1116": "562", "1117": "563", "1118": "564", "1119": "565", "1120": "566", "1121": "567", "1122": "568", "1123": "569", "1124": "570", "1125": "572", "1126": "573", "1127": "575", "1128": "576", "1129": "578", "1130": "580", "1131": "581", "1132": "582", "1133": "583", "1134": "584", "1135": "585", "1136": "587", "1137": "588", "1138": "589", "1139": "590", "1140": "591", "1141": "592", "1142": "593", "1143": "594", "1144": "595", "1145": "596", "1146": "597", "1147": "598", "1148": "599", "1149": "600", "1150": "601", "1151": "602", "1152": "603", "1153": "604", "1154": "605", "1155": "606", "1156": "607", "1157": "610", "1158": "611", "1159": "612", "1160": "6130", "1161": "614", "1162": "6140", "1163": "6220", "1164": "6230", "1165": "6240", "1166": "625", "1167": "630", "1168": "631", "1169": "6320", "1170": "633", "1171": "6330", "1172": "635", "1173": "636", "1174": "637", "1175": "638", "1176": "639", "1177": "640", "1178": "641", "1179": "6411", "1180": "6412", "1181": "6413", "1182": "6414", "1183": "6415", "1184": "642", "1185": "6420", "1186": "643", "1187": "6433", "1188": "6434", "1189": "644", "1190": "645", "1191": "6450", "1192": "646", "1193": "647", "1194": "6473", "1195": "6474", "1196": "648", "1197": "649", "1198": "65", "1199": "650", "1200": "651", "1201": "652", "1202": "653", "1203": "654", "1204": "655", "1205": "666", "1206": "667", "1207": "668", "1208": "669", "1209": "670", "1210": "671", "1211": "677", "1212": "678", "1213": "68", "1214": "702", "1215": "711", "1216": "712", "1217": "713", "1218": "714", "1219": "715", "1220": "716", "1221": "718", "1222": "719", "1223": "72", "1224": "721", "1225": "723", "1226": "724", "1227": "726", "1228": "727", "1229": "728", "1230": "73", "1231": "732", "1232": "733", "1233": "735", "1234": "737", "1235": "74", "1236": "740", "1237": "741", "1238": "742", "1239": "743", "1240": "744", "1241": "745", "1242": "746", "1243": "747", "1244": "748", "1245": "749", "1246": "75", "1247": "750", "1248": "751", "1249": "752", "1250": "753", "1251": "754", "1252": "755", "1253": "756", "1254": "757", "1255": "758", "1256": "759", "1257": "760", "1258": "761", "1259": "762", "1260": "763", "1261": "764", "1262": "776", "1263": "780", "1264": "782", "1265": "783", "1266": "784", "1267": "785", "1268": "786", "1269": "787", "1270": "788", "1271": "789", "1272": "79", "1273": "790", "1274": "791", "1275": "792", "1276": "793", "1277": "795", "1278": "797", "1279": "798", "1280": "799", "1281": "800", "1282": "801", "1283": "803", "1284": "804", "1285": "807", "1286": "808", "1287": "809", "1288": "810", "1289": "811", "1290": "812", "1291": "813", "1292": "814", "1293": "815", "1294": "817", "1295": "818", "1296": "819", "1297": "82", "1298": "820", "1299": "821", "1300": "822", "1301": "823", "1302": "824", "1303": "826", "1304": "827", "1305": "828", "1306": "829", "1307": "83", "1308": "830", "1309": "831", "1310": "832", "1311": "833", "1312": "834", "1313": "835", "1314": "836", "1315": "837", "1316": "838", "1317": "839", "1318": "840", "1319": "853", "1320": "854", "1321": "855", "1322": "856", "1323": "857", "1324": "858", "1325": "859", "1326": "86", "1327": "860", "1328": "861", "1329": "862", "1330": "863", "1331": "864", "1332": "865", "1333": "866", "1334": "867", "1335": "868", "1336": "869", "1337": "870", "1338": "871", "1339": "872", "1340": "873", "1341": "874", "1342": "875", "1343": "876", "1344": "877", "1345": "878", "1346": "879", "1347": "880", "1348": "881", "1349": "882", "1350": "883", "1351": "884", "1352": "885", "1353": "886", "1354": "887", "1355": "888", "1356": "889", "1357": "890", "1358": "891", "1359": "906", "1360": "907", "1361": "908", "1362": "909", "1363": "91", "1364": "910", "1365": "911", "1366": "912", "1367": "913", "1368": "914", "1369": "915", "1370": "916", "1371": "917", "1372": "918", "1373": "919", "1374": "92", "1375": "921", "1376": "922", "1377": "924", "1378": "926", "1379": "929", "1380": "930", "1381": "931", "1382": "932", "1383": "933", "1384": "934", "1385": "935", "1386": "936", "1387": "937", "1388": "938", "1389": "939", "1390": "94", "1391": "940", "1392": "941", "1393": "942", "1394": "944", "1395": "945", "1396": "947", "1397": "948", "1398": "951", "1399": "953", "1400": "954", "1401": "955", "1402": "956", "1403": "957", "1404": "958", "1405": "959", "1406": "960", "1407": "961", "1408": "962", "1409": "963", "1410": "966", "1411": "968", "1412": "969", "1413": "97", "1414": "970", "1415": "973", "1416": "974", "1417": "975", "1418": "976", "1419": "978", "1420": "979", "1421": "980", "1422": "986", "1423": "988", "1424": "99", "1425": "993", "1426": "994", "1427": "995", "1428": "996", "1429": "997", "1430": "998" }, "initializer_range": 0.02, "intermediate_size": 3072, "label2id": { "100": 0, "1002": 1, "1006": 2, "1007": 3, "1009": 4, "1010": 5, "1011": 6, "1012": 7, "1013": 8, "1014": 9, "1015": 10, "1016": 11, "1019": 12, "102": 13, "1020": 14, "1021": 15, "1022": 16, "1023": 17, "1024": 18, "1025": 19, "1026": 20, "1027": 21, "1028": 22, "1029": 23, "1033": 24, "1036": 25, "1038": 26, "104": 27, "1040": 28, "1042": 29, "1043": 30, "1044": 31, "1046": 32, "1047": 33, "105": 34, "106": 35, "107": 36, "108": 37, "111": 38, "114": 39, "115": 40, "116": 41, "122": 42, "123": 43, "124": 44, "125": 45, "126": 46, "127": 47, "128": 48, "129": 49, "130": 50, "131": 51, "132": 52, "133": 53, "134": 54, "135": 55, "136": 56, "137": 57, "138": 58, "139": 59, "140": 60, "141": 61, "142": 62, "143": 63, "144": 64, "152": 65, "153": 66, "154": 67, "155": 68, "156": 69, "157": 70, "158": 71, "159": 72, "160": 73, "161": 74, "162": 75, "163": 76, "164": 77, "165": 78, "166": 79, "167": 80, "170": 81, "171": 82, "172": 83, "173": 84, "174": 85, "175": 86, "176": 87, "177": 88, "178": 89, "179": 90, "180": 91, "181": 92, "182": 93, "183": 94, "184": 95, "185": 96, "186": 97, "187": 98, "188": 99, "189": 100, "190": 101, "191": 102, "192": 103, "193": 104, "194": 105, "195": 106, "196": 107, "197": 108, "198": 109, "199": 110, "20": 111, "200": 112, "2002": 113, "2007": 114, "2008": 115, "201": 116, "2010": 117, "2011": 118, "2014": 119, "2015": 120, "2017": 121, "2018": 122, "2019": 123, "2025": 124, "2026": 125, "2027": 126, "2028": 127, "203": 128, "2031": 129, "2032": 130, "2033": 131, "2035": 132, "2036": 133, "2037": 134, "2038": 135, "2039": 136, "204": 137, "2040": 138, "2041": 139, "2042": 140, "2044": 141, "2047": 142, "2048": 143, "2049": 144, "205": 145, "2052": 146, "2053": 147, "2054": 148, "2055": 149, "2056": 150, "2057": 151, "2059": 152, "206": 153, "2060": 154, "2062": 155, "2063": 156, "2064": 157, "2065": 158, "2068": 159, "2069": 160, "207": 161, "2070": 162, "2072": 163, "2073": 164, "2074": 165, "2075": 166, "2076": 167, "2077": 168, "2078": 169, "2079": 170, "2080": 171, "2081": 172, "2082": 173, "2085": 174, "2086": 175, "2088": 176, "209": 177, "2090": 178, "2091": 179, "2092": 180, "2093": 181, "2096": 182, "2097": 183, "2098": 184, "210": 185, "2100": 186, "2102": 187, "2103": 188, "2104": 189, "2105": 190, "2106": 191, "2107": 192, "2108": 193, "2109": 194, "2111": 195, "2112": 196, "2113": 197, "2114": 198, "2116": 199, "2117": 200, "2118": 201, "2119": 202, "212": 203, "2120": 204, "2121": 205, "2122": 206, "2123": 207, "2124": 208, "2125": 209, "2126": 210, "2127": 211, "2128": 212, "2129": 213, "213": 214, "2130": 215, "2131": 216, "2133": 217, "2134": 218, "2135": 219, "2136": 220, "2137": 221, "2138": 222, "2139": 223, "214": 224, "2140": 225, "2141": 226, "2142": 227, "2143": 228, "2144": 229, "2145": 230, "2146": 231, "2148": 232, "2149": 233, "215": 234, "2150": 235, "2151": 236, "2152": 237, "2153": 238, "2158": 239, "2159": 240, "216": 241, "2160": 242, "2162": 243, "2164": 244, "217": 245, "2170": 246, "2171": 247, "2173": 248, "2174": 249, "2175": 250, "2176": 251, "2178": 252, "2179": 253, "218": 254, "2180": 255, "2181": 256, "2182": 257, "2183": 258, "2184": 259, "2185": 260, "219": 261, "220": 262, "2205": 263, "2206": 264, "2207": 265, "2211": 266, "2212": 267, "2216": 268, "2217": 269, "2219": 270, "2221": 271, "2222": 272, "2223": 273, "2224": 274, "2225": 275, "2226": 276, "2227": 277, "2228": 278, "2229": 279, "2230": 280, "2232": 281, "2233": 282, "2235": 283, "2237": 284, "2238": 285, "2239": 286, "2240": 287, "2241": 288, "2242": 289, "2243": 290, "2244": 291, "2246": 292, "2247": 293, "2248": 294, "2249": 295, "2250": 296, "2253": 297, "2254": 298, "2255": 299, "2256": 300, "2257": 301, "2258": 302, "2259": 303, "2261": 304, "2262": 305, "2263": 306, "2264": 307, "2266": 308, "2267": 309, "2268": 310, "2269": 311, "2270": 312, "2271": 313, "2272": 314, "2273": 315, "2274": 316, "2276": 317, "2278": 318, "2279": 319, "2280": 320, "2281": 321, "2285": 322, "2286": 323, "2288": 324, "2290": 325, "2291": 326, "2292": 327, "2293": 328, "2295": 329, "2296": 330, "2297": 331, "2298": 332, "2299": 333, "23": 334, "230": 335, "2303": 336, "2304": 337, "2305": 338, "2306": 339, "2308": 340, "2309": 341, "231": 342, "2310": 343, "2312": 344, "2313": 345, "2314": 346, "2315": 347, "2316": 348, "2320": 349, "2327": 350, "2328": 351, "2329": 352, "233": 353, "2330": 354, "2331": 355, "2332": 356, "2333": 357, "2334": 358, "2335": 359, "2336": 360, "2337": 361, "2338": 362, "2339": 363, "234": 364, "2341": 365, "2342": 366, "2343": 367, "2344": 368, "2346": 369, "2348": 370, "235": 371, "2351": 372, "2352": 373, "2353": 374, "2354": 375, "2356": 376, "236": 377, "2360": 378, "2361": 379, "2362": 380, "2363": 381, "2364": 382, "2366": 383, "2367": 384, "237": 385, "2370": 386, "2371": 387, "2373": 388, "2374": 389, "2375": 390, "2376": 391, "2377": 392, "2378": 393, "2379": 394, "238": 395, "2380": 396, "2381": 397, "2382": 398, "2383": 399, "2384": 400, "2385": 401, "2386": 402, "2387": 403, "2388": 404, "2389": 405, "239": 406, "2390": 407, "2391": 408, "2392": 409, "2393": 410, "2394": 411, "2395": 412, "2396": 413, "2397": 414, "2398": 415, "2399": 416, "24": 417, "240": 418, "2400": 419, "2401": 420, "2402": 421, "2403": 422, "2404": 423, "2405": 424, "2406": 425, "2407": 426, "2408": 427, "2409": 428, "241": 429, "2410": 430, "2411": 431, "2412": 432, "2413": 433, "2414": 434, "2415": 435, "2416": 436, "2417": 437, "2418": 438, "2419": 439, "242": 440, "2421": 441, "2422": 442, "2423": 443, "2424": 444, "2425": 445, "2426": 446, "2427": 447, "2428": 448, "2429": 449, "243": 450, "2430": 451, "2431": 452, "2433": 453, "2434": 454, "2435": 455, "2437": 456, "2438": 457, "2439": 458, "244": 459, "2440": 460, "2441": 461, "2442": 462, "2443": 463, "2444": 464, "2447": 465, "2448": 466, "2449": 467, "245": 468, "2450": 469, "2451": 470, "2452": 471, "2453": 472, "2454": 473, "2455": 474, "2456": 475, "2457": 476, "2459": 477, "246": 478, "2460": 479, "2462": 480, "2463": 481, "2464": 482, "2465": 483, "2466": 484, "2468": 485, "2469": 486, "247": 487, "2470": 488, "2471": 489, "2472": 490, "2473": 491, "2474": 492, "2475": 493, "2476": 494, "2477": 495, "2478": 496, "248": 497, "2480": 498, "2481": 499, "2482": 500, "2483": 501, "2484": 502, "2485": 503, "2486": 504, "2487": 505, "2488": 506, "2489": 507, "2490": 508, "2494": 509, "2495": 510, "2497": 511, "2498": 512, "2499": 513, "2500": 514, "2501": 515, "2502": 516, "2503": 517, "2504": 518, "2505": 519, "2507": 520, "2508": 521, "2509": 522, "2510": 523, "2513": 524, "2514": 525, "2518": 526, "2519": 527, "2520": 528, "2521": 529, "2522": 530, "2523": 531, "2524": 532, "2525": 533, "2526": 534, "2529": 535, "2530": 536, "2531": 537, "2532": 538, "2533": 539, "2534": 540, "2535": 541, "2536": 542, "2538": 543, "2541": 544, "2542": 545, "2543": 546, "2544": 547, "2545": 548, "2547": 549, "2548": 550, "255": 551, "2558": 552, "2561": 553, "2566": 554, "2567": 555, "2568": 556, "2578": 557, "2583": 558, "2595": 559, "2596": 560, "2597": 561, "2598": 562, "2599": 563, "2600": 564, "2601": 565, "2602": 566, "2603": 567, "2604": 568, "2605": 569, "2606": 570, "2607": 571, "2608": 572, "2609": 573, "2616": 574, "2617": 575, "2619": 576, "263": 577, "268": 578, "269": 579, "2691": 580, "2692": 581, "2693": 582, "2694": 583, "2696": 584, "2697": 585, "2698": 586, "2699": 587, "27": 588, "270": 589, "2700": 590, "2701": 591, "2702": 592, "2703": 593, "2704": 594, "2705": 595, "2706": 596, "2707": 597, "2708": 598, "2709": 599, "271": 600, "2710": 601, "2711": 602, "2712": 603, "2715": 604, "2716": 605, "2718": 606, "2719": 607, "272": 608, "2721": 609, "2722": 610, "2723": 611, "2724": 612, "2725": 613, "2726": 614, "2727": 615, "2728": 616, "2729": 617, "273": 618, "2730": 619, "2731": 620, "2732": 621, "2733": 622, "2734": 623, "2735": 624, "2736": 625, "2737": 626, "2738": 627, "2739": 628, "274": 629, "2740": 630, "2741": 631, "2742": 632, "2743": 633, "2744": 634, "2745": 635, "2746": 636, "2747": 637, "2748": 638, "2749": 639, "275": 640, "2750": 641, "2751": 642, "2753": 643, "2754": 644, "2755": 645, "2756": 646, "2759": 647, "276": 648, "2761": 649, "2762": 650, "2763": 651, "2764": 652, "2766": 653, "2767": 654, "277": 655, "2770": 656, "2771": 657, "2772": 658, "2773": 659, "2774": 660, "2776": 661, "2777": 662, "2778": 663, "2779": 664, "278": 665, "2780": 666, "2783": 667, "2784": 668, "2785": 669, "2786": 670, "2787": 671, "2788": 672, "2789": 673, "2790": 674, "2791": 675, "2792": 676, "2794": 677, "2795": 678, "2796": 679, "2798": 680, "2799": 681, "280": 682, "2800": 683, "2801": 684, "2803": 685, "2805": 686, "2806": 687, "2807": 688, "2808": 689, "2809": 690, "281": 691, "2810": 692, "2811": 693, "282": 694, "2822": 695, "2823": 696, "2824": 697, "2825": 698, "2826": 699, "2827": 700, "2828": 701, "2829": 702, "283": 703, "2830": 704, "2831": 705, "2832": 706, "2833": 707, "2834": 708, "2835": 709, "2836": 710, "2838": 711, "284": 712, "2840": 713, "2842": 714, "2843": 715, "2844": 716, "2845": 717, "2846": 718, "2847": 719, "2848": 720, "2849": 721, "285": 722, "2850": 723, "2851": 724, "2852": 725, "2853": 726, "2854": 727, "2855": 728, "2856": 729, "2857": 730, "286": 731, "2863": 732, "2864": 733, "2865": 734, "2866": 735, "2867": 736, "2868": 737, "2869": 738, "287": 739, "2870": 740, "2871": 741, "2872": 742, "2873": 743, "2874": 744, "2875": 745, "2876": 746, "2877": 747, "2878": 748, "2879": 749, "288": 750, "2880": 751, "2881": 752, "2882": 753, "2883": 754, "2884": 755, "2885": 756, "2886": 757, "289": 758, "2892": 759, "2893": 760, "2895": 761, "2897": 762, "2898": 763, "2899": 764, "29": 765, "290": 766, "2902": 767, "2903": 768, "2904": 769, "2906": 770, "2907": 771, "2908": 772, "2909": 773, "291": 774, "2910": 775, "2911": 776, "2912": 777, "2913": 778, "2914": 779, "2915": 780, "2917": 781, "2918": 782, "292": 783, "2920": 784, "2921": 785, "2922": 786, "293": 787, "294": 788, "295": 789, "296": 790, "297": 791, "298": 792, "299": 793, "3000": 794, "3001": 795, "3002": 796, "3003": 797, "3004": 798, "3005": 799, "3006": 800, "3007": 801, "3008": 802, "3009": 803, "301": 804, "3010": 805, "3011": 806, "3012": 807, "3013": 808, "3014": 809, "3015": 810, "3016": 811, "3017": 812, "3018": 813, "3019": 814, "302": 815, "3020": 816, "3021": 817, "3022": 818, "3023": 819, "3026": 820, "3027": 821, "3028": 822, "3029": 823, "303": 824, "3031": 825, "3032": 826, "3033": 827, "3034": 828, "3035": 829, "3037": 830, "3038": 831, "3039": 832, "304": 833, "3040": 834, "3041": 835, "3042": 836, "3044": 837, "3045": 838, "3046": 839, "3047": 840, "3048": 841, "3049": 842, "305": 843, "3050": 844, "3051": 845, "3052": 846, "3053": 847, "3054": 848, "3055": 849, "3056": 850, "3057": 851, "3058": 852, "3059": 853, "306": 854, "3060": 855, "3061": 856, "3062": 857, "3064": 858, "3065": 859, "3066": 860, "3067": 861, "3068": 862, "3069": 863, "307": 864, "3070": 865, "3071": 866, "3072": 867, "3073": 868, "3074": 869, "3075": 870, "3076": 871, "3077": 872, "3078": 873, "3079": 874, "308": 875, "3080": 876, "3081": 877, "3082": 878, "3083": 879, "3084": 880, "3085": 881, "3086": 882, "3087": 883, "3088": 884, "3089": 885, "309": 886, "3090": 887, "3091": 888, "3092": 889, "3093": 890, "310": 891, "3101": 892, "3102": 893, "3103": 894, "3104": 895, "3105": 896, "3106": 897, "3107": 898, "3108": 899, "3109": 900, "311": 901, "3111": 902, "3112": 903, "3114": 904, "3118": 905, "3119": 906, "312": 907, "3120": 908, "3121": 909, "3122": 910, "3123": 911, "3124": 912, "3125": 913, "3126": 914, "3127": 915, "3128": 916, "3129": 917, "313": 918, "3130": 919, "314": 920, "315": 921, "317": 922, "318": 923, "319": 924, "34": 925, "35": 926, "360": 927, "361": 928, "362": 929, "363": 930, "364": 931, "365": 932, "366": 933, "367": 934, "368": 935, "369": 936, "370": 937, "371": 938, "372": 939, "373": 940, "374": 941, "375": 942, "376": 943, "378": 944, "379": 945, "38": 946, "381": 947, "383": 948, "384": 949, "385": 950, "386": 951, "387": 952, "388": 953, "389": 954, "390": 955, "392": 956, "393": 957, "394": 958, "395": 959, "396": 960, "398": 961, "399": 962, "400": 963, "4005": 964, "4006": 965, "4007": 966, "4008": 967, "4009": 968, "401": 969, "4010": 970, "4011": 971, "4012": 972, "4013": 973, "4014": 974, "4015": 975, "4016": 976, "4017": 977, "4018": 978, "4019": 979, "402": 980, "4021": 981, "4023": 982, "4027": 983, "4028": 984, "403": 985, "4030": 986, "4032": 987, "4035": 988, "4036": 989, "4038": 990, "4039": 991, "404": 992, "4041": 993, "4042": 994, "4043": 995, "4044": 996, "4045": 997, "4046": 998, "4047": 999, "4049": 1000, "405": 1001, "4052": 1002, "4054": 1003, "4055": 1004, "4056": 1005, "4057": 1006, "4059": 1007, "4061": 1008, "4062": 1009, "4063": 1010, "4064": 1011, "4065": 1012, "4066": 1013, "4067": 1014, "4068": 1015, "4070": 1016, "4071": 1017, "4072": 1018, "4073": 1019, "4074": 1020, "4075": 1021, "4076": 1022, "4077": 1023, "4078": 1024, "4079": 1025, "408": 1026, "4080": 1027, "4081": 1028, "4082": 1029, "409": 1030, "410": 1031, "412": 1032, "413": 1033, "416": 1034, "417": 1035, "418": 1036, "419": 1037, "420": 1038, "423": 1039, "424": 1040, "425": 1041, "426": 1042, "427": 1043, "428": 1044, "429": 1045, "430": 1046, "431": 1047, "432": 1048, "450": 1049, "452": 1050, "455": 1051, "456": 1052, "460": 1053, "461": 1054, "462": 1055, "463": 1056, "464": 1057, "465": 1058, "466": 1059, "467": 1060, "468": 1061, "469": 1062, "47": 1063, "470": 1064, "471": 1065, "472": 1066, "473": 1067, "474": 1068, "475": 1069, "476": 1070, "478": 1071, "479": 1072, "480": 1073, "481": 1074, "482": 1075, "483": 1076, "484": 1077, "485": 1078, "486": 1079, "487": 1080, "489": 1081, "490": 1082, "491": 1083, "492": 1084, "493": 1085, "494": 1086, "495": 1087, "496": 1088, "497": 1089, "498": 1090, "499": 1091, "536": 1092, "538": 1093, "539": 1094, "540": 1095, "541": 1096, "542": 1097, "543": 1098, "544": 1099, "545": 1100, "546": 1101, "547": 1102, "548": 1103, "549": 1104, "550": 1105, "551": 1106, "552": 1107, "553": 1108, "554": 1109, "555": 1110, "556": 1111, "557": 1112, "559": 1113, "560": 1114, "561": 1115, "562": 1116, "563": 1117, "564": 1118, "565": 1119, "566": 1120, "567": 1121, "568": 1122, "569": 1123, "570": 1124, "572": 1125, "573": 1126, "575": 1127, "576": 1128, "578": 1129, "580": 1130, "581": 1131, "582": 1132, "583": 1133, "584": 1134, "585": 1135, "587": 1136, "588": 1137, "589": 1138, "590": 1139, "591": 1140, "592": 1141, "593": 1142, "594": 1143, "595": 1144, "596": 1145, "597": 1146, "598": 1147, "599": 1148, "600": 1149, "601": 1150, "602": 1151, "603": 1152, "604": 1153, "605": 1154, "606": 1155, "607": 1156, "610": 1157, "611": 1158, "612": 1159, "6130": 1160, "614": 1161, "6140": 1162, "6220": 1163, "6230": 1164, "6240": 1165, "625": 1166, "630": 1167, "631": 1168, "6320": 1169, "633": 1170, "6330": 1171, "635": 1172, "636": 1173, "637": 1174, "638": 1175, "639": 1176, "640": 1177, "641": 1178, "6411": 1179, "6412": 1180, "6413": 1181, "6414": 1182, "6415": 1183, "642": 1184, "6420": 1185, "643": 1186, "6433": 1187, "6434": 1188, "644": 1189, "645": 1190, "6450": 1191, "646": 1192, "647": 1193, "6473": 1194, "6474": 1195, "648": 1196, "649": 1197, "65": 1198, "650": 1199, "651": 1200, "652": 1201, "653": 1202, "654": 1203, "655": 1204, "666": 1205, "667": 1206, "668": 1207, "669": 1208, "670": 1209, "671": 1210, "677": 1211, "678": 1212, "68": 1213, "702": 1214, "711": 1215, "712": 1216, "713": 1217, "714": 1218, "715": 1219, "716": 1220, "718": 1221, "719": 1222, "72": 1223, "721": 1224, "723": 1225, "724": 1226, "726": 1227, "727": 1228, "728": 1229, "73": 1230, "732": 1231, "733": 1232, "735": 1233, "737": 1234, "74": 1235, "740": 1236, "741": 1237, "742": 1238, "743": 1239, "744": 1240, "745": 1241, "746": 1242, "747": 1243, "748": 1244, "749": 1245, "75": 1246, "750": 1247, "751": 1248, "752": 1249, "753": 1250, "754": 1251, "755": 1252, "756": 1253, "757": 1254, "758": 1255, "759": 1256, "760": 1257, "761": 1258, "762": 1259, "763": 1260, "764": 1261, "776": 1262, "780": 1263, "782": 1264, "783": 1265, "784": 1266, "785": 1267, "786": 1268, "787": 1269, "788": 1270, "789": 1271, "79": 1272, "790": 1273, "791": 1274, "792": 1275, "793": 1276, "795": 1277, "797": 1278, "798": 1279, "799": 1280, "800": 1281, "801": 1282, "803": 1283, "804": 1284, "807": 1285, "808": 1286, "809": 1287, "810": 1288, "811": 1289, "812": 1290, "813": 1291, "814": 1292, "815": 1293, "817": 1294, "818": 1295, "819": 1296, "82": 1297, "820": 1298, "821": 1299, "822": 1300, "823": 1301, "824": 1302, "826": 1303, "827": 1304, "828": 1305, "829": 1306, "83": 1307, "830": 1308, "831": 1309, "832": 1310, "833": 1311, "834": 1312, "835": 1313, "836": 1314, "837": 1315, "838": 1316, "839": 1317, "840": 1318, "853": 1319, "854": 1320, "855": 1321, "856": 1322, "857": 1323, "858": 1324, "859": 1325, "86": 1326, "860": 1327, "861": 1328, "862": 1329, "863": 1330, "864": 1331, "865": 1332, "866": 1333, "867": 1334, "868": 1335, "869": 1336, "870": 1337, "871": 1338, "872": 1339, "873": 1340, "874": 1341, "875": 1342, "876": 1343, "877": 1344, "878": 1345, "879": 1346, "880": 1347, "881": 1348, "882": 1349, "883": 1350, "884": 1351, "885": 1352, "886": 1353, "887": 1354, "888": 1355, "889": 1356, "890": 1357, "891": 1358, "906": 1359, "907": 1360, "908": 1361, "909": 1362, "91": 1363, "910": 1364, "911": 1365, "912": 1366, "913": 1367, "914": 1368, "915": 1369, "916": 1370, "917": 1371, "918": 1372, "919": 1373, "92": 1374, "921": 1375, "922": 1376, "924": 1377, "926": 1378, "929": 1379, "930": 1380, "931": 1381, "932": 1382, "933": 1383, "934": 1384, "935": 1385, "936": 1386, "937": 1387, "938": 1388, "939": 1389, "94": 1390, "940": 1391, "941": 1392, "942": 1393, "944": 1394, "945": 1395, "947": 1396, "948": 1397, "951": 1398, "953": 1399, "954": 1400, "955": 1401, "956": 1402, "957": 1403, "958": 1404, "959": 1405, "960": 1406, "961": 1407, "962": 1408, "963": 1409, "966": 1410, "968": 1411, "969": 1412, "97": 1413, "970": 1414, "973": 1415, "974": 1416, "975": 1417, "976": 1418, "978": 1419, "979": 1420, "980": 1421, "986": 1422, "988": 1423, "99": 1424, "993": 1425, "994": 1426, "995": 1427, "996": 1428, "997": 1429, "998": 1430 }, "layer_norm_eps": 1e-12, "max_position_embeddings": 512, "model_type": "bert", "num_attention_heads": 12, "num_hidden_layers": 12, "pad_token_id": 0, "position_embedding_type": "absolute", "problem_type": "single_label_classification", "torch_dtype": "float32", "transformers_version": "4.48.0", "type_vocab_size": 2, "use_cache": true, "vocab_size": 30522 }