classifier-32-labels / config.json
sebrobpau's picture
Training in progress, epoch 1
24fd453 verified
{
"activation": "gelu",
"architectures": [
"DistilBertForSequenceClassification"
],
"attention_dropout": 0.1,
"dim": 768,
"dropout": 0.1,
"hidden_dim": 3072,
"id2label": {
"0": "Azets",
"1": "BDO",
"2": "Bank_finans",
"3": "Bokf\u00f8ring",
"4": "Bolagsr\u00e4tt",
"5": "B\u00f8rs_verdipapirer",
"6": "DIB",
"7": "Deloitte",
"8": "ESG",
"9": "ESG DK",
"10": "ESG NO",
"11": "ESG SE",
"12": "EY",
"13": "HR",
"14": "IFRS",
"15": "IFRS DK",
"16": "IFRS SE",
"17": "K3",
"18": "KPMG",
"19": "Kommuneregnskap",
"20": "Kommunerevisjon",
"21": "L\u00f8n",
"22": "L\u00f8nn",
"23": "Merverdiavgift",
"24": "Personal",
"25": "Redovisning",
"26": "Regnskab",
"27": "Revisjon",
"28": "Selskapsrett",
"29": "Skatt",
"30": "Styrearbeid",
"31": "\u00c5rsregnskap"
},
"initializer_range": 0.02,
"label2id": {
"Azets": 0,
"BDO": 1,
"Bank_finans": 2,
"Bokf\u00f8ring": 3,
"Bolagsr\u00e4tt": 4,
"B\u00f8rs_verdipapirer": 5,
"DIB": 6,
"Deloitte": 7,
"ESG": 8,
"ESG DK": 9,
"ESG NO": 10,
"ESG SE": 11,
"EY": 12,
"HR": 13,
"IFRS": 14,
"IFRS DK": 15,
"IFRS SE": 16,
"K3": 17,
"KPMG": 18,
"Kommuneregnskap": 19,
"Kommunerevisjon": 20,
"L\u00f8n": 21,
"L\u00f8nn": 22,
"Merverdiavgift": 23,
"Personal": 24,
"Redovisning": 25,
"Regnskab": 26,
"Revisjon": 27,
"Selskapsrett": 28,
"Skatt": 29,
"Styrearbeid": 30,
"\u00c5rsregnskap": 31
},
"max_position_embeddings": 512,
"model_type": "distilbert",
"n_heads": 12,
"n_layers": 6,
"output_past": true,
"pad_token_id": 0,
"problem_type": "multi_label_classification",
"qa_dropout": 0.1,
"seq_classif_dropout": 0.2,
"sinusoidal_pos_embds": false,
"tie_weights_": true,
"torch_dtype": "float32",
"transformers_version": "4.50.2",
"vocab_size": 119547
}