Update generation_script.py

generation_script.py

@@ -8,7 +8,7 @@ import random
 def contiene_b(frase):
     return any(label.startswith("B-") for _, label in frase)
 
-def procesar_training_set_balanceado(archivo_entrada, archivo_salida):
+def procesar_training_set_balanceado(archivo_entrada, archivo_salida, archivo_ids):
     frases = defaultdict(list)
 
     with open(archivo_entrada, encoding="utf-8") as f:
@@ -19,17 +19,23 @@ def procesar_training_set_balanceado(archivo_entrada, archivo_salida):
                     token, doc_id, _, _, label = partes
                     frases[doc_id].append((token, label))
 
-    con_b = [f for f in frases.values() if contiene_b(f)]
-    sin_b = [f for f in frases.values() if not contiene_b(f)]
+    con_b_ids = [id_ for id_, frase in frases.items() if contiene_b(frase)]
+    sin_b_ids = [id_ for id_, frase in frases.items() if not contiene_b(frase)]
 
     # Queremos aproximadamente la mitad con B
-    n = min(len(con_b), len(sin_b))
-    seleccionadas = con_b[:n] + sin_b[:n]
-    random.shuffle(seleccionadas)
+    n = min(len(con_b_ids), len(sin_b_ids))
+    selected_ids = con_b_ids[:n] + sin_b_ids[:n]
+    random.shuffle(selected_ids)
+
+    # Guardar los IDs seleccionados
+    with open(archivo_ids, "w") as f_ids:
+        for id_ in selected_ids:
+            f_ids.write(f"{id_}\n")
 
+    # Guardar el archivo con formato CoNLL
     with open(archivo_salida, "w", encoding="utf-8") as out:
-        for frase in seleccionadas:
-            for token, label in frase:
+        for id_ in selected_ids:
+            for token, label in frases[id_]:
                 out.write(f"{token} {label}\n")
             out.write("\n")
 
@@ -83,7 +89,7 @@ def procesar_dev_test_balanceado(archivo_entrada, archivo_salida_dev, archivo_sa
     escribir(test_ids, archivo_salida_test)
 
 # 🛠️ Uso
-procesar_training_set_balanceado("train_spacy.txt", "train_conll.txt")
+procesar_training_set_balanceado("train_spacy.txt", "train_conll.txt","train_ids.txt")
 procesar_dev_test_balanceado(
     "valid_spacy.txt", 
     "dev_conll.txt",