Builder in one file

py_legislation.py

@@ -22,6 +22,86 @@ import pyarrow.parquet as pq
 
 from obligations import affected_entity, cost_type, aa_categories, aa_categories_unique, io_categories
 
+
+_obligations = {
+    "cost_type": ["sin_costo", "costo_adm", "costo_directo", "otro_costo"],
+
+    "affected_entity": ["ent_no_afectada", "empresas", "ciudadanos", "adm_publica"],
+
+    "io_categories": [
+        "prestacion_de_informacion_empresarial_y_fiscal"
+        "solicitudes_de_licencias_y_otras"
+        "registros_y_notificaciones"
+        "solicitud_de_subsidios_y_otras"
+        "disponibilidad_de_manuales_y_otras"
+        "cooperacion_con_auditorías_y_otras"
+        "prestacion_de_informacion_a_consumidores"
+        "otras_OIS"
+    ],
+
+    "aa_categories_unique": [
+        "familiarizacion_con_OI"
+        "recoleccion_y_organizacion_de_informacion"
+        "procesamiento_de_informacion"
+        "tiempos_de_espera"
+        "desplazamientos"
+        "envio_de_informacion"
+        "preservacion_de_informacion"
+    ],
+
+    "aa_categories": [
+        "aa_1_familiarizacion_con_OI"
+        "aa_1_recoleccion_y_organizacion_de_informacion"
+        "aa_1_procesamiento_de_informacion"
+        "aa_1_tiempos_de_espera"
+        "aa_1_desplazamientos"
+        "aa_1_envio_de_informacion"
+        "aa_1_preservacion_de_informacion"
+        "aa_2_familiarizacion_con_OI"
+        "aa_2_recoleccion_y_organizacion_de_informacion"
+        "aa_2_procesamiento_de_informacion"
+        "aa_2_tiempos_de_espera"
+        "aa_2_desplazamientos"
+        "aa_2_envio_de_informacion"
+        "aa_2_preservacion_de_informacion"
+        "aa_3_familiarizacion_con_OI"
+        "aa_3_recoleccion_y_organizacion_de_informacion"
+        "aa_3_procesamiento_de_informacion"
+        "aa_3_tiempos_de_espera"
+        "aa_3_desplazamientos"
+        "aa_3_envio_de_informacion"
+        "aa_3_preservacion_de_informacion"
+        "aa_4_familiarizacion_con_OI"
+        "aa_4_recoleccion_y_organizacion_de_informacion"
+        "aa_4_procesamiento_de_informacion"
+        "aa_4_tiempos_de_espera"
+        "aa_4_desplazamientos"
+        "aa_4_envio_de_informacion"
+        "aa_4_preservacion_de_informacion"
+        "aa_5_familiarizacion_con_OI"
+        "aa_5_recoleccion_y_organizacion_de_informacion"
+        "aa_5_procesamiento_de_informacion"
+        "aa_5_tiempos_de_espera"
+        "aa_5_desplazamientos"
+        "aa_5_envio_de_informacion"
+        "aa_5_preservacion_de_informacion"
+        "aa_6_familiarizacion_con_OI"
+        "aa_6_recoleccion_y_organizacion_de_informacion"
+        "aa_6_procesamiento_de_informacion"
+        "aa_6_tiempos_de_espera"
+        "aa_6_desplazamientos"
+        "aa_6_envio_de_informacion"
+        "aa_6_preservacion_de_informacion"
+        "aa_7_familiarizacion_con_OI"
+        "aa_7_recoleccion_y_organizacion_de_informacion"
+        "aa_7_procesamiento_de_informacion"
+        "aa_7_tiempos_de_espera"
+        "aa_7_desplazamientos"
+        "aa_7_envio_de_informacion"
+        "aa_7_preservacion_de_informacion"
+    ]
+}
+
 _metadata = {
     "citation": """\
     @InProceedings{
@@ -76,14 +156,14 @@ _metadata = {
             "text": datasets.Value(dtype="string"),
 
             # Categories
-            "cost_type": datasets.ClassLabel(names=cost_type,),
-            "affected_entity": datasets.ClassLabel(names=affected_entity,),
+            "cost_type": datasets.ClassLabel(names=_obligations["cost_type"],),
+            "affected_entity": datasets.ClassLabel(names=_obligations["affected_entity"],),
             "io_categories": datasets.Sequence(
-                datasets.ClassLabel(names=io_categories,)),
+                datasets.ClassLabel(names=_obligations["io_categories"],)),
             "aa_categories": datasets.Sequence(
-                datasets.ClassLabel(names=aa_categories,)),
+                datasets.ClassLabel(names=_obligations["aa_categories"],)),
             "aa_categories_unique": datasets.Sequence(
-                datasets.ClassLabel(names=aa_categories_unique,)),
+                datasets.ClassLabel(names=_obligations["aa_categories_unique"],)),
         }
     },
 
@@ -101,63 +181,18 @@ _metadata = {
             "text": datasets.Value(dtype="string"),
 
             # Categories
-            "cost_type": datasets.ClassLabel(names=cost_type,),
-            "affected_entity": datasets.ClassLabel(names=affected_entity,),
+            "cost_type": datasets.ClassLabel(names=_obligations["cost_type"],),
+            "affected_entity": datasets.ClassLabel(names=_obligations["affected_entity"],),
             "io_categories": datasets.Sequence(
-                datasets.ClassLabel(names=io_categories,)),
+                datasets.ClassLabel(names=_obligations["io_categories"],)),
             "aa_categories": datasets.Sequence(
-                datasets.ClassLabel(names=aa_categories,)),
+                datasets.ClassLabel(names=_obligations["aa_categories"],)),
             "aa_categories_unique": datasets.Sequence(
-                datasets.ClassLabel(names=aa_categories_unique,)),
-        }
-    }
-}
-
-
-x = {
-    "config_names": {
-        "raw": {
-            "description": "",
-            "features": {
-                "source_id": datasets.Value(dtype="int64"),
-                "doc_source_id": datasets.Value(dtype="int64"),
-                "document": datasets.Value(dtype="string"),
-                "text": datasets.Value(dtype="string"),
-            }
+                datasets.ClassLabel(names=_obligations["aa_categories_unique"],)),
         }
     }
 }
 
-BASIC_FEATURES_SPEC = {
-    "source_id": datasets.Value(dtype="int64"),
-    "doc_source_id": datasets.Value(dtype="int64"),
-    "document": datasets.Value(dtype="string"),
-    "text": datasets.Value(dtype="string"),
-}
-
-RAW_FEATURES_SPEC = {
-    "source_id": datasets.Value(dtype="int64"),
-    "doc_source_id": datasets.Value(dtype="int64"),
-    "document": datasets.Value(dtype="string"),
-    "text": datasets.Value(dtype="string"),
-}
-
-SENTENCES_UNLABELED_FEATURES_SPEC = {
-    "source_id": datasets.Value(dtype="int64"),
-    "doc_source_id": datasets.Value(dtype="int64"),
-    "document": datasets.Value(dtype="string"),
-    "text": datasets.Value(dtype="string"),
-
-    #
-
-    # Categories
-    "cost_type": datasets.ClassLabel(names=cost_type,),
-    "affected_entity": datasets.ClassLabel(names=affected_entity,),
-    "io_categories": datasets.Sequence(datasets.ClassLabel(names=io_categories,)),
-    "aa_categories": datasets.Sequence(datasets.ClassLabel(names=aa_categories,)),
-    "aa_categories_unique": datasets.Sequence(datasets.ClassLabel(names=aa_categories_unique,)),
-}
-
 
 class PY_legislation(datasets.GeneratorBasedBuilder):
     VERSION = datasets.Version("1.0.0")
@@ -202,7 +237,7 @@ class PY_legislation(datasets.GeneratorBasedBuilder):
 
         else:
             features = datasets.Features(
-                BASIC_FEATURES_SPEC
+                _metadata["raw"]["description"]
             )
 
         return datasets.DatasetInfo(