Upload 2 files

convert_FICTREE.py

@@ -0,0 +1,63 @@
+# Author: Martin Fajčík
+"""
+The corpus is provided in a vertical format, where sentence boundaries are marked with
+ a blank line. Every word form is written on a separate line, followed by five tab-separated
+ attributes: lemma, tag, ID (word index in the sentence), head and deprel (analytical function,
+ afun in the PDT formalism). The texts are shuffled in random chunks of maximum 100 words
+ (respecting sentence boundaries). Each chunk is provided as a separate file, with the suggested
+ division into train, dev and test sets written as file prefix.
+
+Korpus FicTree se skládá z osmi prozaických děl z žánru beletrie vydaných v České republice mezi
+ lety 1991 a 2007. Šest z těchto literárních děl se (dle klasifikace textů podle žánrů používané
+ v ČNK do r. 2015) považuje za „čistou“ beletrii, jedno dílo se řadí k memoárům, jedno dílo spadá
+ do žánru „literatura pro děti a mládež“. Pět textů (80% tokenů) jsou původní české texty, dva texty
+ jsou překlady z němčiny, jeden je překlad ze slovenštiny.
+ """
+
+import os
+import re
+
+from jsonlines import jsonlines
+
+"""
+TODO: Convert FICTREE dataset
+"""
+documents = {
+    "train": [],
+    "dev": [],
+    "test": []
+}
+# read all vert files
+FOLDER = ".data/FICTREE_1.0/FicTree/"
+ws_before_punct = re.compile(r'\s+([.,!?])')
+
+for file in os.listdir(FOLDER):
+    if file.endswith(".vert"):
+        with open(os.path.join(FOLDER, file), "r") as f:
+            if file.startswith("train"):
+                documents["train"].append(f.read())
+            elif file.startswith("dev"):
+                documents["dev"].append(f.read())
+            elif file.startswith("test"):
+                documents["test"].append(f.read())
+
+for split, docs in list(documents.items()):
+    new_docs = []
+    for doc in docs:
+        new_doc = []
+        for line in doc.splitlines():
+            token = line.split("\t")[0].strip()
+            if token != "":
+                new_doc.append(token)
+        text = " ".join(new_doc)
+        new_doc = re.sub(ws_before_punct, r'\1', text)
+        new_docs.append(new_doc)
+    documents[split] = new_docs
+
+# write all splits into same json file in  .data/hf_dataset/cnc_fictree/test.jsonl
+OF = ".data/hf_dataset/cnc_fictree/test.jsonl"
+os.makedirs(os.path.dirname(OF), exist_ok=True)
+with jsonlines.open(OF, "w") as writer:
+    for split, docs in list(documents.items()):
+        for doc in docs:
+            writer.write({"text": doc, "orig_split": split})