import os

import pandas as pd

BASE_DIR = os.path.join(".")

DOC_NAMES = {
    "verde-urbano.md": "Regolamento del Verde urbano pubblico e privato",
    "tari.md": "Regolamento per la disciplina della Tassa sui Rifiuti (TARI)",
    "impianti-sportivi.md": "Regolamento d'uso degli impianti sportivi",
    "asili-nido.md": "Regolamento degli Asili Nido",
    "qualità-dell-aria.md": "Regolamento per la Qualità dell'Aria",
    "edilizio.md": "Regolamento Edilizio e Norme Techiche di Attuazione",
    "trasporto pubblico.md": "Regolamento per il conseguimento dell’attestato di idoneità professionale all’esercizio di autotrasportatore di merci per conto terzi e di autotrasporto di persone su strada",
    "tutela-animali.md": "Regolamento comunale per la tutela degli animali"
}

if __name__ == "__main__":
    chapters = []

    for root, dirs, files in os.walk(os.path.join(BASE_DIR, "documents")):
        for file in files:
            if ".md" in file:
                with open(os.path.join(root, file), "r", encoding="utf-8") as f:
                    full_path = os.path.join(root, file)
                    text = f.read()
                    lines = text.split("\n")
                    chapters_indices = [i for i in range(len(lines)) if lines[i].startswith("# ")]
                    for i in range(len(chapters_indices)):
                        next_index = chapters_indices[i + 1] if i < len(chapters_indices) - 1 else len(lines)

                        title = lines[chapters_indices[i]][2:].strip()

                        content = '\n'.join(lines[chapters_indices[i] + 1:next_index])
                        content = '\n'.join(line.rstrip() for line in content.split("\n"))
                        content = content.rstrip()

                        print(full_path)
                        chapters.append({
                            'region': full_path.split('\\')[2],
                            'topic': DOC_NAMES[full_path.split('\\')[3]],
                            'progress': i+1,
                            "title": title,
                            "content": content
                        })

    print(chapters[0])

    df = pd.DataFrame(chapters).sort_values(by=['region', 'topic', 'progress'])
    df.to_csv(os.path.join(BASE_DIR, 'corpus.csv'), index=False)
    df.to_csv(os.path.join(BASE_DIR, 'corpus.tsv'), sep='\t', index=False)
    df.to_excel(os.path.join(BASE_DIR, 'corpus.xlsx'), index=False)