| import os | |
| import pandas as pd | |
| BASE_DIR = os.path.join(".") | |
| DOC_NAMES = { | |
| "verde-urbano.md": "Regolamento del Verde urbano pubblico e privato", | |
| "tari.md": "Regolamento per la disciplina della Tassa sui Rifiuti (TARI)", | |
| "impianti-sportivi.md": "Regolamento d'uso degli impianti sportivi", | |
| "asili-nido.md": "Regolamento degli Asili Nido", | |
| "qualità-dell-aria.md": "Regolamento per la Qualità dell'Aria", | |
| "edilizio.md": "Regolamento Edilizio e Norme Techiche di Attuazione", | |
| "trasporto pubblico.md": "Regolamento per il conseguimento dell’attestato di idoneità professionale all’esercizio di autotrasportatore di merci per conto terzi e di autotrasporto di persone su strada", | |
| "tutela-animali.md": "Regolamento comunale per la tutela degli animali" | |
| } | |
| if __name__ == "__main__": | |
| chapters = [] | |
| for root, dirs, files in os.walk(os.path.join(BASE_DIR, "documents")): | |
| for file in files: | |
| if ".md" in file: | |
| with open(os.path.join(root, file), "r", encoding="utf-8") as f: | |
| full_path = os.path.join(root, file) | |
| text = f.read() | |
| lines = text.split("\n") | |
| chapters_indices = [i for i in range(len(lines)) if lines[i].startswith("# ")] | |
| for i in range(len(chapters_indices)): | |
| next_index = chapters_indices[i + 1] if i < len(chapters_indices) - 1 else len(lines) | |
| title = lines[chapters_indices[i]][2:].strip() | |
| content = '\n'.join(lines[chapters_indices[i] + 1:next_index]) | |
| content = '\n'.join(line.rstrip() for line in content.split("\n")) | |
| content = content.rstrip() | |
| print(full_path) | |
| chapters.append({ | |
| 'region': full_path.split('\\')[2], | |
| 'topic': DOC_NAMES[full_path.split('\\')[3]], | |
| 'progress': i+1, | |
| "title": title, | |
| "content": content | |
| }) | |
| print(chapters[0]) | |
| df = pd.DataFrame(chapters).sort_values(by=['region', 'topic', 'progress']) | |
| df.to_csv(os.path.join(BASE_DIR, 'corpus.csv'), index=False) | |
| df.to_csv(os.path.join(BASE_DIR, 'corpus.tsv'), sep='\t', index=False) | |
| df.to_excel(os.path.join(BASE_DIR, 'corpus.xlsx'), index=False) | |