File size: 2,454 Bytes
de0995c db5faf9 de0995c 20ac3f3 db5faf9 de0995c |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 |
import os
import pandas as pd
BASE_DIR = os.path.join(".")
DOC_NAMES = {
"verde-urbano.md": "Regolamento del Verde urbano pubblico e privato",
"tari.md": "Regolamento per la disciplina della Tassa sui Rifiuti (TARI)",
"impianti-sportivi.md": "Regolamento d'uso degli impianti sportivi",
"asili-nido.md": "Regolamento degli Asili Nido",
"qualità-dell-aria.md": "Regolamento per la Qualità dell'Aria",
"edilizio.md": "Regolamento Edilizio e Norme Techiche di Attuazione",
"trasporto pubblico.md": "Regolamento per il conseguimento dell’attestato di idoneità professionale all’esercizio di autotrasportatore di merci per conto terzi e di autotrasporto di persone su strada",
"tutela-animali.md": "Regolamento comunale per la tutela degli animali"
}
if __name__ == "__main__":
chapters = []
for root, dirs, files in os.walk(os.path.join(BASE_DIR, "documents")):
for file in files:
if ".md" in file:
with open(os.path.join(root, file), "r", encoding="utf-8") as f:
full_path = os.path.join(root, file)
text = f.read()
lines = text.split("\n")
chapters_indices = [i for i in range(len(lines)) if lines[i].startswith("# ")]
for i in range(len(chapters_indices)):
next_index = chapters_indices[i + 1] if i < len(chapters_indices) - 1 else len(lines)
title = lines[chapters_indices[i]][2:].strip()
content = '\n'.join(lines[chapters_indices[i] + 1:next_index])
content = '\n'.join(line.rstrip() for line in content.split("\n"))
content = content.rstrip()
print(full_path)
chapters.append({
'region': full_path.split('\\')[2],
'topic': DOC_NAMES[full_path.split('\\')[3]],
'progress': i+1,
"title": title,
"content": content
})
print(chapters[0])
df = pd.DataFrame(chapters).sort_values(by=['region', 'topic', 'progress'])
df.to_csv(os.path.join(BASE_DIR, 'corpus.csv'), index=False)
df.to_csv(os.path.join(BASE_DIR, 'corpus.tsv'), sep='\t', index=False)
df.to_excel(os.path.join(BASE_DIR, 'corpus.xlsx'), index=False)
|