| import os | |
| import pandas as pd | |
| import soundfile as sf | |
| from datasets import Dataset, Audio, Features, Value | |
| from tqdm import tqdm | |
| # 🔧 Ayarları buradan yap | |
| AUDIO_DIR = "audio_22khz" | |
| CSV_PATH = "metadata.csv" | |
| OUTPUT_PATH = "hf_dataset" | |
| OUTPUT_PARQUET = os.path.join(OUTPUT_PATH, "data.parquet") | |
| # 📦 CSV'yi oku | |
| df = pd.read_csv(CSV_PATH, sep="|") # Kolon adları: file_name, text | |
| # 🔁 Dosya yollarını ekle | |
| df["audio"] = df["audio"].apply(lambda fn: os.path.join(AUDIO_DIR, fn)) | |
| # 🔎 Geçerli dosyaları filtrele | |
| df = df[df["audio"].apply(os.path.exists)] | |
| # 🧩 HF formatına dönüştür | |
| dataset = Dataset.from_pandas(df[["audio", "text"]]) | |
| # 🔈 Ses özelliklerini tanımla (yeniden örnekleme **yok**!) | |
| features = Features({ | |
| "audio": Audio(sampling_rate=None), # Orijinal sampling rate korunur | |
| "text": Value("string") | |
| }) | |
| dataset = dataset.cast(features) | |
| # 💾 Parquet olarak kaydet | |
| os.makedirs(OUTPUT_PATH, exist_ok=True) | |
| dataset.to_parquet(OUTPUT_PARQUET) | |
| print(f"\n✅ Dataset başarıyla oluşturuldu: {OUTPUT_PARQUET}") | |