push.py

import os
import pandas as pd
import soundfile as sf
from datasets import Dataset, Audio, Features, Value
from tqdm import tqdm

# 🔧 Ayarları buradan yap
AUDIO_DIR = "audio_22khz"
CSV_PATH = "metadata.csv"
OUTPUT_PATH = "hf_dataset"
OUTPUT_PARQUET = os.path.join(OUTPUT_PATH, "data.parquet")

# 📦 CSV'yi oku
df = pd.read_csv(CSV_PATH, sep="|")  # Kolon adları: file_name, text

# 🔁 Dosya yollarını ekle
df["audio"] = df["audio"].apply(lambda fn: os.path.join(AUDIO_DIR, fn))

# 🔎 Geçerli dosyaları filtrele
df = df[df["audio"].apply(os.path.exists)]

# 🧩 HF formatına dönüştür
dataset = Dataset.from_pandas(df[["audio", "text"]])

# 🔈 Ses özelliklerini tanımla (yeniden örnekleme **yok**!)
features = Features({
    "audio": Audio(sampling_rate=None),  # Orijinal sampling rate korunur
    "text": Value("string")
})
dataset = dataset.cast(features)

# 💾 Parquet olarak kaydet
os.makedirs(OUTPUT_PATH, exist_ok=True)
dataset.to_parquet(OUTPUT_PARQUET)

print(f"\n✅ Dataset başarıyla oluşturuldu: {OUTPUT_PARQUET}")