anke01/thuyg20-uyghur

THUYG-20 维吾尔语语音数据集 (Whisper微调版)

为OpenAI Whisper模型微调准备的维吾尔语语音数据集。

数据集信息

• 来源: THUYG-20 (清华大学 & 新疆大学)
• 语言: 维吾尔语 (Uyghur)
• 总样本数: 7,600
• 训练集: 6,840 条 (90%)
• 验证集: 760 条 (10%)
• 音频格式: WAV, 16kHz, 单声道, 16位
• 平均时长: ~10.56 秒

文件结构

.
├── audio/                  # 7,600个音频文件 (2.2GB)
│   ├── thuyg20_00000_*.wav
│   ├── thuyg20_00001_*.wav
│   └── ...
├── train.json              # 训练集元数据
├── val.json                # 验证集元数据
├── dataset_info.json       # 数据集统计信息
├── finetune.py             # Whisper完整微调脚本
├── quick_train.py          # 快速训练演示 (100步)
└── README.md               # 本文件

数据格式

train.json / val.json

每个文件包含样本列表:

[
  {
    "audio": "/path/to/thuyg20_00000_7f9adb1274139590.wav",
    "sentence": "بىز نەچچە يىل تىرىشىش ئارقىلىق ..."
  },
  ...
]

dataset_info.json

{
  "dataset": "THUYG-20",
  "language": "uyghur",
  "total_samples": 7600,
  "train_samples": 6840,
  "val_samples": 760,
  "audio_format": "wav",
  "sample_rate": 16000
}

快速开始

安装依赖

pip install transformers torch soundfile datasets

快速训练

# 快速训练演示 (100步, 约5分钟)
python quick_train.py

# 完整训练 (3000步, 约1-2小时)
python finetune.py

加载数据

import json

# 加载训练数据
with open('train.json', 'r', encoding='utf-8') as f:
    train_data = json.load(f)

# 加载验证数据
with open('val.json', 'r', encoding='utf-8') as f:
    val_data = json.load(f)

# 访问样本
sample = train_data[0]
audio_path = sample['audio']
text = sample['sentence']

加载音频

import soundfile as sf

waveform, sample_rate = sf.read(audio_path, dtype='float32')
print(f"采样率: {sample_rate}")
print(f"时长: {len(waveform)/sample_rate:.2f}秒")

训练说明

快速训练 (演示)

python quick_train.py

• 训练步数: 100
• 训练时间: ~5分钟
• 用途: 验证环境配置

完整训练

python finetune.py

• 训练步数: 3000
• 训练时间: ~1-2小时
• 批次大小: 4
• 学习率: 1e-5

模型输出

训练完成后，模型将保存到:

./output/final/

可以上传到Hugging Face或本地使用。

统计数据

指标	数值
总样本数	7,600
训练样本	6,840 (90%)
验证样本	760 (10%)
音频格式	WAV
采样率	16kHz
声道	单声道
位深	16-bit
总时长	~22.4 小时
平均时长	10.56秒

引用

如果使用本数据集，请引用:

@inproceedings{thuyg20,
  title={THUYG-20: A Free Uyghur Speech Corpus},
  author={Tsinghua University and Xinjiang University},
  year={2016},
  url={http://www.openslr.org/22/}
}

许可证

本数据集遵循原始THUYG-20许可证。

致谢

• 原始数据集由清华大学和新疆大学提供
• 为Whisper微调准备