tradecatlabs/sun-yuchen-selected-works

孙宇晨文选音频文本语料库

这是一个由 157 条中文长音频、157 篇 AI 清洗 Markdown 和 Whisper 毫秒级时间戳整理而成的 Hugging Face 音频数据集仓库。它同时提供长节目级 episodes 和时间戳片段级 segments 两个配置，用于选集制作、语料分析、自动语音识别（ASR）研究，以及经过额外人工审核后的文本转语音（TTS）数据准备。

发布边界： 本数据集仓库可公开访问，但当前源音频的许可、再分发授权、来源平台条款及声音/人格权尚未确认。仓库使用 license: other，公开访问不等于授予任何数据权利；未经权利核验与授权，不应商用、再分发或用于声音克隆。详见 LICENSE。

数据集摘要

配置	样本单位	train	validation	test	总计	时长
episodes	完整节目	125	16	16	157	31.234 小时
segments	时间戳语音片段	7,738	864	495	9,097	30.932 小时

所有发布音频统一为：

• FLAC（无损封装，但源 MP3 本身已有有损压缩）；
• 24,000 Hz；
• 单声道；
• 16-bit PCM sample format；
• 不做响度归一化、降噪或内容改写。

原始 157 个 MP3 均可由 ffprobe 解码，格式一致为 44.1 kHz、双声道、192 kbps MP3，总时长约 31.24 小时。规范化只统一技术参数，不声称恢复源 MP3 已损失的信息。

自动技术筛查将 8,079 个片段标为 candidate、1,018 个片段标为 needs_review；这些状态不包含说话人、版权或人工听校结论。

仓库结构

.
├── raw/                                  # 本地构建输入，整体被 .gitignore 排除
│   ├── 财富自由之路_原始音频/           # 157 个原始 MP3 与历史附属物
│   ├── 财富自由之路_音频转文本文档/     # 157 个正式 Markdown；24 篇已晋升为重识别润色稿
│   ├── retranscription_20260714/         # 重识别产物、旧稿快照、晋升映射与质量证据
│   └── 财富自由之路_157篇单篇稿_20260712.zip  # 原始归档；当前工作区待找回
├── data/
│   ├── episodes/{train,validation,test}/
│   │   ├── audio/*.flac
│   │   └── metadata.jsonl
│   └── segments/{train,validation,test}/
│       ├── audio/<parent_id>/*.flac
│       └── metadata.jsonl
├── annotations/whisper/*.json
├── manifests/source_inventory.jsonl
├── reports/
├── scripts/
├── README.md
├── LICENSE
└── requirements.txt

raw/ 由 .gitignore 整体排除，不属于拟上传数据面。当前正文真相源为 157 个 Markdown，其中 24 篇已在保留旧稿快照和 SHA-256 映射后晋升为 2026-07-14 重识别润色稿；正式 annotations/whisper/ 和现有 data/ 尚未同步替换，因此数据集发布继续保持 BLOCK，直到重新构建和校验。已删除的问题 TXT 不会恢复，也不参与构建。

配置与字段

episodes

每条记录对应一个完整节目。

字段	类型	含义
audio	Audio	Hugging Face AudioFolder 从 file_name 推断的音频列
file_name	string	相对当前 split 目录的规范化 FLAC 路径
id	string	稳定节目 ID：wfr-<序号>-<外部标识>
split	string	train / validation / test
source_sequence	int	原始节目序号 000–156
source_external_id	string	从原始文件名方括号提取的外部标识；平台待确认
title	string	从原始文件名提取的节目标题
text	string	ZIP 中 AI 清洗 Markdown 的正文；UTF-8、NFC、LF、去 BOM
text_status	string	当前为 ai_cleaned_unverified，明确不是人工校对稿
text_quality	string	unverified 或 needs_completeness_review
text_completeness_ratio	float	Markdown 字符数 / Whisper 拼接文本字符数，仅作缺失线索
text_asr	string	从 Whisper JSON 原始片段顺序拼接的自动转写
text_asr_status	string	当前为 automatic_unreviewed
language / language_bcp47	string	zh / zh-Hans
speaker_id / speaker_name	string	当前为 unknown / 待确认
speaker_status	string	当前统一为 unverified
emotion / style	string	未提供时为 unknown
quality_grade	string	未人工审听时为 unreviewed
transcription_method	string	Systran/faster-whisper-large-v3
transcription_status	string	automatic_unreviewed
duration_seconds	float	规范化音频实测时长
audio_format / sample_rate / channels	string/int	flac / 24000 / 1
source_*	mixed	原始文件名、编码参数、权利状态与来源 SHA-256；文件名字段使用 source_audio_name / source_text_name，避免被 AudioFolder 误判为媒体附件
audio_sha256 / text_sha256	string	规范化音频和转写的完整性哈希
segment_count	int	该节目生成的片段数量
whisper_segment_count / excluded_whisper_segment_count	int	原始 Whisper 片段数 / 因时间戳落在真实音频范围外而未切片的数量；原标注仍保留
schema_version	string	当前字段模式版本

segments

每条记录对应一个或多个连续 Whisper 段合并出的音频片段。合并目标约 8–10 秒，硬上限通常为 15 秒；若单个 Whisper 原始段已约 30 秒，则不凭文本长度强行切分，而是保留并标记复核。

除公共字段外，核心片段字段如下：

字段	类型	含义
id	string	<parent_id>-s<片段序号>
parent_id	string	所属 episodes.id；片段与父节目必须在同一 split
text	string	合并后的自动转写，不做内容改写
audio_start_seconds / audio_end_seconds	float	实际切片在父音频中的边界
speech_start_seconds / speech_end_seconds	float	Whisper 语音边界
whisper_segment_indices	list[int]	可追溯到 annotations/whisper 的原始片段索引
avg_logprob	float	按语音时长聚合的平均 log probability
max_no_speech_prob	float	所含原始段的最大无语音概率
technical_quality	string	candidate 或 needs_review，仅表示自动技术筛查
tts_readiness	string	当前为 needs_speaker_review 或 needs_audio_text_review
audio_sha256	string	片段 FLAC 完整性哈希

technical_quality=candidate 不等于 可直接训练 TTS；说话人、声音权、转写准确率、背景音乐、多人重叠及音质仍需人工确认。

数据构建流程

1. 扫描 raw MP3、解压后的 Markdown、原 ZIP、历史附属物和 Whisper JSON，生成大小与 SHA-256 清单。
2. 以原始序号和外部标识建立稳定 ID；缺失元数据使用明确的 unknown、unverified 或 unreviewed。
3. Markdown 正文统一为 UTF-8、Unicode NFC、LF 换行并去除 BOM；不二次改写。Whisper 文本独立保存在 text_asr 和片段 text 中；Markdown 少于 100 字或不足 Whisper 文本长度 50% 时标记 needs_completeness_review。
4. 使用 FFmpeg 将节目音频转为 24 kHz、单声道、16-bit FLAC，不做响度或内容增强。
5. 使用已有 faster-whisper-large-v3 毫秒时间戳合并连续片段；长静音形成新的切片块。落在真实音频终点之外的异常时间戳不生成空音频，但仍完整保留在 annotations/whisper 并记录排除索引；跨越终点的片段只把可提取边界用于切片，不改写原始时间戳。
6. 按父节目序号执行固定时间顺序切分：000–124 为 train，125–140 为 validation，141–156 为 test。
7. 片段继承父节目 split，阻止同一节目同时进入训练与评估集合。
8. 运行全量哈希、媒体解码、字段、路径、重复、数据泄漏、PII 正则和 Hugging Face 本地加载校验。

当前 157 篇 Markdown 已完整解压并通过编号校验，但用户最初指定的原 ZIP 在最终重建前已不在工作区；构建器会明确告警并使用解压目录，不会伪造替代 ZIP。找回原 ZIP 后应放回 raw/财富自由之路_157篇单篇稿_20260712.zip 并重新运行构建，以补齐原始归档哈希。

构建采用暂存目录：只有全部节目成功后才替换 data/、annotations/、manifests/ 和 reports/，失败不会改写原始资料。

复现

环境要求：Python 3.11+、FFmpeg/ffprobe、Git LFS，以及 requirements.txt 中的 Python 依赖。

python3 -m pip install -r requirements.txt
python3 scripts/prepare_raw.py
python3 scripts/build_dataset.py \
  --source-dir "raw/财富自由之路_原始音频" \
  --articles-dir "raw/财富自由之路_音频转文本文档" \
  --articles-zip "raw/财富自由之路_157篇单篇稿_20260712.zip" \
  --whisper-root /path/to/outputs_whisper_large_v3_full_hans
python3 scripts/validate_dataset.py

首次构建后，去绝对路径的时间戳标注保存在 annotations/whisper/；后续可在不依赖原转写工作目录的情况下复用这些标注，但仍需提供 raw MP3 和 Markdown。

上传到 Hugging Face Hub

创建 dataset repository 后上传当前目录。Hugging Face 的文件夹上传会读取仓库根 .gitignore，因此本地原始目录、ZIP 和构建缓存不会进入远端：

hf auth login
hf upload <namespace>/<dataset-repo> . . --repo-type dataset

大文件上传默认可使用 Hub 的 Xet 后端断点续传；上传后应在 Dataset Viewer 中分别打开 episodes 与 segments，确认三种 split 和音频预览正常。若仓库保持公开访问，必须保留 license: other 与权利风险说明，直到完成权利清理并更新 LICENSE、数据集卡和访问策略。

使用示例

从 Hub 加载长节目配置：

from datasets import load_dataset

episodes = load_dataset("<namespace>/<dataset-repo>", "episodes")
print(episodes)
print(episodes["train"][0]["text"][:100])

加载片段但暂不解码音频：

from datasets import Audio, load_dataset

segments = load_dataset("<namespace>/<dataset-repo>", "segments")
segments = segments.cast_column("audio", Audio(decode=False))
print(segments["train"][0])

筛选技术上需较少复核的片段：

technical_candidates = segments["train"].filter(
    lambda row: row["technical_quality"] == "candidate"
)

在进行 TTS 训练前，还必须完成说话人标注、授权确认和人工听校；当前 speaker_status 全部为 unverified，不应把技术候选直接解释为可训练授权样本。

校验范围

scripts/validate_dataset.py 检查：

• metadata JSONL 可解析、必填字段与 schema 版本一致；
• ID 全局唯一、相对路径安全、无孤儿音频或悬空记录；
• 音频 SHA-256 一致、参数抽检与全量 FFmpeg 解码成功；
• 文本非空、UTF-8/NFC、语言字段一致；
• 节目切分为 125/16/16，片段与父节目不跨 split；
• 跨 split 精确音频重复、规范化文本重复及节目级高相似文本；
• 邮箱、手机号、身份证号和 URL 的保守正则风险扫描；
• episodes 和 segments 均可由 Hugging Face datasets 本地加载并推断 Audio 特征。

机器报告位于 reports/validation_report.json，人读摘要位于 reports/VALIDATION_REPORT.md。

来源、许可与版权

• 当前可验证来源仅限用户提供的 157 个本地 MP3、157 篇 AI 清洗 Markdown、文件名中的外部标识和 Whisper 输出；原始发布平台与公开 URL 未确认。
• 转写日志显示使用 Systran/faster-whisper-large-v3、CUDA、float16 完成 157/157 个文件的自动识别。
• 文件名和部分内容指向特定节目及公众人物，但这不等于数据集整理者拥有音频、文本、表演、声音或人格权。
• LICENSE 当前是“未授予许可”的权利告知，不是开放数据许可。
• 公开访问不构成授权；商用、再分发、声音克隆或正式模型训练前，必须由权利负责人确认：原始平台条款、著作权/邻接权、转写与编辑稿权利、声音与人格权、地域性隐私要求、商用与模型训练授权范围。

隐私、伦理与合规风险

• 音频可能包含可识别声音、第三人姓名、个人经历、联系方式或其他个人信息。
• 自动转写可能将敏感词、人名、数字或事实识别错误；正则扫描不能代替人工隐私审查。
• 声音数据可被用于身份模仿、欺诈、未经同意的声音克隆或误导性内容生成。
• 数据包含个人观点及具有时代背景的社会、金融、医疗和政治讨论，不应视为事实核验后的建议。
• 建议采用私有或 gated 访问、用途声明、下载者审计、删除/申诉渠道和模型输出滥用评估。

适用范围

在权利与人工质量门禁闭合后，可考虑用于：

• 中文长音频选集、检索、摘要和内容分析；
• ASR、标点恢复、语音文本对齐和长音频切分研究；
• 经说话人、音质和转写复核后的 TTS 数据准备；
• 数据质量、重复检测和语料治理实验。

不适用于：

• 未经授权的公开再分发、商用训练或声音克隆；
• 把自动转写当作准确引文或事实记录；
• 未经人工复核的单说话人 TTS 直接训练；
• 医疗、金融、法律或政治事实判断。

已知限制

• 转写为自动生成，存在同音字、人名、数字、断句和标点错误。
• AI 清洗 Markdown 与 Whisper 自动转写的差异未逐条人工审定；text 与 text_asr 必须保留各自状态，不能互相冒充人工真相。
• 24/157 篇 Markdown 的长度不足对应 Whisper 拼接文本的 50%，其中部分只有片尾短句；这些记录已标记 needs_completeness_review，不能视为完整稿。
• 没有说话人分离或跨节目说话人聚类；推荐、采访、问答和直播可能含多人或重叠语音。
• 情感、风格、主观音质和背景音乐尚未标注。
• 部分 Whisper 原始片段约 30 秒，缺少词级时间戳，已保留并标记复核。
• 时间顺序切分减少同节目泄漏，但主题、固定片头片尾和常用短语仍可能跨 split 重复。
• 24 kHz 单声道 FLAC 来自有损 MP3，不能恢复源编码已丢失的频谱信息。

引用

数据集负责人和 Hub 仓库地址尚未提供。发布时请替换下面的占位符，并固定使用具体版本或 commit：

@dataset{wealth_freedom_road_zh_speech_2026,
  title     = {财富自由之路中文语音语料库},
  author    = {{<DATASET_CURATOR>}},
  year      = {2026},
  publisher = {Hugging Face},
  url       = {https://huggingface.co/datasets/<namespace>/<dataset-repo>},
  note      = {Version or commit: <REVISION>}
}

维护与反馈

任何权利主张、隐私删除请求、转写修正或说话人标注更新，都应同时更新元数据、来源证据、CHANGELOG.md，并重新运行全量构建与校验。不要只修改报告或 README 来掩盖数据事实。

规范依据

• Hugging Face：Audio Dataset
• Hugging Face Datasets：Create an audio dataset
• Hugging Face：Dataset Cards
• Hugging Face：Upload files to the Hub