Sakanaction/Gong-Poem-Dataset

龚诗完整全文数据集

本仓库发布经过规范化与逐条校验的龚诗全文。当前版本为 v1.0.1-fulltext，校验日期为 2026-07-14。

数据规模

配置	文件	条目数	内容
canonical_poems	data/poems_full.parquet	17	规范诗作全文
editions	data/editions_full.parquet	24	不同来源、版本见证全文
fragments	data/fragments_full.parquet	4	可核验散句

每个配置均同时提供 Parquet、CSV 和 JSONL；Hugging Face 查看器直接读取带显式字段类型的 Parquet。所有 45 条全文记录均完成 Unicode NFC 规范化，并通过目录记录的行数、非空白字符数及 SHA-256 一致性校验；结果见 data/full_text_validation.json。

使用方式

from datasets import load_dataset

poems = load_dataset(
    "Sakanaction/Gong-Poem-Dataset",
    "canonical_poems",
    split="train",
)
print(poems[0]["title"])
print(poems[0]["text"])

也可以直接读取 CSV：

import pandas as pd

poems = pd.read_csv("data/poems_full.csv")

字段与辅助文件

• poem_catalog.csv：规范诗作目录、来源、计数和规范哈希。
• edition_catalog.csv：版本见证目录及异文摘要。
• fragment_catalog.csv：散句目录。
• source_catalog.csv：来源网址、来源类型及采集说明。
• variant_catalog.csv：版本间异文记录。
• citation_notes.csv：引用建议。
• data_dictionary.csv：字段说明。
• source_gaps.csv：来源缺口与处理状态，便于审计。
• gongshi_dataset_v1.0.1_fulltext.xlsx：便于人工阅览的完整工作簿。

全文表在原目录字段后追加：text、actual_line_count、actual_char_count_no_whitespace、actual_sha256_nfc、hash_match_catalog 和 validation_status。

收录边界

这里的“完整”指：截至 2026-07-14，在本项目所列公开来源中可以追溯并校验的规范诗作、版本见证与散句均已收录全文。数据集不把无限生成器输出、无法追溯来源的网络仿作，或较大的“龚语”原始归档误作规范龚诗。

规范文本并不抹去异文：canonical_poems 提供稳定的规范层，editions 和 variant_catalog.csv 保留来源见证与差异。

来源、权利与引用

每条记录均通过 source_id / canonical_source_id 关联 source_catalog.csv，并尽量保留具体来源 URL 与定位信息。项目原创的结构化元数据与整理代码按 LICENSE.txt 所述许可；第三方来源文本及页面内容的权利仍归原权利人，本仓库不对其重新授权。使用者应结合用途、所在地法律及原站条款自行判断。

引用时建议标注数据集名称、版本 v1.0.1-fulltext、访问日期，并引用记录中的原始来源 URL。更细说明见 citation_notes.csv。

完整性校验

import hashlib
import unicodedata

normalized = unicodedata.normalize("NFC", text)
digest = hashlib.sha256(normalized.encode("utf-8")).hexdigest()
assert digest == row["sha256_nfc"]

校验摘要中的 all_hashes_match 应为 true。