Item-Info / README-ZH.md
AL-GR's picture
Update README-ZH.md
1a8f9a6 verified

(中文版) AL-GR/Item-Info: 脱敏处理的物品标题

数据集摘要

本仓库 AL-GR/Item-InfoAL-GR 生成式推荐生态系统的一个配套数据集。它提供了从抽象的物品标识符(base62_string)到其对应的、经过脱敏处理的文本标题的关键映射。

该数据集包含约2.55亿个“物品-标题”对。本数据集的一个核心特点是,title 列为了保护用户隐私和信息安全,经过了精心的处理。

本数据集可用于:

  • 理解抽象物品ID背后的语义含义。
  • 为推荐模型创建基于文本的特征。
  • 通过查询物品的类别来调试和分析推荐结果。

脱敏与数据处理

title 列并不包含原始的、完整长度的商品标题。为了保护用户数据并移除敏感信息(如品牌名、特定商家或营销文案),我们采用了一个多步脱敏处理流程:

  1. 命名实体识别 (NER): 首先,我们对原始标题运行了一个NER模型,以识别出产品类别、属性、材质等关键实体。
  2. 实体筛选与截断: 我们只保留了其中最具有代表性和通用性的实体。然后,结果被截断成一个简短但具有描述性的字符串(例如,原始标题“耐克男子灰色科技抓绒运动长裤”处理后可能为“运动裤 长裤”)。

这个过程确保了标题在完全脱敏的同时,仍然保留了其核心的语义信息。

使用方法

数据集以单个大型CSV文件的形式存储,可以使用 datasets 库轻松加载。

from datasets import load_dataset

# 从Hugging Face Hub加载数据集
# 注意:请将 [your-username] 替换为实际的用户名
dataset = load_dataset("AL-GR/Item-Info")

# 查看一个样本
sample = dataset['train'][0]
print(sample)

# 预期输出:
# {
#   'base62_string': 'Tp2BF',
#   'title': '运动裤 长裤'
# }

数据集结构

数据字段

  • base62_string (string): 物品的唯一5字符标识符。此ID在整个 AL-GR 生态系统中保持一致。
  • title (string): 经过脱敏和处理的物品标题。它通常包含关键的类别或属性词。

数据划分

数据集划分 样本数量
train ~2.55亿

引文信息

如果您在研究中使用了本数据集,请引用:

许可协议

本数据集采用 [例如:Apache License 2.0] 许可协议。