Datasets:
(中文版) AL-GR/Item-Info: 脱敏处理的物品标题
数据集摘要
本仓库 AL-GR/Item-Info 是 AL-GR 生成式推荐生态系统的一个配套数据集。它提供了从抽象的物品标识符(base62_string)到其对应的、经过脱敏处理的文本标题的关键映射。
该数据集包含约2.55亿个“物品-标题”对。本数据集的一个核心特点是,title 列为了保护用户隐私和信息安全,经过了精心的处理。
本数据集可用于:
- 理解抽象物品ID背后的语义含义。
- 为推荐模型创建基于文本的特征。
- 通过查询物品的类别来调试和分析推荐结果。
脱敏与数据处理
title 列并不包含原始的、完整长度的商品标题。为了保护用户数据并移除敏感信息(如品牌名、特定商家或营销文案),我们采用了一个多步脱敏处理流程:
- 命名实体识别 (NER): 首先,我们对原始标题运行了一个NER模型,以识别出产品类别、属性、材质等关键实体。
- 实体筛选与截断: 我们只保留了其中最具有代表性和通用性的实体。然后,结果被截断成一个简短但具有描述性的字符串(例如,原始标题“耐克男子灰色科技抓绒运动长裤”处理后可能为“运动裤 长裤”)。
这个过程确保了标题在完全脱敏的同时,仍然保留了其核心的语义信息。
使用方法
数据集以单个大型CSV文件的形式存储,可以使用 datasets 库轻松加载。
from datasets import load_dataset
# 从Hugging Face Hub加载数据集
# 注意:请将 [your-username] 替换为实际的用户名
dataset = load_dataset("AL-GR/Item-Info")
# 查看一个样本
sample = dataset['train'][0]
print(sample)
# 预期输出:
# {
# 'base62_string': 'Tp2BF',
# 'title': '运动裤 长裤'
# }
数据集结构
数据字段
base62_string(string): 物品的唯一5字符标识符。此ID在整个AL-GR生态系统中保持一致。title(string): 经过脱敏和处理的物品标题。它通常包含关键的类别或属性词。
数据划分
| 数据集划分 | 样本数量 |
|---|---|
train |
~2.55亿 |
引文信息
如果您在研究中使用了本数据集,请引用:
许可协议
本数据集采用 [例如:Apache License 2.0] 许可协议。