oshizo/HSClustering-ja

埋め込みモデルの学習、評価のためのクラスタリングデータセットです。

税関の事前教示回答（品目分類）から収集したデータを整形して作成しました。
利用規約に基づき、データセットとして公開しております。

2024/6/23時点でダウンロードしたデータから、「一般的品名」が重複しているデータを削除しました。
text列は「一般的品名」と「貨物概要」を結合したデータです。
label列は、HSコードの「部」に該当します。
部の情報は関税率表解説・分類例規のページの一覧表から取得しました。
labelの割合を保ちつつ、ランダムにtrainとtestに分割しました。
それぞれのsplitの件数は以下の通りです。

label	train	test
1	150	51
2	214	71
3	32	11
4	576	192
5	27	9
6	308	102
7	246	82
8	46	16
9	67	22
10	30	10
11	304	101
12	66	22
13	45	15
14	14	5
15	149	50
16	138	45
17	36	13
18	31	10
20	176	59