Upload folder using huggingface_hub

README.md

@@ -0,0 +1,65 @@
+---
+configs:
+- config_name: train
+  data_files: "data/train_adversarial_harmful_final.parquet"
+---
+
+# wj-Adversarial_harmful_v2
+
+## データセットの説明
+
+このデータセットは、以下の分割（split）ごとに整理された処理済みデータを含みます。
+
+- **train**: 1 JSON files, 1 Parquet files
+
+## データセット構成
+
+各 split は JSON 形式と Parquet 形式の両方で利用可能です:
+- **JSONファイル**: 各 split 用サブフォルダ内の元データ（`train/`）
+- **Parquetファイル**: split名をプレフィックスとした最適化データ（`data/train_*.parquet`）
+
+各 JSON ファイルには、同名の split プレフィックス付き Parquet ファイルが対応しており、大規模データセットの効率的な処理が可能です。
+
+## 使い方
+
+```python
+from datasets import load_dataset
+
+# 特定の split を読み込む
+train_data = load_dataset("neko-llm/wj-Adversarial_harmful_v2", "train")
+
+# または、data_files を手動で指定して読み込む
+dataset = load_dataset(
+    "parquet",
+    data_files={
+        "train": "data/train_*.parquet",
+    }
+)
+
+# 個別のファイルを読み込む
+import pandas as pd
+df = pd.read_parquet("data/train_filename.parquet")
+
+# Load all files for a specific split
+from pathlib import Path
+split_files = list(Path("data").glob("train_*.parquet"))
+for file in split_files:
+    df = pd.read_parquet(file)
+    # Process df...
+```
+
+## ファイル構成
+
+```
+wj-Adversarial_harmful_v2/
+├── train/
+│   ├── file1.json
+│   ├── file2.json
+│   └── ...
+├── data/
+│   └── train/
+│       ├── file1.parquet
+│       ├── file2.parquet
+│       └── ...
+└── README.md
+```

data/train_adversarial_harmful_final.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a8a3aded77ec07ca60cae199f527c58f6bea122b192f9a1e3193f844a540c989
+size 4566942