Datasets:
Add dataset card
Browse files
README.md
ADDED
|
@@ -0,0 +1,39 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
pretty_name: IPFlow Merged
|
| 3 |
+
language:
|
| 4 |
+
- en
|
| 5 |
+
license: unknown
|
| 6 |
+
tags:
|
| 7 |
+
- network-traffic
|
| 8 |
+
- ip-flow
|
| 9 |
+
- application-classification
|
| 10 |
+
- parquet
|
| 11 |
+
- data-card
|
| 12 |
+
task_categories:
|
| 13 |
+
- tabular-classification
|
| 14 |
+
---
|
| 15 |
+
|
| 16 |
+
# argo11/ipflow-merged
|
| 17 |
+
|
| 18 |
+
## 概要
|
| 19 |
+
複数の IP flow / network traffic flow データを統合した、アプリケーションプロトコル分類向けの tabular dataset です。各行はネットワーク flow の統計特徴量を表し、`ProtocolName` が分類対象ラベル、`dataset_id` が由来データセットの識別子として入っています。
|
| 20 |
+
|
| 21 |
+
## 確認した内容
|
| 22 |
+
- ファイル: `data/merged_hf.parquet`, `data/merged_hf_classes.json`
|
| 23 |
+
- 行数: 6,282,135 行
|
| 24 |
+
- 主な列: `Source.Port`, `Destination.Port`, `Protocol`, `Flow.Duration`, `Flow.IAT.*`, `Fwd.IAT.*`, `Bwd.IAT.*`, `Total.Fwd.Packets`, `Total.Backward.Packets`, packet length 統計, `ProtocolName`, `dataset_id`
|
| 25 |
+
- `merged_hf_classes.json` には `HTTP`, `DNS`, `YOUTUBE`, `NETFLIX`, `WHATSAPP`, `ZOOM`, `UNKNOWN` など多数の application / protocol label が含まれます。
|
| 26 |
+
|
| 27 |
+
## 推定した内容
|
| 28 |
+
- `dataset_id` の値と列名から、CICFlowMeter 系の 87 attributes dataset と NetFlow 系の 141 applications dataset を共通列へ寄せて統合したものと推定しています。
|
| 29 |
+
- 一部 label には `GOOGLDRIVE` / `GOOGLE_MAPS` のような表記揺れや typo らしき値が残っています。統合時に正規化しきっていない可能性があります。
|
| 30 |
+
|
| 31 |
+
## 想定用途
|
| 32 |
+
- ネットワーク flow から application protocol / service を分類するモデルの学習・評価
|
| 33 |
+
- dataset 間の domain shift を含む IP flow classification の検証
|
| 34 |
+
- L7 protocol 名の正規化や noisy label への頑健性評価
|
| 35 |
+
|
| 36 |
+
## 制限
|
| 37 |
+
- raw packet payload は含まれていません。
|
| 38 |
+
- 元データセットの採取条件、ラベル付け方法、ライセンスは各 upstream dataset に依存します。
|
| 39 |
+
- IP address や port の統計的偏りが強い可能性があります。実運用環境への一般化性能は別途評価してください。
|