ipflow-merged / README.md
argo11's picture
Add dataset card
ef5c550 verified
|
Raw
History Blame Contribute Delete
2.08 kB
---
pretty_name: IPFlow Merged
language:
- en
license: unknown
tags:
- network-traffic
- ip-flow
- application-classification
- parquet
- data-card
task_categories:
- tabular-classification
---
# argo11/ipflow-merged
## 概要
複数の IP flow / network traffic flow データを統合した、アプリケーションプロトコル分類向けの tabular dataset です。各行はネットワーク flow の統計特徴量を表し、`ProtocolName` が分類対象ラベル、`dataset_id` が由来データセットの識別子として入っています。
## 確認した内容
- ファイル: `data/merged_hf.parquet`, `data/merged_hf_classes.json`
- 行数: 6,282,135 行
- 主な列: `Source.Port`, `Destination.Port`, `Protocol`, `Flow.Duration`, `Flow.IAT.*`, `Fwd.IAT.*`, `Bwd.IAT.*`, `Total.Fwd.Packets`, `Total.Backward.Packets`, packet length 統計, `ProtocolName`, `dataset_id`
- `merged_hf_classes.json` には `HTTP`, `DNS`, `YOUTUBE`, `NETFLIX`, `WHATSAPP`, `ZOOM`, `UNKNOWN` など多数の application / protocol label が含まれます。
## 推定した内容
- `dataset_id` の値と列名から、CICFlowMeter 系の 87 attributes dataset と NetFlow 系の 141 applications dataset を共通列へ寄せて統合したものと推定しています。
- 一部 label には `GOOGLDRIVE` / `GOOGLE_MAPS` のような表記揺れや typo らしき値が残っています。統合時に正規化しきっていない可能性があります。
## 想定用途
- ネットワーク flow から application protocol / service を分類するモデルの学習・評価
- dataset 間の domain shift を含む IP flow classification の検証
- L7 protocol 名の正規化や noisy label への頑健性評価
## 制限
- raw packet payload は含まれていません。
- 元データセットの採取条件、ラベル付け方法、ライセンスは各 upstream dataset に依存します。
- IP address や port の統計的偏りが強い可能性があります。実運用環境への一般化性能は別途評価してください。