argo11 commited on
Commit
ef5c550
·
verified ·
1 Parent(s): f657da1

Add dataset card

Browse files
Files changed (1) hide show
  1. README.md +39 -0
README.md ADDED
@@ -0,0 +1,39 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ pretty_name: IPFlow Merged
3
+ language:
4
+ - en
5
+ license: unknown
6
+ tags:
7
+ - network-traffic
8
+ - ip-flow
9
+ - application-classification
10
+ - parquet
11
+ - data-card
12
+ task_categories:
13
+ - tabular-classification
14
+ ---
15
+
16
+ # argo11/ipflow-merged
17
+
18
+ ## 概要
19
+ 複数の IP flow / network traffic flow データを統合した、アプリケーションプロトコル分類向けの tabular dataset です。各行はネットワーク flow の統計特徴量を表し、`ProtocolName` が分類対象ラベル、`dataset_id` が由来データセットの識別子として入っています。
20
+
21
+ ## 確認した内容
22
+ - ファイル: `data/merged_hf.parquet`, `data/merged_hf_classes.json`
23
+ - 行数: 6,282,135 行
24
+ - 主な列: `Source.Port`, `Destination.Port`, `Protocol`, `Flow.Duration`, `Flow.IAT.*`, `Fwd.IAT.*`, `Bwd.IAT.*`, `Total.Fwd.Packets`, `Total.Backward.Packets`, packet length 統計, `ProtocolName`, `dataset_id`
25
+ - `merged_hf_classes.json` には `HTTP`, `DNS`, `YOUTUBE`, `NETFLIX`, `WHATSAPP`, `ZOOM`, `UNKNOWN` など多数の application / protocol label が含まれます。
26
+
27
+ ## 推定した内容
28
+ - `dataset_id` の値と列名から、CICFlowMeter 系の 87 attributes dataset と NetFlow 系の 141 applications dataset を共通列へ寄せて統合したものと推定しています。
29
+ - 一部 label には `GOOGLDRIVE` / `GOOGLE_MAPS` のような表記揺れや typo らしき値が残っています。統合時に正規化しきっていない可能性があります。
30
+
31
+ ## 想定用途
32
+ - ネットワーク flow から application protocol / service を分類するモデルの学習・評価
33
+ - dataset 間の domain shift を含む IP flow classification の検証
34
+ - L7 protocol 名の正規化や noisy label への頑健性評価
35
+
36
+ ## 制限
37
+ - raw packet payload は含まれていません。
38
+ - 元データセットの採取条件、ラベル付け方法、ライセンスは各 upstream dataset に依存します。
39
+ - IP address や port の統計的偏りが強い可能性があります。実運用環境への一般化性能は別途評価してください。