Merge branch 'main' of https://huggingface.co/datasets/mickylan2367/GraySpectrogram

README.md

@@ -1,27 +1,78 @@
 ---
 task_categories:
 - text-generation
+license: cc-by-sa-4.0
+language:
+- en
+tags:
+- music
 ---
-# Music-Capsの音声データをスペクトログラム化したデータ。
-
-* とりあえず、何が何だか分からないまま作ってみただけ
-
-* 後で要修正(;'∀')
+# Google/Music-Capsの音声データをスペクトログラム化したデータ。
 
 * Music Cpasとは：https://huggingface.co/datasets/google/MusicCaps
-
 * GrayScaleじゃないほうもあるから見てね(⋈◍＞◡＜◍)。✧♡（<a href="https://huggingface.co/datasets/mickylan2367/ColorSpectrogram">これ</a>）
 
-## 0: データセットをダウンロード
+## 基本情報
+* sampling_rate: int = 44100
+* 20秒のwavファイル -> 1600×800のpngファイルへ変換
+* librosaの規格により、画像の縦軸：(0-10000?Hz), 画像の横軸：(0-40秒)
+
+## 使い方
+### 0: データセットをダウンロード
 ```py
 from datasets import load_dataset
 data = load_dataset("mickylan2367/spectrogram")
 data = data["train"]
 ```
 
-## 1: データ型をtorchへ
+### 1: データローダーへ
+* まだテストデータと検証データは用意していないので、コメントアウトしています
+* こんな感じの関数で、データローダーにできます。
 ```py
-from datasets import Dataset
-train = Dataset.from_dict(data[slice(0, 400, None)]) // 訓練データとして400枚ほど抽出
-train = train.with_format("torch")
-```
+from torchvision import transforms
+from torch.utils.data import DataLoader
+BATCH_SIZE = ??? # 自分で設定
+IMAGE_SIZE = ???
+
+def load_datasets():
+    data_transforms = [
+        transforms.Resize((IMG_SIZE, IMG_SIZE)),
+        transforms.ToTensor(), # Scales data into [0,1]
+        transforms.Lambda(lambda t: (t * 2) - 1) # Scale between [-1, 1]
+    ]
+    data_transform = transforms.Compose(data_transforms)
+    
+    train = load_dataset("mickylan2367/spectrogram", split="train")
+    # test = load_dataset("mickylan2367/spectrogram", split="test")
+    # validation = load_dataset("mickylan2367/spectrogram", split="validation")
+    
+    for idx in range(len(train["image"])):
+        train["image"][idx] = data_transform(train["image"][idx])
+        # test["image"][idx] = data_transform(test["image"][idx])
+        # validation["image"][idx] = data_transform(validation["image"][idx])
+    
+    train = Dataset.from_dict(train)
+    # test = Dataset.from_dict(test)
+    # validation = Dataset.from_dict(validation)
+    
+    train = train.with_format("torch") # リスト型回避
+    # test = test.with_format("torch")
+    # validation = validation.with_format(validation)
+    
+    # dataset = torch.utils.data.ConcatDataset([train, validation, test])
+    # dataloader = DataLoader(dataset, batch_size=BATCH_SIZE, shuffle=True, drop_last=True)
+    # return dataloader
+
+```
+
+## 参考資料とメモ
+* (memo)ぶっちゃけグレースケールもカラーバージョンをtorchvision.transformのグレースケール変換すればいいだけかも？
+* ダウンロードに使ったコードは<a href="https://colab.research.google.com/drive/1HmDorbxD5g6C2WDjLierUqbhecTdRvgA?usp=sharing">こちら</a>
+    * 参考：https://www.kaggle.com/code/osanseviero/musiccaps-explorer
+    * 仕組み：Kaggleの参考コードでwavファイルをダウンロードする->スペクトログラムつくりながらmetadata.jsonlに
+      ```
+      {"filename":"spectrogram_*.png", "caption":"This is beautiful music"}
+      ```
+      をなどと言ったjson列を書き込み、これをアップロードした
+* Huggingfaceのデータビューアが動かなくなったら、一度GoogleColabでそのデータセットをダウンロードしてみることもおすすめ
+  意外とHuggingfaceがバグっているだけかも（実話(´;ω;｀)）