noflm
commited on
Commit
·
5b9fc09
1
Parent(s):
339c628
update README
Browse files
README.md
CHANGED
|
@@ -30,9 +30,11 @@ license: other
|
|
| 30 |
|
| 31 |
[hololive productionの二次創作ガイドライン](https://hololive.hololivepro.com/guidelines/)を必ずお読みください。
|
| 32 |
|
|
|
|
|
|
|
| 33 |
## 音声データの追加
|
| 34 |
|
| 35 |
-
基本的には、データセットに追加したい音声データを`audio_raw
|
| 36 |
|
| 37 |
git等を使用して音声データを追加する場合にはgit-lfsが必要になります。事前にgit-lfsのインストールをお願い致します。
|
| 38 |
|
|
@@ -92,18 +94,72 @@ audio_raw
|
|
| 92 |
- `train`と`test`ディレクトリについてですが、[OpenAI Whisper](https://openai.com/blog/whisper/)等の学習を行う際にtrainとtest、2種類のデータが必要になるために存在しています。
|
| 93 |
- `train`と`test`には同じ配信から切り出したデータを入れても良いですが全く同じデータを入れることは辞めてください。正確に学習を行うことができなくなります。
|
| 94 |
|
| 95 |
-
- `<ID
|
| 96 |
- YouTubeであれば`https://www.youtube.com/watch?v=X9zw0QF12Kc`の`X9zw0QF12Kc`がディレクトリ名となります。
|
| 97 |
- Twitterであれば`https://twitter.com/i/spaces/1lPKqmyQPOAKb`の`1lPKqmyQPOAKb`がディレクトリ名となります。
|
| 98 |
- Twitchであれば`https://www.twitch.tv/videos/824387510`の`824387510`がディレクトリ名となります。
|
| 99 |
|
| 100 |
-
- `<ID
|
| 101 |
- 音声データは30秒以内である必要があります。
|
| 102 |
- BGMやSE、ノイズ等が含まれる音声データは避けてください。
|
| 103 |
- あまりに短すぎる音声データは避けてください。(既にデータセットにある音声は削除予定です。)
|
| 104 |
- 出来る限り30秒に近い音声データを入れていただけると助かります。
|
| 105 |
- 文脈のある音声データが望ましいです。
|
|
|
|
|
|
|
|
|
|
| 106 |
|
| 107 |
## 書き起こしテキストデータの追加
|
| 108 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 109 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 30 |
|
| 31 |
[hololive productionの二次創作ガイドライン](https://hololive.hololivepro.com/guidelines/)を必ずお読みください。
|
| 32 |
|
| 33 |
+
---
|
| 34 |
+
|
| 35 |
## 音声データの追加
|
| 36 |
|
| 37 |
+
基本的には、データセットに追加したい音声データを`audio_raw`ディレクトリ内の所定のディレクトリへ追加していただく形になります。
|
| 38 |
|
| 39 |
git等を使用して音声データを追加する場合にはgit-lfsが必要になります。事前にgit-lfsのインストールをお願い致します。
|
| 40 |
|
|
|
|
| 94 |
- `train`と`test`ディレクトリについてですが、[OpenAI Whisper](https://openai.com/blog/whisper/)等の学習を行う際にtrainとtest、2種類のデータが必要になるために存在しています。
|
| 95 |
- `train`と`test`には同じ配信から切り出したデータを入れても良いですが全く同じデータを入れることは辞めてください。正確に学習を行うことができなくなります。
|
| 96 |
|
| 97 |
+
- `<ID>`には音声データを切り出す元になった配信等のIDが入ります。
|
| 98 |
- YouTubeであれば`https://www.youtube.com/watch?v=X9zw0QF12Kc`の`X9zw0QF12Kc`がディレクトリ名となります。
|
| 99 |
- Twitterであれば`https://twitter.com/i/spaces/1lPKqmyQPOAKb`の`1lPKqmyQPOAKb`がディレクトリ名となります。
|
| 100 |
- Twitchであれば`https://www.twitch.tv/videos/824387510`の`824387510`がディレクトリ名となります。
|
| 101 |
|
| 102 |
+
- `<ID>`ディレクトリ内には連番でmp3形式の音声ファイルを入れてください。
|
| 103 |
- 音声データは30秒以内である必要があります。
|
| 104 |
- BGMやSE、ノイズ等が含まれる音声データは避けてください。
|
| 105 |
- あまりに短すぎる音声データは避けてください。(既にデータセットにある音声は削除予定です。)
|
| 106 |
- 出来る限り30秒に近い音声データを入れていただけると助かります。
|
| 107 |
- 文脈のある音声データが望ましいです。
|
| 108 |
+
- 英語の音声は避けてください。
|
| 109 |
+
|
| 110 |
+
---
|
| 111 |
|
| 112 |
## 書き起こしテキストデータの追加
|
| 113 |
|
| 114 |
+
基本的には、データセットに追加したい音声データの書き起こしテキストデータを`transcript_raw`ディレクトリ内の所定のディレクトリへ追加していただく形になります。
|
| 115 |
+
|
| 116 |
+
`transcript_raw`ディレクトリ内の構造は以下の通りです。
|
| 117 |
+
|
| 118 |
+
```
|
| 119 |
+
transcript_raw
|
| 120 |
+
├─twitch
|
| 121 |
+
│ ├─test
|
| 122 |
+
│ │ └─<ID>.csv
|
| 123 |
+
│ │
|
| 124 |
+
│ └─train
|
| 125 |
+
│ └─<ID>.csv
|
| 126 |
+
│
|
| 127 |
+
├─twitter
|
| 128 |
+
│ ├─test
|
| 129 |
+
│ │ └─<ID>.csv
|
| 130 |
+
│ │
|
| 131 |
+
│ └─train
|
| 132 |
+
│ └─<ID>.csv
|
| 133 |
+
│
|
| 134 |
+
└─youtube
|
| 135 |
+
├─test
|
| 136 |
+
│ └─<ID>.csv
|
| 137 |
+
│
|
| 138 |
+
└─train
|
| 139 |
+
└─<ID>.csv
|
| 140 |
+
```
|
| 141 |
+
|
| 142 |
+
- `youtube`, `twitch`, `twitch`ディレクトリはデータセットに追加するデータの切り出し元のプラットフォーム名です。
|
| 143 |
+
|
| 144 |
+
- `<ID>`には音声データを切り出す元になった配信等のIDが入ります。
|
| 145 |
+
- YouTubeであれば`https://www.youtube.com/watch?v=X9zw0QF12Kc`の`X9zw0QF12Kc`がディレクトリ名となります。
|
| 146 |
+
- Twitterであれば`https://twitter.com/i/spaces/1lPKqmyQPOAKb`の`1lPKqmyQPOAKb`がディレクトリ名となります。
|
| 147 |
+
- Twitchであれば`https://www.twitch.tv/videos/824387510`の`824387510`がディレクトリ名となります。
|
| 148 |
|
| 149 |
+
- `<ID>.csv`について
|
| 150 |
+
- 必ず`audio_raw`に追加した音声データに対応した書き起こしテキストを追加する必要があります。
|
| 151 |
+
- 句読点、!,?等は正確に入れてください。
|
| 152 |
+
- 半角英数字記号を使用してください。(!, ?, 1等)
|
| 153 |
+
- 漢数字は避けてください。
|
| 154 |
+
- csvファイルの1行目は必ず`path,sentence`で始めてください。
|
| 155 |
+
- 書き起こしテキストはWhisper等で一度書き起こしたものを修正して行く方法を推奨致します。
|
| 156 |
+
|
| 157 |
+
### CSVファイルの記述例
|
| 158 |
+
```csv
|
| 159 |
+
path,sentence
|
| 160 |
+
1.mp3,雷が落ちた時のみこ
|
| 161 |
+
2.mp3,コメント止まった?
|
| 162 |
+
3.mp3,見えてるー?いやコメント止まった。壊れた。
|
| 163 |
+
4.mp3,インターネット繋がってない!
|
| 164 |
+
5.mp3,雷鳴ったよまた
|
| 165 |
+
```
|