matt1847 commited on
Commit
ba41472
·
1 Parent(s): b64a8ed

追加: READMEにアプリの使い方を記載

Browse files
Files changed (1) hide show
  1. README.md +38 -0
README.md CHANGED
@@ -8,3 +8,41 @@ sdk_version: 1.53.1
8
  app_file: app.py
9
  pinned: false
10
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
8
  app_file: app.py
9
  pinned: false
10
  ---
11
+
12
+ # WILL
13
+
14
+ GPT-2の構造が、人間の入力なしに出力するものを観測する実験的アプリケーション。
15
+
16
+ ## 使い方
17
+
18
+ 1. **LISTEN** ボタンをクリック
19
+ 2. ランダムノイズがGPT-2に入力され、生成結果が表示される
20
+ 3. 上部の波形画像は入力ノイズと出力Logitsの可視化
21
+ 4. 下部のテキストは生成されたトークン列
22
+ 5. シード値(ナノ秒タイムスタンプ)が最下部に表示される
23
+
24
+ ## 仕組み
25
+
26
+ 1. **入力ノイズ生成**: 768次元のランダムノイズをEmbedding層に直接注入
27
+ 2. **出力ノイズ加算**: Logitsにノイズを加算し、学習済みの統計的偏りを破壊
28
+ 3. **生デコード**: Softmax/Temperatureなしでargmaxでトークンを抽出
29
+
30
+ ## 技術仕様
31
+
32
+ | 項目 | 値 |
33
+ |------|-----|
34
+ | Model | GPT-2 Small |
35
+ | Parameters | 124M |
36
+ | Embedding | 768 dim |
37
+ | Vocabulary | 50,257 tokens |
38
+ | Sequence | 32 tokens |
39
+ | Input Noise | N(0, 1) |
40
+ | Logits Noise | N(0, σ×10) |
41
+ | Decoding | argmax |
42
+
43
+ ## ローカル実行
44
+
45
+ ```bash
46
+ pip install -r requirements.txt
47
+ streamlit run app.py
48
+ ```