Update Model.py

Model.py

@@ -214,7 +214,7 @@ class LoSoU(layers.Layer):
         score = g_q * g_k
 
         # 동적 alpha 계산: (B, L, d_model) -> (B, L, 1)
-        alpha_dynamic = self.alpha_linear(x_f32) * 0.8 + 0.1 # (B, L, 1)
+        alpha_dynamic = self.alpha_linear(x_f32) # (B, L, 1)
         # 필요시 alpha_dynamic에 대한 후처리 (예: min/max 등) 가능
         # ex: alpha_dynamic = tf.clip_by_value(alpha_dynamic, 0.01, 0.99)
 
@@ -363,4 +363,4 @@ def generate_text_topp(model, prompt, max_len=100, max_gen=98, p=0.9, temperatur
     return ids_to_text(generated)
 
 print("\n\n===== 생성 결과 =====")  
-print(generate_text_topp(model, "안녕", p=0.9))
+print(generate_text_topp(model, "제가 이따가 버스를 타야 해서 준비 좀 해야겠어요. 재미있는 대화였습니다!", p=0.9))