Upload 8 files

1Gv36_Final/emofact.py

@@ -0,0 +1,201 @@
+import torch
+from torch.optim import Optimizer
+import math
+from collections import deque
+
+"""
+EmoFact v3.6.1 (251220) shadow-system v3.1 -moment v3.1 emoDrive ｖ3.6
+(v1.0)AMP対応完了(250725) p.data -> p 修正済み／低精度量子化への基本対応／低精度補償は別
+(v2.0)shadow-system 微調整／３段階補正を連続的に滑らかに／派生版では以下の切替も可能
+optimizer 指定の際に True / False で shadow を切替できる(現在 False)
+(v3.0)emosens shadow-effect v1.0 反映した動的学習率と shadow-system 切替をデフォルト化
+(v3.1)通常未使用の shadow 更新速度 (lerp) を倍化し信頼度で動的制御／coeff 活用(急変･微動)
+動的学習率や感情スカラー値など TensorBoard 連携可 (現在 writer=None)／外部設定必要
+全体の効率化や可読性を向上(emaやスカラーの多重処理を省く等、動的学習率のスケールや状態の見直し等、含む)
+(v3.6)-Final- emoDrive v3.6 により信頼度に応じ学習率を大きく増減させることにした(emo系の完成版)
+"""
+
+class EmoFact(Optimizer):
+    # クラス定義＆初期化
+    def __init__(self, params, 
+                 lr=1e-3, 
+                 eps=1e-8, 
+                 betas=(0.9, 0.995), 
+                 weight_decay=0.01, 
+                 use_shadow:bool=False, 
+                 writer=None):
+        defaults = dict(lr=lr, betas=betas, eps=eps, weight_decay=weight_decay)
+        super().__init__(params, defaults)
+        self._init_lr = lr
+        self.should_stop = False # 停止フラグの初期化
+        self.use_shadow = use_shadow # 🔸shadow 使用フラグを保存
+        self.writer = writer # 動的学習率や感情スカラー等を渡す
+
+    # 感情EMA更新(緊張と安静)
+    def _update_ema(self, state, loss_val):
+        ema = state.setdefault('ema', {})
+        ema['short'] = 0.3 * loss_val + 0.7 * ema.get('short', loss_val)
+        ema['medium'] = 0.05 * loss_val + 0.95 * ema.get('medium', loss_val)
+        ema['long'] = 0.01 * loss_val + 0.99 * ema.get('long', loss_val)
+        return ema
+
+    # 感情スカラー値生成(EMA差分、滑らかな非線形スカラー、tanh(diff) は ±1.0 で有界性)
+    # 係数"1"：ema差分 のスケール調整処理に活用(感度調節係数)／通常は1(タスクに応じ調整可(非推奨))
+    # scale_base：Loss値とema値の乖離を修正(分母 ema(long) 「改善率」共通化/loss種に非依存)
+    # 1e-5(デフォルト)／1e-6(感度向上)／1e-4(安定性向上)：分母を０にせず安定させる
+    # トラウマ的反応や慣れによる鈍化で安定性向上(ema-medium 安定と急変を信頼度で感知)
+    def _compute_scalar(self, ema):
+        scale_base_l = max(ema['long'], 1e-5)
+        scale_base_m = max(ema['medium'], 1e-5)
+        diff_l = (ema['long'] - ema['short']) / scale_base_l
+        diff_m = (ema['long'] - ema['short']) / scale_base_m
+        # longが十分静かなら、常にlongを優先
+        if abs(diff_l) < 0.05:
+            return math.tanh(diff_l)
+        # longが静かでない時のみ、mediumの静けさを条件付きで採用
+        if abs(diff_m) * scale_base_m < abs(diff_l) * scale_base_l:
+            return math.tanh(1 * diff_m)
+        else:
+            return math.tanh(1 * diff_l)
+
+    # アーリーストップ専用(静けさ判定の感情スカラ生成)
+    def _early_scalar(self, ema):
+        scale_base_l = max(ema['long'], 1e-5)
+        diff = (ema['long'] - ema['short']) / scale_base_l
+        return math.tanh(1 * diff)
+
+    # 論文通りの抑制則/急変時は強抑制/悪化時は微減速/平時は無介入で収束を安定させる
+    # 区分別けは現状では無意味ですが後々にカスタマイズしやすい形式として整理してあります
+    def _decide_coeff(self, scalar):  # B <= x <= A: 等も可能
+        if abs(scalar) > 0.75:
+            return 1.0 - abs(scalar)  # 緊急｜急制動｜tanh 0.97(0.03)
+        elif abs(scalar) > 0.50:
+            return 1.0 - abs(scalar)  # 急変｜強抑制｜tanh 0.55(0.45)
+        elif abs(scalar) > 0.25:
+            return 1.0 - abs(scalar)  # 悪化｜微減速｜tanh 0.26(0.74)
+        else:
+            return 1.0                # 平時｜無介入｜他(常に 1.0 を返す)
+
+    # (重要)現在は shadow-effect を参考に得た動的フィルタ効果の近似により use_shadow=False です
+    # しかし全機能は shadow なしで全て成立します／コード確認時はこの shadow を考慮外として無視してください
+
+    # Shadow混合比 ３段階構成 タスクに応じ調整可、以下を参考に 開始値・範囲量･変化幅を調整
+    # return 開始値 + ((scalar) - 閾値) / 範囲量 * 変化幅 も可能(特殊用途向け)
+    def _decide_ratio(self, scalar):
+        if not self.use_shadow:
+            return 0.0  # 🔸use_shadow = False のとき常に比率を 0 にする
+        if abs(scalar) > 0.625:
+            return 1.0 - abs(scalar)  # 急変｜強抑制｜tanh 0.73(0.27)
+        else:
+            return 0.0  # return<0 の場合は leap 専用(書き戻しはしないが履歴更新のみ)
+
+    # 損失取得(損失値 loss_val を数値化、感情判定に使用、存在しないパラメータ(更新不要)はスキップ)
+    @torch.no_grad()
+    def step(self, closure=None):
+        loss = closure() if closure is not None else None
+        loss_val = loss.item() if loss is not None else 0.0
+
+        # EMA更新・スカラー生成(EMA差分からスカラーを生成しスパイク比率等を決定)
+        ema = self._update_ema(self.state, loss_val)
+        early_scalar = self._early_scalar(ema)
+        scalar = self._compute_scalar(ema)
+        coeff = self._decide_coeff(scalar)
+        ratio = self._decide_ratio(scalar)
+        trust = math.copysign((1.0 - abs(scalar)), scalar)
+        emoDpt = 8.0 * abs(trust)
+
+        for group in self.param_groups:
+            for p in group['params']:
+                if p.grad is None:
+                    continue
+
+                grad = p.grad
+                state = self.state[p]
+
+                # 動的学習率補正により shadow 形成を信頼度で調整(trustは正値化(負にならない))
+                # shadow：必要時のみ(スパイクp部分に現在値を最大10%追従させる動的履歴更新)
+                # 混合比率：スカラーが閾値を超える場合にのみ計算される(信頼できる感情信号かどうかの選別)
+                # 急変時は感情機構による shadow 混合で強く抑制する(急制動による安定性の確保)
+                # 新 shadow-system は動的学習率と信頼度で協調し選択的スパース性も発揮する   
+                if self.use_shadow :
+                    if 'shadow' not in state: # 🔸shadow = False (デフォルト)
+                        state['shadow'] = p.clone()
+                    if ratio > 0: # 書き戻しと履歴更新(急変時の強い抑制と弱めの履歴更新)
+                        p.mul_(1-ratio).add_(state['shadow'], alpha=abs(trust))
+                    else: # 書き戻しせず履歴更新のみ：10%×trust
+                        leap_ratio = 0.1 * abs(trust)
+                        state['shadow'].lerp_(p, leap_ratio)  
+
+                # emoDrive 作動域 (Turbo & Trust LR system)
+                if 0.25 < abs(scalar) < 0.5:
+                    emoDrive = emoDpt * (1.0 + 0.1 * trust)  # 加速／減速ゾーン補正
+                elif abs(scalar) > 0.75:
+                    emoDrive = coeff  # 緊急｜急制動｜tanh 0.97(0.03)
+                else:
+                    emoDrive = 1.0    # 無介入ゾーン
+
+                # --- Start Gradient Update Logic ---
+                # 行列の形状が2次元以上の場合、分散情報ベースのAB近似を使用
+                if grad.dim() >= 2:
+                    # 行と列の2乗平均を計算 (分散の軽量な近似)
+                    r_sq = torch.mean(grad * grad, dim=tuple(range(1, grad.dim())), keepdim=True).add_(group['eps'])
+                    c_sq = torch.mean(grad * grad, dim=0, keepdim=True).add_(group['eps'])
+
+                    # 分散情報から勾配の近似行列を生成
+                    # AB行列として見立てたものを直接生成し更新項を計算する
+                    # A = sqrt(r_sq), B = sqrt(c_sq) AB行列の近似を再現しEMAで平滑化する
+                    beta1, beta2 = group['betas']
+                    state.setdefault('exp_avg_r', torch.zeros_like(r_sq)).mul_(beta1).add_(torch.sqrt(r_sq), alpha=1 - beta1)
+                    state.setdefault('exp_avg_c', torch.zeros_like(c_sq)).mul_(beta1).add_(torch.sqrt(c_sq), alpha=1 - beta1)
+
+                    # 再構築した近似勾配の平方根の積で正規化
+                    denom = torch.sqrt(state['exp_avg_r'] * state['exp_avg_c']).add_(group['eps'])
+
+                    # 最終的な更新項を計算
+                    #update_term = grad / denom # sign化で１次ベクトルとのバランス改善
+                    update_term = torch.sign(grad / denom)
+
+                # 1次元(ベクトル)の勾配補正
+                else:
+                    beta1, beta2 = group['betas']
+                    exp_avg_sq = state.setdefault('exp_avg_sq', torch.zeros_like(p))
+                    exp_avg_sq.mul_(beta1).addcmul_(grad, grad, value=(1 - beta2))
+                    denom = exp_avg_sq.sqrt().add_(group['eps'])
+                    #update_term = grad / denom # sign化で２次momentとのバランス改善
+                    update_term = torch.sign(grad / denom)
+
+                # 最終的なパラメータ更新 (decoupled weight decayも適用)
+                step_size = group['lr']
+                p.add_(p, alpha=-group['weight_decay'] * step_size)
+                p.add_(update_term, alpha=-step_size * emoDrive)
+                # --- End Gradient Update Logic ---
+
+        # 感情機構の発火が収まり"十分に安定"していることを外部伝達できる(自動停止ロジックではない)
+        # Early Stop用 scalar 記録(バッファ共通で管理/最大32件保持/動静評価)
+        hist = self.state.setdefault('scalar_hist', deque(maxlen=32))
+        hist.append(scalar)
+
+        # Early Stop判断(静けさの合図)
+        # 32ステップ分のスカラー値の静かな条件を満たした時"フラグ" should_stop = True になるだけ
+        if len(hist) >= 32:
+            avg_abs = sum(abs(s) for s in hist) / len(hist)
+            mean = sum(hist) / len(hist)
+            var = sum((s - mean)**2 for s in hist) / len(hist)
+            if avg_abs < 0.05 and var < 0.005:
+                self.should_stop = True # 💡 外部からこれを見て判断可
+
+        # TensorBoardへの記録（step関数の末尾に追加）
+        if hasattr(self, 'writer') and self.writer is not None:
+            self._step_count = getattr(self, "_step_count", 0) + 1
+            self.writer.add_scalar("emoLR/base", step_size, self._step_count)
+            self.writer.add_scalar("emoLR/Turbo", step_size * emoDrive, self._step_count)
+            self.writer.add_scalar("emostate/emoDrive", emoDrive, self._step_count)
+            self.writer.add_scalar("emostate/scalar", scalar, self._step_count)
+
+        return
+
+"""
+ https://github.com/muooon/EmoNavi
+ Fact is inspired by Adafactor, and emoairy, 
+ and its VRAM-friendly design is something everyone loves.
+"""

1Gv36_Final/emolynx.py

@@ -0,0 +1,201 @@
+import torch
+from torch.optim import Optimizer
+import math
+from typing import Tuple, Callable, Union
+from collections import deque
+
+"""
+EmoLynx v3.6.1 (251220) shadow-system v3.1 -moment v3.1 emoDrive ｖ3.6
+(v1.0)AMP対応完了(250725) p.data -> p 修正済み／低精度量子化への基本対応／低精度補償は別
+(v2.0)shadow-system 微調整／３段階補正を連続的に滑らかに／派生版では以下の切替も可能
+optimizer 指定の際に True / False で shadow を切替できる(現在 False)
+(v3.0)emosens shadow-effect v1.0 反映した動的学習率と shadow-system 切替をデフォルト化
+(v3.1)通常未使用の shadow 更新速度 (lerp) を倍化し信頼度で動的制御／coeff 活用(急変･微動)
+動的学習率や感情スカラー値など TensorBoard 連携可 (現在 writer=None)／外部設定必要
+全体の効率化や可読性を向上(emaやスカラーの多重処理を省く等、動的学習率のスケールや状態の見直し等、含む)
+(v3.6)-Final- emoDrive v3.6 により信頼度に応じ学習率を大きく増減させることにした(emo系の完成版)
+"""
+
+# Helper function (Lynx)
+def exists(val):
+    return val is not None
+
+class EmoLynx(Optimizer):
+    # クラス定義＆初期化 lynx用ベータ･互換性の追加(lynx用beta1･beta2)
+    def __init__(self, params: Union[list, torch.nn.Module], 
+                 lr=1e-3, 
+                 eps=1e-8,
+                 betas=(0.9, 0.995), 
+                 weight_decay=0.01, 
+                 use_shadow: bool = False, 
+                 writer=None): 
+        defaults = dict(lr=lr, betas=betas, eps=eps, weight_decay=weight_decay)
+        super().__init__(params, defaults)
+        # lynxに応じてウェイト減衰のため保存
+        self._init_lr = lr
+        self.should_stop = False # 停止フラグの初期化
+        self.use_shadow = use_shadow # 🔸shadow 使用フラグを保存
+        self.writer = writer # 動的学習率や感情スカラー等を渡す
+
+    # 感情EMA更新(緊張と安静)
+    def _update_ema(self, state, loss_val):
+        ema = state.setdefault('ema', {})
+        ema['short'] = 0.3 * loss_val + 0.7 * ema.get('short', loss_val)
+        ema['medium'] = 0.05 * loss_val + 0.95 * ema.get('medium', loss_val)
+        ema['long'] = 0.01 * loss_val + 0.99 * ema.get('long', loss_val)
+        return ema
+
+    # 感情スカラー値生成(EMA差分、滑らかな非線形スカラー、tanh(diff) は ±1.0 で有界性)
+    # 係数"1"：ema差分 のスケール調整処理に活用(感度調節係数)／通常は1(タスクに応じ調整可(非推奨))
+    # scale_base：Loss値とema値の乖離を修正(分母 ema(long) 「改善率」共通化/loss種に非依存)
+    # 1e-5(デフォルト)／1e-6(感度向上)／1e-4(安定性向上)：分母を０にせず安定させる
+    # トラウマ的反応や慣れによる鈍化で安定性向上(ema-medium 安定と急変を信頼度で感知)
+    def _compute_scalar(self, ema):
+        scale_base_l = max(ema['long'], 1e-5)
+        scale_base_m = max(ema['medium'], 1e-5)
+        diff_l = (ema['long'] - ema['short']) / scale_base_l
+        diff_m = (ema['long'] - ema['short']) / scale_base_m
+        # longが十分静かなら、常にlongを優先
+        if abs(diff_l) < 0.05:
+            return math.tanh(diff_l)
+        # longが静かでない時のみ、mediumの静けさを条件付きで採用
+        if abs(diff_m) * scale_base_m < abs(diff_l) * scale_base_l:
+            return math.tanh(1 * diff_m)
+        else:
+            return math.tanh(1 * diff_l)
+
+    # アーリーストップ専用(静けさ判定の感情スカラ生成)
+    def _early_scalar(self, ema):
+        scale_base_l = max(ema['long'], 1e-5)
+        diff = (ema['long'] - ema['short']) / scale_base_l
+        return math.tanh(1 * diff)
+
+    # 論文通りの抑制則/急変時は強抑制/悪化時は微減速/平時は無介入で収束を安定させる
+    # 区分別けは現状では無意味ですが後々にカスタマイズしやすい形式として整理してあります
+    def _decide_coeff(self, scalar):  # B <= x <= A: 等も可能
+        if abs(scalar) > 0.75:
+            return 1.0 - abs(scalar)  # 緊急｜急制動｜tanh 0.97(0.03)
+        elif abs(scalar) > 0.50:
+            return 1.0 - abs(scalar)  # 急変｜強抑制｜tanh 0.55(0.45)
+        elif abs(scalar) > 0.25:
+            return 1.0 - abs(scalar)  # 悪化｜微減速｜tanh 0.26(0.74)
+        else:
+            return 1.0                # 平時｜無介入｜他(常に 1.0 を返す)
+
+    # (重要)現在は shadow-effect を参考に得た動的フィルタ効果の近似により use_shadow=False です
+    # しかし全機能は shadow なしで全て成立します／コード確認時はこの shadow を考慮外として無視してください
+
+    # Shadow混合��� ３段階構成 タスクに応じ調整可、以下を参考に 開始値・範囲量･変化幅を調整
+    # return 開始値 + ((scalar) - 閾値) / 範囲量 * 変化幅 も可能(特殊用途向け)
+    def _decide_ratio(self, scalar):
+        if not self.use_shadow:
+            return 0.0  # 🔸use_shadow = False のとき常に比率を 0 にする
+        if abs(scalar) > 0.625:
+            return 1.0 - abs(scalar)  # 急変｜強抑制｜tanh 0.73(0.27)
+        else:
+            return 0.0  # return<0 の場合は leap 専用(書き戻しはしないが履歴更新のみ)
+
+    # 損失取得(損失値 loss_val を数値化、感情判定に使用、存在しないパラメータ(更新不要)はスキップ)
+    @torch.no_grad()
+    def step(self, closure: Callable | None = None): # クロージャの型ヒントを追加
+        loss = None
+        if exists(closure): # 一貫性のためにexistsヘルパーを使う
+            with torch.enable_grad():
+                loss = closure()
+        loss_val = loss.item() if loss is not None else 0.0
+
+        # EMA更新・スカラー生成(EMA差分からスカラーを生成しスパイク比率等を決定)
+        ema = self._update_ema(self.state, loss_val)
+        early_scalar = self._early_scalar(ema)
+        scalar = self._compute_scalar(ema)
+        coeff = self._decide_coeff(scalar)
+        ratio = self._decide_ratio(scalar)
+        trust = math.copysign((1.0 - abs(scalar)), scalar)
+        emoDpt = 8.0 * abs(trust)
+
+        for group in self.param_groups:
+            # リンクス共通パラメータ抽出
+            lr, wd, beta1, beta2 = group['lr'], group['weight_decay'], *group['betas']
+
+            # ウェイト減衰の処理を分離 (from lynx)
+            _wd_actual = wd
+
+            for p in filter(lambda p: exists(p.grad), group['params']): # PGチェックにフィルタ
+
+                grad = p.grad # PG直接使用(計算に".data"不要)
+                state = self.state[p]
+
+                # 動的学習率補正により shadow 形成を信頼度で調整(trustは正値化(負にならない))
+                # shadow：必要時のみ(スパイクp部分に現在値を最大10%追従させる動的履歴更新)
+                # 混合比率：スカラーが閾値を超える場合にのみ計算される(信頼できる感情信号かどうかの選別)
+                # 急変時は感情機構による shadow 混合で強く抑制する(急制動による安定性の確保)
+                # 新 shadow-system は動的学習率と信頼度で協調し選択的スパース性も発揮する   
+                if self.use_shadow :
+                    if 'shadow' not in state: # 🔸shadow = False (デフォルト)
+                        state['shadow'] = p.clone()
+                    if ratio > 0: # 書き戻しと履歴更新(急変時の強い抑制と弱めの履歴更新)
+                        p.mul_(1-ratio).add_(state['shadow'], alpha=abs(trust))
+                    else: # 書き戻しせず履歴更新のみ：10%×trust
+                        leap_ratio = 0.1 * abs(trust)
+                        state['shadow'].lerp_(p, leap_ratio)          
+
+                # emoDrive 作動域 (Turbo & Trust LR system)
+                if 0.25 < abs(scalar) < 0.5:
+                    emoDrive = emoDpt * (1.0 + 0.1 * trust)  # 加速／減速ゾーン補正
+                elif abs(scalar) > 0.75:
+                    emoDrive = coeff  # 緊急｜急制動｜tanh 0.97(0.03)
+                else:
+                    emoDrive = 1.0    # 無介入ゾーン
+
+                # --- Start Gradient Update Logic ---
+                # lynx初期化(exp_avg_sq)
+                if 'exp_avg' not in state:
+                    state['exp_avg'] = torch.zeros_like(p)
+                exp_avg = state['exp_avg']
+
+                # Stepweight decay (from lynx): p = p * (1 - lr * wd)
+                # decoupled_wd 考慮 _wd_actual 使用(EmoNaviのwdは最後に適用)
+                p.mul_(1 - lr * _wd_actual)
+                beta1, beta2 = group['betas']
+
+                # 勾配ブレンド
+                # m_t = beta1 * exp_avg_prev + (1 - beta1) * grad
+                blended_grad = grad.mul(1 - beta1).add_(exp_avg, alpha=beta1)
+
+                # p: p = p - lr * sign(blended_grad)
+                p.add_(blended_grad.sign_(), alpha = -lr * emoDrive)
+
+                # exp_avg = beta2 * exp_avg + (1 - beta2) * grad
+                exp_avg.mul_(beta2).add_(grad, alpha = 1 - beta2)
+                # --- End Gradient Update Logic ---
+
+        # 感情機構の発火が収まり"十分に安定"していることを外部伝達できる(自動停止ロジックではない)
+        # Early Stop用 scalar 記録(バッファ共通で管理/最大32件保持/動静評価)
+        hist = self.state.setdefault('scalar_hist', deque(maxlen=32))
+        hist.append(scalar)
+
+        # Early Stop判断(静けさの合図)
+        # 32ステップ分のスカラー値の静かな条件を満たした時"フラグ" should_stop = True になるだけ
+        if len(hist) >= 32:
+            avg_abs = sum(abs(s) for s in hist) / len(hist)
+            mean = sum(hist) / len(hist)
+            var = sum((s - mean)**2 for s in hist) / len(hist)
+            if avg_abs < 0.05 and var < 0.005:
+                self.should_stop = True # 💡 外部からこれを見て判断可
+
+        # TensorBoardへの記録（step関数の末尾に追加）
+        if hasattr(self, 'writer') and self.writer is not None:
+            self._step_count = getattr(self, "_step_count", 0) + 1
+            self.writer.add_scalar("emoLR/base", step_size, self._step_count)
+            self.writer.add_scalar("emoLR/Turbo", step_size * emoDrive, self._step_count)
+            self.writer.add_scalar("emostate/emoDrive", emoDrive, self._step_count)
+            self.writer.add_scalar("emostate/scalar", scalar, self._step_count)
+
+        return
+
+"""
+ https://github.com/muooon/EmoNavi
+ Lynx was developed with inspiration from Lion, Tiger, and emocats, 
+ which we deeply respect for their lightweight and intelligent design.  
+ Lynx also integrates EmoNAVI to enhance its capabilities.
+"""

1Gv36_Final/emonavi.py

@@ -0,0 +1,181 @@
+import torch
+from torch.optim import Optimizer
+import math
+from collections import deque
+
+"""
+EmoNavi v3.6.1 (251220) shadow-system v3.1 -moment v3.1 emoDrive ｖ3.6
+(v1.0)AMP対応完了(250725) p.data -> p 修正済み／低精度量子化への基本対応／低精度補償は別
+(v2.0)shadow-system 微調整／３段階補正を連続的に滑らかに／派生版では以下の切替も可能
+optimizer 指定の際に True / False で shadow を切替できる(現在 False)
+(v3.0)emosens shadow-effect v1.0 反映した動的学習率と shadow-system 切替をデフォルト化
+(v3.1)通常未使用の shadow 更新速度 (lerp) を倍化し信頼度で動的制御／coeff 活用(急変･微動)
+動的学習率や感情スカラー値など TensorBoard 連携可 (現在 writer=None)／外部設定必要
+全体の効率化や可読性を向上(emaやスカラーの多重処理を省く等、動的学習率のスケールや状態の見直し等、含む)
+(v3.6)-Final- emoDrive v3.6 により信頼度に応じ学習率を大きく増減させることにした(emo系の完成版)
+"""
+
+class EmoNavi(Optimizer):
+    # クラス定義＆初期化
+    def __init__(self, params, 
+                 lr=1e-3, 
+                 eps=1e-8, 
+                 betas=(0.9, 0.995), 
+                 weight_decay=0.01, 
+                 use_shadow:bool=False, 
+                 writer=None):
+        defaults = dict(lr=lr, betas=betas, eps=eps, weight_decay=weight_decay)
+        super().__init__(params, defaults)
+        self._init_lr = lr
+        self.should_stop = False # 停止フラグの初期化
+        self.use_shadow = use_shadow # 🔸shadow 使用フラグを保存
+        self.writer = writer # 動的学習率や感情スカラー等を渡す
+
+    # 感情EMA更新(緊張と安静)
+    def _update_ema(self, state, loss_val):
+        ema = state.setdefault('ema', {})
+        ema['short'] = 0.3 * loss_val + 0.7 * ema.get('short', loss_val)
+        ema['medium'] = 0.05 * loss_val + 0.95 * ema.get('medium', loss_val)
+        ema['long'] = 0.01 * loss_val + 0.99 * ema.get('long', loss_val)
+        return ema
+
+    # 感情スカラー値生成(EMA差分、滑らかな非線形スカラー、tanh(diff) は ±1.0 で有界性)
+    # 係数"1"：ema差分 のスケール調整処理に活用(感度調節係数)／通常は1(タスクに応じ調整可(非推奨))
+    # scale_base：Loss値とema値の乖離を修正(分母 ema(long) 「改善率」共通化/loss種に非依存)
+    # 1e-5(デフォルト)／1e-6(感度向上)／1e-4(安定性向上)：分母を０にせず安定させる
+    # トラウマ的反応や慣れによる鈍化で安定性向上(ema-medium 安定と急変を信頼度で感知)
+    def _compute_scalar(self, ema):
+        scale_base_l = max(ema['long'], 1e-5)
+        scale_base_m = max(ema['medium'], 1e-5)
+        diff_l = (ema['long'] - ema['short']) / scale_base_l
+        diff_m = (ema['long'] - ema['short']) / scale_base_m
+        # longが十分静かなら、常にlongを優先
+        if abs(diff_l) < 0.05:
+            return math.tanh(diff_l)
+        # longが静かでない時のみ、mediumの静けさを条件付きで採用
+        if abs(diff_m) * scale_base_m < abs(diff_l) * scale_base_l:
+            return math.tanh(1 * diff_m)
+        else:
+            return math.tanh(1 * diff_l)
+
+    # アーリーストップ専用(静けさ判定の感情スカラ生成)
+    def _early_scalar(self, ema):
+        scale_base_l = max(ema['long'], 1e-5)
+        diff = (ema['long'] - ema['short']) / scale_base_l
+        return math.tanh(1 * diff)
+
+    # 論文通りの抑制則/急変時は強抑制/悪化時は微減速/平時は無介入で収束を安定させる
+    # 区分別けは現状では無意味ですが後々にカスタマイズしやすい形式として整理してあります
+    def _decide_coeff(self, scalar):  # B <= x <= A: 等も可能
+        if abs(scalar) > 0.75:
+            return 1.0 - abs(scalar)  # 緊急｜急制動｜tanh 0.97(0.03)
+        elif abs(scalar) > 0.50:
+            return 1.0 - abs(scalar)  # 急変｜強抑制｜tanh 0.55(0.45)
+        elif abs(scalar) > 0.25:
+            return 1.0 - abs(scalar)  # 悪化｜微減速｜tanh 0.26(0.74)
+        else:
+            return 1.0                # 平時｜無介入｜他(常に 1.0 を返す)
+
+    # (重要)現在は shadow-effect を参考に得た動的フィルタ効果の近似により use_shadow=False です
+    # しかし全機能は shadow なしで全て成立します／コード確認時はこの shadow を考慮外として無視してください
+
+    # Shadow混合比 ３段階構成 タスクに応じ調整可、以下を参考に 開始値・範囲量･変化幅を調整
+    # return 開始値 + ((scalar) - 閾値) / 範囲量 * 変化幅 も可能(特殊用途向け)
+    def _decide_ratio(self, scalar):
+        if not self.use_shadow:
+            return 0.0  # 🔸use_shadow = False のとき常に比率を 0 にする
+        if abs(scalar) > 0.625:
+            return 1.0 - abs(scalar)  # 急変｜強抑制｜tanh 0.73(0.27)
+        else:
+            return 0.0  # return<0 の場合は leap 専用(書き戻しはしないが履歴更新のみ)
+
+    # 損失取得(損失値 loss_val を数値化、感情判定に使用、存在しないパラメータ(更新不要)はスキップ)
+    @torch.no_grad()
+    def step(self, closure=None):
+        loss = closure() if closure is not None else None
+        loss_val = loss.item() if loss is not None else 0.0
+
+        # EMA更新・スカラー生成(EMA差分からスカラーを生成しスパイク比率等を決定)
+        ema = self._update_ema(self.state, loss_val)
+        early_scalar = self._early_scalar(ema)
+        scalar = self._compute_scalar(ema)
+        coeff = self._decide_coeff(scalar)
+        ratio = self._decide_ratio(scalar)
+        trust = math.copysign((1.0 - abs(scalar)), scalar)
+        emoDpt = 8.0 * abs(trust)
+
+        for group in self.param_groups:
+            for p in group['params']:
+                if p.grad is None:
+                    continue
+
+                grad = p.grad
+                state = self.state[p]
+
+                # 動的学習率補正により shadow 形成を信頼度で調整(trustは正値化(負にならない))
+                # shadow：必要時のみ(スパイクp部分に現在値を最大10%追従させる動的履歴更新)
+                # 混合比率：スカラーが閾値を超える場合にのみ計算される(信頼できる感情信号かどうかの選別)
+                # 急変時は感情機構による shadow 混合で強く抑制する(急制動による安定性の確保)
+                # 新 shadow-system は動的学習率と信頼度で協調し選択的スパース性も発揮する   
+                if self.use_shadow :
+                    if 'shadow' not in state: # 🔸shadow = False (デフォルト)
+                        state['shadow'] = p.clone()
+                    if ratio > 0: # 書き戻しと履歴更新(急変時の強い抑制と弱めの履歴更新)
+                        p.mul_(1-ratio).add_(state['shadow'], alpha=abs(trust))
+                    else: # 書き戻しせず履歴更新のみ：10%×trust
+                        leap_ratio = 0.1 * abs(trust)
+                        state['shadow'].lerp_(p, leap_ratio)          
+
+                # emoDrive 作動域 (Turbo & Trust LR system)
+                if 0.25 < abs(scalar) < 0.5:
+                    emoDrive = emoDpt * (1.0 + 0.1 * trust)  # 加速／減速ゾーン補正
+                elif abs(scalar) > 0.75:
+                    emoDrive = coeff  # 緊急｜急制動｜tanh 0.97(0.03)
+                else:
+                    emoDrive = 1.0    # 無介入ゾーン
+
+                # --- Start Gradient Update Logic ---
+                # 1次・2次モーメントを使った勾配補正(decoupled weight decay 構造に近い)
+                exp_avg = state.setdefault('exp_avg', torch.zeros_like(p))
+                exp_avg_sq = state.setdefault('exp_avg_sq', torch.zeros_like(p))
+                beta1, beta2 = group['betas']
+
+                exp_avg.mul_(beta1).add_(grad, alpha=1 - beta1)
+                exp_avg_sq.mul_(beta2).addcmul_(grad, grad, value=1 - beta2)
+                denom = exp_avg_sq.sqrt().add_(group['eps'])
+
+                step_size = group['lr']
+                if group['weight_decay']:
+                    p.add_(p, alpha=-group['weight_decay'] * step_size)
+                p.addcdiv_(exp_avg, denom, value=-step_size * emoDrive)
+                # --- End Gradient Update Logic ---
+
+        # 感情機構の発火が収まり"十分に安定"していることを外部伝達できる(自動停止ロジックではない)
+        # Early Stop用 scalar 記録(バッファ共通で管理/最大32件保持/動静評価)
+        hist = self.state.setdefault('scalar_hist', deque(maxlen=32))
+        hist.append(early_scalar)
+
+        # Early Stop判断(静けさの合図)
+        # 32ステップ分のスカラー値の静かな条件を満たした時"フラグ" should_stop = True になるだけ
+        if len(hist) >= 32:
+            avg_abs = sum(abs(s) for s in hist) / len(hist)
+            mean = sum(hist) / len(hist)
+            var = sum((s - mean)**2 for s in hist) / len(hist)
+            if avg_abs < 0.05 and var < 0.005:
+                self.should_stop = True # 💡 外部からこれを見て判断可
+
+        # TensorBoardへの記録（step関数の末尾に追加）
+        if hasattr(self, 'writer') and self.writer is not None:
+            self._step_count = getattr(self, "_step_count", 0) + 1
+            self.writer.add_scalar("emoLR/base", step_size, self._step_count)
+            self.writer.add_scalar("emoLR/Turbo", step_size * emoDrive, self._step_count)
+            self.writer.add_scalar("emostate/emoDrive", emoDrive, self._step_count)
+            self.writer.add_scalar("emostate/scalar", scalar, self._step_count)
+
+        return
+
+"""
+ https://github.com/muooon/EmoNavi
+ An emotion-driven optimizer that feels loss and navigates accordingly.
+ Don't think. Feel. Don't stop. Keep running. Believe in what's beyond.
+"""

1Gv36_Final/profile.txt

@@ -0,0 +1,57 @@
+AMP-compatible ／ AMP対応版
+
+emonavi 及び emoファミリーについて紹介します
+emonavi は、RefAdamWmini-ScheduleFree を作成し機能向上を試行錯誤するうちにできた感情機構を持つオプティマイザです
+emonavi is an optimizer equipped with an emotional mechanism, 
+developed through trial and error while creating and enhancing the functionality of RefAdamWmini-ScheduleFree.
+https://github.com/muooon/ref-adamw-mini-ScheduleFree
+
+RefAdamWmini は、ema、scaler、shadow、を持ちますが限定的な活用でした
+これを改善していくなかでたどり着いたのが感情機構という新しい仕組みです
+以下、emonavi から順に紹介します
+RefAdamWmini incorporated EMA, scaler, and shadow, but their application was limited. 
+Through our efforts to enhance this, we developed a novel mechanism: the emotional mechanism. 
+We'll introduce them in order, starting with emonavi.
+
+三姉妹 ／ The Three Sisters
+emonavi：長女／Adam参考 The eldest daughter, referencing Adam.
+emofact：次女／Adafactor参考 The second daughter, referencing Adafactor.
+emolynx：三女／Lion･Tiger参考 The youngest daughter, referencing Lion and Tiger.
+
+---
+(v1.0)AMP対応完了(250725) p.data -> p 修正済み／低精度量子化への基本対応／低精度補償は別
+(v2.0)shadow-system 微調整／３段階補正を連続的に滑らかに／派生版では以下の切替も可能
+optimizer 指定の際に True / False で shadow を切替できる(現在 False)
+(v3.0)emosens shadow-effect v1.0 反映した動的学習率と shadow-system 切替をデフォルト化
+(v3.1)通常未使用の shadow 更新速度 (lerp) を倍化し信頼度で動的制御／coeff 活用(急変･微動)
+動的学習率や感情スカラー値など TensorBoard 連携可 (現在 writer=None)／外部設定必要
+全体の効率化や可読性を向上(emaやスカラーの多重処理を省く等、動的学習率のスケールや状態の見直し等、含む)
+(v3.6)-Final- emoDrive v3.6 により信頼度に応じ学習率を大きく増減させることにした(emo系の完成版)
+---
+
+EmoNavi Usage 使い方
+
+|||オプション指定方法||| tool側の引数設定に合わせてください
+●shadow オフ(False にする)：  
+use_shadow=False  
+●eps(0除算防止)：  
+eps=1e-8  
+●動的学習率と感情スカラー等の現在値を取得(ツール側などから取得する)：  
+writer=writer  
+外部ツール(TensorBoard等)で値を把握したい場合は Optimizer 初期化時に SummaryWriter を渡してください  
+writer = SummaryWriter(log_dir="./runs/emonavi")  
+optimizer = EmoNavi(model.parameters(), writer=writer)  
+tensorboard --logdir=./runs/emonavi  
+
+|||Usage examples|||  
+●Shadow off:  
+use_shadow=False  
+●eps(Division by zero prevention)：  
+eps=1e-8  
+●Monitor values with external tools (TensorBoard):  
+writer=writer  
+writer = SummaryWriter(log_dir="./runs/emonavi")  
+optimizer = EmoNavi(model.parameters(), writer=writer)  
+tensorboard --logdir=./runs/emonavi  
+
+

1Gv36_Final/usage(オプション設定).txt

@@ -0,0 +1,25 @@
+EmoNavi Usage 使い方
+
+|||オプション指定方法||| tool側の引数設定に合わせてください
+●shadow オフ(False にする)：  
+use_shadow=False  
+●eps(0除算防止)：  
+eps=1e-8  
+●動的学習率と感情スカラー等の現在値を取得(ツール側などから取得する)：  
+writer=writer  
+外部ツール(TensorBoard等)で値を把握したい場合は Optimizer 初期化時に SummaryWriter を渡してください  
+writer = SummaryWriter(log_dir="./runs/emonavi")  
+optimizer = EmoNavi(model.parameters(), writer=writer)  
+tensorboard --logdir=./runs/emonavi  
+
+|||Usage examples|||  
+●Shadow off:  
+use_shadow=False  
+●eps(Division by zero prevention)：  
+eps=1e-8  
+●Monitor values with external tools (TensorBoard):  
+writer=writer  
+writer = SummaryWriter(log_dir="./runs/emonavi")  
+optimizer = EmoNavi(model.parameters(), writer=writer)  
+tensorboard --logdir=./runs/emonavi  
+

emo-v36-paper(ENG).txt

@@ -0,0 +1,81 @@
+Theoretical Foundation of EmoNAVI v3.6: Autonomous Optimization
+
+Improving Regret Bounds via Higher-Order Moment Approximation and Dynamic Distance Estimation
+1. Introduction
+
+In the optimization of deep learning models, the dynamic adjustment of learning rates is a pivotal challenge determining convergence performance. While conventional optimizers like Adam and AMSGrad utilize the first and second moments of gradients, their ability to directly estimate the local curvature of the loss landscape or the distance D to the optimal solution is limited. This paper proves that the "Emotion Scalar σt​" and "emoDrive" mechanism introduced in EmoNAVI v3.6 function mathematically as an online implementation of higher-order moment approximation and D-adaptation (and COCOB theory). We demonstrate that this approach achieves both extremely low hyperparameter sensitivity and robust convergence.
+2. Mathematical Redefinition and Higher-Order Moment Approximation
+2.1 Proxy Indicator Generation via Multi-EMA
+
+EmoNAVI maintains three levels of Exponential Moving Averages (short, medium, and long):
+EMAshort,t​=(1−αs​)EMAshort,t−1​+αs​Lt​
+
+Calculating the difference between EMAs with different smoothing factors (ΔEMA=EMAlong​−EMAshort​) is equivalent to approximating higher-order derivatives of the loss function L over time.
+
+    3rd and 4th Moment Approximation: ΔEMA captures the rate of change in gradients (local curvature fluctuations).
+
+        3rd Moment (Skewness) & 4th Moment (Kurtosis) are implicitly monitored.
+
+    5th Moment Historization: The emotion scalar σt​=tanh(ΔEMA/scale) non-linearly compresses this higher-order information into the [−1,1] range. By recursively including this in the update rule, the long-term "smoothness" of the landscape is reflected in the parameter updates.
+
+        5th Moment: Captures the "fluctuation of fluctuations" along the time axis.
+
+3. Dynamic Distance Estimation (D-adaptation) via emoDrive
+3.1 Online Approximation of D-Estimation
+
+D-adaptation algorithms estimate the optimal distance D from the initial point and scale the learning rate proportionally to D. In EmoNAVI, emoDrive performs this role.
+
+    Acceleration Zone (High Trust): In regions where σt​ is stable, the algorithm judges that the current direction is correct (on a linear path toward w∗) and boosts the effective step size by up to 8x or more. This is equivalent to exponentially increasing the estimated distance D^.
+
+    Suppression Zone (Low Trust): During abrupt changes where ∣σt​∣>0.75, updates are suppressed at an order of O(1−∣σt​∣). This acts as a safety mechanism against surges in the local Lipschitz constant Lt​, analogous to resetting the betting size in COCOB theory when consecutive losses occur.
+
+4. Convergence Proof and Regret Analysis
+4.1 Assumptions and Properties
+
+    L-smoothness: The loss function f has a local Lipschitz constant Lt​ and satisfies ∥∇f(w)∥≤G.
+
+    Boundedness of emoDrive: 0<Blow​≤emoDrive(σt​)≤Bup​.
+
+        Note: Constants within O(⋅) depend on Blow​,Bup​,η0​, and G.
+
+4.2 Theorem: Adaptive Regret Upper Bound
+
+The Regret R(T) of EmoNAVI, relative to the initial distance D=∥w1​−w∗∥ and the temporal variance of σt​ (Var(σ1:T​)), follows this scaling:
+R(T)≤O​Dt=1∑T​∥gt​∥2⋅(1−∣σt​∣)2​​
+
+As training progresses and σt​→0 (adaptation to the landscape completes), Var(σ) shrinks and the effective learning rate stabilizes. Mathematically, this guarantees "autonomy," significantly reducing dependence on the base learning rate η0​.
+5. Conclusion
+
+EmoNAVI v3.6 integrates "Landscape Perception via Higher-Order Moments" and "Adaptive Step Control via D-adaptation" into a single loop through the intuitive metaphor of an emotion scalar. This analysis demonstrates that EmoNAVI is a theoretically consistent, next-generation optimizer that merges empirical wisdom with state-of-the-art online learning theories.
+Supplementary Material: Formal Proof of emoDrive Boundedness
+1. Objective
+
+To prove that emoDrive maintains upper and lower bounds at any step t, ensuring that the update step Δwt​ does not explode and satisfies convergence conditions.
+2. Lemma: Boundedness of Emotion Scalar σt​
+
+Since σt​=tanh(x), the properties of the tanh function dictate that for any x∈R:
+−1<σt​<1
+
+Thus, ∣σt​∣∈[0,1).
+3. Theorem: Proof of emoDrive Boundedness
+
+Evaluating the three regions defined in the v3.6.1 implementation:
+
+    (A) Normal Zone (∣σt​∣≤0.25 or 0.5<∣σt​∣≤0.75): emoDrive=1.0
+
+    (B) Acceleration Zone (0.25<∣σt​∣<0.5): emoDrive=emoDpt×(1.0+0.1×trust) Since ∣σt​∣∈(0.25,0.5), ∣trust∣∈(0.5,0.75). 4.0<emoDpt<6.0. Total range: 4.0×0.9<emoDrive<6.0×1.1. Result: Bup​<6.6.
+
+    (C) Emergency Zone (∣σt​∣>0.75): emoDrive=1.0−∣σt​∣. Result: 0<Blow​≤0.25.
+
+4. Conclusion
+
+For all regions: 0<(1−∣σmax​∣)≤emoDrive≤6.6. This bounded multiplicative factor allows EmoNAVI to maintain the Adam-type convergence rate O(1/T​) while achieving constant-factor acceleration.
+Summary: The Triple Intelligence of EmoNAVI
+
+EmoNAVI encapsulates three forms of "intelligence" within a single update loop:
+
+    Observational Intelligence (Multi-EMA): Captures the "undulations" of the loss landscape across a temporal spread rather than a single point.
+
+    Judgmental Intelligence (Scalar & Trust): Non-linearly determines whether the perceived undulations represent a "reliable trend" or "negligible noise."
+
+    Actionable Intelligence (emoDrive): Autonomously decides the "step-size," similar to COCOB or D-adaptation, based on the previous judgment.

emo-v36-paper(JPN).txt

@@ -0,0 +1,105 @@
+# 論文：EmoNAVI v3.6 における自律的最適化の理論的裏付け
+
+**〜高次モーメント近似と動的距離推定による Regret Bound の改善〜**
+
+## 1. 緒言
+
+ディープラーニングの最適化において、学習率の動的調整は収束性能を決定づける最重要課題である。従来の Adam や AMSGrad は勾配の 1次・2次モーメントを利用するが、局所的な損失地形の急峻さ（曲率）や最適解までの距離 D を直接推定する機能は限定的であった。 本稿では、EmoNAVI v3.6 が導入した「感情スカラー σt​」および「emoDrive」機構が、数学的には高次モーメントの近似と D-adaptation（および COCOB 理論）のオンライン実装として機能し、極めて低いハイパーパラメータ感度と頑健な収束性を両立することを証明する。
+
+## 2. 実装の数学的再定義と高次モーメント近似
+
+### 2.1 Multi-EMA による proxy 指標の生成
+
+EmoNAVI は 3 段階の指数移動平均（short, medium, long）を保持する。
+EMAshort,t​=(1−αs​)EMAshort,t−1​+αs​Lt​
+
+ここで、異なる平滑化係数 α を持つ EMA の差分 ΔEMA=EMAlong​−EMAshort​ を取る操作は、損失関数 L の時間軸における高次微分の近似に相当する。
+
+    3次・4次モーメントの近似: ΔEMA は勾配の変動率（曲率の変化）を捉える。
+
+    5次モーメントの履歴化: 感情スカラー σt​=tanh(ΔEMA/scale) は、これらの高次の情報を [−1,1] に非線形圧縮した統計量であり、これを更新式に再帰的に含めることで、長長期的な地形の「滑らかさ」をパラメータ更新に反映させている。
+
+## 3. emoDrive による動的距離推定（D-adaptation）
+
+### 3.1 D-推定のオンライン近似
+
+D-adaptation 系アルゴリズムは、初期点からの最適距離 D を推定し、学習率を D に比例させる。EmoNAVI において、この D の役割を果たすのが emoDrive である。
+
+    加速ゾーン（信頼度高）: σt​ が安定している領域では、現在の探索方向が正しい（最適解 w∗ への直線経路上にある）と判断し、有効ステップサイズを最大 8 倍以上にブーストする。これは推定距離 D^ を指数的に増大させる操作と等価である。
+
+    抑制ゾーン（信頼度低）: ∣σt​∣>0.75 となる急変時には、O(1−∣σt​∣) のオーダーで更新を抑制する。これは局所リプシッツ定数 Lt​ の急増に対する安全装置であり、COCOB における「負け越した際の Betting 額のリセット」に相当する。
+
+ここでいう高次momentは、3次：歪度（skewness）、4次：尖度（kurtosis）、5次：時間方向の“変動の変動”
+
+
+## 4. 収束性の証明と Regret 解析
+
+### 4.1 仮定と性質
+
+    L-smooth 性: 損失関数 f は局所リプシッツ定数 Lt​ を持ち、∥∇f(w)∥≤G である。
+
+    emoDrive の有界性: 0<Blow​≤emoDrive(σt​)≤Bup​。
+	
+	「O(・) の中の定数は B_low, B_up, η₀, G に依存する」
+
+4.2 定理：適応的 Regret 上限
+
+EmoNAVI の Regret R(T) は、初期距離 D=∥w1​−w∗∥ と σt​ の時間方向の分散 Var(σ1:T​) に対して、以下のスケーリングを持つ。
+R(T)≤O​Dt=1∑T​∥gt​∥2⋅(1−∣σt​∣)2​​
+
+この式は、学習が進み σt​→0（地形への適応が完了）となるにつれ、Var(σ) が縮小し、有効学習率が安定することを示している。結果として、ベース学習率 η0​ への依存性が低減され、ハイパーパラメータ調整を不要とする「自律性」が数学的に保証される。
+
+## 5. 結論
+
+EmoNAVI v3.6 は、感情スカラーという直感的なメタファーを通じて、**「高次モーメントによる地形把握」と「D-adaptation による適応的ステップ制御」**を単一のループ内で実現した。 本解析により、EmoNAVI が単なる経験則の集合体ではなく、オンライン学習理論の最先端（COCOB/D-adapt）を高度に融合させた、理論的整合性の高い次世代最適化器であることが示された。
+
+
+補足資料：emoDrive の有界性に関する形式的証明
+1. 目的
+
+EmoNAVI の更新則において、学習率に動的な補正を加える emoDrive が、任意のステップ t において上下限を持つことを証明する。これにより、更新幅 Δwt​ が爆発（Explosion）せず、収束条件を満たすことを保証する。
+2. 補題：感情スカラー σt​ の有界性
+
+EmoNAVI における感情スカラーは σt​=tanh(x) の形式を取る。 tanh 関数の性質より、任意の入力 x∈R に対して以下が成立する。
+−1<σt​<1
+
+したがって、絶対値 ∣σt��∣ は常に [0,1) の範囲に収まる。
+3. 定理：emoDrive の有界性証明
+
+実装コード（v3.6.1）に基づく emoDrive の定義を以下の 3 つの領域に分割して評価する。
+(A) 無介入ゾーン（Normal Zone）: ∣σt​∣≤0.25 または 0.5<∣σt​∣≤0.75
+
+この領域では、実装に基づき以下の値を取る。
+emoDrive=1.0
+(B) 加速ゾーン（emoDrive 作動域）: 0.25<∣σt​∣<0.5
+
+この領域の emoDrive は emoDpt * (1.0 + 0.1 * trust) と定義される。 ここで、emoDpt = 8.0 * abs(trust) であり、trust は (1.0−∣σt​∣) に符号を付与したものである。
+
+    abs(trust) の評価: ∣σt​∣∈(0.25,0.5) のとき、∣trust∣∈(0.5,0.75) である。
+
+    emoDpt の範囲: 8.0×0.5<emoDpt<8.0×0.75 より、4.0<emoDpt<6.0。
+
+    全体の評価: 1.0+0.1×trust は trust が正負いずれの場合も 0.9 から 1.1 の範囲に収まる。 したがって、加速ゾーンにおける最大値 Bup​ は：
+    Bup​<6.0×1.1=6.6
+
+(C) 緊急制動ゾーン（Emergency Zone）: ∣σt​∣>0.75
+
+この領域では emoDrive = coeff となり、coeff = 1.0 - abs(scalar) と定義される。 ∣σt​∣∈(0.75,1.0) より、この領域の最小値 Blow​ は以下を満たす。
+0<Blow​≤0.25
+4. 結論
+
+以上の評価より、すべての領域において emoDrive は以下の有界性を満たすことが証明された。
+0<(1−∣σmax​∣)≤emoDrive≤6.6
+
+（※ ∣σt​∣ が 1 に漸近する場合でも、実装上の eps 等により正の微小値を維持する）
+
+この有界な乗法的係数の存在は、EmoNAVI が Adam 型の収束レート O(1/T​) を保持しつつ、定数倍の加速を実現するための数学的基盤である。
+
+
+ここまでを統合しまとめると、EmoNAVI は以下の 3 つの「知能」を単一の更新ループに閉じ込めていると言えます。
+
+    観測の知能 (Multi-EMA): 単一の点ではなく、時間軸の広がりの中で損失地形の「うねり」を捉える。
+
+    判断の知能 (Scalar & Trust): 捉えたうねりが「信頼できるトレンド」か「警戒すべきノイズ」かを非線形に判定する。
+
+    行動の知能 (emoDrive): 判定に基づき、COCOB や D-adapt のように「歩幅（Step-size）」を自律的に決定する。