Fedir-Ilina commited on
Commit
2e22656
·
verified ·
1 Parent(s): cc8390e

Upload app.py

Browse files
Files changed (1) hide show
  1. app.py +4 -11
app.py CHANGED
@@ -344,10 +344,9 @@ TOTAL_RAM_GB = psutil.virtual_memory().total / (1024 ** 3)
344
  # ===============================================================
345
  # Ajuste de performance (auto/manual)
346
  # ===============================================================
347
- OMP_THREADS_UTILIZATION = 0.98
348
  DETECTION_PERFORMANCE = "auto" # "auto" | "manual"
349
  CORES_UTILIZATION = 1.0
350
-
351
  # --------------------
352
  def compute_effective_cores(cpu_count: int, utilization: float) -> int:
353
  eff = int(math.floor(cpu_count * utilization))
@@ -355,7 +354,6 @@ def compute_effective_cores(cpu_count: int, utilization: float) -> int:
355
 
356
 
357
  EFFECTIVE_LOGICAL_CPUS = compute_effective_cores(LOGICAL_CPUS, CORES_UTILIZATION)
358
-
359
  # --------------------
360
  # --- Detectar núcleos P/E ---
361
  _DET_P_full, _DET_E_full, _META = detect_core_types() # Renomeado para indicar que são os full detections
@@ -364,8 +362,6 @@ _DET_P_full, _DET_E_full, _META = detect_core_types() # Renomeado para indicar
364
  _DET_P = [i for i in _DET_P_full if i < EFFECTIVE_LOGICAL_CPUS]
365
  _DET_E = [i for i in _DET_E_full if i < EFFECTIVE_LOGICAL_CPUS]
366
 
367
-
368
-
369
  # ===============================================================
370
  # Ajuste entre modo auto/manual (apenas meta-informação de arranque)
371
  # ===============================================================
@@ -555,7 +551,7 @@ BASE_BATCH_SIZE = 1 # Valor base para o batch size (red
555
  INITIAL_ACCUMULATION_MIN_STEPS = 2
556
  INITIAL_ACCUMULATION_MAX_STEPS = 4
557
  BASE_EVAL_SIZE = 5 # Batch size para avaliação (reduzido para CPU)
558
- BASE_LEARNING_RATE = 5e-5 # 2e-5
559
  LR_SCHEDULER_TYPE = "constant_with_warmup" # (HF: cosine + warmap) cosine
560
  WARMUP_RATIO = 0.03 # ~3% dos 4012 steps ≈ 120
561
  LOGGIN_STEPS = 5
@@ -846,9 +842,6 @@ def log_step(msg, step=None, percent=None):
846
  training_logs.append(f"{prefix} {msg}{progress}{pct}")
847
 
848
  #---------------------------------------------------------------
849
- # Pega o logger padrão do Python
850
- # logger = logging.getLogger(__name__) # (Comentado porque você usa funções customizadas)
851
- # Global trackers para o cálculo de tempo
852
  g_last_step_time = [time.time()]
853
  g_last_step_logged = [-1]
854
 
@@ -907,7 +900,7 @@ class SimpleStepTimerCallback(TrainerCallback):
907
  logging.info(f">> {msg}")
908
 
909
  # Opcional: Registar também na sua lista de logs geral, usando log_info.
910
- # log_info(msg)
911
 
912
  #----------------------------------------------------
913
  # Callback para logs detalhados do treino
@@ -1424,7 +1417,7 @@ def train_model_lora(
1424
  #gradient_checkpointing=True,
1425
  max_grad_norm=1.0,
1426
  report_to="none",
1427
- save_total_limit=3,
1428
  seed=42,
1429
  )
1430
  #------------------------------------------------------------
 
344
  # ===============================================================
345
  # Ajuste de performance (auto/manual)
346
  # ===============================================================
347
+ OMP_THREADS_UTILIZATION = 0.95
348
  DETECTION_PERFORMANCE = "auto" # "auto" | "manual"
349
  CORES_UTILIZATION = 1.0
 
350
  # --------------------
351
  def compute_effective_cores(cpu_count: int, utilization: float) -> int:
352
  eff = int(math.floor(cpu_count * utilization))
 
354
 
355
 
356
  EFFECTIVE_LOGICAL_CPUS = compute_effective_cores(LOGICAL_CPUS, CORES_UTILIZATION)
 
357
  # --------------------
358
  # --- Detectar núcleos P/E ---
359
  _DET_P_full, _DET_E_full, _META = detect_core_types() # Renomeado para indicar que são os full detections
 
362
  _DET_P = [i for i in _DET_P_full if i < EFFECTIVE_LOGICAL_CPUS]
363
  _DET_E = [i for i in _DET_E_full if i < EFFECTIVE_LOGICAL_CPUS]
364
 
 
 
365
  # ===============================================================
366
  # Ajuste entre modo auto/manual (apenas meta-informação de arranque)
367
  # ===============================================================
 
551
  INITIAL_ACCUMULATION_MIN_STEPS = 2
552
  INITIAL_ACCUMULATION_MAX_STEPS = 4
553
  BASE_EVAL_SIZE = 5 # Batch size para avaliação (reduzido para CPU)
554
+ BASE_LEARNING_RATE = 1e-4 # 2e-5
555
  LR_SCHEDULER_TYPE = "constant_with_warmup" # (HF: cosine + warmap) cosine
556
  WARMUP_RATIO = 0.03 # ~3% dos 4012 steps ≈ 120
557
  LOGGIN_STEPS = 5
 
842
  training_logs.append(f"{prefix} {msg}{progress}{pct}")
843
 
844
  #---------------------------------------------------------------
 
 
 
845
  g_last_step_time = [time.time()]
846
  g_last_step_logged = [-1]
847
 
 
900
  logging.info(f">> {msg}")
901
 
902
  # Opcional: Registar também na sua lista de logs geral, usando log_info.
903
+ log_info(msg)
904
 
905
  #----------------------------------------------------
906
  # Callback para logs detalhados do treino
 
1417
  #gradient_checkpointing=True,
1418
  max_grad_norm=1.0,
1419
  report_to="none",
1420
+ save_total_limit=0,
1421
  seed=42,
1422
  )
1423
  #------------------------------------------------------------