Spaces:
Sleeping
Sleeping
Upload app.py
Browse files
app.py
CHANGED
|
@@ -344,10 +344,9 @@ TOTAL_RAM_GB = psutil.virtual_memory().total / (1024 ** 3)
|
|
| 344 |
# ===============================================================
|
| 345 |
# Ajuste de performance (auto/manual)
|
| 346 |
# ===============================================================
|
| 347 |
-
OMP_THREADS_UTILIZATION = 0.
|
| 348 |
DETECTION_PERFORMANCE = "auto" # "auto" | "manual"
|
| 349 |
CORES_UTILIZATION = 1.0
|
| 350 |
-
|
| 351 |
# --------------------
|
| 352 |
def compute_effective_cores(cpu_count: int, utilization: float) -> int:
|
| 353 |
eff = int(math.floor(cpu_count * utilization))
|
|
@@ -355,7 +354,6 @@ def compute_effective_cores(cpu_count: int, utilization: float) -> int:
|
|
| 355 |
|
| 356 |
|
| 357 |
EFFECTIVE_LOGICAL_CPUS = compute_effective_cores(LOGICAL_CPUS, CORES_UTILIZATION)
|
| 358 |
-
|
| 359 |
# --------------------
|
| 360 |
# --- Detectar núcleos P/E ---
|
| 361 |
_DET_P_full, _DET_E_full, _META = detect_core_types() # Renomeado para indicar que são os full detections
|
|
@@ -364,8 +362,6 @@ _DET_P_full, _DET_E_full, _META = detect_core_types() # Renomeado para indicar
|
|
| 364 |
_DET_P = [i for i in _DET_P_full if i < EFFECTIVE_LOGICAL_CPUS]
|
| 365 |
_DET_E = [i for i in _DET_E_full if i < EFFECTIVE_LOGICAL_CPUS]
|
| 366 |
|
| 367 |
-
|
| 368 |
-
|
| 369 |
# ===============================================================
|
| 370 |
# Ajuste entre modo auto/manual (apenas meta-informação de arranque)
|
| 371 |
# ===============================================================
|
|
@@ -555,7 +551,7 @@ BASE_BATCH_SIZE = 1 # Valor base para o batch size (red
|
|
| 555 |
INITIAL_ACCUMULATION_MIN_STEPS = 2
|
| 556 |
INITIAL_ACCUMULATION_MAX_STEPS = 4
|
| 557 |
BASE_EVAL_SIZE = 5 # Batch size para avaliação (reduzido para CPU)
|
| 558 |
-
BASE_LEARNING_RATE =
|
| 559 |
LR_SCHEDULER_TYPE = "constant_with_warmup" # (HF: cosine + warmap) cosine
|
| 560 |
WARMUP_RATIO = 0.03 # ~3% dos 4012 steps ≈ 120
|
| 561 |
LOGGIN_STEPS = 5
|
|
@@ -846,9 +842,6 @@ def log_step(msg, step=None, percent=None):
|
|
| 846 |
training_logs.append(f"{prefix} {msg}{progress}{pct}")
|
| 847 |
|
| 848 |
#---------------------------------------------------------------
|
| 849 |
-
# Pega o logger padrão do Python
|
| 850 |
-
# logger = logging.getLogger(__name__) # (Comentado porque você usa funções customizadas)
|
| 851 |
-
# Global trackers para o cálculo de tempo
|
| 852 |
g_last_step_time = [time.time()]
|
| 853 |
g_last_step_logged = [-1]
|
| 854 |
|
|
@@ -907,7 +900,7 @@ class SimpleStepTimerCallback(TrainerCallback):
|
|
| 907 |
logging.info(f">> {msg}")
|
| 908 |
|
| 909 |
# Opcional: Registar também na sua lista de logs geral, usando log_info.
|
| 910 |
-
|
| 911 |
|
| 912 |
#----------------------------------------------------
|
| 913 |
# Callback para logs detalhados do treino
|
|
@@ -1424,7 +1417,7 @@ def train_model_lora(
|
|
| 1424 |
#gradient_checkpointing=True,
|
| 1425 |
max_grad_norm=1.0,
|
| 1426 |
report_to="none",
|
| 1427 |
-
save_total_limit=
|
| 1428 |
seed=42,
|
| 1429 |
)
|
| 1430 |
#------------------------------------------------------------
|
|
|
|
| 344 |
# ===============================================================
|
| 345 |
# Ajuste de performance (auto/manual)
|
| 346 |
# ===============================================================
|
| 347 |
+
OMP_THREADS_UTILIZATION = 0.95
|
| 348 |
DETECTION_PERFORMANCE = "auto" # "auto" | "manual"
|
| 349 |
CORES_UTILIZATION = 1.0
|
|
|
|
| 350 |
# --------------------
|
| 351 |
def compute_effective_cores(cpu_count: int, utilization: float) -> int:
|
| 352 |
eff = int(math.floor(cpu_count * utilization))
|
|
|
|
| 354 |
|
| 355 |
|
| 356 |
EFFECTIVE_LOGICAL_CPUS = compute_effective_cores(LOGICAL_CPUS, CORES_UTILIZATION)
|
|
|
|
| 357 |
# --------------------
|
| 358 |
# --- Detectar núcleos P/E ---
|
| 359 |
_DET_P_full, _DET_E_full, _META = detect_core_types() # Renomeado para indicar que são os full detections
|
|
|
|
| 362 |
_DET_P = [i for i in _DET_P_full if i < EFFECTIVE_LOGICAL_CPUS]
|
| 363 |
_DET_E = [i for i in _DET_E_full if i < EFFECTIVE_LOGICAL_CPUS]
|
| 364 |
|
|
|
|
|
|
|
| 365 |
# ===============================================================
|
| 366 |
# Ajuste entre modo auto/manual (apenas meta-informação de arranque)
|
| 367 |
# ===============================================================
|
|
|
|
| 551 |
INITIAL_ACCUMULATION_MIN_STEPS = 2
|
| 552 |
INITIAL_ACCUMULATION_MAX_STEPS = 4
|
| 553 |
BASE_EVAL_SIZE = 5 # Batch size para avaliação (reduzido para CPU)
|
| 554 |
+
BASE_LEARNING_RATE = 1e-4 # 2e-5
|
| 555 |
LR_SCHEDULER_TYPE = "constant_with_warmup" # (HF: cosine + warmap) cosine
|
| 556 |
WARMUP_RATIO = 0.03 # ~3% dos 4012 steps ≈ 120
|
| 557 |
LOGGIN_STEPS = 5
|
|
|
|
| 842 |
training_logs.append(f"{prefix} {msg}{progress}{pct}")
|
| 843 |
|
| 844 |
#---------------------------------------------------------------
|
|
|
|
|
|
|
|
|
|
| 845 |
g_last_step_time = [time.time()]
|
| 846 |
g_last_step_logged = [-1]
|
| 847 |
|
|
|
|
| 900 |
logging.info(f">> {msg}")
|
| 901 |
|
| 902 |
# Opcional: Registar também na sua lista de logs geral, usando log_info.
|
| 903 |
+
log_info(msg)
|
| 904 |
|
| 905 |
#----------------------------------------------------
|
| 906 |
# Callback para logs detalhados do treino
|
|
|
|
| 1417 |
#gradient_checkpointing=True,
|
| 1418 |
max_grad_norm=1.0,
|
| 1419 |
report_to="none",
|
| 1420 |
+
save_total_limit=0,
|
| 1421 |
seed=42,
|
| 1422 |
)
|
| 1423 |
#------------------------------------------------------------
|