Daniel251's picture
Create model_loader.py
0a586f7 verified
Raw
History Blame Contribute Delete
905 Bytes
"""
Otimizador de carregamento de modelos para Hugging Face Spaces
"""
import os
import torch
from huggingface_hub import snapshot_download
class ModelOptimizer:
"""Otimiza o carregamento de modelos para espaços com recursos limitados"""
@staticmethod
def setup_models():
"""Configura modelos de forma otimizada"""
# Configurar para usar CPU se GPU não estiver disponível
device = "cuda" if torch.cuda.is_available() else "cpu"
# Configurações de otimização de memória
if device == "cpu":
os.environ["OMP_NUM_THREADS"] = "1"
torch.set_num_threads(1)
return device
# Pré-download de modelos para deploy mais rápido
if __name__ == "__main__":
print("📥 Pré-carregando modelos para otimização...")
ModelOptimizer.setup_models()
print("✅ Modelos otimizados com sucesso!")