debug

data/models/llama3-1-8b.py

@@ -1,4 +1,5 @@
 from flask import Flask, request, jsonify
+from huggingface_hub import login
 import spaces
 import transformers
 import torch
@@ -6,6 +7,9 @@ import torch
 # Initialize Flask app
 app = Flask(__name__)
 
+api_key = os.getenv("UCODE_SECRET")
+login(api_key)
+
 model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"
 
 pipeline = transformers.pipeline(