NV9523 commited on
Commit
d212143
·
verified ·
1 Parent(s): 40e582c

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +7 -3
app.py CHANGED
@@ -7,7 +7,7 @@ import gradio as gr
7
  # 🔑 Lấy token từ Secret
8
  HF_TOKEN = os.environ.get("HF_KEY")
9
 
10
- # 🔐 Login HF Hub (tương tự như chạy "huggingface-cli login")
11
  if HF_TOKEN:
12
  print("🔑 Đang đăng nhập Hugging Face Hub...")
13
  login(token=HF_TOKEN)
@@ -15,16 +15,20 @@ if HF_TOKEN:
15
  else:
16
  print("⚠️ Không tìm thấy HF_KEY trong Secrets!")
17
 
18
- # 🚀 Load model
19
  model_id = "meta-llama/Llama-3.2-1B-Instruct"
20
 
21
- tokenizer = AutoTokenizer.from_pretrained(model_id, use_auth_token=True)
 
22
  model = AutoModelForCausalLM.from_pretrained(
23
  model_id,
 
 
24
  torch_dtype=torch.float32,
25
  low_cpu_mem_usage=True,
26
  device_map="cpu"
27
  )
 
28
 
29
  pipe = pipeline(
30
  "text-generation",
 
7
  # 🔑 Lấy token từ Secret
8
  HF_TOKEN = os.environ.get("HF_KEY")
9
 
10
+ # 🔐 Login Hugging Face Hub
11
  if HF_TOKEN:
12
  print("🔑 Đang đăng nhập Hugging Face Hub...")
13
  login(token=HF_TOKEN)
 
15
  else:
16
  print("⚠️ Không tìm thấy HF_KEY trong Secrets!")
17
 
18
+ # 🚀 Load model với key
19
  model_id = "meta-llama/Llama-3.2-1B-Instruct"
20
 
21
+ print("⏳ Đang tải tokenizer & model...")
22
+ tokenizer = AutoTokenizer.from_pretrained(model_id, token=HF_TOKEN, use_auth_token=HF_TOKEN)
23
  model = AutoModelForCausalLM.from_pretrained(
24
  model_id,
25
+ token=HF_TOKEN,
26
+ use_auth_token=HF_TOKEN,
27
  torch_dtype=torch.float32,
28
  low_cpu_mem_usage=True,
29
  device_map="cpu"
30
  )
31
+ print("✅ Model đã load xong!")
32
 
33
  pipe = pipeline(
34
  "text-generation",