Spaces:
Runtime error
Runtime error
Update app.py
Browse files
app.py
CHANGED
|
@@ -7,7 +7,7 @@ import gradio as gr
|
|
| 7 |
# 🔑 Lấy token từ Secret
|
| 8 |
HF_TOKEN = os.environ.get("HF_KEY")
|
| 9 |
|
| 10 |
-
# 🔐 Login
|
| 11 |
if HF_TOKEN:
|
| 12 |
print("🔑 Đang đăng nhập Hugging Face Hub...")
|
| 13 |
login(token=HF_TOKEN)
|
|
@@ -15,16 +15,20 @@ if HF_TOKEN:
|
|
| 15 |
else:
|
| 16 |
print("⚠️ Không tìm thấy HF_KEY trong Secrets!")
|
| 17 |
|
| 18 |
-
# 🚀 Load model
|
| 19 |
model_id = "meta-llama/Llama-3.2-1B-Instruct"
|
| 20 |
|
| 21 |
-
tokenizer
|
|
|
|
| 22 |
model = AutoModelForCausalLM.from_pretrained(
|
| 23 |
model_id,
|
|
|
|
|
|
|
| 24 |
torch_dtype=torch.float32,
|
| 25 |
low_cpu_mem_usage=True,
|
| 26 |
device_map="cpu"
|
| 27 |
)
|
|
|
|
| 28 |
|
| 29 |
pipe = pipeline(
|
| 30 |
"text-generation",
|
|
|
|
| 7 |
# 🔑 Lấy token từ Secret
|
| 8 |
HF_TOKEN = os.environ.get("HF_KEY")
|
| 9 |
|
| 10 |
+
# 🔐 Login Hugging Face Hub
|
| 11 |
if HF_TOKEN:
|
| 12 |
print("🔑 Đang đăng nhập Hugging Face Hub...")
|
| 13 |
login(token=HF_TOKEN)
|
|
|
|
| 15 |
else:
|
| 16 |
print("⚠️ Không tìm thấy HF_KEY trong Secrets!")
|
| 17 |
|
| 18 |
+
# 🚀 Load model với key
|
| 19 |
model_id = "meta-llama/Llama-3.2-1B-Instruct"
|
| 20 |
|
| 21 |
+
print("⏳ Đang tải tokenizer & model...")
|
| 22 |
+
tokenizer = AutoTokenizer.from_pretrained(model_id, token=HF_TOKEN, use_auth_token=HF_TOKEN)
|
| 23 |
model = AutoModelForCausalLM.from_pretrained(
|
| 24 |
model_id,
|
| 25 |
+
token=HF_TOKEN,
|
| 26 |
+
use_auth_token=HF_TOKEN,
|
| 27 |
torch_dtype=torch.float32,
|
| 28 |
low_cpu_mem_usage=True,
|
| 29 |
device_map="cpu"
|
| 30 |
)
|
| 31 |
+
print("✅ Model đã load xong!")
|
| 32 |
|
| 33 |
pipe = pipeline(
|
| 34 |
"text-generation",
|