phamhoangf commited on
Commit
24dfae3
·
verified ·
1 Parent(s): 95c30e0

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +4 -3
app.py CHANGED
@@ -1,7 +1,7 @@
1
  import gradio as gr
2
  import torch
3
  from transformers import pipeline, AutoTokenizer
4
- import os # Thêm thư viện os
5
 
6
  # Lấy token từ secrets của Space
7
  hf_token = os.environ.get("HF_TOKEN")
@@ -13,13 +13,14 @@ model_id = "phamhoangf/struct-aware-baseline-qwen3-4b"
13
  # Sử dụng token để xác thực khi tải tokenizer
14
  tokenizer = AutoTokenizer.from_pretrained(model_id, token=hf_token)
15
 
16
- # Sử dụng token để xác thực khi tải model thông qua pipeline
 
17
  pipe = pipeline(
18
  "text-generation",
19
  model=model_id,
20
  torch_dtype=torch.bfloat16,
21
  device_map="auto",
22
- model_kwargs={"token": hf_token} # Rất quan trọng: truyền token cho model
23
  )
24
 
25
  def predict(message, history):
 
1
  import gradio as gr
2
  import torch
3
  from transformers import pipeline, AutoTokenizer
4
+ import os
5
 
6
  # Lấy token từ secrets của Space
7
  hf_token = os.environ.get("HF_TOKEN")
 
13
  # Sử dụng token để xác thực khi tải tokenizer
14
  tokenizer = AutoTokenizer.from_pretrained(model_id, token=hf_token)
15
 
16
+ # ---- SỬA LỖI ĐÂY ----
17
+ # Truyền token trực tiếp cho pipeline, không dùng model_kwargs
18
  pipe = pipeline(
19
  "text-generation",
20
  model=model_id,
21
  torch_dtype=torch.bfloat16,
22
  device_map="auto",
23
+ token=hf_token # Sửa từ 'model_kwargs' thành cách này
24
  )
25
 
26
  def predict(message, history):