neo7team commited on
Commit
c63d462
·
verified ·
1 Parent(s): df7d643

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +15 -3
app.py CHANGED
@@ -1,16 +1,28 @@
1
  import gradio as gr
2
  import torch
3
  from transformers import AutoTokenizer, AutoModelForCausalLM
 
 
4
 
5
  # --- Konfigurasi ---
6
  # Gunakan ID model yang spesifik dari Hugging Face Hub
7
  model_id = "google/gemma-3n-E4B-it-litert-preview"
 
 
 
 
 
 
 
 
 
 
8
 
9
  # --- Muat Model dan Tokenizer ---
10
  # Proses ini hanya berjalan sekali saat aplikasi dimulai
11
  print("Memuat tokenizer...")
12
- # Memuat tokenizer yang sesuai dengan model
13
- tokenizer = AutoTokenizer.from_pretrained(model_id)
14
 
15
  print("Memuat model... Ini mungkin memakan waktu beberapa menit.")
16
  # Memuat model AI.
@@ -20,6 +32,7 @@ model = AutoModelForCausalLM.from_pretrained(
20
  model_id,
21
  torch_dtype=torch.bfloat16,
22
  device_map="auto",
 
23
  )
24
  print("Model berhasil dimuat!")
25
 
@@ -84,4 +97,3 @@ chatbot_ui = gr.ChatInterface(
84
  # --- Menjalankan Aplikasi ---
85
  if __name__ == "__main__":
86
  chatbot_ui.launch()
87
-
 
1
  import gradio as gr
2
  import torch
3
  from transformers import AutoTokenizer, AutoModelForCausalLM
4
+ import os
5
+ from huggingface_hub import login
6
 
7
  # --- Konfigurasi ---
8
  # Gunakan ID model yang spesifik dari Hugging Face Hub
9
  model_id = "google/gemma-3n-E4B-it-litert-preview"
10
+ # Dapatkan token dari Hugging Face Space Secrets
11
+ # Anda harus mengatur ini di pengaturan Space Anda!
12
+ hf_token = os.getenv("HF_TOKEN")
13
+
14
+ # Lakukan login menggunakan token jika tersedia
15
+ if hf_token:
16
+ print("Melakukan login ke Hugging Face Hub...")
17
+ login(token=hf_token)
18
+ else:
19
+ print("Peringatan: Secret HF_TOKEN tidak ditemukan. Proses unduh model mungkin gagal jika repo bersifat privat/gated.")
20
 
21
  # --- Muat Model dan Tokenizer ---
22
  # Proses ini hanya berjalan sekali saat aplikasi dimulai
23
  print("Memuat tokenizer...")
24
+ # Memuat tokenizer yang sesuai dengan model, menggunakan token untuk akses
25
+ tokenizer = AutoTokenizer.from_pretrained(model_id, token=hf_token)
26
 
27
  print("Memuat model... Ini mungkin memakan waktu beberapa menit.")
28
  # Memuat model AI.
 
32
  model_id,
33
  torch_dtype=torch.bfloat16,
34
  device_map="auto",
35
+ token=hf_token,
36
  )
37
  print("Model berhasil dimuat!")
38
 
 
97
  # --- Menjalankan Aplikasi ---
98
  if __name__ == "__main__":
99
  chatbot_ui.launch()