Update app.py

app.py

@@ -1,15 +1,25 @@
+import os
 import gradio as gr
 import torch
 from transformers import AutoModelForCausalLM, AutoTokenizer
 
-# Модель и токенизатор
+# Указание названия модели
 model_name = "cody82/innopolis_bot_model"
-tokenizer = AutoTokenizer.from_pretrained(model_name)
-model = AutoModelForCausalLM.from_pretrained(model_name)
+
+# Получение токена из переменной окружения
+hf_token = os.getenv("HUGGINGFACE_HUB_TOKEN")
+if hf_token is None:
+    raise ValueError("Переменная окружения HUGGINGFACE_HUB_TOKEN не установлена.")
+
+# Загрузка токенизатора и модели с авторизацией
+tokenizer = AutoTokenizer.from_pretrained(model_name, use_auth_token=hf_token)
+model = AutoModelForCausalLM.from_pretrained(model_name, use_auth_token=hf_token)
+
+# Использование CPU
 device = torch.device("cpu")
 model.to(device)
 
-# Обработчик сообщений (новый формат: messages)
+# Обработка входящих сообщений (новый формат: messages)
 def respond(message, history):
     full_input = ""
     for turn in history:
@@ -32,7 +42,7 @@ def respond(message, history):
     response = output_text.split("Assistant:")[-1].strip()
     return response
 
-# Gradio интерфейс
+# Интерфейс Gradio
 chat = gr.ChatInterface(
     fn=respond,
     chatbot=gr.Chatbot(label="Innopolis Bot", type="messages"),