Upload app.py with huggingface_hub

app.py

@@ -4,6 +4,7 @@ import os
 import fastapi
 import uvicorn
 
+# --- Конфигурация ---
 # Системный промпт для настройки поведения модели
 SYSTEM_PROMPT = """
 You are a world-class expert in Linux system administration.
@@ -18,37 +19,56 @@ User: list all running docker containers
 You: docker ps
 """
 
-# Используем модель Meta Llama 3 70B - одна из лучших на данный момент
+# Модель для генерации команд
 MODEL = "meta-llama/Meta-Llama-3-70B-Instruct"
 
-def generate_command(user_request, hf_token):
+# Путь к файлу для долгосрочного хранения токена в постоянном хранилище Hugging Face
+TOKEN_FILE_PATH = "/data/hf_token.txt"
+
+
+# --- Логика приложения ---
+def generate_command(user_request, hf_token_from_input):
     """
-    Обращается к Hugging Face Inference API для генерации команды.
+    Генерирует команду, используя токен из поля ввода или из сохраненного файла.
+    При успешном использовании нового токена, сохраняет его.
     """
+    saved_token = None
+    # Пробуем прочитать сохраненный токен
+    if os.path.exists(TOKEN_FILE_PATH):
+        with open(TOKEN_FILE_PATH, "r") as f:
+            saved_token = f.read().strip()
+
+    # Приоритет отдается токену, введенному в поле. Если поле пустое, используется сохраненный.
+    token_to_use = hf_token_from_input if hf_token_from_input else saved_token
+
+    # Проверки
     if not user_request:
         return "Ошибка: Запрос не может быть пустым."
-    if not hf_token:
-        return "Ошибка: Hugging Face Token не может быть пустым. Его можно получить в настройках вашего профиля Hugging Face."
+    if not token_to_use:
+        return "Ошибка: Токен не найден. Введите его в поле выше и он сохранится для будущих сессий."
 
     try:
-        client = InferenceClient(model=MODEL, token=hf_token)
-        
-        # Формируем сообщения для модели
+        # Выполняем запрос к API
+        client = InferenceClient(model=MODEL, token=token_to_use)
         messages = [
             {"role": "system", "content": SYSTEM_PROMPT},
             {"role": "user", "content": user_request},
         ]
-
-        # Выполняем запрос к API
         response = client.chat_completion(
             messages=messages,
             max_tokens=200,
-            temperature=0.1, # Низкая температура для более предсказуемых и точных команд
+            temperature=0.1,
         )
-        
         command = response.choices[0].message.content.strip()
+
+        # --- Успешное выполнение ---
+        # Если был введен НОВЫЙ и ВАЛИДНЫЙ токен, сохраняем его в постоянное хранилище
+        if hf_token_from_input and hf_token_from_input == token_to_use:
+            os.makedirs(os.path.dirname(TOKEN_FILE_PATH), exist_ok=True)
+            with open(TOKEN_FILE_PATH, "w") as f:
+                f.write(hf_token_from_input)
         
-        # Дополнительная очистка, чтобы убрать возможные артефакты
+        # Очистка вывода от артефактов
         if command.startswith("`") and command.endswith("`"):
             command = command[1:-1]
         if command.startswith("bash\n"):
@@ -57,10 +77,11 @@ def generate_command(user_request, hf_token):
         return command
 
     except Exception as e:
-        # Возвращаем более детальную ошибку для отладки
+        # При ошибке пользователь увидит сообщение и сможет ввести новый (правильный) токен
         return f"Произошла ошибка API: {str(e)}"
 
-# Создаем интерфейс Gradio
+
+# --- Интерфейс Gradio ---
 with gr.Blocks() as demo:
     gr.Markdown(
         """
@@ -72,9 +93,9 @@ with gr.Blocks() as demo:
     
     hf_token_input = gr.Textbox(
         label="Hugging Face User Access Token",
-        placeholder="Введите ваш токен HF (начинается с hf_...)",
+        placeholder="Оставьте пустым для использования сохраненного токена",
         type="password",
-        info="Нужен для доступа к API. Можно создать в Settings -> Access Tokens вашего профиля."
+        info="Если ввести здесь новый токен, он сохранится для будущих сессий после успешной генерации команды."
     )
     
     user_input = gr.Textbox(label="Ваш запрос", placeholder="Например: 'покажи все файлы в текущей папке, отсортированные по размеру'", lines=3)
@@ -96,19 +117,15 @@ with gr.Blocks() as demo:
         """
     )
 
-# Создаем FastAPI приложение
+
+# --- Запуск приложения ---
 app = fastapi.FastAPI()
 
-# Добавляем эндпоинт для health check от Hugging Face
 @app.get("/health")
 def health_check():
     return {"status": "ok"}
 
-# Монтируем Gradio приложение в FastAPI.
-# Hugging Face будет запускать этот объект 'app'.
 app = gr.mount_gradio_app(app, demo, path="/")
 
-# Этот блок теперь будет использовать uvicorn для локального запуска,
-# что более точно имитирует среду выполнения Hugging Face.
 if __name__ == "__main__":
-    uvicorn.run(app, host="0.0.0.0", port=7860)
+    uvicorn.run(app, host="0.0.0.0", port=7860)