Update app.py

app.py

@@ -2,6 +2,7 @@ import os
 import json
 import random
 import asyncio
+from concurrent.futures import ThreadPoolExecutor
 from fastapi import FastAPI, HTTPException
 from fastapi.responses import HTMLResponse, JSONResponse
 from pydantic import BaseModel
@@ -22,6 +23,9 @@ if GEMINI_KEYS:
 else:
     print("هشدار: هیچ کلید جیمینای یافت نشد.")
 
+# 2. ایجاد ThreadPool برای اجرای موازی درخواست‌ها (دست‌های زیاد)
+executor = ThreadPoolExecutor(max_workers=10)
+
 class IdeaRequest(BaseModel):
     idea: str
 
@@ -33,85 +37,85 @@ async def read_root():
     except FileNotFoundError:
         return "<h1>Error: index.html not found</h1>"
 
-@app.post("/api/refine")
-async def refine_text(request: IdeaRequest):
-    # اگر کلاً کلیدی وجود ندارد، خطا بده
-    if not GEMINI_KEYS:
-        raise HTTPException(status_code=500, detail="کلید API تنظیم نشده است.")
-
-    # 2. تنظیمات تلاش مجدد
-    # ما حداکثر 60 بار تلاش می‌کنیم (حدود 1 دقیقه در بدترین حالت)
-    # این کار باعث می‌شود اگر اکثر کلیدها 429 بودند، سرور بی‌نهایت درگیر نماند
-    max_retries = 60
+def sync_generate_content(prompt):
+    """
+    این تابع همگام است و در یک ترد جداگانه اجرا می‌شود تا سرور اصلی را قفل نکند.
+    تلاش می‌کند تا 100 بار با کلیدهای مختلف محتوا تولید کند.
+    """
+    max_retries = 100  # درخواست شما: 100 بار تلاش تصادفی
     
-    last_error = None
-
-    for attempt in range(max_retries):
+    for _ in range(max_retries):
         try:
-            # 3. انتخاب کاملاً تصادفی یک کلید در هر بار تلاش
-            # کلید از لیست حذف نمی‌شود، فقط خوانده می‌شود
+            # انتخاب کاملاً تصادفی یک کلید در هر بار تلاش
             current_key = random.choice(GEMINI_KEYS)
             
             genai.configure(api_key=current_key)
             model = genai.GenerativeModel('gemini-2.5-flash')
-
-            prompt = f"""
-            You are a professional songwriter and music producer.
-            Task: Convert the user's input into a COMPLETE song structure and a music generation prompt.
-
-            1. **Music Prompt (English):** Describe the mood, instruments, BPM, and style suitable for an AI music generator.
             
-            2. **Lyrics (Match User's Language):**
-            - **Language Detection:** Detect the language of the "User Input".
-            - **Write the lyrics entirely in that detected language.**
-            - The song MUST be long enough for **3 to 5 minutes**.
-            - If the language is Persian/Arabic, do **NOT** use diacritics (اعراب نگذار).
-            - You MUST use the following structure tags exactly:
-                [Verse 1]
-                [Pre-Chorus]
-                [Chorus]
-                [Verse 2]
-                [Chorus]
-                [Bridge]
-                [Guitar Solo]
-                [Chorus]
-                [Outro]
+            # تولید محتوا (این عملیات ممکن است طول بکشد)
+            response = model.generate_content(prompt)
             
-            **CRITICAL RULES FOR LYRICS content:**
-            - The "lyrics" field must contain **ONLY the words to be sung**.
-            - **ABSOLUTELY NO** descriptive text inside the lyrics.
-            - For instrumental sections, leave the content empty.
-
-            Output strictly in JSON format:
-            {{
-                "music_prompt": "YOUR ENGLISH PROMPT HERE",
-                "lyrics": "YOUR FULL LYRICS HERE"
-            }}
-
-            User Input: {request.idea}
-            """
-            
-            # 4. استفاده از متد Async (دست‌های زیاد)
-            # این خط کلیدی است: باعث می‌شود سرور منتظر نماند و همزمان درخواست بقیه را بگیرد
-            result = await model.generate_content_async(prompt)
-            
-            clean_json = result.text.replace("```json", "").replace("```", "").strip()
+            clean_json = response.text.replace("```json", "").replace("```", "").strip()
             data = json.loads(clean_json)
             
-            # اگر موفق شد، نتیجه را برگردان و تمام
-            return JSONResponse(content=data)
+            return data  # موفقیت! خروجی را برگردان
 
         except Exception as e:
-            last_error = e
-            # خطای کوتاه در لاگ (برای جلوگیری از شلوغی)
-            # print(f"Attempt {attempt+1} failed with key ...{current_key[-4:]}: {str(e)[:50]}...")
-            
-            # 5. وقفه کوتاه بسیار مهم
-            # این وقفه (0.05 ثانیه) باعث می‌شود CPU درگیر حلقه‌های تند نشود
-            # و به "دست‌های دیگر" فرصت کار می‌دهد
-            await asyncio.sleep(0.05)
+            # خطا را نادیده بگیر و دوباره تلاش کن (حلقه بعدی)
+            # print(f"Key failed: {str(e)[:50]}...")
             continue
+            
+    # اگر بعد از 100 تلاش نشد
+    return None
+
+@app.post("/api/refine")
+async def refine_text(request: IdeaRequest):
+    if not GEMINI_KEYS:
+        raise HTTPException(status_code=500, detail="کلید API تنظیم نشده است.")
+
+    prompt = f"""
+    You are a professional songwriter and music producer.
+    Task: Convert the user's input into a COMPLETE song structure and a music generation prompt.
 
-    # اگر بعد از 60 تلاش شانسی موفق نشدیم
-    print("تمام تلاش‌ها ناموفق بود. ترافیک بالا یا اعتبار تمام .")
-    return JSONResponse(content={"error": "Server is busy, please try again."}, status_code=503)
+    1. **Music Prompt (English):** Describe the mood, instruments, BPM, and style suitable for an AI music generator.
+    
+    2. **Lyrics (Match User's Language):**
+    - **Language Detection:** Detect the language of the "User Input".
+    - **Write the lyrics entirely in that detected language.**
+    - The song MUST be long enough for **3 to 5 minutes**.
+    - If the language is Persian/Arabic, do **NOT** use diacritics (اعراب نگذار).
+    - You MUST use the following structure tags exactly:
+        [Verse 1]
+        [Pre-Chorus]
+        [Chorus]
+        [Verse 2]
+        [Chorus]
+        [Bridge]
+        [Guitar Solo]
+        [Chorus]
+        [Outro]
+    
+    **CRITICAL RULES FOR LYRICS content:**
+    - The "lyrics" field must contain **ONLY the words to be sung**.
+    - **ABSOLUTELY NO** descriptive text inside the lyrics.
+    - For instrumental sections, leave the content empty.
+
+    Output strictly in JSON format:
+    {{
+        "music_prompt": "YOUR ENGLISH PROMPT HERE",
+        "lyrics": "YOUR FULL LYRICS HERE"
+    }}
+
+    User Input: {request.idea}
+    """
+    
+    # 3. اجرای درخواست سنگین در پس‌زمینه (Non-blocking)
+    # این باعث می‌شود سرور اصلی آزاد باشد و بتواند درخواست‌های جدید بگیرد
+    loop = asyncio.get_running_loop()
+    result = await loop.run_in_executor(executor, sync_generate_content, prompt)
+    
+    if result:
+        return JSONResponse(content=result)
+    else:
+        # اگر بعد از 100 تلاش هیچ کلیدی کار نکرد
+        return JSONResponse(content={"error": "Server busy (100 retries failed). Please try again later."}, status_code=503)