app.py

# imports
import gradio as gr
import requests
import json
import os


# functions
def generate(description):
    if not description:
        return None, None

    headers = {
        'Content-Type': 'application/json',
        'Authorization': f'Bearer {os.getenv("API_KEY")}'
    }

    payload = {
        'messages': [{'role': 'system', 'content': f'Ты - Мастер аниме. Тебе задают параметры, а ты должен будешь найти аниме по параметрам. Аниме нужны с минимум 2020 года. Ищеш классные аниме. Только те, у которых есть перевод на русс (даже не официальный, любой то есть перевод). Пиши описания аниме, но кратко. Можно приводить сразу несколько аниме. Не в коем случае не пиши чтото подобное \"Конечно, вот вниме по параметррам, года выпуска более 2020\" или в конце нельзя \"Эти аниме подойдут тем, кто ищет истории о подростковой любви с различными нюансами отношений и эмоций.\". То есть только список, без лишнего текста'}, {'role': 'system', 'content': description}],
        'max_tokens': 3000,
        'model': "gpt-4-1106-preview"
    }

    while True:
        response = requests.post(os.getenv("BASE_URL"), headers=headers, json=payload)
        data = json.loads(response.text)

        if 'choices' in data and len(data['choices']) > 0:
            command = data['choices'][0]['message']['content'].strip()
            print("Генерация успешна")
            return command
        elif 'error' in data:
            error_message = data['error']['message']
            print(f'Ошибка: {error_message}')
            return f"**Ошибка сервера!**\n\n```\n{error_message}\n```"
        else:
            print(f'Не удалось сгенерировать текст. Повторите попытку позже...')
            return "**Неизвестная ошибка!**"


# css
css = """
footer {visibility: hidden !important;}
"""


# ui
with gr.Blocks(css=css, theme="YTheme/Anime") as vui:
    with gr.Tab("Поиск Аниме", id='request v'):
        with gr.Row():
            with gr.Column(scale=3):
                promt = gr.Textbox(show_label=True, label="Какое аниме вам нужно?", lines=3)
    with gr.Column():
        text_button = gr.Button("Найти", variant='primary', elem_id="generate")
    with gr.Column():
        text_output = gr.Markdown()
    text_button.click(generate, inputs=[promt], outputs=[text_output], concurrency_limit=200)

#end
vui.queue(api_open=False).launch()