app.py

from models import ModelChain
import gradio as gr

DEEPSEEK_MODEL = "deepseek/deepseek-r1:free"
GEMINI_MODEL = "google/gemini-2.0-flash-exp:free"
QWEN_MODEL="qwen/qwen2.5-vl-72b-instruct:free"

def get_models_response(models,user_input,system_prompt):
    if len(models) >1:
        return "Currently Unsupported"
    else:
        print(f"Reponse using model {models}")
        chain = ModelChain()
        if models[0]=="deepseek-r1":
            return chain.get_model_response(DEEPSEEK_MODEL,user_input,system_prompt)
        elif models[0]=="gemini-2.0-flash-exp":
            return chain.get_model_response(GEMINI_MODEL,user_input,system_prompt)
        elif models[0]=="qwen2.5-vl-72b-instruct":
            return chain.get_model_response(QWEN_MODEL,user_input,system_prompt)
        else:
            return "Current Unsupported"

def main():
    view = gr.Interface(
        fn= get_models_response,
        inputs = [gr.CheckboxGroup(["gemini-2.0-flash-exp","deepseek-r1","qwen2.5-vl-72b-instruct"], label = "Response model", value = "deepseek-r1"),gr.Textbox(label = "Your input",lines = 10, placeholder = "Nhập nội dung"), gr.Textbox(label = "Nhiệm vụ của Bot", placeholder = "Vd: bạn là một chuyên gia thương mại điện tử 10 năm kinh nghiệm hãy giúp tôi trả lời các câu hỏi sau")], 
        outputs = gr.Textbox(label ="Output", lines = 26),
        flagging_mode = "never",
        stop_btn = gr.Button("Stop",variant = "stop",visible = True),
    ).launch(share = True)

if __name__ == '__main__':
    main()