app.py

import gradio as gr
import os
os.environ["KERAS_BACKEND"] = "tensorflow"
import keras
import keras_nlp
import utils

from deep_translator import GoogleTranslator


# Модельді жүктеу
gemma_lm = keras_nlp.models.CausalLM.from_preset("hf://sultan-hassan/CosmoGemma_2b_en")
chat = utils.ChatState(gemma_lm)

def launch(message):
    try:
        # 1. Сұрақты ағылшын тіліне аудару
        message_en = GoogleTranslator(source='auto', target='en').translate(message)
        
        # 2. Модельге сұрақты жіберу
        response_en = chat.send_message(message_en)

        # 3. Жауапты қазақшаға аудару
        response_kk = GoogleTranslator(source='en', target='kk').translate(response_en)

        return response_kk
    except Exception as e:
        return f"Аударма немесе модельде қате орын алды: {str(e)}"

examples = [
    'Космологиядағы негізгі зерттеу әдістері қандай?',
    'Инфляциялық модельдерде қандай байланыстар инфляция параметрлерін болжауға әсер етеді?',
    'Астрономиядағы сигналдағы артық қуаттың себебі неде болуы мүмкін?',
]

iface = gr.Interface(launch,
                     inputs="text",
                     outputs="text",
                     examples=examples,
                     css=css,
                     title="CosmoGemma қазақша сөйлейді 👋",
                     description="CosmoGemma моделін қазақша сұрақтармен пайдаланыңыз, жауаптарды қазақша алыңыз.")

iface.launch()