appOld.py

import gradio as gr
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

# تحميل النموذج والتوكنايزر
model_name = "methodya/1stapproachDeepsekPhilo_v2"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    device_map=None,  # تعطيل device_map
    torch_dtype=torch.float32,  # استخدام float32 بدل float16
    use_safetensors=True,  # استخدام safetensors بدل pytorch
    low_cpu_mem_usage=False  # تعطيل low_cpu_mem_usage
)

def generate_response(prompt):
    system_prompt = "أنت مساعد متخصص في الفلسفة، تجيب عن الأسئلة بدقة وعمق، مع ربط المفاهيم ببعضها عند الحاجة."
    full_prompt = f"{system_prompt}\n\nالسؤال: {prompt}\n\nالجواب:"
    
    inputs = tokenizer(full_prompt, return_tensors="pt")
    
    outputs = model.generate(
        **inputs,
        max_length=512,
        num_return_sequences=1,
        temperature=0.7,
        no_repeat_ngram_size=2,
        pad_token_id=tokenizer.eos_token_id
    )
    
    response = tokenizer.decode(outputs[0], skip_special_tokens=True)
    response = response.split("الجواب:")[-1].strip()
    
    return response

iface = gr.Interface(
    fn=generate_response,
    inputs=gr.Textbox(placeholder="اكتب سؤالك الفلسفي هنا..."),
    outputs="text",
    title="المساعد الفلسفي",
    description="نموذج متخصص في الإجابة عن الأسئلة الفلسفية باللغة العربية"
)

iface.launch()