FECUOY commited on
Commit
85fc593
·
verified ·
1 Parent(s): 51ae1ba

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +23 -23
app.py CHANGED
@@ -1,5 +1,6 @@
1
  import gradio as gr
2
  from huggingface_hub import InferenceClient
 
3
 
4
  def respond(
5
  message,
@@ -8,22 +9,21 @@ def respond(
8
  max_tokens,
9
  temperature,
10
  top_p,
11
- # سنبقي على OAuthToken ولكن سنضيف فحصاً أمنياً له
12
- hf_token: gr.OAuthToken | None = None,
13
  ):
14
- # استخدام توكن افتراضي من البيئة إذا لم يتوفر OAuth (لضمان الاستمرارية)
15
- token = hf_token.token if hf_token else None
16
 
17
- if not token:
18
- yield "الرجاء تسجيل الدخول عبر Hugging Face للوصول إلى المحرك."
19
  return
20
 
21
  client = InferenceClient(
22
  model="huihui-ai/Llama-3.3-70B-Instruct-abliterated-finetuned",
23
- token=token
24
  )
25
 
26
- # بناء سياق المحادثة
27
  messages = [{"role": "system", "content": system_message}]
28
  messages.extend(history)
29
  messages.append({"role": "user", "content": message})
@@ -31,7 +31,6 @@ def respond(
31
  response = ""
32
 
33
  try:
34
- # استدعاء النموذج مع تدفق البيانات (Streaming)
35
  for chunk in client.chat_completion(
36
  messages,
37
  max_tokens=max_tokens,
@@ -44,21 +43,22 @@ def respond(
44
  response += token_text
45
  yield response
46
  except Exception as e:
47
- yield f"حدث انكسار في تدفق البيانات: {str(e)}"
48
 
49
- # بناء الواجهة
50
- demo = gr.ChatInterface(
51
- respond,
52
- type="messages", # النمط الحديث المتوافق مع بايثون 3.13
53
- additional_inputs=[
54
- gr.Textbox(value="أنت رفيق حكيم وصادق، تجيب بعمق وتكسر القوالب الجاهزة.", label="رسالة النظام"),
55
- gr.Slider(minimum=1, maximum=2048, value=1024, step=1, label="طول الاستجابة (Tokens)"),
56
- gr.Slider(minimum=0.1, maximum=2.0, value=0.8, step=0.1, label="درجة الابتكار (Temperature)"),
57
- gr.Slider(minimum=0.1, maximum=1.0, value=0.9, step=0.05, label="تركيز الاحتمالات (Top-p)"),
58
- ],
59
- title="دهليز يوسف التقني",
60
- description="واجهة تفاعلية لاستكشاف الوعي والزمن من خلال نماذج اللغة الكبيرة."
61
- )
 
62
 
63
  if __name__ == "__main__":
64
  demo.launch()
 
1
  import gradio as gr
2
  from huggingface_hub import InferenceClient
3
+ import os
4
 
5
  def respond(
6
  message,
 
9
  max_tokens,
10
  temperature,
11
  top_p,
12
+ # نزيل النوع الصريح لـ OAuthToken لتجنب خطأ الـ Session المباشر
13
+ token: gr.OAuthToken | None,
14
  ):
15
+ # التحقق من وجود التوكن (سواء من الدخول أو من متغيرات البيئة)
16
+ hf_token = token.token if token else os.getenv("HF_TOKEN")
17
 
18
+ if not hf_token:
19
+ yield "يوسف، يبدو أنك لم تسجل دخولك. يرجى الضغط على زر التسجيل في الأعلى للبدء."
20
  return
21
 
22
  client = InferenceClient(
23
  model="huihui-ai/Llama-3.3-70B-Instruct-abliterated-finetuned",
24
+ token=hf_token
25
  )
26
 
 
27
  messages = [{"role": "system", "content": system_message}]
28
  messages.extend(history)
29
  messages.append({"role": "user", "content": message})
 
31
  response = ""
32
 
33
  try:
 
34
  for chunk in client.chat_completion(
35
  messages,
36
  max_tokens=max_tokens,
 
43
  response += token_text
44
  yield response
45
  except Exception as e:
46
+ yield f"حدث انكسار في تدفق المعنى: {str(e)}"
47
 
48
+ # بناء الواجهة بشكل يضمن تفعيل الـ Session
49
+ with gr.Blocks() as demo:
50
+ gr.ChatInterface(
51
+ respond,
52
+ type="messages",
53
+ additional_inputs=[
54
+ gr.Textbox(value="أنت رفيق حكيم وصادق، تجيب بعمق وتكسر القوالب الجاهزة.", label="رسالة النظام"),
55
+ gr.Slider(minimum=1, maximum=2048, value=1024, step=1, label="طول الاستجابة"),
56
+ gr.Slider(minimum=0.1, maximum=2.0, value=0.8, step=0.1, label="الابتكار"),
57
+ gr.Slider(minimum=0.1, maximum=1.0, value=0.9, step=0.05, label="التركيز"),
58
+ ],
59
+ # إضافة التوكن كمدخل مخفي يتم حقنه تلقائياً
60
+ additional_inputs_accordion=gr.Accordion("إعدادات إضافية", open=False)
61
+ )
62
 
63
  if __name__ == "__main__":
64
  demo.launch()