Akdenizz commited on
Commit
77826e0
·
verified ·
1 Parent(s): 99ec789

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +86 -87
app.py CHANGED
@@ -1,98 +1,97 @@
1
  # Gerekli Python kütüphanelerini dahil ediyoruz.
2
- from transformers import AutoTokenizer, AutoModelForCausalLM
3
- import torch
4
- import gradio as gr
5
- import os
6
 
7
- # Kullanacağımız DeepSeek Coder modelinin adını belirliyoruz.
8
- model_name = "deepseek-ai/deepseek-coder-6.7b-base"
9
 
10
- print(f"'{model_name}' modeli yükleniyor... Bu işlem biraz zaman alabilir.")
11
 
12
- # Modeli ve tokenlaştırıcısını yüklüyoruz.
13
- # Hugging Face Spaces ortamında GPU'ya otomatik yerleştirme daha sorunsuz çalışır.
14
- try:
15
- tokenizer = AutoTokenizer.from_pretrained(model_name)
16
- model = AutoModelForCausalLM.from_pretrained(
17
- model_name,
18
- torch_dtype=torch.bfloat16, # Bellek verimliliği için
19
- device_map="auto" # Otomatik GPU kullanımı
20
- )
21
- print(f"'{model_name}' modeli başarıyla yüklendi!")
22
- except Exception as e:
23
- print(f"Model yüklenirken bir hata oluştu: {e}")
24
- print("Lütfen Space ayarlarınızda yeterli donanım (GPU) seçili olduğundan emin olun.")
25
- # Hata durumunda uygulamanın durması için hata fırlatabiliriz.
26
- raise e
27
 
28
- # Adel'in kod üretme fonksiyonu
29
- def generate_code_with_deepseek(
30
- prompt: str,
31
- max_length: int = 1000,
32
- selected_model: str = "deepseek-coder",
33
- system_prompt: str = "",
34
- temperature: float = 0.4
35
- ) -> str:
36
- """
37
- DeepSeek Coder modelini kullanarak Python kodu üretir.
38
- """
39
- full_prompt = f"""
40
- Sen bir kod yazma asistanısın. Kullanıcının isteğine göre tam ve çalışır bir Python kodu bloğu üret.
41
- Sadece kod çıktısı ver, açıklama yapma. Eğer kullanıcı özellikle açıklama isterse, kodu açıklayan yorumlar ekle.
42
- Kod, yaklaşık {max_length} karakter veya daha uzun olabilir.
43
 
44
- Kullanıcı İsteği: {prompt}
45
- Sistem Talimatları: {system_prompt}
46
 
47
- ```python
48
- """
49
-
50
- inputs = tokenizer(full_prompt, return_tensors="pt").to(model.device)
51
-
52
- outputs = model.generate(
53
- **inputs,
54
- max_new_tokens=max_length * 2,
55
- do_sample=True,
56
- temperature=temperature,
57
- top_p=0.9,
58
- pad_token_id=tokenizer.eos_token_id
59
- )
60
-
61
- generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
62
-
63
- code_start_tag = "```python"
64
- code_end_tag = "```"
 
 
 
 
65
 
66
- if code_start_tag in generated_text:
67
- start_index = generated_text.find(code_start_tag) + len(code_start_tag)
68
- end_index = generated_text.find(code_end_tag, start_index)
69
-
70
- if end_index != -1:
71
- generated_code = generated_text[start_index:end_index].strip()
72
- else:
73
- generated_code = generated_text[start_index:].strip()
74
  else:
75
- generated_code = generated_text.strip()
76
-
77
- return generated_code
 
 
78
 
79
- # Gradio arayüzünü oluşturuyoruz.
80
- iface = gr.Interface(
81
- fn=generate_code_with_deepseek,
82
- inputs=[
83
- gr.Textbox(lines=2, label="Kullanıcı İsteği", placeholder="Örn: 'Bir CSV dosyasını okuyup ilk 5 satırını gösteren Python kodu yaz.'"),
84
- gr.Slider(minimum=100, maximum=1000, value=500, label="Kod Uzunluğu (Karakter)", step=100),
85
- gr.Dropdown(["deepseek-coder"], label="Model", value="deepseek-coder", interactive=False),
86
- gr.Textbox(lines=2, label="Sistem Promptu (Ek Talimatlar)", placeholder="Örn: 'Sadece pandas kütüphanesini kullan.'"),
87
- gr.Slider(minimum=0.0, maximum=1.0, step=0.1, value=0.4, label="Yaratıcılık (Temperature)")
88
- ],
89
- outputs=gr.Code(label="Üretilen Kod", language="python"),
90
- title="Adel AI - DeepSeek Coder Destekli Kod Asistanı",
91
- description="DeepSeek Coder modelini kullanarak Python kodu üretin.",
92
- live=False
93
- )
94
 
95
- # Gradio arayüzünü başlatıyoruz.
96
- # Hugging Face Spaces, share=True'yu otomatik olarak yönetir.
97
- iface.launch()
98
-
 
1
  # Gerekli Python kütüphanelerini dahil ediyoruz.
2
+ from transformers import AutoTokenizer, AutoModelForCausalLM
3
+ import torch
4
+ import gradio as gr
5
+ import os
6
 
7
+ # Kullanacağımız DeepSeek Coder modelinin adını belirliyoruz.
8
+ model_name = "deepseek-ai/deepseek-coder-6.7b-base"
9
 
10
+ print(f"'{model_name}' modeli yükleniyor... Bu işlem biraz zaman alabilir.")
11
 
12
+ # Modeli ve tokenlaştırıcısını yüklüyoruz.
13
+ # Hugging Face Spaces ortamında GPU'ya otomatik yerleştirme daha sorunsuz çalışır.
14
+ try:
15
+ tokenizer = AutoTokenizer.from_pretrained(model_name)
16
+ model = AutoModelForCausalLM.from_pretrained(
17
+ model_name,
18
+ torch_dtype=torch.bfloat16, # Bellek verimliliği için
19
+ device_map="auto" # Otomatik GPU kullanımı
20
+ )
21
+ print(f"'{model_name}' modeli başarıyla yüklendi!")
22
+ except Exception as e:
23
+ print(f"Model yüklenirken bir hata oluştu: {e}")
24
+ print("Lütfen Space ayarlarınızda yeterli donanım (GPU) seçili olduğundan emin olun.")
25
+ # Hata durumunda uygulamanın durması için hata fırlatabiliriz.
26
+ raise e
27
 
28
+ # Adel'in kod üretme fonksiyonu
29
+ def generate_code_with_deepseek(
30
+ prompt: str,
31
+ max_length: int = 1000,
32
+ selected_model: str = "deepseek-coder",
33
+ system_prompt: str = "",
34
+ temperature: float = 0.4
35
+ ) -> str:
36
+ """
37
+ DeepSeek Coder modelini kullanarak Python kodu üretir.
38
+ """
39
+ full_prompt = f"""
40
+ Sen bir kod yazma asistanısın. Kullanıcının isteğine göre tam ve çalışır bir Python kodu bloğu üret.
41
+ Sadece kod çıktısı ver, açıklama yapma. Eğer kullanıcı özellikle açıklama isterse, kodu açıklayan yorumlar ekle.
42
+ Kod, yaklaşık {max_length} karakter veya daha uzun olabilir.
43
 
44
+ Kullanıcı İsteği: {prompt}
45
+ Sistem Talimatları: {system_prompt}
46
 
47
+ ```python
48
+ """
49
+
50
+ inputs = tokenizer(full_prompt, return_tensors="pt").to(model.device)
51
+
52
+ outputs = model.generate(
53
+ **inputs,
54
+ max_new_tokens=max_length * 2,
55
+ do_sample=True,
56
+ temperature=temperature,
57
+ top_p=0.9,
58
+ pad_token_id=tokenizer.eos_token_id
59
+ )
60
+
61
+ generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
62
+
63
+ code_start_tag = "```python"
64
+ code_end_tag = "```"
65
+
66
+ if code_start_tag in generated_text:
67
+ start_index = generated_text.find(code_start_tag) + len(code_start_tag)
68
+ end_index = generated_text.find(code_end_tag, start_index)
69
 
70
+ if end_index != -1:
71
+ generated_code = generated_text[start_index:end_index].strip()
 
 
 
 
 
 
72
  else:
73
+ generated_code = generated_text[start_index:].strip()
74
+ else:
75
+ generated_code = generated_text.strip()
76
+
77
+ return generated_code
78
 
79
+ # Gradio arayüzünü oluşturuyoruz.
80
+ iface = gr.Interface(
81
+ fn=generate_code_with_deepseek,
82
+ inputs=[
83
+ gr.Textbox(lines=2, label="Kullanıcı İsteği", placeholder="Örn: 'Bir CSV dosyasını okuyup ilk 5 satırını gösteren Python kodu yaz.'"),
84
+ gr.Slider(minimum=100, maximum=1000, value=500, label="Kod Uzunluğu (Karakter)", step=100),
85
+ gr.Dropdown(["deepseek-coder"], label="Model", value="deepseek-coder", interactive=False),
86
+ gr.Textbox(lines=2, label="Sistem Promptu (Ek Talimatlar)", placeholder="Örn: 'Sadece pandas kütüphanesini kullan.'"),
87
+ gr.Slider(minimum=0.0, maximum=1.0, step=0.1, value=0.4, label="Yaratıcılık (Temperature)")
88
+ ],
89
+ outputs=gr.Code(label="Üretilen Kod", language="python"),
90
+ title="Adel AI - DeepSeek Coder Destekli Kod Asistanı",
91
+ description="DeepSeek Coder modelini kullanarak Python kodu üretin.",
92
+ live=False
93
+ )
94
 
95
+ # Gradio arayüzünü başlatıyoruz.
96
+ # Hugging Face Spaces, share=True'yu otomatik olarak yönetir.
97
+ iface.launch()