Spaces:
Runtime error
Runtime error
File size: 4,497 Bytes
cac4643 77826e0 cac4643 b8e3e96 cac4643 b8e3e96 cac4643 77826e0 b8e3e96 77826e0 b8e3e96 77826e0 f57cf14 77826e0 cac4643 77826e0 a5a5a13 77826e0 b8e3e96 77826e0 b8e3e96 77826e0 b8e3e96 a5a5a13 b8e3e96 a5a5a13 f57cf14 a5a5a13 b8e3e96 f57cf14 77826e0 a5a5a13 b8e3e96 77826e0 b8e3e96 77826e0 b8e3e96 77826e0 b8e3e96 77826e0 b8e3e96 cac4643 b8e3e96 77826e0 cac4643 77826e0 b8e3e96 77826e0 b8e3e96 77826e0 cac4643 77826e0 f57cf14 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 | # Gerekli Python kütüphanelerini dahil ediyoruz.
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
import gradio as gr
import os
# Kullanacağımız OPT-350M modelinin adını belirliyoruz.
model_name = "facebook/opt-350m" # <-- Burayı değiştirdik!
print(f"'{model_name}' modeli yükleniyor... Bu işlem çok hızlı olacaktır!")
# Modeli ve tokenlaştırıcısını yüklüyoruz.
try:
tokenizer = AutoTokenizer.from_pretrained(model_name) # OPT için trust_remote_code gerekli değil
model = AutoModelForCausalLM.from_pretrained(
model_name,
torch_dtype=torch.float32, # OPT için float32 daha uygun olabilir, bfloat16 her zaman desteklenmez
device_map="auto"
)
print(f"'{model_name}' modeli başarıyla yüklendi!")
except Exception as e:
print(f"Model yüklenirken bir hata oluştu: {e}")
print("Lütfen Space ayarlarınızda yeterli donanım (CPU/GPU) seçili olduğundan emin olun.")
raise e
# Adel'in kod üretme fonksiyonu
def generate_code_with_deepseek( # Fonksiyon adı eskiden kalma, sorun değil
prompt: str,
max_length: int = 500, # Çok küçük olduğu için max_length'i düşürdük
selected_model: str = "facebook-opt-350m", # Burayı da güncelledik
system_prompt: str = ""
) -> str:
"""
Facebook OPT-350M modelini kullanarak Python kodu üretir.
Bu model çok küçük olduğundan sadece çok basit kodlar üretebilir.
"""
# OPT modelleri için basit bir prompt formatı
input_text = f"Write a Python code for the following request: {prompt}\n"
if system_prompt:
input_text = f"{system_prompt}\n{input_text}"
# Prompt'u tokenlaştırıcıya uygun hale getir
inputs = tokenizer(input_text, return_tensors="pt").to(model.device)
# Kodu üret
outputs = model.generate(
inputs.input_ids,
max_new_tokens=max_length, # max_length'i direkt kullanıyoruz
do_sample=True,
temperature=0.7, # Biraz yaratıcılık için
top_p=0.9,
eos_token_id=tokenizer.eos_token_id,
pad_token_id=tokenizer.eos_token_id
)
generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
# Modelin çıktısını temizleme
# OPT genellikle doğrudan metin çıkarır, ```python blokları beklemeyebiliriz
generated_code = generated_text.replace(input_text, "").strip() # Prompt kısmını çıkar
# Modelin kendi prompt'unu tekrarlamasını önlemeye çalışalım
if generated_code.startswith("Write a Python code for the following request:"):
generated_code = generated_code.split("Write a Python code for the following request:", 1)[-1].strip()
# Bazen model başa veya sona "..." veya anlamsız karakterler ekler
generated_code = generated_code.strip().replace("...", "").strip()
# Sadece ilk kod bloğunu veya ilk anlamlı kısmı al
if "```python" in generated_code:
start_idx = generated_code.find("```python") + len("```python")
end_idx = generated_code.find("```", start_idx)
if end_idx != -1:
generated_code = generated_code[start_idx:end_idx].strip()
else:
generated_code = generated_code[start_idx:].strip()
elif "def " in generated_code or "import " in generated_code: # Basit bir kod başlangıcı tespiti
# İlk satırdan itibaren al
pass # Zaten temizlenmiş oluyor
return generated_code
# Gradio arayüzünü oluşturuyoruz.
iface = gr.Interface(
fn=generate_code_with_deepseek,
inputs=[
gr.Textbox(lines=2, label="Kullanıcı İsteği", placeholder="Örn: 'İki sayıyı toplayan bir Python fonksiyonu yaz.'"),
gr.Slider(minimum=50, maximum=500, value=250, label="Kod Uzunluğu (Karakter)", step=50), # Max length'i düşürdük
gr.Dropdown(["facebook-opt-350m"], label="Model", value="facebook-opt-350m", interactive=False), # Burayı da güncelledik
gr.Textbox(lines=2, label="Sistem Promptu (Ek Talimatlar)", placeholder="Örn: 'Sadece temel Python kullan.'")
],
outputs=gr.Code(label="Üretilen Kod", language="python"),
title="Adel AI - OPT-350M Destekli Kod Asistanı", # Başlığı da güncelledik
description="Facebook OPT-350M modelini kullanarak Python kodu üretin. Çok hafif ve hızlıdır, ancak sadece çok basit kodlar üretebilir.", # Açıklamayı da güncelledik
live=False
)
# Gradio arayüzünü başlatıyoruz.
iface.launch() |