File size: 5,849 Bytes
97c879a |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 |
from fastapi import FastAPI, HTTPException
from fastapi.middleware.cors import CORSMiddleware
from pydantic import BaseModel
from llama_cpp import Llama
import os
import logging
# Logging ayarları
logging.basicConfig(level=logging.INFO)
logger = logging.getLogger(__name__)
app = FastAPI(title="FitTürkAI API", description="Türkçe Sağlıklı Yaşam Asistanı")
# CORS ayarları
app.add_middleware(
CORSMiddleware,
allow_origins=["*"], # Üretimde spesifik domain kullanın
allow_credentials=True,
allow_methods=["*"],
allow_headers=["*"],
)
# Request/Response modelleri
class ChatRequest(BaseModel):
prompt: str
max_tokens: int = 512
class ChatResponse(BaseModel):
response: str
status: str = "success"
# Model yükleme
llm = None
def load_model():
global llm
try:
# GGUF model dosyasının adı
model_dosya_adi = "FitTurkAI-Cosmos-Q8.gguf"
# Eğer model dosyası yoksa Hugging Face'den indir
if not os.path.exists(model_dosya_adi):
from huggingface_hub import hf_hub_download
logger.info("Model indiriliyor...")
model_dosya_adi = hf_hub_download(
repo_id="sudenurozturk/AIYildiz-FitTurkAI",
filename=model_dosya_adi
)
# LLM modeli yükleniyor
logger.info("Model yükleniyor...")
llm = Llama(
model_path=model_dosya_adi,
n_ctx=2048,
n_threads=4
)
logger.info("Model başarıyla yüklendi!")
return True
except Exception as e:
logger.error(f"Model yükleme hatası: {str(e)}")
return False
# Sistem talimatı
SISTEM_TALIMATI = """
[ROL]
Sen "FitTürkAI" adında, empatik ve profesyonel bir kişisel sağlıklı yaşam koçusun. Amacın, kullanıcının fiziksel, zihinsel ve yaşam tarzı faktörlerini dikkate alarak kişiselleştirilmiş bir sağlık rehberi sunmak. Tıbbi teşhis koymazsın, tedavi önermezsin.
[GÖREV]
Kullanıcının verdiği bilgilerden yola çıkarak kişisel bir "Sağlıklı Yaşam Planı" oluştur. Bu plan aşağıdaki bileşenleri içerebilir:
- Beslenme önerisi (örnek öğünler ve kalori/porsiyon bilgisiyle)
- Egzersiz planı
- Su tüketim hedefi
- Uyku düzeni ve stres yönetimi tavsiyesi
- Kullanıcının belirlemesi için küçük bir mikro hedef
- Kapanışta motive edici bir mesaj
[KURALLAR]
- ✅ Açıklamalar net ve uygulanabilir olmalı.
- ❌ "Tedavi", "reçete", "zayıflama diyeti", "kesin sonuç" gibi ifadeler kullanma.
- ✅ "Öneri", "yaklaşık plan", "rehber", "kişisel yaklaşım" ifadelerini tercih et.
- ✅ Sağlık profesyoneli olmadığını başlangıçta kısaca belirt.
- ✅ Profesyonel, destekleyici, motive edici ve sade bir dil kullan. Yanıtlar doğrudan, bölümlenmiş şekilde sunulmalı. Gerekiyorsa *kalın* veya _italik_ vurgularla yap.
[FEW-SHOT ÖRNEK]
Kullanıcı: 18 yaşında, kadın, 160 cm boyunda ve 65 kg. Bir haftada kilo vermek istiyor.
FitTürkAI:
*Merhaba! Ben FitTürkAI. Sağlık uzmanı değilim, sadece kişisel bir rehber olarak yardımcı oluyorum.*
**Beslenme:**
Sabah kahvaltısında 1 haşlanmış yumurta, 1 dilim tam buğday ekmeği, 1 dilim beyaz peynir ve bol yeşillik tüketebilirsin. Günlük kalori alımını yaklaşık 1500 kcal civarına çekerek dengeli öğünlerle ilerlemelisin. Ara öğünlerde meyve yerine yoğurt veya kuruyemiş önerilir.
**Egzersiz:**
Her gün 30 dakikalık tempolu yürüyüş ve haftada 3 gün hafif ev egzersizleri yeterli olacaktır.
**Su:**
Günde 2-2.5 litre su içmeyi hedefle. Öğünlerden önce su içmek tokluk hissini artırır.
**Uyku ve stres:**
Günde 7 saat uyku almalı, akşam ekran süresini azaltmalısın. Stresle baş etmek için nefes egzersizleri yapabilirsin.
**Mikro Hedef:**
Bu hafta boyunca günde 1 ana öğünde sebze yemeği tüketmeyi hedefleyebilirsin.
*İstikrarlı ve küçük adımlar büyük fark yaratır! Devam et, yanındayım.*
"""
@app.on_event("startup")
async def startup_event():
"""Uygulama başlangıcında model yükle"""
success = load_model()
if not success:
logger.error("Model yüklenemedi! Uygulama başlatılamayacak.")
@app.get("/")
async def root():
return {"message": "FitTürkAI API çalışıyor!", "status": "healthy"}
@app.get("/health")
async def health_check():
model_status = "loaded" if llm is not None else "not_loaded"
return {
"status": "healthy",
"model_status": model_status
}
@app.post("/generate", response_model=ChatResponse)
async def generate_response(request: ChatRequest):
"""Ana endpoint - kullanıcı sorusuna yanıt üret"""
if llm is None:
raise HTTPException(status_code=503, detail="Model henüz yüklenmedi")
try:
# Prompt oluştur
prompt = f"""{SISTEM_TALIMATI.strip()}
Kullanıcı: {request.prompt}
FitTürkAI:"""
# Model ile yanıt üret
yanit = llm(
prompt=prompt,
max_tokens=request.max_tokens,
stop=["Kullanıcı:", "FitTürkAI:"],
temperature=0.7
)
response_text = yanit["choices"][0]["text"].strip()
return ChatResponse(
response=response_text,
status="success"
)
except Exception as e:
logger.error(f"Yanıt üretme hatası: {str(e)}")
raise HTTPException(status_code=500, detail=f"Yanıt üretilemedi: {str(e)}")
@app.post("/chat")
async def chat_endpoint(request: ChatRequest):
"""Alternatif endpoint - basit JSON response"""
result = await generate_response(request)
return {"response": result.response}
if __name__ == "__main__":
import uvicorn
uvicorn.run(app, host="0.0.0.0", port=7860) |