TestModel / quick_vm_commands.md
bilalabic's picture
Upload folder using huggingface_hub
c7df5be verified

🚀 FitTürkAI - Yüksek RAM'li Google Cloud VM Hızlı Komutları

💰 RAM ve Maliyet Tablosu

VM Tipi vCPU RAM Aylık Maliyet* Kullanım Durumu
n2-highmem-2 2 16 GB ~$100 Küçük modeller, test
n2-highmem-4 4 32 GB ~$200 Önerilen - Orta boyut
n2-highmem-8 8 64 GB ~$400 Büyük modeller
n2-highmem-16 16 128 GB ~$800 Maksimum pratik
n2-highmem-32 32 256 GB ~$1600 Çok büyük modeller
m1-ultramem-40 40 961 GB ~$6000 Extreme durum

*Yaklaşık maliyetler, gerçek fiyatlar değişebilir

🎯 Önerilen Konfigürasyonlar

1. En Çok Önerilen: n2-highmem-8 (64 GB RAM)

# Maksimum performans için ideal
gcloud compute instances create fitturkrai-vm \
    --machine-type=n2-highmem-8 \
    --zone=us-central1-a \
    --image-family=ubuntu-2204-lts \
    --image-project=ubuntu-os-cloud \
    --boot-disk-size=100GB \
    --boot-disk-type=pd-balanced \
    --tags=fitturkrai \
    --metadata-from-file startup-script=startup-script.sh

2. Maksimum CPU RAM: n2-highmem-16 (128 GB RAM)

# En yüksek pratik RAM
gcloud compute instances create fitturkrai-max-vm \
    --machine-type=n2-highmem-16 \
    --zone=us-central1-a \
    --image-family=ubuntu-2204-lts \
    --image-project=ubuntu-os-cloud \
    --boot-disk-size=200GB \
    --boot-disk-type=pd-balanced \
    --tags=fitturkrai \
    --metadata-from-file startup-script=startup-script.sh

3. Ultra RAM: n2-highmem-32 (256 GB RAM)

# En yüksek RAM (pahalı!)
gcloud compute instances create fitturkrai-ultra-vm \
    --machine-type=n2-highmem-32 \
    --zone=us-central1-a \
    --image-family=ubuntu-2204-lts \
    --image-project=ubuntu-os-cloud \
    --boot-disk-size=500GB \
    --boot-disk-type=pd-balanced \
    --tags=fitturkrai \
    --metadata-from-file startup-script=startup-script.sh

💡 CPU Optimize Ayarları

test.py için RAM optimizasyonu:

# Yüksek RAM'li VM'ler için config
config = RAGConfig(
    chunk_size=500,           # Daha büyük chunk'lar
    retrieval_k=10,           # Daha fazla belge
    max_context_length=8000   # Daha uzun context
)

Sistem ayarları (VM'de çalıştırın):

# Yüksek RAM için optimizasyon
sudo sysctl -w vm.swappiness=1
sudo sysctl -w vm.vfs_cache_pressure=50
echo 'vm.overcommit_memory=1' | sudo tee -a /etc/sysctl.conf

🚀 Hızlı Kurulum

1. VM oluştur (interactive script)

chmod +x create_high_ram_vm.sh
./create_high_ram_vm.sh

2. Manuel hızlı komut (64GB RAM)

export PROJECT_ID="your-project-id"
export VM_NAME="fitturkrai-vm"

gcloud compute instances create $VM_NAME \
    --project=$PROJECT_ID \
    --zone=us-central1-a \
    --machine-type=n2-highmem-8 \
    --network-interface=network-tier=PREMIUM,subnet=default \
    --maintenance-policy=MIGRATE \
    --provisioning-model=STANDARD \
    --service-account=default \
    --scopes=https://www.googleapis.com/auth/cloud-platform \
    --tags=fitturkrai \
    --create-disk=auto-delete=yes,boot=yes,device-name=$VM_NAME,image=projects/ubuntu-os-cloud/global/images/ubuntu-2204-jammy-v20240319,mode=rw,size=100,type=projects/$PROJECT_ID/zones/us-central1-a/diskTypes/pd-balanced \
    --reservation-affinity=any

3. SSH bağlantı

gcloud compute ssh fitturkrai-vm --zone=us-central1-a

📊 RAM Kullanım İzleme

VM'de RAM durumunu kontrol:

# Genel sistem durumu
htop

# RAM kullanımı
free -h

# Detaylı RAM istatistikleri  
cat /proc/meminfo

# Python process RAM kullanımı
ps aux | grep python | awk '{print $4, $11}'

🔧 Troubleshooting

RAM yetersizse:

  1. Chunk size küçült: chunk_size=200
  2. Context length azalt: max_context_length=2000
  3. Retrieval sayısı azalt: retrieval_k=3

VM boyutunu artır:

# VM'yi durdur
gcloud compute instances stop fitturkrai-vm --zone=us-central1-a

# Makine tipini değiştir
gcloud compute instances set-machine-type fitturkrai-vm \
    --machine-type=n2-highmem-16 \
    --zone=us-central1-a

# VM'yi başlat
gcloud compute instances start fitturkrai-vm --zone=us-central1-a

💰 Maliyet Optimizasyonu

1. Preemptible Instance (75% indirim):

--preemptible \
--maintenance-policy=TERMINATE

2. Spot Instance (80% indirim):

--provisioning-model=SPOT \
--instance-termination-action=STOP

3. Committed Use Discounts:

  • 1 yıl: %20 indirim
  • 3 yıl: %30 indirim

🎯 En İyi Performans için Öneriler

RAM için:

  • n2-highmem-8 (64GB) - En optimal
  • n2-highmem-16 (128GB) - Maksimum pratik

Disk için:

  • pd-balanced - Performans/fiyat dengesi
  • pd-ssd - Maksimum hız (pahalı)

Zone için:

  • us-central1-a - En stabil
  • europe-west1-b - Avrupa için