File size: 5,135 Bytes
c7df5be |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 |
# 🚀 FitTürkAI - Yüksek RAM'li Google Cloud VM Hızlı Komutları
## 💰 RAM ve Maliyet Tablosu
| VM Tipi | vCPU | RAM | Aylık Maliyet* | Kullanım Durumu |
|---------|------|-----|----------------|-----------------|
| **n2-highmem-2** | 2 | 16 GB | ~$100 | Küçük modeller, test |
| **n2-highmem-4** | 4 | 32 GB | ~$200 | **Önerilen** - Orta boyut |
| **n2-highmem-8** | 8 | 64 GB | ~$400 | Büyük modeller |
| **n2-highmem-16** | 16 | 128 GB | ~$800 | **Maksimum** pratik |
| **n2-highmem-32** | 32 | 256 GB | ~$1600 | Çok büyük modeller |
| **m1-ultramem-40** | 40 | 961 GB | ~$6000 | Extreme durum |
*Yaklaşık maliyetler, gerçek fiyatlar değişebilir
## 🎯 Önerilen Konfigürasyonlar
### 1. **En Çok Önerilen**: n2-highmem-8 (64 GB RAM)
```bash
# Maksimum performans için ideal
gcloud compute instances create fitturkrai-vm \
--machine-type=n2-highmem-8 \
--zone=us-central1-a \
--image-family=ubuntu-2204-lts \
--image-project=ubuntu-os-cloud \
--boot-disk-size=100GB \
--boot-disk-type=pd-balanced \
--tags=fitturkrai \
--metadata-from-file startup-script=startup-script.sh
```
### 2. **Maksimum CPU RAM**: n2-highmem-16 (128 GB RAM)
```bash
# En yüksek pratik RAM
gcloud compute instances create fitturkrai-max-vm \
--machine-type=n2-highmem-16 \
--zone=us-central1-a \
--image-family=ubuntu-2204-lts \
--image-project=ubuntu-os-cloud \
--boot-disk-size=200GB \
--boot-disk-type=pd-balanced \
--tags=fitturkrai \
--metadata-from-file startup-script=startup-script.sh
```
### 3. **Ultra RAM**: n2-highmem-32 (256 GB RAM)
```bash
# En yüksek RAM (pahalı!)
gcloud compute instances create fitturkrai-ultra-vm \
--machine-type=n2-highmem-32 \
--zone=us-central1-a \
--image-family=ubuntu-2204-lts \
--image-project=ubuntu-os-cloud \
--boot-disk-size=500GB \
--boot-disk-type=pd-balanced \
--tags=fitturkrai \
--metadata-from-file startup-script=startup-script.sh
```
## 💡 CPU Optimize Ayarları
### test.py için RAM optimizasyonu:
```python
# Yüksek RAM'li VM'ler için config
config = RAGConfig(
chunk_size=500, # Daha büyük chunk'lar
retrieval_k=10, # Daha fazla belge
max_context_length=8000 # Daha uzun context
)
```
### Sistem ayarları (VM'de çalıştırın):
```bash
# Yüksek RAM için optimizasyon
sudo sysctl -w vm.swappiness=1
sudo sysctl -w vm.vfs_cache_pressure=50
echo 'vm.overcommit_memory=1' | sudo tee -a /etc/sysctl.conf
```
## 🚀 Hızlı Kurulum
### 1. VM oluştur (interactive script)
```bash
chmod +x create_high_ram_vm.sh
./create_high_ram_vm.sh
```
### 2. Manuel hızlı komut (64GB RAM)
```bash
export PROJECT_ID="your-project-id"
export VM_NAME="fitturkrai-vm"
gcloud compute instances create $VM_NAME \
--project=$PROJECT_ID \
--zone=us-central1-a \
--machine-type=n2-highmem-8 \
--network-interface=network-tier=PREMIUM,subnet=default \
--maintenance-policy=MIGRATE \
--provisioning-model=STANDARD \
--service-account=default \
--scopes=https://www.googleapis.com/auth/cloud-platform \
--tags=fitturkrai \
--create-disk=auto-delete=yes,boot=yes,device-name=$VM_NAME,image=projects/ubuntu-os-cloud/global/images/ubuntu-2204-jammy-v20240319,mode=rw,size=100,type=projects/$PROJECT_ID/zones/us-central1-a/diskTypes/pd-balanced \
--reservation-affinity=any
```
### 3. SSH bağlantı
```bash
gcloud compute ssh fitturkrai-vm --zone=us-central1-a
```
## 📊 RAM Kullanım İzleme
### VM'de RAM durumunu kontrol:
```bash
# Genel sistem durumu
htop
# RAM kullanımı
free -h
# Detaylı RAM istatistikleri
cat /proc/meminfo
# Python process RAM kullanımı
ps aux | grep python | awk '{print $4, $11}'
```
## 🔧 Troubleshooting
### RAM yetersizse:
1. **Chunk size küçült**: `chunk_size=200`
2. **Context length azalt**: `max_context_length=2000`
3. **Retrieval sayısı azalt**: `retrieval_k=3`
### VM boyutunu artır:
```bash
# VM'yi durdur
gcloud compute instances stop fitturkrai-vm --zone=us-central1-a
# Makine tipini değiştir
gcloud compute instances set-machine-type fitturkrai-vm \
--machine-type=n2-highmem-16 \
--zone=us-central1-a
# VM'yi başlat
gcloud compute instances start fitturkrai-vm --zone=us-central1-a
```
## 💰 Maliyet Optimizasyonu
### 1. Preemptible Instance (75% indirim):
```bash
--preemptible \
--maintenance-policy=TERMINATE
```
### 2. Spot Instance (80% indirim):
```bash
--provisioning-model=SPOT \
--instance-termination-action=STOP
```
### 3. Committed Use Discounts:
- 1 yıl: %20 indirim
- 3 yıl: %30 indirim
## 🎯 En İyi Performans için Öneriler
### RAM için:
- **n2-highmem-8** (64GB) - En optimal
- **n2-highmem-16** (128GB) - Maksimum pratik
### Disk için:
- **pd-balanced** - Performans/fiyat dengesi
- **pd-ssd** - Maksimum hız (pahalı)
### Zone için:
- **us-central1-a** - En stabil
- **europe-west1-b** - Avrupa için |