File size: 557 Bytes
9438a57 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 | # NVIDIA ekran kartı olan bilgisayarlarda başlatıcı bu dosyayı otomatik ekler:
# docker compose -f docker-compose.yml -f docker-compose.gpu.yml up -d
# Uygulama konteyneri GPU'yu yalnızca İZLEMEK için görür (nvidia-smi); model Ollama'da çalışır.
# Windows'ta Docker Desktop (WSL 2) ve güncel NVIDIA sürücüsü, Linux'ta NVIDIA Container Toolkit gerekir.
services:
app:
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: all
capabilities: [gpu, utility]
|