fice

compose.yml

@@ -0,0 +1,28 @@
+version: "3"
+
+services:
+  web:
+    build: fastapi
+    ports:
+      -7860:8000
+    volumes:
+      -./fastapi:/app
+    networks:
+      - local-ai
+    ollama:
+      build: ollama
+      ports:
+        -11434:11434
+      volumes:
+        -tutorial-vol:/ollama
+      networks:
+        -local-ai
+      entrypoint: ["usr/bin/bash","/pull-llama3.sh"]
+
+networks:
+  local-ai:
+    driver: bridge
+
+volumes:
+  tutorial-vol:
+    driver: local

Dockerfile → fastapi/Dockerfile

@@ -1,35 +1,12 @@
 # Utilise une image de base Python
 FROM python:3.9-slim
 
-# Installe les dépendances nécessaires
-RUN apt-get update && \
-    apt-get install -y \
-    systemd \
-    sudo \
-    curl \
-    gnupg \
-    lsb-release
-# Ajoute le fichier de service systemd
-COPY ollama.service /etc/systemd/system/ollama.service
-# Installe Ollama et configure les permissions
-RUN curl -fsSL https://ollama.com/install.sh | sh
-# Active le service et démarre systemd
-RUN sudo systemctl enable ollama.service
-RUN sudo systemctl daemon-reload
-RUN sudo systemctl enable ollama
-RUN sudo ollama run llama3
-# Télécharge le modèle Llama3
-# Ajoute le chemin d'Ollama au PATH
-ENV PATH="/root/.ollama:${PATH}"
-
-# Télécharge le modèle Llama3
-RUN ollama pull llama3:latest
 
 # Définit le répertoire de travail
 WORKDIR /app
 
 # Copie les fichiers de l'application dans le conteneur
-COPY . /app/
+COPY .requirements.txt /app/requirements.txt
 
 # Installe les dépendances Python
 RUN pip install --upgrade pip

app.py → fastapi/app.py

@@ -46,6 +46,7 @@ async def generate_text(request: RequestModel):
             model="llama3:latest",
             messages=[{"role": "user", "content": prompt_first + request.text}],
         )
+        
         generated_text = ""
         for chunk in response:
             if chunk.choices[0].delta.content is not None:

ollama.service

@@ -1,10 +0,0 @@
-Description=Ollama Service
-After=network-online.target
-il me faut ajouter tout ca dans le dockerfile ya pas de commande qui permet de le gerer
-[Service]
-ExecStart=/usr/bin/ollama serve
-User=ollama
-Group=ollama
-Restart=always
-RestartSec=3
-Environment="OLLAMA_MODELS=~/.ollama/models/"

ollama/Dockerfile

@@ -0,0 +1,3 @@
+FROM ollama/ollama
+
+COPY ./pull-llama3.sh /pull-llama3.sh

ollama/pull-llama3.sh

@@ -0,0 +1,11 @@
+./bin/ollama serve &
+
+pif=$!
+
+sleep 5
+
+echo "Pulling llama3 model"
+
+ollama pull llama3
+
+wait $pid