- Dockerfile +1 -0
Dockerfile
CHANGED
|
@@ -15,6 +15,7 @@ ENV OLLAMA_HOST=0.0.0.0
|
|
| 15 |
ENV OLLAMA_ORIGINS="[*]"
|
| 16 |
ENV OLLAMA_KEEP_ALIVE=-1
|
| 17 |
ENV OLLAMA_API_KEY=$OLLAMA_API
|
|
|
|
| 18 |
EXPOSE 7860
|
| 19 |
EXPOSE 11434
|
| 20 |
|
|
|
|
| 15 |
ENV OLLAMA_ORIGINS="[*]"
|
| 16 |
ENV OLLAMA_KEEP_ALIVE=-1
|
| 17 |
ENV OLLAMA_API_KEY=$OLLAMA_API
|
| 18 |
+
ENV OLLAMA_KV_CACHE_TYPE=q4_0
|
| 19 |
EXPOSE 7860
|
| 20 |
EXPOSE 11434
|
| 21 |
|