rphrp1985 commited on
Commit
4f287d1
·
verified ·
1 Parent(s): 1bacf29

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -0
app.py CHANGED
@@ -1,5 +1,7 @@
1
  import spaces
2
  import os
 
 
3
  import json
4
  import subprocess
5
 
 
1
  import spaces
2
  import os
3
+ os.environ["LLAMA_CUBLAS"] = "1"
4
+ os.environ["GGML_CUDA_FORCE_DMMV"] = "1"
5
  import json
6
  import subprocess
7