Update app.py
Browse files
app.py
CHANGED
|
@@ -4,7 +4,7 @@ from huggingface_hub import hf_hub_download
|
|
| 4 |
|
| 5 |
# Automatické stažení modelu z Hugging Face Hub
|
| 6 |
# Ujistěte se, že model je veřejně přístupný a jeho repo_id a filename jsou správné.
|
| 7 |
-
model_file = hf_hub_download(repo_id="TheBloke/
|
| 8 |
|
| 9 |
# Inicializace GGUF modelu pomocí llama-cpp-python
|
| 10 |
llm = Llama(model_path=model_file, n_ctx=2048, n_threads=4)
|
|
|
|
| 4 |
|
| 5 |
# Automatické stažení modelu z Hugging Face Hub
|
| 6 |
# Ujistěte se, že model je veřejně přístupný a jeho repo_id a filename jsou správné.
|
| 7 |
+
model_file = hf_hub_download(repo_id="TheBloke/LLaMA-Pro-8B-Instruct-GGUF", filename="OpenLLaMA-7B.gguf")
|
| 8 |
|
| 9 |
# Inicializace GGUF modelu pomocí llama-cpp-python
|
| 10 |
llm = Llama(model_path=model_file, n_ctx=2048, n_threads=4)
|