SciMaker

/

GemmaPro_Image

like 9

這個是修改成一鍵式執行功能，包含解壓縮，加移動模型，跟啟動模型的功能。
這直接使用條件 是有GPU跟 使用GemmaPro_q4模型，但 我們可以自行 透過修改target_folder跟target_model的設定 來指定我們的需求。

若已經使用過一次這個run.bat後，因為都把資料放到指定的位置了，所以不需要再用這個跑一次。
我們可以自行在cmd執行cd指定路徑資料夾 跟 設定好自己要用的模型
.\llama-server.exe -m GemmaPro_q4.gguf --mmproj GemmaPro_Image.gguf --n-cpu-moe 0 -ngl 99 --main-gpu 0 --mlock -c 64000 -t 12 --host 127.0.0.1 --port 8081

或是直接使用江老師提供的原版 run.bat，把所有需要的材料放到在指定資料夾內執行 run.bat，即可。

通過許可後，可以在
https://huggingface.co/SciMaker/GemmaPro_Image/tree/refs%2Fpr%2F2
整份下載即可。
這個run.bat的修改 旨在讓不清楚如何操作的使用者可以整個模型打包後，在該資料夾就可以直接執行

備註: 這是 只限定於有 GPU跟 要使用GemmaPro_q4模型 的情況下使用，若有需求可以照著上面的指示自行修改即可