Update app.py

app.py

@@ -599,9 +599,7 @@ async def start_llama_server():
         "--host", "127.0.0.1",
         "--port", str(LLAMA_PORT),
         "--mlock",                       # 要求鎖住模型於實體記憶體，避免被 swap 拖慢速度
-        "--flash-attn", "on",            # flash attention，加速並省顯存/記憶體
-        "--cont-batching",               # 連續批次處理，吞吐量最佳化
-        "--ctx-size", "16384",
+        "--ctx-size", "32767",
         "--batch-size", "2048",          # 提高 prompt processing 吞吐量
         "--ubatch-size", "512",
         "--threads", str(cpu_count),