Commit ·
e65359a
1
Parent(s): 2e0bbea
Disable Flash Attention for CLIP
Browse files- handler.py +2 -0
handler.py
CHANGED
|
@@ -3,6 +3,8 @@ import base64
|
|
| 3 |
import tempfile
|
| 4 |
import os
|
| 5 |
import sys
|
|
|
|
|
|
|
| 6 |
|
| 7 |
# 确保能导入 videollama2 模块（模型代码需要放同目录或已安装）
|
| 8 |
sys.path.append('./')
|
|
|
|
| 3 |
import tempfile
|
| 4 |
import os
|
| 5 |
import sys
|
| 6 |
+
os.environ["FLASH_ATTENTION_2_ENABLED"] = "false"
|
| 7 |
+
|
| 8 |
|
| 9 |
# 确保能导入 videollama2 模块（模型代码需要放同目录或已安装）
|
| 10 |
sys.path.append('./')
|