Update app.py
Browse files
app.py
CHANGED
|
@@ -6,12 +6,19 @@ import torch
|
|
| 6 |
import os
|
| 7 |
from dotenv import load_dotenv
|
| 8 |
|
| 9 |
-
# 设置 Hugging Face 缓存
|
| 10 |
os.environ["HF_HOME"] = "/tmp/.cache/huggingface"
|
| 11 |
-
os.
|
|
|
|
|
|
|
| 12 |
|
| 13 |
-
# 设置
|
| 14 |
-
os.environ["
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 15 |
|
| 16 |
load_dotenv() # 加载 .env 文件
|
| 17 |
|
|
@@ -26,8 +33,8 @@ if not HF_TOKEN:
|
|
| 26 |
if not API_KEYS:
|
| 27 |
raise ValueError("请设置环境变量 API_KEYS")
|
| 28 |
|
| 29 |
-
# 登录 Hugging Face
|
| 30 |
-
login(token=HF_TOKEN)
|
| 31 |
|
| 32 |
# 使用 DeepSeek 7B(开放模型)
|
| 33 |
model_name = "deepseek-ai/deepseek-llm-7b"
|
|
|
|
| 6 |
import os
|
| 7 |
from dotenv import load_dotenv
|
| 8 |
|
| 9 |
+
# 设置多个 Hugging Face 相关环境变量以覆盖默认缓存路径,避免权限问题
|
| 10 |
os.environ["HF_HOME"] = "/tmp/.cache/huggingface"
|
| 11 |
+
os.environ["TRANSFORMERS_CACHE"] = "/tmp/.cache/huggingface"
|
| 12 |
+
os.environ["HF_HUB_CACHE"] = "/tmp/.cache/huggingface"
|
| 13 |
+
os.environ["HOME"] = "/tmp" # 重定向 home 目录到可写路径
|
| 14 |
|
| 15 |
+
# 手动创建缓存目录并尝试设置权限
|
| 16 |
+
cache_dir = os.environ["HF_HOME"]
|
| 17 |
+
os.makedirs(cache_dir, exist_ok=True)
|
| 18 |
+
try:
|
| 19 |
+
os.chmod(cache_dir, 0o777) # 尝试设置可写权限,如果容器允许
|
| 20 |
+
except PermissionError:
|
| 21 |
+
pass # 如果权限不足,忽略并继续(库会使用现有目录)
|
| 22 |
|
| 23 |
load_dotenv() # 加载 .env 文件
|
| 24 |
|
|
|
|
| 33 |
if not API_KEYS:
|
| 34 |
raise ValueError("请设置环境变量 API_KEYS")
|
| 35 |
|
| 36 |
+
# 登录 Hugging Face,添加参数以减少不必要的写入操作
|
| 37 |
+
login(token=HF_TOKEN, add_to_git_credential=False)
|
| 38 |
|
| 39 |
# 使用 DeepSeek 7B(开放模型)
|
| 40 |
model_name = "deepseek-ai/deepseek-llm-7b"
|