tianruci commited on
Commit
27b57e7
·
verified ·
1 Parent(s): af21aca

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +13 -6
app.py CHANGED
@@ -6,12 +6,19 @@ import torch
6
  import os
7
  from dotenv import load_dotenv
8
 
9
- # 设置 Hugging Face 缓存目录
10
  os.environ["HF_HOME"] = "/tmp/.cache/huggingface"
11
- os.makedirs(os.environ["HF_HOME"], exist_ok=True)
 
 
12
 
13
- # 设置 HOME 环境变量以避免权限问题
14
- os.environ["HOME"] = "/tmp"
 
 
 
 
 
15
 
16
  load_dotenv() # 加载 .env 文件
17
 
@@ -26,8 +33,8 @@ if not HF_TOKEN:
26
  if not API_KEYS:
27
  raise ValueError("请设置环境变量 API_KEYS")
28
 
29
- # 登录 Hugging Face
30
- login(token=HF_TOKEN)
31
 
32
  # 使用 DeepSeek 7B(开放模型)
33
  model_name = "deepseek-ai/deepseek-llm-7b"
 
6
  import os
7
  from dotenv import load_dotenv
8
 
9
+ # 设置多个 Hugging Face 相关环境变量以覆盖默认缓存路径,避免权限问题
10
  os.environ["HF_HOME"] = "/tmp/.cache/huggingface"
11
+ os.environ["TRANSFORMERS_CACHE"] = "/tmp/.cache/huggingface"
12
+ os.environ["HF_HUB_CACHE"] = "/tmp/.cache/huggingface"
13
+ os.environ["HOME"] = "/tmp" # 重定向 home 目录到可写路径
14
 
15
+ # 手动创建缓存目录并尝试设置权限
16
+ cache_dir = os.environ["HF_HOME"]
17
+ os.makedirs(cache_dir, exist_ok=True)
18
+ try:
19
+ os.chmod(cache_dir, 0o777) # 尝试设置可写权限,如果容器允许
20
+ except PermissionError:
21
+ pass # 如果权限不足,忽略并继续(库会使用现有目录)
22
 
23
  load_dotenv() # 加载 .env 文件
24
 
 
33
  if not API_KEYS:
34
  raise ValueError("请设置环境变量 API_KEYS")
35
 
36
+ # 登录 Hugging Face,添加参数以减少不必要的写入操作
37
+ login(token=HF_TOKEN, add_to_git_credential=False)
38
 
39
  # 使用 DeepSeek 7B(开放模型)
40
  model_name = "deepseek-ai/deepseek-llm-7b"