gunicorn.conf.py

import multiprocessing

# 监听地址和端口
bind = "0.0.0.0:7860"

# 修改工作进程数配置策略
# 对于CPU密集型应用，建议设置为 CPU核心数 + 1
workers = multiprocessing.cpu_count() + 1

# 每个工作进程的线程数
# 设置为2，增加并发处理能力
threads = 2

# 工作方式
worker_class = "uvicorn.workers.UvicornWorker"

# 提高每个工作进程的并发连接数
worker_connections = 2000

# 优化工作进程配置
#max_requests = 1000        # 工作进程处理多少个请求后自动重启
#max_requests_jitter = 50   # 添加随机重启偏差，避免同时重启
#graceful_timeout = 120     # 优雅重启超时时间

# keepalive超时设置
#keepalive = 5             # 保持连接超时时间

# 工作模式
worker_tmp_dir = "/dev/shm"  # 使用内存文件系统提高性能
preload_app = True           # 预加载应用，减少启动时间

# 进程名称前缀
proc_name = 'gunicorn_fastapi'

# 访问日志文件
accesslog = "access.log"
access_log_format = '%(h)s %(l)s %(u)s %(t)s "%(r)s" %(s)s %(b)s "%(f)s" "%(a)s"'

# 错误日志文件
errorlog = "error.log"

# 日志级别
loglevel = "info"