File size: 5,176 Bytes
552a548
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
---

title: PromptLayer API Proxy
emoji: 🚀
colorFrom: blue
colorTo: green
sdk: docker
app_port: 3000
---

<div align="center">

# 🚀 PromptLayer API 代理服务

[![GitHub stars](https://img.shields.io/github/stars/Rfym21/PromptlayerProxy?style=social)](https://github.com/Rfym21/PromptlayerProxy)
[![Docker Pulls](https://img.shields.io/docker/pulls/rfym21/promptlayer-proxy)](https://hub.docker.com/r/rfym21/promptlayer-proxy)

*一个强大的 PromptLayer API 代理服务,支持多种主流 AI 模型*

**🔗 [交流群](https://t.me/nodejs_project) | 🐳 [Docker Hub](https://hub.docker.com/r/rfym21/promptlayer-proxy)**

</div>

## ✨ 功能特点

<div align="center">

| 功能 | 状态 | 描述 |
|------|------|------|
| 🔄 **OpenAI API 兼容** | ✅ | 完全兼容 OpenAI API 格式 |
| 🌊 **流式输出** | ✅ | 支持实时流式响应 |
| 🖼️ **图像处理** | ✅ | 支持图像上传和识别 |
| ⚖️ **负载均衡** | ✅ | 多账户轮询负载均衡 |
| 🐳 **容器化部署** | ✅ | Docker 一键部署 |
| 🔄 **自动刷新** | ✅ | 智能 Token 自动刷新 |
| 🛠️ **Tools 支持** | ✅ | 支持Tools参数 |
| 🔌 **其他参数(温度,Max_Tokens)** | ✅ | 支持配置其他参数,设置的参数将覆盖默认参数 |



</div>



---



## 🤖 支持的模型



<div align="center">



| 🏷️ 模型名称 | 📊 最大输出长度 | 🧠 思考长度 | 📈 类型 |

|-----------|-------------|---------|-------|

| 🔮 `claude-3-7-sonnet-20250219` | `64,000` | `-` | Anthropic |

| 🧠 `claude-3-7-sonnet-20250219-thinking` | `64,000` | `32,000` | Anthropic |

| 🔮 `claude-sonnet-4-20250514` | `64,000` | `-` | Anthropic |

| 🧠 `claude-sonnet-4-20250514-thinking` | `64,000` | `32,000` | Anthropic |

| 🔮 `claude-opus-4-20250514` | `32,000` | `-` | Anthropic |

| 🧠 `claude-opus-4-20250514-thinking` | `32,000` | `16,000` | Anthropic |

| 🤖 `o4-mini` | `100,000` | `-` | OpenAI |

| 🤖 `chatgpt-4o-latest` | `-` | `-` | OpenAI |

| 🤖 `gpt-4.1` | `-` | `-` | OpenAI |

| 🤖 `gpt-4.5-preview` | `-` | `-` | OpenAI |



</div>



---



## 🚀 快速开始



### 方式一:🐳 Docker Compose(推荐)



#### 📥 **Step 1**: 下载配置文件



```bash

curl -o docker-compose.yml https://raw.githubusercontent.com/Rfym21/PromptlayerProxy/refs/heads/main/docker-compose.yml

```



#### ⚙️ **Step 2**: 配置环境变量



在 `docker-compose.yml` 文件中设置以下参数:



```yaml

services:

  promptlayer-proxy:

    image: rfym21/promptlayer-proxy:latest

    container_name: promptlayer-proxy

    restart: always

    ports:

      - "3000:3000"

    environment:

       # 🔐 PromptLayer 账号密码

      - ACCOUNTS=your_account1:your_password1,your_account2:your_password2...

       # 🔑 API 认证密钥

      - AUTH_TOKEN=your_auth_token_here

```



#### 🚀 **Step 3**: 启动服务



```bash

docker-compose up -d

```



---



### 方式二:🐳 Docker CLI



```bash

docker run -d \

  --name promptlayer-proxy \

  -p 3000:3000 \

  -e ACCOUNTS=your_account:your_password \

  -e AUTH_TOKEN=your_auth_token_here \

  rfym21/promptlayer-proxy:latest

```



---



### 方式三:🤗 Hugging Face Spaces



1.  **创建 Space**:

    *   访问 [Hugging Face Spaces](https://huggingface.co/new-space) 并创建一个新的 Space。

    *   选择 "Docker" 作为 SDK。

    *   选择适合的硬件(通常免费套餐已足够)。



2.  **配置 Secrets**:

    *   在 Space 的 "Settings" 标签页中,找到 "Secrets and variables" 部分。

    *   添加以下 Secrets:

        *   `ACCOUNTS`: 你的 PromptLayer 账号和密码,格式同 Docker 部署方式,例如 `your_account1:your_password1,your_account2:your_password2`。

        *   `AUTH_TOKEN`: 你设置的 API 认证密钥。



3.  **上传文件**:

    *   将本项目的所有文件(包括 `Dockerfile`, `package.json`, `src` 目录等)上传到你的 Space Git 仓库中。

    *   确保 `README.md` 文件头部的 YAML 配置如下(如果通过 Hugging Face 界面创建 Docker Space,会自动生成类似配置,请确保 `app_port` 为 `3000`):

        ```yaml

        ---

        title: PromptLayer API Proxy

        emoji: 🚀

        colorFrom: blue

        colorTo: green

        sdk: docker

        app_port: 3000

        ---

        ```



4.  **部署**:

    *   Hugging Face Spaces 会自动根据 `Dockerfile` 构建并部署你的应用。

    *   部署完成后,你的服务将在 Space 的 URL 上可用。



---



### 方式四:💻 本地开发



#### 📦 **Step 1**: 安装依赖



```bash

npm install

```



#### 📝 **Step 2**: 环境配置



创建 `.env` 文件:



```env

ACCOUNTS=your_account:your_password

AUTH_TOKEN=your_auth_token_here

```



#### 🏃 **Step 3**: 启动开发模式



```bash

npm run dev

```



---



<div align="center">



## 💬 交流与支持



[![Telegram](https://img.shields.io/badge/Telegram-2CA5E0?style=for-the-badge&logo=telegram&logoColor=white)](https://t.me/nodejs_project)



</div>