Update app.py

app.py

@@ -131,6 +131,7 @@ async def proxy_openai_api(request: Request):
             streaming = client.stream(request.method, COMPLETIONS_URL, headers=headers, params=request.query_params, json=request_body)
             async with streaming as stream_response:
                 if stream_response.status_code in {401, 402, 429}:
+                    yield 'auth_error'
                     return
                 if stream_response.status_code == 403:
                     raise CensoredError('отклонено по цензуре')  # это специфичная ошибка именно для опенроутера!
@@ -145,15 +146,22 @@ async def proxy_openai_api(request: Request):
         except RequestError as exc:
             raise HTTPException(status_code=500, detail=f'произошла ошибка при запросе: {exc}')
 
-    for api_key in API_KEYS:
-        response_generator = stream_api_response(api_key)
-        try:
-            response = OverrideStreamResponse(response_generator)
-            return response
-        except StopAsyncIteration:
-            print(f'ключ API {api_key} недействителен или превышен лимит отправки запросов')
-            continue
-    raise HTTPException(status_code=401, detail='все ключи API использованы, доступ запрещен.')
+    async def get_response():
+        for api_key in API_KEYS:
+            response_generator = stream_api_response(api_key)
+            try:
+                first_chunk = await response_generator.__anext__()
+                if first_chunk == 'auth_error':
+                    print(f'ключ API {api_key} недействителен или превышен лимит отправки запросов')
+                    continue
+                else:
+                    return OverrideStreamResponse(itertools.chain([first_chunk], response_generator))
+            except StopAsyncIteration:
+                continue
+        raise HTTPException(status_code=401, detail='все ключи API использованы, доступ запрещен.')
+    
+    response = await get_response()
+    return response
 
 
 @cache_results