Update app.py

app.py

@@ -131,17 +131,17 @@ async def proxy_openai_api(request: Request):
         except RequestError as exc:
             raise HTTPException(status_code=500, detail=f'произошла ошибка при запросе: {exc}')
 
-    async def get_response():
+    async def get_response(headers: dict) -> OverrideStreamResponse:
         for api_key in API_KEYS:
             response_generator = stream_api_response(api_key)
             try:
-                async for first_chunk in response_generator:
-                    if first_chunk == 'auth_error':
-                        print(f'ключ API {api_key} недействителен или превышен лимит отправки запросов')
-                        break
-                    else:
-                        headers_to_forward = {k: v for k, v in headers.items() if k.lower() not in {'content-length', 'content-encoding', 'alt-svc'}}
-                        return OverrideStreamResponse(chain([first_chunk], response_generator), headers=headers_to_forward)
+                first_chunk = await response_generator.__anext__()
+                if first_chunk == 'auth_error':
+                    print(f'ключ API {api_key} недействителен или превышен лимит отправки запросов')
+                    continue
+                else:
+                    headers_to_forward = {k: v for k, v in headers.items() if k.lower() not in {'content-length', 'content-encoding', 'alt-svc'}}
+                    return OverrideStreamResponse(chain([first_chunk], response_generator), headers=headers_to_forward)
             except StopAsyncIteration:
                 continue
         raise HTTPException(status_code=401, detail='все ключи API использованы, доступ запрещен.')