hue-portal-backend-v2 / backend /CHECK_API_MODE.md
davidtran999's picture
Push full code from hue-portal-backend folder
519b145
|
raw
history blame
1.4 kB
# Kiểm tra API Mode
## Vấn đề
Response hiện tại là template-based, không phải từ LLM API mode.
## Đã làm
1. ✅ Cấu hình đã đúng: `LLM_PROVIDER=api`
2. ✅ Test trực tiếp API mode hoạt động
3. ✅ Đã thêm logging vào RAG pipeline để debug
## Cách kiểm tra
### 1. Kiểm tra server logs
Khi gửi request, xem logs có:
- `[RAG] Using LLM provider: api`
- `[LLM] Generating answer with provider: api`
- `[LLM] ✅ Answer generated successfully` hoặc error
### 2. Test trực tiếp
```bash
curl -X POST http://localhost:8000/api/chatbot/chat/ \
-H "Content-Type: application/json" \
-d '{"message": "Mức phạt vượt đèn đỏ là bao nhiêu?", "reset_session": false}'
```
### 3. Kiểm tra trong code
- RAG pipeline gọi `llm.generate_answer()` với `use_llm=True`
- LLM generator có `provider == "api"`
- `_generate_api()` được gọi với query
## Nguyên nhân có thể
1. **API timeout**: HF Spaces API có thể timeout
2. **API trả về None**: API có thể trả về None và fallback về template
3. **LLM không available**: `get_llm_generator()` có thể trả về None
## Giải pháp
Nếu API mode không hoạt động:
1. Kiểm tra Hugging Face Space có đang chạy không
2. Kiểm tra internet connection
3. Kiểm tra API URL có đúng không
4. Xem server logs để biết lỗi cụ thể