Auto commit at 25-2025-08 14:40:50

lily_llm_api/services/generation_service.py

@@ -284,7 +284,8 @@ def generate_sync(prompt: str, image_data_list: Optional[List[bytes]], max_lengt
 
                 # 2) 텍스트 길이 측정 (이미지 토큰 제외한 프롬프트)
                 #    멀티모달에서도 RAG 스니펫은 컨텍스트 블록으로 분리하여 텍스트 길이를 산정
-                base_text_prompt = f"{('[CONTEXT]\n'+rag_snippet_short+'[/CONTEXT]\n') if rag_snippet_short else ''}Human: {prompt}\nAssistant:"
+                context_block_for_len = f"[CONTEXT]\n{rag_snippet_short}[/CONTEXT]\n" if rag_snippet_short else ""
+                base_text_prompt = f"{context_block_for_len}Human: {prompt}\nAssistant:"
                 text_inputs = tokenizer(
                     base_text_prompt,
                     return_tensors="pt",