Update app.py

app.py

@@ -13,6 +13,68 @@ import datetime
 # ✅ GitHubModelLLM (그대로 유지)
 # ──────────────────────────────
 
+from langchain.chat_models.base import BaseChatModel
+from langchain.schema import AIMessage, HumanMessage, SystemMessage
+import requests, os, json
+from requests.adapters import HTTPAdapter, Retry
+from typing import List, Optional, Dict, Any
+
+
+class GitHubModelLLM(BaseChatModel):
+    """GitHub Models API를 사용하는 ChatOpenAI 대체 클래스"""
+
+    model_name: str = "openai/gpt-4.1"
+    endpoint: str = "https://models.github.ai/inference"
+    token: Optional[str] = os.environ.get("token")
+    request_timeout: float = 30.0
+    max_retries: int = 2
+    backoff_factor: float = 0.3
+    system_prompt: Optional[str] ="너는 PIXAL(Primary Interactive X-ternal Assistant with multi Language)이야. 너의 개발자는 정성윤 이라는 6학년 파이썬 프로그래머야.이 메시지는 사용자가 보낸것이 아닙니다."
+    @property
+    def _llm_type(self) -> str:
+        return "custom_chatopenai_github"
+
+    def _post(self, body: Dict[str, Any]) -> Dict[str, Any]:
+        token = self.token or os.getenv("GITHUB_TOKEN") or os.getenv("token")
+        session = requests.Session()
+        retries = Retry(total=self.max_retries, backoff_factor=self.backoff_factor,
+                        status_forcelist=[429, 500, 502, 503, 504])
+        session.mount("https://", HTTPAdapter(max_retries=retries))
+        session.headers.update({
+            "Authorization": f"Bearer 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",
+            "Content-Type": "application/json",
+        })
+        resp = session.post(f"{self.endpoint}/chat/completions", json=body, timeout=self.request_timeout)
+        resp.raise_for_status()
+        return resp.json()
+
+    def _generate(self, messages: List[Any], stop: Optional[List[str]] = None, **kwargs):
+        """ConversationBufferMemory의 이전 대화까지 포함해 메시지 생성"""
+        msg_list = []
+
+        # 시스템 프롬프트
+        if self.system_prompt:
+            msg_list.append({"role": "system", "content": self.system_prompt})
+
+        # 메모리 포함 (human/ai 메시지 모두)
+        for msg in messages:
+            if isinstance(msg, HumanMessage):
+                msg_list.append({"role": "user", "content": msg.content})
+            elif isinstance(msg, AIMessage):
+                msg_list.append({"role": "assistant", "content": msg.content})
+            elif isinstance(msg, SystemMessage):
+                msg_list.append({"role": "system", "content": msg.content})
+
+        body = {"model": self.model_name, "messages": msg_list}
+        if stop:
+            body["stop"] = stop
+
+        res = self._post(body)
+        content = res.get("choices", [{}])[0].get("message", {}).get("content", "")
+        return content
+
+    async def _agenerate(self, messages: List[Any], stop: Optional[List[str]] = None, **kwargs):
+        return self._generate(messages, stop, **kwargs)
 from typing import Optional, List, Dict, Any
 from langchain.llms.base import LLM
 import requests, os, json
@@ -78,6 +140,7 @@ class GitHubModelLLM(LLM):
         msg = res.get("choices", [{}])[0].get("message", {})
         return msg.get("content") or json.dumps(msg.get("function_call", {}))
 '''
+"""
 class GitHubModelLLM(LLM):
     model: str = "openai/gpt-4.1"
     endpoint: str = "https://models.github.ai/inference"
@@ -109,7 +172,6 @@ class GitHubModelLLM(LLM):
         return resp.json()
 
     def _call(self, prompt: str, stop: Optional[List[str]] = None, **kwargs) -> str:
-        """💬 LangChain memory의 전체 대화 내용을 모델에 전달"""
         memory = kwargs.get("memory")
         messages = []
 
@@ -135,6 +197,7 @@ class GitHubModelLLM(LLM):
         res = self._post_chat(body)
         msg = res.get("choices", [{}])[0].get("message", {})
         return msg.get("content") or json.dumps(msg.get("function_call", {}))
+"""
 # ──────────────────────────────
 # ✅ LangChain 도구 & 에이전트 구성
 # ──────────────────────────────