Dev: Update async

main.py

@@ -86,90 +86,6 @@ async def chat_stream(data = Depends(validate_token)):
         "presence_penalty": float(data.get("config", []).get("presence_penalty", 1))
     }
  
-    try:
-        response = openai.ChatCompletion.create(
-            model="gpt-3.5-turbo",
-            messages=messages,
-            temperature=config["temperature"],
-            frequency_penalty=config["frequency_penalty"],
-            presence_penalty=config["presence_penalty"],
-            request_timeout = 25,
-            stream=True
-        )
-    except requests.exceptions.RequestException as e:
-        print("Timeout (requests)")
-        print(e)
-        raise HTTPException(
-            status_code=status.HTTP_408_REQUEST_TIMEOUT,
-            detail="Los servidores tardaron mucho en responder, puede haber sobrecarga en OpenAI, reintenta luego (error 1)"
-        )
-    except openai_error.APIConnectionError as e:
-        print("APIConnectionError")
-        print(e)
-        raise HTTPException(
-            status_code=status.HTTP_408_REQUEST_TIMEOUT,
-            detail="El servidor no respondió, puede haber sobrecarga en OpenAI, reintenta luego (error 2)"
-        )
-    except openai_error.Timeout as e:
-        print("Timeout (openai)")
-        print(e)
-        raise HTTPException(
-            status_code=status.HTTP_408_REQUEST_TIMEOUT,
-            detail="El servidor no respondió, puede haber sobrecarga en OpenAI, reintenta luego (error 3)"
-        )
-    except openai_error.InvalidRequestError as e:
-        print("Timeout (openai)")
-        print(e)
-        error = "El servidor no respondió, puede haber sobrecarga en OpenAI, reintenta luego (error 3)"
-        if "This model's maximum context length is 4097 tokens" in e.message:
-            error = "ChatGPT se gomitó 🤮, limpia el chat y reintenta."
-        raise HTTPException(
-            status_code=status.HTTP_408_REQUEST_TIMEOUT,
-            detail= error
-        )
-    
-    token = create_jwt_token(data.pop("token_data"))
-
-    async def __streamer():
-        chunk_size = 1024
-        chunk_body = ""
-        total_tokens = 0
-        yield '{"type": "role", "role": "assistant", "input_tokens": ' + str(token_length) + ', "content": "'
-        
-        for chunk in response:
-            delta = chunk["choices"][0]["delta"]
-
-            chunk_body += delta.get("content", "")
-            total_tokens += 1
-
-            if len(chunk_body) > chunk_size:
-                yield json.dumps(chunk_body)[1:-1]
-                chunk_body = ""
-
-        if chunk_body:
-            yield json.dumps(chunk_body)[1:-1]
-
-        yield f'", "token": "{token}", ' + '"config":' + json.dumps(config) +', ' + f'"output_tokens":{total_tokens}' +'}'
-            
-    return StreamingResponse(__streamer(), media_type="application/json")
-    
-
-@app.post("/chat_test")
-async def chat_test(data = Depends(validate_token)):
-    messages = data["messages"]
-    try:
-        token_length = len(tokenizer.encode(messages[-1]["content"]))
-    except:
-        token_length = len(messages[-1]["content"])
-        print("Error in token length")
-        print("Message:", messages[-1]["content"])
-
-    config = {
-        "temperature": float(data.get("config", []).get("temperature", 1)),
-        "frequency_penalty": float(data.get("config", []).get("frequency_penalty", 1)),
-        "presence_penalty": float(data.get("config", []).get("presence_penalty", 1))
-    }
- 
     try:
         response = openai.ChatCompletion.create(
             model="gpt-3.5-turbo",

static/js/chatHandler.js

@@ -38,8 +38,8 @@ class ChatGPT{
         });
         $(document).on("chat:enviar", (event, params) => {
             this.reintentos = 0;
-            this.enviar(params)
-            //this.enviar2(params)
+            //this.enviar(params)
+            this.enviar2(params)
         });
         $(document).on("enviar:reintentar", (event, params) => {
             this.reintentos++;
@@ -78,58 +78,6 @@ class ChatGPT{
     }
 
     enviar(mensaje){
-
-        let tempMensajes = [];
-        let tokens = 0;
-        for(let i = 0; i < this.convesacion.length; i++){
-            let actMsg = this.convesacion[i];
-            tempMensajes.push({role: actMsg.role, content: actMsg.content})
-            tokens += actMsg.tokens 
-        }
-        console.log("Enviado: ", mensaje);
-        tempMensajes.push({role: "user", content: mensaje});
-        $(document).trigger("enviar:cargando",mensaje);
-
-        console.log("Cagados ", tokens, "tokens");
-        this.execStart = performance.now()
-        $.ajax({
-            type: "POST",
-            url: this.endpointChat,
-            data: JSON.stringify({
-                messages: tempMensajes,
-                token: this.token,
-                config: this.config
-            }),
-            headers: {
-                "Content-type": "application/json"
-            }
-        })
-        .done(( data, status, jqXHR ) => { 
-            console.log("Enviado: ", data);
-            this.convesacion.push({role: "user", content: mensaje, tokens: data.input_tokens} )
-            this.convesacion.push({role: data.role, content: data.content, tokens: data.output_tokens} )
-            this.token = data.token;
-            data.execTime = performance.now() - this.execStart;
-            $(document).trigger("enviar:exito", data);
-            localStorage.setItem("convesacion", JSON.stringify(this.convesacion))
-        })
-        .fail(( jqXHR, status, error ) => {
-            console.log("enviado fallido")
-            console.log(jqXHR)
-            console.log(status)
-            console.log(error)
-            if(jqXHR.status==404 || status==500){
-                $(document).trigger("enviar:fallido",{jqXHR:jqXHR, status:status, error:error, mensaje:mensaje});    
-            }else{
-                let execTime = performance.now() - this.execStart;
-                $(document).trigger("enviar:error",{jqXHR:jqXHR, status:status, error:error, execTime:execTime, mensaje:mensaje});
-            }
-            
-        })
-        
-    }
-
-    enviar2(mensaje){
         let tempMensajes = [];
         let tokens = 0;
         for(let i = 0; i < this.convesacion.length; i++){
@@ -141,7 +89,7 @@ class ChatGPT{
         tempMensajes.push({role: "user", content: mensaje});
         $(document).trigger("precarga:inicio", mensaje);
 
-        fetch('/chat_test', {
+        fetch(this.endpointChat, {
             method: "POST",
             body: JSON.stringify({
                 messages: tempMensajes,
@@ -156,7 +104,7 @@ class ChatGPT{
             return new ReadableStream({
               start(controller) {
                 function push() {
-                  reader.read().then((done, value) => {
+                  reader.read().then(({done, value}) => {
                     if (done) {
                       console.log("done", done);
                       controller.close();
@@ -201,7 +149,7 @@ class ChatGPT{
             });
           })
         .then(data => console.log('Solicitud finalizada', data))    //imprimir los datos en la consola
-        // .catch(err => console.log('Solicitud fallida', err)); // Capturar errores
+        .catch(err => console.log('Solicitud fallida', err)); // Capturar errores
 
 
     }

static/js/windowHandler.js

@@ -3,23 +3,12 @@ class WindowHandler{
         this.chatbox = $("#chat");
         this.template = $('<div class="message"><div><p></p></div></div>');
         this.active = false;
+        this.mensaje = "";
 
         // this.evCtx = document;
 
-        $(document).on("enviar:exito", (event, params) => this.procesarTexto(params));
-        
         $(document).on("chat:enviar", (event, params) => this.recalcularTextarea());
         $(document).on("chat:limpiar", () => this.limpiarChat());
-        $(document).on("enviar:reintentar", (event, params) => {
-            this.precargaMensaje(params.mensaje, "reenvio")
-        });
-        $(document).on("enviar:fallido", (event, params) => {
-            if(params.jqXHR.status == 404){
-                this.precargaMensaje(params.mensaje, "token vencido")
-            }else{
-                this.precargaMensaje(params.mensaje, "fallido")
-            }
-        });
 
         $("#input-text").keypress((event) => {
             if (!event.shiftKey && event.keyCode === 13) {
@@ -32,7 +21,7 @@ class WindowHandler{
         this.cargarChat(chatH.convesacion);
 
         $(document).on("precarga:inicio", (event, params) => {
-            this.precargaInicio()
+            this.precargaInicio(params)
         });
         $(document).on("precarga:mensaje", (event, params) => {
             this.precargaMensaje2(params)}
@@ -40,9 +29,7 @@ class WindowHandler{
         $(document).on("precarga:fin", (event, params) => {
             this.precargaFin()
         });
-        
-        
-        
+
     }
 
     limpiarChat(){
@@ -56,11 +43,6 @@ class WindowHandler{
         if(mensaje==""){
             return false;
         }
-        $("#input-text").val("");
-        $("button").prop("disabled", true);
-        $("textarea").prop("disabled", true);
-        this.mostarMensaje(mensaje, "user");
-        this.precargaMensaje("", "")
         $(document).trigger("chat:enviar", mensaje);
     }
     
@@ -80,95 +62,33 @@ class WindowHandler{
         });
     }
 
-    procesarTexto(params){
-        let segmentos = params.content.split("```");
-        let msgProcesado = "";
-        for(let i=0; i<segmentos.length;i++){
-            let textoActual = segmentos[i];
-            if(i%2==0){
-                msgProcesado += textoActual.replace(/\n/g, "<br>").replace(/`(.*?)`/gm, "<b>$1</b>");
-            }else{
-                let temp = textoActual.split("\n",1);
-                msgProcesado += "<pre><code class='language-";
-                msgProcesado += temp[0].length>1?temp[0]:"none";      
-                temp = $("<div></div>").text(textoActual.substr(temp[0].length)).html()
-                msgProcesado += "'>"+temp+"</code></pre>";
-            }
-        }
-        this.mostarMensaje(msgProcesado, params.role);
-    }
-
-    mostarMensaje(mensaje, role){
-        let clone = this.template.clone();
-        if(role=="user"){
-            clone.addClass("me");
-            clone.find("div p").text(mensaje);
-            this.chatbox.append(clone);
-            this.chatbox.scrollTop(this.chatbox[0].scrollHeight);
-            return;
-        }else{
-            $("button").prop("disabled", false);
-            $("textarea").prop("disabled", false);
-            
-            if($(".precarga").length){
-                clone = $(".precarga")
-                clone.removeClass("precarga")
-            }else{
-                this.chatbox.append(clone);
-            }
-            clone.find("div p").html(mensaje);
-            Prism.highlightAll();
-            this.active = false;
-        }
-
-        this.chatbox.scrollTop(this.chatbox[0].scrollHeight);
-    }
-
-    
-
-    precargaMensaje(mensaje, role){
-        if(role=="reenvio"){
-            $(".message.precarga").find("div p").text("Algo sucedió, estoy reintentando...");
-            if(!$(".message.precarga").hasClass("warning")){
-                $(".message.precarga").addClass("warning");
-            }
-        }else if(role=="fallido"){
-            $(".message.precarga").removeClass("warning");
-            $(".message.precarga").addClass("error");
-            $(".message.precarga").find("div p").text("Algo muy malo pasó 🤷‍♂️");
-            $(".message.precarga").removeClass("precarga");            
-        }else if(role=="token vencido"){
-            $(".message.precarga").removeClass("warning");
-            $(".message.precarga").addClass("error");
-            $(".message.precarga").find("div p").text("El token se venció 🤦‍♂️, recarga la pagina");
-            $(".message.precarga").removeClass("precarga");            
-        }else{
-            let clone = this.template.clone();
-            clone.addClass("precarga");
-            clone.find("div p").html("Cargando...");
-            this.chatbox.append(clone);
-            this.chatbox.scrollTop(this.chatbox[0].scrollHeight);
-        }
-    }
-
-    
-
-    precargaInicio(){
+    precargaInicio(mensaje){
+        $("#input-text").val("");
+        $("button").prop("disabled", true);
+        $("textarea").prop("disabled", true);
+        this.mensaje = ""
         let clone = this.template.clone();
+        clone.addClass("me");
+        clone.find("div p").text(mensaje);
+        this.chatbox.append(clone);
+        
+        clone = this.template.clone();
+        clone.find("div p").html("");
+        this.chatbox.append(clone);
         this.active = clone;
-        this.active.find("div p").html("");
-        this.chatbox.append(this.active);
         this.chatbox.scrollTop(this.chatbox[0].scrollHeight);
-
     }
+
     precargaMensaje2(mensaje){
-        let html = this.active.html();
-        html += mensaje
-        this.active.html(html);
+        this.mensaje += mensaje
+        let html = this.active.find("div p").html();
+        html += mensaje.replace(/\n/g, "<br>").replace(/`([^`\w\W]+?)`/gm, "<b>$1</b>")
+        this.active.find("div p").html(html);
 
     }
+
     precargaFin(){
-        let mensaje = this.active.html()
+        let mensaje = this.mensaje;
         let segmentos = mensaje.split("```");
         let msgProcesado = "";
         if(segmentos.length%2==0){
@@ -186,7 +106,10 @@ class WindowHandler{
                 msgProcesado += "'>"+temp+"</code></pre>";
             }
         }
-        this.active.html(msgProcesado)
+        $("button").prop("disabled", false);
+        $("textarea").prop("disabled", false);
+        $("textarea").focus();
+        this.active.find("div p").html(msgProcesado)
         this.active = false;
 
     }