Update app.py

app.py

@@ -1,28 +1,34 @@
 import gradio as gr
-from transformers import AutoProcessor, BlipForConditionalGeneration, AutoModelForCausalLM, AutoImageProcessor, VisionEncoderDecoderModel, AutoTokenizer
-import io
-import base64
+from transformers import AutoProcessor, BlipForConditionalGeneration, AutoTokenizer,SpeechT5Processor, SpeechT5ForTextToSpeech, SpeechT5HifiGan
+import librosa
+import numpy as np
+import torch
 
 # from transformers import AutoProcessor, AutoTokenizer, AutoImageProcessor, AutoModelForCausalLM, BlipForConditionalGeneration, Blip2ForConditionalGeneration, VisionEncoderDecoderModel
-import torch
 import open_clip
-import openai
-
-from huggingface_hub import hf_hub_download
 
+#CONSTANTS
+speaker_embeddings = {
+    "BDL": "spkemb/cmu_us_bdl_arctic-wav-arctic_a0009.npy",
+    "CLB": "spkemb/cmu_us_clb_arctic-wav-arctic_a0144.npy",
+    "RMS": "spkemb/cmu_us_rms_arctic-wav-arctic_b0353.npy",
+    "SLT": "spkemb/cmu_us_slt_arctic-wav-arctic_a0508.npy",
+}
 # Carga el modelo de clasificación de imagen a texto
 blip_processor_large = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-large")
 blip_model_large = BlipForConditionalGeneration.from_pretrained("Salesforce/blip-image-captioning-large")
 
-# Carga el modelo de texto a voz
-openai.api_key = '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'
-model_id = "base"
-#model_version = "2022-01-01"
-whisper = openai.Model(model_id=model_id)
+# # Carga el modelo de clasificación de tetxo a audio speech
+checkpoint = "microsoft/speecht5_tts"
+processor = SpeechT5Processor.from_pretrained(checkpoint)
+model = SpeechT5ForTextToSpeech.from_pretrained(checkpoint)
+vocoder = SpeechT5HifiGan.from_pretrained("microsoft/speecht5_hifigan")
 
 device = "cuda" if torch.cuda.is_available() else "cpu"
 blip_model_large.to(device)
 
+
+##### IMAGE MODEL TO TEXT, MODEL 1
 def generate_caption(processor, model, image, tokenizer=None, use_float_16=False):
     inputs = processor(images=image, return_tensors="pt").to(device)
 
@@ -49,32 +55,55 @@ def generate_caption_coca(model, transform, image):
 def generate_captions(image):
 
     caption_blip_large = generate_caption(blip_processor_large, blip_model_large, image)
-    print(caption_blip_large)
-    return caption_blip_large
+    print('generate_captions>>>'+caption_blip_large)
+    return caption_blip_large,text_to_speech(caption_blip_large,"Surprise Me!")
     
+#####END IMAGE MODEL TO TEXT
 
+### TEXT TO AUDIO SPEECH  MODEL 2    
 # Define la función que convierte texto en voz
-def text_to_speech(text):
-    # Genera el audio utilizando el modelo Whisper
-    response = whisper.generate(prompt=text)
-    print(response)
-    # Extrae el audio del resultado
-    audio = response.choices[0].audio
-
-    # Codifica el audio en base64
-    audio_base64 = base64.b64encode(audio).decode("utf-8")
-
-    # Devuelve el audio como un archivo MP3
-    return BytesIO(base64.b64decode(audio_base64))
-
-# Define la interfaz de usuario utilizando Gradio
+def text_to_speech(text,speaker):
+    # Genera el audio utilizando el modelo 
+    if len(text.strip()) == 0:
+       return (16000, np.zeros(0).astype(np.int16))
+    inputs = processor(text=text, return_tensors="pt")
+
+    # limit input length
+    input_ids = inputs["input_ids"]
+    input_ids = input_ids[..., :model.config.max_text_positions]
+
+    if speaker == "Surprise Me!":
+        # load one of the provided speaker embeddings at random
+        idx = np.random.randint(len(speaker_embeddings))
+        key = list(speaker_embeddings.keys())[idx]
+        speaker_embedding = np.load(speaker_embeddings[key])
+
+        # randomly shuffle the elements
+        np.random.shuffle(speaker_embedding)
+
+        # randomly flip half the values
+        x = (np.random.rand(512) >= 0.5) * 1.0
+        x[x == 0] = -1.0
+        speaker_embedding *= x
+
+        #speaker_embedding = np.random.rand(512).astype(np.float32) * 0.3 - 0.15
+    speaker_embedding = torch.tensor(speaker_embedding).unsqueeze(0)
+
+    speech = model.generate_speech(input_ids, speaker_embedding, vocoder=vocoder)
+
+    speech = (speech.numpy() * 32767).astype(np.int16)
+    return (16000, speech)
+### END TEXT TO AUDIO SPEECH  MODEL 2 
+    
+# Define la interfaz de usuario utilizando Gradio entradas y salidas
 inputsImg = [
     gr.Image(type="pil", label="Imagen"),
 ]
 
-outputs = [ gr.Textbox(label="Caption generated by BLIP-large") ] 
+#Salidas es lo que genera de tetxo y el audio
+outputs = [ gr.Textbox(label="Caption generated by BLIP-large"),gr.Audio(type="numpy",label='Transcripcion')] 
 title = "Clasificación de imagen a texto y conversión de texto a voz"
-description = "Carga una imagen y obtén una descripción de texto de lo que contiene la imagen, así como un archivo de audio que lee el texto en voz alta."
+description = "Carga una imagen y obtén una descripción de texto de lo que contiene la imagen, así como un archivo de audio de la trasncripcion de la imagen en audio descrito."
 examples = []
 
 interface = gr.Interface(fn=generate_captions,