initial: speech-to-speech backend

Dockerfile

@@ -0,0 +1,40 @@
+FROM pytorch/pytorch:2.6.0-cuda12.4-cudnn9-runtime
+
+ENV DEBIAN_FRONTEND=noninteractive \
+    PYTHONUNBUFFERED=1 \
+    PIP_DISABLE_PIP_VERSION_CHECK=1
+
+RUN apt-get update && apt-get install -y --no-install-recommends \
+    git \
+    ffmpeg \
+    libsndfile1 \
+    espeak-ng \
+    curl \
+    ca-certificates \
+    && rm -rf /var/lib/apt/lists/*
+
+RUN useradd -m -u 1000 user
+
+USER user
+ENV HOME=/home/user \
+    PATH=/home/user/.local/bin:$PATH \
+    HF_HOME=/home/user/hf_cache \
+    TRANSFORMERS_CACHE=/home/user/hf_cache
+
+WORKDIR /home/user/app
+
+RUN pip install --user --no-cache-dir --upgrade pip
+
+# speech-to-speech desde main (v0.2.10 en PyPI no expone --llm_backend chat-completions)
+RUN pip install --user --no-cache-dir \
+    "speech-to-speech @ git+https://github.com/huggingface/speech-to-speech.git@main"
+
+# Deps transitivas que a veces faltan en la instalación mínima
+RUN pip install --user --no-cache-dir num2words
+
+COPY --chown=user:user entrypoint.sh /home/user/app/entrypoint.sh
+RUN chmod +x /home/user/app/entrypoint.sh
+
+EXPOSE 8765
+
+CMD ["/home/user/app/entrypoint.sh"]

README.md

@@ -1,10 +1,25 @@
 ---
-title: S2s Backend
-emoji: 📊
-colorFrom: pink
-colorTo: gray
+title: S2S Backend HF Cerebras
+emoji: 🎤
+colorFrom: green
+colorTo: indigo
 sdk: docker
+app_port: 8765
 pinned: false
+suggested_hardware: t4-small
+short_description: Parakeet + Gemma-4 Cerebras + Qwen3-TTS realtime
 ---
 
-Check out the configuration reference at https://huggingface.co/docs/hub/spaces-config-reference
+Backend WebSocket compatible con el protocolo OpenAI Realtime GA.
+Sirve `/v1/realtime` en el `app_port` del Space.
+
+Corre `huggingface/speech-to-speech --mode realtime` con:
+- **STT**: `nvidia/parakeet-tdt-0.6b-v3` (en GPU del Space)
+- **LLM**: `google/gemma-4-31B-it:cerebras` vía HF Router
+- **TTS**: `Qwen3-TTS-12Hz-1.7B` (en GPU del Space, backend torch)
+
+Secretos requeridos:
+- `HF_TOKEN` — token con acceso a Inference Providers (para Cerebras via router)
+
+Cliente: cualquier frontend que hable OpenAI Realtime, por ejemplo el fork de
+`smolagents/hf-realtime-voice`. Poner `wss://<este-space>.hf.space` en Settings.

entrypoint.sh

@@ -0,0 +1,31 @@
+#!/usr/bin/env bash
+set -euo pipefail
+
+if [ -z "${HF_TOKEN:-}" ]; then
+  echo "ERROR: HF_TOKEN no está definido. Configuralo en Space Settings -> Secrets."
+  exit 1
+fi
+
+# Réplica de la config del backend de smolagents/hf-realtime-voice:
+#   VAD: Silero (built-in, tiny, en GPU/CPU)
+#   STT: Parakeet TDT (NVIDIA), en la GPU del Space
+#   LLM: Gemma 4 31B en Cerebras, via HF Router (único servicio remoto)
+#   TTS: Qwen3-TTS 1.7B, backend PyTorch en la GPU del Space
+#
+# El backend --qwen3_tts_backend torch evita el wheel específico de CUDA de GGML,
+# más simple para deploy en HF Spaces GPU. Si querés máxima velocidad de TTS
+# después, se puede cambiar a ggml y matchear la versión de CUDA de la base image.
+exec speech-to-speech \
+    --mode realtime \
+    --stt parakeet-tdt \
+    --llm_backend chat-completions \
+    --tts qwen3 \
+    --qwen3_tts_backend torch \
+    --model_name "google/gemma-4-31B-it:cerebras" \
+    --responses_api_base_url "https://router.huggingface.co/v1" \
+    --responses_api_api_key "$HF_TOKEN" \
+    --responses_api_reasoning_effort none \
+    --responses_api_stream \
+    --enable_live_transcription \
+    --ws_host 0.0.0.0 \
+    --ws_port 8765