diff --git a/.gitattributes b/.gitattributes index bed0738c7eeb449bca98b5d2f33c89a1ee56349a..b3a4c26f8fb5bafa37732efc5b20cc3d2eb1f912 100644 --- a/.gitattributes +++ b/.gitattributes @@ -58,3 +58,6 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text # Video files - compressed *.mp4 filter=lfs diff=lfs merge=lfs -text *.webm filter=lfs diff=lfs merge=lfs -text +lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/run-puguclmi.wandb filter=lfs diff=lfs merge=lfs -text +lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/run-09tsct60.wandb filter=lfs diff=lfs merge=lfs -text +lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/run-a0h99ykt.wandb filter=lfs diff=lfs merge=lfs -text diff --git a/kd_dataset.zip b/kd_dataset.zip new file mode 100644 index 0000000000000000000000000000000000000000..fa173ef10cde0a7f15f4d471af3df92135a37812 --- /dev/null +++ b/kd_dataset.zip @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b4808accd50b8082428ee8a820f7f8f22d7c34b585c1481ece9f73f2dd8316a6 +size 184 diff --git a/lor/VibeVoice-finetuning/LICENSE b/lor/VibeVoice-finetuning/LICENSE new file mode 100644 index 0000000000000000000000000000000000000000..5082284c8c2d5e8da6ffe04f46b88534506eeba8 --- /dev/null +++ b/lor/VibeVoice-finetuning/LICENSE @@ -0,0 +1,21 @@ +MIT License + +Copyright (c) 2025 Resemble AI + +Permission is hereby granted, free of charge, to any person obtaining a copy +of this software and associated documentation files (the "Software"), to deal +in the Software without restriction, including without limitation the rights +to use, copy, modify, merge, publish, distribute, sublicense, and/or sell +copies of the Software, and to permit persons to whom the Software is +furnished to do so, subject to the following conditions: + +The above copyright notice and this permission notice shall be included in all +copies or substantial portions of the Software. + +THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR +IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, +FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE +AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER +LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, +OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE +SOFTWARE. \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/README.md b/lor/VibeVoice-finetuning/README.md new file mode 100644 index 0000000000000000000000000000000000000000..2c61e093f3e8ac122dab383201e0a7b4f092cf77 --- /dev/null +++ b/lor/VibeVoice-finetuning/README.md @@ -0,0 +1,762 @@ + + + +# Unofficial WIP Finetuning repo for VibeVoice + + + +# Hardware requirements + + + +To train a VibeVoice 1.5B LoRa, a machine with at least 16gb VRAM is recommended. + +To train a VibeVoice 7B LoRa, a machine with at least 48gb VRAM is recommended. + +Keep in mind longer audios increase VRAM requirements + + + +# Installation + +It is recommended to install this in a fresh environment. Specifically, the Dockerized environment `runpod/pytorch:2.8.0-py3.11-cuda12.8.1-cudnn-devel-ubuntu22.04` has been tested to work. + + + +Transformers version 4.51.3 is known to work, while other versions have errors related to Qwen2 architecture. + + +``` +git clone https://github.com/voicepowered-ai/VibeVoice-finetuning + +pip install -e . + +pip uninstall -y transformers && pip install transformers==4.51.3 + +(OPTIONAL) wandb login + +(OPTIONAL) export HF_HOME=/workspace/hf_models +``` + + + +# Usage + + + +## VibeVoice 1.5B / 7B (LoRA) fine-tuning + + + + + +We put some code together for training VibeVoice (7B) with LoRA. This uses the vendored VibeVoice model/processor and trains with a dual loss: masked CE on text tokens plus diffusion MSE on acoustic latents. + + + + + +Requirements: + + + +- Download a compatible VibeVoice 7B or 1.5b checkpoint (config + weights) and its processor files (preprocessor_config.json) or run straight from HF model. + +- A 24khz audio dataset with audio files (target audio), text prompts (transcriptions) and optionally voice prompts (reference audio) + + + + + + +### Training with Hugging Face Dataset + + +``` +python -m src.finetune_vibevoice_lora \ + +--model_name_or_path aoi-ot/VibeVoice-Large \ + +--processor_name_or_path src/vibevoice/processor \ + +--dataset_name your/dataset \ + +--text_column_name text \ + +--audio_column_name audio \ + +--voice_prompts_column_name voice_prompts \ + +--output_dir outputTrain3 \ + +--per_device_train_batch_size 8 \ + +--gradient_accumulation_steps 16 \ + +--learning_rate 2.5e-5 \ + +--num_train_epochs 5 \ + +--logging_steps 10 \ + +--save_steps 100 \ + +--eval_steps 100 \ + +--report_to wandb \ + +--remove_unused_columns False \ + +--bf16 True \ + +--do_train \ + +--gradient_clipping \ + +--gradient_checkpointing False \ + +--ddpm_batch_mul 4 \ + +--diffusion_loss_weight 1.4 \ + +--train_diffusion_head True \ + +--ce_loss_weight 0.04 \ + +--voice_prompt_drop_rate 0.2 \ + +--lora_target_modules q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj \ + +--lr_scheduler_type cosine \ + +--warmup_ratio 0.03 \ + +--max_grad_norm 0.8 +``` + + +---------- + + + +### Training with Local JSONL Dataset + + +``` +python -m src.finetune_vibevoice_lora \ + +--model_name_or_path aoi-ot/VibeVoice-Large \ + +--processor_name_or_path src/vibevoice/processor \ + +--train_jsonl prompts.jsonl \ + +--text_column_name text \ + +--audio_column_name audio \ + +--output_dir outputTrain3 \ + +--per_device_train_batch_size 8 \ + +--gradient_accumulation_steps 16 \ + +--learning_rate 2.5e-5 \ + +--num_train_epochs 5 \ + +--logging_steps 10 \ + +--save_steps 100 \ + +--report_to wandb \ + +--remove_unused_columns False \ + +--bf16 True \ + +--do_train \ + +--gradient_clipping \ + +--gradient_checkpointing False \ + +--ddpm_batch_mul 4 \ + +--diffusion_loss_weight 1.4 \ + +--train_diffusion_head True \ + +--ce_loss_weight 0.04 \ + +--voice_prompt_drop_rate 0.2 \ + +--lora_target_modules q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj \ + +--lr_scheduler_type cosine \ + +--warmup_ratio 0.03 \ + +--max_grad_norm 0.8 +``` + + +### JSONL format: + + + +You can provide an optional `voice_prompts` key. If it is omitted, a voice prompt will be automatically generated from the target audio. + + + +**Example without a pre-defined voice prompt (will be auto-generated):** + +`{"text": "Speaker 0: Speaker0 transcription.", "audio": "/workspace/wavs/segment_000000.wav"}` + + + +**Example with a pre-defined voice prompt:** + +`{"text": "Speaker 0: Speaker0 transcription.", "audio": "/workspace/wavs/segment_000000.wav", "voice_prompts": "/path/to/a/different/prompt.wav"}` + + + +**Example with multiple speakers and voice prompts:** + +`{"text": "Speaker 0: How is the project coming along?\nSpeaker 1: It's going well, we should be finished by Friday.", "audio": "/data/conversations/convo_01.wav", "voice_prompts": ["/data/prompts/alice_voice_prompt.wav", "/data/prompts/bob_voice_prompt.wav"]}` + + + + + +# Notes: + + + +- Audio is assumed to be 24 kHz; input audio will be loaded/resampled to 24 kHz. + + + +- If you pass raw NumPy arrays or torch Tensors as audio (without sampling rate metadata), the collator assumes they are already 24 kHz. To trigger resampling, provide dicts like {"array": , "sampling_rate": } or file paths. + + + +- Tokenizers (acoustic/semantic) are frozen by default. LoRA is applied to the LLM (Qwen) and optionally to the diffusion head. + + + +- The collator builds interleaved sequences with speech placeholders and computes the required masks for diffusion loss. + +- If a voice_prompts column is not provided in your dataset for a given sample, a voice prompt is **automatically generated** by taking a random clip from the target audio. This fallback ensures the model's voice cloning ability is maintained. You can override this behavior by providing your own voice prompts. + +- Said voice_prompts are randomly dropped during training to improve generalization. Drop rates of 0.2 and 0.25 have been tested with satisfactory results. + + + +- The model learns to emit a closing `[speech_end]` token after target placeholders. + + + +- For multi‑speaker prompts, ensure `voice_prompts` list order matches `Speaker 0/1/...` tags in your text. + + + +- LoRA adapters are saved under `output_dir/lora` after training. + + + + + +# Acknowledgements + + + +- [VibeVoice](https://github.com/microsoft/VibeVoice) + + + +- [chatterbox-finetuning](https://github.com/stlohrey/chatterbox-finetuning) + + + + +## Training Script Arguments + + + +Comprehensive list of all the command-line arguments available for the fine-tuning script. + + + +### Model & Architecture Arguments + +Controls the base model, its configuration, and which components are trained. + + + +* `--model_name_or_path` + +* **What it does:** Specifies the path to the pretrained VibeVoice base model. This can be a local directory or a Hugging Face Hub repository ID. + +* **Required:** Yes. + +* **Example:** + +```bash + +--model_name_or_path aoi-ot/VibeVoice-Large + +``` + + + +* `--processor_name_or_path` + +* **What it does:** Specifies the path to the VibeVoice processor configuration. If not provided, it defaults to the `model_name_or_path`. + +* **Example:** + +```bash + +--processor_name_or_path src/vibevoice/processor + +``` + + + +* `--train_diffusion_head` + +* **What it does:** A boolean flag to enable **full fine-tuning** of the diffusion prediction head. When enabled, all parameters of the diffusion head become trainable. + +* **Example:** + +```bash + +--train_diffusion_head True + +``` + + + +* `--train_connectors` + +* **What it does:** A boolean flag to enable training of the acoustic and semantic connectors, which bridge different parts of the model. + +* **Example:** + +```bash + +--train_connectors True + +``` + + + +* `--lora_target_modules` + +* **What it does:** A comma-separated string of module names within the language model to apply LoRA adapters to. This is the primary way to enable LoRA for the text-processing part of the model. + +* **Example:** + +```bash + +--lora_target_modules q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj + +``` + + + +* `--lora_r` + +* **What it does:** The rank (`r`) of the LoRA decomposition. A smaller number means fewer trainable parameters. + +* **Default:** `8` + +* **Example:** + +```bash + +--lora_r 16 + +``` + + + +* `--lora_alpha` + +* **What it does:** The scaling factor for the LoRA weights. A common practice is to set `lora_alpha` to be four times the value of `lora_r`. + +* **Default:** `32` + +* **Example:** + +```bash + +--lora_alpha 64 + +``` + +* `--lora_wrap_diffusion_head` + +* **What it does:** An **alternative** to `--train_diffusion_head`. If `True`, it applies LoRA adapters to the diffusion head instead of fine-tuning it fully, enabling more parameter-efficient training of the head. Must only use `--train_diffusion_head` or `--lora_wrap_diffusion_head` + +* **Default:** `False` + + + + + +* `--layers_to_freeze` + +* **What it does:** Comma-separated indices of diffusion head layers to freeze (e.g., '0,1,5,7,8'). [Diffusion head layer indices](https://github.com/voicepowered-ai/VibeVoice-finetuning/blob/main/diff_head_layers.txt) + +* **Default:** `None` + +### Data & Processing Arguments + +Defines the dataset to be used, its structure, and how it should be processed. + + + +* `--train_jsonl` + +* **What it does:** Path to your local training data file in JSONL (JSON Lines) format. Each line should be a JSON object with keys for text and audio path. + +* **Example:** + +```bash + +--train_jsonl prompts.jsonl + +``` + + + +* `--validation_jsonl` + +* **What it does:** Optional path to a local validation data file in JSONL format. + +* **Example:** + +```bash + +--validation_jsonl validation_prompts.jsonl + +``` + + + +* `--text_column_name` + +* **What it does:** The name of the key in your JSONL file that contains the text transcription/prompt. + +* **Default:** `text` + +* **Example:** + +```bash + +--text_column_name "prompt" + +``` + + + +* `--audio_column_name` + +* **What it does:** The name of the key in your JSONL file that contains the path to the audio file. + +* **Default:** `audio` + +* **Example:** + +```bash + +--audio_column_name "file_path" + +``` + + + +* `--voice_prompt_drop_rate` + +* **What it does:** The probability (from 0.0 to 1.0) of randomly dropping the conditioning voice prompt during training. This acts as a regularizer. + +* **Default:** `0.0` + +* **Example:** + +```bash + +--voice_prompt_drop_rate 0.2 + +``` + + + +### Core Training Arguments + +Standard Hugging Face `TrainingArguments` that control the training loop, optimizer, and saving. + + + +* `--output_dir` + +* **What it does:** The directory where model checkpoints and final outputs will be saved. + +* **Required:** Yes. + +* **Example:** + +```bash + +--output_dir output_model + +``` + + + +* `--per_device_train_batch_size` + +* **What it does:** The number of training examples processed per GPU in a single step. + +* **Example:** + +```bash + +--per_device_train_batch_size 8 + +``` + + + +* `--gradient_accumulation_steps` + +* **What it does:** The number of forward passes to accumulate gradients for before performing an optimizer step. This effectively increases the batch size without using more VRAM. + +* **Example:** + +```bash + +--gradient_accumulation_steps 16 + +``` + + + +* `--learning_rate` + +* **What it does:** The initial learning rate for the optimizer. + +* **Example:** + +```bash + +--learning_rate 2.5e-5 + +``` + + + +* `--num_train_epochs` + +* **What it does:** The total number of times to iterate over the entire training dataset. + +* **Example:** + +```bash + +--num_train_epochs 5 + +``` + + + +* `--logging_steps` + +* **What it does:** How often (in steps) to log training metrics like loss. + +* **Example:** + +```bash + +--logging_steps 10 + +``` + + + +* `--save_steps` + +* **What it does:** How often (in steps) to save a model checkpoint. + +* **Example:** + +```bash + +--save_steps 100 + +``` + + + +* `--report_to` + +* **What it does:** The integration to report logs to. Can be `wandb`, `tensorboard`, or `none`. + +* **Example:** + +```bash + +--report_to wandb + +``` + + + +* `--remove_unused_columns` + +* **What it does:** Whether to remove columns from the dataset not used by the model's `forward` method. **This must be set to `False`** for this script to work correctly. + +* **Example:** + +```bash + +--remove_unused_columns False + +``` + + + +* `--bf16` + +* **What it does:** Enables mixed-precision training using `bfloat16`. This speeds up training and reduces memory usage on compatible GPUs (NVIDIA Ampere series and newer). + +* **Example:** + +```bash + +--bf16 True + +``` + + + +* `--gradient_checkpointing` + +* **What it does:** A memory-saving technique that trades compute for memory. Useful for training large models on limited VRAM. + +* **Example:** + +```bash + +--gradient_checkpointing True + +``` + + + +* `--lr_scheduler_type` + +* **What it does:** The type of learning rate schedule to use (e.g., `linear`, `cosine`, `constant`). + +* **Example:** + +```bash + +--lr_scheduler_type cosine + +``` + + + +* `--warmup_ratio` + +* **What it does:** The proportion of total training steps used for a linear warmup from 0 to the initial learning rate. + +* **Example:** + +```bash + +--warmup_ratio 0.03 + +``` + + + +### Custom VibeVoice Training Arguments + +Special arguments to control VibeVoice-specific training behaviors. + + + +* `--gradient_clipping` + +* **What it does:** A custom boolean flag that acts as the master switch for gradient clipping. If you include this flag, the value from `--max_grad_norm` will be used to prevent exploding gradients. + +* **Example:** + +```bash + +--gradient_clipping + +``` + +* `--max_grad_norm` + +* **What it does:** The maximum value for gradient clipping. Only active if `--gradient_clipping` is also used. + +* **Default:** `1.0` + +* **Example:** + +```bash + +--max_grad_norm 0.8 + +``` + + + +* `--diffusion_loss_weight` + +* **What it does:** A float that scales the importance of the diffusion loss (for speech generation quality) in the total loss calculation. + +* **Example:** + +```bash + +--diffusion_loss_weight 1.4 + +``` + + + +* `--ce_loss_weight` + +* **What it does:** A float that scales the importance of the Cross-Entropy loss (for text prediction accuracy) in the total loss calculation. + +* **Example:** + +```bash + +--ce_loss_weight 0.04 + +``` + + + +* `--ddpm_batch_mul` + +* **What it does:** An integer multiplier for the batch size used specifically within the diffusion process. + +* **Example:** + +```bash + +--ddpm_batch_mul 4 + + +``` + + diff --git a/lor/VibeVoice-finetuning/diff_head_layers.txt b/lor/VibeVoice-finetuning/diff_head_layers.txt new file mode 100644 index 0000000000000000000000000000000000000000..cad30085801675119e11eaf2c13862b1bc2fb995 --- /dev/null +++ b/lor/VibeVoice-finetuning/diff_head_layers.txt @@ -0,0 +1,26 @@ +[0] noisy_images_proj.weight (shape: (3584, 64), trainable: True) +[1] cond_proj.weight (shape: (3584, 3584), trainable: True) +[2] t_embedder.mlp.0.weight (shape: (3584, 256), trainable: True) +[3] t_embedder.mlp.2.weight (shape: (3584, 3584), trainable: True) +[4] layers.0.ffn.gate_proj.weight (shape: (10752, 3584), trainable: True) +[5] layers.0.ffn.up_proj.weight (shape: (10752, 3584), trainable: True) +[6] layers.0.ffn.down_proj.weight (shape: (3584, 10752), trainable: True) +[7] layers.0.norm.weight (shape: (3584,), trainable: True) +[8] layers.0.adaLN_modulation.1.weight (shape: (10752, 3584), trainable: True) +[9] layers.1.ffn.gate_proj.weight (shape: (10752, 3584), trainable: True) +[10] layers.1.ffn.up_proj.weight (shape: (10752, 3584), trainable: True) +[11] layers.1.ffn.down_proj.weight (shape: (3584, 10752), trainable: True) +[12] layers.1.norm.weight (shape: (3584,), trainable: True) +[13] layers.1.adaLN_modulation.1.weight (shape: (10752, 3584), trainable: True) +[14] layers.2.ffn.gate_proj.weight (shape: (10752, 3584), trainable: True) +[15] layers.2.ffn.up_proj.weight (shape: (10752, 3584), trainable: True) +[16] layers.2.ffn.down_proj.weight (shape: (3584, 10752), trainable: True) +[17] layers.2.norm.weight (shape: (3584,), trainable: True) +[18] layers.2.adaLN_modulation.1.weight (shape: (10752, 3584), trainable: True) +[19] layers.3.ffn.gate_proj.weight (shape: (10752, 3584), trainable: True) +[20] layers.3.ffn.up_proj.weight (shape: (10752, 3584), trainable: True) +[21] layers.3.ffn.down_proj.weight (shape: (3584, 10752), trainable: True) +[22] layers.3.norm.weight (shape: (3584,), trainable: True) +[23] layers.3.adaLN_modulation.1.weight (shape: (10752, 3584), trainable: True) +[24] final_layer.linear.weight (shape: (64, 3584), trainable: True) +[25] final_layer.adaLN_modulation.1.weight (shape: (7168, 3584), trainable: True) \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/final0.jsonl b/lor/VibeVoice-finetuning/final0.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..1d23e48076eb71606236a362f00a7c676fef9a74 --- /dev/null +++ b/lor/VibeVoice-finetuning/final0.jsonl @@ -0,0 +1,1765 @@ +{"text": "speaker 4: شب را به روز وارد می فرمایی و روز را به شب، زنده را از مرده بیرون می آوری و مرده را از زنده و به هر کس بخواهی بیدریغ رزق و روزی می بخشی.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_344.wav"} +{"text": "speaker 4: آیا کسانی که مرتکب اعمال بد شدند گمان کردند که ما آنها را همانند مؤمنان قرار می دهیم! و بر این اساس حیات و مرگ این دو گروه یکسان خواهد بود!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2999.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2806.wav"} +{"text": "speaker 4: و هر کس خداوند را سرپرست و حامی خود بشناسد و نیز پیامبر و اینگونه مؤمنان را، از اعضای حزب خداوند است و حزب خداوند بواقع پیروز است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_729.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_612.wav"} +{"text": "speaker 4: و چون مهلت تمام شود و وعده سرآید پس خداوند اقدام به کیفر می فرماید، زیرا او بواقع به احوال بندگانش و به اعمال و نیّات آنها بصیرت و آگاهی کامل دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2532.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3028.wav"} +{"text": "speaker 4: کسانی که به زیارت ما در روز قیامت امیدوار نیستند و به زندگی دنیا دل بسته و راضی هستند و آنان که از نشانه‌ها و معجزات ما غافلند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1074.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2223.wav"} +{"text": "speaker 4: هر کدام از شما مردان که بمیرید و همسرتان بعد از شما زنده باشد، حکم شرعی اینست که زنان بیوه باید چهار ماه و ده روز عِدَّه نگهدارند و ازدواج نکنند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_264.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1363.wav"} +{"text": "speaker 4: در آن روز که عذاب جهنّم از هر سو آنها را فرا می گیرد، از بالای سر و زیر پا، آن وقت به آنها گفته می شود: بچشید عذاب را به کیفر اعمالتان,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2328.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1739.wav"} +{"text": "speaker 4: ما هر مأمور الهی و پیامبری را که قبل از تو فرستادیم بدون استثناء هنگام دریافت وی شیطان القائات خود را در ذهن آنها وارد می ساخت،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1908.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2870.wav"} +{"text": "speaker 4: ای پیامبر! بگو: من نمی‌دانم وعده‌ی عذاب آفریدگار پروردگار من به شما نزدیک است یا زمان بیشتری برای تحقّق آن اراده ،می‌فرماید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3560.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_53.wav"} +{"text": "speaker 4: ای پیامبر! بگو: اگر شما قدرت و حکومت بیابید آیا جز این است که در زمین فساد به راه می‌اندازید و با خویشاوندانتان قطع رابطه می‌کنید؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3050.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_963.wav"} +{"text": "speaker 4: و ما به داود ساختن زره را تعلیم فرمودیم که آن، لباس مصون کننده ی شما مردان در جنگها باشد، آیا شکر این نعمتها را به جا نمی آورید!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1845.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_27.wav"} +{"text": "speaker 4: ای پیامبر آنها که در کفر شتاب می ورزند و به زبان می گویند: ایمان آورده ایم. در حالی که قلبشان ایمان نیاورده، نباید سبب اندوه تو شوند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_709.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3462.wav"} +{"text": "speaker 4: آیا تو ای پیامبر از این بت پرستها مطالبه مزدی برای رسالتت می‌کنی که آنها آن را غرامتی سنگین برای خود به حساب می‌آورند؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3482.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_198.wav"} +{"text": "speaker 4: بواسطه‌ی لطف پروردگارت است که آیات وحی از یادت برده نمی‌شود بواقع لطف و رحمت آفریدگار- پروردگارت نسبت به تو ای پیامبر همواره بسیار زیاد است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1569.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_28.wav"} +{"text": "speaker 4: ما بادها را برای بارور کردن ابرها فرو فرستادیم و آبی از آسمان نازل فرمودیم که شما را با آن سیراب ساختیم و شما ذخیره کننده آن نیستید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1387.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1556.wav"} +{"text": "speaker 4: آیا تو ای پیامبر از این بت پرستها مطالبه مزدی برای رسالتت می‌کنی که آنها آن را غرامتی سنگین برای خود به حساب می‌آورند؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3352.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1146.wav"} +{"text": "speaker 4: آیا آنها می پندارند که ما حرفهای سرّی و پچ پچ های آنها را نمی شنویم! در حالی که فرشتگان ما نزد آنها هستند و هر چه را می گویند ثبت می کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2952.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1812.wav"} +{"text": "speaker 4: خداوند رحمت و عنایت خود را شامل حال پیامبر و مهاجران و انصاری که در شدّت تنگنا ی جنگ تبوک از پیامبر پیروی می‌کردند فرمود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1059.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1539.wav"} +{"text": "speaker 4: آیا از کفر گویی توبه نمی کنند و به سوی خداوند باز نمی گردند و از او طلب آمرزش نمی کنند؟ همانا خداوند آن عفو کننده ی رحمگستر است؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_743.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1687.wav"} +{"text": "speaker 4: القائات شیطان در فاصله ای که حضرت جبرئیل آیه را مجدّداً بصورت مستحکم و کامل از محضر خداوند بر پیامبر گرامی تلاوت می کرد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1910.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_871.wav"} +{"text": "speaker 4: و نمی دانند که پیامبر اسلام نزد خداوند شکایت کرده و گفته است: آفریدگار پروردگارا، اینها قومی هستند که بهیچوجه ایمان نمی آورند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2957.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1288.wav"} +{"text": "speaker 4: فرشتگان عرض کردند: آفریدگار- پروردگارا آیا در زمین موجودی را به سرپرستی می گماری که در آن به فساد و تباهی بپردازد و خون مردمان بریزد؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_46.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_858.wav"} +{"text": "speaker 4: و هنگام داوری حتّی اگر به زیان خودتان، یا پدر و مادر یا نزدیکان شما تمام شود، چه فقیر باشند چه توانگر، رأی خدا پسندانه بدهید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_609.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2674.wav"} +{"text": "speaker 4: حالا آیا چنین موجودی را مقامی به جز خداوند می تواند هدایت کند! آیا شما مردم از این مثالها پند نمی گیرید و به خود نمی آئید .,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3000.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2599.wav"} +{"text": "speaker 4: من در خلق آسمانها و زمین و در خلقت خودشان آنها را گواه نگرفتم و من از گمراه کنندگان مردم برای انجام فرمانی استفاده نمی فرمایم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1626.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2636.wav"} +{"text": "speaker 4: پس ای پیامبر آنها را بحال خودشان واگذار و بگو: به سلامت؟ بروید دنبال کارتان و آنها بزودی نتیجه اعمالشان را خواهند دید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2958.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1155.wav"} +{"text": "speaker 4: بزرگان آنها در حال شعار دادن ظاهر شدند و گفتند: ای مردم؟ راه بیفتید و از خدایانتان طرفداری کنید که توطئه و مقاصد بدی در کار است!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2658.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_991.wav"} +{"text": "speaker 4: ای پیامبر! بگو: ای اهل کتاب! آیا بجای خداوند چیزی را می پرستید که اختیاردار سود و زیان شما نیست؟ و خداوند آن .شنونده ی داناست,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_745.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_423.wav"} +{"text": "speaker 4: پس کیست ستمکارتر از آنکه بر خداوند دروغ ببندد و یا آیات الهی را تکذیب کند! همانا ستمکاران هرگز روی رستگاری را نخواهند دید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1082.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_428.wav"} +{"text": "speaker 4: و فرمودیم: به سوی قومی که معجزات و نشانه های ما را تکذیب کردند بروید. همان قومی که بالاخره در اثر نافرمانی و عصیان آنها را سرنگون و نابود کردیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2053.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3325.wav"} +{"text": "speaker 4: و گروهی هم که تنها به فکر جان خود بودند، در گمانهای ناروای جاهلی درباره ی خداوند فرو رفتند و گفتند: آیا ما را در امر جنگ اختیاری هست؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_447.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_225.wav"} +{"text": "speaker 4: رؤسای گمراه قبیله به مردم گفته اند: دست از خدایان خود برندارید و بهیچوجه وَدّ و سُواع و یَغوث و یَعوق و نَسر را رها نکنید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3551.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1155.wav"} +{"text": "speaker 4: ای پیامبر اگر به خورشید نگاه می کردی می دیدی که هنگام طلوع در طرف راست غارشان قرار می گرفت و هنگام غروب طرف چپ و آنها در وسط غار بودند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1597.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1912.wav"} +{"text": "speaker 4: بنابراین، ای پیامبر از این قوم روی بگردان و منتظر آن روزی باش که نداکننده ی الهی آنها را از فرارسیدن زمان ناخوشایند خبر خواهد داد؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3216.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2989.wav"} +{"text": "speaker 4: و ما او را به مادرش برگردانیدیم که نور چشم او باشد، غم نخورَد و بداند که وعده ی خداوند حق است اگر چه اکثر مردم این حقیقت را نمی دانند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2244.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_28.wav"} +{"text": "speaker 4: و پس از رحلت، در بهشت از پیامبران پیش از خودت بپرس تا بدانی که آیا غیر از الرّحمن معبودانی دیگر، برای پرستش آنها معرفی فرموده بودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2935.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_75.wav"} +{"text": "speaker 4: پس شما خیلی زود به نصایح من می رسید و من امور خودم را به خداوند وامیگذارم، همانا خداوند به امور و اعمال بندگان آگاهی کامل دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2784.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_543.wav"} +{"text": "speaker 4: داستان بعضی از آن پیامبران را برای تو بیان فرموده ایم و بعضی از آنها را بیان نفرموده ایم و خداوند با حضرت موسی بطور مستقیم تکلّم فرمود؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_657.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1940.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: میعاد قیامت برای شما طوری مقدّر فرموده شده که نه می توانید از آن عقب بیفتید نه جلو، حتّی برای یک ساعت.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2490.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1812.wav"} +{"text": "speaker 4: ای پیامبر! بگو: از خدا و رسولش اطاعت کنید و اگر روی برتابید و سرپیچی کنید بدانید که محقّقاً خداوند کافران را دوست نمی دارد؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_347.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_94.wav"} +{"text": "speaker 4: در آن روز خداوند خواهد فرمود: ای عیسی بن مریم! متذکّر نعمتهای من بر خود و مادرت باش آنگاه که تو را به وسیله ی روح القُدُس تأیید فرمودم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_775.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2956.wav"} +{"text": "speaker 4: به آنان که به آیات ما ایمان آورده و مسلمان واقعی بودند، فرموده می شود. پس شما با همسرانتان با آرامش و شادمانی به بهشت وارد شوید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2945.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1539.wav"} +{"text": "speaker 4: درباره آنچه نمی‌شناسی و بدان علم نداری اظهار نظر نکن چرا که گوش و چشم و قلب انسان در مؤاخذه و بازخواست الهی مورد پرسش قرار می‌گیرند و گواهی می‌دهند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1534.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_409.wav"} +{"text": "speaker 4: آنگاه لوط را برای هدایت قومش فرستادیم، او به آنان گفت: آیا شما عمل زشتی را مرتکب می شوید که هیچ قومی پیش از شما در دنیا به آن آلوده نشده است؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_645.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_902.wav"} +{"text": "speaker 4: و من صلاح چنین می دانم که هدیه ای مناسب برای آنها بفرستم و منتظر نتیجه و عکس العمل آنها باشم و ببینم فرستادگان ما چه پاسخی با خود می آورند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2194.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_871.wav"} +{"text": "speaker 4: بگذار تا آنها در این جهان سرگرم خورد و خوراک و عیش و نوش و دلخوش به آرزوهای بیهوده باشند، آنها سرانجام کیفر اعمالشان را خواهند دید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1371.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2179.wav"} +{"text": "speaker 4: ای پیامبر همانا در این داستان ِ روز قیامت نشانه های قدرت الهی و درس عبرتی است برای اهل ایمان امّا اکثر آنها بی ایمان بودند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2122.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2806.wav"} +{"text": "speaker 4: نیکی و بدی هرگز یکسان نیستند ای پیامبر بدی را با نیکی دفع کن تا دشمنان قسم خورده ی تو تبدیل به دوستان صمیمی شوند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2833.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1514.wav"} +{"text": "speaker 4: من هرگز از این دیار بیرون نمی روم تا پدرم به من اجازه دهد یا خداوند حکمش را درباره ی من صادر کند زیرا اوست آن داور بی همتا در عدالت؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1281.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2912.wav"} +{"text": "speaker 4: پس ای پیامبر به ذکر نام آفریدگار پروردگارت آن بی‌همتا بزرگ، مشغول باش تا از مواهب و انوار ذکر بهره مند شوی.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3514.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_375.wav"} +{"text": "speaker 4: پس ای پیامبر به ذکر نام آفریدگار پروردگارت آن بی‌همتا بزرگ، مشغول باش تا از مواهب و انوار ذکر بهره مند شوی.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3384.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_368.wav"} +{"text": "speaker 4: و در سرنگونی ذلّت بار آن قوم غرق شده، نه آسمان عزاداری و گریه و زاری کرد و نه زمین و به آنها کمترین مهلتی برای توبه داده نشد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2975.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_428.wav"} +{"text": "speaker 4: و آنگاه لوط عرض کرد: آفریدگار پروردگارا من و خاندانم را از عذاب همزیستی با این قوم زشتکار نجات خیر عنایت فرما.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2147.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_844.wav"} +{"text": "speaker 4: ای پیامبر! بگو: همه چیز از ناحیه ی اراده ی خداوند است. پس این جماعت را چه می شود که نمی توانند حتّی یک کلمه از کلام حق را بفهمند؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_561.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3502.wav"} +{"text": "speaker 4: از مردم عادی و عوام پنهان می کنند و آن را به بهای اندک می فروشند، چنین کسانی از آن نفع مادّی جز آتش در شکمهای خود فرونمی برند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_190.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_496.wav"} +{"text": "speaker 4: تمام شما پیامبران به آن محل وارد خواهید شد. این حکم و فرمانی است از جانب آفریدگار پروردگار تو ای پیامبر که تحقّق آن حتمی است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1702.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_94.wav"} +{"text": "speaker 4: با مجاهدانی که در راه خداوند با مال و جان جهاد می کنند، برابر نیستند. خداوند مجاهدانی را که با مال و جان خود در راه خدا جهاد کردند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_575.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3520.wav"} +{"text": "speaker 4: پیش از تو هم ای پیامبر اعیان کافران پیشین به پیامبران می گفتند: ما به مذهبی که اجداد و نیاکانمان بدان معتقد بودند اقتدا می کنیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2915.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3608.wav"} +{"text": "speaker 4: ای پیامبر! بگو: اگر شما اهل ایمان هستید پس چرا پیش از نزول قرآن و بر خلاف حکم تورات درباره ی منع قتل نفس پیامبران خود را می کشتید؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_102.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_544.wav"} +{"text": "speaker 4: بت پرستها به معبودهایی متوسّل می شوند که ضررشان بیش از نفعشان است، آنها چه بد سرپرستها و چه بد دوستانی برای بت پرستها هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1877.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1602.wav"} +{"text": "speaker 4: ای اهل کفر عذاب معلول شدن و قتل را در این جهان بچشید و بدانید که محقّقاً برای کافران در قیامت عذاب آتش مهیّا .خواهد بود,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_934.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_403.wav"} +{"text": "speaker 4: خداوند آن یکتا معبود در آسمانها و زمین است، و به اعمال نهان و آشکار شما مردم آگاهی دارد و کارهای نیک و بد شما را می داند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_785.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1940.wav"} +{"text": "speaker 4: و ما برای آنکه پندآموختن از قرآن، بر همگان آسان باشد آن را به زبان ساده بیان فرمودیم که بفهمند، آیا کسی از این مردم هست که طالب پند باشد؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3231.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_157.wav"} +{"text": "speaker 4: پیامهای آفریدگار- پروردگارم را به شما ابلاغ می کنم و شما را پند خیرخواهانه می دهم، من از قدرت خداوند چیزهایی می دانم که شما نمی دانید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_633.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3463.wav"} +{"text": "speaker 4: و لوط را برای هدایت قومش ارسال فرمودیم و او به آنها گفت: شما مرتکب عمل زشتی می شوید که احدی در دنیا پیش از شما مرتکب آن نشده است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2309.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_496.wav"} +{"text": "speaker 4: خداوند فرمود: دعای شما دو تن را مورد اجابت قرار دادیم، پس استقامت بورزید و از راه جاهلان و گمراهان هرگز پیروی نکنید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1132.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1739.wav"} +{"text": "speaker 4: کیست که به خدا قرض الحسنه ای بدهد و از اموالی که خداوند به او بخشیده، انفاق کند تا آن مقدار را خداوند در زندگی او چند برابر جبران فرماید!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_276.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1917.wav"} +{"text": "speaker 4: و به هر فرد شایسته ی لطف، از فضل و کرم خود، نعمتی عطا فرماید، و اگر از حق رویگردان شوید من بر شما از عذاب روزی بزرگ بیمناکم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1150.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3329.wav"} +{"text": "speaker 4: و چون خودت و همراهانت در کشتی سوار شدید بگو: شکر به درگاه خداوند یکتا که ما را از دست قوم کافرِ ستمکار نجات خیر عنایت فرمود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1936.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1146.wav"} +{"text": "speaker 4: کسانی که قبل از قرآن به آنها کتاب آسمانی عنایت فرموده ایم به آن بواسطه ی نشانه هایی که در کتابهای خود درباره آن شناخته و دانسته اند ایمان دارند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2268.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1453.wav"} +{"text": "speaker 4: پیامبران پیش از تو نیز بسیار مورد استهزاء قرار گرفتند امّا سرانجام همان عذابهای الهی که مسخره شده بودند، مسخره کنندگان را فروگرفت.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1823.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3502.wav"} +{"text": "speaker 4: امّا بعد، فرزندان ناخلفی جانشین آنها شدند که ترک نماز کردند و از شهوات پیروی نمودند پس آنها بزودی سزای گمراهی خود را خواهند دید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1696.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1445.wav"} +{"text": "speaker 4: پس کسانی که خلاف دستور پیامبر عمل می کنند باید بدانند که به بلایی سخت در زندگی گرفتار می شوند و عذاب قیامت نیز بر آنها خواهد بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2029.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1539.wav"} +{"text": "speaker 4: پس یوسف قبل از بازرسی باروبنه ی بنجامین به کاوش بار برادران دیگر پرداخت و دست آخر جام را از بار برادر تنی اش بنجامین بیرون کشید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1279.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3332.wav"} +{"text": "speaker 4: ای پیامبر اینها آیات خداوند است که بر اساس درستی و واقعیّت بر تو تلاوت می فرماییم، و خداوند هرگز بر بندگان خود ستم .روا نمی دارد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_404.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1575.wav"} +{"text": "speaker 4: بدان که این کافران، شیفته و طالب دنیای زودگذر فانی هستند و از یاد روز دهشتناکی که منتظر آنهاست و فراخواهد رسید ،غافلند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3642.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1859.wav"} +{"text": "speaker 4: و نعمت خداوند را نسبت به خودتان به یاد آورید، آنگاه که دشمنان یکدیگر بودید و خداوند بین دلهای شما انس و الفت برقرار فرمود,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_401.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_722.wav"} +{"text": "speaker 4: این بانگ آسمانی آنقدر ناگهانی و بدون آمادگی قبلی است که آنها نه فرصت وصیّت کردن دارند و نه می توانند با افراد خانواده خود پیوند برقرار کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2558.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1155.wav"} +{"text": "speaker 4: بعد از آن زائران باید بدن خود را از چرک و آلودگیها پاک سازند به نذرهای خود وفا کنند و دور خانه ی باستانی کعبه به طواف بپردازند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1889.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3022.wav"} +{"text": "speaker 4: و چون به دیدار یوسف آمدند، او پدر و مادرش را در آغوش کشید و گفت: بیایید ماندگار مصر شوید که إن شاء الّله در اینجا ایمن خواهید بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1297.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2787.wav"} +{"text": "speaker 4: ای پیامبر! بگو: بار الها، مالک حکومتها تویی، به هر کس اراده فرمایی، حکومت می بخشی و از هر کس اراده فرمایی حکومت را باز می گیری,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_343.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3524.wav"} +{"text": "speaker 4: مسیح همچنین تأکید کرد: و مسلّماً خداوند خالق من و شماست، پس او را پرستش کنید که راه راست در همین توحید و .پرستش خداوند یکتا است,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1676.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1514.wav"} +{"text": "speaker 4: در زمان گذشته این چنین عذاب سختی را به قوم فرعون به عنوان نمونه نشان دادیم، به سوی آنها موسی پیامبر گرامی برای هدایت فرستاده شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2969.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_310.wav"} +{"text": "speaker 4: و به او بگویید برای اطمینان از مردم شهری که از آنجا آمده ایم و نیز از اهل قافله در مورد این اتّفاق بپرسد تا بداند که ما در گفتار خود صادق هستیم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1284.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1754.wav"} +{"text": "speaker 4: پدرش گفت: ای ابراهیم؟ آیا از خدایان من نفرت داری! اگر دست از این حرفها برنداری سنگسارت می کنم، برای مدّتی طولانی از پیش چشمم دور شو.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1685.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_683.wav"} +{"text": "speaker 4: در بازگشت به آن نقطه با بنده ای از بندگان ما که او را مشمول رحمت خود ساخته و خودمان به او علوم الهی تعلیم فرموده بودیم، روبرو شدند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1633.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_902.wav"} +{"text": "speaker 4: ای فرزندان آدم! مراقب باشید که شیطان شما را وسوسه نکند و نفریبد، آنچنانکه پدر و مادرتان را فریفت و از بهشت بیرون کرد،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_840.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3061.wav"} +{"text": "speaker 4: شما این زندگی دنیایی نخست را شناخته اید و آن را قبول دارید، پس چرا متذکّر نمی شوید؟ که خالق این دنیا، قادر است که خالق رستاخیز نیز باشد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3285.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3372.wav"} +{"text": "speaker 4: شما این زندگی دنیایی نخست را شناخته اید و آن را قبول دارید، پس چرا متذکّر نمی شوید؟ که خالق این دنیا، قادر است که خالق رستاخیز نیز باشد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3415.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_863.wav"} +{"text": "speaker 4: هر بار بر اثر صدای صاعقه، از بیم مرگ، انگشتان خود را در گوشهاشان فرو می برند، ولی خداوند از هر سو بر کافران احاطه و تسلّط دارد:,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_26.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3100.wav"} +{"text": "speaker 4: پس ای پیامبر با خواست کافران موافقت نکن و علیه جهل و خرافه ی آنها با تمسّک به احکام و برهانهای قرآن به جهادی بزرگ اقدام کن.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2061.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_310.wav"} +{"text": "speaker 4: خبرچین های شیطان نمی توانند به مذاکرات مجمع اعلای آسمان گوش فرا دهند زیرا از هر سو بوسیله شهابهای ثاقب رانده می شوند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2583.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_714.wav"} +{"text": "speaker 4: و ما برای آنکه پندآموختن از قرآن، بر همگان آسان باشد، آن را به زبان ساده بیان فرمودیم که بفهمند، آیا کسی از این مردم هست که طالب پندآموزی باشد.؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3223.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_131.wav"} +{"text": "speaker 4: در آن روز که چهره های آنها را در آتش زیر و رو می کنند، آن وقت خواهند گفت: وای بر ما، ای کاش از خدا و پیامبر اطاعت کرده بودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2461.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3459.wav"} +{"text": "speaker 4: و حال آنکه ما پاکی مطلق ذات اقدست را شکر می گوییم و تقدیس می کنیم خداوند فرمود: همانا من دانای چیزهایی هستم که شما نمی دانید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_45.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_637.wav"} +{"text": "speaker 4: خداوند از آسمان، باران فرو می فرستد و رودخانه ها با ظرفیت های گوناگون، بزرگ و کوچک روان می شوند و سیلابها به راه می افتند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1316.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_637.wav"} +{"text": "speaker 4: برخی از مردمان هستند که به زبان ظاهر نه از صمیم قلب می گویند: ما به خدا و روز قیامت ایمان آورده ایم ولی بواقع چنین نیست و ایمان نیاورده اند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_14.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3100.wav"} +{"text": "speaker 4: برخی از مردم، تنها دعاشان اینست: خدایا در دنیا به ما سعادت و نعمت عطا کن و اینگونه افراد، در آخرت بهره ای نخواهند داشت؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_218.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1226.wav"} +{"text": "speaker 4: حواریون گفتند: قصد ما اینست که با خوردن از آن مائده اطمینان قلبی پیدا کنیم و بدانیم به ما سخن راست گفته ای و بر آن .معجزه از گواهان باشیم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_778.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1815.wav"} +{"text": "speaker 4: اوست که شما آدمیان را هر گونه که اراده فرماید، در رحم مادرها صورتگری می کند. هیچ معبودی جز آن بی همتا قدرتمند منشأ حکمت، وجود ندارد؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_320.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_779.wav"} +{"text": "speaker 4: ای پیامبر! بگو: فرمایش خداوند صدق محض است: پس از آیین ابراهیم که پیامبری حق پرست و مبرّا از پیشینه ی شرک بود پیروی کنید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_396.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1472.wav"} +{"text": "speaker 4: اهل کتاب دچار تفرقه نشدند مگر بعد از آنکه کاملًا آگاهی یافتند که پیشگویی الهی، درباره ظهور پیامبر اسلام تحقّق یافته است,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2867.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1583.wav"} +{"text": "speaker 4: و ما قرآن را از منبع حقّ نازل فرمودیم و به حقّ نازل شده است و تو را ای پیامبر جز به منظور بشارت و هشدار خلق نفرستادیم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1578.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2378.wav"} +{"text": "speaker 4: و با کلامی نرم و غیر آمرانه به نصیحت او بپردازید، شاید پند پذیرد و یا ترس از خداوند بر او مستولی شود و دست از عصیان بردارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1751.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1927.wav"} +{"text": "speaker 4: قوم عاد نیز پیامبر خود هود را تکذیب کردند پس بنگر که عذاب الهی من بعد از تکذیب پیامبرانم از سوی کافران و ستمکاران چقدر سخت بود:,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3219.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_874.wav"} +{"text": "speaker 4: ای قوم! من برای رسالتم از شما مزدی طلب نمی کنم، اجر و پاداش من با خداوند است همو که خالق من است، آیا تعقّل نمی کنید؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1183.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3022.wav"} +{"text": "speaker 4: اگر او را نزد من نیاورید که خودش سهمیه اش را بگیرد پیمانه ی گندم شما را نخواهم داد و اساساً نزد من نیایید و از من تقاضای غلّه نکنید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1267.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1666.wav"} +{"text": "speaker 4: و اگر خداوند تو را ای پیامبر از جنگ برگردانید و طایفه‌ای از آنها برای شرکت در جنگ دیگری اجازه خواستند که از خانه‌هاشان خارج شوند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1039.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1250.wav"} +{"text": "speaker 4: نگهبانان می گویند: پس هر قدر می خواهید برای خودتان دعا کنید چونکه دعای کافران بهیچوجه راه به جائی نمی برد و محو و نابود می شود!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2785.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3138.wav"} +{"text": "speaker 4: که ما قرآن را به زبان عربی نازل فرمودیم تا شما آن را بهتر درک کنید و بتوانید درباره آیات آن به تفکّر و تعقّل بپردازید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2902.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_222.wav"} +{"text": "speaker 4: همان شخصی که عیبجوست و به قصد پخش تهمت و افترا به هر طرف می‌رود، همو که مانع کار خیر می‌شود و تجاوزگر و گنهکارست،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3468.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1472.wav"} +{"text": "speaker 4: ای انسان هر صبح و شام آفریدگار- پروردگارت را در دل با تضرّع و خوف از عظمت مقام و با صدای آهسته در نماز یاد کن و از غافلان نباش!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_922.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_637.wav"} +{"text": "speaker 4: همان شخصی که عیبجوست و به قصد پخش تهمت و افترا به هر طرف می‌رود، همو که مانع کار خیر می‌شود و تجاوزگر و گنهکارست،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3338.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3131.wav"} +{"text": "speaker 4: چنان جانشینی که از من و خاندان یعقوب میراث الهی ببرد و ای آفریدگار پروردگار من؟ اراده فرما که او فردی صالح و موجب رضای خداوند باشد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1663.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2334.wav"} +{"text": "speaker 4: گفتار استوار موسی ساحران را به اختلاف نظر و پچ پچ و گفتگو برانگیخت، معهذا مذاکرات مخالف و موافق را سرّی .نگهداشتند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1758.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2599.wav"} +{"text": "speaker 4: و اگر اراده بفرمائیم آنچه را که بر تو ای پیامبر وحی فرموده‌ایم از ذهنت می‌بریم و آنگاه تو هیچکس را نداری که بر علیه ما از تو دفاع کند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1568.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_449.wav"} +{"text": "speaker 4: آیا نمی دانند که هر کس با خدا و رسول خدا دشمنی کند پس سزای او آتش جهنّم است و در آن جاودانه می ماند؟ و این همان رسوایی ننگین است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1028.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3608.wav"} +{"text": "speaker 4: به جز پیامبری که انتخاب فرموده و مورد رضایت ذات اقدسش است، و برای او از پیش رو و از پشت سر فرشتگانی محافظ می‌گمارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3562.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1754.wav"} +{"text": "speaker 4: و می گویند: وای بر ما؟ چه کسی ما را از گورهامان برانگیخت! این همان وعده ی الرّحمن درباره قیامت است و پیامبران الهی راست می گفتند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2560.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_468.wav"} +{"text": "speaker 4: زمین در آن روز به شدّت به لرزه در می‌آید، و کوهها متلاشی و تبدیل به خاک می‌شوند، و آن خاک، غبارآسا در هوا پراکنده می‌گردد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3271.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3329.wav"} +{"text": "speaker 4: مسلّماً خداوند از مؤمنان در برابر دشمنانشان دفاع و حمایت می فرماید، همانا خداوند خیانتکاران ناسپاس را دوست نمیدارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1893.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3608.wav"} +{"text": "speaker 4: و هیچ چیز در روی زمین نیست مگر آنکه گنجینه ها و منابع اصلی آن نزد ماست و ما از آنها جز به مقدار معیّن فرو نمی فرستیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1386.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_683.wav"} +{"text": "speaker 4: مسلّماً نیکوکرداران در بهشت پرنعمت مقیم خواهند بود، و مسلّماً گناهکاران و بدکاران در آتش جهنّم خواهند بود،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3704.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1155.wav"} +{"text": "speaker 4: و موسی ادامه داد: آفریدگار- پروردگارا در این جهان و جهان دیگر برای ما خیر و خوبی مقدّر فرما که ما به سوی تو هدایت شده ایم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_881.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2018.wav"} +{"text": "speaker 4: و هرکس مؤمن نزد خداوند حاضر شوند همراه با پیشینه ای از اعمال شایسته و نیکو پس نصیب چنین افرادی درجات عالی خواهد بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1765.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2363.wav"} +{"text": "speaker 4: و مسلّماً برای آنان، از منبع علم واسعه سرگذشتشان را آنگونه که واقع شده نقل می فرماییم زیرا ما هیچگاه از صحنه ی هستی غائب نبوده ایم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_824.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3394.wav"} +{"text": "speaker 4: و ای پیامبر از بندگان ما، ابراهیم و اسحاق و یعقوب که دارای قدرتهای ظاهری و بینش باطنی بودند یاد کن.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2677.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1018.wav"} +{"text": "speaker 4: زکریّا عرض کرد: ای آفریدگار پروردگار من؟ چگونه می توانم صاحب پسری باشم در حالی که زنم نازاست و من از شدّت پیری فرتوت شده ام.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1665.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_77.wav"} +{"text": "speaker 4: پس خداوند، خیر و برکت این جهان و پاداش نیک جهان آخرت را به آنان عنایت فرمود زیرا خداوند نیکوکرداران را دوست می دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_438.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_991.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: در دنیا سیاحت کنید و تاریخ را مطالعه کنید تا ببینید که عاقبت کافران و گمراهان نظیر شما چگونه بوده است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2217.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2636.wav"} +{"text": "speaker 4: و گواهان خود را به جز خداوند که قادر مطلق و توانای هر نوع خلق است برای ایجاد سوره ای همانند، به کمک فرا خوانید، اگر راست می گویید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_32.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_963.wav"} +{"text": "speaker 4: مشرکان قریش تعجّب کردند از اینکه پیامبری هشداردهنده از میان قوم آنها برخاسته است و مصرّانه گفتند: این محمّد جادوگری دروغگوست؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2656.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3138.wav"} +{"text": "speaker 4: کافران پیامبری شعیب را تکذیب کردند و به این سبب بلای زلزله بر آنها نازل شد و در خانه هاشان جسدهایی چسبیده به زمین بر جای ماندند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2315.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1575.wav"} +{"text": "speaker 4: و چه کسی ستمکارتر است از آنکه بر خداوند دروغ ببندد یا آیات الهی را تکذیب کند؟ همانا کافران هرگز رستگار نخواهند شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_805.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3665.wav"} +{"text": "speaker 4: و کیفر دشمنان خداوند، آتش است که خانه ابدی آنهاست خواهد بود و این کیفر بواسطه انکار نشانه ها و معجزات الهی است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2831.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2912.wav"} +{"text": "speaker 4: یوسف گفت: هفت سال متوالی کشت کنید و هر چه درو کردید جز اندکی برای مصرف و قوت روزانه، بقیّه را با خوشه انبار کنید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1258.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3033.wav"} +{"text": "speaker 4: و از مردم شخصی هم هست که به بهای خوشنودی خداوند جان خود را می فروشد و خداوند نسبت به بندگان مؤمن خود لطفگستر و رئوف است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_224.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_555.wav"} +{"text": "speaker 4: نوح عرض کرد: ای آفریدگار پروردگار من؟ مرا علیه آنها، در راه دین توحیدی که بواسطه ی تبلیغ آن دروغزنم شمرده اند، یاری فرما,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1933.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3329.wav"} +{"text": "speaker 4: زیرا آنها از آیات الهی که خداوند نازل فرموده نفرت دارند، پس خداوند اعمالشان را نابود و بی‌ثمر می‌سازد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3041.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_28.wav"} +{"text": "speaker 4: و ما خداوند متعال اینگونه برای هدایت خلق آیات را صریح بیان فرموده ایم و خداوند هر کس را شایسته ببیند هدایت می فرماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1879.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2806.wav"} +{"text": "speaker 4: ای پیامبر؟ به این مشرکان قریش بگو: اگر راست می گویید پس کتابی بهتر از قرآن و تورات از جانب خداوند بیاورید تا من از آن پیروی کنم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2265.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_27.wav"} +{"text": "speaker 4: و ای پیامبر! به آنها که ایمان نمی آورند بگو: هر چه در قدرت و امکان دارید در مخالفت بکار گیرید که ما نیز چنین خواهیم کرد؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1229.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_844.wav"} +{"text": "speaker 4: آن زندانی که آزاد شده بود بعد از مدتها ناگهان بخاطر آورد و گفت: من شما را از تعبیر آن آگاه می کنم، مرا نزد یوسف به زندان بفرستید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1256.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3520.wav"} +{"text": "speaker 4: چنین نیست که تصوّر می‌کند، مسلّماً او یعنی ولید بن مغیره که درباره پیامبر خدا غیبت می‌کند و طعنه می‌زند در حُطَمَه افکنده خواهد شد،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3724.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3455.wav"} +{"text": "speaker 4: آتش سوزنده‌ای است که نه چیزی از بدن باقی می‌گذارد و نه او را رها می‌سازد. هر بار پوست تازه‌ای به شخص دوزخی داده می‌شود که پیوسته بسوزد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3591.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2023.wav"} +{"text": "speaker 4: ما خداوند متعال مسلّماً می دانیم چه چیزهایی را خاک ِ گور از بدن آنها می کاهد و نزد ما کتابی است که اعمال آنها را ضبط کرده است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3092.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_403.wav"} +{"text": "speaker 4: ،ای پیامبر! بگو: آیا درباره ی خداوند که آفریدگار- پروردگار ما و آفریدگار- پروردگار شماست با ما بحث و مجادله می کنید؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_147.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3329.wav"} +{"text": "speaker 4: شما مسلمانان آنها را دوست می دارید، ولی آنها شما را دوست نمی دارند، در حالی که شما بنا به امر الهی به تمام کتابهای آسمانی ایمان دارید،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_418.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1226.wav"} +{"text": "speaker 4: به آنها گفته می شود: دیگر این گفتگوها در این مرحله برای شما سودی دربر ندارد چرا که به خود ستم کردید و هر دو محکوم به کیفر هستید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2929.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2285.wav"} +{"text": "speaker 4: امّا آنها مادّه شتر را کشتند، صالح گفت: فقط سه روز فرصت دارید که در خانه های خود به زندگی ادامه دهید و این وعده ای است تکذیب ناشدنی.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1190.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_714.wav"} +{"text": "speaker 4: و این کافران مردم را از قرآن باز می دارند و خود از آن دوری می جویند و با این رفتار جز در هلاکت خود نمی کوشند ولی این را نمی فهمند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_811.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_409.wav"} +{"text": "speaker 4: آنچه همگی منتظر آن هستند تنها یک صیحه ی سهمگین آسمانی است که در حالی که مشغول نزاع و جدال با یکدیگرند آنها را فرو خواهد گرفت.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2557.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3131.wav"} +{"text": "speaker 4: ،و شما را با اموال و فرزندان فراوان مدد فرماید و برای شما باغهای پرثمر و نهرهای جاری آب، نصیب فرماید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3548.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2728.wav"} +{"text": "speaker 4: گفتند: جام آبخوری شاه گم شده. یوسف گفت: هر کس آن را بیاورد یک بار شتر گندم به او جایزه داده خواهد شد، من خودم ضامن این قول هستم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1276.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1815.wav"} +{"text": "speaker 4: ای دو رفیق همبند من! آیا بنظر شما خدایان گوناگون و بی اثر و بی خاصیّت بهترند یا خداوند یکتای چیره بر جماعات قدرت؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1253.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2363.wav"} +{"text": "speaker 4: یعقوب گفت: بزودی از آفریدگار- پروردگارم برای شما طلب عفو و بخشش می کنم، همانا خداوند آن عفوکننده ی رحمگستر است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1296.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_543.wav"} +{"text": "speaker 4: بر این اساس است که خداوند به آنان که ایمان آورده و عمل شایسته بجای آوردند پاداش آمرزش و رزق و روزی وسیع عنایت می فرماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2467.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1687.wav"} +{"text": "speaker 4: و نیز ای پیامبر یادآور باش از اسماعیل و ادریس و ذو الکفل که همه از صبرکنندگان بر مصائب و مشکلات راه دین بودند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1850.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3138.wav"} +{"text": "speaker 4: سوگند به ستارگانی که هنگام روز بازگشت می‌کنند و دور می‌شوند، آنها که شتابان حرکت می‌‌کنند و از نظر پنهان می‌شوند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3698.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_188.wav"} +{"text": "speaker 4: کلیّه مخلوقات آسمانی و زمینی و ملائکه تنها برای خالق خود سجده می کنند و در پیشگاه خداوند قادر متعال کمترین تکبّری ندارند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1461.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3453.wav"} +{"text": "speaker 4: یا اینکه مشرکان می گویند: ما جماعتی نیرومند و پشتیبان یکدیگر هستیم، و می توانیم از عهده ی مقابله با عذاب الهی برآئیم و انتقام بگیریم!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3233.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_779.wav"} +{"text": "speaker 4: به خوبی دانسته است که چون آیات الهی ما بر شما تلاوت می شد از حق ّ رویگردان می شُدید و به آئین قهقرایی جاهلی، بازگشت می کردید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1953.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1556.wav"} +{"text": "speaker 4: این آیات نشانه های قدرت خداوند است که بر تو ای پیامبر به حق ّ و راستی فرو می خوانیم و همانا تو پیامبری از سلسله ی پیامبران ما هستی؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_284.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_131.wav"} +{"text": "speaker 4: گروهی از این یارانِ دست راست، از امّتهای پیشین هستند امّتهای پیامبران پیش از اسلام. و گروهی از امّتهای آخرین دین هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3409.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2990.wav"} +{"text": "speaker 4: گروهی از این یارانِ دست راست، از امّتهای پیشین هستند امّتهای پیامبران پیش از اسلام. و گروهی از امّتهای آخرین دین هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3279.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1453.wav"} +{"text": "speaker 4: این چنین با عظمت و لطف است آفریدگار پروردگار شما، منشأ برکات است خداوند، آن آفریدگار جهانها و جهانیان.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2795.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2990.wav"} +{"text": "speaker 4: ندایی شنیده می شود که می گوید: این گناهکار را بگیرید و به وسط آتش جهنّم بکشانید. سپس بر سر او از آب جوشان بریزید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2984.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_131.wav"} +{"text": "speaker 4: ای پیامبر؟ منافقان از تو درباره ی قیامت می پرسند. بگو: علم آن نزد خداوند است و بس. و تو چه می دانی، شاید قیامت نزدیک باشد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2458.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3061.wav"} +{"text": "speaker 4: و شما هرگز نمی توانید از لحاظ محبّت بین همسرانتان، بطور کامل عدالت را رعایت کنید هر چند بر این امر مشتاق و خواستار برقراری عدالت باشید،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_603.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_703.wav"} +{"text": "speaker 4: درباره ی گرفتاری ماهانه ی زنان می پرسند بگو: یک نوع پلیدی رنج آور است. در این دوره از همبستری با زنان کناره بگیرید، به آنها نزدیک نشوید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_247.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1453.wav"} +{"text": "speaker 4: و آنها که به کتاب خداوند تمسّک می جویند و نماز را بر پا می دارند، باید مطمئن باشند که ما هرگز اجر درستکاران را دریغ نخواهیم کرد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_896.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1827.wav"} +{"text": "speaker 4: حالا به معبودت که او را می پرستیدی نگاه کن، ما او را آتش می زنیم و ذرّاتش را در دریا می پراکنیم آنچنان که اثری از آن در خشکی باقی نماند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1776.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_198.wav"} +{"text": "speaker 4: آیا آن کسی که در آتش جهنّم می افتد وضع و حالش بهتر است یا کسی که با امنیّت خاطر به روز قیامت می پیوندد و به محشر وارد می شود!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2837.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1363.wav"} +{"text": "speaker 4: ای مردم!اگر خداوند اراده فرماید، شما را از بین می برد و امّتی دیگر به جای شما خلق می فرماید و خداوند بر چنین امری تواناست.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_606.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_131.wav"} +{"text": "speaker 4: چون ابراهیم از آنها و معبودانی که بجای خدا می پرستیدند دوری جست، اسحاق و یعقوب را به او عطا کردیم و به تمام آنها مقام پیامبری بخشیدیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1688.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_131.wav"} +{"text": "speaker 4: خداوند فرمود: این یک وعده ی حق است و من بر اساس حق تکلّم می فرمایم. مسلّماً جهنّم را از تو و تمام پیروانت پر خواهم ساخت.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2700.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_991.wav"} +{"text": "speaker 4: و چون پاک شدند آنسان که احکام خداوند ایجاب می کند، با آنها آمیزش کنید. همانا خداوند توبه کنندگان و پاکیزه کاران را دوست میدارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_246.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_714.wav"} +{"text": "speaker 4: تا بوسیله ی آن، انسانهایی را که از لحاظ معنوی زنده هستند هدایت کند و بر کافران که از لحاظ معنوی مرده اند حقّانیّت حکم عذاب را ثابت نماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2568.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3463.wav"} +{"text": "speaker 4: ای مردم! آفریدگار- پروردگارتان را که شما و پیشینیان شما را خلق فرموده بپرستید، باشد که در اثر عبادت و پرستش پرهیزکار شوید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_31.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2069.wav"} +{"text": "speaker 4: در داستانِ نوح برای پندگیرندگان، نشانه های الهی نهفته است و ما بندگان خود را با اینگونه حوادث مورد آزمون قرار می دهیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1938.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1966.wav"} +{"text": "speaker 4: ای پیامبر ما داستان موسی و فرعون را از منبع حق ّ بر تو می خوانیم که مردم مؤمن هر چه بیشتر به حکمتهای الهی پی ببرند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2237.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_939.wav"} +{"text": "speaker 4: و نیز برای این بود که منافقان شناخته شوند؛ چنانکه وقتی به ایشان گفته شد: بیایید در راه خدا بجنگید یا لا أقل از حریم شهر خود دفاع کنید. گفتند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_459.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2023.wav"} +{"text": "speaker 4: مگر، کسانی که قبل از دست یابی شما بر آنها قبل از اسیر شدن توبه کنند، پس بدانید که همانا خداوند، آن عفو کننده ی رحمگستر است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_702.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_488.wav"} +{"text": "speaker 4: اللّه آن ذات اقدسی است که شما را از وجودی واحد خلق فرمود و همسرش را نیز از نوع خودش پدیدار ساخت تا در جوار او احساس آرامش کند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_913.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3101.wav"} +{"text": "speaker 4: به امر خداوند یکتا که دانای غیب است و هیچ چیز حتّی به کوچکی یک ذرّه در آسمانها و زمین از علم او پوشیده و پنهان نیست,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2465.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_428.wav"} +{"text": "speaker 4: قوم او گفتند: تو از آن آدمهای سحر شده و جادوزده هستی تو هم بشری مثل ما هستی، اگر راست می گویی، پس معجزه ای ظاهر ساز,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2142.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3463.wav"} +{"text": "speaker 4: منشأ خیر و برکات است آن ذات اقدسی که فرمانروایی کلِّ هستی به دست قدرت فناناپذیر اوست و او بر هر چه اراده فرماید تواناست،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3319.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3541.wav"} +{"text": "speaker 4: منشأ خیر و برکات است آن ذات اقدسی که فرمانروایی کلِّ هستی به دست قدرت فناناپذیر اوست و او بر هر چه اراده فرماید تواناست،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3449.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1917.wav"} +{"text": "speaker 4: و مشرکان مدام با شما در جنگ و ستیزند تا اینکه شما را اگر بتوانند از دین و آئینتان برگردانند، ولی کسی که در حال کفر بمیرد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_238.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1754.wav"} +{"text": "speaker 4: ما او و سپاهیانش را به بلا گرفتار ساختیم و غافلگیرانه آنها را در دریا غرق کردیم. پس ببین عاقبت کافران و ستمگران چگونه بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2262.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3323.wav"} +{"text": "speaker 4: روزی که چون فرا رسد هیچکس جز به فرمان خداوند تکلّم نکند، در آن روز مردمان دو دسته اند: گروهی نیک بخت و گروهی بدبخت:,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1217.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1666.wav"} +{"text": "speaker 4: و چون آیات صریح ما از قرآن بر آنها تلاوت شود و از عذاب قیامت اطّلاع پیدا کنند می گویند: اگر راست می گوئید اجداد ما را زنده کنید!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3002.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2363.wav"} +{"text": "speaker 4: مرد کافر مبهوت شد و از جواب عاجز ماند و بدین گونه است که خداوند کافران را که ستمگران به خود و به دیگران هستند هدایت نمی فرماید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_290.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1155.wav"} +{"text": "speaker 4: و بر خداوند شکست ناپذیرِ رحمتگستر توکّل کن. همان خداوندی که تو را وقتی که برای نماز شب برمی خیزی مشاهده می فرماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2176.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_409.wav"} +{"text": "speaker 4: همنشین شیطان صفت ِ انسان گناهکار عرض می کند: آفریدگارا، من او را به گمراهی نکشاندم بلکه خودش در گمراهی شدید بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3105.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2251.wav"} +{"text": "speaker 4: لوط گفت: اینها مهمانان من هستند کاری نکنید که باعث آبروریزی و شرمساری من شود، قصد تجاوز به آنها را نداشته باشید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1415.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_94.wav"} +{"text": "speaker 4: ای پیامبر ما ضمن وحی قرآن مجید، زیباترین حکایتها را که تو نیز مانند دیگران از حقیقت آن مطّلع نبودی بر تو نقل می فرمائیم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1233.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3462.wav"} +{"text": "speaker 4: همانا سرپرست شما بعد از خداوند، پیامبر و مؤمنانند، مؤمنان یعنی همان کسانی که نماز بر پا می دارند، و حتّی در حال رکوع زکات می دهند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_728.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2956.wav"} +{"text": "speaker 4: او نسبت به شما علم و اطّلاع کامل دارد: هم آن زمانی که پدر شما یعنی آدم را از خاک آفرید و نیز زمانی که جنین‌هایی در شکم مادرانتان بودید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3200.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2640.wav"} +{"text": "speaker 4: آن کسانی که از عدم اطاعت آفریدگار خود در نهان می‌پرهیزند برای آنها آمرزش و پاداش بزرگ بهشت خواهد بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3331.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1146.wav"} +{"text": "speaker 4: و ما اراده فرمودیم که بر بنی اسرائیل که ضعیف و ذلیل شده بودند منّت نهیم و آنها را پیشوایان و وارثان فرعونیان مستکبر قرار دهیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2238.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1771.wav"} +{"text": "speaker 4: آن کسانی که از عدم اطاعت آفریدگار خود در نهان می‌پرهیزند برای آنها آمرزش و پاداش بزرگ بهشت خواهد بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3461.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1602.wav"} +{"text": "speaker 4: مردم، وقتی که دریا طوفانی می شود و بیم غرق شدن، سرنشینان را فرا می گیرد خداوند را با اخلاص، مصرّانه می خوانند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2386.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_403.wav"} +{"text": "speaker 4: پس ما، او و همراهانش را که سرنشینان کشتی سنگین بار بودند، همه را نجات خیر عنایت فرمودیم. و سپس بقیّه را غرق نمودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2131.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2251.wav"} +{"text": "speaker 4: ای پیامبر ما قرآن را به زبان مادری تو که زبان عربی است بیان فرمودیم تا آسان باشد و قوم تو معانی را درک کنند و پند گیرند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2988.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_188.wav"} +{"text": "speaker 4: اگر شما مردان از نافرمانی همسرتان نگرانید، نخست آنها را نصیحت کنید، اگر فایده نکرد، از همبستری با آنها دوری گزینید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_523.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1226.wav"} +{"text": "speaker 4: ای پیامبر آنها را از روز حسرت، روز اجرای حکم، بترسان زیرا آنها امروز سخت غافلند و در بی ایمانی خویش مانده اند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1678.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_277.wav"} +{"text": "speaker 4: کسانی که کافر شدند، اموال و فرزندانشان بهیچوجه آنها را از مجازات الهی مصون نمی دارد و آنها اهل دوزخند و جاودانه در آن خواهند ماند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_412.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_409.wav"} +{"text": "speaker 4: و اگر فرزند نداشته باشد و وارث او پدر و مادرش باشند، مادر یک سوم ارث می برد و اگر برادرانی داشته باشد مادرش یک ششم ارث می برد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_500.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_403.wav"} +{"text": "speaker 4: عهد با خداوند را به بهای اندک نفروشید زیرا آنچه از نیکی و سعادت نزد خداوند است برای شما خیلی بهتر است، اگر این مطلب را درک کنید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1490.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2787.wav"} +{"text": "speaker 4: عربهای بادیه نشین می گویند: ما ایمان آورده ایم. ای پیامبر؟ بگو: شما ایمان نیاورده اید بلکه بگوئید: اسلام آورده ایم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3087.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2870.wav"} +{"text": "speaker 4: و از عدم اطاعت خداوند بپرهیزید، و اوامر او را بشنوید و بدانید که خداوند مردمان گمراه و نافرمان را هدایت نمی فرماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_769.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1812.wav"} +{"text": "speaker 4: اوست خدایی که کتاب مجید را بر تو ای پیامبر نازل فرمود، پاره ای از آیات ِ کتاب صریح و روشن است که آنها اساس کتاب مجید محسوب می شوند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_323.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2492.wav"} +{"text": "speaker 4: و خداوند به وضع او رسیدگی می فرماید و اشخاصی که پس از اینکه حکم به ربا خواری ادامه دهند، اهل جهنّم خواهند بود و جاودانه در آن خواهند ماند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_307.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3022.wav"} +{"text": "speaker 4: ما قبل از تو نیز ای پیامبر به مردانی مثل تو وحی می فرمودیم، اگر شما مردم نمی دانید، این موضوع را از علمای ادیان پیشین بپرسید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1803.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_198.wav"} +{"text": "speaker 4: و امّا آن کس که نامه اعمالش را به دست راستش داده‌اند با سربلندی و افتخار می‌گوید: بیائید همه تان نامه عمل مرا بخوانید!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3371.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3520.wav"} +{"text": "speaker 4: و امّا آن کس که نامه اعمالش را به دست راستش داده‌اند با سربلندی و افتخار می‌گوید: بیائید همه تان نامه عمل مرا بخوانید!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3501.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_902.wav"} +{"text": "speaker 4: برای انسان به امر خداوند فرشتگان محافظی هستند که او را در جوانب مختلف از پیش رو و از پشت سر از بلاها و حوادث حفظ می کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1311.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_188.wav"} +{"text": "speaker 4: ای فرزندان اسرائیل زمانی را به خاطر بیاورید که شما را از چنگال فرعونیان که به بدترین وجه شکنجه تان می کردند نجات خیر عنایت فرمودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_65.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_428.wav"} +{"text": "speaker 4: پس آیا تو ای پیامبر می توانی کسی را که فرمان عذاب الهی برای او صادر شده و تحقّق یافته از میان آتش جهنّم نجات دهی!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2719.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1481.wav"} +{"text": "speaker 4: تا همیشه داستان نجات کشتی نوح برای شما باقی بماند و گوشهای شنوای حق، شرح این معجزه ی الهی را بشنوند و پند گیرند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3494.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1438.wav"} +{"text": "speaker 4: ای مردم! ما به سوی شما پیامبری که گواهی دهنده بر اعمال شما خواهد بود فرستادهایم همانگونه که بر فرعون پیامبری فرستادیم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3563.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2179.wav"} +{"text": "speaker 4: آنها برای نابودی او مکری پدید آوردند و ما آنها را مغلوب و خوار ساختیم. آتش به امر خداوند بر او سرد شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2618.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3541.wav"} +{"text": "speaker 4: و ای پیامبر یادآور باش زمان ازل را که خداوند به فرشتگان فرمود: من انسان را از لجن بد بوی خشکیده ای خلق خواهم فرمود؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1393.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_722.wav"} +{"text": "speaker 4: موسی گفت: وعده ی شما روز عید زینتِ معابد خواهد بود، زمانی که مردم به واسطه ی تعطیلی بتوانند وسط روز اجتماع کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1756.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1018.wav"} +{"text": "speaker 4: به آنها فرموده می شود: آری، این همان روز جدایی حقّ از باطل و جدایی نیکان از گناهکاران است، روزی که آن را تکذیب می کردید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2590.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3463.wav"} +{"text": "speaker 4: تا همیشه داستان نجات کشتی نوح برای شما باقی بماند و گوشهای شنوای حق، شرح این معجزه ی الهی را بشنوند و پند گیرند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3364.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_512.wav"} +{"text": "speaker 4: و نیز ازدواج با زنان پاکدامن از مسلمانان و نیز نکاح زنان پاکدامن از کسانی که پیش از شما به آنها کتاب آسمانی داده شده,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_676.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3665.wav"} +{"text": "speaker 4: سوگند به آسمان باران‌های مکرّر، و سوگند به زمین که رو به دانه می‌شکافد و دانه ها در شکافها تبدیل به محصولات می‌شوند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3708.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2674.wav"} +{"text": "speaker 4: هرگز نابینا و بینا مساوی نیستند. تاریکی و نور مساوی نیستند. سایه ی خنک و گرمای سوزان مساوی نیستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2520.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3329.wav"} +{"text": "speaker 4: و خداوند فرموده است: دو خدا را پرستش نکنید خدا یکی است و آن خدای یگانه منم! پس از عدم اطاعت من بپرهیزید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1463.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1288.wav"} +{"text": "speaker 4: محقّقاً آنها که ایمان آوردند و به عمل صالح اقدام می کنند برای آنها پاداشی قطع ناشدنی و ابدی خواهد بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2813.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2069.wav"} +{"text": "speaker 4: مسلّماً روز قیامت فرا می رسد و در وقوع آن شکّی نیست ولی اکثر مردم به این حقیقت بزرگ ایمان نمی آورند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2793.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_902.wav"} +{"text": "speaker 4: و حقایقی را که برای اهل کتاب قبلًا بیان کرده بودیم، درباره ی پیامبر و مأموریت او کتمان می کنند خداوند آنها را لعنت می کند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_181.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1539.wav"} +{"text": "speaker 4: آیا پنداشتید که همگی پیش از آزمون و پیش از آنکه خداوند مجاهدان راه دین و شکیبایان شما را معلوم بدارد، داخل بهشت می شوید؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_434.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1481.wav"} +{"text": "speaker 4: و ای پیامبر زندگانی این دنیا را برای مردم اینگونه مثال بزن: می توان آن را تشبیه کرد به بارانی که از آسمان نازل می فرمائیم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1618.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1146.wav"} +{"text": "speaker 4: و ما به موسی و برادرش هارون، لطف فراوان ارزانی داشتیم. آن دو نفر و قومشان را از رنج بزرگ نجات خیر عنایت فرمودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2629.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1250.wav"} +{"text": "speaker 4: و در بین مردم ادای مراسم حج ّ را فریضه اعلام کن تا زائران، پیاده یا سوار بر شترهای لاغر از راه های دور به سوی تو روان شوند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1887.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2674.wav"} +{"text": "speaker 4: و در تورات، برای آنها حکم قصاص را چنین صادر فرمودیم: جان در برابر جان، چشم در برابر چشم، بینی در برابر بینی،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_717.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_939.wav"} +{"text": "speaker 4: پدیدار می شود، چون زمین بدان زیبایی ها ی سبز آراسته و خرّم گردد، مردم به نظرشان می رسد که برای همیشه آنها را در اختیار دارند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1089.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_512.wav"} +{"text": "speaker 4: ما دعای او را اجابت کردیم و او را از بلا و گرفتاری نجات خیر عنایت فرمودیم و اینگونه مؤمنان را نجات خیر عنایت می فرمائیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1852.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_428.wav"} +{"text": "speaker 4: این کافران جاهل انتظار دارند که خداوند آیات الهی را بصورت نامه‌های جداگانه از آسمان بر هر یک از آنها نازل فرماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3603.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2636.wav"} +{"text": "speaker 4: ما معجزاتی را که مشرکان درخواست کرده‌اند به این دلیل نازل نفرمودیم که پیشینیان آنها هر معجزه‌ای را که نازل فرمودیم تکذیب کردند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1550.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1288.wav"} +{"text": "speaker 4: اگر می خواستیم وسیله ی سرگرمی و تفریح پدید آوریم، اینگونه وسائل را نزد خودمان در آسمان فراهم می آوردیم اگر قصد چنین کاری داشتیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1811.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1827.wav"} +{"text": "speaker 4: خداوند فرمود: ای زکریّا؟ ما تو را به پسری که نام او یحیی است مژده می دهیم، پیش از این فردی به این نام، به پیامبری مبعوث نفرموده ایم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1664.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1812.wav"} +{"text": "speaker 4: ای کسانی که به وحدانیّت خداوند ایمان آورده اید! از خدا و پیامبر خدا و فرماندارانتان که از جانب خدا و رسول حکم دارند، اطاعت کنید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_547.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3453.wav"} +{"text": "speaker 4: ای مردم؟ شما همه نیازمند نعمات الهی هستید چه اعیان چه فقیر و خداوند آن توانگرِ بی نیاز از همگان است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2516.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_806.wav"} +{"text": "speaker 4: ای پیامبر! بگو: ما به خداوند و آنچه بر ما نازل شده و آنچه بر ابراهیم و اسماعیل و اسحاق و یعقوب و اسباط نازل گردیده,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_389.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1554.wav"} +{"text": "speaker 4: بدین سبب، کیفر آنها جهنّم خواهد بود زیرا کفر ورزیدند و آیات و معجزات من و نیز پیامبران مرا مورد استهزاء قرار دادند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1655.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1539.wav"} +{"text": "speaker 4: آنگاه تک تک آنها را بطور آشکار یا پنهان درباره دین، موعظه و نصیحت کردم و از قدرتهای اسرارآمیز الهی با آنها سخن گفتم:,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3545.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3061.wav"} +{"text": "speaker 4: به آنها گفته می شود: این عذاب به خاطر آنست که در دنیا با بیهودگی و باطل سر خوش بودید و از روی غرور بی دلیل به شادمانی می پرداختید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2802.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_496.wav"} +{"text": "speaker 4: ما او را از آمیزه نطفه مرد و تخمک زن خلق فرمودیم و برای آزمون، به او قدرت شنوایی و بینایی عنایت کردیم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3633.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3565.wav"} +{"text": "speaker 4: چون فرمان ما به وقوع پیوست، آن دیار را زیر و زبر ساختیم و بر سر زشتکاران آن پی در پی سنگهایی از جنس کلوخ بارانیدیم،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1200.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2758.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: آفریدگار پروردگار من که یگانه دانای عالم غیب است کلام حق ّ را از فراز عرش به قلب من وارد می فرماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2502.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_198.wav"} +{"text": "speaker 4: و اگر کافران به جنگ شما برخیزند شکست خورده به جبهه پشت می کنند و می گریزند و هیچ حامی و یاوری برای مقابله با شما نمی یابند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3069.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3394.wav"} +{"text": "speaker 4: پس از خداوند طلب عفو کنید و به سوی او توبه کنان برگردید، همانا آفریدگار- پروردگار من نزدیک است و دعای بندگان را,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1186.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_94.wav"} +{"text": "speaker 4: بواقع اگر آنها را زنده بگذاری، بندگان تو را گمراه می‌کنند و جز تولید نسل های فاسد و کافر و حق ناسپاس خاصیّت دیگری ندارند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3555.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3459.wav"} +{"text": "speaker 4: و سوگند به بیت المعمور و سوگند به سقف بلند و برافراشته‌ی آسمان و سوگند به دریای سرشار از آتش هنگام وقوع قیامت,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3146.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_637.wav"} +{"text": "speaker 4: کسانی که کفر را به بهای از دست دادن ایمان خریداری کردند، هرگز به خداوند زیانی نمی رسانند و برای آنها عذابی دردناک خواهد بود؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_465.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3608.wav"} +{"text": "speaker 4: و ای پیامبر! بگو: کسانی را که به جای خداوند پرستش می کنید و به آنها توسّل می جویید، نه می توانند شما را یاری کنند و نه خود را؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_916.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3520.wav"} +{"text": "speaker 4: ای پیامبر حتّی اگر تو را از میان آنها به دنیای دیگر ببریم حتماً با نزول عذاب الهی از آنها انتقام خواهیم گرفت.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2931.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3323.wav"} +{"text": "speaker 4: موسی عرض کرد: آفریدگار پروردگارا به پاس نعمت بزرگی که به من ارزانی فرمودی قول می دهم که هرگز از مجرمان پشتیبانی نکنم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2247.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_844.wav"} +{"text": "speaker 4: و در کتاب تورات به فرزندان اسرائیل اعلام فرمودیم: شما دو بار در این سرزمین بیت المقدّس فساد و سرکشی و طغیان خواهید کرد؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1512.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2636.wav"} +{"text": "speaker 4: کافران در زندگی دنیا، مدام می‌پرسند: آیا ما پس از مرگ دوباره زنده خواهیم شد و به وضع اوّل خود به دنیا برخواهیم گشت؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3689.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2636.wav"} +{"text": "speaker 4: ای پیامبر بتحقیق پیامبران ِ قبل از تو نیز مسخره شدند امّا سرانجام همان چیزی که کافران به مسخره می گرفتند آنها را احاطه کرد؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_793.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1651.wav"} +{"text": "speaker 4: ای پیامبر؟ به همسران و دخترانت و زنان مؤمن بگو، حجابها، روسری یا مقنعه ی بزرگ خود را تا روی سینه پایین بیاورند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2457.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1559.wav"} +{"text": "speaker 4: ای مسلمانان از مردم نترسید، تنها از عدم اطاعت من بترسید، تا نعمت خود را بر شما کامل فرمایم و باشد که هدایت شوید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_172.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1472.wav"} +{"text": "speaker 4: و تو بزودی می بینی و آنها نیز خواهند دید؛ که کدامیک از شما دیوانه هستید و حقّ با کیست؟ و وعده های خداوند چگونه تحقّق می یابد،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3466.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3524.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: روز پیروزی ما، دیگر ایمان آوردن کافران برایشان سودی نخواهد داشت و به آنها مهلت توبه و جبران داده نخواهد شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2410.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3138.wav"} +{"text": "speaker 4: و تو بزودی می بینی و آنها نیز خواهند دید؛ که کدامیک از شما دیوانه هستید و حقّ با کیست؟ و وعده های خداوند چگونه تحقّق می یابد،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3336.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_310.wav"} +{"text": "speaker 4: و آنان که کافر شدند، چنین نپندارند که بر شما مسلمانان غلبه یافته اند: مسلّماً آنها هرگز نمی توانند قدرت خداوند را سرکوب کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_967.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1687.wav"} +{"text": "speaker 4: زیرا اسراف کنندگان برادران شیطانها هستند و شیطان نسبت به آفریدگار خود ناسپاس بود پس پیروان و دوستان او نیز چنین هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1528.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1583.wav"} +{"text": "speaker 4: و چون موسی به سوی قوم خود بازگشت خشمناک و اندوهگین گفت: در غیاب من با عمل زشتی که کردید، چه بد جانشینانی برای من بودید!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_873.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3643.wav"} +{"text": "speaker 4: خداوند می فرماید: به دلیل اینکه کلمات وحی ما، به تو رسید و تو آنها را فراموش کردی بنابراین تو هم امروز فردی فراموش شده هستی.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1793.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_198.wav"} +{"text": "speaker 4: آفریدگار پروردگارا، تو از اعمال پنهان و آشکار ما آگاه هستی و هیچ چیز از خداوند پنهان نیست، نه در زمین و نه در آسمان؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1358.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_844.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: آنچه به من وحی شده این است که معبود شما خدای یگانه و بی همتاست آیا به حقیقت یگانگی خداوند تسلیم می شوید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1865.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3665.wav"} +{"text": "speaker 4: آنها خواهند گفت: خداوند، بگو: پس شما با این اقرارها شاید جادو زده شده اید که خلاف امر خداوند عمل می کنید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1970.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3462.wav"} +{"text": "speaker 4: و ما به او در دنیا خیر و خوبی فراوان عنایت فرمودیم و در آخرت نیز در زمره صالحان و شایستگان محضر الهی خواهد بود؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1503.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3565.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: اگر از مرگ یا کشته شدن می گریزید سودی به حالتان نخواهد داشت زیرا جز اندکی، از زندگی برخوردار نخواهید شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2423.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2787.wav"} +{"text": "speaker 4: اینک این پیراهن مرا ببرید و روی صورت پدرم بیفکنید، او دوباره بینا خواهد شد و بعد کلّیه افراد خانواده خود را نزد من بیاورید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1291.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_722.wav"} +{"text": "speaker 4: همان کافرانی که پرده ی فریب دنیا چشمهاشان را از خواندن کلام الهی من محروم کرده بود و گوشهاشان قدرت شنوایی حقّ را نداشت؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1650.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3459.wav"} +{"text": "speaker 4: مگر کسانی که از کردار خود توبه کردند و کارهای شایسته به قصد جبران انجام دادند همانا خداوند آن عفوکننده ی رحمگستر است؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_391.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_874.wav"} +{"text": "speaker 4: آنگاه ما یونس را از دهان ماهی نجات خیر عنایت فرمودیم و او را که بد حال و مریض بود به زمین خشکی، در ساحل افکندیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2641.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_963.wav"} +{"text": "speaker 4: و چون فرشتگان را فرمودیم: به آدم تعظیم کنید پس همه تعظیم کردند به جز ابلیس که سرکشی و تکبّر کرد و در شمار کافران در آمد؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_51.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1912.wav"} +{"text": "speaker 4: موسی گفت: خداوند، آفریدگار مشرق و مغرب و آنچه بین آنها واقع شده می باشد اگر عقلتان را بکار ببندید می فهمید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2087.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_615.wav"} +{"text": "speaker 4: در باغهای بهشت خرسند از الطاف و نعمات الهی هستند و از یکدیگر پرسشها می‌کنند، و نیز از گناهکاران می‌پرسند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3601.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_915.wav"} +{"text": "speaker 4: و اهل ایکه و قوم تُبَّع، همه آنها به طریقی پیام و پیامبران الهی را تکذیب کردند، پس وعده ی عذاب من بر آنها تحقّق یافت.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3098.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_193.wav"} +{"text": "speaker 4: و آنان که کلمات وحی ما را تکذیب کنند و نسبت به آنها گردنکشی و تکبّر ورزند، اهل دوزخند و جاودانه در آن خواهند ماند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_848.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2912.wav"} +{"text": "speaker 4: آیا آنها مهمّتر هستند یا قوم تُبَّع و کافران پیش از آنها! ما آنها را بواسطه گناهکاری و کفرشان هلاک کردیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2979.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3638.wav"} +{"text": "speaker 4: ولی آنان که هدایت نشوند و کفر بورزند و آیات و معجزات ما را تکذیب کنند اهل دوزخند و در عذاب آتش، جاودانه خواهند ماند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_58.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_939.wav"} +{"text": "speaker 4: و کسی که چنین کند بخود ستم کرده است و آیات و احکام الهی را در هر موضوع و مورد به مسخره نگیرید، و نعمت خداوند را بر خود,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_256.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3332.wav"} +{"text": "speaker 4: ای کسانی که ایمان آورده اید؟ اگر از آنان که کافر شده اند اطاعت کنید، شما را به گذشته تان بر می گردانند و بنابراین زیانکار خواهید شد؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_439.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_683.wav"} +{"text": "speaker 4: و پیامبرشان به آنها گفت: نشانه ی فرمانروایی وی اینست که صندوقی که فرشتگان آن را پیشاپیش او بر دوش حمل می کنند برای شما خواهد آمد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_282.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_806.wav"} +{"text": "speaker 4: شکر و ثنای مخلوقات در آسمانها و زمین خاص ّ خداوند است، شما نیز در نمازهای عصر و ظهر، به شکر و ثنای آفریدگار خود مشغول باشید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2340.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3138.wav"} +{"text": "speaker 4: و آنگاه ابراهیم عرض کرد: آفریدگار پروردگارا، به من حکمت و دانش الهی عنایت فرما و در زمره ی صالحان قرارم ده.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2117.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_222.wav"} +{"text": "speaker 4: پیامبران از خداوند طلب پیروزی بر کافران را کردند و بر اثر استغاثه ی آنان ستمگران ِ ضد حق ّ و معاند، نومید و مغلوب شدند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1342.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1739.wav"} +{"text": "speaker 4: و ما همانا در آسمان برجهایی برای اجرام سماوی فراهم فرمودیم و آنها را در چشم بینندگان باشکوه و مزین جلوه دادیم،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1382.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2674.wav"} +{"text": "speaker 4: و ما بنی اسرائیل را از دریا عبور دادیم و فرعون و سپاهیانش به مقصد تجاوز و ستم دنبال آنها در دریا پیش رفتند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1134.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2223.wav"} +{"text": "speaker 4: تا مشکلی برای مؤمنان در ازدواج با همسر پسرخوانده شان بعد از طلاق آنها نباشد و امر خداوند مسلّماً تحقّق می پذیرد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2438.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1583.wav"} +{"text": "speaker 4: و موسی گفت: من به آفریدگار خودم و آفریدگار شما پناه می برم از شرّ هر عصیانگر متکبّری که به روز مکافات ایمان ندارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2770.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1940.wav"} +{"text": "speaker 4: آنها که ایمان آورده و کارهای نیک انجام میدهند، هم بهترین و نیکوترین زندگانی و هم خانه ی عالی آخرت از آن آنهاست.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1319.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1927.wav"} +{"text": "speaker 4: آیا کافران و گناهکاران تصوّر می کنند که از عهده ی مقابله با قدرت الهی ما برمی آیند! این داوری آنها خام و نادرست است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2293.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_496.wav"} +{"text": "speaker 4: همانا خداوند یکتا، آفریدگار- پروردگار من و آفریدگار- پروردگار شماست، تنها او را بپرستید که این است راه راست,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_364.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_863.wav"} +{"text": "speaker 4: و پیامبر به استغاثه عرض کرد: آفریدگار پروردگارا، قوم من قرآن را کنار گذاشتند و از تعلیمات و هدایت آن اطاعت نکردند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2047.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_193.wav"} +{"text": "speaker 4: و خداوند به کافران می فرماید: آیا آیات من بر شما تلاوت نمی شد! امّا شما تکبّر می ورزیدید و قومی گناهکار بودید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3006.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2640.wav"} +{"text": "speaker 4: و قومش جز این جواب ندادند: آنها را از شهر و دیارتان بیرون کنید چرا که بواقع مردمی اهل پاکی و اجتناب کننده ی از گناه هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_647.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_991.wav"} +{"text": "speaker 4: آیا این جاهلان درباره ی کلمات وحی نمی اندیشند! یا اینکه آیات قرآن حاوی مطالبی است که نیاکانشان از آن بی اطّلاع مانده بودند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1954.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3131.wav"} +{"text": "speaker 4: خداوند خواری را با نزول عذاب الهی در این دنیا به آنها چشانید و عذاب آخرت البتّه شدیدتر است، اگر می بدانند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2723.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1602.wav"} +{"text": "speaker 4: ما کافران را از اعمالشان به زودی آگاه خواهیم فرمود و مسلّماً از عذاب و کیفر سخت خود به آنها خواهیم چشانید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2845.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_449.wav"} +{"text": "speaker 4: راه آنانی که نعمت رستگاری به آنها عنایت فرمودی نه آنان که به واسطه‌ی انکار حق‌ّ به غضب الهی گرفتار شدند و نه گمراهان.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_6.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3565.wav"} +{"text": "speaker 4: و در سرگذشت موسی نیز درس عبرتی است: او را مجهّز به قدرتهای شاخص الهی و معجزات آشکار به دربار فرعون فرستادیم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3127.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_131.wav"} +{"text": "speaker 4: ای پیامبر! بگو: هر کس بر اساس خُلق و خو و شخصیّت خود عمل می‌کند، تنها خداوند می‌داند که از بین شما کدامیک هدایت یافته‌ترید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1566.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_222.wav"} +{"text": "speaker 4: روح گفت: من فرستاده ی آفریدگار پروردگار تو هستم و آمده ام تا از جانب خداوند به تو مژده ی پسری پاک و پارسا را ببخشم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1670.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2333.wav"} +{"text": "speaker 4: و اگر علم غیب داشتم قطعاً خیر و خوبی و مال بیشتری برای خود فراهم می آوردم و هیچ بدی و شرّی نمی توانست به من آسیب برساند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_909.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1018.wav"} +{"text": "speaker 4: هر گاه یکی از آنان از راه استراق سمع خبری برباید ستاره های تیرانداز شهابهای ثاقب او را تعقیب می کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2585.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1034.wav"} +{"text": "speaker 4: آنها بهره ای از زندگی دنیا می برند و سپس بازگشتشان بسوی ماست، آنگاه به کیفر کفرگویی شان عذاب سخت را به آنها خواهیم چشانید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1120.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_915.wav"} +{"text": "speaker 4: بیشتر اوقات در منزل خود بمانید و به مانند زنان عهد جاهلی زینتها و زیبایی های خود را در معرض نمایش قرار ندهید،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2436.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1927.wav"} +{"text": "speaker 4: ما او و خانواده و پیروانش را نجات خیر عنایت فرمودیم و همسرش، چنانکه مقدّر فرموده بودیم، از برجای ماندگان و هلاک شوندگان بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2212.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_189.wav"} +{"text": "speaker 4: همانا قرآن مجید مأخوذ از کتاب مرجع و حکمت آموز لوح محفوظ است که در نزد ماست و مرتبه ای بسیار والا دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2903.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3131.wav"} +{"text": "speaker 4: ای پیامبر وقتی که آیه دارد نازل می‌شود شتابزده آن را بر زبان جاری نکن بگذار مطمئن شوی که آیه را بطور کامل شنیده ای؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3620.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2806.wav"} +{"text": "speaker 4: و این قرآن را شیاطین و جنّیان از آسمان به زمین نیاورده اند. آنها شایسته ی این امر نیستند و قدرت این کار را ندارند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2171.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_683.wav"} +{"text": "speaker 4: و در این قرآن از اسماعیل فرزند ابراهیم یاد کن که او در انجام پیمانش وفادار بود و او یک مأمور الهی و پیامبر ما بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1693.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1499.wav"} +{"text": "speaker 4: و پاسخ قوم او جز این نبود که همه یک صدا گفتند: لوط و خاندانش را از شهر تبعید کنید که اینها مردمانی دوستدار نجابت و پاکی هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2211.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3028.wav"} +{"text": "speaker 4: و این کافران چون در قیامت عذاب وعده داده شده را ببینند، آن وقت خواهند فهمید چه کسی یارانش ناتوانتر و جمعیّتش کمتر است؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3559.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3541.wav"} +{"text": "speaker 4: به آنها فرموده خواهد شد: همانا شما و آنچه بجای خداوند می پرستید همه با هم هیزم جهنّم هستید و در آن وارد خواهید شد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1856.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1481.wav"} +{"text": "speaker 4: آیا غیر از خداوند یکتا معبودی دارند که به آن پناه ببرند؟ پاک مطلق است خداوند و مبرّا از اینکه برای ذات اقدسش شریک قائل شوند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3171.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_189.wav"} +{"text": "speaker 4: ما در گرو اعمال خویش و شما در گرو اعمال خویش هستید و ما مسلمانان، خداوند را با اخلاص و پاکدلی، همواره پرستنده ایم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_146.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3665.wav"} +{"text": "speaker 4: ما قبل از بعثت امکان رشد و هدایت به ابراهیم عنایت فرمودیم زیرا از استعدادهای ذاتی الهی او آگاه بودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1833.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2912.wav"} +{"text": "speaker 4: در آن روز، زمین شکافته می شود و همه به سرعت از قبرها خارج می شوند و این جمع کردن مردمان برای ما امری آسان است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3114.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1812.wav"} +{"text": "speaker 4: ،در بهشت بندگان نیکوکردار، از جام شرابی می‌نوشند که طبع و عطر کافور دارد و خنک و خوش طعم می‌باشد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3636.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1651.wav"} +{"text": "speaker 4: سپس پرهیزگاران را نجات خیر عنایت می فرمائیم و کافران و ستمگران را در حالی که به زانو در آمده اند در آتش رها می کنیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1703.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1912.wav"} +{"text": "speaker 4: و اینکه چگونه در اجرای عدالت برای یتیمان اقدام کنید. هر کار نیکی که انجام دهید بتحقیق خداوند کاملًا از آن آگاه است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_596.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1739.wav"} +{"text": "speaker 4: و نماز و عبادت این کافران در خانه ی خدا جز سوت کشیدن و کف زدن نبود، پس به آنها فرموده شد: عذاب را به سزای کفرتان بچشید!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_950.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1018.wav"} +{"text": "speaker 4: نوح گفت: ای قوم! نه تنها نشانه ای از گمراهی در من وجود ندارد، بلکه من پیامبر و فرستاده ی آفریدگار جهانها و جهانیان هستم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_632.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_963.wav"} +{"text": "speaker 4: پس ای پیامبر درباره ی مجازات آنها دچار شتابزدگی نباش، ما اعمال آنها را در اختیار داریم، با دقّت حسابرسی می کنیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1713.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2427.wav"} +{"text": "speaker 4: و ای پیامبر به مؤمنان نیکوکار، بشارت ده که آنان را به کرم خداوند باغهایی خواهد بود که در آنها، نهرهای آب روان است,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_38.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2787.wav"} +{"text": "speaker 4: آیا جز اینست که آنها منتظر تأویل تهدیدهای الهی و کیفر اعمال خود هستند روز رستاخیز که این وعیدها تحقّق پذیرد،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_626.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1940.wav"} +{"text": "speaker 4: و این قرآن که نازل می‌فرمائیم شفا و رحمت است برای اهل ایمان و بر عکس برای کافران و ستمگران جز بر زیانشان نمی‌افزاید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1565.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3325.wav"} +{"text": "speaker 4: من اراده دارم که ساعت فرا رسیدن قیامت را که امری واقع شدنی است، پنهان بدارم تا هر فردی بر اساس اعمالش، پاداش داده شود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1734.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3463.wav"} +{"text": "speaker 4: شما در غیاب او گوساله ای را معبود قرار دادید و پرستیدید و بدینگونه به خود ستم کردید، زیرا کافران، بخود ستمگران هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_69.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_375.wav"} +{"text": "speaker 4: ای پدر؟ از جانب خداوند به من دانشی عنایت شده که تو از آن بی بهره ای، پس از من پیروی کن تا تو را به راه راست هدایت کنم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1682.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_703.wav"} +{"text": "speaker 4: هر کدام از شما که مرتکب عمل زشت و ناشایست شود مجازات او دو برابر یک زن معمولی خواهد بود و این کار بر خداوند آسان است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2432.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1559.wav"} +{"text": "speaker 4: ای پیامبر اگر این مردم به قرآن که کلام حق است ایمان نمی‌آورند پس به کدام کلام بعد از آن ایمان می‌آورند؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3680.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_806.wav"} +{"text": "speaker 4: آنگاه هیچ پاسخ و عذری جز این نخواهند یافت که بگویند: سوگند به خداوند، به آن آفریدگار- پروردگارمان که ما مشرک نبودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_807.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_277.wav"} +{"text": "speaker 4: خداوند هر کس را اراده بفرماید به رسالت برمی گزیند و هر کس را که متوسّل به او باشد به سوی خود هدایت می فرماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2862.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_939.wav"} +{"text": "speaker 4: و گمان ندارم که قیامت هرگز فرا رسد و اگر بمیرم و به دیدار آفریدگار پروردگارم نائل شوم آنجا هم باغی بهتر از این نصیب من خواهد شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1614.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_991.wav"} +{"text": "speaker 4: آیا آن شخصی که آیات ما را انکار می کند و در عین حال می گوید: قطعاً اموال و فرزندان فراوانی به من داده خواهد شد،ملاحظه نکرده ای!.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1706.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1651.wav"} +{"text": "speaker 4: ای پیامبر به یاد آور آنگاه که به مؤمنان گفتی: آیا این معجزه کافی نیست که خداوند سه هزار فرشته برای کمک به شما فرو فرستاد؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_422.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_409.wav"} +{"text": "speaker 4: همانا ما نوح را به سوی قومش فرستادیم و او گفت: من از جانب آفریدگار- پروردگار برای شما یک شارح الهی هشدارگر هستم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1164.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_428.wav"} +{"text": "speaker 4: بدینگونه فرعون قومش را فریفت و تحت تأثیر قرار داد، آنها از او اطاعت کردند چرا که قومی بواقع عصیانگر و فاسد بودند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2939.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2018.wav"} +{"text": "speaker 4: همان ذات اقدسی که از درخت سبز برای شما آتش ایجاد فرمود و شما بوسیله ی آن حرارت و سوخت مصرفی خود را تأمین می کنید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2574.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_28.wav"} +{"text": "speaker 4: آیا آنها نمی‌دانند که این خداوند است که توبه‌ی بندگانش را می‌پذیرد و صدقات را می‌گیرد و خداوند آن توبه پذیر رحمگستر است؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1050.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_612.wav"} +{"text": "speaker 4: ای پیامبر! بگو: چیزهایی که آفریدگار- پروردگار من تحریم فرموده عبارتند: از اعمال زشت چه پنهان چه آشکار،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_846.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_426.wav"} +{"text": "speaker 4: به او فرموده شد: حالا که داری غرق می شوی ایمان آوردی؟ و حال آنکه تا لحظاتی پیش از این عصیان می ورزیدی و از فسادگران بودی؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1135.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_368.wav"} +{"text": "speaker 4: مؤمنان و توکّل کنندگان کسانی هستند که چون ستمی به آنها برسد در مقام دفاع مقابله می کنند و انتقام می گیرند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2888.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_193.wav"} +{"text": "speaker 4: آنگاه به ستمکاران فرموده شود: بچشید عذاب ابدی را، آیا جز به اندازه اعمالی که مرتکب شده اید کیفر می شوید؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1108.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2223.wav"} +{"text": "speaker 4: برادران گفتند: مجازاتش توقیف آن شخصی است که مال مسروقه در بار او پیدا شود، ما در ولایت خودمان اینگونه .خطاکاران را کیفر می دهیم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1277.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1754.wav"} +{"text": "speaker 4: حالا از درهای مختلف جهنّم وارد شوید و همیشه در آن مقیم باشید، واقعاً بدترین مکان است جایگاه گردنکشان متکبّر.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2803.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1812.wav"} +{"text": "speaker 4: او، در گهواره و همچنین در میانسالی به اراده ی خداوند و بر اساس وحی با مردم سخن خواهد گفت و از نیکان و شایستگان خواهد بود,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_359.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3022.wav"} +{"text": "speaker 4: مؤمنان کسانی هستند که زکات مال حلال خود را برای رضای روزی دهنده ی اصلی و مطابق حکم الهی به نیازمندان می پردازند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1924.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_277.wav"} +{"text": "speaker 4: و سپس زمین را گسترانید، از زمین، آب چشمه سارها و چاهها را بیرون آورد و بر روی زمین چراگاه قرار داد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3692.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3665.wav"} +{"text": "speaker 4: و نوح عرض کرد: ای آفریدگار پروردگار من! استدعای من اینست که در روی زمین احدی از کافران را زنده نگذاری؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3554.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_806.wav"} +{"text": "speaker 4: این فکرشان نادرست است زیرا در قیامت معبودها منکر می شوند که از پرستش آنها اطّلاع داشته اند و حتّی علیه آنها اقدام می کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1711.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1827.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: ای بندگان من که ایمان آورده اید؟ از عدم اطاعت از اوامر و احکام آفریدگار پروردگارتان بپرهیزید،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2711.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2599.wav"} +{"text": "speaker 4: و قرآن به زبان عربی ساده و قابل فهم بیان شده است. و همانا شرح و وصف آن در کتابهای دینی پیشینیان نیز آمده است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2166.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1472.wav"} +{"text": "speaker 4: و چون موسی به سن بلوغ و کمال رسید به او حکمت و دانش عنایت فرمودیم، و ما نیکوکرداران را اینگونه پاداش می دهیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2245.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3100.wav"} +{"text": "speaker 4: امّا این کافران لجوج هر نوع معجزه ای ببینند باز از حقّ رویگردانی می‌کنند و می‌گویند: این هم ادامه همان جادوهای پیشین است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3212.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1940.wav"} +{"text": "speaker 4: آری، هر کس به عهد خود وفا کند و پرهیزکاری نماید، مورد لطف خداوند قرار می گیرد. همانا خداوند پرهیزکاران را دوست می دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_383.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_403.wav"} +{"text": "speaker 4: و اگر هم چنین چیزی واقعیّت داشته باشد هر گاه به سوی آفریدگارم بازگردم، برای من نزد او نعمتهای نیکوتر خواهد بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2846.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1771.wav"} +{"text": "speaker 4: این سنّت الهی در گذشته بوده است که سرنوشت کافران با شکست و شومی آمیخته باشد و در سنّت الهی تغییر و تبدیلی نخواهی یافت.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3070.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1666.wav"} +{"text": "speaker 4: ای کسانی که ایمان آورده اید! از مخالفت با امرِ خداوند بپرهیزید و از باقیمانده ی ربا صرف نظر کنید اگر واقعاً مؤمن هستید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_311.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2728.wav"} +{"text": "speaker 4: و چون به آنان گفته شود: به قرآنیکه خداوند فرو فرستاده ایمان بیاورید! می گویند: ما به آنچه بر پیامبر خودمان نازل شده ایمان می آوریم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_104.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_131.wav"} +{"text": "speaker 4: خداوند دین و آئینی را برای شما مقرّر فرمود که به نوح هم آن را توصیه فرموده بود و همانگونه که به تو ای محمّد وحی فرمودیم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2864.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_449.wav"} +{"text": "speaker 4: فرشتگان و روح به سوی عرش خداوند در روز قیامت که برای گناهکاران پنجاه هزار سال طول خواهد کشید بالا می‌روند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3388.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3390.wav"} +{"text": "speaker 4: و با تکبّر و نخوت از مردم روی بر نگردان و مغرورانه در زمین گام نزن که خداوند مردم خودپسند و مغرور را دوست نمیدارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2377.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3329.wav"} +{"text": "speaker 4: براستی ما کلمات وحی را که راهنمای شما درباره ی آنان است به روشنی بیان فرموده ایم، اگر درست تعقّل کنید خواهید فهمید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_414.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2806.wav"} +{"text": "speaker 4: فرشتگان و روح به سوی عرش خداوند در روز قیامت که برای گناهکاران پنجاه هزار سال طول خواهد کشید بالا می‌روند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3518.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3103.wav"} +{"text": "speaker 4: و ما اسحاق را به او عنایت فرمودیم و نیز نوه ای به نام یعقوب و همه آنها را مردانی صالح و پارسا مقدّر فرمودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1839.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_75.wav"} +{"text": "speaker 4: و امّا کسانی که هدایت یافته‌اند خداوند بر هدایتشان می‌افزاید و به آنها توفیق کفّ نفس و پرهیزکاری عنایت می‌فرماید،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3046.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2806.wav"} +{"text": "speaker 4: و آفریدگار پروردگارت به زنبور عسل وحی فرمود: در کوهها و درختها، و از داربست های درخت انگور برای خود لانه بساز،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1474.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2758.wav"} +{"text": "speaker 4: عجله با خلقت و ذات انسان عجین است و من برای شما که برای عذاب الهی عجله می کنید بزودی نشانه ها و معجزات خود را ظاهر می فرمایم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1822.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1499.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: حق ّ فرارسید و بتها که باطل هستند نه قدرت خلق دارند و نه قدرت میراندن و رستاخیز.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2503.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_902.wav"} +{"text": "speaker 4: و به خداوند سوگند می خورند که از شما هستند در حالی که بهیچوجه از شما نیستند بلکه آنها از قدرت ایمان شما مسلمانان می ترسند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1023.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_714.wav"} +{"text": "speaker 4: همانا کافران مدام حیله گری و نیرنگ می کنند. و من خداوند متعال علیه حیله ی آنها تمهید قوی بکار می‌برم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3709.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_714.wav"} +{"text": "speaker 4: آنها به استغاثه عرض کردند: منزّه است آفریدگار پروردگار ما از اینکه به ما ستم کرده باشد، ما خودمان بخود ستم کردیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3478.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2363.wav"} +{"text": "speaker 4: عدّه ای می گویند: اصحاب کهف سه تن بودند و چهارمی سگشان بود. عدّه ای دیگر می گویند: پنج تن بودند و ششمی سگشان بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1601.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3325.wav"} +{"text": "speaker 4: پس جادوگران در اثر مشاهده ی معجزه به سجده در آمدند و عرض کردند: ما به آفریدگار پروردگار موسی و هارون ایمان آوردیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1762.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1687.wav"} +{"text": "speaker 4: آنها به استغاثه عرض کردند: منزّه است آفریدگار پروردگار ما از اینکه به ما ستم کرده باشد، ما خودمان بخود ستم کردیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3348.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1859.wav"} +{"text": "speaker 4: پس ای پیامبر آشکارا مأموریت خود را ابلاغ کن از آنها بیم نداشته باش و از مشرکان به شدّت رویگردان باش؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1433.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3131.wav"} +{"text": "speaker 4: آنها حق را، کتاب آسمانی قرآن را چون به سویشان آمد تکذیب کردند، لذا همواره در امورشان پریشان و حیرانند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3093.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1453.wav"} +{"text": "speaker 4: به آنها فرموده خواهد شد: التماس و زاری نکنید که دیر شده، امروز از سوی ما هیچگونه حمایت و یاری برای شما نخواهد بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1952.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_512.wav"} +{"text": "speaker 4: آیا آنها نقشه‌ی پلید و شیطانی برای تو ای پیامبر در نظر دارند؟ در صورتی که کافران به امر خداوند به مکر خود گرفتار می‌شوند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3170.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3131.wav"} +{"text": "speaker 4: و هر آنکس که از پیام من رویگردان شود عرصه ی زندگی بر او تنگ و رنج آور گردد و ما، در روز قیامت او را کور محشور خواهیم کرد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1792.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2333.wav"} +{"text": "speaker 4: و به آنها فرموده می شود: این بهشت را از اعمال نیکتان به ارث می برید اعمال نیک شما برای شما بهشت را به ارث گذاشتند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2947.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3394.wav"} +{"text": "speaker 4: اگر این بتها که می پرستید خدایان بودند که هیچگاه وارد جهنّم نمی شدند امّا همه آنها در آنجا برای همیشه خواهند ماند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1857.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_375.wav"} +{"text": "speaker 4: پس از آن رشد کند تا آنکه قوی گردد و بر ساقه خود محکم بایستد، کشاورز از منظره پربار و سالم کشت و زرع خوشنود می شود,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3076.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_368.wav"} +{"text": "speaker 4: امّا پس از استغفار آفریدگار پروردگارش، او را دوباره به پیامبری همان قوم برگزید و از صالحانش قرار داد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3354.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_779.wav"} +{"text": "speaker 4: امّا پس از استغفار آفریدگار پروردگارش، او را دوباره به پیامبری همان قوم برگزید و از صالحانش قرار داد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3484.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2956.wav"} +{"text": "speaker 4: ای پیامبر پس حرفهای یاوه این جاهلان ِ بدعاقبت تو را محزون نسازد، مسلّماً ما آنچه را که پنهان میدارند و یا آشکار می کنند می دانیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2573.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_131.wav"} +{"text": "speaker 4: و بواقع ما کلیّه نشانه های قدرت الهی خود را به فرعون یادآور شدیم امّا او همه را تکذیب کرد و از حق رویگردان شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1755.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1651.wav"} +{"text": "speaker 4: آنها آنچنان نابود شدند که گویی هرگز ساکن آن دیار نبوده اند، ای لعنت بر مردم مَدیَن همچنانکه لعنت بر قوم ثمود!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1212.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_27.wav"} +{"text": "speaker 4: فرعون و لشکریانش، موسی و همراهانش را تعقیب کردند و دریا به امر خداوند آنها را با امواج خود بطور کامل پوشانید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1768.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_468.wav"} +{"text": "speaker 4: و تو نیز هیچگاه از قبله ی آنان پیروی نخواهی کرد و درعین حال هیچیک از آنها یهودی و مسیحی قبله ی یکدیگر را قبول ندارند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_164.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3638.wav"} +{"text": "speaker 4: و اگر به آنها ترحّم کنیم و گرفتاریشان را رفع نمائیم لجوجانه و کوردلانه در آسودگی خاطر به طغیان و سرکشی خود ادامه می دهند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1961.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1034.wav"} +{"text": "speaker 4: آیا آنها طالب احکام زمان جاهلیّت هستند؟ و برای اهل یقین آیا حکمی برتر و نیکوتر از حکم خداوند وجود دارد؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_725.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1472.wav"} +{"text": "speaker 4: و مطمئنّاً آنچه آنها می پندارند درست نیست، این قرآن پندی است عالمگیر برای تمام جامعه‌ی بشری.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3605.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3462.wav"} +{"text": "speaker 4: ای پیامبر؟ ما تو را با مقامهای گواه و بشارت دهنده و هشداردهنده بر امّت جهان به پیامبری مبعوث فرمودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2442.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_193.wav"} +{"text": "speaker 4: ،ای پیامبر تو هشداردهنده و نصیحت کننده کسانی هستی که به قیامت عقیده دارند و از عذاب آن می‌ترسند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3695.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1288.wav"} +{"text": "speaker 4: و چون موجود شدن ِ چیزی واقعه ای یا خلقتی را اراده فرماید، به آن می فرماید: چنین باش و آنچه اراده فرموده موجود می شود,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_125.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2251.wav"} +{"text": "speaker 4: و چون کاروان از مصر حرکت کرد یعقوب به اطرافیان گفت: به راستی، من بوی یوسف را می شنوم اگر مرا سفیه و دیوانه نپندارید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1292.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1827.wav"} +{"text": "speaker 4: و هر گاه او از برخی نشانه ها و معجزات ما آگاهی یابد آنها را به مسخره می گیرد و البتّه برای افرادی از این قبیل عذاب خفّت باری خواهد بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2992.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1363.wav"} +{"text": "speaker 4: و نیز بگو: خداوند هر کس را اراده فرماید مشمول رحمت ویژه ی خود می فرماید و خداوند آن صاحب کرامت عظیم است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_379.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3061.wav"} +{"text": "speaker 4: و ما آن عقوبت و کیفر را برای حاضران آن زمان و نسلهای بعد، درس عبرت و برای پرهیزکاران پندی یاد ماندنی مقرّر فرمودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_82.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_53.wav"} +{"text": "speaker 4: ای پیامبر!یادآور باش هنگامی که ابراهیم گفت: آفریدگار- پروردگارا، به من نشان بده که چگونه مردگان را زنده می فرمایی؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_295.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2728.wav"} +{"text": "speaker 4: و فرشتگان بر کناره‌های آسمان قرار می‌گیرند و عرش آفریدگار پروردگارت را هشت فرشته بر روی سر حمل می‌کنند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3499.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_571.wav"} +{"text": "speaker 4: و فرشتگان بر کناره‌های آسمان قرار می‌گیرند و عرش آفریدگار پروردگارت را هشت فرشته بر روی سر حمل می‌کنند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3369.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_468.wav"} +{"text": "speaker 4: می توانید دو نفر از غیر خود را به شهادت بطلبید، اگر به هنگام تنظیم وصیّت نامه به آنها شک کردید، آنها را بعد از نماز نگه دارید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_767.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_428.wav"} +{"text": "speaker 4: آیا می توانیم شما را بر قبول این حجّت، یعنی دین توحیدی وادار سازیم در حالی که شما کاملًا نسبت به آن اکراه دارید؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1166.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_403.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: فرشته ی مرگ که موکّل بر شماست روح شما را قبض می کند و بدینوسیله به سوی آفریدگارتان برگردانده می شوید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2397.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1575.wav"} +{"text": "speaker 4: و از انسانهایی که خلق فرمودیم، عدّه ای هستند که دیگران را به سوی حق ّ، هدایت می کنند و بر اساس حق ، عدل و داد را بر پا می دارند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_905.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_403.wav"} +{"text": "speaker 4: سوگند به جان عزیزت ای پیامبر کسانی که عذاب بر آنها نازل شد شدیداً در بی خبری و مستی حیران و سرگردان بودند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1419.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3329.wav"} +{"text": "speaker 4: بازگشت همه شما مردم پدر و مادر و فرزند به سوی من است و من شما را از اعمالی که در دنیا انجام میدادید مطّلع خواهم فرمود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2295.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3643.wav"} +{"text": "speaker 4: و دفتر اعمال به میان آورده خواهد شد و گناهکاران و بدکاران را می بینی که با نگرانی از آنچه در نامه ی اعمال ثبت شده خواهند گفت:,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1623.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1450.wav"} +{"text": "speaker 4: بتحقیق کسانی که گفتند: خدا، همان مسیح پسر مریم است، کافر شدند. ای پیامبر! بگو: اگر خداوند اراده فرماید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_688.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1450.wav"} +{"text": "speaker 4: و این بتهایی که مردم به جای خداوند ذو الجلال می پرستند، نه تنها قدرت خلق ندارند که خودشان مخلوقات ناچیزی هستند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1448.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_222.wav"} +{"text": "speaker 4: ما آتش را وسیله‌ی یادآوری دوزخ مقرّر فرمودیم و نیز آتش برای زندگی روزمرّه در شهر و در بیابان منافعی دارد،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3296.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_615.wav"} +{"text": "speaker 4: ما آتش را وسیله‌ی یادآوری دوزخ مقرّر فرمودیم و نیز آتش برای زندگی روزمرّه در شهر و در بیابان منافعی دارد،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3426.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1440.wav"} +{"text": "speaker 4: آنها گفتند: تو به خوبی می دانی که ما نظری و رغبتی نسبت به دختران تو نداریم و به خوبی می دانی که مطلب و خواست ما چیست.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1198.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_806.wav"} +{"text": "speaker 4: مرد چون دید که جامه ی یوسف از پشت دریده شده، گفت: این اثر مکر شما زنان است که مکر شما زنان خیلی قوی است؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1246.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_991.wav"} +{"text": "speaker 4: آنها همان کسانی هستند که خداوند بر ،دلهاشان مُهر نهاده، حقّ را درک نمی‌کنند و پیرو امیال و هواهای نفسانی خود هستند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3044.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1912.wav"} +{"text": "speaker 4: یکبار دیگر هم نگاه کن و عاقبت چشمهای تو خسته و نومید از یافتن نقص و بی نظمی در این خلقت کاملِ مُعظَم، به سوی تو بازمی‌گردند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3321.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_963.wav"} +{"text": "speaker 4: یکبار دیگر هم نگاه کن و عاقبت چشمهای تو خسته و نومید از یافتن نقص و بی نظمی در این خلقت کاملِ مُعظَم، به سوی تو بازمی‌گردند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3451.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3131.wav"} +{"text": "speaker 4: برادران یوسف گفتند: ای پدر! از درگاه خداوند برای ما طلب عفو و بخشش کن زیرا ما بواقع مرتکب گناه شده ایم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1295.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1771.wav"} +{"text": "speaker 4: و ابراهیم همواره شکرگزار الطاف و نعمات خداوند بود که او را برای مقام پیامبری برگزید و به راه راست هدایت فرمود؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1502.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_198.wav"} +{"text": "speaker 4: خداوند آن ذات قادری است که شب و روز را ایجاد فرمود و خورشید و ماه را آفرید که هر کدام در مداری معیّن درگردشند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1819.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_871.wav"} +{"text": "speaker 4: و شما مرگ در جهاد را بعد از جنگ بدر و قبل از رویارویی با آن شدیداً آرزو می کردید امّا حالا که در احُد با آن روبرو شده اید، فقط نظاره گر هستید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_435.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2870.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: آری، شما همگی زنده می شوید در حالی که بواسطه اعمالتان احساس خفّت و خواری می کنید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2588.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_368.wav"} +{"text": "speaker 4: و آنچه در جنگ احُد روز نبرد مؤمنان و کافران، به شما رسید به اذن خداوند برای این بود که مؤمنان واقعی نزد خداوند شناخته شوند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_457.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3372.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: به من امر شده که تنها خدا را پرستش کنم و دینم را برای او از هر شک و شبهه ای خالص گردانم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2712.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_637.wav"} +{"text": "speaker 4: چنین نیست؟ ما حرفهای او را در پرونده اش ثبت خواهیم کرد و به کیفر دروغهایش عذاب ما بر او شدیداً افزوده خواهد شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1708.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1440.wav"} +{"text": "speaker 4: لوط گفت: دختران من آمادگی برای ازدواج دارند، شما می توانید به جای همجنس بازی با آنها ازدواج کنید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1418.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2636.wav"} +{"text": "speaker 4: زندگی این دنیا، جز لهو و لعب نیست و هر آینه سرای آخرت برای پرهیزگاران بهتر است، آیا عقل خود را به کار نمی بندید؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_817.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1912.wav"} +{"text": "speaker 4: هر کجا دیده شوند مُهر خواری بر پیشانی آنها زده شده، مگر به خداوند متوسّل شوند، توبه کنند و دست از نافرمانی بردارند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_411.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3638.wav"} +{"text": "speaker 4: این کافران آنچنان خودفریب هستند که اگر ببینند قطعه‌ای از آسمان دارد فرود می‌آید می گویند: این جز قطعه ابری فشرده نیست.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3172.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_310.wav"} +{"text": "speaker 4: آنها پسرانتان را به منظور قطع نسل می کشتند و زنانتان را جهت کنیزی و خدمتکاری زنده وا می گذاشتند، و در این نجات و دگرگونی,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_64.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1575.wav"} +{"text": "speaker 4: آن سنگها نشانه هایی از قدرت قهر آفریدگار- پروردگارت داشتند و چنین مجازاتی از ستمکاران دور نیست,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1201.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_863.wav"} +{"text": "speaker 4: تنها یک صیحه ی هولناک به صدا در می آید و ناگهان مردگان از قبرها برمیخیزند و با تعجّب به دور و بر نگاه می کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2589.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1859.wav"} +{"text": "speaker 4: من هیچ مزدی در برابر این مأموریت الهی از شما طلب نمی کنم، اجر و پاداش من تنها با آفریدگار جهانها و جهانیان است,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2125.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2223.wav"} +{"text": "speaker 4: در این امر که نشان دهنده ی تسلّط خداوند بر روح انسان است نشانه های حکمت آموزی برای اهل تفکّر نهفته است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2733.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_28.wav"} +{"text": "speaker 4: خداوند یگانه دانای نهان آسمانها و زمین است و بتحقیق ذات اقدسش به نیّات و اسرار دلها آگاهی کامل دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2528.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3022.wav"} +{"text": "speaker 4: و بخاطر بیاورید هنگامی که برای نجات شما دریا را به قدرت واسعه شکافتیم، راه فراهم شد شما را رهایی بخشیدیم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_68.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_463.wav"} +{"text": "speaker 4: و آنها که از خدا و پیامبر خدا اطاعت کنند و خداترس و پرهیزکار باشند، آنها توفیق یافتگان و رستگارانند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2019.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1438.wav"} +{"text": "speaker 4: هر کس نیکی کند بیش از اعمال نیکش پاداش دریافت خواهد کرد و اینگونه افراد به امر خداوند از ترس و وحشت آن روز در امان می مانند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2230.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_468.wav"} +{"text": "speaker 4: و چون از آنان فاصله گرفت، ما از جانب خود روحی را به نزد او فرستادیم و آن روح نورانی به هیأت انسانی در برابرش ظاهر شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1669.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1754.wav"} +{"text": "speaker 4: و خداوند به قدرت کلام امر خویش، حق را آشکار و پیروز می فرماید اگر چه تبهکاران و تجاوزگران خوش نداشته باشند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1126.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3033.wav"} +{"text": "speaker 4: مسلّماً آفرینش آسمانها و زمین از آفرینش انسان بسیار مهمتر است ولی اکثر مردم این حقیقت را درک نمی کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2791.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1940.wav"} +{"text": "speaker 4: همانا در این داستان نشانه های قدرت الهی و درس عبرتی است برای اهل ایمان امّا اکثر آنها بی ایمان بودند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2132.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_863.wav"} +{"text": "speaker 4: همانا آفریدگار پروردگار تو، ای پیامبر آن آفریدگار دانای صاحب کثرت و تنوّع در امر آفرینش است:,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1426.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_858.wav"} +{"text": "speaker 4: چون فرستادگان ما نزد لوط آمدند درباره ی قوم خود نگران و دلتنگ شد و گفت: امروز روز سخت و آشفته ای است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1196.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_496.wav"} +{"text": "speaker 4: من از جانب خداوند برای شما پیامبری امین هستم از عدم اطاعت اوامر خداوند بپرهیزید و از من پیروی کنید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2152.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2956.wav"} +{"text": "speaker 4: این کافران روزی که به نزد ما می آیند چه گوشهای شنوا و چه چشمهای بینایی پیدا می کنند اگر چه امروز در گمراهی محض هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1677.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_779.wav"} +{"text": "speaker 4: خداوند اینگونه کلام وحی و آیات خود را برای مردم بتفصیل و با توضیح بیان می فرماید، باشد که پرهیزکار شوند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_200.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2016.wav"} +{"text": "speaker 4: و نیز خداوند بر آن سه نفر که خود را از شرکت در جنگ با بهانه و عذر معاف داشتند و کناره گرفتند رحمت آورد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1062.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_77.wav"} +{"text": "speaker 4: ابراهیم گفت: پس آیا شما بجای خداوند قادر یکتا چیزهایی را می پرستید که نه می توانند به شما سودی برسانند و نه زیانی.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1834.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_225.wav"} +{"text": "speaker 4: هر مصیبتی که به شما می رسد بواسطه اعمال خود شماست و البتّه خداوند بسیاری از اعمال بد را عفو می فرماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2881.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2787.wav"} +{"text": "speaker 4: ما بعضی از پیامبران را بر بعضی دیگر برتری و فضیلت دادیم: برخی از آنها مورد خطاب و تکلّم مستقیم خداوند قرار گرفتند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_288.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_463.wav"} +{"text": "speaker 4: و تنها آفریدگار پروردگارت، آن آفریدگار جهانها وجود ابدی است، همو که صاحب اصلی شوکت و عزّت و نعمت است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3247.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_496.wav"} +{"text": "speaker 4: ای فرزندانِ کسانی که آنها را با نوح بر کشتی سوار کردیم بخاطر داشته باشید که نوح الحقّ بنده‌ای شکرگزار بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1511.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1771.wav"} +{"text": "speaker 4: و اگر اهل کتاب ایمان آورده و تقوا پیشه کرده بودند، گناهان آنها را می بخشیدیم و به باغهای پرنعمت واردشان می فرمودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_736.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3459.wav"} +{"text": "speaker 4: و اگر مسئولان دینی بر اساس آیات احکام که خداوند نازل فرموده، بین مردم حکم نکنند، در شمار کافران خواهند بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_715.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2069.wav"} +{"text": "speaker 4: پس عرض کردند: ما بر خداوند توکل می کنیم. آفریدگار- پروردگارا، ما را وسیله آزمون قوم ستمکار قرار نده،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1129.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2990.wav"} +{"text": "speaker 4: ای مردم! همانا از جانب آفریدگار- پروردگارتان برهانی قاطع آمده است و ما نوری آشکار برای شما نازل فرمودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_664.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3502.wav"} +{"text": "speaker 4: ابراهیم گفت: بدرود؟ من از آفریدگار پروردگارم برای تو طلب آمرزش می کنم خداوند نسبت به من لطف دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1686.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_222.wav"} +{"text": "speaker 4: همانا در این داستان نشانه های قدرت خداوند و درس عبرتی است برای اهل ایمان امّا اکثر آنها بی ایمان بودند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2114.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3103.wav"} +{"text": "speaker 4: ما قرآن را به زبان عربی نازل فرمودیم تا شما مردم ِ عربی زبان آن را بفهمید و بهتر بتوانید درباره ی آیات آن تفکّر کنید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1232.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3332.wav"} +{"text": "speaker 4: یعقوب گفت: فکر اینکه او را با خود بیرون ببرید بواقع مرا غمگین می کند، بیم دارم که در صحرا از او غافل شوید و گرگ او را پاره کند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1235.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3333.wav"} +{"text": "speaker 4: من می خواهم که تو با کوله بار گناه من و خودت به دنیای دیگر بازگردی و از اهل جهنّم باشی و اینست سزای ستمکاران؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_697.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_544.wav"} +{"text": "speaker 4: و آنها را سردمداران ِ دعوتگرِ دیگران به آتش جهنّم قرار دادیم و در روز قیامت برای آنها یاری دهندگانی وجود ندارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2263.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_842.wav"} +{"text": "speaker 4: و مردی مؤمن از خاندان فرعون که تقیّه می کرد و ایمان خودش را از آنها پنهان نگاهداشته بود مداخله کرد و گفت,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2773.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_779.wav"} +{"text": "speaker 4: هیچ شفاعتی به محضر خداوند، جز از سوی آنهایی که خداوند اجازه فرموده و اذن شفاعتگری دارند پذیرفته نیست.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2484.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1602.wav"} +{"text": "speaker 4: و نوح بواقع از بندگان مخلص و با ایمان ما بود. او را نجات خیر عنایت فرمودیم و دشمنانش را غرق کردیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2617.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3323.wav"} +{"text": "speaker 4: پس به آنچه به تو وحی می شود تمسّک بجوی و آنها را جدّی تلقّی کن و بکار ببند که تو بواقع بر راه راست هستی.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2933.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3463.wav"} +{"text": "speaker 4: امّا بعد آفریدگارش او را برای مقام برگزید رحم خود را شامل حال او فرمود، توبه اش را پذیرفت و هدایتش فرمود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1790.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1687.wav"} +{"text": "speaker 4: کافران قریش حق را که به سویشان آمد تکذیب کردند، پس بزودی خبر آنچه را که مورد استهزاء قرار می دادند خواهند شنید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_787.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_193.wav"} +{"text": "speaker 4: با این توصیف حالا هر کار که دلتان می خواهد بکنید که خداوند بواقع به اعمال شما بصیرت و آگاهی کامل دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2836.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1034.wav"} +{"text": "speaker 4: سلیمان گفت: ای بزرگان؟ کدامیک از شما می توانید تخت ملکه را پیش از آنکه خودش و درباریانش تسلیم شوند، نزد من بیاورید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2197.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3524.wav"} +{"text": "speaker 4: آنها حرکت کردند در حالی که آهسته به هم سفارش می‌کردند: مراقب باشید که امروز بهیچوجه گدا سراغتان نیاید،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3344.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_806.wav"} +{"text": "speaker 4: آنها حرکت کردند در حالی که آهسته به هم سفارش می‌کردند: مراقب باشید که امروز بهیچوجه گدا سراغتان نیاید،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3474.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1438.wav"} +{"text": "speaker 4: ای پیامبر برای مشرکان مکّه داستان ساکنان قریه انطاکیه را مثال بزن که پیامبرانی به سوی آنها برای هدایت ارسال شدند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2539.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_844.wav"} +{"text": "speaker 4: کسانی که پس از ایمان آوردن کافر شدند و مدام بر کفر خود افزودند، توبه ی آنها پذیرفته نمی شود. و آنان گمراهان واقعی هستند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_392.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1771.wav"} +{"text": "speaker 4: آنگاه که به پدرش گفت: ای پدر چرا چیزی را پرستش می کنی که نه می شنود و نه می بیند و نه به نیازهای تو پاسخ می گوید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1681.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2378.wav"} +{"text": "speaker 4: ای پیامبر از اینکه بت پرستها بپرس آیا آفریدگار پروردگارت دختران را برای خودش و پسران را برای آنها خلق فرموده.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2643.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_426.wav"} +{"text": "speaker 4: کافران حیله ای برای نابودی او بکار برده بودند و ما خداوند متعال اراده فرمودیم که آنها زیانکارترین مردم شوند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1837.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_409.wav"} +{"text": "speaker 4: آن کس که در آن روز مجازات از او برداشته شود قطعاً مورد رحم و لطف خداوند قرار گرفته و رستگاری آشکار همین است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_799.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1450.wav"} +{"text": "speaker 4: یا او را دیوانه می پندارند! نه، واقعیّت این است که او پیام حق ّ را برای آنها آورده و آنها از حق ّ رویگردان هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1957.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2018.wav"} +{"text": "speaker 4: ای پیامبر؟ از این کافران لجوج روی بگردان و منتظر رحمت الهی باش و آنها نیز منتظر عذاب الهی خواهند بود,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2411.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_77.wav"} +{"text": "speaker 4: گفتند چطور ممکن است در راه خدا پیکار نکنیم در حالی که از خانه هامان رانده و از فرزندانمان بواسطه ی اسارت آنها جدا شده ایم؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_278.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_543.wav"} +{"text": "speaker 4: آیا آنها نمی توانستند درک کنند که گوساله نمی توانست به ندایشان پاسخ دهد و او فاقد قدرت نفع و ضرر برای آنها بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1773.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_193.wav"} +{"text": "speaker 4: ای مردم؟ از عدم اطاعت آفریدگار پروردگارتان بپرهیزید که وقوع رستاخیز همانند زلزله ای مهیب و هولناک است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1868.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1288.wav"} +{"text": "speaker 4: این پرهیزکاران از نعمت هدایت ویژه از سوی آفریدگار- پروردگارشان برخوردارند همان رستگاران واقعی اند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_11.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3022.wav"} +{"text": "speaker 4: و بتحقیق آفریدگار پروردگار تو از آنچه آنها در دلهاشان پنهان می کنند و آنچه آشکار می سازند بخوبی آگاه است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2221.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_222.wav"} +{"text": "speaker 4: ما مردمانی را که قبل از آنها می زیستند آزمودیم تا خداوند معلوم فرماید که چه کسانی راستگو هستند و چه کسانی دروغگو.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2292.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_77.wav"} +{"text": "speaker 4: ای پیامبر این غافلان را به حال خود واگذار که همچنان تا ملاقات روز موعودشان در بطالت و بازی زندگی دنیا سرگرم باشند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2954.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1481.wav"} +{"text": "speaker 4: پس چون اختلافات بروز کرد برای روشن شدن حق خداوند پیامبران را مبعوث فرمود که خوبان را، به عاقبت خوب بشارت دهند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_231.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3665.wav"} +{"text": "speaker 4: و خداوند در روز قیامت در بین آنها از قوم بنی اسرائیل که دچار اختلاف درباره ی حقایق الهی شدند داوری خواهد فرمود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2406.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1739.wav"} +{"text": "speaker 4: و اگر پیامبر سخنی از خود پرداخته بود و آن را به ما نسبت می‌داد، مسلّماً ما دست راست او را با قدرت قهریّه می‌گرفتیم،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3377.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2870.wav"} +{"text": "speaker 4: و اگر پیامبر سخنی از خود پرداخته بود و آن را به ما نسبت می‌داد، مسلّماً ما دست راست او را با قدرت قهریّه می‌گرفتیم،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3507.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_27.wav"} +{"text": "speaker 4: و به این توفیق نائل نمی شوند مگر کسانی که در راه مشکلات دین، صبوری می ورزند و از ایمان بهره زیادی دارند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2834.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1666.wav"} +{"text": "speaker 4: ببین تو را چگونه به جادوزده‌ها تشبیه می‌کنند! پس آنها گمراه شده‌اند و قدرت پیدا کردن راه نجات را ندارند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1543.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3061.wav"} +{"text": "speaker 4: ای پیامبر یادآور باش زمانی را که آفریدگار پروردگارت به موسی فرمود: به سوی قوم ستمگر قوم فرعون برو,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2080.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3638.wav"} +{"text": "speaker 4: و از کسانی که آیات خدا را انکار کرده و آنها را باور ندارند نباش که اگر چنین کنی در شمار زیانکاران خواهی بود؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1139.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2787.wav"} +{"text": "speaker 4: پس بهره گیری و لذّت از زندگی دنیوی برای آنها سودی نخواهد داشت و از حسابرسی و کیفر الهی مصون نخواهند شد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2168.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1917.wav"} +{"text": "speaker 4: چه بسا آن کسانی که کافر شدند روزی آرزو کنند که ای کاش مسلمان بودند و این در رستاخیز آرزویی محال است؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1370.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3101.wav"} +{"text": "speaker 4: آیا تو برای رسالت خود از آنها مزدی طلب می‌کنی که آنها بواسطه بدهکاری های سنگین از عهده پرداخت آن بر نمی‌آیند؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3168.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2492.wav"} +{"text": "speaker 4: اگر اراده بفرمائیم کشتزار و باغ شما را تبدیل به کاه و علف خشکیده می‌سازیم که حیرت زده آه از نهاد برآورید،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3288.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3138.wav"} +{"text": "speaker 4: اگر اراده بفرمائیم کشتزار و باغ شما را تبدیل به کاه و علف خشکیده می‌سازیم که حیرت زده آه از نهاد برآورید،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3418.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_512.wav"} +{"text": "speaker 4: اگر غنایمی در دسترس و سفری کوتاه بود قطعاً از تو ای پیامبر پیروی می کردند، امّا فاصله زیاد بود و سفر دشوار می نمود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1008.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_496.wav"} +{"text": "speaker 4: و ما معجزات خود را برای هدایت و بیداری آن قوم نازل فرمودیم، امّا آنها لجوجانه از حق روی گرداندند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1424.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3138.wav"} +{"text": "speaker 4: خداوند در روز قیامت بین شما در مواردی که با هم اختلاف داشتید، داوری خواهد فرمود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1915.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1146.wav"} +{"text": "speaker 4: یوسف گفت: مرا مسئول خزائن و انبارهای سرزمین مصر قرار ده که من در حفظ دارائی مملکت مدیری آگاه و با تجربه هستم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1263.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_198.wav"} +{"text": "speaker 4: و ای پیامبر در راه رسالتت شکیبایی کن مسلّماً خداوند اجر نیکوکرداران را از آنها دریغ نمی فرماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1225.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_193.wav"} +{"text": "speaker 4: از پروردگارتان طلب عفو کنید، به پیشگاهش توبه کنید، همانا آفریدگار- پروردگار من، آن مشفق رحمگستر است,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1208.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3061.wav"} +{"text": "speaker 4: دین و آئین شما پیامبران توحیدی است و من آفریدگار پروردگار شما هستم، پس از عدم اطاعت من بپرهیزید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1949.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1554.wav"} +{"text": "speaker 4: در چنین دلتنگی ها به ذکر شکر و ستایش پاکی آفریدگار پروردگارت̠مشغول شو و سر به سجده ی حق بگذار؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1437.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1514.wav"} +{"text": "speaker 4: گناهکاران با علامات چهره هاشان شناخته می‌شوند و آنگاه آنها را با زلف جلو سرشان و پاهاشان می‌گیرند و به دوزخ می‌اندازند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3255.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3541.wav"} +{"text": "speaker 4: به نزد فرعون و اشراف قومش که پیرو فرمان فرعون بودند، اگر چه در فرمان فرعون هیچ معرفت و خِرَدی نبود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1214.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1771.wav"} +{"text": "speaker 4: امّا بندگان مخلص خداوند وضعی متفاوت دارند. برای آنها، رزق و روزی مادّی و معنویِ ویژه مقرّر است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2601.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2989.wav"} +{"text": "speaker 4: ای کسانی که ایمان آورده اید! در حال مستی قصد نماز خواندن نکنید، صبر کنید تا هشیار باشید و بدانید که چه می گویید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_533.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_28.wav"} +{"text": "speaker 4: شما مسلمانان بهترین امّتی هستید که خداوند در میان خلق جهان پدیدار فرموده: شما مردم را به کار نیک و درست توصیه می کنید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_407.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3455.wav"} +{"text": "speaker 4: موسی گفت: اگر از این به بعد پرسشی بکنم مرا از مصاحبت خودت محروم کن و من به تو حق می دهم و عذرت پذیرفته خواهد بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1637.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1754.wav"} +{"text": "speaker 4: آیا آنها برای دریافت عذاب از سوی ما عجله می کنند! آنها مرتّب می گویند: اگر راست می گویی چرا عذاب بر ما فرود نمی آید!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2650.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_409.wav"} +{"text": "speaker 4: برخی از آدمهای نادان، مدام درباره ی خداوند بحث و مجادله می کنند و از هر شیطان طغیانگر و سرکشی پیروی می نمایند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1870.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1554.wav"} +{"text": "speaker 4: بزودی پاره ای از مردم نادان خواهند گفت: چه چیز آنها را از قبله ای که بر آن بودند یعنی بیت المقدّس به طرف کعبه برگرداند؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_153.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2016.wav"} +{"text": "speaker 4: ای پیامبر برکت بخشنده است نام آفریدگار پروردگار تو، همو که صاحب اصلی شوکت و عزّت و نعمت است,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3268.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3332.wav"} +{"text": "speaker 4: ای انسانها! ما خداوند متعال شما را خلق فرمودیم، پس چرا قبول نمی‌کنید که خلق مجدّد شما برای ما آسان است؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3280.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1556.wav"} +{"text": "speaker 4: ای انسانها! ما خداوند متعال شما را خلق فرمودیم، پس چرا قبول نمی‌کنید که خلق مجدّد شما برای ما آسان است؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3410.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_222.wav"} +{"text": "speaker 4: اینها حدود احکام الهی است از آنها تجاوز نکنید و کسانی که از حدود الهی تجاوز کنند، بواقع ستمکارند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_252.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1827.wav"} +{"text": "speaker 4: پس محقّقاً به کافران عذاب شدیدی خواهیم چشانید و آنها را بر اساس بدترین اعمالشان کیفر خواهیم داد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2830.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1583.wav"} +{"text": "speaker 4: مردان سرپرست و پیشکار زنانند، بواسطه ی اینکه خداوند به دلائل خاص برخی را بر برخی دیگر برتری عنایت فرموده,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_526.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1666.wav"} +{"text": "speaker 4: اینها نعمتهای خداداد را می شناسند و استفاده می کنند و در عینِ حال در انکار آنها می کوشند و اکثر آنها کافرند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1482.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2427.wav"} +{"text": "speaker 4: و به حرمت مقام پیامبری آنان تفاوت و جدایی بین آنها قائل نیستیم و ما در برابر خدای یگانه تسلیم هستیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_140.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3131.wav"} +{"text": "speaker 4: ما برای آنها بدنهایی که به غذا نیاز نداشته باشند خلق نفرمودیم و هیچکدام از آنها دارای عمر جاوید نبودند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1804.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_94.wav"} +{"text": "speaker 4: و به ایشان کتاب دین و معیار شناخت حقّ از باطل را عنایت فرمودیم که مردم را به روال و رفتار عادلانه برانگیزانند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3444.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1859.wav"} +{"text": "speaker 4: و چون عذاب ما آنها را فرو گرفت، حرفی نداشتند جز اینکه بوجه اعتراف گفتند: ما بواقع خطاکار بودیم!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_822.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3329.wav"} +{"text": "speaker 4: و به ایشان کتاب دین و معیار شناخت حقّ از باطل را عنایت فرمودیم که مردم را به روال و رفتار عادلانه برانگیزانند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3314.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_915.wav"} +{"text": "speaker 4: شتابان به سوی نداکننده، روانه می‌شوند و کافران به یکدیگر می‌گویند: امروز همان روز سخت و وحشتناکی است که وعده داده شده بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3218.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3325.wav"} +{"text": "speaker 4: و ای پیامبر بدان که اکثریّت مردم دنیا ایمان نخواهند آورد هر چند تو شیفته ی ایجاد ایمان و اعتقاد در آنها باشی؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1299.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1575.wav"} +{"text": "speaker 4: و به مؤمنان فرموده خواهد شد: ای بندگان من؟ امروز نه نگرانی و ترس بر شما چیره می شود و نه غمگین خواهید بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2944.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_75.wav"} +{"text": "speaker 4: آیا انسان گمان می‌کند که خلقت و مرگ او تصادفی و بدون هدف بوده و او بدون آزمون و مکافات به خود واگذارده می‌شود؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3627.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_806.wav"} +{"text": "speaker 4: امّا کسانی که کافر شدند به امر خداوند نابودی و هلاکت بر آنها نازل می‌شود و اعمالشان تباه خواهد گردید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3040.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_991.wav"} +{"text": "speaker 4: یوسف گفت: پناه بر خدا که شخص دیگری بجای آنکه متاع خود را نزد او یافته ایم، بگیریم که در اینصورت از ستمکاران خواهیم بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1280.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3608.wav"} +{"text": "speaker 4: که ما آن را در شب پربرکت قدر نازل فرمودیم و ما همواره، توصیه گرِ به معروف و هشداردهنده از منکر هستیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2960.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1739.wav"} +{"text": "speaker 4: و ما به موسی و هارون قدرت تشخیص حق ّ از باطل، نور بینش و نیز کتاب پندآموز برای پرهیزکاران عنایت فرمودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1830.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1438.wav"} +{"text": "speaker 4: در آن روز شما مردم برای حسابرسی به دادگاه الهی عرضه می‌شوید و هیچ چیز از اعمالتان مخفی نخواهد ماند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3500.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2334.wav"} +{"text": "speaker 4: ای پیامبر اینان همان کسانی اند که با آنها پیمان بستی، ولی مدام پیمان شکنی کردند زیرا آنها مردمی بی تقوا هستند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_964.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3520.wav"} +{"text": "speaker 4: پس سوگند به آفریدگار پروردگارت ای پیامبر که محقّقاً ما همه ی آنها را مورد مؤاخذه قرار خواهیم داد،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1431.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2179.wav"} +{"text": "speaker 4: و ای پیامبر اگر از گروهی بیم خیانت داری پیمانشان را متقابلًا لغو کن، زیرا خداوند خائنان را دوست نمیدارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_966.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_189.wav"} +{"text": "speaker 4: ما نام و ذکر خیر ماندگار برای او در بین امّتهای آینده مقرّر فرمودیم. سلام بر الیاس و الیاسیان.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2637.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_368.wav"} +{"text": "speaker 4: در آن روز شما مردم برای حسابرسی به دادگاه الهی عرضه می‌شوید و هیچ چیز از اعمالتان مخفی نخواهد ماند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3370.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1472.wav"} +{"text": "speaker 4: ای پیامبر آیا ملاحظه نکرده ای که مجادله کنندگان درباره آیات ما، چگونه از حق و حقّگوئی منحرف می شوند!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2800.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1666.wav"} +{"text": "speaker 4: آیا آنها می‌گویند: قرآن، افترا و دروغی است که او به خداوند نسبت داده؟ قدر مسلّم این است که آنها مردمی فاقد ایمان هستند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3161.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1499.wav"} +{"text": "speaker 4: پس چرا این کافران قریش از تذکّر و نصیحت قرآن رویگردانی می کنند؟ و توجّه به عاقبت خود در قیامت ندارند؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3602.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_871.wav"} +{"text": "speaker 4: ،ای پیامبر! بگو: در روی زمین گردش کنید و در عاقبت شوم آنان که آیات الهی را تکذیب می کردند بدقّت بنگرید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_794.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2989.wav"} +{"text": "speaker 4: ای پیامبر ببین! این گروه چگونه دروغ بر خداوند می بندند؟ و همین یک گناه آشکار برای مجازات آنها کافی است؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_539.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1450.wav"} +{"text": "speaker 4: ای پیامبر؟ یادآور باش زمانی را که آفریدگار پروردگارت به فرشتگان فرمود: من انسانی را از گِل خلق می کنم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2689.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_428.wav"} +{"text": "speaker 4: همانا این توصیف قیامت پند و تذکّری است برای کسی که راه راست آفریدگار پروردگارش را انتخاب کند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3567.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3638.wav"} +{"text": "speaker 4: آنگاه به امر خداوند زلزله آنها را به کیفر کفرشان فرو گرفت و در خانه هاشان اجسادی چسبیده به زمین بر جای ماندند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_643.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_310.wav"} +{"text": "speaker 4: آیا ساکنان شهرها و آبادی ها ایمن هستند از اینکه عذاب ما، در روز هنگامی که سرگرم امور بیهوده اند، بر آنها نازل شود؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_857.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3022.wav"} +{"text": "speaker 4: آنها که مثل خزندگان بر صورتهاشان به سوی آتش کشیده خواهند شد بواقع بدترین مکان را دارند و گمراهترین مردم هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2051.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2223.wav"} +{"text": "speaker 4: پس نوح و همراهانش را نجات خیر عنایت فرمودیم و داستان کشتی نوح را درس عبرتی برای اهل جهان قرار دادیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2299.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3323.wav"} +{"text": "speaker 4: ای پیامبر رحمت آفریدگار پروردگار تو از ثروتی که مشرکان می اندوزند البتّه برتر و بهتر است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2921.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3101.wav"} +{"text": "speaker 4: فضیلت سخاوت و نیکوکاری را بین خودتان فراموش نکنید، همانا خداوند به اعمال شما نظارت و بینایی کامل دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_269.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_157.wav"} +{"text": "speaker 4: ای پیامبر؟ بگو: در زمین به سیر و سیاحت بپردازید تا عاقبت شوم پیشینیان را که شرک ورزیدند ملاحظه کنید و عبرت بگیرید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2355.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2179.wav"} +{"text": "speaker 4: در آن روز که با صورتشان بر آتش دوزخ کشیده می‌شوند به آنها گفته می‌شود: بچشید عذاب تماس با آتش دوزخ را!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3237.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2492.wav"} +{"text": "speaker 4: چنان بر زمین افتادند که قدرت برپا ایستادن نداشتند و نمی‌توانستند در برابر عذاب الهی در مقام دفاع از خود برآیند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3132.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1556.wav"} +{"text": "speaker 4: و کسانی که کلمات وحی ما را تکذیب می کنند بتدریج از جایی که تصوّر آن را نمی کنند، به مجازاتشان اقدام خواهیم فرمود؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_906.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1812.wav"} +{"text": "speaker 4: این واقعه، نمونه ای است از قدرت الهی برای مؤمنان تا بدانند: همانا خداوند نیرنگ کافران را سست می گرداند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_937.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3333.wav"} +{"text": "speaker 4: در سرگذشت مردم ایکه نشانه های قدرت الهی و درس عبرتی است برای اهل ایمان امّا اکثر آنها بی ایمان بودند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2162.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_27.wav"} +{"text": "speaker 4: سپس آنها را از خواب برانگیختیم تا ببینیم کدامیک از آن دو گروه، مدّت زمان خواب خود را بهتر محاسبه می کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1591.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1739.wav"} +{"text": "speaker 4: بگو: و اگر نسبت به اوامر آفریدگار پروردگارم نافرمانی و عصیان کنم از عذاب روز سهمگین قیامت می ترسم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2714.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1651.wav"} +{"text": "speaker 4: پس خداوند چیزهایی می دانست که شما از آن بی اطّلاع بودید و علاوه بر آن فتح خیبر را قریب الوقوع برای شما تقدیر فرموده بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3071.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2599.wav"} +{"text": "speaker 4: ای پیامبر هنگامی که قرآن تلاوت می‌کنی ما بین تو و آنها که ایمان به آخرت ندارند حجابی نامرئی قرار می‌دهیم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1540.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_468.wav"} +{"text": "speaker 4: و ما همینکه او را در آتش افکندند فرمودیم: ای آتش؟ بر ابراهیم سرد و سلامت باش؟ و آتش سرد شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1836.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1472.wav"} +{"text": "speaker 4: امّا هر کس ایمان بیاورد و عمل صالح انجام دهد پاداش نیکو خواهد داشت و من دستور اخلاقی آسانی به او خواهم داد,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1643.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1739.wav"} +{"text": "speaker 4: آن روز ندای الهی خطاب به کافران و ستمکاران چنین می فرماید: ای گنهکاران امروز از مؤمنان جدا شوید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2562.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_915.wav"} +{"text": "speaker 4: ای پیامبر آیا نمی بینی کسانی را که ادّعا می کنند که به کلام الهی که بر تو و بر پیامبران پیشین نازل شده ایمان دارند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_549.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2640.wav"} +{"text": "speaker 4: و برای خانه های آنها درهای متعدّد قرار می دادیم و نیز نیمکتهایی که متکبّرانه بر آنها تکیه بزنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2925.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_131.wav"} +{"text": "speaker 4: پس ای پیامبر این قوم نادان و معاند را به خودشان واگذار تا روزی که در اثر شنیدن صدای صور مدهوش شوند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3173.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_512.wav"} +{"text": "speaker 4: و هنگامی که آداب زیارت حج را به پایان رساندید، خدا را یاد کنید همانگونه که از پدرانتان در پایان حج یاد می کردید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_220.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1754.wav"} +{"text": "speaker 4: و آنها را از عذاب الهی هشدار ده از نوع عذابی که ما بر آنهایی که آیات قرآن را تقسیم کردند نازل فرمودیم:,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1430.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1559.wav"} +{"text": "speaker 4: هیچ معجزه ای از معجزات آفریدگار- پروردگارشان نبود که بر کافران نازل شود و آنها از پذیرش آن رویگردان نشوند؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_786.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3608.wav"} +{"text": "speaker 4: اگر تو دست به کشتن من بزنی، من دست به کشتن تو نخواهم زد، زیرا من از اللّه، آفریدگار جهانها و جهانیان می ترسم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_696.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_779.wav"} +{"text": "speaker 4: و آن زمان که موسی برای قوم خود در طلب آب، به محضر خداوند استغاثه عرض کرد فرمودیم: عصایت را بر آن تخته سنگ بزن!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_79.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2016.wav"} +{"text": "speaker 4: و چگونه مهریه را باز می ستانید در حالی که زمانی از یکدیگر تمتّع جسته اید و آن زن از شما پیمان محکم بر وفاداری گرفته است؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_510.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_27.wav"} +{"text": "speaker 4: تا از آن میوه ها که دستهای خودشان در تولید آنها هیچ دخالتی نداشته بخورند، آیا نباید شکر نعمات خداوند را بجای آورند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2551.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3565.wav"} +{"text": "speaker 4: ما به او در زمین قدرت و حکومت عنایت فرمودیم و نیز الهامات الهی را راهنمای انجام امور برایش قرار دادیم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1640.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_428.wav"} +{"text": "speaker 4: و لوط قبلًا آنها را از عذاب ما بیم داده بود ولی آنها یکسره مجادله می‌کردند و به هشدارهای پیامبران شکّ می‌ورزیدند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3227.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_991.wav"} +{"text": "speaker 4: و ما جز از فرشتگان، مأمور برای آتش قرار ندادیم و شماره‌ی آنها را وسیله آزمایش اهل کفر قرار دادیم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3597.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_844.wav"} +{"text": "speaker 4: و ما سُدوم شهر گناهکاران را زیر و زبر کردیم و بر سر ساکنان آن سنگریزه هایی از جنس سفال باراندیم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1421.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3101.wav"} +{"text": "speaker 4: و هر کس جز اسلام در صدد دینی دیگر برای خود باشد، هرگز از وی پذیرفته نخواهد شد و در آخرت در زمره ی زیانکاران است؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_390.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_543.wav"} +{"text": "speaker 4: و چه بسیار سرزمینهایی که سکنه ی کافر و ستمکار آنها را نابود کردیم و به جای آنها قوم دیگری را جایگزین ساختیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1807.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1602.wav"} +{"text": "speaker 4: ما نوح را برای هدایت قومش فرستادیم و فرمودیم: قوم خود را پیش از آنکه بلا بر آنها نازل شود، نصیحت کن و هشدار ده.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3537.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3325.wav"} +{"text": "speaker 4: ما برای هدایت و پندآموزی این قوم آیات را پیوسته به یکدیگر از لحاظ مفهوم بیان می فرماییم که شاید بهتر بفهمند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2267.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2334.wav"} +{"text": "speaker 4: امّا اگر پدر و مادرت سعی کنند که تو چیزی را که به آن علم نداری شریک من قرار دهی، در این مورد بهیچوجه از پدر و مادرت اطاعت نکن،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2374.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3541.wav"} +{"text": "speaker 4: ما امیدواریم که آفریدگار پروردگارمان خطاهایمان را ببخشد و ما نخستین ایمان آورندگان به پیامبری حضرت موسی هستیم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2102.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2251.wav"} +{"text": "speaker 4: همچنین بخشی از شب را به ستایش پاکی مطلق ذات اقدسش مشغول باش و نیز هنگام پشت کردن ستارگان و پدیداری صبح.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3177.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3520.wav"} +{"text": "speaker 4: و هر سؤال بهانه جویانه ای که آنها نزد تو آورند، ما با برهان نیکو و شرح و معنی جامع پاسخ آن را بیان می فرمائیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2050.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1927.wav"} +{"text": "speaker 4: آنگاه خداوند به کافران می فرماید: در بین گروه هایی از نوع خود از جن ّ و انس که پیشتر می زیستند، در آتش داخل شوید!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_852.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1917.wav"} +{"text": "speaker 4: و بعضی را بر بعضی دیگر برتری دادیم تا گروهی توسط گروه دیگر به خدمت گرفته شوند و امور را بچرخانند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2922.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1250.wav"} +{"text": "speaker 4: هیچکس نمی داند و نمی تواند حدس بزند که ما چه پاداش شوق انگیزی برای مؤمنان به پاس اعمالشان ذخیره فرموده ایم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2402.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_409.wav"} +{"text": "speaker 4: و چون از شما دفع بلا و گرفتاری می فرماید آنگاه بعضی از شما نسبت به آفریدگار پروردگارشان شرک می ورزند،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1466.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_544.wav"} +{"text": "speaker 4: عذاب دنیا و آخرت به حکم تقدیر بر کافران نازل می‌شود و دفع کننده‌ای ندارد. حاجت به دعا و تقاضا نیست,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3386.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1018.wav"} +{"text": "speaker 4: عذاب دنیا و آخرت به حکم تقدیر بر کافران نازل می‌شود و دفع کننده‌ای ندارد. حاجت به دعا و تقاضا نیست,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3516.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1602.wav"} +{"text": "speaker 4: کسانی که زندگی این دنیا و زینت و تجمّل آن را طالب باشند مزد اعمالشان را در این دنیا بدون کم و کاست به آنها می دهیم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1159.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3665.wav"} +{"text": "speaker 4: همانا عیسی مسیح، پسر مریم، پیامبر خدا و مخلوق کلام امر خداوند است که به مادرش مریم القا شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_662.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1250.wav"} +{"text": "speaker 4: ابلیس گفت: من هیچگاه در برابر بشری که او را از خاک لجن بد بوی خشکیده آفریده ای تعظیم نخواهم کرد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1398.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_189.wav"} +{"text": "speaker 4: پس شما دو نفر به سوی فرعون ستمگر که طغیان و سرکشی را از حدّ گذرانده و حتّی ادّعای خدایی می کند بروید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1750.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3455.wav"} +{"text": "speaker 4: همانا ما او را به راه راست هدایت فرمودیم انتخاب با اوست خواه شکرگزار باشد و خواه کافر و ناسپاس؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3634.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1815.wav"} +{"text": "speaker 4: خطاب به او می گوید: به خدا سوگند چیزی نمانده بود که با آن شبهه ها که القاء می کردی مرا نیز به این عاقبت شوم بکشانی.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2607.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1481.wav"} +{"text": "speaker 4: آیا می گویید ابراهیم و اسماعیل و اسحاق و یعقوب و نوادگان یعقوب، همگی یهودی یا مسیحی بودند؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_151.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1940.wav"} +{"text": "speaker 4: و مَثَل کلمه ی ناپاک همچون درخت ناپاک و پلیدی است که ریشه ی آن از زمین در آمده ثبات و پایگاهی ندارد؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1349.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1481.wav"} +{"text": "speaker 4: سپس به تو ای پیامبر وحی فرمودیم: از آیین ابراهیم حق پرست که بدور از هر گونه شبهه و شرک بود، پیروی کن.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1504.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_94.wav"} +{"text": "speaker 4: آنان از اعمال خود بهره ای نمی برند و بذری هم برای آخرت نمی کارند و خداوند مردم کافر را هدایت نمی فرماید؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_297.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1739.wav"} +{"text": "speaker 4: و موسی گفت: ای قوم من! اگر به خداوند ایمان آورده اید و تسلیم امر او هستید، پس به ذات اقدسش توکّل کنید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1128.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1575.wav"} +{"text": "speaker 4: خردمندان همان کسانی هستند که در همه حالتها ایستاده، نشسته و به پهلو آرمیده به ذکر خداوند مشغولند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_480.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2427.wav"} +{"text": "speaker 4: سوگند به همه‌ی این سوگندها که عذاب موعود آفریدگار پروردگارت بر کافران و ستمگران حتماً واقع خواهد شد؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3147.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3462.wav"} +{"text": "speaker 4: ای کسانی که کتاب دینی به شما داده شده؟ به قرآن که بر پیامبر خود نازل فرموده ایم که مصدّق کتاب شماست، ایمان بیاورید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_537.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3541.wav"} +{"text": "speaker 4: پس آنگاه که او را آفریدم و شکل بخشیدم و روحی از جانب خود در او دمیدم، شما در برابرش تعظیم کنید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1394.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1687.wav"} +{"text": "speaker 4: امّا آنکس که توبه کرده و ایمان آورده و عمل شایسته بجای آورده، امید دارد که وعده ی الهی شامل حالش شود و از رستگاران باشد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2277.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3028.wav"} +{"text": "speaker 4: ای مردم! همانا آفریدگار- پروردگار شما آن خالق یکتایی است که آسمانها و زمین را در شش روز خلق فرمود,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_629.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2018.wav"} +{"text": "speaker 4: به او و به هر ابو جهلی گفته می‌شود: وای بر تو که چنین انسانی در زندگانی بودی! پس وای بر تو!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3626.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3138.wav"} +{"text": "speaker 4: ای پیامبر این یک یادآوری است از رحمت آفریدگار پروردگار تو نسبت به زکریّا بنده برگزیده ی خداوند,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1659.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3061.wav"} +{"text": "speaker 4: و ما همگی برای اطاعت اوامر خداوند صف کشیده ایم! و اینکه ما هستیم تسبیح گویان دائمی خداوند!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2647.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3333.wav"} +{"text": "speaker 4: همانا خداوند آدم و نوح و خاندان ابراهیم و خاندان عمران را بر جهانیان عصر خودشان برتری عنایت فرمود،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_348.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_94.wav"} +{"text": "speaker 4: و به آنها حکومت عنایت فرمائیم تا فرعون و هامان و وزیران و لشکریان آنها آنچه را که از آن می ترسیدند به چشم خود ببینند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2239.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2640.wav"} +{"text": "speaker 4: پس در اجرای احکام آفریدگار پروردگارت شکیبا و مقاوم باش و با خواست هیچ گنهکار و کافری موافقت نکن.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3639.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1687.wav"} +{"text": "speaker 4: آتش دوزخ کسانی را که به فرمان خداوند پاسخ منفی دادند و از حق روی گرداندند به سوی خود می‌خوانَد،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3397.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3325.wav"} +{"text": "speaker 4: آتش دوزخ کسانی را که به فرمان خداوند پاسخ منفی دادند و از حق روی گرداندند به سوی خود می‌خوانَد،,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3527.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3329.wav"} +{"text": "speaker 4: . و منِ انسان چرا نباید آفریننده ی خود را پرستش کنم! همان ذات اقدسی که همه شما به سوی او بازگردانده خواهید شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2541.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3329.wav"} +{"text": "speaker 4: امّا من امروز آن مؤمنان را به پاس صبر و پایداریشان جزای خیر عنایت فرمودم و آنها همان رستگارانند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1982.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3101.wav"} +{"text": "speaker 4: که آفریدگار پروردگار من مرا به لطف و کرم خود بخشوده و در زمره ی گرامی داشته شدگانم اراده فرموده است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2546.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_77.wav"} +{"text": "speaker 4: پس ای پیامبر از این مردمانی که از کلام ما قرآن مجید رویگردان هستند و جز در طلب دنیا نمی‌باشند دوری گزین,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3196.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2023.wav"} +{"text": "speaker 4: ای یوسف! از یادآوری این ماجرا به دیگران درگذر و ای زن! از گناه خویش توبه کن که تو از خطاکاران هستی,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1247.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1440.wav"} +{"text": "speaker 4: کافران بعد از نومیدی و شکست در دنیا روانه جهنّم می شوند و به آنها در آنجا از آب بد و بویناک خورانده می شود؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1343.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1499.wav"} +{"text": "speaker 4: کسانی که ایمان آورده و عمل صالح انجام میدهند برای آنها، هم آمرزش الهی مقرّر است هم رزق و روزی فراوان.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1905.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_75.wav"} +{"text": "speaker 4: ای پیامبر ممکن است تو از شدّت اندوه که چرا این جماعت به قرآن ایمان نمی آورند جان خود را به خطر نابودی بکشانی,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1585.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_423.wav"} +{"text": "speaker 4: و من خداوند متعال به این مردمان کافر مهلت ترکتازی و طغیان می دهم، همانا تمهید من، استوار است؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_907.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1554.wav"} +{"text": "speaker 4: امّا من جز پیامبری هشدار دهنده برای گمراهان و بشارتگر برای کسانی که به خداوند ایمان دارند، نیستم,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_908.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2223.wav"} +{"text": "speaker 4: ،ای پیامبر! قرآن را به نام آفریدگار- پروردگارت بخوان به نام خدایی که تمام موجودات عالم را خلق فرمود,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3722.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3453.wav"} +{"text": "speaker 4: در آن روز شفاعت هیچکس سودی ندارد جز آن مقامی که خداوند به او اجازه فرموده و از گفتارش رضایت دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1781.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_94.wav"} +{"text": "speaker 4: پس برای مجازات آنها تندبادی شدید و هول انگیز فرستادیم در روزهایی که شومی محض به همراه داشت,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2819.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3453.wav"} +{"text": "speaker 4: و هر که از سر تجاوز و ستمکاری چنین کند بزودی او را به آتش جهنّم خواهیم انداخت و این کیفر بر خداوند آسان است.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_519.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3394.wav"} +{"text": "speaker 4: حق پیمانه را کامل ادا کنید و با کم فروشی به خریداران ضرر نزنید با ترازوی دقیق اجناس را وزن کنید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2154.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1754.wav"} +{"text": "speaker 4: آنها همان کسانی هستند که لعنت خداوند بر ایشان نازل شده و گوشهاشان را کر و چشمهاشان را کور ساخته است؛,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3051.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3033.wav"} +{"text": "speaker 4: ،و به آنها گفته می‌شود: بچشید عذاب سوختنتان را! این همان عذابی است که برای نازل شدن آن شتاب داشتید,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_3122.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1666.wav"} +{"text": "speaker 4: آیا ساکنان شهرها و آبادی ها ایمن هستند از اینکه عذاب ما، در شب و هنگامی که در خواب هستند بر آنها نازل شود؟,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_856.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_77.wav"} +{"text": "speaker 4: هر گاه زنی از شوهرش نگرانی و بیم ناسازگاری و رویگردانی داشته باشد، برای آن دو نفر مانعی ندارد که به گونه ای,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_601.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3323.wav"} +{"text": "speaker 4: ای آفریدگار پروردگار ما، مرا و پدر و مادرم و مؤمنان را در روز حساب، به لطف و کرمت بیامرز.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_1361.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3459.wav"} +{"text": "speaker 4: مانند مس مذاب در شکم آنها در حال غلیان خواهد بود. و جوششی دارد مثل آب جوش.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2983.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3332.wav"} +{"text": "speaker 4: ای پیامبر! بگو: مشرق و مغرب از آن خداوند است و خداوند هر کس را که اراده فرماید به راه راست هدایت می فرماید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_152.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3033.wav"} +{"text": "speaker 4: همان چیزهایی را که بجای خداوند می پرستیدند، همه را با هم جمع کنید و آنها را به سوی آتش دوزخ سوق دهید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2591.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2223.wav"} +{"text": "speaker 4: آنهایی که ایمان آورده و عمل صالح انجام دادند ما هم مسلّماً آنها را در زمره ی صالحان وارد بهشت خواهیم فرمود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2297.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2016.wav"} +{"text": "speaker 4: و چون از آنچه نهی شده بودند دست برنداشتند پس به آنان با کلام امر فرمودیم: بوزینگانی خوار و مطرود باشید!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_891.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_3455.wav"} +{"text": "speaker 4: و امّا آنها که سعی در عاجز کردن ما بوسیله تکذیب نشانه ها و معجزات ما دارند به عذاب بد و دردناک دچار خواهند شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2468.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2251.wav"} +{"text": "speaker 4: ما اینگونه نیکوکرداران را پاداش عنایت می فرمائیم. و او بواقع از بندگان مخلص ما بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2638.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_2069.wav"} +{"text": "speaker 4: و در این دنیا در بین مردم تا ابد لعنت نصیب آنها فرمودیم و در روز قیامت از منفوران و مطرودان هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2264.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1539.wav"} +{"text": "speaker 4: و نیز گفتند: چگونه قرآن از بین این قوم و از بین بزرگان دو شهر طائف و مکّه بر محمّد امین نازل شده!,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2920.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_779.wav"} +{"text": "speaker 4: و از میان قوم، آنها را که ایمان آورده بودند و پرهیزکاری می کردند نجات خیر عنایت فرمودیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2821.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1438.wav"} +{"text": "speaker 4: هر مخلوقی سرانجام طعم مرگ را می چشد و شما سرانجام به سوی ما که آفریدگارتان هستیم باز گردانده می شوید.,", "audio_path": "/content/drive/MyDrive/tts/Aud22/audio_2330.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud22/audio_1155.wav"} +{"text": "speaker 1: به یادم آمد نور کم و زیاد می‌شد و از آبی به سبز می‌گرایید. انگار ضربان داشت. تا یک ساعت بعد هم صدای گفتگوی ساربان‌ها می‌آمد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0001.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: فکرم پریشان شده بود. روز نهم، ۲۰ اسفند. ۶۵ درجه شمال غربی، حرارت ۱۰ درجه زیر صفر. از کوه گوگرد,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0002.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0046.wav"} +{"text": "speaker 1: که در سمت شرق ماست رد شدیم و به سیلاب‌رو حبله‌رود رسیدیم. هوا آفتابی‌ست اما سوز سردی دارد. همه‌چیز در اطرافمان یخ زده؛,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0003.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0044.wav"} +{"text": "speaker 1: از پشم شترها قندیل آویزان است. صبح چادرها را به سختی تا کردند. نگران سنسورهای الکتریکی و باطری‌ها بودم. خوشبختانه رطوبت به آن‌ها سرایت نکرده.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0004.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: باز کردن و بستن جعبه‌ها بسیار وقت‌گیر بود. همه کارها را باید خودم انجام می‌دادم چون به حضرات اطمینان ندارم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0005.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0036.wav"} +{"text": "speaker 1: حوالی ۱۱ صبح به دامنه‌ی کوه رسیدیم که در ابتدا شیب ملایمی داشت. بعد از نیم ساعت راه‌پیمایی در مسیری نیم‌دایره به جناح غربی کوه رسیدیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0076.wav"} +{"text": "speaker 1: در این قسمت از شدت سوز کاسته شد. از دره‌ای کوچک رد شدیم و به محوطه‌ی وسیعی در ضلع شمالی کوه رسیدیم که تقریباً هموار بود و پر از علف‌های نورسته.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: خیلی عجیب بود. کمتر از دو ساعت قبل همه‌چیز در حال انجماد بود و حالا عرق از پیشانی‌ام سرازیر بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0046.wav"} +{"text": "speaker 1: از لای سنگ‌ها چشمه‌ای می‌جوشید و در حوضچه‌ی کوچکی جمع می‌شد که پر بود از سنگ‌های کوچک رنگارنگ.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav"} +{"text": "speaker 1: مشتی آب به دهان بردم؛ به‌شدت اسیدی بود و طعم تندی داشت. به یقین گرمای این دره و طعم تند آب ناشی از حرارت داخلی زمین است.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0044.wav"} +{"text": "speaker 1: شکل قیفی کوه هم آتشفشانی بودن آن را تأیید می‌کند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: مهندس موسوی وسایلش را بیرون آورد و شروع به اندازه‌گیری حرارت زمین، دانسیته سنگ‌ها و شدت میدان مغناطیسی کرد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0039.wav"} +{"text": "speaker 1: صلاح دیدم همان‌جا کمی استراحت کنیم. ساعت یک دوباره حرکت کردیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: کوره‌راهِ دامنه‌ی کوه در قوسی بزرگ ما را به آبکندی در جناح دیگر قله می‌رساند. حالا دو کوه کم‌ارتفاع تا قله پیشِ رویمان است.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: خورشید حوالی ساعت چهار و سی در پشت تیغه‌ی غربی فرو رفت. صبح روز دهم. در,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0046.wav"} +{"text": "speaker 1: ۷۰ درجه به طرف غرب و ۲۵ درجه‌ی شمالی. حالا خیلی به قلعه‌ی ریگِ جن نزدیک شده‌ایم. دیشب شب نحسی بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0036.wav"} +{"text": "speaker 1: باز هم سر و صدای ساربان‌ها که این بار ابایی از بلند حرف زدن و داد و فریاد نداشتند. بیرون دویدم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0036.wav"} +{"text": "speaker 1: امواج نوری به رنگ‌های آبی و زرد به شکل رشته‌های ضخیم بالای قله می‌چرخیدند و در تاریکی محو می‌شدند. پیدا بود که همه هراسیده‌اند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0039.wav"} +{"text": "speaker 1: گفتم این‌ها گازهای گوگردی باردار است که به این رنگ درآمده؛ اما زیاد سخنرانی نکردم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0050.wav"} +{"text": "speaker 1: امکان نداشت پدیده‌ای طبیعی به این شکل وجود داشته باشد و این خودِ مرا هم می‌ترساند. نیم‌ساعتی تماشا کردم. به رغم سرمای هوا کف دست‌هایم خیس شده بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0044.wav"} +{"text": "speaker 1: به ناگاه نورها محو شد. تاریکی. حالا دیگر نفس از کسی درنمی‌آمد. تکان نمی‌خوردند. انگار همه منتظر بودند اتفاقی بیفتد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0043.wav"} +{"text": "speaker 1: به خودم آمدم و گفتم آتش را بیشتر کنند و جلوی خودم را گرفتم تا نگویم مراقب باشند. انگار منتظر این دستور بودند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0040.wav"} +{"text": "speaker 1: دویدند و بسته‌های خار را در آتش انداختند و همه دور آتش نشستیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav"} +{"text": "speaker 1: مهندس موسوی هنوز هم معتقد بود که این پدیده‌ی فیزیکی‌ست و احتمالاً بر اثر امواج مغناطیسی خورشیدی حاصل شده.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0074.wav"} +{"text": "speaker 1: می‌گفت فصل توفان‌های خورشیدی‌ست که بر جو زمین تأثیر می‌گذارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: بعد چیزهایی درباره آتش «سنت‌المو» گفت که سر درنیاوردم، اما نه در صدد تکذیب حرف‌های او برآمدم و نه تأییدش.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: با روشن شدن هوا به چادرم بازگشتم تا چرتی بزنم. وقتی بیدار شدم از سکوتم پشیمان بودم؛ سکوت من می‌توانست نشانه‌ی نداشتن اعتمادبه‌نفس تلقی شود.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: از این‌ها گذشته، شاید موسوی راست می‌گفت. هنوز از چادر بیرون نیامده بودم که یکی از ساربان‌ها خبر آورد از دکتر معینی خبری نیست و چادرش خالی‌ست.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: چند دقیقه بعد متوجه شدیم از خدمه‌اش هم خبری نیست. این‌ها توبره‌هایشان و مقداری آذوقه را هم برده بودند. از حماقت و بزدلی معینی در عجب بودم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: عباس‌علی و حبیب را فرستادم تا شاید آن‌ها را پیدا کنند و حداقل آذوقه را برگردانند. دقایقی بعد صدای فریادشان را می‌شنیدم که در میان صخره‌ها طنین‌انداز بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0043.wav"} +{"text": "speaker 1: یک ساعت بعد هر دو بازگشتند. هیچ اثری از آن‌ها پیدا نکرده بودند. دستور حرکت دادم. به جهنم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0050.wav"} +{"text": "speaker 1: مطمئن بودم که آن‌ها نمی‌توانند مسیر درست را پیدا کنند. ابله. جان خودش و دو نفر دیگر را به خطر حتمی انداخته بود. از منطقه‌ی مسطحی رد شدیم و,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: به دره‌ی آبرفتی رسیدیم که عرضی حداکثر پنج متر دارد و در بعضی نقاط به دو متر هم تقلیل پیدا می‌کند و,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0076.wav"} +{"text": "speaker 1: ارتفاع دیواره‌هایش در دو طرف حدود پنج تا پانزده متر است. عمر این دره می‌باید حدود سه میلیون سال باشد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav"} +{"text": "speaker 1: صخره‌های دو طرف به‌طور طبیعی، شاید بر اثر فرسایش باد، به اشکال عجیب و غریب، حتی به شکل حیوانات درآمده.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0036.wav"} +{"text": "speaker 1: احتمالاً وجود این اشکال به شایعاتی درباره‌ی دره و قلعه‌ی آن دامن زده است. در طی راه کسی حرف نمی‌زند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0046.wav"} +{"text": "speaker 1: فقط صدای زنگ شترها را می‌شنویم که در این دره طنین خاصی دارد. دقیقه‌ای پیش از شکاف بسیار باریکی رد شدیم به اندازه‌ی عبور یک شتر.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0044.wav"} +{"text": "speaker 1: ناچار شدیم از شترها پیاده شویم تا بتوانیم رد شویم. تنگی این دره احساس بدی در من برانگیخته؛ اگر گرفتار رگباری ناگهانی شویم...,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0037.wav"} +{"text": "speaker 1: ساربان‌ها از همان ابتدا به ایشان هشدار دادند که عبور از تنگه بسیار خطرناک است و راه امن اما طولانی‌تری هم وجود دارد،,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0037.wav"} +{"text": "speaker 1: اما ایشان نپذیرفت. ساعتی بعد، خوشبختانه این دره‌ی باریک به منطقه‌ی بازی منتهی شد. اینجا با پدیده‌ای عجیب و تماشایی روبه‌رو شدیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0039.wav"} +{"text": "speaker 1: سکوهایی طبیعی از جنسِ گِل جوشان که طبقه‌طبقه روی هم قرار دارد. در نقطه‌ای حداقل ده طبقه را شمردم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav"} +{"text": "speaker 1: گل‌های کانی در طبقات پایین‌تر سفت شده و توده‌های تقریباً کروی را تشکیل داده. درست مثل آن است که به دروازه‌های جهنم نزدیک شده‌ایم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0076.wav"} +{"text": "speaker 1: توقف کردیم و از کنار حوضچه‌ها بالا رفتیم. روی سطح حوضچه‌ها حباب‌های بزرگی تشکیل می‌شوند و با صدای غریبی می‌ترکند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: از این پدیده‌ی عجیب مقداری عکس و فیلم گرفتیم. معینی از سرِ ترس عجیب‌ترین پدیده‌ی این سفر را از دست داد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0050.wav"} +{"text": "speaker 1: حرارت زیادی از سطح حوضچه‌ها بالا می‌زد و بوی تند گاز سولفور همه‌جا پیچیده بود. منظره‌ی خوشایندی نبود. اگر موجود زنده‌ای در این گِل جوشان می‌افتاد...,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0046.wav"} +{"text": "speaker 1: کمی ترسیده بودم. ساربان‌ها در خود فرو رفته بودند و در سکوت به حوضچه‌ها نگاه می‌کردند. تعجب می‌کنم؛,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0039.wav"} +{"text": "speaker 1: این‌ها عمرشان را در این کویر غریب گذراندند و این‌چنین مبهوت شده‌بودند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav"} +{"text": "speaker 1: قبل از سوار شدن، زاویه‌یاب و قطب‌نما را درآوردم تا مختصات مسیر را بررسی کنم. اما عقربه‌ی قطب‌نما ثابت نمی‌ایستاد و مرتب به دور خود می‌چرخید.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud8/Aud8_0031.wav"} +{"text": "speaker 1: موسوی را صدا زدم. نیم ساعتی با قطب‌نما و زاویه‌یاب ور رفت و آخر سر همان ترجیع‌بند همیشگیِ میدان مغناطیسی را تکرار کرد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0035.wav"} +{"text": "speaker 1: گفتم می‌دانم، اما چاره چیست؟ گفت فعلاً که مسیر مشخص است، هنگام بازگشت احتمالاً این ابزار به حالت عادی بازمی‌گردد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0076.wav"} +{"text": "speaker 1: اگر نشد باید فقط به راهنمایمان اعتماد کنیم. عجب فکر بکری! پرسیدم اگر دوباره اسیر آن مه غلیظ شویم چه باید بکنیم؟,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0035.wav"} +{"text": "speaker 1: گفت برای اطمینان می‌توانید از دستگاهِ... نامش را فراموش کردم... استفاده کنید. صلاح نبود بیش از آن معطل شویم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0076.wav"} +{"text": "speaker 1: خارج کردن دستگاه از میان بارها وقت‌گیر بود و من می‌خواستم زودتر از دره خارج شویم. اگر به ناگاه باران می‌گرفت اوضاع خطرناک می‌شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: حوالی ساعت سه بعدازظهر متوجه لکه‌های ابر در شکاف بالای سرمان شدم. خیلی زود آسمان کاملاً خاکستری شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav"} +{"text": "speaker 1: به ساربان پیشرو گفتم بر سرعتش بیفزاید. اما تنگی مسیر مانع بود. به گمانم حوالی ساعت چهار بود که باران گرفت. نخست نم‌نم و بعد شدت یافت.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: دیگر حسابی دلشوره داشتم. ساربان‌ها هم به تکاپو افتادند و سعی داشتند شترها را بدوانند. حالا کف مسیر پوشیده از آب بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0056.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: حدود پانزده دقیقه بعد، همهمه‌ای شنیدم که ابتدا محو بود و بعد بیشتر شد و مثل صدای دهل در کوه‌ها طنین انداخت.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0057.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: دیگر معطل نکردم. سعی کردم شتر را بخوابانم، اما نتوانستم. عباس‌علی را صدا زدم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0058.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: او دهنه‌ی شتر را گرفت و حیوان را وادار به نشستن کرد. فریاد زدم که همه پیاده شوند و ابزارهای الکترونیکی و آذوقه را از پشت شترها پایین بیاورند. اما ممکن نشد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: سیلاب از پشت سرمان سر رسید و خیلی زود آب گل‌آلود تا زانوی‌مان بالا آمد. با شتاب شروع به دویدن کردم. حدود صد متر جلوتر،,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0035.wav"} +{"text": "speaker 1: به منطقه‌ای رسیدم که کوه شیب ملایم‌تری داشت. چهار دست و پا شروع به بالا رفتن کردم. در همان حال متوجه شدم که شترها نعره می‌کشند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0043.wav"} +{"text": "speaker 1: موج دوم سیلاب با قدرت از راه رسید. زیر پایم شترها و بعضی از ساربان‌ها را می‌دیدم که در آب فرو رفته بودند و دست و پا می‌زدند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0062.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: سیلاب آن‌ها را می‌چرخاند و می‌برد. بالا رفتن دشوار بود. دائم شن و سنگ خیس از زیر پایم به پایین سُر می‌خورد. تا جایی که می‌توانستم بالا رفتم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0063.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: شیب تند شد. در شکافی ایستادم. قلبم در حال ترکیدن بود. نفسم بالا نمی‌آمد. باران به‌شدت می‌بارید و آب از شیارهای کوه سرازیر شده بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0064.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0037.wav"} +{"text": "speaker 1: پایین، سیلاب دره را پر کرده بود و سنگ و خار و گل و آب در هم می‌غلطید. سرگیجه گرفتم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0065.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: همه‌چیز دور و برم شروع کرد به چرخیدن. از ترس سقوط به سنگ‌ها چنگ انداختم. خیس عرق بودم؛ نه از گرما، هوا سرد بود؛ از ترس و هیجان.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0066.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav"} +{"text": "speaker 1: زیر پایم نهنگِ آبی گل‌آلود به سنگ‌ها می‌کوبید و می‌رفت. هراس مرگ را آنجا تجربه کردم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0067.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: به گمانم یک عمر گذشت که به نظرم آمد از شدت سیلاب کم شده. بالاخره انگشتان خشک و منقبضم را از سنگ جدا کردم و نشستم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0068.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud8/Aud8_0031.wav"} +{"text": "speaker 1: بدنم خشک شده بود. هیچ‌یک از همراهانم را نمی‌دیدم. از شترها هم خبری نبود. تمام وسایل‌مان را آب برده بود. نمی‌دانستم چه کنم. احساس درماندگی می‌کردم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0069.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav"} +{"text": "speaker 1: به خودم قبولاندم که فعلاً بهتر است صبر کنم تا خستگی‌ام کمتر شود و بتوانم افکارم را متمرکز کنم. هوا تاریک شد و باد سردی شروع به وزیدن کرد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0070.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0074.wav"} +{"text": "speaker 1: فکر کنم سه یا چهار ساعت گذشته بود که صدای حبیب را از زیر پایم شنیدم که دوستانش را صدا می‌زد. بلند شدم و داد زدم. صدایم خشک و گرفته بود.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0071.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0039.wav"} +{"text": "speaker 1: سعی کردم فریادم رساتر باشد. حبیب شنید. فریاد زد: «آقا کجا هستید؟ بیایید پایین، سیل تمام شده.» گفتم سنگ‌ها لغزنده است، نمی‌توانم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0072.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0043.wav"} +{"text": "speaker 1: گفت پس صبر کنید تا من بیایم بالا. به من که رسید گفت: «آقا خدا را شکر که شما زنده‌اید، خانه‌خراب شدیم.» پرسیدم از بقیه خبر داری؟,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0073.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav"} +{"text": "speaker 1: گفت: «آقا ساربان‌ها زنده‌اند، جز یک نفر. اما شترها را آب برده، بیچاره شدیم. باید برگردیم.» جوابش را ندادم. چطور می‌توانستیم برگردیم؟,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0074.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0047.wav"} +{"text": "speaker 1: چطور می‌توانستیم پیش برویم؟ گفت فعلاً صلاح در آن است که همین‌جا بمانیم. ممکن است سیلاب دیگری از راه برسد. گفتم از سرما یخ می‌زنیم. جواب داد:,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0075.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0076.wav"} +{"text": "speaker 1: «چاره‌ی دیگری نداریم.» می‌خواستم راه بیفتم. اما در آن تاریکی ممکن نبود. به خودِ این پدر سگ گفته بودم زودتر از این دره خارج شویم. اعتنا نکرد. بی‌خیال.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0076.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0039.wav"} +{"text": "speaker 1: دائم یا با ساربان‌های دیگر سرشاخ می‌شد یا در چپقش بنگ دود می‌کرد و لاطائلات می‌بافت.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0077.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0035.wav"} +{"text": "speaker 1: بوی گند بنگش عالم را برمی‌داشت. این‌همه قصه‌ی روح و جن و پری. دیگر از سرما واقعاً می‌لرزیدم. حبیب چپقش را از پرِ شالش کشید بیرون.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0078.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: سنگ چخماق و فتیله هم همراهش بود. مقداری آشغال در چپق ریخت و روشن کرد و بی‌خیال نشست به مِک زدن چپق. انگار نه انگار. بعد گفت:,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0079.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: «آقا شما هم بفرمایید. خوب چاقش کردم. سرما را دور می‌کند، گرسنگی را زائل.» در دلم گفتم خفه شو. سرما که بیشتر شد،,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0080.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0035.wav"} +{"text": "speaker 1: حبیب پیشنهاد کرد کپنک‌اش را به من بدهد. گفت از پشم شتر است و گرم‌تان می‌کند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0081.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav"} +{"text": "speaker 1: نپذیرفتم؛ بوی کهنگی و عرق می‌داد. لابد از روزی که بافته شده بود آن را نشسته بودند. شایدم از پدرش ارث... از خستگی و سرما بیهوش شدم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0082.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0047.wav"} +{"text": "speaker 1: وقتی چشم باز کردم، دست‌ها و صورتم کاملاً بی‌حس بود. حبیب به سنگی تکیه داده و راحت خوابیده بود. لعنتی. حرصم گرفته بود از بی‌خیالی‌اش.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0083.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: به ساعتم نگاه کردم. عقربه‌های فسفری ساعت دو را نشان می‌داد. احساس ناخوشی داشتم. حبیب را تکان دادم. چند بار. بیدار شد. گفتم: «کپنکت را بده.»,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0084.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: کپنک. هیچ نگفت. هاج و واج مانده بود. انگار هنوز خواب بود. گفتم یخ زدم، پوستینت را. به خود آمد. با دلخوری گفت من که گفتم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0085.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0043.wav"} +{"text": "speaker 1: شبهش در تاریکی تکان خورد. کپنک را درآورد. بعد دوباره به سنگ تکیه داد و خوابید. کپنک را به تن کردم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0086.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0044.wav"} +{"text": "speaker 1: سعی داشتم از راه دهان نفس بکشم تا بوی آن را احساس نکنم. اما خوشبختانه تنم گرم شد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0087.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: سرم و دست‌هایم را در سینه‌ام فرو بردم. مچاله شدم تا گرمای بدنم حفظ شود. کمی بعد متوجه شدم عباس‌علی با چراغ بادی به من نزدیک می‌شود.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0088.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav"} +{"text": "speaker 1: یک آفتابه هم در دست داشت. مثل هر روز صبح. گفتم چرا حوله نیاوردی؟ چیزی گفت که متوجه نشدم. آفتابه را برگرداند. خالی بود. از خواب پریدم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0089.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0042.wav"} +{"text": "speaker 1: هوا روشن شده بود. دور و برم را نگاه کردم، حبیب نبود. پدرسگ رفته بود. تنها مانده بودم. باد سردی می‌وزید. احساس دلتنگی کردم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0090.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: باید داروهایم را می‌خوردم اما دیگر چیزی باقی نمانده بود. صداهایی از دور می‌شنیدم. صدای حرف زدن آدم‌ها، صدای زنگ شتر و بعد صدای زوزه‌ی باد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0091.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: خیال کرده بودم. اما بعد دوباره صداها را شنیدم. بیخود نبود آن‌همه قصه‌های غریبی که درباره‌ی این منطقه شنیده بودم و اسامی غریب: ریگِ جن،,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0092.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0039.wav"} +{"text": "speaker 1: چاه جن، کوه جن. اما صدا واضح‌تر شد. بلند شدم و داد زدم: «حبیب! عباس‌علی!» نزدیک بود سُر بخورم. دستم را به سنگی بند کردم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0093.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0074.wav"} +{"text": "speaker 1: صدای خنده‌ای شنیدم. زیر پایم نوری لابه لای سنگ‌ها دیدم. کسی مرا به نام خواند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0094.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0077.wav"} +{"text": "speaker 1: حبیب‌الله بود که در تاریک و روشن سحر فانوس به دست نزدیک می‌شد. جلوتر آمد. نفس‌نفس می‌زد. «آقا! همه زنده‌اند. بیرون تنگه.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0095.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0050.wav"} +{"text": "speaker 1: شترها خودشان را بیرون کشیدند از سیلاب. جز یکی.» به سختی پایین رفتیم و در کف دره روی گل و لای به راه افتادیم. یک ساعت بعد از تنگه خارج شدیم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0096.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: نور آتش را دیدم. عده‌ای دور آن نشسته بودند. کنار آتش وا رفتم. با همان لباس‌های خیس روی سنگ‌ها خوابم برد. روز دوازدهم،,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0097.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0076.wav"} +{"text": "speaker 1: ۸۱ درجه‌ی شمال غربی. معلوم شد ساربان‌ها همراه جریان سیلاب صحیح و سالم به آن طرف تنگه رسیده بودند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0098.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav"} +{"text": "speaker 1: شترها را هم یک ساعت بعد پیدا کردند و آتشی درست کرده و شامی پخته بودند، در حالی که من تا صبح گرسنه مانده و لرزیده بودم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0099.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav"} +{"text": "speaker 1: صبح عباس‌علی به راه افتاد به دنبال ما تا حبیب را پیدا کند. وسایل الکترونیکی آسیب دیده. به جز شترِ گم شده، شتر دیگری هم صدمه خورده؛,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0100.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0036.wav"} +{"text": "speaker 1: شکمش به سنگی گیر کرده و زخم عمیقی برداشته. مهندس موسوی هم توانسته بود خود را در سراشیبی بالا بکشد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0101.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0074.wav"} +{"text": "speaker 1: اما همان موقع مسیر را دنبال کرده و به بیرون دره رسیده بود. از عباس‌علی وضع ذخیره‌ی غذایی‌مان را پرسیدم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0102.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0043.wav"} +{"text": "speaker 1: گفت مقدار زیادی از مواد غذایی خشک مثل نان و قرمه آب کشیده و از بین رفته. اما کنسرو به اندازه‌ی کافی داریم.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0103.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0035.wav"} +{"text": "speaker 1: یک شتر را هم حضرات زِپ کردند و کامل بلعیدند. از خشم نمی‌دانم چه بگویم. عصر همان روز. معلوم شد شتر را آن‌ها زِپ نکرده‌اند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0104.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: زِپ اصلاً کلمه‌ی مناسبی نیست. شتر تکه‌پاره شده بود، نه به دست آن‌ها. هیچ‌کس نمی‌دانست چگونه. شاید حیوانی وحشی، گرگ.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0105.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0037.wav"} +{"text": "speaker 1: به هر حال آن‌ها گوشت‌های تکه‌پاره شده را کباب کرده بودند. بعداً سؤالی به ذهنم رسید: حیوانی که شتر را تکه‌پاره کرده چرا آن را نخورده؟ روز سیزدهم،,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0106.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0039.wav"} +{"text": "speaker 1: ۲۶ اسفند. نه جناب موسوی. نمی‌شود هرچه می‌خواهید بگویید و همه هم آن را بپذیرند. هیچ نیروی ماورایی در کار نیست.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0107.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: نه شبح، نه جن. این‌ها همه خزعبلات است. دلتان خوش باشد به چهارتا فرمولی که هر سال یک بار زیر و رو می‌شود،,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0108.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0074.wav"} +{"text": "speaker 1: اما امثال شما از رو نمی‌روند. همین لفاظی‌های فلسفی؛ با کنار هم قرار دادن چند کلمه می‌خواهید کل کائنات را تصرف کنید؟ هستی را؟,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0109.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0040.wav"} +{"text": "speaker 1: پیدایش را؟ با همین دو چشم و یک مغز پانصد گرمی؟ پ فیوز از رو نمی‌رود، جوابی برای هر سؤال در جیب دارد؛ کم نمی‌آورد، معطل نمی‌کند.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0110.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0046.wav"} +{"text": "speaker 1: یادداشت مهندس موسوی: مردک زیر بارِ هیچ استدلالی نمی‌رفت,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0111.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0044.wav"} +{"text": "speaker 1: از یک طرف مشاهدات علمی ما را مسخره می‌کرد، از طرف دیگر برای ساربان‌ها موعظه می‌کرد که به خرافات آن‌ها اعتقاد ندارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud4/Aud4_0112.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0050.wav"} +{"text": "speaker 1: ماجرای تلخ گریبایدوف با حضور مردم، آقا یعقوب خواجه‌باشی و زنان جوان گرجی.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0002.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: در نهم بهمن سال ۱۲۰۷، یکی از تلخ‌ترین وقایع تاریخی تهران با مرگ گریبایدوف، وزیرمختار روسیه,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0004.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav"} +{"text": "speaker 1: و شرحه شرحه شدنش به دست مردم خشمگین تهران به پایان می‌رسد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0005.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav"} +{"text": "speaker 1: پایانی سیاه برای حکایت لجاجت بیش از حد جوانی که قصد کرده بود قهرمان یک رمان روسی باشد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud8/Aud8_0031.wav"} +{"text": "speaker 1: افسر جوانی که به هیچ وجه علاقه‌ای به امور نظامی نداشته، شعر می‌گوید و,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0039.wav"} +{"text": "speaker 1: نمایشنامه می‌نویسد و حتی در جریان یک ماجرای عاشقانه دوئل کرده و زخمی شده است. اما گریبایدوف,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0036.wav"} +{"text": "speaker 1: فقط نویسنده نیست که پیش از این درس حقوق و روابط خارجی خوانده و به تاریخ و بعضی زبان‌های آسیایی,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: از جمله فارسی و ترکی و عربی و سانسکریت هم آشناست. علاوه بر آن به علت ارتباط خانوادگی با پاسکویچ،,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0047.wav"} +{"text": "speaker 1: سردار فاتح جنگ ایران و روسیه، بخت بلندی یافته و به عنوان دیپلمات وارد عرصه سیاست شده و همکار شخص یرمولف،,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0036.wav"} +{"text": "speaker 1: فرمانده قوای روسیه در جنگ با ایران می‌گردد. اگرچه بعد از این استخدام بارها به خاطر آن زبان تلخ و تند,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0043.wav"} +{"text": "speaker 1: دردسرها می‌سازد و سرانجام هم به خاطر آشنایی با بعضی از افسران شورشی به زندان تزاری می‌رود.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0039.wav"} +{"text": "speaker 1: هرچند به جهت وجود همان قرابت‌های خانوادگی به جای تبعید و زندان به کشور ایران اعزام می‌شود و قبل از آن در نامه‌ای به دوستی می‌نویسد:,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0043.wav"} +{"text": "speaker 1: «می‌خواهی تصور کنی که دارند من را به کجا تبعید می‌کنند؟ به ایران. که در آنجا زندگی کنم و دستم به هیچ جا بند نباشد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: چقدر غیرمنصفانه خواهد بود که وادارم سازند تا در یک تبعید ناخواسته,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0039.wav"} +{"text": "speaker 1: عنفوان جوانی و پربارترین سال‌های عمرم را با آداب و رسوم وحشیانه‌ی آسیایی سر کنم.» تبعیدی ناخواسته، آن هم,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: یک سال پس از امضای قرارداد تلخ ترکمنچای،,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0037.wav"} +{"text": "speaker 1: که در ۲۰ بهمن سال ۱۲۰۶ میان فرستادگان تزار روس و ولیعهد وقت ایران، جناب عباس‌میرزا امضا شده است.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud8/Aud8_0031.wav"} +{"text": "speaker 1: در آن زمستان سرد البته همین جناب الکساندر سرگیویچ گریبایدوف به عنوان مشاور سیاسی و نماینده روسیه,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: در کنار فاتحین نشسته و در نگارش قرارداد به نحو مؤثری هم شرکت کرده است.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: قراردادی ننگین که به جدایی خاک وسیعی از این سرزمین و الحاق آن به کشور روسیه می‌انجامد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0050.wav"} +{"text": "speaker 1: علاوه بر آن به موجب این قرارداد حکومت ایران مجبور به پرداخت هزار کرور غرامت و بازگرداندن اتباع روسیه نیز می‌گردد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0040.wav"} +{"text": "speaker 1: هرچند آن دیپلمات که کاغذ پاراف‌شده قرارداد را به خدمت تزار می‌برد، باز هم کسی نیست جز همان جناب گریبایدوف ناراضی که این بار,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: ۴۰ هزار روبل روسی پاداش می‌گیرد. بعد هم البته با عنوان وزیرمختار روسیه یا همان ایلچی روس،,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0037.wav"} +{"text": "speaker 1: جهت نظارت بر نحوه پرداخت غرامت، با احترام و تکریم راهی ایران می‌گردد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0047.wav"} +{"text": "speaker 1: هرچند که آن رفتار محترمانه بسیار متکبرانه پاسخ داده می‌شود تا جایی که حتی همان جناب یرمولف هم به او توصیه می‌کند که:,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: «نباید مردم مغلوب را خانه‌خراب کرد.» و ایشان هم در جواب پاسخ می‌دهند که: «ایرانیان فقط در برابر قدرت خاضع‌اند.»,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0077.wav"} +{"text": "speaker 1: پس جناب گریبایدوف در آن رفتار ناصواب پافشاری کرده و حتی حاضر به رعایت مناسک دربار ایران نیز نمی‌شود؛,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0042.wav"} +{"text": "speaker 1: یعنی نعلین و جوراب سرخ مخصوص ایلچیان را پس می‌زند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: بعد هم با همان چکمه‌های افسری به خدمت سلطان می‌رسد و بی‌هیچ شرم و احترامی مقابل پادشاه ایران می‌ایستد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: چنانچه فتحعلی‌شاه ناچار به مرخص کردن ایشان می‌شود. اما جناب ایلچی در عوض رفع مزاحمت، با صدای بلند,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0039.wav"} +{"text": "speaker 1: افسران گریزپای روس که به ولیعهد خدمت کرده‌اند و نیز اسرای گرجی و قفقازی را از شاه مطالبه می‌کند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0050.wav"} +{"text": "speaker 1: از حق نگذریم، یکی دیگر از عوامل ظهور خشم مردم، علاوه بر وزیرمختار،,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav"} +{"text": "speaker 1: همین میرزا یعقوب ارمنی، معروف به خواجه یعقوب ایروانی است.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: از خواجه‌سرایان حرم فتحعلی‌شاه که ۲۰ سال پیش از این از ایروان به تهران رسیده و در حرمخانه قاجار هم سمتی داشته است.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: میرزا یعقوب که مبلغ زیادی به دولت ایران و نیز مردم بدهکار بوده،,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: به هیچ وجه حاضر به حضور در محکمه دولتی نشده و به محض مطلع شدن از احتمال دستگیری، فوراً,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0077.wav"} +{"text": "speaker 1: به محل استقرار ایلچی روس رفته و درخواست پناهندگی می‌کند. سپس به جهت ابراز چاکری،,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0042.wav"} +{"text": "speaker 1: سیاهه‌ای از اسرای قدیم و جدید گرجی، یعنی زنان مسلمان و صاحبان اولاد در حرم بزرگان ایرانی را به گریبایدوف تقدیم می‌کند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: اگرچه در میان سیاهه بلند آقا یعقوب، دو نام وضوح بیشتری دارد. دو زن جوان که البته نسبتی هم,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: با آقا یعقوب ارمنی داشته و اتفاقاً از اهالی حرم اللهیارخان آصف‌الدوله، داماد شاه و صدر اعظم سابق ایشان هستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0047.wav"} +{"text": "speaker 1: این جناب آصف‌الدوله هم برای وزیرمختار غریبه نیست. گویا ایشان که در جریان جنگ ایران و روسیه حاکم تبریز بوده,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav"} +{"text": "speaker 1: و به هنگام حمله سپاه روس توسط مباشر گریبایدوف، رستم‌بیک ارمنی دستگیر شده، نفرت عمیقی نسبت به ایلچی و مباشرش دارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0042.wav"} +{"text": "speaker 1: اما جناب گریبایدوف با وجود اطلاع از آن سابقه، زنان گرجی حرم ایشان را به مقر کنسولگری می‌خواند,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0076.wav"} +{"text": "speaker 1: و با توجه به آن بند قرارداد که تأکید بر استرداد اسیران دو طرف دارد، از ایشان می‌خواهد که به روسیه پناهنده شوند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0037.wav"} +{"text": "speaker 1: سیمونیچ، وزیرمختار بعدی روسیه در خاطراتش می‌نویسد که: «گریبایدوف سخن خود را پیش برد،,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0035.wav"} +{"text": "speaker 1: اما در اینجا خطای بزرگی مرتکب شد زیرا دستور داد آن زنان را به مقر خویش که سکنه آن تمام مرد بودند بیاورند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0043.wav"} +{"text": "speaker 1: بدین قرار جنبش برپا گردید و باید اعتراف کرد که در هر کشور دیگری هم بود این وضع پیش می‌آمد.»,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: پس جناب آصف‌الدوله هم که در پی تلافی بزرگتری بوده، بی‌دردسر,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: زنان حرمش را به فرستادگان کنسولگری روسیه تحویل داده و به سراغ حاج‌میرزا مسیح مجتهد می‌رود که درباره این ظلم حکم شرعی بگیرد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0047.wav"} +{"text": "speaker 1: اگرچه وزیرمختار جوان که دور از زن جوان گرجی‌اش، نینای ۱۶ ساله، در تبعیدی ناخواسته و پر از خشم است، حتی حاضر به گفتگو,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: با فرستادگان میرزا مسیح مجتهد نشده و کاغذ فتحعلی‌شاه را هم بی‌جواب می‌گذارد. بی‌خبر از آنکه خواب به چشم این شهر حرام می‌شود وقتی,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav"} +{"text": "speaker 1: صبح سحر به دستور همان رستم‌بیک مباشر، این دو زن ارمنی را به گرمابه‌ای در نزدیکی سفارتخانه می‌فرستند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0043.wav"} +{"text": "speaker 1: جناب لارنس کلی در کتاب دیپلماسی و قتل در تهران می‌نویسد که:,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0056.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0042.wav"} +{"text": "speaker 1: «هیچ کاری احمقانه‌تر از این نمی‌شد انجام داد. گرمابه رفتن یا تن و بدن شستن یکی از مراسم مهم پیش از ازدواج به شیوه اسلامی است.»,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0057.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: دیگر وقتی دیگ صبر مردم به جوش آمد و سفارت مورد حمله قرار گرفت، نیروهای امنیتی,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0058.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0050.wav"} +{"text": "speaker 1: از ترس مردم به ارگ شهر پناه بردند و شاه و عمله‌های دربار هم پشت درهای مسدود ارگ زندانی شدند. پس بالاخره,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0040.wav"} +{"text": "speaker 1: آن روز منحوس فرا رسیده، بازار و دکان‌ها بسته شده و جماعت معترض با سنگ و کلوخ به دیوار خانه‌ای که مقر کنسولگری روس است هجوم آورده‌اند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: میرزا یعقوب هم در آخر مرتد اعلام شده و لشکر خشمگین هزاران نفره دیگر هیچ رقم صبوری ندارند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0036.wav"} +{"text": "speaker 1: همین است که جماعت فوراً پیش رفته و حتی بر سر آصف‌الدوله که سعی می‌کند جلوی سیل را بگیرد فریاد می‌زنند که: «بزن به چاک و الا,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0062.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav"} +{"text": "speaker 1: قیمه‌قیمه‌ات می‌کنیم.» همین فریادهاست که بالاخره گریبایدوف را هم از خواب بی‌خبری بیدار می‌کند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0063.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: پس جناب ایلچی وحشت‌زده دستور می‌دهد که قزاقان در پشت‌بام عمارت مستقر شوند و درها را قفل کرده و جز برای دفاع از جان خود تیراندازی نکنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0064.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: بعد هم البته دستور می‌دهد که آقا یعقوب و زن‌ها را به خارج سفارتخانه بفرستند و حتی موجودی سفارتخانه را,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0065.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav"} +{"text": "speaker 1: بین جمعیت ریخته تا حواس آن‌ها را از ماجرا منفک کنند. اما مردم,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0066.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav"} +{"text": "speaker 1: چون سیلی هجوم آورده، فریادزنان آقا یعقوب را چون تکه کاغذی پاره‌پاره می‌کنند. دست آخر هم,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0067.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0036.wav"} +{"text": "speaker 1: از پای درآمدن جوان ۱۶ ساله‌ای به دست قزاقان، بهانه آخر این لشکر خشمگین می‌شود که دیگر از دیوار محل اقامت ایلچی بالا رفته و,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0068.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav"} +{"text": "speaker 1: به سهولت به سقف رسیده‌اند. لاجرم قزاقان وحشت‌زده هم در مقابل این خیل بی‌شمار امکان مقاومت نیافته پراکنده می‌شوند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0069.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0044.wav"} +{"text": "speaker 1: مهاجمان هم سپس طاق اتاق گریبایدوف را سوراخ کرده و از همان بالا به وزیرمختار شلیک می‌کنند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0070.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: تنها کسی که آن روز از این مهلکه جان به در می‌برد،,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0071.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud8/Aud8_0031.wav"} +{"text": "speaker 1: مالتسوف دبیر اول سفارتخانه روسیه است که البته با لباس مبدل در اتاقی زیر پشت‌بام مخفی شده است.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0072.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud7/Aud7_0074.wav"} +{"text": "speaker 1: به شهادت ایشان، جناب گریبایدوف که بسیار وحشت کرده بوده، در دم و با ضربات چاقوی پهلوانی کشته می‌شود. پس از آن هم دارالخلافه,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0073.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud8/Aud8_0031.wav"} +{"text": "speaker 1: به دست جمعیت عصیانگری افتاده که جنازه مثله‌شده وزیرمختار را چون پرچم پیروزی در خیابان‌ها می‌چرخانند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0074.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: بعدها اما این بدن بی‌سر از روی زخم کهنه‌ای که باقیمانده یکی از همان دوئل‌های قدیمی است شناسایی می‌گردد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0075.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: اگرچه از آن سر پرشور دیگر هیچ اثری به دست نمی‌آید. القصه، پس از ۴ روز،,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0076.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav"} +{"text": "speaker 1: بالاخره نیروهای دولتی به شهر برگشته، زمام امور را به دست گرفته و مردم خشمگین را دستگیر و به هر کسی که تپانچه‌ای در دست دارد,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0077.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0042.wav"} +{"text": "speaker 1: شلیک کرده و ۵ نفر از محرکین واقعه را گردن می‌زنند. عباس‌میرزا ولیعهد وقت هم بلافاصله خسرو میرزا شاهزاده قاجاری را,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0078.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: با الماس بی‌مانندی که نادرشاه از هند آورده به روسیه فرستاده و بابت این آشوب تقاضای بخشش می‌کند.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0079.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav"} +{"text": "speaker 1: تزار هم بی‌سر و صدا آن هدایا را پذیرفته و درخواست می‌کند که میرزا مسیح مجتهد تبعید شود و یکی از مسببین هم در ملأ عام اعدام گردد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0080.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav"} +{"text": "speaker 1: پس از آن مقداری از خسارت جنگ را به دولت فتحعلی‌شاه بخشیده و افسران روسی قشون عباس‌میرزا را تحویل گرفته و به سیبری می‌فرستد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0081.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0037.wav"} +{"text": "speaker 1: مخوف‌ترین بزنگاه‌های سرزمین ما در دهه اول مهر سال ۱۳۱۲ رقم خورده", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: و این برهه تاریخ را به روزگاری مثال‌زدنی و غریب مبدل کرد؛", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: به‌طوری‌که در بعضی مواقع، یادآوری آن روزها هم به تحمل کابوسی تاریک می‌ماند. گفتند که در یازدهم مهر همان سال،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: خبر مرگ عبدالحسین تیمورتاش، وزیر سابق دربار، به‌صورت غیررسمی در محافل سیاسی منتشر شده و سپس جناب مالت،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: کاردار سفارت بریتانیا، در گزارشی به وزارت خارجه دولت متبوعش نوشت که:", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: «عبدالحسین‌خان تیمورتاش، سه روز پیش در شبانگاه روز سوم اکتبر، در زندان قصر قاجار درگذشت.»", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: در عرض سه هفته گذشته خبر داشتیم که ایشان بیمار هستند، ولی رضاشاه او را در عرض همین مدت", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: در بدترین وضعی که برای یک زندانی مجرد قابل تصور است، از دنیای خارج جدا کرده و حتی اجازه‌ای را که", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: اعضای خانواده‌اش سابقاً داشتند که او را گاه‌گاهی در زندان ملاقات کنند، لغو کرده بود. به‌این‌ترتیب مردی که استعداد درخشانش", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: او را در قله‌ای از عظمت، که فقط تالیِ مقام شاه بود قرار داده بود، در آخرین شب حیاتش حتی تخت‌خوابی که روی آن بمیرد", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: در اختیار نداشت. البته بنا به گفته مهدی آذر، وزیر فرهنگ دکتر مصدق، ایران‌دخت تیمورتاش، دختر همین وزیر مخلوع،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: مدت‌ها بعد از آن روز تعریف کرده که درست قبل از انتقال پدرش به دخمه‌ی مشهورش، به ملاقات او رفته و وضعیت سخت پدر را به چشم دیده است.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: گویا در این جلسه ملاقات، جناب تیمورتاش به ایشان می‌گوید که: «بهتر است اشک‌های خود را برای روزهای بدتری ذخیره کنند.» خانم ایران‌دخت تیمورتاش هم", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: ظاهراً معتقد بوده که پدرش پیش از مردن، از تصمیم شاه برای پایان دادن به زندگی‌اش باخبر بوده و با کنایه و پرده‌پوشی", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: این حقیقت را به گوش عزیزانش هم رسانده است. البته که عبدالحسین تیمورتاش، وزیر دربار و عضو فعال مجلس شورا،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: ملقب به معزز‌الملک و سردار معظم، به گفته راویان تاریخ، مرد بسیار زیرک و", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: آگاه به امور مذاکره بوده و حتی از طرف دولت ایران با دولت‌مردان بریتانیایی و نمایندگان دولت روسیه هم وارد مذاکره می‌شده و لذا", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: بعید است که در تشخیص چنین خطر خطیری دچار شبهه‌ی بی‌دلیل شود.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: این دولت‌مرد شهیر که به لطف پدر متنفذش، روزگار جوانی خود را در مدرسه سواره‌نظام مشهوری در سن‌پترزبورگ گذرانده بود،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: به زبان روسی و فرانسه به‌خوبی مسلط بوده و حتی در عنفوان جوانی هم بروبیایی در محافل آن‌مودِ پترزبورگ داشته", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: و با همان سر پرباد و بلندپروازی‌ای که مورد اقبال جناب مشیرالدوله، سفیر وقت ایران هم قرار گرفته بوده، پله‌های ترقی را", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: دست آخر هم البته به‌واسطه وصلت با خانواده بسیار پرنفوذی، یک‌شبه راهی هزارساله را پیموده؛", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: به‌طوری‌که در عنفوان جوانی، به نمایندگی مجلس شورا و ریاست قشون خراسان نیز می‌رسد.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: هرچند سرکوب و اعدام یاران میرزا کوچک‌خان را مردم گیلان به نام او نوشته‌اند؛", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: اگرچه با وجود دادخواهی نماینده گیلان بابت بدرفتاری ایشان با مردم گیلان، ایشان باز هم پله‌های ترقی را خوب پیموده", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: و علاوه بر نمایندگی مجلس و حکومت بعضی شهرها، به وزارت هم می‌رسد. القصه، به گفته همان راویان", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: یکی از کسانی که بیشترین تأثیر را در افول قاجاریه و به سلطنت رسیدن رضاشاه داشته، همین جناب تیمورتاش است.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: وزیر دربار قدرتمندی که بالاخره در سال ۱۳۰۴، نام خانوادگی تیمورتاش را برای خود برمی‌گزیند.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: مهدی‌قلی هدایت از رجال شهیر، درباره ایشان می‌نویسد:", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: «تیمورتاش وزیر دربار ماست و رافعِ بین شاه و هیئت و نافذ در هر کار. طرف اعتماد شاه است و از سیاست", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: آگاه.» روزی شاه در هیئت فرمودند: «قول تیمور، قول من است.»", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: اگرچه که با وجود آن قدرت بی‌بدیل و آن قول مؤثر، و نیز تأثیر جناب تیمورتاش در اصلاحاتی چون تأسیس بانک ملی، ساخت راه‌آهن", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: یا حتی اجباری کردن کلاه پهلوی به قصد دور انداختن رسوم قاجاری هم، این مرد متنفذ نیز بالاخره از چشم آن شاه می‌افتد.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: گویا یکی از اصلی‌ترین دلایل این اتفاق هم، همان مذاکره پنج‌ساله نفت است با سرجان کدمن بر سر حقوق ایران در ماجرای امتیاز دارسی.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: چنانچه در آخر کار، تیمورتاش به این نتیجه می‌رسد که بهترین راه برای ایران، سیاست صبر و تأمل است تا سرانجام زمان این امتیازنامه هم...", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: که با بدگمانی روند مذاکرات را دنبال می‌کند لبریز شده و به‌کل تصمیم به لغو قرارداد گرفته و حتی متن قرارداد را هم", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: در آتش بخاری می‌اندازد و دیگر خدا عالم است که این داستان از کجا به گوش سفارت بریتانیا می‌رسد.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: «در ایام حکومت مرحوم دکتر مصدق، بنده روزی برای دیدار مرحوم تقی‌زاده که در دروس واقع بود رفتم.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: ایشان گفتند که موقعی که من وزیر دارایی بودم، موضوع قرارداد نفت با انگلیس‌ها مطرح مذاکره بود.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: شبی که باید این قرارداد در هیئت دولت مورد بحث واقع شود، رضاشاه با حال عصبانی به هیئت دولت ورود نمود و گفت: بالاخره این کار نفت به کجا انجامید؟", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: جواب درستی نداده بودم که او پرونده نفت را که در روی میز بود از جلوی من برداشت و در میان آتش بخاری انداخت و گفت: بنشینید و", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: ترتیب لغو قرارداد دارسی را بدهید. ما هم همین کار را کردیم و قرارداد نفت دارسی را ملغی ساختیم. فردای آن روز سرلشکر آیرم", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: به من تلفن کرد و طولی نکشید که به منزل من آمد و پس از مقدماتی گفت: آیا می‌دانید چه کسی گزارش دیشب هیئت دولت را به انگلیس‌ها داده است؟", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: من با نگرانی اظهار بی‌اطلاعی کردم. سرلشکر آیرم گفت که من یقین دارم که این دسته‌گل را تیمورتاش به آب داده و او بوده است که بلافاصله", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: تمام جریان اخبار دیشب هیئت دولت را به اطلاع انگلیسی‌ها رسانیده است.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: من آنجا یقین کردم که با دشمنی سختی که او نسبت به تیمورتاش دارد، دیگر کار آن بیچاره هم تمام شده است.»", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: پس با لغو آن قرارداد، تیمورتاش هم از عرش به فرش می‌رسد؛ زیرا علاوه بر آنکه سیاست‌مداران بریتانیایی او را", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: مانع حل این مسئله می‌دانند، کسانی هم او را مهره مؤثر و جاسوس دولت روسیه خوانده و در گوش رضاشاه می‌خوانند که این همه", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: قدرت و نفوذ تیمورتاش و ارتباط حسنه‌ی ایشان با روس‌ها،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: برای ادامه کار ولیعهد نوجوان و کم‌تجربه بسیار خطرناک است.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: زیرا او را با نامه‌ی رسمی لاک‌ومهر شده به بازداشت خانگی می‌فرستند و سپس به جرم اختلاس مالی دستگیر و محاکمه می‌کنند.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: البته که ایشان هم در مدت حبس خانگی بیکار ننشسته و یادداشت‌هایی می‌نویسد و از بی‌گناهی خودش دفاع می‌کند و می‌گوید که:", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: «آدمی ظنین مثل شاه که حتی از هوایی که استنشاق می‌کند هراسان است،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: از نفوذ من می‌ترسد و خیال می‌کند که برکناری‌ام منجر به ظهور عکس‌العمل شدید در کشورهای خارجی خواهد شد", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0062.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: و در داخله نیز زمینه انقلابی را فراهم خواهد ساخت. انقلاب به نفع من؟ ابداً.»", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0063.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: اما آن وزیر بانفوذ سابق دربار، دو بار محاکمه می‌شود: بار نخست در ۲۵ اسفندماه ۱۳۱۱ که به جرم ارتشا،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0064.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: به سه سال حبس و محرومیت از حقوق اجتماعی و پرداخت مبالغی ارزی و ریالی محکوم؛ و بار دوم", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0065.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: در ۳ تیرماه ۱۳۱۲ که به پنج سال حبس مجرد و پرداخت مبالغی به خزانه دولت محکوم می‌گردد.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0066.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: وضعیت جناب تیمورتاش در زندان قصر به‌سختی می‌گذرد. او که از سوابق کشتار بی‌دادگاه در زندان قصر باخبر است،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0067.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: تنها با آبی که از خانه آمده و نان ساده روزگار می‌گذراند و حاضر به خوردن خوراک زندان نمی‌گردد،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0068.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: مبادا که مثل باقی مخالفان دولت با آمپول هوای پزشک احمدی مخوف خاموش شود. پس از این است که کاراخان،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0069.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: قائم‌مقام کمیسر امور خارجه شوروی، به ایران آمده و جلساتی هم با نخست‌وزیر و وزیر خارجه برگزار می‌کند به این امید که راهی", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0070.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: این دیدار البته رضاشاه را بیشتر به وزیر اسبق ظنین کرده و دست آخر هم شخص ایشان در پاسخ به جناب کاراخان از وضعیت وزیرش می‌گوید که:", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0071.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: «از قضا حال مزاجی تیمورتاش چندان خوب نیست و شاید مرده باشد.» آن شب خنک پاییزی، در خانه سردار اسعد وزیر جنگ،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0072.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: و به گفته خانم ایران‌دخت تیمورتاش، جناب آیرم چند ساعتی از مهمانی بیرون می‌رود و در هنگام خداحافظی هم می‌گوید شام منتظر من نباشید", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0073.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: و بعد هم به قصد پایان دادن به قصه تیمورتاش، به همان زندان قصر و سلول انفرادی‌ای می‌رود که بعدها", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0074.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: به نام «دخمه تیمورتاش» معروف می‌شود. پس در آن شب غریب، پزشک احمدی، بازوی اجرایی قتل‌های بی‌شمار زندان قصر،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0075.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: به گفته رئیس داروخانه سپه، نسخه‌ای می‌نویسد که اگر یک قاشق آن را در استخر بزرگی می‌ریختند، هرکس", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0076.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: پس پزشک داروخانه هم از پیچیدن این نسخه امتناع می‌کند و ناچار جناب آیرم شخصاً به داروخانه تلفن زده و دستور تحویل داروها را می‌دهد.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0077.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: هرچند جانِ این عبدالحسین تیمورتاش سرسخت که سال‌هاست به زهر تریاک آغشته شده، حتی در مقابل این‌همه سم هم", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0078.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: مقاومت کرده و ناچار پزشک احمدی وارد عمل شده و با قربان‌صدقه، دوباره قاشقی از آن زهر را به گلوی ایشان می‌ریزد.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0079.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: بعد هم مأموران، زندانی بیچاره را در آن دخمه رها کرده و به امید مردنش ثانیه‌شماری می‌کنند، اما خبری از عزرائیل نمی‌شود", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0080.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: که نمی‌شود. دست آخر دیگر پزشک احمدی مجبور شده با آمپول هوای مشهورش به سراغ تیمورتاش برود و چون ایشان هم", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0081.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: تا پای جان مقاومت می‌کند و حتی آن ماشین کشتار را دندان می‌گیرد و کتک می‌زند،", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0082.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: دیگر همه مستأصل شده و بالش را روی صورت او گذاشته و جانش را می‌گیرند.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0083.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: خانم ایران‌دخت تیمورتاش، که بعدها نویسنده و روزنامه‌نگار شهیری شده، می‌نویسد که: «این بالش خون‌آلود، تنها چیزی بود که از زندان پدرم", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0084.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: برای ما ارسال داشتند.» بالاخره در آن مهر مخوف، جناب تیمورتاش از بند تن رها می‌شود، اما قصه مهیبِ مرگِ", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0085.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: پدر، ایران‌دخت تیمورتاش را تا روز انتقام رها نمی‌کند.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0086.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: سرلشکر آیرم هم عاقبت روزی از ترس خشم رضاشاه به آلمان می‌گریزد و در تنهایی و غربت می‌میرد.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0087.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: و شخص رضاشاه هم دست آخر به دام همان روسیه و بریتانیای همیشه مداخله‌گر می‌افتد و برای ابد تبعید می‌شود.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0088.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: اما آن زن جسور این‌قدر در دادخواهی خون پدر پافشاری می‌کند که بالاخره", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0089.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: باعث دستگیری پزشک احمدی در عراق شده و دادگاه و مراسم اعدام یکی از قاتلین پدرش را به چشم می‌بیند.", "audio_path": "/content/drive/MyDrive/tts/Aud6/Aud6_0090.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: عباسعلی گفت: «فکر کردیم شما جلوتر هستید آقا.» گفتم: «جلو کجاست؟ فقط صد متر فاصله داشتم. من هیچ، شتر به آن بزرگی...» و در دلم ناسزایی به او گفتم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0001.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: گفت: «یکهو غیب‌تان زد آقا.» گفتم: «راهنما که تو باشی...» جوابم را نداد، اما پیدا بود که رنجیده. یک نفر را فرستادم شتر را بیاورد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0002.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: تا عصر یک‌بند راه رفتیم. برای ناهار هم نایستادیم تا زمان از دست رفته جبران شود. معلوم بود همه ناراحت‌اند چون هیچ‌کس چیزی نمی‌گفت.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0003.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: عصر نزدیکِ «چاه قنوت» چادر زدیم. روز ششم، پنجشنبه، ۱۵ اسفند. ۳۸ درجه و ۳۰ دقیقه‌ی شرقی،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0004.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: ۲۸ درجه و ۳۰ دقیقه‌ی شمالی. صدای زنگ شترها آواز خوشی دارد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0005.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: روی شتر پشمالوی قهوه‌ای رنگ نشسته‌ام که از شتر دیروزی خوش‌خلق‌تر است و سرِ راه،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: بی‌آنکه از سرعت قدم‌هایش بکاهد، خاری را که انتخاب کرده می‌کند و می‌جود. هنوز چند ساعتی مانده تا پشت و گردنم درد بگیرد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: هوا بسیار سرد شده و کمربندی از ابرهای سیاه جلوی رویمان را گرفته. چه کویر اسرارآمیزی. پگاهِ نخست،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: انعکاس نور ضعیفی از خورشید، مثل خط زرد محوی در افق ظاهر شد. بعد رنگ آسمان لاجوردی، نور بیشتر شد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: افق آبی تیره و بعد آبی روشن؛ سپس نور نارنجی و سرخ افق را فراگرفت و خورشید اندک‌اندک بالا آمد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: حوالی ۱۰ صبح آسمان کاملاً مه‌آلود بود و بعد برف ریز و سبکی آغاز شد و لایه‌ای نازک روی زمین را پوشاند که به سرعت", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: آب می‌شد. شترهای جلوی قافله مثل اشباحی در مه و برف پیدا و ناپیدا می‌شدند. حوالی ظهر دما دو درجه زیر صفر بود", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: و پوشش برف ضخیم‌تر. برف شترها را همانند غول‌هایی سفید کرد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: ساعت ۲ ایستادیم و با ذخیره‌ی علف‌های خشکی که غذای شترها بود آتشی روشن کردیم تا گرم شویم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: بعداً می‌توانیم مقداری بوته‌های خار جمع کنیم. حبیب‌الله ناهار ما را روی آتش گرم کرد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: غذای ساربان‌ها روغن داغ و نان خشکیده‌ست که در آن تلیت می‌کنند. بعضی وقت‌ها هم نان و کشکِ شتر، و آن را با لذت می‌خورند.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: فکر کنم تا پایان سفر هر روز غذایشان همین باشد. بعد از ناهار بارش برف شدت گرفت. تصمیم گرفتیم همان‌جا چادر بزنیم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: می‌باید آتش را دائم روشن نگه داریم. حوالی ۹ شب برف بند آمد و ماه از لای ابرها سر بیرون کرد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: منظره‌ی کویرِ سفید و مهتابی جادویی بود. روز هفتم، جمعه، ۱۶ اسفند. ۳۷ درجه و ۳۰ دقیقه‌ی شرقی،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: ۲۷ درجه و ۳۰ دقیقه‌ی شمالی. روی چادرهایمان برف شبِ قبل یخ زده.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: وقتی از چادر بیرون آمدم، برف تا بالاتر از مچ پایم می‌رسید و مه آبی‌رنگی که اندکی غیرعادی می‌نمود همه‌جا را پوشانده بود.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: مه آنقدر غلیظ بود که دو متر دورتر را نمی‌شد دید.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: مسیر را با اندازه‌گیری دقیق مشخص کردم. اکنون در ارتفاع ۸۴۰ متری دریا هستیم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: با مختصات جغرافیاییِ ۳۳ درجه‌ی جنوبی در سمت شمالِ شرقیِ «سیاه‌کوه»، از ۳۵ درجه‌ی جنوبی تا «کوه گوگرد» در جنوب،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: ۸۳ درجه‌ی شمالی. هر روز به‌طور متوسط باید ۱۵ تا ۲۰ کیلومتر راه بپیماییم. دستور جمع‌آوری بارها را دادم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: این آقای «جوجه‌مهندس» در بستن بارها هم از خود قابلیتی نشان نداد؛ جعبه‌ی وسایل الکترونیکی را مثل جوال کاه روی شتر انداخت.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: ناچار شدم به او تذکر دهم، در حالی که اگر به من بود کارد می‌زدند... ساعت ۵ بعدازظهرِ همان روز؛ خسته، کوفته و عصبانی‌ام.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: مه غلیظ ما را سردرگم کرده. در حالی که به درستی مسیر اطمینان داشتم، چندین ساعت بی‌راهه رفتیم. اصلاً انتظار چنین هوایی را در این فصل نداشتم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: بلدهایمان هم اظهار تعجب می‌کنند. حوالی ۱۰ صبح مه به‌قدری غلیظ شد که فاصله‌ی ۵ متری هم قابل رؤیت نبود.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: شترش را به شتر من نزدیک کرد، اما عمداً راهم را کج کردم و در عین حال متوجه بودم تا به مقدار لازم مسیر را اصلاح کنم. اشتباه؟", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: به قطب‌نما اکتفا کردم و همه‌ی این‌ها تقصیر این جوانک ابلهِ جوجه‌متخصصِ تازه از پشت میز درآمده‌ است و", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: آن راهنمای نابلد که فقط یک بار تذکر داد که فکر می‌کند راه را درست نیامده‌ایم و بهتر است در جا اتراق کنیم تا مه رقیق شود.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: آقای دکتر هم که دائم سرگرم جمع‌آوری سنگ و خاک هستند، حتی در این هوای خراب. حوالی ظهر می‌باید به آب‌انبار «کله‌حوض» می‌رسیدیم،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: اما یکِ بعدازظهر هنوز نرسیده بودیم و نگرانی من شروع شد. توقف کردیم. سعی داشتیم مسیر درست را پیدا کنیم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: عباسعلی و حبیب‌الله هر کدام نظری متفاوت داشتند و دائم در مه ناپدید می‌شدند و برمی‌گشتند و مسیر تازه‌ای را پیشنهاد می‌کردند.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: یک تکه زیلو پهن کردم روی زمین و نقشه را روی آن باز کردم. سعی داشتم با قطب‌نما به آن‌ها حالی کنم که کجا بوده‌ایم و حالا کجا باید باشیم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: نمی‌دانم متوجه شدند یا نه؛ وانمود می‌کردند که شده‌اند. آقای مهندس هم زبانشان باز شد و گفتند متوجه اشتباه شده بودند و می‌خواستند به من بگویند،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: اما خب... چه باید می‌کردیم؟ سعی کردم در مسیری که همه فکر می‌کردیم درست است پیش برویم. خنده‌دار است.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: ساعت ۳ بعدازظهر متوجه تعدادی جای پای آدم و شتر بر روی برف‌ها شدیم. اول فکر کردم کاروانی همین ساعت از آنجا گذشته،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: اما هیچ صدای زنگ شتر یا گفتگویی را نشنیده بودیم. رد پاها را دنبال کردیم. دو بار از قطب‌نما استفاده کردم، جهت دیگری را نشان می‌داد. متحیر شده بودیم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: بعد متوجه شدم قطب‌نما به دلیلی، شاید وجود یک میدان مغناطیسی، از کار افتاده.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: ما در مسیری دایره‌وار چرخیده و به رد پاهای خودمان رسیده بودیم. کلافگی همه از حد گذشته بود.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: بوران هم کم‌کم شدت گرفته بود و پیدا کردن مسیر درست ناممکن بود. ناچار اتراق کردیم. ساربان‌ها شترها را دایره‌وار روی زمین خواباندند،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: بعد اسباب و اثاثیه و بار علوفه‌های شترها را در ردیف بعدی چیدند و دست‌آخر هر سه چادر را با فاصله‌ی یکسان در وسط برپا کردند.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: وسط همه‌ی این‌ها، تلِ هیمه‌ی بزرگی از بوته‌های گز برافروختند. درست مثل یک اردوگاه جنگی. آتش که زبانه کشید و بالا رفت احساس خوبی به من دست داد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: بوران حریف آتش نمی‌شد. از خستگی اشتها نداشتم. به ساربان‌ها گفتم می‌خواهم کمی بخوابم. با لباس در کیسه‌خواب رفتم،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: اما سرما در بتونم رفته بود و می‌لرزیدم تا کم‌کم آرام شدم و خواب مرا با خود برد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: یک بار از خواب بیدار شدم. سکوت غریبی بود و تاریکی غلیظ. معمول بود که کسی هیمه را تا صبح روشن نگه دارد برای فراری دادن حیوانات وحشی،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: اما هیچ نوری به چشم نمی‌خورد. صبح که چشم گشودم احساس تنگی نفس می‌کردم و هنوز تاریکی بود.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: بعد به یادم آمد که نیمه‌شب سرم را در کیسه‌خواب فرو برده و زیپ کیسه را تا آخر کشیده بودم. سعی کردم زیپ را باز کنم اما نمی‌توانستم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: احساس خفگی به من دست داد. نمی‌توانستم نفس بکشم تا زیپ به نوک انگشتانم خورد و آن را باز کردم و با نفسی عمیق هوای سرد را فرو دادم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: هوا روشن بود. از چادر خارج شدم. آسمان صاف و آفتابی شده بود و دورنمای وسیعی از کویر برفی پیشِ رویم بود. همه‌جا سفید بود،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: به جز لکه‌های سیاهی در دوردست، احتمالاً بلندی‌های کوه گوگرد. ساعت ۸ بود، اما هنوز همه در خواب بودند.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: حتی ساربان‌ها که عادت داشتند صبح زود بیدار شوند. عباسعلی را صدا زدم و دوباره صدا زدم تا با صدایی خشک جوابم را داد و از چادر بیرون آمد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: پرسیدم چرا زودتر بیدار نشده‌اید؟ گفت: «مگر دیشب سر و صداها را نشنیدید؟ حیوان‌ها بی‌قرار شده بودند.» گفتم: «برویم دوری بزنیم.» شترها سفیدپوش شده بودند.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: هیچ رد پایی دیده نمی‌شد. عباسعلی گفت: «لازم نیست. حیوانات وحشی تا این نزدیکی‌ها بیایند شترها از دور بویشان را احساس می‌کنند.» گفتم:", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0056.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: «زودتر چادرها را جمع کنند تا راه بیفتیم.» روز هشتم، شنبه، ۱۷ اسفند. ۳۷ درجه و ۳۰ دقیقه‌ی شرقی،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0057.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: ۲۶ درجه و ۳۰ دقیقه‌ی شمالی. دوباره مه آبی‌رنگ همه‌جا را پوشانده. بعد از نوشیدن یک لیوان چای جوشیده‌ی خیلی شیرین قرص‌هایم را بلعیدم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0058.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: اهالی کویر عادت دارند چای و شکر و آب را یک‌جا روی آتش می‌گذارند و معجون غریبی به دست می‌آید.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: یک ساعت بعد حرکت کردیم. باران ریز و سردی شروع به باریدن کرد. همه‌چیز به زودی خیس خواهد شد. لباس‌هایم از همین حالا مرطوب شده.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: سرم را زیر مشمای نازکی فرو برده‌ام و دارم این یادداشت‌ها را خط‌خطی می‌کنم. حرکت شتر نمی‌گذارد خوانا بنویسم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: هنوز یخ‌زده است و شترها با احتیاط گام برمی‌دارند. برای آنکه اتفاق دیروز تکرار نشود مکرر به قطب‌نما و نقشه مراجعه کردم، اما هنوز مطمئن نیستم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0062.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: باید وقتی هوا صاف شد از ارتفاع‌سنج و زاویه‌یاب استفاده کنم، اما فعلاً امیدی به صاف شدن هوا نیست. ساعت ۱۱ صبحِ همان روز؛", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0063.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: اندکی رقیق‌تر شده. در دره‌ای کم‌عمق به طرف جنوب شرقی می‌رویم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0064.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: بستر این دره پوشیده است از سنگ‌های کریستالی به رنگ‌های سبز و سرخ و جگری و زرد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0065.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: اگر آنطور که حبیب‌الله می‌گوید عقیق باشند، ثروت هنگفتی در اینجا ریخته، اما تقریباً یقین دارم که ارزش چندانی ندارند.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0066.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: شاید هنگام بازگشت مقداری از آن‌ها را جمع‌آوری کنم. حبیب‌الله می‌گوید:", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0067.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: این‌ها بعد از وزش بادهای تند زمستانی از زیر خاک بیرون می‌آیند و فقط مواقع نادری می‌شود آن‌ها را پیدا کرد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0068.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: خود ساربان‌ها جیب‌هایشان را پر کردند از این سنگ‌ها، تا جایی که حسابی وسوسه شدم مقداری از آن‌ها را در خورجینم بریزم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0069.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: حالا از برف و شنِ نرم و چسبنده‌ای که مانع از حرکت شترها می‌شود خبری نیست. این طرف و آن طرف جوانه‌های تازه‌ای هم روی بوته‌های گز می‌بینم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0070.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: آنقدر نمونه‌سنگ در کوله‌ی خود ریخت که نتوانست آن را بار شتر کند و ناچار از دیگران کمک گرفت. دکتر معینی هم اعتقاد دارد این سنگ‌ها ارزشی ندارند.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0071.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: او آدم مرموز و کم‌حرفی‌ست. برخلاف موسوی زیاد دلش نمی‌خواهد به کسی نزدیک شود. به هر حال کار خودش را می‌کند و به کسی هم کاری ندارد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0072.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: گرچه چند بار جمع‌آوری نمونه‌ها موجب شد از کاروان عقب بماند، برای همین به او تذکر دادم. لابد او هم دلخور شد. نزدیک ظهر مه کنار رفت.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0073.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: کوه گوگرد حالا واضح‌تر پیداست. این کوه یک مخروط کامل است.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0074.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: از همین حالا بوی رقیق گازهای سولفور را احساس می‌کنم. ساعت ۲ بعدازظهر؛", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0075.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: دوباره مه از جایی که نمی‌دانم کجاست سر برآورد و کمی بعد آنقدر غلیظ شد که حرکت ناممکن بود. چادر زدیم و من کمی نوشتم،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0076.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: بعد در کیسه‌خواب رفتم و ساعتی خوابیدم. وقتی بیدار شدم به حبیب‌الله گفتم غذایی آماده کند. معلوم شد مدتی که در خواب بوده‌ام غذا درست کرده و خورده‌اند.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0077.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: برای من هم آورد اما سرد و از دهن افتاده بود. یکی‌دو لقمه خوردم. حبیب دمِ در چادر نشسته بود. منتظر بودم برود اما به حرف آمد. کمی حاشیه رفت، بعد گفت:", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0078.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: «آقا یه مطلبی هست که باید بگم.» یادداشت مهندس موسوی: برخورد ایشان با حبیب بسیار تند و بی‌ادبانه بود و موجب نارضایتی ساربان‌ها؛", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0079.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: برای همین آن‌ها زمزمه‌ی بازگشت را سر داده بودند. حدس زدم که نباید مطلب خوبی باشد. پرسیدم: «چیست؟» گفت: «آقا ساربان‌ها ناراحت‌اند. خودتان که می‌دانید", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0080.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: آن کوه و قلعه شهرت خوبی ندارد. این سرزمین نفرین شده است.» می‌دانستم اما خودم را به ندانستن زدم. گفتم: «یک مشت آدم گنده!", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0081.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: این‌ها مزخرف است، خنده‌دار است.» گفت: «نه آقا، نه خنده‌دار است و نه مزخرف.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0082.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: ما از جد اندر جدِمان چیزهایی شنیده بودیم، حالا هم سر و صداهای چند شب قبل... شما نشنیدید؟ صدای حیوان نبود. بعد هم نورهایی که...»", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0083.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: گفتم: «مسخره است. یعنی می‌خواهند برگردند؟ مگر از اول نمی‌دانستند؟ مگر قرار نگذاشته‌ایم؟» صدایم بالا رفته بود.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0084.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: «تمام برنامه‌ی ما و مخارجی که کردیم به هدر می‌رود.» بعد فکری کردم و گفتم: «ما از اول با هم دست دادیم مردِ حسابی. برو یک جوری راضی‌شان کن.»", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0085.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: فکر می‌کنم حرف آخر اثر کرد. گفتم: «خب چه می‌گویی؟» گفت: «حالا من باهاشان حرف می‌زنم. از چشم من نبینید ها، والله من بی‌تقصیرم.» از چادر بیرون رفت.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0086.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: دیدم آن‌ها را صدا کرد، دور هم جمع شدند. احساس کردم نتوانست آن‌ها را راضی کند. مهندس موسوی و دکتر معینی را صدا کردم و نظر آن‌ها را پرسیدم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0087.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: معینی گفت: «بگذارید هرکس می‌خواهد برگردد.» پیشنهادش عملی نبود. با افرادی که احتمالاً باقی می‌ماندند نمی‌توانستیم این‌همه بار و تجهیزات را حمل کنیم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0088.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: البته اگر کسی باقی می‌ماند! موسوی پیشنهاد کرد دستمزدهایشان را بیشتر کنیم. با این پیشنهاد مخالف بودم، اما راه‌حل دیگری به نظرم نرسید.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0089.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: با داد و بیداد هم کار پیش نمی‌رفت. این بار عباسعلی با قدم‌های مردد به طرف چادر آمد. قبل از آنکه حرفی بزند گفتم: «برو بگو دستمزدتان را زیاد می‌کنیم.»", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0090.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: یک لحظه معطل ماند، اما چیزی نگفت و برگشت. یک ربع بعد از آتشی که شعله‌هایش بالا رفت فهمیدم که جوابشان چیست.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0091.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: اما آخرِ شب در کمال تعجب از معینی شنیدم که می‌خواهد برگردد. دلیلش را پرسیدم. اول طفره رفت بعد گفت احساس بدی دارد و حرف‌های ساربان‌ها را تکرار کرد.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0092.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: گفتم: «آقای دکتر شما تحصیل کرده‌اید، به این خرافات توجه نکنید. اگر مبنای درستی داشت این‌ها با اضافه کردن دستمزد هم نمی‌ماندند.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0093.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: در ضمن، با این هوای متغیر چطور می‌خواهید برگردید؟ یقیناً راه را گم می‌کنید. تازه حیوانات وحشی...» حرف‌های دیگری هم زدم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0094.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: با اکراه رضایت داد، به شرط آنکه پای کوه بماند تا ما بازگردیم. گفتم:", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0095.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: «این هم ایراد دارد. اولاً معلوم نیست که بتوانیم درست از همان مسیرِ رفت بازگردیم. دوم اینکه ماندن شما موجب می‌شود ساربان‌ها بیشتر بترسند و...»", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0096.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: بلند شد و رفت. نیمه‌شب اتفاقی عجیب و اعتراف می‌کنم کمی ترسناک افتاد. اول صدای حرف زدن عباسعلی و حبیب‌الله را شنیدم،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0097.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: پچ‌پچ موسوی را. به سرعت از کیسه‌خواب درآمدم و از چادر بیرون رفتم. پرسیدم: «چه شده؟» حبیب با دست به دورها اشاره کرد. در خط‌الرأس کوه،", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0098.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: نوری آبی‌رنگ به‌صورت نوار باریکی روی قله و ارتفاعات پایین‌تر به چشم می‌خورد. همه‌ی ساربان‌ها هم ایستاده بودند و مبهوت تماشای افق.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0099.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: نباید نشان می‌دادم که ترسیدم. گفتم: «احتمالاً شفق قطبی‌ست.» و دعا می‌کردم نپرسند شفق قطبی در اینجا برای چه؟! موسوی گفت:", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0100.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: «احتمال دارد هاله‌ی مکثر باشد.» و چون دید منتظر توضیح او هستم گفت: «هنگامی که هوا بسیار مرطوب باشد از شکست نور ماه به‌وجود می‌آید.»", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0101.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: توضیح خوبی بود اما نمی‌خواستم از حرف او تعریف کنم. معینی هم به کمک من آمد و گفت: «فکر می‌کنم میدان مغناطیسی شدید موجب بروز این پدیده شده، در این باره مطالبی خوانده‌ام.»", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0102.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: گفتم: «بله، یک همچین چیزایی‌ست. بروید بخوابید، باید صبح زود حرکت کنیم.» در حالی که احساس می‌کردم قلبم تندتر می‌زند به چادر برگشتم.", "audio_path": "/content/drive/MyDrive/tts/Aud7/Aud7_0103.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: ماجرای به تخت نشستن سریع و فوری ناصرالدین شاه", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0002.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: آقاباشی، خواجه‌باشی شخصی ملک‌جهان خانم که چند روز است بین کاخ محمدیه و باغ نیاوران در رفت‌وآمد است، بالاخره", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0005.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: آن خبر بااهمیت را به گوش خانم می‌رساند: «کار تمام شد.» این خبر، همان سطر پایانی روزگار محمدشاه قاجار", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: و جمله آغازین پادشاهی ناصرالدین‌میرزای ۱۷ ساله است که بی‌خبر از مرگ پدر، در تبریز روزگار می‌گذراند.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: اگرچه مادر متنفذ و توانایش، ملک‌جهان خانم، همسر اول محمدشاه، مدتی‌ست در باغ نیاوران منزل کرده و روزها را به جهت نفع فرزند می‌شمارد.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: آن هم به اتفاق یار گرمابه و گلستانش، مادام فرانسوی، همسر حاج‌عباس گل‌ساز که به گفته‌ی خانم «کارلا سرنا»", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: جهانگرد ایتالیایی، ایشان را برای کسب قدرت آماده و راهنمایی می‌کند.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: بین ملک‌جهان خانم و شاهِ رو به موتِ قاجاری اما، سال‌هاست که جز احترام ظاهری و نفرت باطنی چیزی نیست. محمدشاه قاجار هم،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: آن‌طور که راویان اخبار گفته‌اند، دست از جهان شسته و جهت تزکیه نفس و اعراض از دنیا، زندگی دور از تجملی انتخاب کرده و", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: با کف‌دستی نان و کاسه‌ای سرکه و سوگلی محبوبش، خدیجه‌خانم کردستانی، در کاخ محمدیه تجریش روزهای آخر زندگانی را سر می‌کند.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: کار سلطنت را هم به‌کل به صدراعظم عجیب و غریبش، حاج میرزا آقاسی واگذار کرده. حال، ملک‌جهان خانم", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: برخلاف همسر تاجدارش، میل بسیاری به خودنمایی و نیز زندگی مجلل پادشاهان ممالک قدرتمند داشته و", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: گویا صاحب دستگاهی عظیم و باشکوه است. در حقیقت، این ملک‌جهان خانم، با توجه به وصیت‌نامه شخص آغامحمدخان قاجار،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: از همان اوان کودکی برای همسریِ سلطانِ آینده و زادن و تربیت فرزندی با خون مستقیمِ «قوانلو قاجار» انتخاب شده بوده", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: و به همین جهت تربیتی متفاوت و در نوع خود بی‌بدیل داشته است.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: آن شب اما، پس از شنیدن خبر مرگ همسر تاجدار، ملک‌جهان خانم بلافاصله چادر به سر انداخته، دستور به حرکت از کاخ نیاوران", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: به سمت کاخ محمدیه را داده و به‌سرعت خودش را به بالین شاه مرحوم می‌رساند. به‌طوری‌که به قول خانم مونس‌الدوله خاطره‌نویس، ایشان", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: در زمانی به قصر محمدیه پا می‌گذارد که هنوز تن مرحوم گرم است. پس آن خانم چنین می‌نویسد: «مهدعلیا زودتر از هر کار،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: دستور داد تمام جواهرات عباس‌میرزا مُلک‌آرا و هوویش، مادر عباس‌میرزا را ضبط کنند و مادر و پسر را در عمارت دیگری زیر نظر بگیرند.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: بعد دنبال چند مجتهد فرستاد که ترتیب دفن جنازه را بدهند. هنوز صبح نشده بود که به دستور مهدعلیا،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: جنازه محمدشاه را با تشریفات رسمیِ باشکوهی از تجریش به باغ لاله‌زار بردند و آنجا به امانت گذاشتند.» باغ لاله‌زار اما،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: باغی در نزدیکی دارالخلافه تهران است و آن خانم هم پس از انتقال همسر مرحوم به نزدیکی تهران، خود را «نایب‌السلطنه ناصرالدین شاه» می‌نامد.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: یعنی همان پسر جوانی که هنوز با نام ناصرالدین‌میرزا در تبریز و تحت آموزش و همراهی همان میرزاتقی‌خان شهیر است.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: در ضمن به علت بی‌توجهی همان پدر تاجدار، حتی امکان سفر به دارالخلافه را بدون کمک این والده مقتدر و آن معلم توانایش ندارد.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: ملک‌جهان خانم که من‌بعد «مهدعلیا» نامیده می‌شود،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: پشت پرده جلوس کرده و بزرگان قاجاری را به حضور طلبیده و اعلام می‌کند که تا زمان رسیدن ناصرالدین شاه جوان به تهران، به جای او نشسته و", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: حکومت خواهد کرد: «شما باید پایتخت و مملکت را امن و امان نگاه دارید و نگذارید آشوب و غوغایی بشود.»", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: اگرچه بعضی از آن بزرگان و شاهزادگان هنوز در پذیرش دستور ملک‌جهان خانم مرددند؛ شاید چون عادت به دستور گرفتن از هیچ زنی را ندارند.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: بعضی از ایشان هم گویا از طرفداران صدراعظم شاه، جناب حاج میرزا آقاسی‌اند", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: که با شنیدن خبر پایان سلطنت محمدشاه، در املاکش پنهان شده و از تبعات خشم آن خانم می‌گریزد. دلیل این خشم هم اولا", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: محبت و ارادت خاضعانه شاه قبلی‌ست به همین صدراعظم؛ مردی که به تصور سلطان، پیر و مرشد بوده و توانایی پیشگویی و", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: آینده‌نگری داشته است. هرچند که سیاست‌های عجیب و غریب آن صدراعظم بارها باعث و بانی شروع هزار دردسر و جدال بوده است.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: به قول «کنت دو سرسی» سفیر فرانسه: «اصلا از بدبختی مملکت است»", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: برعکس آن صدراعظم اما، خانم مهدعلیا در سیاست و کیاست چیره‌دست و در اداره امور بسیار تواناست.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: پشت همان پرده زنبوری‌اش، با تحکم شهر را از دست اوباش و اشرار در امان نگه داشته و تدارک سفر پسرش به تهران را نیز،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: می‌چیند. اما اوضاع و احوال شاهزاده جوان به‌شدت بغرنج است و حتی گفته می‌شود که برای آغاز این سفر، توسط میرزاتقی‌خان", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: مبلغی از حاج محمدمهدی ملک‌التجار وام گرفته می‌شود تا شاه جوان بدون دغدغه این راه دراز را پیموده و در کمال آرامش", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: بر اریکه شاهی تکیه زند. ناصرالدین شاه جوان هم به محض رسیدن به تهران، همان جناب میرزاتقی‌خان را به سمت صدراعظمی ایران منصوب می‌کند:", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: «امیرنظام، ما تمام امور ایران را به دست شما سپردیم و شما را مسئول هر خوب و بدی که اتفاق افتد می‌دانیم. همین امروز", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: شما را شخص اول ایران کردیم.» و این مهر و ارادت هم از نظر آن خانم، هیچ مقبول نبوده و باعث کدورت فراوان می‌شود.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: یحتمل هم به جهت سوابق ارادت شاه سابق به صدراعظم سابق، و نیز به دلیل بی‌علاقه بودن خانم مذکور", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: به داشتن هر نوع رقیبی در مهر فرزند؛ تو از میرزاتقی‌خان بگیر تا «جیران خانم تجریشی».", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: سلطان جوان اما از اقتدار بی‌مانند وی باخبر است،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: چون دیگر به گوش همه مردم ایران رسیده که مهدعلیای ۴۲ ساله، چطور به حاکمان ولایات دستور داده", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: که هر نوع آشوبی با اعدام و ضبط اموال پاسخ داده خواهد شد. پس خانم سیاست داخلی را تمام کرده، به سراغ سیاست خارجی می‌رود", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: و به کمک یار غارش، همان مادام فرانسوی همسر حاجی‌عباس گل‌ساز، برای سفرای روس و انگلیس کاغذ دعوت می‌فرستد.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: بعد هم در حضور جناب اعتضادالسلطنه و با کمک همان مادام حاجی‌عباس، با ایشان هم صحبت شده و به تمامی سوالات آن‌ها", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: با توانایی مبسوطی که در میان زنان آن دوره بی‌نظیر است، پاسخ می‌دهد. سفرا بعد از تعارف و احوال‌پرسی گفتند:", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: «شنیده‌ایم که شما حاج میرزا آقاسی صدراعظم را معزول کرده‌اید. بهتر است", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: صدراعظم باشد تا ناصرالدین شاه به تهران بیاید و تکلیف او را معلوم کند.» مهدعلیا تا این حرف را شنید، با اوقات‌تلخی گفت:", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0056.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: «شوهرم محمدشاه مرده و پسرم ناصرالدین شاه در تبریز است. من با موافقت بزرگان مملکت تا آمدن پسرم همه‌کاره هستم", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0057.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: و چنین صلاح دیدم که حاج میرزا آقاسی را عزل کنم. اما شما که سفیر دو دولت خارجی هستید، ابداً حق ندارید در کارهای ما مداخله کنید.»", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0058.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: این سطور هم نقل‌قولی‌ست از همان خانم مونس‌الدوله که روزگار قاجار را به چشم دیده است. اگرچه «لیدی شیل»", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: همسر سفیر بریتانیا هم در همان دوران با خانم مهدعلیا دیدار کرده است، یعنی زمانی که ایشان دیگر لقب نایب‌السلطنه دارد", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: و زیر نامه‌های رسمی دولت مهر می‌زند که: «شه جم‌نگین را مهین مادرم». پس لیدی شیل،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: والده شاه را زنی زیبا و باهوش توصیف می‌کند که علاوه بر اداره امور اندرونِ شاه، در امور مملکتی نیز دخالت می‌کرده است.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0062.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: یعنی درست همان دلیلی که باعث و بانی به تخت نشستن ناصرالدین شاه شده است.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0063.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: با وجود خودخواهی والده محمدشاه مرحوم و یا توطئه صدراعظم ایشان به امید به تخت نشستن عباس‌میرزا، برادر کوچک شاه", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0064.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: و فرزند همان سوگلی به تبعید رفته. اما راویان اخبار به جهت اثبات تأثیر خانم مهدعلیا بر پسر جوانش،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0065.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: از کاغذی مثال می‌آورند که گویا خانم به قصد هدایت فرزند در امور سلطنت به ایشان نوشته است: «قربانت شوم،", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0066.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: من راضی نمی‌شوم خدای‌نخواسته شما ظلم بفرمایید. این سوارها و سربازها که در رکاب شما آمده‌اند، در شهر می‌آیند، بی‌حسابیِ بسیار می‌کنند.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0067.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: به امیرنظام بفرمایید قدغن بکند، بی‌حسابی نشود.»", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0068.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: و اما در حاشیه این نامه هم، شخص ناصرالدین شاه خطاب به میرزاتقی‌خان دستخطی مرقوم کرده است به این شرح: «امیرنظام، قدغن کن.", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0069.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: البته، البته، البته، قدغنِ مضبوطی بکن.» دستخط و دستوری که شاید آغاز قصه‌ی بلند دیگری‌ست؛ حکایتی بر رقابت و نفرت این دو نفر:", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0070.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: جناب میرزاتقی‌خان فراهانی، همان امیرکبیر شهیر و خانم مهدعلیا، همین والده‌ی شاه", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0071.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: که چندین سال بر سر مهر و ارادت شاه جنگیدند. قصه‌ی بلند و تلخی که بازگفتنش، هزار و یک شب دیگر وقت و", "audio_path": "/content/drive/MyDrive/tts/Aud8/Aud8_0072.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: شب، اندکی بعد از آنکه به خواب رفتم، رؤیایی دیدم. مردانی گردِ هم، کنار آتش. چهره‌هایشان پیدا نبود. از خواب پریدم. چیزی به ذهنم رسیده بود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0001.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: قله‌سنگ‌ها، داو بود. دوباره دراز کشیدم. صدای مویه‌ای از دور به گوشم خورد. صبح روز بیست و سوم. نمی‌دانم روز چندم فروردین است.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0002.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: سایه‌ی کوهستان مثل هیولایی خاکستری و آبی جلوی نور خورشید را گرفته.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0003.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: لحظه‌ای نور بر قله تابید و بعد دوباره ابرها خورشید را پوشاندند. امروز شواهدی پیدا کردیم که کاملاً نظر مرا تأیید می‌کرد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0004.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: این قومِ گم‌شده مبادرت به خودکشیِ دسته‌جمعی کرده‌اند. با پیدا کردنِ چند اسکلت از نقاط دیگرِ قلعه که بعضی", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0005.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: قله‌سنگی بر کف داشتند و جمجمه‌شان از مابقی اسکلت جدا بود و نیز گودالی که در آن تعداد زیادی استخوان روی هم انباشته شده بود، سرنوشت دردناکشان معلوم شد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: این قوم مدتی طولانی در برابر حمله‌ی مغول‌ها مقاومت می‌کنند. آذوقه‌ی آن‌ها به پایان می‌رسد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: از سرنوشت دردناک خود در صورت تسلیم نیز آگاه‌اند؛ پس این راه را برمی‌گزینند. عده‌ای برحسب قرعه انتخاب می‌شوند.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: نخست کودکان و بعد زنان را می‌کشند. سپس میان خود قرعه می‌کشند تا چه کسانی دیگران را به هلاکت برسانند؛ تا نوبت به", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: نفر آخر می‌رسد که شمشیر را... گودال اسکلت‌ها در قسمت غربی بود. شاید چندصد اسکلت روی هم ریخته بود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: در میان آن‌ها حتی اسکلت بچه‌های شیرخواره نیز بود. ما چهار نفر بالای گودال ایستادیم و به این منظره نگاه می‌کردیم. هیچ‌کس چیزی نمی‌گفت.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: سرانجام من به حرف آمدم: «بد نبود تعداد این افراد را مشخص کنیم.» به کمک حبیب و عباسعلی، چند میخ در اطراف گودال فرو بردیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: بعد قلاب‌ها را به آن‌ها متصل کردیم و چند چراغِ باتری‌دار اطراف گودال روشن کردیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: طناب را به کمرم بستم و آرام‌آرام از دهانه‌ی گودال پایین رفتم. وقتی به تهِ گودال رسیدم دچار تردید شدم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: نمی‌توانستم پا روی این استخوان‌ها بگذارم. با کوچکترین حرکتی صدای خرد شدن آن‌ها را می‌شنیدم. تخمینِ تعداد آن‌ها هم به‌سادگی امکان‌پذیر نبود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: اصلاً این کار وظیفه‌ی من نبود. زیر پایم یک بافه‌ی گیسوی زنانه و یک لنگه پاپوش بچگانه پیدا بود. آن‌ها را برداشتم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: گفتم مرا بالا بکشند. عصر روز بیست و چهارم. برای چندمین بار تصویرهایی را که با نور مادون قرمز گرفتیم بررسی کردم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: شرح تصویرِ یک: بالای تصویر، ساعت ۲ و ۴۵ دقیقه و ۱۷ ثانیه‌ی بامداد را نشان می‌دهد. در گوشه‌ی تصویر", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: پرهیب باروی جنوبی دیده می‌شود. در همین لحظه سنسور اسیلوسکوپ ارتعاشات غیرعادی را نشان می‌دهد. سپس تصویر،", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: گویی در معرض پارازیتِ نوری قرار گرفته باشد، آشفته می‌شود. بعد برای یک دقیقه همه چیز عادی است. دوباره", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: از ساعت ۲ و ۴۶ دقیقه و ۱۷ ثانیه، چیزی روی تصویر ظاهر می‌شود. نمی‌توانم آن را درست شرح دهم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: چند بار تصویر را عقب و جلو بردم اما مشخص نشد چه چیزی است. مثل آن است که موجودی به‌سرعت از جلوی دوربین گذشته باشد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: درست مثل آن موجوداتی که از جلوی چشم من رد می‌شدند و می‌پنداشتم توهم بصری است. یادداشت مهندس موسوی:", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: ارتعاشات اسیلوسکوپ نوعی موج شدید نوسانی یا اسیلاتور است که بر اثر گره‌های مغناطیسی با فرکانس بالا تولید می‌شود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: هیچ چیز غیرعادی‌ای در آن داده‌ها وجود نداشت. اما این بار جهش‌های منفی اسیلوسکوپ نشان می‌دهد که واقعاً چیزی از برابر دوربین گذشته.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: قصد نداشتم موضوع را با حبیب و عباسعلی در میان بگذارم، اما سروکله‌ی هر دوی آن‌ها پیدا شد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: موسوی هم آمد و شروع کرد به دادن توضیحات فیزیکی که هیچ‌کس از آن‌ها سر در نیاورد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: منظورش این بود که اختلال از دستگاه است و هیچ پدیده‌ی غریبی در این ماجرا وجود ندارد. دیگر اصرار نکردم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: می‌خواستم درباره‌ی صداهای عجیبی که نیمه‌شب شنیده بودم صحبت کنم؛ نکردم. صدایی زنانه بود. مویه می‌کرد. یقین دارم صدای زوزه‌ی باد نبود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: اصلاً بادی نمی‌وزید. حتی حاضرم قسم بخورم که کلماتی را به‌وضوح می‌شنیدم، هرچند معنای آن‌ها را نمی‌دانستم. چیزی نگفتم. فقط", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: متوجه شدم هر دو با نگرانی به موسوی نگاه می‌کردند و دست‌آخر پیدا بود باور نکرده‌اند. روز بیست و پنجم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: هیچ‌کدام از دستگاه‌ها مختصات جغرافیایی را نشان نمی‌دهند. هوا ابری و سرد است.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: دیشب نه صدایی شنیدم و نه دستگاه‌ها پدیده‌ای غیرعادی را ثبت کردند.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: وظیفه‌ی ما نبود اما برای آنکه پروژه ناقص نماند، در سه نقطه گمانه زدیم. فعلاً چیز قابل‌توجهی پیدا نکرده‌ایم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: نیمی از پلاتِ قلعه را ترسیم و مساحی کرده‌ایم. صبح روز بیست و ششم، دستگاه اسکنر را در چهارضلعی اصلیِ بنا مستقر کردیم", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: تا طرح کلی بنا را اسکن کنیم. البته قلعه تقریباً به شکل ذوزنقه است. حالا به نکته‌ای غیرعادی برخوردیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: در ضلع شرقی احتمالاً سردابه‌ی وسیعی قرار دارد که از نظر ما پنهان مانده. برای همین تصمیم به حفاری در آن منطقه گرفتیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: تمام روز را به کلنگ زدن گذراندیم. من و موسوی همان ساعت اول از پا درآمدیم. عضلاتم هنوز کوفته است.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: اما حبیب و عباسعلی با آن هیکل‌های لاغر و خشکیده هنوز سرپا هستند. در دو نقطه توانستیم تا عمق دومتری پایین برویم،", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: اما به نوعی ملات غیرطبیعی برخوردیم که غیرقابل حفر است. حفاری با این شیوه ناممکن است. عصر روز بیست و ششم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: برحسب تصادف راه ورودی سردابه را پیدا کردیم. آن هم در نقطه‌ای که اصلاً گمان نمی‌بردیم. یادداشت مهندس موسوی: برحسب تصادف نبود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: وقتی اسکنر دستی به‌کار افتاد، ورودی سردابه را نشان داد. باید از اول تکیه‌ی ما بر اسکنر دستی می‌بود و آن‌همه بیهوده عرق نمی‌ریختیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: همان نقطه را حفر کردیم. ورودی آشکار شد. آقای دکتر دوست دارند، داشتند، همه چیز را تصادفی و وابسته به بخت و اقبال بدانند.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: عجیب است که شخصی با آن تحصیلات از منطق غیرعلمی پیروی کند. شاید به دلیل رشته‌ی تحصیلی‌شان است.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: به‌جز عادات شخصی، اختلاف عقیده‌ی ما دو نفر در این مورد هم عمیق بود. کنار دیوار یکی از برج‌های اصلی، توجه موسوی به حفره‌ای جلب شد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: مقداری سنگ و خاک را کنار زدیم. بناگاه چند پله‌ی سنگی ظاهر شد. از همان ابتدا معلوم بود که پا به مکان مهمی گذاشته‌ایم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: از کنده‌کاری‌های دو طرفِ پلکان پیداست. صفی از مردان، سر و روی پیچیده و بخوردان‌به‌دست. به گمانم تعداد پله‌ها زیاد باشد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: چون هوا تاریک شده بود بررسی سردابه را به فردا موکول کردیم. شارژ باتری به اندازه‌ی کافی نداریم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: امشب از روشن‌کردن چراغ خودداری می‌کنیم. خیلی هیجان دارم. ساعت ۱۱، روز بیست و هفتم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: تمام مصیبت‌های این چندروزه ارزش تحمل داشت. به گمانم کشف بزرگی کرده‌ایم. بزرگتر از بزرگ.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: پنهان ماندن این سردابه تا امروز از عجایب است. شاید هراس از این منطقه دزدان را از نزدیک شدن به اینجا برحذر داشته.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: همه چیز دست‌نخورده مانده. حالا هم از شدت هیجان نمی‌دانم از کجا شروع کنم ولی باید افکارم را منظم کنم. سردابه", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: ۱۰ متر طول، ۴ متر عرض و یک‌ونیم متر ارتفاع دارد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: شاید سقف آن را عمداً کوتاه ساختند تا دیدارکنندگانِ احتمالی سر خم کنند و به حالت تعظیم درآیند.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: دور تا دور سردابه تاقچه‌هایی هلالی‌شکل در سنگ کنده‌شده و در هر یک", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: ظرفی شبیه عطردان گذاشته‌اند که بر رویش شکل ماری منقوش است. یکی از عطردان‌ها را برداشتم و بوییدم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0056.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: بوی محو عطر را احساس کردم. آیا واقعاً بو به مشامم رسید؟ حالا که این یادداشت‌ها را می‌نویسم شک دارم. اما نه این‌ها", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0057.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: و نه ستون‌های تراشیده شده‌ی یک‌متری زیر هر تاقچه و اشیاء زینتی‌ای که بر روی آن‌ها چیده‌اند، به اندازه‌ی تابوت بزرگ", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0058.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: دونفره‌ای که در انتهای سردابه بود ما را شگفت‌زده نکرد. تابوت سنگی است", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: و روی آن را با سنگ فیروزه‌ی یکپارچه پوشانده‌اند که وسط آن نقش مار و گل است و مزین به سنگ‌هایی از جنس عقیق و لاجورد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: نقش مار و گل چنان در هم آمیخته که در وهله‌ی اول فقط شاخه‌های اسلیمی دیده می‌شود و فقط با دقت بیشتر تشخیص داده می‌شوند.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: درِ تابوت را با زحمت زیاد باز کردیم. زائده‌های سنگی در دو بدنه چفت شده بود. ناچار شدیم از اهرم فلزی استفاده کنیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0062.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: به‌رغم احتیاط فراوان، گوشه‌ای از در شکست و سنگ فیروزه‌ایِ روی آن ترک برداشت. یادداشت مهندس موسوی: احتیاط؟", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0063.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: بس‌که مانند بچه‌ها بی‌قرار بودند ایشان و فرصت ندادند تا با بررسی دقیق راهی برای باز کردن درِ تابوت پیدا کنیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0064.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: اما درون تابوت، به‌راستی منظره‌ای عجیب و تکان‌دهنده‌ای بود. دو اسکلت با جامه‌های باستانی فاخر، البته پوسیده.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0065.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: یکی زنانه و دیگری مردانه. به دور گردن اسکلت زن و دست‌هایش زیورآلاتی بود؛ گردن‌بند و دست‌بند و حلقه‌هایی بر انگشتان.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0066.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: اسکلت مرد با خنجری مزین به چند سنگ قدیمی. قیمت آن به میلیاردها می‌رسد. تا توانستم عکس برداشتم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0067.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: اما گرانبها بودن این گنجینه مرا هیجان‌زده کرد. احتمالاً تابوت و اسکلت‌های درون آن به دوران‌های کهن‌تر تعلق داشته", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0068.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: و این قوم برای آن جنبه‌ی قدسی قائل بوده و آن را از سرزمین اصلی با خود آورده بوده‌اند. در فرصتی مناسب انگشتر را از دست اسکلت زن درآوردم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0069.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: تماس انگشتم با استخوان‌های ظریف دست احساس خاصی در من پدید آورد. حلقه از طلا بود. اندکی زمخت با سنگی از فیروزه.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0070.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: متوجه شدم موسوی با حالتی خاص به من نگاه می‌کند. به او ربطی نداشت. این انگشتر سهم من بود از این اکتشاف. حالت نگاه او موجب شد خنجر را هم بردارم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0071.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: یادداشت مهندس موسوی: متأسفانه هیچ‌کدام از این جمله‌ها واقعیت ندارد. ما حفره‌ای را در گوشه‌ی یکی از برج‌ها پیدا کردیم که خالی بود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0072.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: ماجرای پیدا کردن سردابه و تابوت فیروزه، اسکلت و جواهرات، همگی خیالی است.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0073.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: از همه‌ی این‌ها عجیب‌تر حضور من در آن آرامگاه و عکسبرداری و چه و چه است. از تمام چیزهایی که دیدیم صورت‌برداری کردیم و عکس گرفتیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0074.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: چند ثانیه‌ای هم فیلم. شارژ باتری دوربین‌ها رو به اتمام است. بعد از اتمام این یادداشت می‌خواهم دوباره به سردابه بازگردم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0075.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: از تماشای آن منظره سیر نمی‌شوم. کشف بزرگی کرده‌ایم. اگر بتوانیم وجود پدیده‌های پارانورمال بیشتری را هم ثبت کنیم، عالی می‌شود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0076.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: علامت‌های تعجب و سؤال از مهندس موسوی. سر فرصت دستگاه‌ها را بررسی کردم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0077.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: یک دستگاه ثبت‌کننده‌ی اشعه‌ی مادون قرمز هم در سردابه گذاشتم. موسوی مخالف است و می‌گوید هیچ چیز غیرعادی در اینجا وجود ندارد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0078.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: علاوه بر آن، دستگاه‌های هواشناسی او نشان می‌دهد که هوا در روزهای آینده رو به وخامت می‌رود. روز بیست و پنجم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0079.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: صدای غریب آن مویه دیشب مرا راحت نگذاشت.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0080.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: صدای گریه را به‌وضوح می‌شنیدم و در زمینه‌ی آن صدای مراسم مرثیه‌خوانی، نوعی وردخوانی دسته‌جمعی.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0081.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: از ترس و هیجان از جایم تکان نمی‌خوردم. در ساعت ۲ نیمه‌شب صداها به ناگاه خاموش شد. با ترس سرم را از چادر بیرون بردم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0082.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: بارش برف شروع شده بود. خیلی زود سرما در سر و تنم رفت. بعد صدای زوزه‌ی گرگی را شنیدم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0083.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: کمی بعد زوزه‌ی دسته‌جمعی گرگ‌ها به گوش رسید. صبح عباسعلی خبر آورد که حبیب ناپدید شده. همه جا را به دنبال او گشتیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0084.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: هیچ رد پایی ندیدیم. احتمالاً قبل از شروع بارش برف به راه افتاده.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0085.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: شاید او هم صدای مویه‌ها را شنیده و از ترس به سمت پرتگاه جنوبی رفته و سقوط کرده. وقتی", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0086.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: این فرضیه را برای موسوی گفتم سر تکان داد و با حالتی مسخره پرسید: «کدام صدا؟ من که صدایی نشنیدم.»", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0087.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: برای آنکه مرا عصبانی کند با حالتی تمسخرآمیز از عباسعلی پرسید: «تو صدایی شنیدی؟» چشم‌های عباسعلی گرد شد اما هیچ نگفت.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0088.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: با خراب شدن هوا تصمیم گرفتیم بازگردیم. بساطمان را جمع کردیم. ناچار بودیم بار بیشتری حمل کنیم و کارمان دشوار بود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0089.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: متوجه شدیم حبیب مقداری از آذوقه‌ی ما را هم برده. واقعاً که بی‌وجدانی کرده، اما حمل همه‌ی وسایل ناممکن بود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0090.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: بنابراین سه‌پایه‌ی دوربین‌ها، چادرها و چند دستگاه را زیر یک طاقی گذاشتیم و با مشمع و برزنت روی آن‌ها را پوشاندیم", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0091.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: که تا هنگام سفر بعدی ما به این منطقه محفوظ بمانند. ساعت ۸ صبح، در مسیر بازگشت. ساعت ۴ بعدازظهر،", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0092.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: روز بیست و پنجم. دست‌هایم بی‌حس شده و به‌زحمت می‌نویسم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0093.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: بوران شدت گرفته و امیدی نداریم قبل از تاریک شدن هوا بتوانیم به پناهگاه برسیم. تازه اگر در این بوران مسیر درست را پیدا کنیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0094.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: حالِ روحی خوبی ندارم. چند روز است که داروهایم را نخورده‌ام. نمی‌توانم تصویری را که نزدیک ظهر دیدیم فراموش کنم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0095.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: حالا هم دوباره حالِ تهوع به من دست داد. بیچاره... چه عاقبت سیاهی پیدا کرد. به معنای واقعی از هم دریده شده بود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0096.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: تمام بدنش شرحه‌شرحه شده بود. انگار با تیغ جراحی با دقت، به رشته‌های باریک بریده شده باشد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0097.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: یقین دارم کار گرگ نیست. کار هیچ جانور دیگری هم نیست. هیچ‌یک از اعضای بدن خورده نشده. دلیل دیگر:", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0098.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: اثری از لباس‌هایش نیست. انگار ابتدا برهنه‌اش کرده و سپس دریده بودند. هر سه نفر به معنای واقعی فلج شده بودیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0099.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: بعد احساس کردم می‌لرزم. از سرما نبود. دیگر حالِ ادامه‌ی مسیر را نداشتم. یک بار مسافتی را روی برف و یخ سُر خوردم", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0100.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: تا توده‌ی برفی مرا متوقف کرد. هنوز استخوان لگنم درد می‌کند. دو بار مسیر را اشتباه رفتیم و به لب پرتگاه رسیدیم. ناچار شدیم بازگردیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0101.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: شب را در شکافی سنگی به صبح رساندیم. امکان برپا کردن چادر نبود. بدنم دردناک بود و در حال نیمه‌بی‌هوشی بودم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0102.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: در تاریکی صدای عباسعلی را شنیدم که مرا تکان می‌داد و چیزی می‌گفت. انگار کر شده بودم. بعد شنوایی‌ام بازگشت.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0103.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: داد می‌زد: «بلند شوید، دست و پایتان یخ می‌زند.» به‌زحمت عضلات خشکیده‌ام را صاف کردم و به راه افتادیم. وقتی هوا خاکستری شد،", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0104.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: برف آمد. خیس و گرسنه بودیم. ساعت ۱۰ صبح به قرارگاهمان رسیدیم. اما هیچ‌کس نبود. چادرها را جمع کرده و رفته بودند.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0105.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: اینجا و آنجا مقداری زغال و خاکستر، چند قوطی کنسرو. ناامیدی‌مان حد نداشت. چطور می‌بایست این مسیر را ادامه دهیم؟", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0106.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: عباسعلی با زغال‌های به‌جامانده آتشی برپا کرد. مقداری نان خشک خوردیم و خود را گرم کردیم. بعد چادر زدیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0107.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: داخل کیسه‌خوابم شدم و از هوش رفتم. به گمانم پنج ساعت تمام خوابیدم. وقتی بیدار شدم گیج بودم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0108.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: عباسعلی مقداری گوشت شتر پیدا کرده و روی آتش کباب کرد. معلوم بود شتر را برای غذایشان ذبح کرده‌اند.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0109.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: گوشت را به‌زحمت فرو دادم. رویش سوخته و داخلش خام بود. طعم شیرین و مسمومی داشت.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0110.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: بعد از غذا عباسعلی گفت: «حالا که خستگی در کرده‌ایم بهتر است زودتر حرکت کنیم.» پرسیدم: «چیزی شده؟» سریع تکان داد که معنایش «نه» نبود.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0111.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: کمی پایین‌تر لاشه‌ی چند شتر را دیدیم که به همان حالت مثله شده بودند و بعد در پشت تخت‌سنگی جنازه‌ی تکه‌پاره‌ی ساربان‌ها را...", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0112.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: نمی‌دانستیم چه بگوییم. حالا حسابی می‌ترسم. موسوی هم ترسیده و ترسش را پنهان نمی‌کند. به‌سرعت از آن منطقه دور شدیم.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0113.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: هفتصد هشتصد متر پایین‌تر با تکه‌پاره‌های چادرهایمان و وسایلی که بار شترها بود روبه‌رو شدیم. شکی نبود که همه چیز غیرعادی‌ست.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0114.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: باز هم چند جنازه. موسوی این بار نشست و استفراغ کرد. همه‌ی منطق و دانشش را بالا آورد.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0115.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: گرچه بعداً مدعی شد که میان خودِ آن‌ها دعوایی درگرفته و این بلا را سر هم آورده‌اند.", "audio_path": "/content/drive/MyDrive/tts/Aud9/Aud9_0116.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: یادداشت مهندس موسوی: توصیف دکتر معتمدی از نحوه پاره شدن اجساد، اغراق‌آمیز است.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0001.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: اعتقاد دارم یکی از ساربان‌ها دچار جنون شده و این جنایت به دست او صورت گرفته بود.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0002.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: هرچه هست می‌ترسم ما هم به این عاقبت شوم دچار شویم. خستگی و کوفتگی را از یاد بردیم و به راه افتادیم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0003.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: ساعت ۶ بعدازظهر. احساس می‌کنم چیزی به دنبال ماست. باید شتاب کنیم. غروب روز بیست و ششم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0004.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: عباسعلی یکی از شترهای ما را که مقداری بار و اثاثیه از پشتش آویزان بود، پیدا کرد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0005.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: این شتر احتمالاً به موقع از آن مهلکه گریخته بود، اما عباسعلی نمی‌توانست به او نزدیک شود.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: جانور رفتاری غیرعادی داشت و می‌رمید. هیچ رد پایی پیدا نکردیم. شتر را به هر زحمتی بود گرفتیم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: قرار شد به نوبت سوار آن شویم. کوه پشت سر ما هنوز در افق پیداست، هرچند کوچک،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: اما هراسی که از آن نصیب ما شده بسیار بزرگ است. عباسعلی عقیده دارد در شب هم به طی مسیر ادامه دهیم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: می‌گوید اگر با همین سرعت حرکت کنیم، فردا به حوض گسوند می‌رسیم. صبح روز بیست و چهارم. دیشب", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: بعد از استراحتی مختصر دوباره حرکت کردیم. عباسعلی اطمینان دارد که حتی در تاریکی هم می‌تواند مسیر را پیدا کند.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: موسوی نه موافقت کرد و نه مخالفت؛ بنا بر خلق و خویش ساکت ماند. علامت‌های تعجب از مهندس موسوی. مدتی سوار بر شتر بودم،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: اما خوابم گرفته بود و از ترس آن که مبادا سقوط کنم، پیاده شدم. از ساعت ۱ بامداد در حالتی شبیه به خواب راه می‌رفتم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: عباسعلی طنابی به شتر بسته و سرش را به دست ما داده بود تا از آن‌ها دور نشویم. ساعت ۲ بعد از نیمه‌شب،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: آسمان باز شد و دوباره خروار خروار گرد نقره بالای سرمان. بر حسب اتفاق به پشت سرم نگاه کردم؛", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: آسمان بالای کوه سیاه بود، مثل قیر. خواب از سرم پرید. فکر کردم ابری آن تکه از آسمان را پوشانده،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: اما سیاهی آن با تیرگی ابر شبانه تفاوت داشت. نزدیک ساعت ۳ بامداد، صدای فریاد عباسعلی مرا به خود آورد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: اول داد می‌زد که نزدیک نشویم، بعد نعره زد که کمک کنیم. درست نمی‌دیدم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: موسوی چراغ‌قوه‌اش را روشن کرد. معلوم شد که در باتلاقی فرو رفته. دست‌پاچه شدیم. نمی‌دانستیم چه باید بکنیم. موسوی داد زد که تقلا نکن،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: اما عباسعلی نشنید، یا ترسیده بود و بیشتر به تقلا افتاد. سعی داشت خودش را بیرون بکشد. نعره می‌زد: «تو را به خدا زود باشید.»", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: دنبال طناب می‌گشتیم که پیدا نکردیم. تا گره طنابی را که به دست من داده بود باز کنیم، نیمه تنش در گل فرو رفته بود. طناب کوتاه بود.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: خواستیم از افسار شتر کمک بگیریم، اما دست‌پاچگی و ناشی‌گری موسوی باعث شد حیوان بترسد و سر خود را عقب بکشد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: یادداشت مهندس موسوی: عجب! دست‌پاچگی و ناشی‌گری من؟", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: موسوی تقلا کرد تا گردنش را بگیرد، اما حیوان نعره می‌زد و او را به این طرف و آن طرف می‌کشاند.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: حالا عباسعلی تا بالای سینه‌اش فرو رفته و فقط سر و دست‌هایش بیرون بود.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: به کنار باتلاق رفتم، روی سینه دراز کشیدم و طناب را به طرفش پرت کردم. در تاریکی سر طناب را نمی‌دید.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: سعی کردم جلوتر بروم، اما دست‌هایم در لبه باتلاق فرو رفت. موسوی شتر را رها کرد و با چراغ‌قوه صحنه را روشن کرد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: بعد طناب را از من گرفت و پرتاب کرد. سر طناب به عباسعلی نرسید.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: اما خود موسوی هم تعادلش را از دست داد و در باتلاق فرو رفت. حالا او هم نعره می‌زد و کمک می‌خواست.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: به طرف او رفتم و دستش را گرفتم و بعد یقه‌اش را و به موقع توانستم او را بیرون بیاورم. یادداشت مهندس موسوی: از شما متشکرم آقای دکتر که نجاتم دادید.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: اما چه فایده؟ وقتی دوباره چراغ‌قوه را برداشتم و به سطح باتلاق انداختم، دیگر اثری از عباسعلی نبود.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: بی‌احتیاطی موسوی باعث شد از عباسعلی غافل شویم. همان کنار باتلاق روی زمین وا رفتم و بعد روی شن‌ها دراز کشیدم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: وقتی به خود آمدم، سحر شده بود. چراغ‌قوه دستم بود، اما نور ضعیف آن نشان می‌داد که باتری‌اش به آخر رسیده.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: شتر هم در میانه قیل‌وقال فرار کرده بود. حالا کویر بی‌انتها عظمتش را به ما نشان می‌دهد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: هوا ابری شده و باد با صدایی غریب لای بوته‌ها می‌پیچد. آخرین یادداشت‌هایم را می‌نویسم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: این مرگ، این نفرینی که به دنبال ماست، به زودی جان ما دو نفر را هم می‌گیرد. یقین دارم؛ اما به چه شکل و چه زمان،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: نمی‌دانم. روایت دوم: یادداشت‌های مهندس موسوی. صبح روز... نمی‌دانم، یقین ندارم. احتمالاً بیستم سفر.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: جناب دکتر معتمدی به بدسرنوشتی دچار شد؛ اوردوز داروهای روان‌درمانی.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: اختیار کل این برنامه و افراد به دست یک پارانوئید افتاده بود. از نوع داروهایش متوجه شدم؛", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: ترکیب عجیب و غریبی از داروهای ضد افسردگی و داروهای بیماری پارانویا.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: متأسفانه ایشان از همان روز اول، ریاست‌طلبی مفرط خود را آشکار کرد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: با امر و نهی‌های بی‌جا و صمیمیت ساختگی، همه ساربان‌ها را سردرگم کرده بود.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: این‌ها آدم‌های ساده‌ای هستند که از رفتار ما شهری‌ها، اگر سلامت عقل داشته باشیم، سر در نمی‌آورند؛", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: وای به روزی که دچار اختلال شخصیتی هم باشیم. به محض آن که به دلیل بدزبانی‌هایش از او فاصله می‌گرفتند، ماجرا را از یاد می‌برد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: احتمالاً به عمد نبود و با آن‌ها هم‌سفره می‌شد و هنگامی که آن‌ها بنا بر خصلت خود ابراز محبت می‌کردند، سرد می‌شد و دوری می‌جست.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0022.wav"} +{"text": "speaker 1: حالا که مرده، ناچارم بگویم که اشتباهات مکررش موجب نابودی اعضای گروه شد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: خیالات هراس‌زده‌اش، هرچند سعی در پنهان کردن آن‌ها داشت، موجب شعله‌ور شدن خرافه‌هایی بود که در ته ذهن اهالی کویر پنهان شده.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0021.wav"} +{"text": "speaker 1: آن‌قدر قصه بافت و با استدلال‌های غیرمنطقی در برابر توضیح پدیده‌های فیزیکی که برایش ناشناخته بود مخالفت ورزید", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: تا همه را به وحشت انداخت. اگر ساربان‌ها فقط قصه جن و پری و غول بیابانی شنیده بودند، او کاری کرد که همه آن‌ها پیش چشمشان بیاید.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: هنگامی که در برابر پدیده‌ای فیزیکی که برای خود من هم ناشناخته بود توجیهی سر هم می‌کردم تا ساربان‌ها دچار هراس نشوند،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: عمداً با من مخالفت می‌کرد و به این طریق کار همه را آن‌قدر دشوار کرد که یکی‌یکی فرار کردند.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: قافله ما دچار تفرقه شد و این عاقبت بد، گریبان‌گیر همه ما. یک عده از بین رفتند و عده‌ای در کویر گم شدند.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0017.wav"} +{"text": "speaker 1: مخالفتش با من از جلسات مقدماتی شروع شد. اصرار داشت ریاست گروه را به‌رغم بی‌تجربگی در سفرهای کویری به او بسپارند و من", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0028.wav"} +{"text": "speaker 1: به دلیل داشتن این سابقه، شدم مأمور و خفیه‌نویس و خبرچین و فاقد هرگونه صلاحیت علمی.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: عمداً چشمش را بر روی هرگونه تخصص علمی که از دانشگاه‌های معتبر گرفته بودم بست. می‌خواهم بگویم", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: تعصب و تنگ‌نظری، شخص را به کجا می‌رساند. جناب دکتر بی هیچ دلیل منطقی و بر پایه چند روایت محلی،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0056.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: تصمیم گرفت به مطالعات فراروان‌شناختی درباره مقولات پارانورمال بپردازد که فقط از اهالی محلی شنیده بود", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0057.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0013.wav"} +{"text": "speaker 1: و کل این پروژه علمی مبدل شد به تحقیق و تفحص درباره جن و پری. کم مانده بود ایشان جلسه احضار ارواح راه بیندازد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0058.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: اگر سری به یک آسایشگاه روانی می‌زدند، حتماً مطالب مورد علاقه‌شان بیشتر پیدا می‌شد و ما را هم از این زحمت می‌رهاندند.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0018.wav"} +{"text": "speaker 1: لعنت بر تعصب، خودخواهی. (چهار سطر بنا به دلایل اخلاقی حذف شد. یادداشت ویراستار) سیزده نفر تلفات احتمالی.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: امیدی به زنده ماندن کسانی که ناپدید یا از گروه جدا شدند ندارم. آیا من نفر چهاردهم هستم؟ فعلاً که خیال ندارم به این سؤال پاسخ مثبت بدهم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: قطب‌نمایی همراه دارم. نحوه پیدا کردن مسیر از روی ستارگان را می‌دانم و مقداری گوشت شتر هم در کیسه دارم که آن را روی سنگ و", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0062.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: زیر آفتاب خشک کرده‌ام و آغشته به نمک کویر. می‌ماند مسئله آب، که امیدوارم با دنبال کردن مسیری که از رد شترها به جا مانده،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0063.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: به چاه‌ها یا آب‌انبارها برسم؛ در صورتی که طوفان شن یا بارندگی بی‌موقع مسیرها را محو نکند. باری،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0064.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: می‌گفتم که نه‌تنها جناب دکتر معتمدی شایستگی ریاست و اداره این گروه را نداشت، بلکه کل این پروژه هم بر روی آب بنا شده بود.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0065.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: یا چند تذکره و سفرنامه‌ای که اصالت نظر نویسندگان آن‌ها اصلاً آزموده نشده و روایات خود را از یک مشت ساربان بنگی", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0067.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: یا مقنی‌های قنات نقل کرده‌اند؛ همه این‌ها جمع شده و مرا به اینجا رسانده. بیمناک از عاقبت خود؛ حقیقت را می‌گویم، می‌ترسم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0068.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: ساربان‌هایی که عمری را در کویر گذرانده‌اند، از پیدا کردن مسیر با قاطعیت سخن نمی‌گویند. من چطور می‌خواهم جان سالم به در ببرم؟", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0069.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0008.wav"} +{"text": "speaker 1: گرچه اگر بگذارم این فکر بر من مستولی شود، کارم به آخر رسیده. مقداری از وسایل ضروری، یک چادر کوچک تاشو و کیسه‌خواب،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0070.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0007.wav"} +{"text": "speaker 1: دوربین عکاسی و قمقمه آب را برداشتم. کلاه دکتر مفقودالاثر را هم بر سرم گذاشتم. اگر تابش آفتاب ادامه پیدا کند،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0071.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0023.wav"} +{"text": "speaker 1: مغزم نرم خواهد شد. یک ساعت بعد. وقتی خورجین وسایل دکتر را زیر و رو می‌کردم - چه خورجین سنگینی دارد - به دفتر یادداشت او برخورد کردم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0072.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: کنجکاوی مفرط موجب شد تا بنشینم و یادداشت‌ها را به دقت بخوانم. تعجب کردم، خنده‌ام گرفت، حیرت کردم. چه شخصیت فراافکنی!", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0073.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: از اصطلاحات روان‌شناسی آن مفقود یا مرحوم استفاده می‌کنم؛", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0074.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: چطور اشتباهات خود را به گردن دیگران انداخته، در حالی که اشتباهات مرگ‌بار، لجاجت و تصمیم‌گیری‌های نادرست خودش ما را دچار بحران کرد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0075.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: رئیس گروه تحقیقاتی که قادر به استفاده درست از قطب‌نما نباشد... دارم تکرار مکررات می‌کنم. فعلاً باید خودم را از این ورطه بیرون بکشم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0076.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: مطابق محاسبه من، سفر ما از کاروانسرای شاه‌عباسی تا این نقطه ۷ روز طول کشید.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0077.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: بازگشت من با ضریب تلورانس ۴۰ درصد باید ۱۰ روز طول بکشد.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0078.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: گفتم که با صرفه‌جویی در آب و خوردن گیاهان مناسب کویری و بعد رسیدن به آب‌انبارهای میان‌راهی، می‌توانم", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0079.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: زنده بمانم؛ به شرط آن که مسیر درست را انتخاب کنم و هوای نامساعد مانع از حرکت من نشود. خوشبختانه هوا تا امروز صاف بود،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0080.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: نه نشانی از ابر و مه هست و نه سرمایی شدید. بنابراین پیدا کردن مسیر دشوار نیست. روز بیست و ششم سفر، ساعت ۹ صبح.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0081.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: هوا ملایم. ۶۵ درجه جنوبی. (مهندس موسوی هم در شمارش روزها اشتباه کرده و هم در تعیین مختصات جغرافیایی.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0082.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0029.wav"} +{"text": "speaker 1: روز بیست و ششم ایشان نمی‌توانسته در این مختصات جغرافیایی باشد که متعلق است به مختصات سفر در روز هشتم. اشتباه در جهت‌یابی", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0083.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: از همین جا آغاز شد. یادداشت ویراستار) مابقی وسایل الکترونیک را", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0084.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: لای برزنت پیچیدم و در نقطه مشخصی گذاشتم و روی آن را سنگ‌چین کردم. مختصات جغرافیایی را هم یادداشت کردم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0085.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0033.wav"} +{"text": "speaker 1: خیال دارم تا ساعت ۵ بعدازظهر راه بروم، با دو استراحت نیم‌ساعته. دیشب بدون هیچ اتفاقی گذشت.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0086.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0031.wav"} +{"text": "speaker 1: سر شب با تاریک شدن هوا کمی خوف کردم. کویر در شب حالت اسرارآمیزی دارد. تک و توکی ستاره پیدا بود.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0087.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: نباید می‌گذاشتم وهم بر من مسلط شود. وقتی به یاد مرگ اعضای گروه و حتی دکتر - آیا او مرده؟ -", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0088.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0030.wav"} +{"text": "speaker 1: افتادم، احساس ترس جای خود را به تأسف داد. ساربان‌ها با وجود ظاهر خشن، آدم‌های نجیب و مهربانی بودند. باز هم می‌گویم،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0089.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: هیچ بلای آسمانی یا نیروی مرموز و ناشناخته‌ای آن‌ها را به هلاکت نرساند. چنین سخنانی را باور ندارم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0090.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0006.wav"} +{"text": "speaker 1: عوامل فیزیکی و طبیعی در این منطقه کمی غیرعادی‌ست اما همچنان در چهارچوب قوانین فیزیک قرار دارد. عدم مدیریت صحیح", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0091.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0014.wav"} +{"text": "speaker 1: موجب شد ما به همان بلایی دچار شویم که یک مشت کوهنورد بی‌تجربه با جدیدترین تجهیزات کوهنوردی در صعود زمستانی", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0092.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: به قله رانگاگکور به آن دچار شدند. (این کوهنوردان در ۱۹۷۴ به این قله در کوه‌های هیمالیا", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0093.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0019.wav"} +{"text": "speaker 1: صعود کردند و همگی یا بر اثر سرمازدگی و یا سقوط به دره‌ها جان خود را از دست دادند. یادداشت ویراستار)", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0094.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: ظهر همان روز، ساعت ۱۲. گرما فوق‌العاده آزاردهنده است.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0095.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0012.wav"} +{"text": "speaker 1: هم سرمایی که در مسیر رفت با آن مواجه شدیم و هم این گرمای شدید، غیرعادی‌ست. به شدت تشنه‌ام،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0096.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: اما باید در مصرف آب صرفه‌جویی کنم. هر جرعه آب را در دهان نگاه می‌دارم و ذره‌ذره فرو می‌دهم تا میزان تعریق بدنم کمتر شود.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0097.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0032.wav"} +{"text": "speaker 1: شاید بهتر باشد تا عصر هنگام خنک شدن هوا صبر کنم. شب، ساعت ۸.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0098.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0026.wav"} +{"text": "speaker 1: با سه‌پایه دوربین و رواندازم سایبانی درست کردم و تا ۴ بعدازظهر عرق ریختم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0099.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0025.wav"} +{"text": "speaker 1: از ساعت ۴ به بعد باد خنکی وزید و به راه افتادم، اما بیش از دو سه ساعت نتوانستم راه بروم. تاریکی مانع از حرکت است.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0100.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0020.wav"} +{"text": "speaker 1: ترس داشتم مبادا در مسیر باتلاقی پیش بروم. از ساعت ۹ شب باد سردی شروع به وزیدن کرد. چادرم را برپا کردم.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0101.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: نشستم و به آسمان چشم دوختم که پر از ستاره است. روز بیست و هفتم، ساعت ۳ بعدازظهر. نیمه‌شب", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0102.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0010.wav"} +{"text": "speaker 1: باد یخی می‌وزید و صدای زوزه غریبی می‌شنیدم. صدای باد شباهت به ناله و گریه زنان دارد. بیچاره دکتر معتمدی،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0103.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0027.wav"} +{"text": "speaker 1: حالا متوجه شدم که او چه صداهایی می‌شنیده. اما فرق من با او اینجا است؛ او از ابتدا با اعتقاد به وجود پدیده‌های پارانورمال به این سفر آمده بود و هرچه را می‌دید یا می‌شنید واقعی می‌پنداشت،", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0104.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0015.wav"} +{"text": "speaker 1: اما من یقین دارم که پدیده‌های مشخصی موجب سردرگمی حواس انسان می‌شود.", "audio_path": "/content/drive/MyDrive/tts/Aud10/Aud10_0105.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud1/Aud1_0024.wav"} +{"text": "speaker 1: اگرچه پس از گذشت ۲۰۰ سال از آن واقعه، هنوز هم کسی از عاقبت آن افسران بخت‌برگشته خبری ندارد.,", "audio_path": "/content/drive/MyDrive/tts/Aud5/Aud5_0082.wav", "voice-sound": "/content/drive/MyDrive/tts/Aud9/Aud9_0043.wav"} +{"text": "Speaker 3: بنا بر نظر ژاپنی‌ها، همه «ایکیگای» دارند؛ همان که فیلسوف‌های فرانسوی به آن «علت بقا» می‌گویند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0004.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: برخی ایکیگای خود را پیدا کرده‌اند، در حالی که دیگران هرچند آن را همراه خودشان دارند، هنوز در پی یافتنش هستند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0005.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: ایکیگای هر یک از ما در عمق وجودمان پنهان است و یافتن آن نیاز به کاوشی صبورانه دارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: طبق گفته ساکنان اوکیناوا، جزیره‌ای که بیشترین طول عمرهای بالاتر از صد سال جهان را دارد، ایکیگای دلیلی است که صبح‌ها به خاطر آن از خواب برمی‌خیزند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: کارتان هر چه که هست، بازنشسته نشوید درک مفهوم درست ایکیگای برای شما رضایت و شادمانی به بار می‌آورد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: و به زندگی‌تان معنا می‌بخشد. هدف از نگارش این کتاب، درک و به اشتراک‌گذاری بینش فلسفه ژاپنی برای سلامت ماندگار جسم، فکر و روان است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: نکته‌ای که با زندگی در ژاپن متوجه آن می‌شوید و برایتان عجیب خواهد بود، این است که افراد پس از بازنشستگی چقدر فعال باقی می‌مانند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: در واقع بسیاری از ژاپنی‌ها هرگز بازنشسته نمی‌شوند؛ آن‌ها تا زمانی که سلامتی‌شان اجازه دهد به فعالیت‌های مورد علاقه‌شان ادامه می‌دهند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: در حقیقت در زبان ژاپنی واژه‌ای به نام بازنشستگی مثل انگلیسی وجود ندارد که به معنای «ترک کار برای استراحت» باشد. بنا به نظر «دکتر دن بوتنر»، گزارشگر نشنال جئوگرافیک", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: که این کشور را به خوبی می‌شناسد، در فرهنگ ژاپنی هدف داشتن در زندگی آن‌قدر از اهمیت بالایی برخوردار است که بازنشستگی با تعریف ما در آن جایی ندارد. جزیره جوانی ابدی", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: برخی مطالعات در زمینه طول عمر نشان می‌دهد که داشتن ارتباط اجتماعی قوی و به‌کارگیری ایکیگای، به اندازه رژیم غذایی سالم ژاپنی یا شاید حتی بیشتر از آن اهمیت دارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: مطالعات پزشکی اخیر روی افراد با عمر بالای صد سال در اوکیناوا و سایر «مناطق آبی» (مناطق جغرافیایی که مردم آن بیشترین طول عمر را دارند)", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: به حقایق جالبی درباره این مردمان خارق‌العاده دست یافته‌اند که عبارت‌اند از:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: آن‌ها نه تنها طول عمر بیشتری نسبت به بقیه مردم دنیا دارند، از بیماری‌های مزمن مانند سرطان و بیماری‌های قلبی نیز کمتر رنج می‌برند و به اختلالات التهابی نیز", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: کمتر دچار می‌شوند. بسیاری از این مردم بالای صد سال، از چنان سرزندگی و سلامت جسمانی بالایی برخوردارند که برای دیگر سالمندان در نقاط دیگر دنیا قابل تصور هم نیست.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: آزمایش خون این افراد نشان داده است که مقدار رادیکال‌های آزاد (که عامل پیری هستند) در این افراد کمتر است؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: که دلیل آن نوشیدن چای و خوردن غذا تنها به مقدار ۸۰ درصد از حجم معده‌شان است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: زنان در دوران یائسگی با علائم و مشکلات کمتری روبرو می‌شوند و میزان هورمون‌های جنسی در زنان و مردان تا سنین بالا بیشتر است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: در زبان ژاپنی ایکیگای به صورتی نوشته می‌شود که ترکیب دو واژه «ایکی» به معنای «زندگی» و «گای» به معنای «ارزش داشتن» است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: خود «گای» از دو قسمت تشکیل شده که یکی به معنای «اولین و سرگروه در مبارزه و رهبری» است و دیگری به معنای «زیبا و باشکوه» است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: اگرچه ما تمامی موارد ایکیگای را در سرتاسر کتاب تحلیل خواهیم کرد، تحقیقات به وضوح نشان می‌دهد که مردم اوکیناوا با تمرکز بر ایکیگای و داشتن هدف مشخص روزانه،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: توانسته‌اند از سلامت و طول عمر بالا برخوردار شوند. پنج منطقه آبی‌رنگ در میان مناطق آبی جهان، اوکیناوا رتبه اول را به خود اختصاص داده است؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: به ویژه زنان اوکیناوا از طول عمر و سلامت بیشتری نسبت به زنان نقاط دیگر دنیا برخوردارند. پنج منطقه عنوان شده در کتاب «مناطق آبی» نوشته «دن بوتنر» عبارت‌اند از:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: ۱. اوکیناوا، ژاپن (به ویژه بخش‌های شمالی جزیره): بومی‌های این منطقه رژیم غذایی سرشار از سبزیجات و توفو دارند و آن را در وعده‌های کوچک مصرف می‌کنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: علاوه بر فلسفه ایکیگای، «موآی» یا ارتباطات عاطفی نزدیک با دوستان و فامیل نیز نقش مهمی در طول عمر آنان ایفا می‌کند. ۲.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: ساردینیا، ایتالیا (به ویژه استان‌های نورو و اوگلیاسترا): بومی‌های این جزیره روزانه مقدار زیادی سبزیجات و یک یا دو لیوان نوشیدنی مصرف می‌کنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: مانند اوکیناوا، ارتباطات اجتماعی نیز عامل دیگری است که مستقیماً با طول عمر آن‌ها ارتباط دارد. ۳. لوما لیندا، کالیفرنیا:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: محققان گروهی از پیروان کلیسای «ادونتیست‌های روز هفتم» را مورد مطالعه قرار دادند که از طولانی‌ترین عمر در ایالات متحده برخوردارند. ۴.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: شبه‌جزیره نیکویا، کاستاریکا: مردم محلی این منطقه پس از نود سالگی به طور چشمگیری فعال‌اند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: بسیاری از ساکنان قدیمی با بیدار شدن در ساعت ۵:۳۰ صبح و رفتن به مزرعه برای کار کردن هیچ مشکلی ندارند. ۵. ایکاریا، یونان:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: یک سوم ساکنان این جزیره که در نزدیکی کشور ترکیه واقع شده است، بیش از ۹۰ سال عمر دارند (در مقایسه با کمتر از یک درصد از جمعیت آمریکا).", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: به همین دلیل آن را «جزیره عمرهای طولانی» خطاب می‌کنند. به نظر می‌رسد راز آن سبک خاص زندگی است که خاستگاه آن به ۵۰۰ سال قبل از میلاد مسیح می‌رسد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: در فصل‌های بعدی، عوامل متعددی را که به نظر می‌رسد برای طول عمر در مناطق آبی (به ویژه اوکیناوا که آن را دهکده طول عمر نامیده‌اند) بررسی خواهیم کرد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: اول از همه باید به این نکته اشاره شود که سه منطقه از این پنج منطقه جزیره هستند که در آنجا منابع اولیه زندگی کمیاب‌اند و مردم باید برای رفع نیازها به یکدیگر کمک کنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: برای بسیاری، کمک به یکدیگر می‌تواند آن‌قدر ایکیگای قدرتمندی باشد که آنان را زنده نگه دارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: بنا به نظر دانشمندانی که مناطق پنج‌گانه آبی را مطالعه کرده‌اند، عوامل اصلی طول عمر: تغذیه، تحرک، هدفمند بودن در زندگی (یعنی ایکیگای) و ارتباطات قوی اجتماعی", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: (داشتن دایره ارتباطات با دوستان و روابط خانوادگی خوب) است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: مدیریت زمان اعضای این جوامع به گونه‌ای است که استرس کمتر شود، از مصرف گوشت و غذای آماده کاسته شود و نوشیدنی الکلی بسیار کم مصرف شود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: آن‌ها ورزش‌های افراطی انجام نمی‌دهند اما تحرک روزانه دارند، پیاده‌روی می‌کنند و به سبزی‌کاری می‌پردازند. مردم مناطق آبی به جای رانندگی اغلب پیاده‌روی می‌کنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: کاری که تمام این افراد انجام می‌دهند این است که روزانه مقداری از زمان خود را به باغبانی می‌پردازند؛ البته تا حدی که به بدنشان فشار نیاید. راز ۸۰ درصد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: یکی از رایج‌ترین جمله‌های ژاپنی «هارا هاچی بو» است که آن را قبل یا بعد از خوردن غذا تکرار می‌کنند و معنای آن چیزی شبیه این است: «تنها ۸۰ درصد شکم خود را پر کن.»", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: حکمت قدیمی توصیه می‌کند که تا خرخره نخورید! به همین دلیل اوکیناوایی‌ها زمانی که احساس می‌کنند ۸۰ درصد حجم معده‌شان پر شده است دست از غذا خوردن می‌کشند", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: تا با طولانی‌تر کردن روند هضم غذا (که خود باعث اکسید شدن سلول‌هاست) بدن را فرسوده نکنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: البته راهی برای آگاهی از ۸۰ درصد حجم معده وجود ندارد؛ فقط باید بدانید که پیش از آنکه کاملاً احساس پر بودن کنید دست از خوردن بکشید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: کشیدن دوباره غذا، خوردن میان‌وعده‌هایی که واقعاً لازم نیست، یا خوردن پای سیب بعد از ناهار بسیار لذت‌بخش است، اما در دراز مدت نخوردن آن بیشتر باعث خوشحالی خواهد بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: فهمیدن اینکه نامی که بر چیزها می‌گذاریم بی‌تردید بس مهم‌تر است از آنچه هستند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: مبنی بر اینکه مشکل سوسیالیسم این است که زیادی وقت آدم‌ها را می‌گیرد، داشت بهمان خاطرنشان می‌کرد که همواره چیزهایی وجود دارند که حتی از مهم‌ترین چیزهای زندگی‌مان برایمان مهم‌ترند؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: و اینکه هر قدر هم چیزی برایمان اهمیت بسیار داشته باشد، همیشه چیزهای دیگری هم هست که دوست داریم انجامش بدهیم. سوسیالیسم وجهی بازدارنده دارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: احتمالاً ازمان می‌خواهد از خیر چیزهای زیادی بگذریم. درست مثل سایر تعهدات ما، سوسیالیسم هم از چیزهای زیادی محروممان می‌کند. از چیزهای زیادی منعمان می‌کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: ما انسان‌ها با روا داشتن چیزهایی به خودمان، خود را از چیزهایی دیگر منع می‌کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: همه ایده‌آل‌هایی که برای خود داریم، همه هدف‌هایمان، آرزوهایمان و باورهایمان به معنی واقعی کلمه محدودکننده‌اند. البته که مقصود و هدف آن‌ها همین است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: ولی از نظر وایلد، در این واقعیت روشن و ساده که نمی‌توانیم همه‌کاری انجام دهیم، که نمی‌توانیم به همه‌چیز اعتقاد داشته باشیم،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: که نمی‌توانیم عاشق و خواهان همه باشیم، نوعی اراده و انتخاب سهل‌انگارانه هست. چه بسا ما کمی زیادی مشتاق از خودگذشتگی هستیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: چه بسا خودمان دلمان می‌خواهد از خیر چیزهایی بگذریم. در واقع، شاید ما کاری را از آن رو انجام می‌دهیم که می‌خواهیم با انجام دادنش از چیزهایی دیگر چشم‌پوشی کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: به نظر می‌رسد وایلد قصد داشته بگوید هر چیزی در صورتی امکان‌پذیر می‌شود که بسیاری چیزهای دیگر ناممکن، غیرقابل‌تصور و دور از ذهن شوند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: و با این حال، عجیب آنجاست که بعضی چیزها و آدم‌ها که مجاب می‌شویم کنارشان بگذاریم، ذهن ما را به تمامی به تسخیر خود درمی‌آورند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: ممنوع کردن چیزی، همان فراموش‌نشدنی کردن آن است. بچه‌ها نباید بدون نگاه کردن به خیابان از آن بگذرند. آدم‌بزرگ‌ها هم نباید زیادی به سکس یا سکس نامشروع فکر کنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: در بهترین حالت ممکن، ممنوع کردن چیزی یعنی جلب توجه و تضمین جذابیت آن. منع چیزی، یعنی مهیا کردن موقعیت برای تسخیر ذهن آدم‌ها.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: مسلماً ما همیشه جایی در ضمیر آگاهمان متوجه این هستیم که خودمان را از چه چیزهایی منع کرده‌ایم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: وقتی دست به چنین کارهای ممنوعه‌ای می‌زنیم، به‌اصطلاح می‌گوییم موقع انجام دادنشان به خودمان مسلط نبوده‌ایم؛ هرچند نمی‌شود این نتیجه را گرفت که وقتی کارهای ناممنوع انجام می‌دهیم به خود مسلطیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: در واقع، اساساً ایده تسلط بر خود، حاصل این است که چیزهایی را ممنوعه اعلام کرده‌ایم. افکار و تجارب توأم با لذت ما، از منع و نهی خود، جدایی‌ناپذیرند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: بنابراین وقتی از لذت‌های ناممنوع حرف می‌زنیم، مسلماً باید بدانیم که دیگر به آن زبان منع‌کننده، به آن زبان مهارکننده، به مراقبت و تنبیه نیاز نداریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: می‌توانیم آن تعابیر را کناری بگذاریم. این همان چیزی‌ست که وایلد به آن اشاره می‌کند. جایی که در مقاله «منتقد در مقام هنرمند» (۱۸۹۱) می‌نویسد:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: «ما به آدم‌ها یاد می‌دهیم چطور چیزهایی را به یاد بسپارند، ولی هیچ وقت یادشان نمی‌دهیم چطور بزرگ شوند.» چه بسا نتوانیم به آدم‌ها یاد بدهیم چطور بزرگ شوند،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: ولی چیزهایی هست که باید بتوانید برای بزرگ شدن از خاطر بزدایید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: صدالبته نکته‌ای که وایلد می‌خواهد خاطرنشان کند این است که سوسیالیسم با معاشرت و هم‌نشینی آدم‌ها سازگاری چندانی ندارد؛ و اینکه ضمناً چه بسا ما با تعهد،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: باور و سرسپردگی و اخلاقیات و هدفمندی، بنا به تأکید وایلد، ذهن خود را محدود کنیم و جلوی رشد خود را بگیریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: انگار که همواره کشش یا تمایلی به این هست که گوناگونی لذت‌هایمان را فراموش کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: لذت‌گرایی‌مان را در خدمت و به خاطر احساس امنیتِ سنتی، به ساده‌ترین شکل و سالم‌ترین شکل درآوریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: و اینگونه، یکی از راه‌ها و اشکال تقبیح لذت‌ها، فراموش کردن و از خاطر زدودن آن‌ها خواهد بود. یعنی راهی که روانکاوی صورتبندی‌اش می‌کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: انگار ما همیشه در حال وضع قوانینی برای خودمان هستیم و آن قوانین هم توجه ما را تهدید می‌کند. یعنی بهمان امر می‌کند فلان چیز را نگاه کنیم و بهمان را نگاه نکنیم؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: به حرف فلان کس گوش کنیم و به حرف بهمان کس گوش نکنیم. منظور وایلد تلویحاً آن بود که به‌یاد‌سپردن، همه‌چیز را به ما گوشزد می‌کند جز لذت‌هایمان.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: و این همان‌جاست که پای هنر وسط کشیده می‌شود. وایلد می‌گوید: «هنر غیراخلاقی‌ست.» و از این رو در هنر است که لذت‌های واقعی‌مان را باز می‌یابیم. همه چیزهایی را باز می‌یابیم که احکام اخلاقی وادارمان می‌کند تقبیح کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: آنچه وایلد تحت عنوان قطعی ندانستن هیچ وضعی از آن حرف می‌زند، به معنی جدی نگرفتن موانع و ممنوعیت‌هاست؛ یعنی نپذیرفتن حد و مرزهای آن موانع و ممنوعیت‌ها.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: همواره تغییرات مهم در رفتارها و اخلاقیات، برهه‌های مهم و تعیین‌کننده در سرگذشت آدم‌ها و فرهنگ‌ها، مستلزم بازتعریف امیالی‌ست که قبلاً ممنوع بوده‌اند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: به هر طریق، امر ممنوع به نحوی به امری کمتر ممنوع یا حتی به امری ناممنوع تبدیل می‌شود و به این ترتیب لذتی از نوعی دیگر برایمان فراهم می‌آورد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: ما به طرق مختلف از لذتِ چیزهای سابقاً ممنوع بهره‌مند می‌شویم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: بهره‌مند از چیزی که کاتلین استوارت در کتاب «تأثرات عادی»، آن را «گرهگاه پیوندهای بالقوه نو» می‌نامد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: بعضی لذت‌های ممنوعه هم تغییر نمی‌کنند و همچنان ممنوعه باقی می‌مانند؛ چرا که در غیر این صورت، زندگی ما تحمل‌ناپذیر می‌شد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: وایلد بر آن بود که با این حال، ما باید در جستجوی امر غیراخلاقی باشیم تا بفهمیم نظرمان درباره‌اش چیست و با تجربه‌اش چه احساسی بهمان دست می‌دهد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: و اینجا همان‌جاست که پای هنر وسط کشیده می‌شود. ما نیاز داریم بتوانیم درباره اینکه لذت و سرخوشی‌مان در چیست فکر کنیم و حرف بزنیم؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: و نیز درباره اینکه چرا احیاناً لذاتمان در آن چیزها نهفته است. باید دریابیم که آیا می‌توانیم آنچه را باید ازش لذت ببریم، جایگزینِ آن چیزی کنیم که از آن لذت می‌بریم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: وایلد در شگفت بود از اینکه چرا لذت‌های ممنوع این‌طور ما را تحت تأثیر قرار می‌دهند و برایمان مهم‌اند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: به عبارت دیگر، چرا احیاناً دلمان می‌خواهد اخلاقیات دلمان را از ترس بلرزاند؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: چرا دوست داریم در دام وسوسه لذت و کیف بیفتیم و بدین ترتیب طعم رنجِ حاصل از انصراف و چشم‌پوشی را بچشیم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: او باور دارد که اگر ما آدم‌ها باور می‌داشتیم، اگر می‌توانستیم طوری زندگی کنیم که انگار به تعبیر او زیبایی‌شناسی والاتر از اخلاق است،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: که حتی در فرایند رشد فرد، شناخت و درک رنگ‌ها مهم‌تر از قوای تشخیص غلط و درست است، زندگی بهتری می‌داشتیم. به عنوان مثال، اگر زیبایی‌شناسی را به اخلاق ترجیح می‌دادیم،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: چه بسا از زندگی در جهانی مملو از پیشامدهای غیرمنتظره بهره‌مند می‌شدیم؛ یا به قول برنارد ویلیامز، از «بخت اخلاقی». وایلد به طور ضمنی بر آن است که اخلاق پیشگویانه است؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: در حالی که زیبایی‌شناسی چنین نیست. اخلاق تجویزی‌ست، در پی تعیین علت‌ها و عواقب است، بر آن است که از آینده خبر بدهد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: اخلاقیات با حکم به اینکه زندگی ما چگونه باید باشد، خیلی وقت‌ها حکم می‌کند زندگی‌مان در واقع چگونه است؛ هرچند ما غالباً این احساس را داریم که نتوانسته‌ایم آن‌طور که باید و شاید زندگی کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0056.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: قهرمانان وایلد از ما می‌خواهند خیال کنیم که اگر امر ممنوعه برایمان کمی کمتر ممنوع می‌بود، زندگی‌مان چه شکلی به خود می‌گرفت.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0057.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: زندگی‌مان چه شکلی به خود می‌گرفت اگر به ایده لذت ممنوع فکر می‌کردیم، به جای اینکه خودمان را از فکر کردن به آن یا حرف زدن درباره‌اش منع کنیم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0058.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: احتمالاً ایده لذت ممنوعه بدترین وجه ما را عیان می‌کند. زندگی ما چه شکلی می‌بود", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: اگر گفته والتر پیتر، مرشد وایلد در زمینه زیبایی‌شناسی، در مقاله‌اش را که به سال ۱۸۶۶ نوشت جدی می‌گرفتیم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: کم‌کم اخلاقیات سفت و سخت و انتزاعی در مقابل سنجش و برآوردِ عینیِ جزئیات و دقایق زندگی ما رنگ می‌بازند؛ و معنای این حرف آن است که", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: جزئیات و دقایق زندگی‌های مدرن ما با اخلاقیات سفت و سخت و انتزاعی تناسبی ندارند. امروزه آنچه را که در اواخر قرن نوزدهم با عنوان جنبش زیبایی‌شناختی از آن یاد می‌شد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0062.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: -یعنی به طور کلی آثار پیتر و وایلد- و بازتقریر آن‌ها از آثار جان راسکین، جان هنری نیومن و متیو آرنولد و رمانتیسم مقدم بر آن‌ها، سوای چیزهای دیگر", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0063.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: می‌توان تلاشی دانست برای تغییر زبانی موروثی؛ پیدا کردن راهی نو برای توصیف اینکه ما با پیروی از قاعده‌ای چه چیز را بر خود روا می‌داریم و خود را از چه چیز محروم می‌کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0064.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: تو گویی خودمان می‌توانیم بگوییم چه چیزهایی را می‌خواهیم به ارث ببریم و با چیزهایی که به ما به ارث رسیده چه می‌خواهیم بکنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0065.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: در این مورد می‌توانیم به ارث بردنِ زبان اخلاقیات، زبان قواعد و اصول و اشکالی از زندگی را نام ببریم که این قواعد و اصول به جای ما برایمان در نظر گرفته‌اند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0066.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: دیوید دلورا در کتاب «عبری و یونانی در عصر ویکتوریای انگلستان» می‌نویسد: «جنبش زیبایی‌شناختی، جنبش مهم و قابل احترام بود در خدمت بازنمایی زندگی در تمامیت آن.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0067.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: بازنمایی آن برای جامعه‌ای به قول آرنولد بیش از پیش آگاه از اینکه نظام نهادها،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0068.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: واقعیات دیرین، اصول، آداب و قواعد تعصب‌آمیزِ تثبیت‌شده موروثی سفت و سخت، پاسخگوی نیازهای زندگی مدرن نیستند.»", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0069.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: این آدم‌های عصر ویکتوریا، به قول آرنولد در جستار دموکراسی، قصد داشتند زندگی و کسب‌وکار خود را به شکلی زنده‌تر و روشن‌تر درک کنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0070.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: اگر به جای کلمات خوب و درست یا مقدس، از کلماتی مثل زیبا یا لذت‌بخش یا مفرح استفاده کنیم -که البته در مورد وایلد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0071.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: بدیل‌های دیگر اواخر قرن نوزدهم، یعنی مفید یا سودمند به کار نمی‌آیند- زندگی ما به چه شکل تغییر می‌کند؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0072.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: به محض اینکه به قدرت بازتعریف چیزها اذعان کنیم، کلماتی مثل راست، خوب، درست، مقدس و البته ممنوعه، از نخستین کلماتی هستند که کنار می‌روند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0073.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: با تغییر دادن رسوم، مسلمات مرسوم را تغییر می‌دهیم. به تعبیر دیگر، تعبیری ملایم‌تر، تعبیری سرسری‌تر و خودمانی‌تر: بعضی کلمه‌ها را فراموش کن و به جایشان از کلمه‌های ناآشناتر استفاده کن. آن وقت خواهی دید چه اتفاقی می‌افتد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0074.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: اگر بنا به گفته پیتر، عادت شکلی از شکست باشد، باید سراغ عادات جدید برویم؛ سراغ حرف زدن به زبانی دیگر.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0075.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: بخش اول، که در آن بر پایه نظریات مختلفی از سه مکتب اصلی فلسفه اخلاق غربی می‌آموزیم چگونه آدم‌های خوبی باشیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0001.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: این مکاتب طی ۲۴۰۰ سال گذشته پدید آمده‌اند. تازه، یک سری چیزهای جذاب دیگر هم یاد می‌گیریم و کل این ماجرا تقریباً ۹۰ صفحه می‌شود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0002.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: آیا می‌توانم بی‌دلیل به صورت دوستم مشت بزنم؟ نه، نمی‌توانید. جواب‌تان همین بود دیگر؟ آفرین. تا حالا که گل کاشته‌اید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: اگر همه‌پرسی راه بیندازم و از هزار نفر بپرسم آیا به نظرشان کار درستی‌ست که بدون هیچ دلیلی با مشت بزنند توی صورت دوست‌شان، شرط می‌بندم هر هزار نفرشان می‌گویند نه.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: ولی عجیب بودن این سؤال که چرا نباید این کار را بکنیم، آن هم وقتی جوابش بدیهی‌ست، در این است که نمی‌توانیم جواب سرراستی برایش پیدا کنیم. چون، خب معلوم است دیگر، چون کار بدی‌ست.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: حتی اگر این توضیح ساده‌لوحانه را با تته‌پته بیان کنیم، باز هم خوب است. این یعنی ما آگاهیم به اینکه رفتارمان حاوی عنصری اخلاقی‌ست و تکلیف‌مان روشن است که این کار، معلوم است دیگر، بد است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: ولی برای اینکه آدم‌های بهتری شویم، جواب‌مان باید قاطعانه‌تر از «چون کار بدی‌ست» باشد. درک یک نظریه اخلاق‌گرایانه واقعی که قادر به توضیح چرایی بد بودن باشد،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: کمک‌مان می‌کند بتوانیم در موقعیتی که مقوله اخلاقیات در آن به اندازه «آیا می‌توانم بی‌دلیل به صورت دوستم مشت بزنم» بدیهی نیست، درباره عملکردمان تصمیم بگیریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: این مسئله تقریباً در هر موقعیتی صادق است. اگر بخواهیم شروع مقبولی داشته باشیم، می‌توانیم بگوییم: خب،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: یک آدم خوب برخلاف یک آدم بد، معمولاً از این جور کارها نمی‌کند و ما می‌خواهیم آدم‌های خوبی باشیم. قدم بعدی این است که تعریف بهتری از آدم خوب داشته باشیم و این کار راحت نیست.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: فکر اولیه سریال «جای خوب» این بود که یک زن بد که در تمام عمرش خودخواه و بفهمی‌نفهمی سنگ‌دل بوده، در نتیجه خطایی مذهبی پس از مرگ به بهشت برود", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: و مجوز زندگی در ابدیتی لذت‌بخش و خوش‌منظره را در کنار بهترین انسان‌هایی که روزی بر زمین زیسته‌اند کسب کند؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: انسان‌هایی که تمام سال‌های حیات‌شان را صرف پاکسازی میدان‌های مین و ریشه‌کن کردن فقر کرده‌اند. در حالی که این زن تمام عمرش ریخت‌وپاش کرده،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: به همه دروغ گفته و بدون ذره‌ای عذاب وجدان به سالمندان وحشت‌زده داروهای تقلبی فروخته.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: زن از ترس اینکه لو برود، تصمیم می‌گیرد آدم خوبی بشود تا لیاقت جایگاه جدیدش را داشته باشد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: به نظرم فکر جالبی بود، اما خیلی زود فهمیدم که خودم اصلاً نمی‌دانم خوب یا بد بودن واقعاً یعنی چه. فقط تشخیص می‌دادم کدام کارها خوب یا بد هستند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: تقسیم کردن خوب است، آدم کشتن بد است، کمک به دوستان خوب است، بی‌دلیل مشت زدن به صورت دوستان بد است. اما ورای این رفتارها چه چیزی نهفته بود؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: کدام نظریه همه‌جانبه و یکپارچه‌ای می‌تواند تعیین کند آدم خوب و بد یعنی چه؟ در مسیر یافتن این پاسخ گم شدم", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: و همین بود که مرا به سوی فلسفه اخلاق هدایت کرد و بعد سریالم و آخرش هم کتابی که ۲۴ صفحه‌اش را صرف توضیح این کرده‌ام که چرا ناکار کردن رفیق‌مان بد است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: فلاسفه به روش‌های مختلفی خوب و بد را توصیف می‌کنند و ما در این کتاب به بسیاری از این روش‌ها سرک می‌کشیم. رویکرد بعضی‌ها به مفاهیم خوب و بد بر اساس اعمال است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: آن‌ها می‌گویند اعمال خوب در راستای قوانین خاصی انجام می‌شوند که قادر به کشف و متابعت از آن‌ها هستیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: بقیه می‌گویند منظور از عمل خوب هر کاری‌ست که باعث ایجاد حداکثر لذت و حداقل رنج شود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: حتی فیلسوفی ادعا کرده خوبی از این می‌آید که ما تا جایی که می‌توانیم خودخواه باشیم و فقط به خودمان اهمیت بدهیم. ادعای این خانم واقعاً همین است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: ولی اولین نظریه‌ای که قرار است درباره‌اش صحبت کنیم، قدیمی‌ترین ستون در میان سه ستون به نام «اخلاقیات فضیلت‌محور» است. اخلاقیات فضیلت‌محور سعی دارد به پرسشی پاسخ دهد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: که در ابتدای کار مرا گیج کرده بود: چه چیزی باعث می‌شود یک انسان خوب یا بد باشد؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: از نظر اخلاق‌گرایانِ فضیلت‌محور، انسان خوب خصیصه‌ها یا فضیلت‌های معینی دارد که به مرور زمان در خود پرورانده است. این انسان نه تنها دارای این خصیصه‌هاست،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: بلکه این خصیصه‌ها را به میزان مناسب داراست. قابل فهم است، نه؟ اگرچه همین‌جا صد سؤال به ذهن‌مان هجوم می‌آورند: چه خصیصه‌هایی؟ چطور باید به دست‌شان بیاوریم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: از کجا بفهمیم به دست‌شان آورده‌ایم؟ در فلسفه چنین اتفاقی زیاد می‌افتد. همان لحظه که سؤالی می‌پرسید، باید پشت‌سرش پنجاه تا سؤال دیگر هم بپرسید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: بلکه بفهمید سؤالی که پرسیده‌اید سؤال درستی بوده یا نه و اینکه آیا می‌فهمید چرا این سؤال را می‌پرسید؟ و بعد باید درباره این سؤال‌ها سؤال بپرسید", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: و این‌قدر عقب‌گرد کنید و مسئله را موشکافی کنید و ذره‌ذره آن‌قدر به کنه کنکاش‌تان نزدیک شوید تا بالاخره به آلمانیِ فاشیستی برسید که می‌خواهد بفهمد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: چیزها اصلاً چرا وجود دارند. ممکن هم هست از خودمان بپرسیم که روشی یگانه برای تعریف انسان خوب وجود دارد یا نه؟ به قول فیلیپ پولمن:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: انسان‌ها پیچیده‌اند و نمی‌توان با برچسبی ساده به حقیقت‌شان پی برد. همه ما فراورده‌های به شدت فردیت‌یافته محیط و پرورش هستیم؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: گرداب‌هایی پیچ‌درپیچ از ویژگی‌های شخصیتی ذاتی، آموزه‌های معلمان و والدین و دوستان، درس‌های زندگی که از شکسپیر آموخته‌ایم یا شاید هم از مجموعه فیلم‌های سریع و خشن.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: آیا امکان دارد مجموع خصیصه‌هایی که همه‌مان باید داشته باشیم و میزان مناسب‌شان را تعیین کرد؟ همان خصیصه‌هایی که باعث می‌شوند تک‌تک‌مان خوب باشیم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: برای پاسخ به این پرسش‌ها باید تمام آموخته‌های‌مان را به دست فراموشی بسپاریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: باید خودمان را از نو آغاز کنیم. اجزای وجودمان را از یکدیگر تفکیک کنیم و سپس با درکی ریشه‌دارتر از هر غلطی که داریم می‌کنیم و چرایی این غلط‌ها، خودمان را از نو بنا کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: کسی که اینجا به دادمان می‌رسد، ارسطوست. رود خروشان زرندود. ارسطو از سال ۳۲۲ تا ۳۸۴ قبل از میلاد زندگی کرد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: و درباره مهم‌ترین چیزها، مهم‌ترین چیزها را نوشت. اگر مایلید نسبت به خودتان و دستاوردهای قلیل‌تان حس بدی پیدا کنید، سری به صفحه ویکیپدیای‌ش بزنید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: تخمین زده‌اند که کمتر از یک‌سوم آثار مکتوب ارسطو تا امروز باقی مانده، اما همین آثار این موضوعات را پوشش می‌دهند: اخلاقیات، سیاست، زیست‌شناسی، فیزیک، ریاضیات،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: جانورشناسی، هواشناسی، روح، حافظه، خواب و رویا، علم بیان، منطق، متافیزیک، سیاست، موسیقی، تئاتر، روانشناسی،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: آشپزی، اقتصاد، بدمینتون، زبان‌شناسی، سیاست و زیبایی‌شناسی.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: این فهرست آن‌قدر طویل است که سه بار زیرپوستی سیاست را تویش چپاندم و شما هم متوجه نشدید و حتی وقتی ادعا کردم او درباره بدمینتون هم نوشته کک‌تان نگزید؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: ولی قطعاً چهار قرن قبل از میلاد مسیح بدمینتون وجود خارجی نداشته. در ضمن، فکر نکنم هرگز درباره آشپزی چیزی نوشته باشد،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: ولی اگر به من بگویید ارسطو طوماری ۴۰۰۰ کلمه‌ای درباره طرز تهیه خوراک مرغ پنیری اعلا نوشته، باورم می‌شود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: بخش اول: اندوه و تمنا چگونه می‌توانیم درد را به خلاقیت، تعالی و عشق تبدیل کنیم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0001.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: پیش از آنکه مهربانی را ژرف‌ترین خصلت باطن بشناسید، باید اندوه را نیز در همان ژرفا درک کنید. (نائومی شهاب نای) در سال ۲۰۱۰", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0005.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: حکمت قدیمی توصیه می‌کند که تا خرخره نخورید! به همین دلیل اوکیناوایی‌ها زمانی که احساس می‌کنند ۸۰ درصد حجم معده‌شان پر شده است دست از غذا خوردن می‌کشند", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: تا با طولانی‌تر کردن روند هضم غذا (که خود باعث اکسید شدن سلول‌هاست) بدن را فرسوده نکنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: البته راهی برای آگاهی از ۸۰ درصد حجم معده وجود ندارد؛ فقط باید بدانید که پیش از آنکه کاملاً احساس پر بودن کنید دست از خوردن بکشید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: کشیدن دوباره غذا، خوردن میان‌وعده‌هایی که واقعاً لازم نیست، یا خوردن پای سیب بعد از ناهار بسیار لذت‌بخش است، اما در دراز مدت نخوردن آن بیشتر باعث خوشحالی خواهد بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS04_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: فهمیدن اینکه نامی که بر چیزها می‌گذاریم بی‌تردید بس مهم‌تر است از آنچه هستند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: مبنی بر اینکه مشکل سوسیالیسم این است که زیادی وقت آدم‌ها را می‌گیرد، داشت بهمان خاطرنشان می‌کرد که همواره چیزهایی وجود دارند که حتی از مهم‌ترین چیزهای زندگی‌مان برایمان مهم‌ترند؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: و اینکه هر قدر هم چیزی برایمان اهمیت بسیار داشته باشد، همیشه چیزهای دیگری هم هست که دوست داریم انجامش بدهیم. سوسیالیسم وجهی بازدارنده دارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: احتمالاً ازمان می‌خواهد از خیر چیزهای زیادی بگذریم. درست مثل سایر تعهدات ما، سوسیالیسم هم از چیزهای زیادی محروممان می‌کند. از چیزهای زیادی منعمان می‌کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: ما انسان‌ها با روا داشتن چیزهایی به خودمان، خود را از چیزهایی دیگر منع می‌کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: همه ایده‌آل‌هایی که برای خود داریم، همه هدف‌هایمان، آرزوهایمان و باورهایمان به معنی واقعی کلمه محدودکننده‌اند. البته که مقصود و هدف آن‌ها همین است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: ولی از نظر وایلد، در این واقعیت روشن و ساده که نمی‌توانیم همه‌کاری انجام دهیم، که نمی‌توانیم به همه‌چیز اعتقاد داشته باشیم،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: که نمی‌توانیم عاشق و خواهان همه باشیم، نوعی اراده و انتخاب سهل‌انگارانه هست. چه بسا ما کمی زیادی مشتاق از خودگذشتگی هستیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: چه بسا خودمان دلمان می‌خواهد از خیر چیزهایی بگذریم. در واقع، شاید ما کاری را از آن رو انجام می‌دهیم که می‌خواهیم با انجام دادنش از چیزهایی دیگر چشم‌پوشی کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: به نظر می‌رسد وایلد قصد داشته بگوید هر چیزی در صورتی امکان‌پذیر می‌شود که بسیاری چیزهای دیگر ناممکن، غیرقابل‌تصور و دور از ذهن شوند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: و با این حال، عجیب آنجاست که بعضی چیزها و آدم‌ها که مجاب می‌شویم کنارشان بگذاریم، ذهن ما را به تمامی به تسخیر خود درمی‌آورند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: ممنوع کردن چیزی، همان فراموش‌نشدنی کردن آن است. بچه‌ها نباید بدون نگاه کردن به خیابان از آن بگذرند. آدم‌بزرگ‌ها هم نباید زیادی به سکس یا سکس نامشروع فکر کنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: در بهترین حالت ممکن، ممنوع کردن چیزی یعنی جلب توجه و تضمین جذابیت آن. منع چیزی، یعنی مهیا کردن موقعیت برای تسخیر ذهن آدم‌ها.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: مسلماً ما همیشه جایی در ضمیر آگاهمان متوجه این هستیم که خودمان را از چه چیزهایی منع کرده‌ایم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: وقتی دست به چنین کارهای ممنوعه‌ای می‌زنیم، به‌اصطلاح می‌گوییم موقع انجام دادنشان به خودمان مسلط نبوده‌ایم؛ هرچند نمی‌شود این نتیجه را گرفت که وقتی کارهای ناممنوع انجام می‌دهیم به خود مسلطیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: در واقع، اساساً ایده تسلط بر خود، حاصل این است که چیزهایی را ممنوعه اعلام کرده‌ایم. افکار و تجارب توأم با لذت ما، از منع و نهی خود، جدایی‌ناپذیرند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: بنابراین وقتی از لذت‌های ناممنوع حرف می‌زنیم، مسلماً باید بدانیم که دیگر به آن زبان منع‌کننده، به آن زبان مهارکننده، به مراقبت و تنبیه نیاز نداریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: می‌توانیم آن تعابیر را کناری بگذاریم. این همان چیزی‌ست که وایلد به آن اشاره می‌کند. جایی که در مقاله «منتقد در مقام هنرمند» (۱۸۹۱) می‌نویسد:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: «ما به آدم‌ها یاد می‌دهیم چطور چیزهایی را به یاد بسپارند، ولی هیچ وقت یادشان نمی‌دهیم چطور بزرگ شوند.» چه بسا نتوانیم به آدم‌ها یاد بدهیم چطور بزرگ شوند،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: ولی چیزهایی هست که باید بتوانید برای بزرگ شدن از خاطر بزدایید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: صدالبته نکته‌ای که وایلد می‌خواهد خاطرنشان کند این است که سوسیالیسم با معاشرت و هم‌نشینی آدم‌ها سازگاری چندانی ندارد؛ و اینکه ضمناً چه بسا ما با تعهد،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: باور و سرسپردگی و اخلاقیات و هدفمندی، بنا به تأکید وایلد، ذهن خود را محدود کنیم و جلوی رشد خود را بگیریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: انگار که همواره کشش یا تمایلی به این هست که گوناگونی لذت‌هایمان را فراموش کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: لذت‌گرایی‌مان را در خدمت و به خاطر احساس امنیتِ سنتی، به ساده‌ترین شکل و سالم‌ترین شکل درآوریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: و اینگونه، یکی از راه‌ها و اشکال تقبیح لذت‌ها، فراموش کردن و از خاطر زدودن آن‌ها خواهد بود. یعنی راهی که روانکاوی صورتبندی‌اش می‌کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: انگار ما همیشه در حال وضع قوانینی برای خودمان هستیم و آن قوانین هم توجه ما را تهدید می‌کند. یعنی بهمان امر می‌کند فلان چیز را نگاه کنیم و بهمان را نگاه نکنیم؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: به حرف فلان کس گوش کنیم و به حرف بهمان کس گوش نکنیم. منظور وایلد تلویحاً آن بود که به‌یاد‌سپردن، همه‌چیز را به ما گوشزد می‌کند جز لذت‌هایمان.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: و این همان‌جاست که پای هنر وسط کشیده می‌شود. وایلد می‌گوید: «هنر غیراخلاقی‌ست.» و از این رو در هنر است که لذت‌های واقعی‌مان را باز می‌یابیم. همه چیزهایی را باز می‌یابیم که احکام اخلاقی وادارمان می‌کند تقبیح کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: آنچه وایلد تحت عنوان قطعی ندانستن هیچ وضعی از آن حرف می‌زند، به معنی جدی نگرفتن موانع و ممنوعیت‌هاست؛ یعنی نپذیرفتن حد و مرزهای آن موانع و ممنوعیت‌ها.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: همواره تغییرات مهم در رفتارها و اخلاقیات، برهه‌های مهم و تعیین‌کننده در سرگذشت آدم‌ها و فرهنگ‌ها، مستلزم بازتعریف امیالی‌ست که قبلاً ممنوع بوده‌اند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: به هر طریق، امر ممنوع به نحوی به امری کمتر ممنوع یا حتی به امری ناممنوع تبدیل می‌شود و به این ترتیب لذتی از نوعی دیگر برایمان فراهم می‌آورد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: ما به طرق مختلف از لذتِ چیزهای سابقاً ممنوع بهره‌مند می‌شویم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: بهره‌مند از چیزی که کاتلین استوارت در کتاب «تأثرات عادی»، آن را «گرهگاه پیوندهای بالقوه نو» می‌نامد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: بعضی لذت‌های ممنوعه هم تغییر نمی‌کنند و همچنان ممنوعه باقی می‌مانند؛ چرا که در غیر این صورت، زندگی ما تحمل‌ناپذیر می‌شد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: وایلد بر آن بود که با این حال، ما باید در جستجوی امر غیراخلاقی باشیم تا بفهمیم نظرمان درباره‌اش چیست و با تجربه‌اش چه احساسی بهمان دست می‌دهد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: و اینجا همان‌جاست که پای هنر وسط کشیده می‌شود. ما نیاز داریم بتوانیم درباره اینکه لذت و سرخوشی‌مان در چیست فکر کنیم و حرف بزنیم؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: و نیز درباره اینکه چرا احیاناً لذاتمان در آن چیزها نهفته است. باید دریابیم که آیا می‌توانیم آنچه را باید ازش لذت ببریم، جایگزینِ آن چیزی کنیم که از آن لذت می‌بریم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: وایلد در شگفت بود از اینکه چرا لذت‌های ممنوع این‌طور ما را تحت تأثیر قرار می‌دهند و برایمان مهم‌اند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: به عبارت دیگر، چرا احیاناً دلمان می‌خواهد اخلاقیات دلمان را از ترس بلرزاند؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: چرا دوست داریم در دام وسوسه لذت و کیف بیفتیم و بدین ترتیب طعم رنجِ حاصل از انصراف و چشم‌پوشی را بچشیم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: او باور دارد که اگر ما آدم‌ها باور می‌داشتیم، اگر می‌توانستیم طوری زندگی کنیم که انگار به تعبیر او زیبایی‌شناسی والاتر از اخلاق است،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: که حتی در فرایند رشد فرد، شناخت و درک رنگ‌ها مهم‌تر از قوای تشخیص غلط و درست است، زندگی بهتری می‌داشتیم. به عنوان مثال، اگر زیبایی‌شناسی را به اخلاق ترجیح می‌دادیم،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: چه بسا از زندگی در جهانی مملو از پیشامدهای غیرمنتظره بهره‌مند می‌شدیم؛ یا به قول برنارد ویلیامز، از «بخت اخلاقی». وایلد به طور ضمنی بر آن است که اخلاق پیشگویانه است؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: در حالی که زیبایی‌شناسی چنین نیست. اخلاق تجویزی‌ست، در پی تعیین علت‌ها و عواقب است، بر آن است که از آینده خبر بدهد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: اخلاقیات با حکم به اینکه زندگی ما چگونه باید باشد، خیلی وقت‌ها حکم می‌کند زندگی‌مان در واقع چگونه است؛ هرچند ما غالباً این احساس را داریم که نتوانسته‌ایم آن‌طور که باید و شاید زندگی کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0056.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: قهرمانان وایلد از ما می‌خواهند خیال کنیم که اگر امر ممنوعه برایمان کمی کمتر ممنوع می‌بود، زندگی‌مان چه شکلی به خود می‌گرفت.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0057.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: زندگی‌مان چه شکلی به خود می‌گرفت اگر به ایده لذت ممنوع فکر می‌کردیم، به جای اینکه خودمان را از فکر کردن به آن یا حرف زدن درباره‌اش منع کنیم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0058.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: احتمالاً ایده لذت ممنوعه بدترین وجه ما را عیان می‌کند. زندگی ما چه شکلی می‌بود", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: اگر گفته والتر پیتر، مرشد وایلد در زمینه زیبایی‌شناسی، در مقاله‌اش را که به سال ۱۸۶۶ نوشت جدی می‌گرفتیم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: کم‌کم اخلاقیات سفت و سخت و انتزاعی در مقابل سنجش و برآوردِ عینیِ جزئیات و دقایق زندگی ما رنگ می‌بازند؛ و معنای این حرف آن است که", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: جزئیات و دقایق زندگی‌های مدرن ما با اخلاقیات سفت و سخت و انتزاعی تناسبی ندارند. امروزه آنچه را که در اواخر قرن نوزدهم با عنوان جنبش زیبایی‌شناختی از آن یاد می‌شد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0062.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: -یعنی به طور کلی آثار پیتر و وایلد- و بازتقریر آن‌ها از آثار جان راسکین، جان هنری نیومن و متیو آرنولد و رمانتیسم مقدم بر آن‌ها، سوای چیزهای دیگر", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0063.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: می‌توان تلاشی دانست برای تغییر زبانی موروثی؛ پیدا کردن راهی نو برای توصیف اینکه ما با پیروی از قاعده‌ای چه چیز را بر خود روا می‌داریم و خود را از چه چیز محروم می‌کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0064.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: تو گویی خودمان می‌توانیم بگوییم چه چیزهایی را می‌خواهیم به ارث ببریم و با چیزهایی که به ما به ارث رسیده چه می‌خواهیم بکنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0065.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: در این مورد می‌توانیم به ارث بردنِ زبان اخلاقیات، زبان قواعد و اصول و اشکالی از زندگی را نام ببریم که این قواعد و اصول به جای ما برایمان در نظر گرفته‌اند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0066.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: دیوید دلورا در کتاب «عبری و یونانی در عصر ویکتوریای انگلستان» می‌نویسد: «جنبش زیبایی‌شناختی، جنبش مهم و قابل احترام بود در خدمت بازنمایی زندگی در تمامیت آن.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0067.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: بازنمایی آن برای جامعه‌ای به قول آرنولد بیش از پیش آگاه از اینکه نظام نهادها،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0068.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: واقعیات دیرین، اصول، آداب و قواعد تعصب‌آمیزِ تثبیت‌شده موروثی سفت و سخت، پاسخگوی نیازهای زندگی مدرن نیستند.»", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0069.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: این آدم‌های عصر ویکتوریا، به قول آرنولد در جستار دموکراسی، قصد داشتند زندگی و کسب‌وکار خود را به شکلی زنده‌تر و روشن‌تر درک کنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0070.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: اگر به جای کلمات خوب و درست یا مقدس، از کلماتی مثل زیبا یا لذت‌بخش یا مفرح استفاده کنیم -که البته در مورد وایلد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0071.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: بدیل‌های دیگر اواخر قرن نوزدهم، یعنی مفید یا سودمند به کار نمی‌آیند- زندگی ما به چه شکل تغییر می‌کند؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0072.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: به محض اینکه به قدرت بازتعریف چیزها اذعان کنیم، کلماتی مثل راست، خوب، درست، مقدس و البته ممنوعه، از نخستین کلماتی هستند که کنار می‌روند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0073.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: با تغییر دادن رسوم، مسلمات مرسوم را تغییر می‌دهیم. به تعبیر دیگر، تعبیری ملایم‌تر، تعبیری سرسری‌تر و خودمانی‌تر: بعضی کلمه‌ها را فراموش کن و به جایشان از کلمه‌های ناآشناتر استفاده کن. آن وقت خواهی دید چه اتفاقی می‌افتد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0074.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: اگر بنا به گفته پیتر، عادت شکلی از شکست باشد، باید سراغ عادات جدید برویم؛ سراغ حرف زدن به زبانی دیگر.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS05_0075.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: بخش اول، که در آن بر پایه نظریات مختلفی از سه مکتب اصلی فلسفه اخلاق غربی می‌آموزیم چگونه آدم‌های خوبی باشیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0001.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: این مکاتب طی ۲۴۰۰ سال گذشته پدید آمده‌اند. تازه، یک سری چیزهای جذاب دیگر هم یاد می‌گیریم و کل این ماجرا تقریباً ۹۰ صفحه می‌شود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0002.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: آیا می‌توانم بی‌دلیل به صورت دوستم مشت بزنم؟ نه، نمی‌توانید. جواب‌تان همین بود دیگر؟ آفرین. تا حالا که گل کاشته‌اید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: اگر همه‌پرسی راه بیندازم و از هزار نفر بپرسم آیا به نظرشان کار درستی‌ست که بدون هیچ دلیلی با مشت بزنند توی صورت دوست‌شان، شرط می‌بندم هر هزار نفرشان می‌گویند نه.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: ولی عجیب بودن این سؤال که چرا نباید این کار را بکنیم، آن هم وقتی جوابش بدیهی‌ست، در این است که نمی‌توانیم جواب سرراستی برایش پیدا کنیم. چون، خب معلوم است دیگر، چون کار بدی‌ست.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: حتی اگر این توضیح ساده‌لوحانه را با تته‌پته بیان کنیم، باز هم خوب است. این یعنی ما آگاهیم به اینکه رفتارمان حاوی عنصری اخلاقی‌ست و تکلیف‌مان روشن است که این کار، معلوم است دیگر، بد است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: ولی برای اینکه آدم‌های بهتری شویم، جواب‌مان باید قاطعانه‌تر از «چون کار بدی‌ست» باشد. درک یک نظریه اخلاق‌گرایانه واقعی که قادر به توضیح چرایی بد بودن باشد،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: کمک‌مان می‌کند بتوانیم در موقعیتی که مقوله اخلاقیات در آن به اندازه «آیا می‌توانم بی‌دلیل به صورت دوستم مشت بزنم» بدیهی نیست، درباره عملکردمان تصمیم بگیریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: این مسئله تقریباً در هر موقعیتی صادق است. اگر بخواهیم شروع مقبولی داشته باشیم، می‌توانیم بگوییم: خب،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: یک آدم خوب برخلاف یک آدم بد، معمولاً از این جور کارها نمی‌کند و ما می‌خواهیم آدم‌های خوبی باشیم. قدم بعدی این است که تعریف بهتری از آدم خوب داشته باشیم و این کار راحت نیست.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: فکر اولیه سریال «جای خوب» این بود که یک زن بد که در تمام عمرش خودخواه و بفهمی‌نفهمی سنگ‌دل بوده، در نتیجه خطایی مذهبی پس از مرگ به بهشت برود", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: و مجوز زندگی در ابدیتی لذت‌بخش و خوش‌منظره را در کنار بهترین انسان‌هایی که روزی بر زمین زیسته‌اند کسب کند؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: انسان‌هایی که تمام سال‌های حیات‌شان را صرف پاکسازی میدان‌های مین و ریشه‌کن کردن فقر کرده‌اند. در حالی که این زن تمام عمرش ریخت‌وپاش کرده،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: به همه دروغ گفته و بدون ذره‌ای عذاب وجدان به سالمندان وحشت‌زده داروهای تقلبی فروخته.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: زن از ترس اینکه لو برود، تصمیم می‌گیرد آدم خوبی بشود تا لیاقت جایگاه جدیدش را داشته باشد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: به نظرم فکر جالبی بود، اما خیلی زود فهمیدم که خودم اصلاً نمی‌دانم خوب یا بد بودن واقعاً یعنی چه. فقط تشخیص می‌دادم کدام کارها خوب یا بد هستند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: تقسیم کردن خوب است، آدم کشتن بد است، کمک به دوستان خوب است، بی‌دلیل مشت زدن به صورت دوستان بد است. اما ورای این رفتارها چه چیزی نهفته بود؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: کدام نظریه همه‌جانبه و یکپارچه‌ای می‌تواند تعیین کند آدم خوب و بد یعنی چه؟ در مسیر یافتن این پاسخ گم شدم", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: و همین بود که مرا به سوی فلسفه اخلاق هدایت کرد و بعد سریالم و آخرش هم کتابی که ۲۴ صفحه‌اش را صرف توضیح این کرده‌ام که چرا ناکار کردن رفیق‌مان بد است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: فلاسفه به روش‌های مختلفی خوب و بد را توصیف می‌کنند و ما در این کتاب به بسیاری از این روش‌ها سرک می‌کشیم. رویکرد بعضی‌ها به مفاهیم خوب و بد بر اساس اعمال است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: آن‌ها می‌گویند اعمال خوب در راستای قوانین خاصی انجام می‌شوند که قادر به کشف و متابعت از آن‌ها هستیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: بقیه می‌گویند منظور از عمل خوب هر کاری‌ست که باعث ایجاد حداکثر لذت و حداقل رنج شود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: حتی فیلسوفی ادعا کرده خوبی از این می‌آید که ما تا جایی که می‌توانیم خودخواه باشیم و فقط به خودمان اهمیت بدهیم. ادعای این خانم واقعاً همین است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: ولی اولین نظریه‌ای که قرار است درباره‌اش صحبت کنیم، قدیمی‌ترین ستون در میان سه ستون به نام «اخلاقیات فضیلت‌محور» است. اخلاقیات فضیلت‌محور سعی دارد به پرسشی پاسخ دهد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: که در ابتدای کار مرا گیج کرده بود: چه چیزی باعث می‌شود یک انسان خوب یا بد باشد؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: از نظر اخلاق‌گرایانِ فضیلت‌محور، انسان خوب خصیصه‌ها یا فضیلت‌های معینی دارد که به مرور زمان در خود پرورانده است. این انسان نه تنها دارای این خصیصه‌هاست،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: بلکه این خصیصه‌ها را به میزان مناسب داراست. قابل فهم است، نه؟ اگرچه همین‌جا صد سؤال به ذهن‌مان هجوم می‌آورند: چه خصیصه‌هایی؟ چطور باید به دست‌شان بیاوریم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: از کجا بفهمیم به دست‌شان آورده‌ایم؟ در فلسفه چنین اتفاقی زیاد می‌افتد. همان لحظه که سؤالی می‌پرسید، باید پشت‌سرش پنجاه تا سؤال دیگر هم بپرسید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: بلکه بفهمید سؤالی که پرسیده‌اید سؤال درستی بوده یا نه و اینکه آیا می‌فهمید چرا این سؤال را می‌پرسید؟ و بعد باید درباره این سؤال‌ها سؤال بپرسید", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: و این‌قدر عقب‌گرد کنید و مسئله را موشکافی کنید و ذره‌ذره آن‌قدر به کنه کنکاش‌تان نزدیک شوید تا بالاخره به آلمانیِ فاشیستی برسید که می‌خواهد بفهمد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: چیزها اصلاً چرا وجود دارند. ممکن هم هست از خودمان بپرسیم که روشی یگانه برای تعریف انسان خوب وجود دارد یا نه؟ به قول فیلیپ پولمن:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: انسان‌ها پیچیده‌اند و نمی‌توان با برچسبی ساده به حقیقت‌شان پی برد. همه ما فراورده‌های به شدت فردیت‌یافته محیط و پرورش هستیم؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: گرداب‌هایی پیچ‌درپیچ از ویژگی‌های شخصیتی ذاتی، آموزه‌های معلمان و والدین و دوستان، درس‌های زندگی که از شکسپیر آموخته‌ایم یا شاید هم از مجموعه فیلم‌های سریع و خشن.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: آیا امکان دارد مجموع خصیصه‌هایی که همه‌مان باید داشته باشیم و میزان مناسب‌شان را تعیین کرد؟ همان خصیصه‌هایی که باعث می‌شوند تک‌تک‌مان خوب باشیم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: برای پاسخ به این پرسش‌ها باید تمام آموخته‌های‌مان را به دست فراموشی بسپاریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: باید خودمان را از نو آغاز کنیم. اجزای وجودمان را از یکدیگر تفکیک کنیم و سپس با درکی ریشه‌دارتر از هر غلطی که داریم می‌کنیم و چرایی این غلط‌ها، خودمان را از نو بنا کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: کسی که اینجا به دادمان می‌رسد، ارسطوست. رود خروشان زرندود. ارسطو از سال ۳۲۲ تا ۳۸۴ قبل از میلاد زندگی کرد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: و درباره مهم‌ترین چیزها، مهم‌ترین چیزها را نوشت. اگر مایلید نسبت به خودتان و دستاوردهای قلیل‌تان حس بدی پیدا کنید، سری به صفحه ویکیپدیای‌ش بزنید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: تخمین زده‌اند که کمتر از یک‌سوم آثار مکتوب ارسطو تا امروز باقی مانده، اما همین آثار این موضوعات را پوشش می‌دهند: اخلاقیات، سیاست، زیست‌شناسی، فیزیک، ریاضیات،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: جانورشناسی، هواشناسی، روح، حافظه، خواب و رویا، علم بیان، منطق، متافیزیک، سیاست، موسیقی، تئاتر، روانشناسی،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: آشپزی، اقتصاد، بدمینتون، زبان‌شناسی، سیاست و زیبایی‌شناسی.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: این فهرست آن‌قدر طویل است که سه بار زیرپوستی سیاست را تویش چپاندم و شما هم متوجه نشدید و حتی وقتی ادعا کردم او درباره بدمینتون هم نوشته کک‌تان نگزید؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: ولی قطعاً چهار قرن قبل از میلاد مسیح بدمینتون وجود خارجی نداشته. در ضمن، فکر نکنم هرگز درباره آشپزی چیزی نوشته باشد،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: ولی اگر به من بگویید ارسطو طوماری ۴۰۰۰ کلمه‌ای درباره طرز تهیه خوراک مرغ پنیری اعلا نوشته، باورم می‌شود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS06_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: بخش اول: اندوه و تمنا چگونه می‌توانیم درد را به خلاقیت، تعالی و عشق تبدیل کنیم؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0001.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: پیش از آنکه مهربانی را ژرف‌ترین خصلت باطن بشناسید، باید اندوه را نیز در همان ژرفا درک کنید. (نائومی شهاب نای) در سال ۲۰۱۰", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0005.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: پیت داکتر، کارگردان معروف شرکت پیکسار، تصمیم گرفت انیمیشنی درباره احساسات نابسامان دخترکی یازده ساله به نام رایلی بسازد. کلیات داستانش را در ذهن داشت؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: قرار بود فیلم با صحنه‌ای شروع شود که رایلی از زادگاه محبوبش، مینه‌سوتا، دور می‌شود و به خانه و مدرسه‌ای جدید در سانفرانسیسکو راه می‌یابد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: در عین حال توفان احساسی نوجوانیِ پیشِ رو نیز او را احاطه کرده است. بسیار عالی، اما داکتر با معمایی خلاقانه مواجه بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: می‌خواست احساسات رایلی را به شکل شخصیت‌هایی دوست‌داشتنی نشان دهد که در مغزش یک مرکز کنترل را می‌گردانند و خاطرات و زندگی روزمره‌اش را شکل می‌دهند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: اما کدام احساسات؟ روان‌شناسان به او گفتند که ما ۲۷ احساس مختلف داریم، اما با این همه شخصیت نمی‌توان داستان خوبی گفت. داکتر باید خلاصه‌اش می‌کرد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: و یکی از احساسات را شخصیت اصلی قرار می‌داد. چند احساس مختلف را برای نقش اصلی انتخاب کرد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: و بعد تصمیم گرفت ترس را در مرکز قصه قرار دهد و همچنین شادی را، چون به قول خودش ترس بامزه است. غم را هم در نظر داشت اما جذاب به نظر نمی‌رسید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: داکتر در مینه‌سوتا بزرگ شده بود که به قول خودش هنجارها کاملاً مبتنی بر مزاج دموی‌اند؛ خیلی قباحت دارد جلوی کسی گریه کنی. سه سال از فرایند تولید فیلم گذشت.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: دیالوگ‌ها آماده شده بود، بخش‌هایی از فیلم را ساخته بودند، شوخی‌های با ترس را پرداخته بودند که بعضی‌هایشان بسیار ناب بود. اما داکتر تازه فهمید یک جای کار می‌لنگد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: قرار بود بخش‌های ساخته شده را برای تیم اجرایی پیکسار نمایش دهند و مطمئن بود خوب نشده است. پرده سوم در نیامده بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: طبق قوس داستانی فیلم، شادی باید درس بزرگی می‌گرفت اما ترس هیچ چیز نداشت که به او یاد بدهد. داکتر قبلاً دو اثر بسیار موفق در کارنامه داشت: «بالا» و «کارخانه هیولاها»،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: اما کم‌کم احساس می‌کرد این دو اثر شانسی از آب درآمده‌اند. با خود فکر کرد: «نمی‌دانم دارم چه کار می‌کنم، باید دست بردارم.»", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: کار به جایی رسیده بود که در ذهنش درباره آینده‌اش پس از خروج از پیکسار سناریوهای تاریکی می‌ساخت؛ وضعیتی که هم شغلش را از دست داده و هم باید کلاً قید این کار را می‌زد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: دچار سوگواری قبل از حادثه شد. فکر زندگی خارج از اجتماع محبوبش، دور از آن آدم‌های خلاق و تاجران یکه، به او این حس را القا می‌کرد که دارد غرق می‌شود؛ غرق در غم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: و هرچه مستأصل‌تر می‌شد، بیشتر می‌فهمید که چقدر همکارانش را دوست دارد. همین باعث شد کشفی شهودی به ذهنش برسد:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: احساسات او و تمام احساسات ما، همه به این خاطرند که انسان‌ها را به هم وصل می‌کنند و غم از میان تمام احساسات، بزرگترین عامل پیوند است. حالا این‌طور تعریف می‌کند:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: «یکهو به دلم برات شد که باید ترس را از صحنه خارج کنیم.» آن شد که غم با شادی پیوند یافت.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: مشکل اصلی این بود که باید جان لستر، مدیر وقت پیکسار را مجاب می‌کرد که غم را در بطن فیلم جای دهد. نگران بود که کار سختی در پیش داشته باشد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: در آتریوم باصفا و پر نور پردیس پیکسار در امری‌ویل کالیفرنیا، که استیو جابز طراحی‌اش کرده، نشستیم و داکتر این ماجراها را برایم تعریف می‌کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: دور تا دورمان پر از مجسمه‌های بزرگ شخصیت‌های پیکسار، خانواده پار از شگفت‌انگیزان، باز از داستان اسباب‌بازی‌ست که در کنار پنجره‌های شیشه‌ای بلند ژست گرفته‌اند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: داکتر در محیط شرکت پیکسار محبوبیت زیادی دارد. همان روز", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: کمی قبل‌تر جلسه‌ای مدیریتی درباره مهار استعدادهای فیلم‌سازان درون‌گرا برگزار کرده بودم و چند دقیقه پس از شروع جلسه،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: داکتر به اتاق کنفرانس آمده و با گرمای شخصیتش جان تازه‌ای به اتاق داده بود. داکتر خودش هم به شخصیت‌های انیمیشنی می‌ماند و سر و ظاهری مستطیلی دارد؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: لندوک است، ۱۹۵ سانتی‌متر قد دارد و نیمی از صورت کشیده‌اش پیشانی‌ست، حتی دندان‌هایش هم بلند و مستطیلی‌اند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: اما برجسته‌ترین ویژگی او پویایی حالات چهره‌اش است؛ لبخندها و سگرمه‌هایش حکایت از حساسیتی جذاب و فرحبخش دارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: بچه که بود خانواده‌اش به کپنهاگ رفتند تا پدرش برای رساله دکترا درباره موسیقی کر دانمارکی تحقیق کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: داکتر دانمارکی بلد نبود و حرف بچه‌های دیگر را نمی‌فهمید. درد حاصل از این تجربه او را به سوی انیمیشن کشاند. نقاشی کشیدن از روی مردم راحت‌تر از صحبت با آن‌ها بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: حتی حالا هم هنوز شخصیت‌هایی خلق می‌کند که در خانه‌های درختی زندگی می‌کنند و در سرزمین‌های خاموش خیال شناور می‌شوند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: داکتر نگران بود تیم اجرایی بگویند شخصیت غم بیش از حد افسرده و تاریک است. انیماتورها این شخصیت را با ظاهری عینکی، تپل و آبی ساخته بودند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: چرا باید چنین شخصیتی را در مرکز فیلم قرار داد؟ کی با چنین شخصیتی همزادپنداری می‌کند؟ در این فرایند داکتر متحد دیگری هم داشت: داچر کلتنر،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: استاد با نفوذ روان‌شناسی در دانشگاه کالیفرنیا در برکلی. کلتنر را فراخوانده بود تا به او و همکارانش درباره علم احساسات آموزش بدهد. دوستانی صمیمی شدند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: دختر کلتنر و دختر داکتر هر دو دچار فراز و نشیب‌های دوران نوجوانی بودند و این اضطراب نیابتی دو مرد را به هم پیوند داد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: کلتنر کارکرد هر یک از احساسات اصلی را به داکتر و تیمش آموخت: ترس پاسبان امنیت است، خشم نمی‌گذارد از آدم سوءاستفاده کنند، و غم... غم چه کار می‌کند؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: کلتنر توضیح داد که غم برانگیزاننده شفقت است؛ یعنی دل آدم‌ها را به هم نزدیک می‌کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: کمک می‌کند بفهمی چقدر اجتماع اعجوبه‌های فیلم‌ساز پیکسار برایت عزیزند. تیم اجرایی به این ایده چراغ سبز داد و داکتر و تیمش فیلم‌نامه را از نو نوشتند", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: که از قضا اسکار بهترین انیمیشن را برد و پرفروش‌ترین فیلم غیر اقتباسی در تاریخ پیکسار شد؛ آن هم فیلمی که غم نقش اصلی‌اش بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: اولین باری که کلتنر را ببینید که موهای بلند، خلق و خوی ورزشی شبیه موج‌سواران و لبخندی ملیح دارد، تصورش را نمی‌کنید که سفیر غم باشد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: به قیافه‌اش می‌خورد حالت معمولی‌اش مسرت و شادی باشد؛ گرمی و محبت از او به بیرون می‌تابد. سیاس است و استعداد درونی برای دیدن دیگران و قدردانی از آن‌ها دارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: کلتنر مدیر دو تا از تاثیرگذارترین آزمایشگاه‌های روان‌شناسی مثبت‌گرا، یعنی آزمایشگاه تعامل اجتماعی برکلی و مرکز علمی مصلحت عموم است", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: و در آنجا به پژوهش درباره احساسات خوشایند زیستن می‌پردازد: شگفتی، حیرت، شادی.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: اما کمی که با او وقت بگذرانید متوجه می‌شوید که گوشه چشم‌هایش مثل سگ نژاد باست‌هاند پایین می‌افتند و خودش را مضطرب و سودازده معرفی می‌کند؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: یعنی آدمی تلخ و شیرین. کلتنر می‌گوید: «غم هسته وجودی من است.» در کتاب «سکوت»، پژوهش‌های روان‌شناسان، جروم کاگان و", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: الین آرون را توضیح داده‌ام که نشان می‌داد ۱۵ الی ۲۰ درصد از نوزادان مزاجی را به ارث می‌برند که باعث می‌شود بلاتکلیفی‌های زندگی و نیز شکوه آن بیشتر بر آن تاثیر بگذارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: کلتنر خودش را جز دسته‌ای می‌داند که کاگان «فوق واکنشی مادرزادی» می‌خواند و آرون اسمش را می‌گذارد «فوق حساس».", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: کلتنر در دهه ۱۹۷۰ در خانواده‌ای پر هیاهو و پر شور بار آمده بود. پدرش آتش‌نشان و نقاش بود،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: او را به موزه‌های هنری می‌برد و تائوئیسم را به او می‌آموخت. مادرش استاد ادبیات بود، اشعار رمانتیک برایش می‌خواند و علاقه خاصی به دی. اچ. لارنس داشت.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: کلتنر و برادر کوچکترش رلف، که خیلی با او صمیمی بود، شب و روز در دل طبیعت پرسه می‌زدند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: والدینشان آن‌ها را تشویق می‌کردند تا علایق اصلی‌شان را بیابند و زندگی خود را حول آن‌ها شکل دهند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: اما والدین کلتنر در تلاش برای تجربه کردن تمام شور زندگی، با سرعتی سرسام‌آور نقل مکان می‌کردند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: از شهری کوچک در مکزیک که کلتنر در یکی از کلینیک‌های کوچک آن به دنیا آمده بود، رفتند به لورل کنیون، محله پادفرهنگ‌نشین کالیفرنیا در هالیوود هیلز.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: آنجا همسایه جکسون براون پیانیست بودند و کلتنر کلاس دوم را به مدرسه‌ای رفت که اسمش واندرلند بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0056.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: بعد رفتند به شهرک کشاورزی کوچکی در کوهپایه‌های سیرا که فقط دو سه نفر از هم‌کلاسی‌های کلاس پنجمش بعداً به دانشگاه وارد شدند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0057.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: در دوران دبیرستان کلتنر، که خانواده به ناتینگهام در انگلیس نقل مکان کردند، زندگی مشترک والدینش رو به زوال رفته بود. پدرش عاشق همسر یکی از دوستان خانوادگی‌شان شده بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0058.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: یک پای مادرش همیشه در پاریس بود و درباره تئاتر تجربی تحقیق می‌کرد. کلتنر و رلف به حال خود رها شده بودند، مست می‌کردند و مهمانی می‌گرفتند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: دیگر هیچ وقت آن خانواده چهار نفره سابق نشدند. کلتنر در ظاهر کودکی دردانه بود و هنوز هم هست، اما فروپاشی ناگهانی خانواده،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: به قول خودش، غمی ماندگار و طولانی بر دل او و خانواده‌اش نشاند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS07_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: و تحت تأثیر فلسفه و فرهنگ زیبایی‌شناختی این کشور قرار گرفته است. بِس با مدرک کارشناسی ارشد زبان ژاپنی، سال‌های زیادی مشغول کار و زندگی در ژاپن بوده است؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0005.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: جایی که او آن را خانه دوم خود می‌داند. او طی این سال‌ها کاغذسازی ژاپنی، گل‌آرایی، سفالگری، نورن‌سازی (یعنی ساخت تابلو پرده‌های ژاپنی)،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: خوشنویسی، اجرای مراسم چای و بافندگی را آنجا آموخته است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: در مجموع، تمام این تجربیات منجر شده است به عشق عمیق او به این کشور و فهم بی‌نظیرش نسبت به تفاوت‌های ظریف زبان‌شناختی و فرهنگی آن.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: بِس قبلاً در شبکه ان‌تی‌وی توکیو مهارت‌های مجری‌گری تلویزیون را آموخته و چندین ماه پیش هم برنامه تلویزیونی خودش را در تلویزیون کابلی یاماگاتا در شمال کشور اجرا کرد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: او درباره ژاپن و فلسفه شرق در نشریات گوناگون، از جمله نشریه «عشق سفر»، مجله «یوگا» و «آنجا که زنان خلق می‌شوند» مطلب نوشته است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: کمپتون برنده یک جایزه کارآفرینی و نویسنده کتاب‌های خودیاریست و همچنین یکی از بنیان‌گذاران مجله طراحی آنلاین «مویوست» که الگوهای ژاپنی را در دستور کار خود دارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: او به همراه شوهرش آقای ایکس، سایت‌های dowhatyouloveforlife.com و makeartthatsells.com و makeitindesign.com", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: را راه‌اندازی کرده که همگی آن‌ها ارائه‌دهنده ابزار، منابع و دوره‌های آنلاین برای یک زندگی الهام‌بخش و انگیزشی هستند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: بِس همچنین در مدیریت یک انجمن آنلاین برای زنان کارآفرین مشتاق در hellosoulhellobusiness.com و افراد کارآزموده و خبره،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: طی سال‌های عمده فعالیتشان و تغییرات شغلی آن‌ها ایفای نقش می‌کند. برای آگاهی از جزئیات بیشتر به bethkempton.com مراجعه فرمایید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: او در مجله «روح و تقدیر» با عنوان ستاره برجسته و نویدبخش معرفی شده است و همچنین او را وبلاگ‌نویس برتر ۲۰۱۷ در بخش وبلاگ‌های ذهن،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: بدن، روح در مجله «ارواح هم‌سرشت» معرفی کرده‌اند. وبلاگ اخیر او را یکی از بهترین وبلاگ‌های انگیزشی برای زندگی شاد در جهان می‌دانند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: اولین کتاب او «در جستجوی رهایی: بیشتر زندگی کن، کمتر نگران باش، آنچه دوست داری انجام بده» به وسیله انتشارات هی‌هاوس در ۲۰۱۷ منتشر شد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: او عاشق برگزاری کارگاه‌های آموزشی و سخنرانی درباره زندگیست و نیز عضو هیئت علمی مراکز آموزشی ۱۴۴۰ در کالیفرنیا می‌باشد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: بِس خودش را اینگونه توصیف می‌کند: رهروی پیگیر، ماجراجو و جویای زیبایی، کمی عشق شکلات و دوستدار تعادل و ثبات ژاپنی‌ها.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: او مادر دو دختر تحسین‌برانگیز است و زندگی نسبتاً آرامی را در سواحل جنوبی انگلستان تجربه می‌کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: او هیچ‌ چیزی را بیشتر از یک نوبت حمام جنگلی یا در واقع با جان و دل غرق شدن در دل طبیعت (اصطلاح ژاپنی آن شین‌رین یوکو می‌باشد)", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: و رفتن به پیک‌نیک به همراه خانواده جوانش دوست ندارد. می‌توانید برای کسب اطلاعات بیشتر درباره زندگی عالی و در عین حال دارای کم و کاست او، به صفحه اینستاگرامش با نشانی @bethkempton نگاهی گذرا بیندازید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: پیشگفتاری از هیده‌توشی ناکاتا من در سن ۲۱ سالگی ژاپن را به قصد پیدا کردن مسیر زندگی‌ام در این دنیای بزرگ و پهناور ترک گفتم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: به مدت هشت سال در لیگ سری آ ایتالیا و لیگ برتر انگلستان به عنوان فوتبالیست حرفه‌ای بازی کردم و مهم‌ترین دوران زندگی ورزشی‌ام را سپری کردم. تجربه زندگی در خارج از کشور", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: به من نشان داد که قدم گذاشتن به بیرون از محیط آشنا و مأنوس همیشگی و وارد دنیای ناشناخته‌ها شدن، چقدر حقیقتاً می‌تواند چشم‌ها و ذهنمان را باز کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: طی آن سال‌ها شدیداً تلاش می‌کردم که اول زبان ایتالیایی و پس از آن انگلیسی را بیاموزم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: هرچه بیشتر می‌آموختم، بیشتر پی می‌بردم به اینکه چگونه آشنایی با یک زبان می‌تواند پنجره‌ای رو به فرهنگ‌های دیگر بگشاید و نیز می‌تواند درگاهی سوی روابط و رفاقت‌های طولانی‌مدت باشد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: پس از کناره‌گیری از فوتبال در جام جهانی فیفا ۲۰۰۶، چند سالی را به سفر و سیاحتِ سرتاسر دنیا سپری کردم. با آدم‌های زیادی در هر نوع شغلی دیدار کردم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: هر کجا می‌رفتم، مردم به من می‌گفتند که چقدر علاقه‌مند به ژاپن و فرهنگ آن هستند. انواع و اقسام سؤالات را از من می‌پرسیدند که بسیاری از آن‌ها را نمی‌توانستم پاسخ گویم", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: و همان وقت بود که فهمیدم خودم ژاپنی هستم، اما تا به حال به‌درستی قدردان فرهنگ غنی و ریشه‌دار کشورم نبوده‌ام.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: دلم می‌خواست بفهمم آن چه بود که برای مردم سرتاسر دنیا این‌قدر جذاب بود؛ بنابراین تصمیم گرفتم به ژاپن برگردم و خودم آن را کشف کنم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: یک سؤال ذهنم را مشغول کرده بود: فرهنگ چیست؟ فرهنگ غذایی، فرهنگ مد و پوشش و فرهنگ ژاپنی. می‌خواستم در این‌ باره بیشتر بدانم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: هنگامی که مردم از واژه فرهنگ استفاده می‌کنند، به سبک زندگی خاصی اشاره می‌کنند که تعدادی از مردم در مدت‌زمانی مشخص از آن پیروی می‌کنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: در واقع چیزی‌ست که ما آن را به‌ واسطه روشی که برای زندگی‌کردن در پیش می‌گیریم خلق می‌کنیم. در نتیجه مصمم شدم به جای دیدن اماکن، از آدم‌ها دیدار کنم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: من هفت سال بعدی را صرف شناخت و کند و کاو در گوشه گوشه ژاپن کردم. همه ۴۷ استان کشور را زیر پا گذاشتم تا با استادان،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: صنعتگران، کشاورزان، خبرگان در امر اشربه‌سازی، راهبان ذن، موبدان مذهب شینتو و افراد محلی وقت بگذرانم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: در حالی که مصمم به یادگیری فرهنگ ژاپنی بودم، در حقیقت در حال یادگرفتن آموزه‌های زندگی بودم. هرگاه از خواب برمی‌خاستم،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: پیش از آنکه خورشید برآید و یا کشاورزانی که مشغول برداشت برنج‌هایشان بودند هوای تازه را استنشاق کنند، پیش از آنکه قطرات باران فرو ریزد و همه دست در دست یکدیگر بگذارند،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: و یا قبل از دیدن استادکاران متبحری که مشغول بازی‌بازی با زیبایی‌های محصولی بودند که در سایه‌سار زحمات خودشان بالنده گشته بود،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: آموختم که معنای حقیقی زیستن در هماهنگی با زمین چگونه است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: میوه‌های آبدار که هرکدام دانه‌دانه از ساقه جدا گشته‌اند، آبزیانی که تازه از آب گرفته شده‌اند، اشربه‌ای که با دقت به عمل آورده شده‌اند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: من با هر بار به دندان گرفتن و مزه‌مزه کردنشان درباره اینکه چگونه باید طعم آن‌ها را با تمام وجود احساس کنم، بیشتر می‌آموختم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: با گذر زمان متوجه شدم که غرق در ریتم زندگی روستایی شده‌ام؛ ریتم فصل‌ها و طبیعت در ژاپن.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: با زندگی در شهرها به خیلی چیزهای خوب دسترسی داریم، اما در عین حال از طبیعت جدا افتاده‌ایم و محیط مصنوعی اطرافمان تمام انرژی و توانمان را تحلیل برده است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: این را زمانی توانستم بفهمم که ماه‌ها در حومه شهر زندگی کردم و آنجا وقت گذراندم. آن وقت تشخیص دادم که چقدر احساس بهتری دارم: پرانرژی، هوشیار و شاد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: وقتی که ما خودمان را از طبیعت جدا می‌کنیم، برایمان تبدیل به چیزی می‌شود که در تلاش برای کنترل کردن و مدیریت آن هستیم؛", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: غافل از اینکه طبیعت هر وقت که بخواهد می‌تواند قدرت شگفت‌انگیزش را بر ما آشکار کند. من معتقدم فقط با زندگی کردن در سایه روابط صمیمانه با طبیعت،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: احترام گذاشتن به آن و جاری شدن درون ریتم هستی، می‌توانیم ناب‌ترین احساسات خود را تجربه کنیم و شکرگزارِ هر روز زندگی‌مان و لحظه‌به‌لحظه آن باشیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: وابی‌سابی به صورت تنگاتنگی با این ارتباط صمیمانه و اساسی با طبیعت در هم تنیده است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: وابی‌سابی یعنی پذیرش ناپایداریِ همه‌چیز در جهان و تجربه زندگی به واسطه جمله احساسات درونی و بیرونی.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: من امید آن دارم که این کتاب الهام‌بخشتان باشد تا ریتم دلنشین زندگی خود را دریابید و بفهمید که شادی و سعادت درست همان‌جایی‌ست که هستید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: با شناختی که بیش از ۱۲ سال از بِس دارم و تعهد و دغدغه‌هایش را به عنوان دانش‌آموز مدرسه زندگی ژاپنی خوب درک می‌کنم،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: می‌دانم که او همان کسی‌ست که می‌تواند در این مسیر راهنمایتان باشد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS08_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: از دانشگاه جرج‌تاون فارغ‌التحصیل شده بود و مرحله بعدی را در دانشکده بازرگانی هاروارد گذرانده بود. در یک شرکت بیمه و سرمایه‌گذاری موفق استخدام شده بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0006.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: احساس می‌کرد از او انتظار دارند روزهای کاری‌اش طولانی باشند و همین‌طور کار می‌کرد. ۸۰ ساعت در هفته، حتی روزهای تعطیل. هیچ وقت اداره را قبل از رئیسش ترک نمی‌کرد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0007.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: گاهی به نظر می‌رسید اصلا اداره را ترک نمی‌کند. سفرهای کاری‌اش آن‌قدر زیاد بود که پرپروازترین مسافر هواپیمایی دلتا شد. سطحی آن‌قدر بالا که حتی اسمی برایش انتخاب نکرده بودند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0008.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: در عین حال عضوی از هیئت مدیره چهار شرکت در سه قاره مختلف بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0009.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: یک بار با وجود اینکه مریض بود، قبول نکرد در خانه بماند و در طول جلسه هیئت مدیره، سه بار مجبور شد به دلیل حالت تهوع به سرویس بهداشتی برود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0010.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: وقتی به جلسه برگشت، یکی از همکارانش گفت: رنگش خیلی پریده است. با وجود این، باز هم با قدرت به جلسه ادامه داد. به او آموخته بودند که کلید هر چیزی در زندگی، سخت کار کردن است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0011.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: قسمتی از چارچوب فرهنگی و ذهنی نیوانگلند همین بود: وجدان کاری فرد، نمایانگر شخصیت اوست؛ و او که از اول جاه‌طلب بود، پا را از این هم فراتر گذاشت.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0012.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: از نظر او ساعت‌های بی‌شمار کار کردن، مسیری برای موفقیت نبود، خود موفقیت بود. فکر می‌کرد اگر کسی تا دیر وقت سر کار نباشد، حتما کارش اهمیت زیادی ندارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0013.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: باور داشت ساعات طولانی کارش نتیجه‌بخش خواهند بود. اما روزی رسید که ناگهان فهمید برای شرکتی ورشکسته کار می‌کند. نام آن شرکت AIG و سال اتفاق ۲۰۰۸ بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0014.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: تمام آن تا دیر وقت در اداره ماندن‌ها، سفرهای همراه با بی‌خوابی بی‌شمار به اروپا، آمریکای جنوبی و چین، همه جشن‌ها و تولدهایی که از دست داده بود، برای هیچ و پوچ انجام شده بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0015.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: مک‌گینس طی ماه‌های بعد از بحران مالی نمی‌توانست از تخت‌خواب بیرون بیاید. شب‌ها در تخت عرق می‌کرد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0016.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: دیدش تار شده بود؛ هم از نظر عینی، هم از نظر ذهنی. ماه‌ها بینایی واضح نداشت. تقلا می‌کرد، انگار که در تله‌ای گیر افتاده باشد، گم شده بود. از شدت استرس بیمار شده بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0017.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: پزشکش آزمایش‌هایی از او گرفت. احساسی مانند باکسر، شخصیت غم‌انگیز اسب در رمان مزرعه حیوانات جرج اورول داشت. باکسر در این کتاب چنین توصیف شده است:", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0018.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: سخت‌کوش‌ترین کارگر مزرعه که در پاسخ به هر مشکل یا شکستی می‌گفت: سخت‌تر کار خواهم کرد؛ تا اینکه از کار بیش از حد فروپاشید و به کشتارگاه حیوانات پیر فرستاده شد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0019.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: مک‌گینس در حالی که سوار تاکسی از مطب دکتر به خانه می‌رفت، تصمیم به چیزی گرفت که آن را عهدی با خدا می‌خواند. قول داد اگر این ماجرا تمام شود، تغییراتی در زندگی خود خواهم داد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0020.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: از قول او کار سخت‌تر و طولانی‌تر راه‌حل تمام مشکلات بوده است. اما حال ناگهان دریافته بود بازده نهایی کار بیش از حد در واقع منفی است. پس باید چه می‌کرد؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0021.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: سه گزینه داشت. می‌توانست به سبک قبلی ادامه دهد و آن‌قدر کار کند تا از کار بیفتد. می‌توانست توقع خود را پایین بیاورد و اهداف قبلی را فراموش کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0022.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: یا می‌توانست راهی آسان‌تر برای رسیدن به موفقیت مدنظرش پیدا کند. انتخاب او گزینه سوم بود. از سمت مشاور در AIG استعفا کرد. دیگر ۸۰ ساعت در هفته کار نمی‌کرد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0023.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: ساعت ۵ به خانه می‌رفت. آخر هفته‌ها هم ایمیل کاری نمی‌فرستاد. دیگر طوری رفتار نمی‌کرد که گویی خواب شری‌ست ضروری. پیاده‌روی، دویدن و خوردن غذاهای سالم را در برنامه خود قرار داد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0024.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: نزدیک ۱۲ کیلو وزن کم کرد. دوباره داشت از زندگی و کار خود لذت می‌برد. در همین زمان بود که تحت تاثیر دوستی قرار گرفت. دوستش در استارت‌آپ‌ها سرمایه‌گذاری می‌کرد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0025.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: پول زیادی نیاز نبود، فقط هر از گاهی مبالغ اندک پرداخت می‌کرد. علاقه پاتریک جلب شد. در چند شرکت سرمایه‌گذاری کرد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0026.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: حالا بازدهی سبد سهامش ۲۵ برابر سرمایه اصلی‌ست. او حتی در برهه‌های سخت اقتصادی نسبت به امور مالی خود خوش‌بین بوده، چون صرفا به یک منبع درآمد متکی نیست.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0027.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: او حالا نصف گذشته کار می‌کند و درآمد بیشتری هم دارد. نوع کارش نیز بیشتر رضایت‌بخش و کمتر مخل زندگی عادی‌ست. می‌گوید: انگار دیگر اصلا کار نمی‌کنم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0028.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: چیزی که او از این تجربه یاد گرفت این بود: وقتی که دیگر نمی‌توانید بیشتر تلاش کنید، باید راه دیگری پیدا کنید. شما چطور؟ آیا تا به حال چنین احساس‌هایی داشته‌اید؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0029.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: سریع‌تر می‌دوید اما به اهدافتان نزدیک نمی‌شوید؟ می‌خواهید تاثیر و مشارکت بیشتری داشته باشید اما انرژی لازم را ندارید؟ درست در مرز فرسودگی شغلی قرار دارید؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0030.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: مسائل بسیار سخت‌تر از آنی هستند که باید باشند؟ اگر به یکی یا تمام این سوالات پاسخ بله دادید، این کتاب مناسب شماست.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0031.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: این‌گونه افراد کاملا منظم و متمرکز هستند. درگیر کار و با انگیزه‌اند، با این حال کاملا زیر فشار له شده‌اند. راه بی‌دردسر زندگی فراز و فرود دارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0032.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: هر کاری انجام می‌دهیم دارای ریتم است. گاهی باید تمام توان خود را صرف کنیم و گاهی به استراحت و بازیابی توانمان بپردازیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0033.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: اما امروزه بسیاری از ما همیشه داریم بیشتر و بیشتر تلاش می‌کنیم. هماهنگی و ریتمی وجود ندارد، هرچه هست تلاش پرزحمت است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0034.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: ما در دورانی سرشار از فرصت‌ها زندگی می‌کنیم، اما زندگی عصر مدرن مانند کوهنوردی در ارتفاعات بالاست. مغزمان درست کار نمی‌کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0035.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: زمین زیر پایمان سست است. هوا رقیق است و پیشرفتی حتی جزئی بسیار خسته‌کننده به نظر می‌رسد. چرا؟ شاید دلیلش ترس بی‌پایان و عدم اطمینان نسبت به آینده باشد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0036.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: شاید تنهایی و دورافتادگی. شاید نگرانی‌ها و مشقت‌های اقتصادی. شاید هم تمام مسئولیت‌ها و تمام فشارهایی که به صورت روزانه خفه‌مان می‌کنند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0037.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: علت هرچه باشد، نتیجه این است که دو برابر کار می‌کنیم اما اندازه نصف نتیجه می‌گیریم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0038.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: زندگی سخت است، واقعا سخت است. از هر منظری، در مسیری از پیچیده تا پرفشار و از اندوهگین تا دشوار قرار دارد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0039.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: ناامیدی‌ها سخت‌اند. پرداخت قبض‌ها سخت است. روابط پیچیده، دشوار و سخت هستند. بچه بزرگ کردن سخت است. از دست دادن عزیز سخت است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0040.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: دوره‌هایی از زندگی هر کسی وجود دارند که هر روزش می‌تواند سخت باشد. اینکه وانمود کنیم یک کتاب توانایی از بین بردن این مشکلات را دارد، بیش از حد تخیلی‌ست.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0041.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: من این کتاب را ننوشتم تا این مسئولیت‌ها را کوچک جلوه دهم، بلکه نوشتم تا به شما کمک کنم بار مسئولیت را سبک‌تر کنید.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0042.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: شاید این کتاب نتواند تمام مسائل سخت را به سادگی پذیرفتنی و قابل حل کند، اما باور دارم بسیاری از مشکلات را آسان می‌کند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0043.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: طبیعی‌ست که در برابر چالش‌های بزرگ و سنگین زندگی، احساس خستگی و درهم‌شکستگی کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0044.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0069.wav"} +{"text": "Speaker 3: به همین اندازه نیز طبیعی‌ست که در برابر ناامیدی‌ها و دلخوری‌های روزانه احساس کنیم خسته‌ایم و غرق شده. برای همه اتفاق می‌افتد", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0045.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: و این روزها که گویی برای افراد بیشتری و به دفعات بیشتری دارد اتفاق می‌افتد. عجیب است که بعضی از ما در پاسخ به احساس خستگی و درهم‌شکستگی، سخت‌تر و بیشتر کار می‌کنیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0046.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: متاسفانه در فرهنگ ما فرسودگی شغلی معیاری برای موفقیت و ارزش شخصی در نظر گرفته می‌شود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0047.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: این باور حاوی این پیام ضمنی‌ست که اگر همیشه خسته نیستیم، لابد به اندازه کافی کار نمی‌کنیم. چیزهای عالی مخصوص افرادی‌ست که از جان مایه بگذارند و تقریبا زیر فشار از دست بروند.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0048.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: به طرز عجیبی درهم‌شکستن خود تبدیل به هدف شده است. فرسودگی شغلی مدال افتخار نیست. درست است که کار سخت می‌تواند منجر به نتایج بهتر شود، اما فقط تا حدی.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0049.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: بالاخره وقت و توان تلاش ما محدودیتی دارد و هرچه خالی‌تر می‌شویم بازده تلاشمان کمتر می‌شود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0050.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0066.wav"} +{"text": "Speaker 3: این چرخه می‌تواند تا حدی ادامه پیدا کند که توان خود را از دست بدهیم و با فرسودگی شغلی مواجه شویم و با وجود این باز هم نتایج مورد انتظار خود را به دست نیاورده باشیم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0051.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: احتمالا خودتان این را می‌دانید، شاید همین حالا دارید تجربه‌اش می‌کنید. اگر به جای آن رویکرد برعکس داشته باشیم چه؟", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0052.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: اگر به جای فشار تا حد از کار افتادن و بعضا حتی بیشتر، بتوانیم راهی آسان‌تر پیدا کنیم چه؟ مخمصه", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0053.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: بعد از انتشار کتاب اولم، اصل‌گرایی، اصل را بچسبید و فرع را رها کنید، تور سخنرانی برگزار کردم. فرصت یافتم به جاهای مختلف کشورم بروم و سخنرانی کنم،", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0054.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} +{"text": "Speaker 3: کتاب امضا کنم و پیامی را که از صمیم قلب باور داشتم با دیگران به اشتراک بگذارم. همسرم آنا، دوست داشت یکی از فرزندانمان را هم در بیشتر این ماجراجویی‌ها با خود ببرم و من هم این کار را می‌کردم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0055.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: در یکی از سفرها طبق برنامه به محل امضای کتابم رسیدم و آنجا دیدم ۳۰۰ نفر صف بستند و کتاب‌های فروشگاه هم تمام شده است.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0056.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0070.wav"} +{"text": "Speaker 3: این اتفاق تا آن زمان در هیچ رویدادی برایم پیش نیامده بود. آن سال ترکیب محوی از سالن‌های فرودگاه، تاکسی‌های اینترنتی و اتاق‌های هتل بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0057.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: اتاق‌هایی که عصر، خسته و پرنشاط به آن‌ها برمی‌گشتم و با خدمات اتاق تماس می‌گرفتم. موفقیت کتاب اصل‌گرایی همه چیز را تغییر داده بود.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0058.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0072.wav"} +{"text": "Speaker 3: افرادی بودند که کتاب را سه، پنج یا حتی ۱۷ بار خوانده بودند یا نسخه صوتی‌اش را گوش داده بودند و در نامه‌های خود به من می‌گفتند این کتاب زندگی‌شان را تغییر داده", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0059.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: یا حتی بعضا آن را نجات داده است. هر کدامشان می‌خواستند داستان خود را با من در میان بگذارند و من هم می‌خواستم داستان‌شان را بشنوم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0060.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0068.wav"} +{"text": "Speaker 3: می‌خواستم در اتاق‌هایی سخنرانی کنم پر از افرادی که مشتاق بودند اصل‌گرا شوند. می‌خواستم جواب هر ایمیلی را که از طرف خوانندگان به من می‌رسید بدهم.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0061.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: می‌خواستم برای هر کسی که از من می‌خواست کتاب را برایش امضا کنم پیامی شخصی بنویسم. می‌خواستم قدردان و در کنار هر کسی باشم که از تجربه خود با اصل‌گرایی داستانی داشت.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0062.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0067.wav"} +{"text": "Speaker 3: پدر بودن، حتی از پدرِ اصل‌گرایی بودن هم بهتر بود. حالا هم که چهار فرزند دارم. خانواده من تجسم هر چیزی‌ست که برایم ضروری و ماهوی باشد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0063.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0071.wav"} +{"text": "Speaker 3: پس می‌خواستم با تمام وجود برایشان مایه بگذارم. می‌خواستم شریک زندگی واقعی برای آنا باشم و فضایی در اختیارش قرار دهم که به دنبال اهداف و رویاهای خود باشد.", "audio_path": "/content/drive/MyDrive/tts/aud20/TTS09_0064.wav", "voice-sound": "/content/drive/MyDrive/tts/aud20/TTS09_0065.wav"} diff --git a/lor/VibeVoice-finetuning/pyproject.toml b/lor/VibeVoice-finetuning/pyproject.toml new file mode 100644 index 0000000000000000000000000000000000000000..becb7b9f8582c1dc24230e2e0431db5d329b7f53 --- /dev/null +++ b/lor/VibeVoice-finetuning/pyproject.toml @@ -0,0 +1,35 @@ +[project] +name = "vibevoice-finetuning" +version = "0.1.0" +description = "Open Source finetuning code for VibeVoice" +readme = "README.md" +requires-python = ">=3.8" +license = {file = "LICENSE"} +authors = [ + {name = "jpgallegoarvpb", email = "juanpablo.gallego@voicepowered.ai"} +] +dependencies = [ + "numpy~=1.26.0", + "resampy==0.4.3", + "librosa==0.11.0", + "s3tokenizer", + "torch", + "torchaudio", + "transformers", + "datasets>=2.18.0", + "diffusers==0.29.0", + "resemble-perth==1.0.1", + "omegaconf==2.3.0", + "conformer==0.3.2", + "safetensors==0.5.3", + "peft>=0.11.0", + "tensorboard>=2.12", + "wandb" +] + +[build-system] +requires = ["setuptools>=61.0"] +build-backend = "setuptools.build_meta" + +[tool.setuptools.packages.find] +where = ["src"] diff --git a/lor/VibeVoice-finetuning/src/__pycache__/data_vibevoice.cpython-312.pyc b/lor/VibeVoice-finetuning/src/__pycache__/data_vibevoice.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..e73351cfb159591871547e368428ead333dff36a Binary files /dev/null and b/lor/VibeVoice-finetuning/src/__pycache__/data_vibevoice.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/__pycache__/finetune_vibevoice_lora0.cpython-312.pyc b/lor/VibeVoice-finetuning/src/__pycache__/finetune_vibevoice_lora0.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..2baa7d2fd5e4704590cd9fe6b29bc028d3f4905d Binary files /dev/null and b/lor/VibeVoice-finetuning/src/__pycache__/finetune_vibevoice_lora0.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/data_vibevoice.py b/lor/VibeVoice-finetuning/src/data_vibevoice.py new file mode 100644 index 0000000000000000000000000000000000000000..8503ebeb5d9cac64c4d471812ebc8a7fc997ddb1 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/data_vibevoice.py @@ -0,0 +1,453 @@ +import math +from dataclasses import dataclass +from typing import Any, Dict, List, Optional, Sequence, Tuple, Union + +import numpy as np +import torch +import warnings +import random + +try: + import librosa # type: ignore +except Exception: # pragma: no cover + librosa = None # Fallback: user must install librosa when using local audio paths + +try: + import resampy # type: ignore +except Exception: # pragma: no cover + resampy = None + + +def _resample_if_needed(wav: np.ndarray, orig_sr: int, target_sr: int) -> np.ndarray: + if orig_sr == target_sr: + return wav.astype(np.float32, copy=False) + if resampy is not None: + return resampy.resample(wav.astype(np.float32), orig_sr, target_sr) + if librosa is not None: + return librosa.resample(y=wav.astype(np.float32), orig_sr=orig_sr, target_sr=target_sr) + warnings.warn( + "No resampler available; treating audio as target_sr without resampling. Install resampy or librosa.", + RuntimeWarning, + ) + return wav.astype(np.float32, copy=False) + + +# Lightweight HF-style dataset wrapper (optional). Trainer can also pass raw HF datasets directly. +class VibeVoiceDataset: + def __init__( + self, + dataset: Any, + text_column: str = "text", + audio_column: str = "audio", + voice_prompts_column: Optional[str] = "voice_prompts", + ) -> None: + self.dataset = dataset + self.text_column = text_column + self.audio_column = audio_column + self.voice_prompts_column = voice_prompts_column + + def __len__(self) -> int: + return len(self.dataset) + + def __getitem__(self, idx: int) -> Dict[str, Any]: + item = self.dataset[idx] + data: Dict[str, Any] = {} + data["text"] = item[self.text_column] + data["audio"] = item[self.audio_column] + + user_provided_prompt = None + if self.voice_prompts_column and self.voice_prompts_column in item: + user_provided_prompt = item[self.voice_prompts_column] + + if user_provided_prompt: + # A prompt was provided in the dataset, so we use it. + if not isinstance(user_provided_prompt, list): + data["voice_prompts"] = [user_provided_prompt] + else: + data["voice_prompts"] = user_provided_prompt + else: + # FALLBACK: No prompt provided, so we auto-generate one from the target audio. + try: + target_sr = 24000 + wav_array = _load_audio_to_24k(item[self.audio_column], target_sr=target_sr) + audio_len_seconds = len(wav_array) / target_sr + + min_len_sec = min(5.0, audio_len_seconds / 4.0) + max_len_sec = min(15.0, audio_len_seconds / 2.0) + + if min_len_sec > max_len_sec: + min_len_sec = max_len_sec + max_len_sec = min(max_len_sec, audio_len_seconds) + + if max_len_sec > 0.1: + prompt_len_sec = random.uniform(min_len_sec, max_len_sec) + prompt_len_samples = int(prompt_len_sec * target_sr) + + max_start_sample = len(wav_array) - prompt_len_samples + start_sample = random.randint(0, max_start_sample) + + prompt_crop = wav_array[start_sample : start_sample + prompt_len_samples] + + data["voice_prompts"] = [prompt_crop] + else: + data["voice_prompts"] = None + + except Exception as e: + warnings.warn(f"Could not create voice prompt for item {idx}: {e}") + data["voice_prompts"] = None + return data + + +def _apply_silence_with_crossfade( + wav: np.ndarray, + *, + sample_rate: int, + pre_silence_sec: float = 0.25, + pre_crossfade_sec: float = 0.25, + post_crossfade_sec: float = 0.25, + post_silence_sec: float = 0.75, +) -> np.ndarray: + """Pad audio with leading/trailing silence and apply crossfades. + + Structure: [pre_silence][pre_crossfade][audio_body][post_crossfade][post_silence] + Crossfades blend the audio with silence linearly to avoid hard edges. + """ + + wav = np.asarray(wav, dtype=np.float32).reshape(-1) + + start_sil_samples = int(round(pre_silence_sec * sample_rate)) + end_sil_samples = int(round(post_silence_sec * sample_rate)) + pre_crossfade_samples = int(round(pre_crossfade_sec * sample_rate)) + post_crossfade_samples = int(round(post_crossfade_sec * sample_rate)) + + total_len = wav.shape[0] + if total_len == 0: + pieces: List[np.ndarray] = [] + if start_sil_samples > 0: + pieces.append(np.zeros(start_sil_samples, dtype=np.float32)) + if end_sil_samples > 0: + pieces.append(np.zeros(end_sil_samples, dtype=np.float32)) + return np.concatenate(pieces) if pieces else wav + + start_len = min(pre_crossfade_samples, total_len) + remaining_after_start = max(total_len - start_len, 0) + end_len = min(post_crossfade_samples, remaining_after_start) + middle_end_idx = total_len - end_len + + start_segment = wav[:start_len] + middle_segment = wav[start_len:middle_end_idx] + end_segment = wav[middle_end_idx:] + + def _linear_fade(num_samples: int, start: float, end: float) -> np.ndarray: + if num_samples <= 0: + return np.zeros((0,), dtype=np.float32) + return np.linspace(start, end, num_samples, endpoint=True, dtype=np.float32) + + start_crossfade = start_segment * _linear_fade(start_len, 0.0, 1.0) + end_crossfade = end_segment * _linear_fade(end_segment.shape[0], 1.0, 0.0) + + pieces: List[np.ndarray] = [] + if start_sil_samples > 0: + pieces.append(np.zeros(start_sil_samples, dtype=np.float32)) + if start_crossfade.size > 0: + pieces.append(start_crossfade.astype(np.float32, copy=False)) + if middle_segment.size > 0: + pieces.append(middle_segment.astype(np.float32, copy=False)) + if end_crossfade.size > 0: + pieces.append(end_crossfade.astype(np.float32, copy=False)) + if end_sil_samples > 0: + pieces.append(np.zeros(end_sil_samples, dtype=np.float32)) + + return np.concatenate(pieces) + + +def _load_audio_to_24k( + audio: Union[str, np.ndarray, torch.Tensor, Dict[str, Any]], + *, + target_sr: int = 24000, + augment_with_silence: bool = False, +) -> np.ndarray: + if isinstance(audio, np.ndarray): + wav_out = audio.astype(np.float32) + elif isinstance(audio, torch.Tensor): + wav_out = audio.detach().cpu().float().numpy() + elif isinstance(audio, str): + if librosa is None: + raise RuntimeError("librosa is required to load audio file paths. Please pip install librosa.") + wav, sr = librosa.load(audio, sr=None, mono=True) + wav_out = _resample_if_needed(wav, int(sr), target_sr) + elif isinstance(audio, dict) and "array" in audio and "sampling_rate" in audio: + arr = np.asarray(audio["array"], dtype=np.float32) + sr = int(audio["sampling_rate"]) + wav_out = _resample_if_needed(arr, sr, target_sr) + else: + raise ValueError(f"Unsupported audio type: {type(audio)}") + + wav_out = np.asarray(wav_out, dtype=np.float32) + + if augment_with_silence: + wav_out = _apply_silence_with_crossfade(wav_out, sample_rate=target_sr) + + return wav_out + + +@dataclass +class VibeVoiceCollator: + processor: Any # VibeVoiceProcessor + max_length: Optional[int] = None + speech_compress_ratio: int = 3200 + semantic_vae_dim: int = 128 + compute_semantics: bool = False + debug_checks: bool = False + + text_field: str = "text" + audio_field: str = "audio" + voice_prompts_field: str = "voice_prompts" + voice_prompt_drop_rate: float = 0.0 + + def __call__(self, features: Sequence[Dict[str, Any]]) -> Dict[str, Any]: + batch_size = len(features) + + sample_input_ids: List[List[int]] = [] + sample_attention_masks: List[List[int]] = [] + sample_acoustic_input_masks: List[List[bool]] = [] + sample_acoustic_loss_masks: List[List[bool]] = [] + + all_speech_waveforms: List[np.ndarray] = [] + all_speech_latent_lengths: List[int] = [] + per_segment_is_target: List[bool] = [] + + for ex in features: + text: str = ex.get(self.text_field, "") + voice_prompts: Optional[List[Union[str, np.ndarray, torch.Tensor]]] = ex.get(self.voice_prompts_field) + target_audio: Union[str, np.ndarray, torch.Tensor, Dict[str, Any]] = ex.get(self.audio_field) + + # Clamp drop rate for safety + _drop_rate = self.voice_prompt_drop_rate + if _drop_rate < 0.0: + _drop_rate = 0.0 + elif _drop_rate > 1.0: + _drop_rate = 1.0 + + proc = self.processor( + text=[text], + voice_samples=[voice_prompts] if voice_prompts is not None and random.random() >= _drop_rate else None, + padding=False, + truncation=False, + max_length=self.max_length, + return_tensors="pt", + ) + + ids = proc["input_ids"][0].tolist() + attn = proc.get("attention_mask", torch.ones_like(proc["input_ids"]))[0].tolist() + speech_input_mask = proc.get("speech_input_mask") + if speech_input_mask is None: + speech_input_mask = torch.zeros_like(proc["input_ids"], dtype=torch.bool) + speech_input_mask_list = speech_input_mask[0].tolist() + + wav_target = _load_audio_to_24k(target_audio, target_sr=24000, augment_with_silence=True) + # Prefer exact frame count from acoustic tokenizer if available; fallback to compress ratio + target_latent_len = None + try: + acoustic_tok = getattr(self.processor, "acoustic_tokenizer", None) + if acoustic_tok is not None and hasattr(acoustic_tok, "encode"): + enc_out = acoustic_tok.encode(wav_target) + # Normalize various possible return formats to get time dimension + T = None + try: + # Direct array-like with shape (T, D) or (T,) + if hasattr(enc_out, "shape") and len(getattr(enc_out, "shape", [])) >= 1: + T = int(enc_out.shape[0]) + else: + # Nested lists/tuples or ModelOutput-like + cand = enc_out + # Drill down a couple of levels safely + for _ in range(2): + if isinstance(cand, (list, tuple)) and len(cand) > 0: + cand = cand[0] + if hasattr(cand, "shape") and len(getattr(cand, "shape", [])) >= 1: + T = int(cand.shape[0]) + except Exception: + T = None + if T is not None and T > 0: + target_latent_len = T + except Exception: + target_latent_len = None + if target_latent_len is None: + target_latent_len = max(1, int(math.ceil(len(wav_target) / float(self.speech_compress_ratio)))) + + speech_diff_id = self.processor.tokenizer.speech_diffusion_id + target_placeholders = [speech_diff_id] * target_latent_len + + ids_extended = ids + target_placeholders + attn_extended = attn + [1] * target_latent_len + + acoustic_input_mask = speech_input_mask_list + [True] * target_latent_len + acoustic_loss_mask = ([False] * len(speech_input_mask_list)) + [True] * target_latent_len + + speech_end_id = self.processor.tokenizer.speech_end_id + ids_extended.append(speech_end_id) + attn_extended.append(1) + acoustic_input_mask.append(False) + acoustic_loss_mask.append(False) + + # Ensure text decoding sees an explicit end-of-sequence token after speech output. + eos_token_id = getattr(self.processor.tokenizer, "eos_id", None) + if eos_token_id is None: + eos_token_id = getattr(self.processor.tokenizer, "eos_token_id", None) + if eos_token_id is not None and eos_token_id >= 0: + ids_extended.append(eos_token_id) + attn_extended.append(1) + acoustic_input_mask.append(False) + acoustic_loss_mask.append(False) + + if self.max_length is not None and len(ids_extended) > self.max_length: + cut = len(ids_extended) - int(self.max_length) + leading_non_acoustic = 0 + for v in acoustic_input_mask: + if v: + break + leading_non_acoustic += 1 + if cut > leading_non_acoustic: + raise ValueError( + f"--max_length={self.max_length} would truncate into acoustic tokens. " + f"Needed cut={cut}, but only {leading_non_acoustic} leading non-acoustic tokens available. " + "Increase max_length or shorten text/voice-prompt preamble." + ) + ids_extended = ids_extended[cut:] + attn_extended = attn_extended[cut:] + acoustic_input_mask = acoustic_input_mask[cut:] + acoustic_loss_mask = acoustic_loss_mask[cut:] + + sample_input_ids.append(ids_extended) + sample_attention_masks.append(attn_extended) + sample_acoustic_input_masks.append(acoustic_input_mask) + sample_acoustic_loss_masks.append(acoustic_loss_mask) + + voice_speeches = [] + voice_latent_lengths = [] + if proc.get("speech_tensors") is not None: + voice_np = proc["speech_tensors"].cpu().numpy() + voice_masks = proc["speech_masks"].cpu().numpy().astype(bool) + for seg_idx in range(voice_np.shape[0]): + voice_speeches.append(voice_np[seg_idx]) + voice_latent_lengths.append(int(voice_masks[seg_idx].sum())) + + all_speech_waveforms.extend(voice_speeches) + all_speech_latent_lengths.extend(voice_latent_lengths) + per_segment_is_target.extend([False] * len(voice_speeches)) + + all_speech_waveforms.append(wav_target) + all_speech_latent_lengths.append(target_latent_len) + per_segment_is_target.append(True) + + max_seq_len = max(len(x) for x in sample_input_ids) + padded_input_ids = [] + padded_attention_masks = [] + padded_acoustic_input_masks = [] + padded_acoustic_loss_masks = [] + tok = self.processor.tokenizer + pad_token_id = getattr(tok, "pad_token_id", None) + if pad_token_id is None or pad_token_id < 0: + pad_token_id = getattr(tok, "eos_token_id", None) + if pad_token_id is None or pad_token_id < 0: + raise ValueError( + "Tokenizer has no pad_token_id or eos_token_id; please set one or pass a valid pad id." + ) + for ids, attn, ain_mask, aloss_mask in zip( + sample_input_ids, sample_attention_masks, sample_acoustic_input_masks, sample_acoustic_loss_masks + ): + pad_len = max_seq_len - len(ids) + padded_input_ids.append(ids + [pad_token_id] * pad_len) + padded_attention_masks.append(attn + [0] * pad_len) + padded_acoustic_input_masks.append(ain_mask + [False] * pad_len) + padded_acoustic_loss_masks.append(aloss_mask + [False] * pad_len) + + input_ids_tensor = torch.tensor(padded_input_ids, dtype=torch.long) + attention_mask_tensor = torch.tensor(padded_attention_masks, dtype=torch.long) + acoustic_input_mask_tensor = torch.tensor(padded_acoustic_input_masks, dtype=torch.bool) + acoustic_loss_mask_tensor = torch.tensor(padded_acoustic_loss_masks, dtype=torch.bool) + + if all_speech_waveforms: + max_wave_len = max(w.shape[0] for w in all_speech_waveforms) + padded_speeches = np.zeros((len(all_speech_waveforms), max_wave_len), dtype=np.float32) + for i, w in enumerate(all_speech_waveforms): + L = w.shape[0] + padded_speeches[i, :L] = w + + max_latent_len = max(all_speech_latent_lengths) if all_speech_latent_lengths else 1 + speech_masks_np = np.zeros((len(all_speech_waveforms), max_latent_len), dtype=np.bool_) + for i, L_lat in enumerate(all_speech_latent_lengths): + speech_masks_np[i, :L_lat] = True + + speech_tensors_tensor = torch.tensor(padded_speeches, dtype=torch.float32) + speech_masks_tensor = torch.tensor(speech_masks_np, dtype=torch.bool) + + speeches_loss_input_np = np.zeros_like(speech_masks_np, dtype=np.bool_) + for i, is_target in enumerate(per_segment_is_target): + if is_target: + speeches_loss_input_np[i] = speech_masks_np[i] + speeches_loss_input_tensor = torch.tensor(speeches_loss_input_np, dtype=torch.bool) + + # Semantic features + if self.compute_semantics and hasattr(self.processor, "semantic_tokenizer") and self.processor.semantic_tokenizer is not None: + sem_feats: List[np.ndarray] = [] + for w in all_speech_waveforms: + try: + # Expect [T, D] where T ≈ ceil(len(w)/compress_ratio) + sem = self.processor.semantic_tokenizer.encode(w) + sem = np.asarray(sem, dtype=np.float32) + except Exception: + sem = np.zeros((0, self.semantic_vae_dim), dtype=np.float32) + if sem.ndim != 2: + raise RuntimeError(f"Semantic tokenizer returned unexpected shape {sem.shape}. Expect [T, D].") + L = sem.shape[0] + D = sem.shape[1] + if D != self.semantic_vae_dim: + if D < self.semantic_vae_dim: + pad_d = np.zeros((L, self.semantic_vae_dim - D), dtype=np.float32) + sem = np.concatenate([sem, pad_d], axis=1) + else: + sem = sem[:, : self.semantic_vae_dim] + if L < max_latent_len: + pad = np.zeros((max_latent_len - L, self.semantic_vae_dim), dtype=np.float32) + sem = np.concatenate([sem, pad], axis=0) + elif L > max_latent_len: + sem = sem[:max_latent_len] + sem_feats.append(sem.astype(np.float32)) + speech_semantic_tensors = torch.tensor(np.stack(sem_feats, axis=0), dtype=torch.float32) + else: + # Semantic tokenizer unavailable - use zero features as fallback + # این امکان برای preprocess مفید است که semantic_tokenizer بارگذاری نشود + if not self.compute_semantics: + # preprocess mode - صفر features + sem_feats = [np.zeros((max_latent_len, self.semantic_vae_dim), dtype=np.float32) + for _ in all_speech_waveforms] + speech_semantic_tensors = torch.tensor(np.stack(sem_feats, axis=0), dtype=torch.float32) + else: + # training mode - اگر compute_semantics = True باشد اما tokenizer نباشد، خطا + raise RuntimeError( + "Semantic features are required but could not be computed. " + "Ensure processor.semantic_tokenizer is available or set compute_semantics=False for preprocessing." + ) + else: + speech_tensors_tensor = None + speech_masks_tensor = None + speeches_loss_input_tensor = None + speech_semantic_tensors = None # No segments in batch + + if self.debug_checks: + assert (input_ids_tensor >= 0).all(), "input_ids contains negative indices" + if speech_tensors_tensor is not None: + assert speech_tensors_tensor.dim() == 2, "Expected speech_tensors 2D [segments, samples]" + + return { + "input_ids": input_ids_tensor, + "attention_mask": attention_mask_tensor, + "speech_tensors": speech_tensors_tensor, + "speech_masks": speech_masks_tensor, + "speech_semantic_tensors": speech_semantic_tensors, + "acoustic_input_mask": acoustic_input_mask_tensor, + "acoustic_loss_mask": acoustic_loss_mask_tensor, + "speeches_loss_input": speeches_loss_input_tensor, + } diff --git a/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora.py b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora.py new file mode 100644 index 0000000000000000000000000000000000000000..bfc1e90a69b1dd49744799ab55cb7b8b49d29077 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora.py @@ -0,0 +1,902 @@ +# train_vibevoice_lora.py +import logging +import os +from dataclasses import dataclass, field +from typing import Any, Dict, List, Optional, Tuple + +import torch +import torch.nn as nn +import torch.nn.functional as F +from datasets import load_dataset, DatasetDict, VerificationMode + +from transformers import ( + HfArgumentParser, + Trainer, + set_seed, + TrainerCallback, +) +from transformers import TrainingArguments as HfTrainingArguments + +from peft import LoraConfig, get_peft_model, TaskType + +from vibevoice.modular.modeling_vibevoice import VibeVoiceForConditionalGeneration +from vibevoice.modular.configuration_vibevoice import VibeVoiceConfig +from vibevoice.processor.vibevoice_processor import VibeVoiceProcessor + +from data_vibevoice import VibeVoiceDataset, VibeVoiceCollator + +logger = logging.getLogger(__name__) + +# ================== SAMPLE CALLBACK UTILS ================== + +import copy +import torch +from transformers import TrainerCallback + +class EmaCallback(TrainerCallback): + def __init__(self, attr_path="model.prediction_head", decay=0.999, device="cpu"): + """ + attr_path: where the head lives under self.model (Trainer wraps your VibeVoiceForConditionalGeneration) + decay: EMA decay (0.999 ~ stable, 0.9999 ~ very smooth, slower to adapt) + """ + self.attr_path = attr_path + self.decay = float(decay) + self.device = torch.device(device) + self.shadow = None + self._orig = None # store non-EMA weights when we swap + + def _get_module(self, model): + # Resolve dotted path like "model.prediction_head" + mod = model + for name in self.attr_path.split('.'): + mod = getattr(mod, name) + return mod + + def on_train_begin(self, args, state, control, model=None, **kwargs): + head = self._get_module(model) + self.shadow = {k: p.detach().to(self.device).clone() + for k, p in head.state_dict().items()} + + def on_step_end(self, args, state, control, model=None, **kwargs): + if self.shadow is None: return + head = self._get_module(model) + with torch.no_grad(): + for k, v in head.state_dict().items(): + self.shadow[k].mul_(self.decay).add_(v.detach().to(self.device), alpha=(1.0 - self.decay)) + + # ---- Swap helpers ---- + def _swap_in_ema(self, model): + head = self._get_module(model) + self._orig = copy.deepcopy(head.state_dict()) + head.load_state_dict(self.shadow, strict=False) + + def _swap_back(self, model): + if self._orig is None: return + head = self._get_module(model) + head.load_state_dict(self._orig, strict=False) + self._orig = None + + def on_evaluate(self, args, state, control, model=None, **kwargs): + # use EMA during eval + self._swap_in_ema(model) + + def on_evaluate_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_save(self, args, state, control, model=None, **kwargs): + # temporarily swap to EMA, let Trainer save, then swap back + self._swap_in_ema(model) + + def on_save_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_train_end(self, args, state, control, model=None, **kwargs): + # final checkpoint: persist EMA + self._swap_in_ema(model) + + +@dataclass +class ModelArguments: + model_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to VibeVoice base model with config.json"} + ) + processor_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to processor dir (preprocessor_config.json). Defaults to model path."} + ) + cache_dir: Optional[str] = field(default=None) + freeze_acoustic_tokenizer: bool = field(default=True) + freeze_semantic_tokenizer: bool = field(default=True) + lora_r: int = field(default=8) + lora_alpha: int = field(default=32) + lora_dropout: float = field(default=0.05) + lora_target_modules: str = field( + default="q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj", + metadata={"help": "Comma-separated list of target module names in the LLM blocks"}, + ) + lora_wrap_diffusion_head: bool = field(default=False, metadata={"help": "Wrap diffusion head with PEFT LoRA"}) + train_diffusion_head: bool = field(default=False, metadata={"help": "Train diffusion prediction head (full fine-tune)"}) + train_connectors: bool = field(default=False, metadata={"help": "Train acoustic/semantic connectors (full fine-tune)"}) + layers_to_freeze: Optional[str] = field( + default=None, + metadata={"help": "Comma-separated indices of diffusion head layers to freeze (e.g., '0,1,5,7,8')."} + ) + +@dataclass +class DataArguments: + dataset_name: Optional[str] = field(default=None, metadata={"help": "HF dataset name or 'json' with --train_jsonl for local files"}) + dataset_config_name: Optional[str] = field(default=None) + train_split_name: str = field(default="train") + eval_split_name: Optional[str] = field(default="validation") + text_column_name: str = field(default="text") + audio_column_name: str = field(default="audio") + voice_prompts_column_name: Optional[str] = field(default="voice_prompts") + eval_split_size: float = field(default=0.0) + ignore_verifications: bool = field(default=False) + max_length: Optional[int] = field(default=None) + train_jsonl: Optional[str] = field(default=None, metadata={"help": "Path to local train JSONL with {text, audio, [voice_prompts]}"}) + validation_jsonl: Optional[str] = field(default=None, metadata={"help": "Optional path to local validation JSONL"}) + voice_prompt_drop_rate: float = field( + default=0.0, + metadata={"help": "Probability to drop conditioning voice prompt during training (0.0 keep always, 1.0 drop always)."}, + ) + +@dataclass +class CustomTrainingArguments(HfTrainingArguments): + ddpm_batch_mul: int = field(default=1) + ce_loss_weight: float = field(default=1.0) + diffusion_loss_weight: float = field(default=1.0) + debug_ce_details: bool = field(default=False) + debug_ce_topk: int = field(default=5) + debug_ce_max_examples: int = field(default=1) + debug_ce_every_n_steps: int = field(default=200) + gradient_clipping: bool = field( + default=False, + metadata={"help": "Enable gradient clipping using max_grad_norm (set via --max_grad_norm, default 1.0). When False, disables clipping by forcing max_grad_norm=0.0."}, + ) + debug_save: bool = field( + default=False, + metadata={"help": "If set, saves model components BEFORE training starts, into output_dir/debug_initial."}, + ) + +def build_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = [s.strip() for s in args.lora_target_modules.split(",") if s.strip()] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.CAUSAL_LM, + target_modules=target_modules, + ) + +def build_head_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = ["noisy_images_proj","cond_proj","gate_proj","up_proj","down_proj","linear"] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.FEATURE_EXTRACTION, + target_modules=target_modules, + ) + +def mask_for_ce(labels: torch.Tensor, attention_mask: torch.Tensor, acoustic_input_mask: torch.Tensor, pad_id: int = -100) -> torch.Tensor: + shifted = labels[:, 1:].contiguous() + base_mask = attention_mask[:, 1:].contiguous().eq(1) if (attention_mask is not None and attention_mask.numel() > 0) else torch.ones_like(shifted, dtype=torch.bool) + label_is_acoustic = acoustic_input_mask[:, 1:].contiguous() + final_mask = base_mask & (~label_is_acoustic) + out = shifted.clone() + out[~final_mask] = pad_id + return out + +def _patch_acoustic_encode_for_legacy_indexing(model_obj, logger_): + try: + acoustic = getattr(getattr(model_obj, "model", model_obj), "acoustic_tokenizer", None) + if acoustic is None or not hasattr(acoustic, "encode"): + logger_.warning("No acoustic_tokenizer.encode() found to patch.") + return + base_encode = acoustic.encode + def encode_wrapped(*args, **kwargs): + out = base_encode(*args, **kwargs) + try: + _ = out[0][0] + return out + except Exception: + pass + if isinstance(out, dict): + for k in ("frames", "codes", "tokens", "latents", "hidden_states"): + if k in out: + return [[out[k]]] + if len(out) > 0: + return [[next(iter(out.values()))]] + for attr in ("frames", "codes", "tokens", "latents", "hidden_states"): + if hasattr(out, attr): + return [[getattr(out, attr)]] + try: + if isinstance(out, torch.Tensor): + return [[out]] + except Exception: + pass + return [[out]] + acoustic.encode = encode_wrapped + logger_.info("Patched acoustic_tokenizer.encode() to return [[...]] for legacy indexing.") + except Exception as e: + logger_.warning(f"Failed to patch acoustic_tokenizer.encode(): {e}") + +def main() -> None: + parser = HfArgumentParser((ModelArguments, DataArguments, CustomTrainingArguments)) + model_args, data_args, training_args = parser.parse_args_into_dataclasses() + + logging.basicConfig( + format="%(asctime)s - %(levelname)s - %(name)s - %(message)s", + datefmt="%m/%d/%Y %H:%M:%S", + level=logging.INFO if training_args.local_rank in [-1, 0] else logging.WARN, + ) + logger.info("Training/evaluation parameters %s", training_args) + set_seed(training_args.seed) + + # Configure gradient clipping + if not getattr(training_args, "gradient_clipping", False): + if hasattr(training_args, "max_grad_norm"): + training_args.max_grad_norm = 0.0 + logger.info("Gradient clipping disabled (set max_grad_norm=0.0). Use --gradient_clipping to enable.") + else: + if (not hasattr(training_args, "max_grad_norm")) or training_args.max_grad_norm is None or training_args.max_grad_norm <= 0: + training_args.max_grad_norm = 1.0 + logger.info(f"Gradient clipping enabled: max_grad_norm={training_args.max_grad_norm}") + + # Load processor + processor_path = model_args.processor_name_or_path or model_args.model_name_or_path + if processor_path is None: + raise ValueError("--model_name_or_path (or --processor_name_or_path) must be provided") + processor: VibeVoiceProcessor = VibeVoiceProcessor.from_pretrained(processor_path) + + # Required special tokens + tok = processor.tokenizer + for required in ["speech_start_id", "speech_diffusion_id", "speech_end_id"]: + if not hasattr(tok, required) or getattr(tok, required) is None: + raise RuntimeError(f"Tokenizer missing required special id: {required}") + + # Load model + if model_args.model_name_or_path is None: + raise ValueError("--model_name_or_path is required to load VibeVoice base model") + dtype = torch.float32 + if training_args.bf16: + dtype = torch.bfloat16 + elif getattr(training_args, "fp16", False): + dtype = torch.float16 + model = VibeVoiceForConditionalGeneration.from_pretrained( + model_args.model_name_or_path, + torch_dtype=dtype, + ) + _patch_acoustic_encode_for_legacy_indexing(model, logger) + processor.semantic_tokenizer = getattr(model.model, "semantic_tokenizer", None) + + # Diagnostics: LM head tie + try: + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + shared_ptr = bool(in_w is not None and out_w is not None and in_w.data_ptr() == out_w.data_ptr()) + values_equal = False + if in_w is not None and out_w is not None and in_w.shape == out_w.shape: + try: + values_equal = bool(torch.allclose(in_w, out_w)) + except Exception: + values_equal = False + try: + tie_cfg = getattr(getattr(model.config, "decoder_config", model.config), "tie_word_embeddings", None) + except Exception: + tie_cfg = getattr(model.config, "tie_word_embeddings", None) + logger.info(f"LM head diagnostics -> shared_params={shared_ptr}, values_equal={values_equal}, tie_word_embeddings={tie_cfg}") + if out_w is not None: + logger.info(f"LM head requires_grad before freeze: {bool(out_w.requires_grad)}") + except Exception as e: + logger.warning(f"LM head tie diagnostics failed: {e}") + + # Hard-tie LM head + try: + emb_module = model.get_input_embeddings() + head_module = model.get_output_embeddings() + if hasattr(emb_module, "weight") and hasattr(head_module, "weight"): + if emb_module.weight.shape == head_module.weight.shape and emb_module.weight.data_ptr() != head_module.weight.data_ptr(): + with torch.no_grad(): + head_module.weight = emb_module.weight + logger.info("Force-tied LM head weight to input embeddings (pointer share).") + except Exception as e: + logger.warning(f"Force-tie of LM head failed: {e}") + + # Validate special IDs (info logs only) + try: + special_names = ["speech_start_id", "speech_diffusion_id", "speech_end_id"] + try: + vocab_size = int(getattr(model.config.decoder_config, "vocab_size", 0)) + except Exception: + vocab_size = 0 + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + for name in special_names: + val = getattr(tok, name, None) + exists = (val is not None) + in_range = (exists and isinstance(val, int) and 0 <= val < vocab_size) + equal_row = None + if in_range and in_w is not None and out_w is not None and in_w.shape == out_w.shape and in_w.size(0) > val: + try: + equal_row = bool(torch.allclose(in_w[val], out_w[val])) + except Exception: + equal_row = False + decoded_str = None + if exists and isinstance(val, int): + try: + decoded_str = tok.decode([val]) + except Exception: + try: + decoded_str = tok.convert_ids_to_tokens(val) + except Exception: + decoded_str = "" + logger.info(f"Special token check -> {name}={val}, decoded='{decoded_str}', exists={exists}, in_vocab_range={in_range}, emb_vs_head_row_equal={equal_row}") + except Exception as e: + logger.warning(f"Special token ID/row validation failed: {e}") + + # Quick tokenizer diagnostics (optional) + try: + logger.info("=== TOKENIZER DIAGNOSTICS ===") + logger.info(f"Tokenizer class: {type(tok).__name__}") + logger.info(f"Tokenizer vocab_size: {tok.vocab_size}") + # tiny CE smoke test + with torch.no_grad(): + simple_text = "The cat sat on the mat." + simple_ids = torch.tensor([tok.encode(simple_text, add_special_tokens=True)], device=model.device) + simple_mask = torch.ones_like(simple_ids) + x = model.get_input_embeddings()(simple_ids) + outputs = model.model(inputs_embeds=x, attention_mask=simple_mask, return_dict=True) + logits = model.lm_head(outputs.last_hidden_state) + shift_logits = logits[:, :-1, :].contiguous() + shift_labels = simple_ids[:, 1:].contiguous() + ce_loss = F.cross_entropy(shift_logits.view(-1, shift_logits.size(-1)), shift_labels.view(-1), reduction='mean') + logger.info(f"Simple text CE loss: {ce_loss.item():.4f}") + except Exception as e: + logger.warning(f"Tokenizer diagnostics failed: {e}") + + # Disable cache during training + if hasattr(model.config, "use_cache") and training_args.do_train: + model.config.use_cache = False + + # Freeze tokenizers + if model_args.freeze_acoustic_tokenizer and hasattr(model.model, "acoustic_tokenizer"): + for p in model.model.acoustic_tokenizer.parameters(): + p.requires_grad = False + if model_args.freeze_semantic_tokenizer and hasattr(model.model, "semantic_tokenizer"): + for p in model.model.semantic_tokenizer.parameters(): + p.requires_grad = False + + # LoRA wrap LLM (optional) + lora_cfg = build_lora_config(model_args) + tm_lower = [s.strip().lower() for s in model_args.lora_target_modules.split(",") if s.strip()] + skip_lm_lora = (len(tm_lower) == 0) or all(t in ("none", "off", "disable", "disabled") for t in tm_lower) + if not skip_lm_lora: + model.model.language_model = get_peft_model(model.model.language_model, lora_cfg) + else: + logger.info("Skipping LLM LoRA wrapping (lora_target_modules indicates none).") + + try: + model.tie_weights() + except Exception: + pass + + # Freeze all then enable trainable subsets + for _, p in model.named_parameters(): + p.requires_grad = False + + try: + for n, p in model.model.language_model.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception: + logger.warning("Could not re-enable LoRA params on language_model.") + + # Diffusion head LoRA wrapping (optional) + if getattr(model_args, "lora_wrap_diffusion_head", False) and hasattr(model.model, "prediction_head"): + class _HeadForwardShim(nn.Module): + def __init__(self, base: nn.Module): super().__init__(); self.base = base + def forward(self, *args, **kwargs): + if len(args) >= 3: + noisy_images, timesteps, condition = args[:3] + else: + noisy_images = kwargs.get("noisy_images") + timesteps = kwargs.get("timesteps") + condition = kwargs.get("condition") + return self.base(noisy_images, timesteps, condition) + try: + shim = _HeadForwardShim(model.model.prediction_head) + model.model.prediction_head = get_peft_model(shim, build_head_lora_config(model_args)) + for n, p in model.model.prediction_head.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception as e: + logger.warning(f"Could not LoRA-wrap diffusion head: {e}") + + # Train full diffusion head (optional) + if getattr(model_args, "train_diffusion_head", False) and hasattr(model.model, "prediction_head"): + for p in model.model.prediction_head.parameters(): + p.requires_grad = True + + # Freeze diffusion head layers (optional) + if model_args.layers_to_freeze is not None and hasattr(model.model, "prediction_head"): + head_params = list(model.model.prediction_head.named_parameters()) + try: + indices_to_freeze = {int(x.strip()) for x in model_args.layers_to_freeze.split(',') if x.strip()} + frozen_count = 0 + for i, (name, param) in enumerate(head_params): + if i in indices_to_freeze: + param.requires_grad = False + frozen_count += 1 + logger.info(f"Froze layer [{i}]: {name}") + logger.info(f"Successfully froze {frozen_count} parameter groups in the diffusion head.") + except Exception as e: + logger.error(f"Could not parse --layers_to_freeze: {e}") + raise + + # Connectors + if getattr(model_args, "train_connectors", False): + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = True + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = True + else: + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = False + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = False + + # Freeze embedding + head + try: + emb = model.get_input_embeddings() + if hasattr(emb, "weight"): + emb.weight.requires_grad_(False) + head = model.get_output_embeddings() + if head is not None and hasattr(head, "weight"): + head.weight.requires_grad_(False) + except Exception: + pass + + # Diagnostics + def _sum_params(named_iter): + return sum(p.numel() for _, p in named_iter if p.requires_grad) + try: + lm_lora = _sum_params(model.model.language_model.named_parameters()) if hasattr(model.model, "language_model") else 0 + pred_head_train = _sum_params(model.model.prediction_head.named_parameters()) if hasattr(model.model, "prediction_head") else 0 + ac_conn_train = _sum_params(model.model.acoustic_connector.named_parameters()) if hasattr(model.model, "acoustic_connector") else 0 + se_conn_train = _sum_params(model.model.semantic_connector.named_parameters()) if hasattr(model.model, "semantic_connector") else 0 + total_trainable = sum(p.numel() for p in model.parameters() if p.requires_grad) + logger.info(f"Trainable by block -> LLM-LoRA: {lm_lora:,} | diff_head: {pred_head_train:,} | ac_conn: {ac_conn_train:,} | se_conn: {se_conn_train:,}") + logger.info("TOTAL trainable: %s", f"{total_trainable:,}") + except Exception: + pass + + # Datasets + verification_mode = VerificationMode.NO_CHECKS if data_args.ignore_verifications else VerificationMode.BASIC_CHECKS + if data_args.train_jsonl is not None: + data_files: Dict[str, str] = {"train": data_args.train_jsonl} + if data_args.validation_jsonl is not None: + data_files["validation"] = data_args.validation_jsonl + raw = load_dataset("json", data_files=data_files, verification_mode=verification_mode, cache_dir=model_args.cache_dir) + else: + if data_args.dataset_name is None: + raise ValueError("Provide --dataset_name (HF datasets) or use --train_jsonl/--validation_jsonl for local files.") + raw = load_dataset( + data_args.dataset_name, + data_args.dataset_config_name, + verification_mode=verification_mode, + cache_dir=model_args.cache_dir, + ) + train_ds = raw[data_args.train_split_name] + eval_ds = None + if training_args.do_eval: + if data_args.eval_split_name and data_args.eval_split_name in raw: + eval_ds = raw[data_args.eval_split_name] + elif data_args.eval_split_size and data_args.eval_split_size > 0 and len(train_ds) > 1: + split = train_ds.train_test_split(test_size=data_args.eval_split_size, seed=training_args.seed) + train_ds, eval_ds = split["train"], split["test"] + + train_dataset = VibeVoiceDataset( + train_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + eval_dataset = None + if eval_ds is not None: + eval_dataset = VibeVoiceDataset( + eval_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + + # Ratios/dims from processor+model + speech_compress_ratio = getattr(processor, "speech_tok_compress_ratio", 3200) + semantic_dim = getattr(model.config, "semantic_vae_dim", None) + if semantic_dim is None: + try: + semantic_dim = int(getattr(model.config.semantic_tokenizer_config, "vae_dim", 128)) + except Exception: + semantic_dim = 128 + + compute_semantics_flag = hasattr(processor, "semantic_tokenizer") and processor.semantic_tokenizer is not None + + data_collator = VibeVoiceCollator( + processor=processor, + max_length=data_args.max_length, + speech_compress_ratio=speech_compress_ratio, + semantic_vae_dim=semantic_dim, + compute_semantics=compute_semantics_flag, + debug_checks=False, + voice_prompt_drop_rate=data_args.voice_prompt_drop_rate, + ) + + class LoRADebugCallback(TrainerCallback): + def __init__(self, log_every_n_steps: int = 50): + self.log_every_n_steps = max(1, int(log_every_n_steps)) + self.prev_param_norms: Dict[str, float] = {} + self.lora_param_names: List[str] = [] + + def on_train_begin(self, args, state, control, model=None, **kwargs): + try: + if model is None: + return + named: Dict[str, torch.nn.Parameter] = dict(model.named_parameters()) + self.lora_param_names = [n for n in named.keys() if ("lora_A" in n or "lora_B" in n)] + for n in self.lora_param_names: + p = named[n] + self.prev_param_norms[n] = float(p.data.norm().item()) + total = len(self.lora_param_names) + req_grad = sum(1 for n in self.lora_param_names if named[n].requires_grad) + num_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + num_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + zero_B = sum(1 for n in self.lora_param_names if ("lora_B" in n and float(named[n].data.norm().item()) == 0.0)) + logger.info(f"LoRA debug: found {total} LoRA params (A={num_A}, B={num_B}); trainable={req_grad}. Initial lora_B_zero={zero_B}.") + if total == 0: + logger.warning("LoRA debug: No LoRA parameters found. Check lora_target_modules.") + if req_grad != total: + logger.warning("LoRA debug: Some LoRA params are frozen. They should be trainable.") + except Exception as e: + logger.warning(f"LoRA debug (on_train_begin) failed: {e}") + + def on_step_end(self, args, state, control, model=None, **kwargs): + try: + if model is None or len(self.lora_param_names) == 0: + return + step = int(getattr(state, "global_step", 0) or 0) + if step % self.log_every_n_steps != 0 and step != 1: + return + named: Dict[str, torch.nn.Parameter] = dict(model.named_parameters()) + changed_A = 0 + changed_B = 0 + zero_B = 0 + eps = 1e-12 + for n in self.lora_param_names: + p = named.get(n, None) + if p is None: + continue + prev = self.prev_param_norms.get(n, 0.0) + curr = float(p.data.norm().item()) + if "lora_A" in n and abs(curr - prev) > eps: + changed_A += 1 + if "lora_B" in n: + if abs(curr - prev) > eps: + changed_B += 1 + if curr == 0.0: + zero_B += 1 + self.prev_param_norms[n] = curr + total_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + total_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + logger.info(f"LoRA debug step {step}: changed A {changed_A}/{total_A}, changed B {changed_B}/{total_B}, lora_B_zero_now={zero_B}.") + except Exception as e: + logger.warning(f"LoRA debug (on_step_end) failed: {e}") + + class VibeVoiceTrainer(Trainer): + def compute_loss(self, model: VibeVoiceForConditionalGeneration, inputs: Dict[str, Any], return_outputs=False, num_items_in_batch: Optional[int] = None): + labels = inputs.get("input_ids") + attention_mask = inputs.get("attention_mask") + acoustic_input_mask = inputs.get("acoustic_input_mask") + + # Ensure semantic tensors exist and have correct dtype/device + sem = inputs.get("speech_semantic_tensors", None) + try: + target_dtype = next(model.model.semantic_connector.parameters()).dtype + except Exception: + target_dtype = model.get_input_embeddings().weight.dtype + + if sem is None: + sm = inputs.get("speech_masks") + if sm is not None: + zeros = torch.zeros( + sm.size(0), sm.size(1), + getattr(model.config, "semantic_vae_dim", 128), + dtype=target_dtype, + device=sm.device, + ) + inputs["speech_semantic_tensors"] = zeros + else: + if isinstance(sem, torch.Tensor): + inputs["speech_semantic_tensors"] = sem.to(dtype=target_dtype) + + outputs = model( + input_ids=inputs.get("input_ids"), + attention_mask=attention_mask, + speech_tensors=inputs.get("speech_tensors"), + speech_masks=inputs.get("speech_masks"), + speech_semantic_tensors=inputs.get("speech_semantic_tensors"), + acoustic_input_mask=acoustic_input_mask, + acoustic_loss_mask=inputs.get("acoustic_loss_mask"), + speeches_loss_input=inputs.get("speeches_loss_input"), + ddpm_batch_mul=training_args.ddpm_batch_mul, + ) + + # Invariants: token/latent selection equality across views (warn, don't assert) + try: + al_mask = inputs.get("acoustic_loss_mask") + sp_masks = inputs.get("speech_masks") + sp_loss_sel = inputs.get("speeches_loss_input") + num_tok_total = int(acoustic_input_mask.sum().item()) if acoustic_input_mask is not None else 0 + num_tok_loss = int(al_mask.sum().item()) if al_mask is not None else 0 + num_lat_total = int(sp_masks.sum().item()) if sp_masks is not None else 0 + num_lat_loss = int(((sp_loss_sel & sp_masks).sum().item())) if (sp_loss_sel is not None and sp_masks is not None) else 0 + self.log({ + "debug/num_tok_total": float(num_tok_total), + "debug/num_tok_loss": float(num_tok_loss), + "debug/num_lat_total": float(num_lat_total), + "debug/num_lat_loss": float(num_lat_loss), + }) + if sp_loss_sel is not None and sp_masks is not None and al_mask is not None: + if num_tok_loss != num_lat_loss: + logger.warning(f"Loss selection mismatch: acoustic_loss_mask={num_tok_loss} vs speeches_loss_input={num_lat_loss}") + except Exception: + pass + + # CE Loss + logits = outputs.logits + ce_labels = mask_for_ce(labels, attention_mask, acoustic_input_mask, pad_id=-100) + shift_logits = logits[:, :-1, :].contiguous() + loss_fct = nn.CrossEntropyLoss(ignore_index=-100) + ce_loss = loss_fct(shift_logits.view(-1, shift_logits.size(-1)), ce_labels.view(-1)) + + # Optional CE diagnostics + try: + self._debug_ce(shift_logits, ce_labels, attention_mask, acoustic_input_mask) + except Exception as e: + logger.warning(f"Failed invoking CE debug: {e}") + + # Diffusion loss + diffusion_loss = outputs.diffusion_loss if outputs.diffusion_loss is not None else torch.tensor(0.0, device=ce_loss.device) + total = training_args.ce_loss_weight * ce_loss + training_args.diffusion_loss_weight * diffusion_loss + + # Logs + try: + prefix = "train" if model.training else "eval" + self.log({ + f"{prefix}/ce_loss": ce_loss.detach().item(), + f"{prefix}/diffusion_loss": diffusion_loss.detach().item() if isinstance(diffusion_loss, torch.Tensor) else float(diffusion_loss), + }) + if hasattr(self, "optimizer") and self.optimizer is not None and len(self.optimizer.param_groups) > 0: + lr_val = self.optimizer.param_groups[0].get("lr", None) + if lr_val is not None: + self.log({"train/learning_rate_real": float(lr_val)}) + except Exception: + pass + + return (total, outputs) if return_outputs else total + + def _debug_ce(self, shift_logits: torch.Tensor, ce_labels: torch.Tensor, attention_mask: Optional[torch.Tensor], acoustic_input_mask: Optional[torch.Tensor]): + try: + if not getattr(training_args, "debug_ce_details", False): + return + step = int(getattr(self.state, "global_step", 0) or 0) + every_n = max(1, int(getattr(training_args, "debug_ce_every_n_steps", 200) or 200)) + if not (step <= 1 or (step % every_n == 0)): + return + + with torch.no_grad(): + vocab = shift_logits.size(-1) + per_token_loss = F.cross_entropy( + shift_logits.view(-1, vocab), + ce_labels.view(-1), + reduction="none", + ignore_index=-100, + ).view_as(ce_labels) + + valid_mask = ce_labels.ne(-100) + num_valid = int(valid_mask.sum().item()) + avg_loss = float((per_token_loss[valid_mask].mean().item())) if num_valid > 0 else float("nan") + + per_ex_avgs = [] + max_examples = max(1, int(getattr(training_args, "debug_ce_max_examples", 1) or 1)) + B = ce_labels.size(0) + for b in range(min(B, max_examples)): + vb = valid_mask[b] + if int(vb.sum().item()) > 0: + per_ex_avgs.append(float(per_token_loss[b][vb].mean().item())) + else: + per_ex_avgs.append(float("nan")) + logger.info(f"CE debug: tokens_in_loss={num_valid}, avg_loss={avg_loss:.4f}, per_example_avgs={[round(x,4) if x==x else None for x in per_ex_avgs]}") + except Exception as e: + logger.warning(f"CE detailed debug failed: {e}") + + # --------- CRITICAL SAVE OVERRIDES: also dump FULL head/connectors for inference --------- + + + def _save(self, output_dir: Optional[str] = None, state_dict=None) -> None: + try: + target_dir = output_dir or self.args.output_dir + lora_out = os.path.join(target_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # --- LLM PEFT adapters (if LoRA-wrapped) --- + language_model = getattr(self.model.model, "language_model", None) + if hasattr(language_model, "save_pretrained"): + language_model.save_pretrained(lora_out) + + # --- Diffusion head PEFT adapters (if LoRA-wrapped) --- + pred_head = getattr(self.model.model, "prediction_head", None) + if hasattr(pred_head, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + pred_head.save_pretrained(ph_dir) + + # --- ALWAYS save FULL diffusion head state_dict for fallback --- + if pred_head is not None and hasattr(pred_head, "state_dict"): + sd = pred_head.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + + # --- Connectors (plain state_dicts) --- + ac = getattr(self.model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + + se = getattr(self.model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + + except Exception as e: + logger.warning(f"Failed to save LoRA assets: {e}") + + + # ------------- Build the Trainer ------------- + + # Resolve which adapters to apply in samples + + ema_cb = EmaCallback(attr_path="model.prediction_head", decay=0.999, device="cpu") + + trainer = VibeVoiceTrainer( + model=model, + args=training_args, + train_dataset=train_dataset, + eval_dataset=eval_dataset, + data_collator=data_collator, + callbacks=[ema_cb, LoRADebugCallback(log_every_n_steps=(int(getattr(training_args, "logging_steps", 50) or 50)))], + ) + + # Optional debug pre-training save + if getattr(training_args, "debug_save", False): + try: + debug_dir = os.path.join(training_args.output_dir, "debug_initial") + lora_out = os.path.join(debug_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + logger.info(f"[debug_save] Saving initial (pre-training) model components to: {debug_dir}") + # language model adapters / base + try: + if hasattr(model.model.language_model, "save_pretrained"): + model.model.language_model.save_pretrained(lora_out) + except Exception as e_lm: + logger.warning(f"[debug_save] Failed to save language_model: {e_lm}") + # diffusion head + try: + if hasattr(model.model, "prediction_head") and hasattr(model.model.prediction_head, "save_pretrained"): + model.model.prediction_head.save_pretrained(os.path.join(lora_out, "diffusion_head")) + except Exception as e_head: + logger.warning(f"[debug_save] Failed to save prediction_head: {e_head}") + # NEW: full diffusion head state_dict as fallback + try: + ph = getattr(model.model, "prediction_head", None) + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + os.makedirs(os.path.join(lora_out, "diffusion_head"), exist_ok=True) + torch.save(sd, os.path.join(lora_out, "diffusion_head", "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"[debug_save] Failed to save FULL diffusion head: {e}") + # connectors + try: + ac_conn = getattr(model.model, "acoustic_connector", None) + if ac_conn is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac_conn.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e_ac: + logger.warning(f"[debug_save] Failed to save acoustic_connector: {e_ac}") + try: + se_conn = getattr(model.model, "semantic_connector", None) + if se_conn is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se_conn.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e_se: + logger.warning(f"[debug_save] Failed to save semantic_connector: {e_se}") + except Exception as e: + logger.warning(f"[debug_save] Unexpected failure saving initial components: {e}") + + if getattr(training_args, "gradient_checkpointing", False): + try: + model.gradient_checkpointing_enable() + except Exception: + logger.warning("Failed to enable gradient checkpointing on the model.") + + if training_args.do_train: + trainer.train(resume_from_checkpoint=training_args.resume_from_checkpoint) + + lora_out = os.path.join(training_args.output_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # LLM PEFT (if any) + lm = getattr(model.model, "language_model", None) + if hasattr(lm, "save_pretrained"): + lm.save_pretrained(lora_out) + + # Diffusion head PEFT (if any) + ph = getattr(model.model, "prediction_head", None) + if hasattr(ph, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + ph.save_pretrained(ph_dir) + + # ALWAYS: full diffusion head state_dict fallback + try: + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"Failed to save FULL diffusion head at end: {e}") + + # Connectors (if trained) + try: + ac = getattr(model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save acoustic_connector: {e}") + + try: + se = getattr(model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save semantic_connector: {e}") + + if training_args.do_eval and eval_dataset is not None: + trainer.evaluate() + + +if __name__ == "__main__": + main() diff --git a/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora0.py b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora0.py new file mode 100644 index 0000000000000000000000000000000000000000..a124364fe045272bd8584a6d3ccdc986c5238758 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora0.py @@ -0,0 +1,984 @@ +# train_vibevoice_lora.py +import os +os.environ["CUDA_VISIBLE_DEVICES"] = "0" +os.environ["TOKENIZERS_PARALLELISM"] = "false" + +import logging +import os +from dataclasses import dataclass, field +from typing import Any, Dict, List, Optional, Tuple + +import torch +import torch.nn as nn +import torch.nn.functional as F +from datasets import load_dataset, DatasetDict, VerificationMode + +from transformers import ( + HfArgumentParser, + Trainer, + set_seed, + TrainerCallback, +) +from transformers import TrainingArguments as HfTrainingArguments + +from peft import LoraConfig, get_peft_model, TaskType + +from vibevoice.modular.modeling_vibevoice import VibeVoiceForConditionalGeneration +from vibevoice.modular.configuration_vibevoice import VibeVoiceConfig +from vibevoice.processor.vibevoice_processor import VibeVoiceProcessor + +from data_vibevoice import VibeVoiceDataset, VibeVoiceCollator + +logger = logging.getLogger(__name__) + +# ================== SAMPLE CALLBACK UTILS ================== + +import copy +import torch +from transformers import TrainerCallback + +class EmaCallback(TrainerCallback): + def __init__(self, attr_path="model.prediction_head", decay=0.999, device="cuda"): + """ + attr_path: where the head lives under self.model (Trainer wraps your VibeVoiceForConditionalGeneration) + decay: EMA decay (0.999 ~ stable, 0.9999 ~ very smooth, slower to adapt) + """ + self.attr_path = attr_path + self.decay = float(decay) + self.device = torch.device(device) + self.shadow = None + self._orig = None # store non-EMA weights when we swap + + def _get_module(self, model): + # Resolve dotted path like "model.prediction_head" + mod = model + for name in self.attr_path.split('.'): + mod = getattr(mod, name) + return mod + + def on_train_begin(self, args, state, control, model=None, **kwargs): + head = self._get_module(model) + self.shadow = {k: p.detach().to(self.device).clone() + for k, p in head.state_dict().items()} + + def on_step_end(self, args, state, control, model=None, **kwargs): + if self.shadow is None: return + head = self._get_module(model) + with torch.no_grad(): + for k, v in head.state_dict().items(): + self.shadow[k].mul_(self.decay).add_(v.detach().to(self.device), alpha=(1.0 - self.decay)) + + # ---- Swap helpers ---- + def _swap_in_ema(self, model): + head = self._get_module(model) + self._orig = copy.deepcopy(head.state_dict()) + head.load_state_dict(self.shadow, strict=False) + + def _swap_back(self, model): + if self._orig is None: return + head = self._get_module(model) + head.load_state_dict(self._orig, strict=False) + self._orig = None + + def on_evaluate(self, args, state, control, model=None, **kwargs): + # use EMA during eval + self._swap_in_ema(model) + + def on_evaluate_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_save(self, args, state, control, model=None, **kwargs): + # temporarily swap to EMA, let Trainer save, then swap back + self._swap_in_ema(model) + + def on_save_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_train_end(self, args, state, control, model=None, **kwargs): + # final checkpoint: persist EMA + self._swap_in_ema(model) + + +@dataclass +class ModelArguments: + model_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to VibeVoice base model with config.json"} + ) + processor_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to processor dir (preprocessor_config.json). Defaults to model path."} + ) + cache_dir: Optional[str] = field(default=None) + freeze_acoustic_tokenizer: bool = field(default=True) + freeze_semantic_tokenizer: bool = field(default=True) + lora_r: int = field(default=8) + lora_alpha: int = field(default=32) + lora_dropout: float = field(default=0.05) + lora_target_modules: str = field( + default="q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj", + metadata={"help": "Comma-separated list of target module names in the LLM blocks"}, + ) + lora_wrap_diffusion_head: bool = field(default=False, metadata={"help": "Wrap diffusion head with PEFT LoRA"}) + train_diffusion_head: bool = field(default=False, metadata={"help": "Train diffusion prediction head (full fine-tune)"}) + train_connectors: bool = field(default=False, metadata={"help": "Train acoustic/semantic connectors (full fine-tune)"}) + layers_to_freeze: Optional[str] = field( + default=None, + metadata={"help": "Comma-separated indices of diffusion head layers to freeze (e.g., '0,1,5,7,8')."} + ) + +@dataclass +class DataArguments: + dataset_name: Optional[str] = field(default=None, metadata={"help": "HF dataset name or 'json' with --train_jsonl for local files"}) + dataset_config_name: Optional[str] = field(default=None) + train_split_name: str = field(default="train") + eval_split_name: Optional[str] = field(default="validation") + text_column_name: str = field(default="text") + audio_column_name: str = field(default="audio") + voice_prompts_column_name: Optional[str] = field(default="voice_prompts") + eval_split_size: float = field(default=0.0) + ignore_verifications: bool = field(default=False) + max_length: Optional[int] = field(default=None) + train_jsonl: Optional[str] = field(default=None, metadata={"help": "Path to local train JSONL with {text, audio, [voice_prompts]}"}) + validation_jsonl: Optional[str] = field(default=None, metadata={"help": "Optional path to local validation JSONL"}) + voice_prompt_drop_rate: float = field( + default=0.0, + metadata={"help": "Probability to drop conditioning voice prompt during training (0.0 keep always, 1.0 drop always)."}, + ) + +@dataclass +class CustomTrainingArguments(HfTrainingArguments): + ddpm_batch_mul: int = field(default=1) + ce_loss_weight: float = field(default=1.0) + diffusion_loss_weight: float = field(default=1.0) + debug_ce_details: bool = field(default=False) + debug_ce_topk: int = field(default=5) + debug_ce_max_examples: int = field(default=1) + debug_ce_every_n_steps: int = field(default=200) + gradient_clipping: bool = field( + default=False, + metadata={"help": "Enable gradient clipping using max_grad_norm (set via --max_grad_norm, default 1.0). When False, disables clipping by forcing max_grad_norm=0.0."}, + ) + debug_save: bool = field( + default=False, + metadata={"help": "If set, saves model components BEFORE training starts, into output_dir/debug_initial."}, + ) + +def build_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = [s.strip() for s in args.lora_target_modules.split(",") if s.strip()] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.CAUSAL_LM, + target_modules=target_modules, + ) + +def build_head_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = ["noisy_images_proj","cond_proj","gate_proj","up_proj","down_proj","linear"] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.FEATURE_EXTRACTION, + target_modules=target_modules, + ) + +def mask_for_ce(labels: torch.Tensor, attention_mask: torch.Tensor, acoustic_input_mask: torch.Tensor, pad_id: int = -100) -> torch.Tensor: + shifted = labels[:, 1:].contiguous() + base_mask = attention_mask[:, 1:].contiguous().eq(1) if (attention_mask is not None and attention_mask.numel() > 0) else torch.ones_like(shifted, dtype=torch.bool) + label_is_acoustic = acoustic_input_mask[:, 1:].contiguous() + final_mask = base_mask & (~label_is_acoustic) + out = shifted.clone() + out[~final_mask] = pad_id + return out + +def _patch_acoustic_encode_for_legacy_indexing(model_obj, logger_): + try: + acoustic = getattr(getattr(model_obj, "model", model_obj), "acoustic_tokenizer", None) + if acoustic is None or not hasattr(acoustic, "encode"): + logger_.warning("No acoustic_tokenizer.encode() found to patch.") + return + base_encode = acoustic.encode + def encode_wrapped(*args, **kwargs): + out = base_encode(*args, **kwargs) + try: + _ = out[0][0] + return out + except Exception: + pass + if isinstance(out, dict): + for k in ("frames", "codes", "tokens", "latents", "hidden_states"): + if k in out: + return [[out[k]]] + if len(out) > 0: + return [[next(iter(out.values()))]] + for attr in ("frames", "codes", "tokens", "latents", "hidden_states"): + if hasattr(out, attr): + return [[getattr(out, attr)]] + try: + if isinstance(out, torch.Tensor): + return [[out]] + except Exception: + pass + return [[out]] + acoustic.encode = encode_wrapped + logger_.info("Patched acoustic_tokenizer.encode() to return [[...]] for legacy indexing.") + except Exception as e: + logger_.warning(f"Failed to patch acoustic_tokenizer.encode(): {e}") + +def main() -> None: + parser = HfArgumentParser((ModelArguments, DataArguments, CustomTrainingArguments)) + model_args, data_args, training_args = parser.parse_args_into_dataclasses() + + logging.basicConfig( + format="%(asctime)s - %(levelname)s - %(name)s - %(message)s", + datefmt="%m/%d/%Y %H:%M:%S", + level=logging.INFO if training_args.local_rank in [-1, 0] else logging.WARN, + ) + logger.info("Training/evaluation parameters %s", training_args) + set_seed(training_args.seed) + + # Configure gradient clipping + if not getattr(training_args, "gradient_clipping", False): + if hasattr(training_args, "max_grad_norm"): + training_args.max_grad_norm = 0.0 + logger.info("Gradient clipping disabled (set max_grad_norm=0.0). Use --gradient_clipping to enable.") + else: + if (not hasattr(training_args, "max_grad_norm")) or training_args.max_grad_norm is None or training_args.max_grad_norm <= 0: + training_args.max_grad_norm = 1.0 + logger.info(f"Gradient clipping enabled: max_grad_norm={training_args.max_grad_norm}") + + # Load processor + processor_path = model_args.processor_name_or_path or model_args.model_name_or_path + if processor_path is None: + raise ValueError("--model_name_or_path (or --processor_name_or_path) must be provided") + processor: VibeVoiceProcessor = VibeVoiceProcessor.from_pretrained(processor_path) + + # Required special tokens + tok = processor.tokenizer + for required in ["speech_start_id", "speech_diffusion_id", "speech_end_id"]: + if not hasattr(tok, required) or getattr(tok, required) is None: + raise RuntimeError(f"Tokenizer missing required special id: {required}") + + # Load model + if model_args.model_name_or_path is None: + raise ValueError("--model_name_or_path is required to load VibeVoice base model") + dtype = torch.float32 + if training_args.bf16: + dtype = torch.bfloat16 + elif getattr(training_args, "fp16", False): + dtype = torch.float16 + model = VibeVoiceForConditionalGeneration.from_pretrained( + model_args.model_name_or_path, + torch_dtype=dtype, device_map={"": 0}, + ) + _patch_acoustic_encode_for_legacy_indexing(model, logger) + processor.semantic_tokenizer = getattr(model.model, "semantic_tokenizer", None) + + # Diagnostics: LM head tie + try: + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + shared_ptr = bool(in_w is not None and out_w is not None and in_w.data_ptr() == out_w.data_ptr()) + values_equal = False + if in_w is not None and out_w is not None and in_w.shape == out_w.shape: + try: + values_equal = bool(torch.allclose(in_w, out_w)) + except Exception: + values_equal = False + try: + tie_cfg = getattr(getattr(model.config, "decoder_config", model.config), "tie_word_embeddings", None) + except Exception: + tie_cfg = getattr(model.config, "tie_word_embeddings", None) + logger.info(f"LM head diagnostics -> shared_params={shared_ptr}, values_equal={values_equal}, tie_word_embeddings={tie_cfg}") + if out_w is not None: + logger.info(f"LM head requires_grad before freeze: {bool(out_w.requires_grad)}") + except Exception as e: + logger.warning(f"LM head tie diagnostics failed: {e}") + + # Hard-tie LM head + try: + emb_module = model.get_input_embeddings() + head_module = model.get_output_embeddings() + if hasattr(emb_module, "weight") and hasattr(head_module, "weight"): + if emb_module.weight.shape == head_module.weight.shape and emb_module.weight.data_ptr() != head_module.weight.data_ptr(): + with torch.no_grad(): + head_module.weight = emb_module.weight + logger.info("Force-tied LM head weight to input embeddings (pointer share).") + except Exception as e: + logger.warning(f"Force-tie of LM head failed: {e}") + + # Validate special IDs (info logs only) + try: + special_names = ["speech_start_id", "speech_diffusion_id", "speech_end_id"] + try: + vocab_size = int(getattr(model.config.decoder_config, "vocab_size", 0)) + except Exception: + vocab_size = 0 + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + for name in special_names: + val = getattr(tok, name, None) + exists = (val is not None) + in_range = (exists and isinstance(val, int) and 0 <= val < vocab_size) + equal_row = None + if in_range and in_w is not None and out_w is not None and in_w.shape == out_w.shape and in_w.size(0) > val: + try: + equal_row = bool(torch.allclose(in_w[val], out_w[val])) + except Exception: + equal_row = False + decoded_str = None + if exists and isinstance(val, int): + try: + decoded_str = tok.decode([val]) + except Exception: + try: + decoded_str = tok.convert_ids_to_tokens(val) + except Exception: + decoded_str = "" + logger.info(f"Special token check -> {name}={val}, decoded='{decoded_str}', exists={exists}, in_vocab_range={in_range}, emb_vs_head_row_equal={equal_row}") + except Exception as e: + logger.warning(f"Special token ID/row validation failed: {e}") + + # Quick tokenizer diagnostics (optional) + try: + logger.info("=== TOKENIZER DIAGNOSTICS ===") + logger.info(f"Tokenizer class: {type(tok).__name__}") + logger.info(f"Tokenizer vocab_size: {tok.vocab_size}") + # tiny CE smoke test + with torch.no_grad(): + simple_text = "The cat sat on the mat." + simple_ids = torch.tensor([tok.encode(simple_text, add_special_tokens=True)], device=model.device) + simple_mask = torch.ones_like(simple_ids) + x = model.get_input_embeddings()(simple_ids) + outputs = model.model(inputs_embeds=x, attention_mask=simple_mask, return_dict=True) + logits = model.lm_head(outputs.last_hidden_state) + shift_logits = logits[:, :-1, :].contiguous() + shift_labels = simple_ids[:, 1:].contiguous() + ce_loss = F.cross_entropy(shift_logits.view(-1, shift_logits.size(-1)), shift_labels.view(-1), reduction='mean') + logger.info(f"Simple text CE loss: {ce_loss.item():.4f}") + except Exception as e: + logger.warning(f"Tokenizer diagnostics failed: {e}") + + # Disable cache during training + if hasattr(model.config, "use_cache") and training_args.do_train: + model.config.use_cache = False + + # Freeze tokenizers + if model_args.freeze_acoustic_tokenizer and hasattr(model.model, "acoustic_tokenizer"): + for p in model.model.acoustic_tokenizer.parameters(): + p.requires_grad = False + if model_args.freeze_semantic_tokenizer and hasattr(model.model, "semantic_tokenizer"): + for p in model.model.semantic_tokenizer.parameters(): + p.requires_grad = False + + # LoRA wrap LLM (optional) + lora_cfg = build_lora_config(model_args) + tm_lower = [s.strip().lower() for s in model_args.lora_target_modules.split(",") if s.strip()] + skip_lm_lora = (len(tm_lower) == 0) or all(t in ("none", "off", "disable", "disabled") for t in tm_lower) + if not skip_lm_lora: + model.model.language_model = get_peft_model(model.model.language_model, lora_cfg) + else: + logger.info("Skipping LLM LoRA wrapping (lora_target_modules indicates none).") + + try: + model.tie_weights() + except Exception: + pass + + # Freeze all then enable trainable subsets + for _, p in model.named_parameters(): + p.requires_grad = False + + try: + for n, p in model.model.language_model.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception: + logger.warning("Could not re-enable LoRA params on language_model.") + + # Diffusion head LoRA wrapping (optional) + if getattr(model_args, "lora_wrap_diffusion_head", False) and hasattr(model.model, "prediction_head"): + class _HeadForwardShim(nn.Module): + def __init__(self, base: nn.Module): super().__init__(); self.base = base + def forward(self, *args, **kwargs): + if len(args) >= 3: + noisy_images, timesteps, condition = args[:3] + else: + noisy_images = kwargs.get("noisy_images") + timesteps = kwargs.get("timesteps") + condition = kwargs.get("condition") + return self.base(noisy_images, timesteps, condition) + try: + shim = _HeadForwardShim(model.model.prediction_head) + model.model.prediction_head = get_peft_model(shim, build_head_lora_config(model_args)) + for n, p in model.model.prediction_head.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception as e: + logger.warning(f"Could not LoRA-wrap diffusion head: {e}") + + # Train full diffusion head (optional) + if getattr(model_args, "train_diffusion_head", False) and hasattr(model.model, "prediction_head"): + for p in model.model.prediction_head.parameters(): + p.requires_grad = True + + # Freeze diffusion head layers (optional) + if model_args.layers_to_freeze is not None and hasattr(model.model, "prediction_head"): + head_params = list(model.model.prediction_head.named_parameters()) + try: + indices_to_freeze = {int(x.strip()) for x in model_args.layers_to_freeze.split(',') if x.strip()} + frozen_count = 0 + for i, (name, param) in enumerate(head_params): + if i in indices_to_freeze: + param.requires_grad = False + frozen_count += 1 + logger.info(f"Froze layer [{i}]: {name}") + logger.info(f"Successfully froze {frozen_count} parameter groups in the diffusion head.") + except Exception as e: + logger.error(f"Could not parse --layers_to_freeze: {e}") + raise + + # Connectors + if getattr(model_args, "train_connectors", False): + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = True + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = True + else: + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = False + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = False + + # Freeze embedding + head + try: + emb = model.get_input_embeddings() + if hasattr(emb, "weight"): + emb.weight.requires_grad_(False) + head = model.get_output_embeddings() + if head is not None and hasattr(head, "weight"): + head.weight.requires_grad_(False) + except Exception: + pass + + # Diagnostics + def _sum_params(named_iter): + return sum(p.numel() for _, p in named_iter if p.requires_grad) + try: + lm_lora = _sum_params(model.model.language_model.named_parameters()) if hasattr(model.model, "language_model") else 0 + pred_head_train = _sum_params(model.model.prediction_head.named_parameters()) if hasattr(model.model, "prediction_head") else 0 + ac_conn_train = _sum_params(model.model.acoustic_connector.named_parameters()) if hasattr(model.model, "acoustic_connector") else 0 + se_conn_train = _sum_params(model.model.semantic_connector.named_parameters()) if hasattr(model.model, "semantic_connector") else 0 + total_trainable = sum(p.numel() for p in model.parameters() if p.requires_grad) + logger.info(f"Trainable by block -> LLM-LoRA: {lm_lora:,} | diff_head: {pred_head_train:,} | ac_conn: {ac_conn_train:,} | se_conn: {se_conn_train:,}") + logger.info("TOTAL trainable: %s", f"{total_trainable:,}") + except Exception: + pass + + # Preprocessed data classes + class PreprocessedBatchDataset: + def __init__(self, preprocessed_file: str): + self.data = torch.load(preprocessed_file, map_location='cpu') + logger.info(f"Loaded {len(self.data)} preprocessed batches from {preprocessed_file}") + + def __len__(self): + return len(self.data) + + def __getitem__(self, idx): + batch = self.data[idx] + result = {} + for k, v in batch.items(): + if isinstance(v, torch.Tensor): + result[k] = v + else: + result[k] = v + return result + + class PreprocessedBatchSubset: + def __init__(self, dataset: 'PreprocessedBatchDataset', indices: List[int]): + self.dataset = dataset + self.indices = indices + + def __len__(self): + return len(self.indices) + + def __getitem__(self, idx): + actual_idx = self.indices[idx] + return self.dataset[actual_idx] + + class PreprocessedBatchCollator: + def __call__(self, batch: List[Dict[str, torch.Tensor]]) -> Dict[str, torch.Tensor]: + if not batch: + return {} + result = {} + for key in batch[0].keys(): + tensors = [b[key] for b in batch if b[key] is not None] + if tensors and isinstance(tensors[0], torch.Tensor): + result[key] = torch.cat(tensors, dim=0) + else: + result[key] = tensors[0] if tensors else None + return result + + # Datasets + preprocessed_dir = os.path.join(training_args.output_dir, "preprocessed") + preprocessed_file = os.path.join(preprocessed_dir, "preprocessed_batches.pt") + + if os.path.exists(preprocessed_file): + logger.info(f"Loading preprocessed data from {preprocessed_file}") + preprocessed_data = PreprocessedBatchDataset(preprocessed_file) + + train_dataset = preprocessed_data + eval_dataset = None + + if training_args.do_eval and data_args.eval_split_size and data_args.eval_split_size > 0 and len(preprocessed_data) > 1: + num_eval = max(1, int(len(preprocessed_data) * data_args.eval_split_size)) + num_train = len(preprocessed_data) - num_eval + indices = list(range(len(preprocessed_data))) + import random + random.Random(training_args.seed).shuffle(indices) + train_indices = indices[:num_train] + eval_indices = indices[num_train:] + train_dataset = PreprocessedBatchSubset(preprocessed_data, train_indices) + eval_dataset = PreprocessedBatchSubset(preprocessed_data, eval_indices) + else: + logger.info(f"Preprocessed data not found at {preprocessed_file}, loading from raw JSONL/HF datasets") + verification_mode = VerificationMode.NO_CHECKS if data_args.ignore_verifications else VerificationMode.BASIC_CHECKS + if data_args.train_jsonl is not None: + data_files: Dict[str, str] = {"train": data_args.train_jsonl} + if data_args.validation_jsonl is not None: + data_files["validation"] = data_args.validation_jsonl + raw = load_dataset("json", data_files=data_files, verification_mode=verification_mode, cache_dir=model_args.cache_dir) + else: + if data_args.dataset_name is None: + raise ValueError("Provide --dataset_name (HF datasets) or use --train_jsonl/--validation_jsonl for local files.") + raw = load_dataset( + data_args.dataset_name, + data_args.dataset_config_name, + verification_mode=verification_mode, + cache_dir=model_args.cache_dir, + ) + train_ds = raw[data_args.train_split_name] + eval_ds = None + if training_args.do_eval: + if data_args.eval_split_name and data_args.eval_split_name in raw: + eval_ds = raw[data_args.eval_split_name] + elif data_args.eval_split_size and data_args.eval_split_size > 0 and len(train_ds) > 1: + split = train_ds.train_test_split(test_size=data_args.eval_split_size, seed=training_args.seed) + train_ds, eval_ds = split["train"], split["test"] + + train_dataset = VibeVoiceDataset( + train_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + eval_dataset = None + if eval_ds is not None: + eval_dataset = VibeVoiceDataset( + eval_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + + # Ratios/dims from processor+model + speech_compress_ratio = getattr(processor, "speech_tok_compress_ratio", 3200) + semantic_dim = getattr(model.config, "semantic_vae_dim", None) + if semantic_dim is None: + try: + semantic_dim = int(getattr(model.config.semantic_tokenizer_config, "vae_dim", 128)) + except Exception: + semantic_dim = 128 + + compute_semantics_flag = hasattr(processor, "semantic_tokenizer") and processor.semantic_tokenizer is not None + + if os.path.exists(preprocessed_file): + data_collator = PreprocessedBatchCollator() + else: + data_collator = VibeVoiceCollator( + processor=processor, + max_length=data_args.max_length, + speech_compress_ratio=speech_compress_ratio, + semantic_vae_dim=semantic_dim, + compute_semantics=compute_semantics_flag, + debug_checks=False, + voice_prompt_drop_rate=data_args.voice_prompt_drop_rate, + ) + + class LoRADebugCallback(TrainerCallback): + def __init__(self, log_every_n_steps: int = 50): + self.log_every_n_steps = max(1, int(log_every_n_steps)) + self.prev_param_norms: Dict[str, float] = {} + self.lora_param_names: List[str] = [] + + def on_train_begin(self, args, state, control, model=None, **kwargs): + try: + if model is None: + return + named: Dict[str, torch.nn.Parameter] = dict(model.named_parameters()) + self.lora_param_names = [n for n in named.keys() if ("lora_A" in n or "lora_B" in n)] + for n in self.lora_param_names: + p = named[n] + self.prev_param_norms[n] = float(p.data.norm().item()) + total = len(self.lora_param_names) + req_grad = sum(1 for n in self.lora_param_names if named[n].requires_grad) + num_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + num_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + zero_B = sum(1 for n in self.lora_param_names if ("lora_B" in n and float(named[n].data.norm().item()) == 0.0)) + logger.info(f"LoRA debug: found {total} LoRA params (A={num_A}, B={num_B}); trainable={req_grad}. Initial lora_B_zero={zero_B}.") + if total == 0: + logger.warning("LoRA debug: No LoRA parameters found. Check lora_target_modules.") + if req_grad != total: + logger.warning("LoRA debug: Some LoRA params are frozen. They should be trainable.") + except Exception as e: + logger.warning(f"LoRA debug (on_train_begin) failed: {e}") + + def on_step_end(self, args, state, control, model=None, **kwargs): + try: + if model is None or len(self.lora_param_names) == 0: + return + step = int(getattr(state, "global_step", 0) or 0) + if step % self.log_every_n_steps != 0 and step != 1: + return + named: Dict[str, torch.nn.Parameter] = dict(model.named_parameters()) + changed_A = 0 + changed_B = 0 + zero_B = 0 + eps = 1e-12 + for n in self.lora_param_names: + p = named.get(n, None) + if p is None: + continue + prev = self.prev_param_norms.get(n, 0.0) + curr = float(p.data.norm().item()) + if "lora_A" in n and abs(curr - prev) > eps: + changed_A += 1 + if "lora_B" in n: + if abs(curr - prev) > eps: + changed_B += 1 + if curr == 0.0: + zero_B += 1 + self.prev_param_norms[n] = curr + total_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + total_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + logger.info(f"LoRA debug step {step}: changed A {changed_A}/{total_A}, changed B {changed_B}/{total_B}, lora_B_zero_now={zero_B}.") + except Exception as e: + logger.warning(f"LoRA debug (on_step_end) failed: {e}") + + class VibeVoiceTrainer(Trainer): + def compute_loss(self, model: VibeVoiceForConditionalGeneration, inputs: Dict[str, Any], return_outputs=False, num_items_in_batch: Optional[int] = None): + labels = inputs.get("input_ids") + attention_mask = inputs.get("attention_mask") + acoustic_input_mask = inputs.get("acoustic_input_mask") + + # Ensure semantic tensors exist and have correct dtype/device + sem = inputs.get("speech_semantic_tensors", None) + try: + target_dtype = next(model.model.semantic_connector.parameters()).dtype + except Exception: + target_dtype = model.get_input_embeddings().weight.dtype + + if sem is None: + sm = inputs.get("speech_masks") + if sm is not None: + zeros = torch.zeros( + sm.size(0), sm.size(1), + getattr(model.config, "semantic_vae_dim", 128), + dtype=target_dtype, + device=sm.device, + ) + inputs["speech_semantic_tensors"] = zeros + else: + if isinstance(sem, torch.Tensor): + inputs["speech_semantic_tensors"] = sem.to(dtype=target_dtype) + + outputs = model( + input_ids=inputs.get("input_ids"), + attention_mask=attention_mask, + speech_tensors=inputs.get("speech_tensors"), + speech_masks=inputs.get("speech_masks"), + speech_semantic_tensors=inputs.get("speech_semantic_tensors"), + acoustic_input_mask=acoustic_input_mask, + acoustic_loss_mask=inputs.get("acoustic_loss_mask"), + speeches_loss_input=inputs.get("speeches_loss_input"), + ddpm_batch_mul=training_args.ddpm_batch_mul, + ) + + # Invariants: token/latent selection equality across views (warn, don't assert) + try: + al_mask = inputs.get("acoustic_loss_mask") + sp_masks = inputs.get("speech_masks") + sp_loss_sel = inputs.get("speeches_loss_input") + num_tok_total = int(acoustic_input_mask.sum().item()) if acoustic_input_mask is not None else 0 + num_tok_loss = int(al_mask.sum().item()) if al_mask is not None else 0 + num_lat_total = int(sp_masks.sum().item()) if sp_masks is not None else 0 + num_lat_loss = int(((sp_loss_sel & sp_masks).sum().item())) if (sp_loss_sel is not None and sp_masks is not None) else 0 + self.log({ + "debug/num_tok_total": float(num_tok_total), + "debug/num_tok_loss": float(num_tok_loss), + "debug/num_lat_total": float(num_lat_total), + "debug/num_lat_loss": float(num_lat_loss), + }) + if sp_loss_sel is not None and sp_masks is not None and al_mask is not None: + if num_tok_loss != num_lat_loss: + logger.warning(f"Loss selection mismatch: acoustic_loss_mask={num_tok_loss} vs speeches_loss_input={num_lat_loss}") + except Exception: + pass + + # CE Loss + logits = outputs.logits + ce_labels = mask_for_ce(labels, attention_mask, acoustic_input_mask, pad_id=-100) + shift_logits = logits[:, :-1, :].contiguous() + loss_fct = nn.CrossEntropyLoss(ignore_index=-100) + ce_loss = loss_fct(shift_logits.view(-1, shift_logits.size(-1)), ce_labels.view(-1)) + + # Optional CE diagnostics + try: + self._debug_ce(shift_logits, ce_labels, attention_mask, acoustic_input_mask) + except Exception as e: + logger.warning(f"Failed invoking CE debug: {e}") + + # Diffusion loss + diffusion_loss = outputs.diffusion_loss if outputs.diffusion_loss is not None else torch.tensor(0.0, device=ce_loss.device) + total = training_args.ce_loss_weight * ce_loss + training_args.diffusion_loss_weight * diffusion_loss + + # Logs + try: + prefix = "train" if model.training else "eval" + self.log({ + f"{prefix}/ce_loss": ce_loss.detach().item(), + f"{prefix}/diffusion_loss": diffusion_loss.detach().item() if isinstance(diffusion_loss, torch.Tensor) else float(diffusion_loss), + }) + if hasattr(self, "optimizer") and self.optimizer is not None and len(self.optimizer.param_groups) > 0: + lr_val = self.optimizer.param_groups[0].get("lr", None) + if lr_val is not None: + self.log({"train/learning_rate_real": float(lr_val)}) + except Exception: + pass + + return (total, outputs) if return_outputs else total + + def _debug_ce(self, shift_logits: torch.Tensor, ce_labels: torch.Tensor, attention_mask: Optional[torch.Tensor], acoustic_input_mask: Optional[torch.Tensor]): + try: + if not getattr(training_args, "debug_ce_details", False): + return + step = int(getattr(self.state, "global_step", 0) or 0) + every_n = max(1, int(getattr(training_args, "debug_ce_every_n_steps", 200) or 200)) + if not (step <= 1 or (step % every_n == 0)): + return + + with torch.no_grad(): + vocab = shift_logits.size(-1) + per_token_loss = F.cross_entropy( + shift_logits.view(-1, vocab), + ce_labels.view(-1), + reduction="none", + ignore_index=-100, + ).view_as(ce_labels) + + valid_mask = ce_labels.ne(-100) + num_valid = int(valid_mask.sum().item()) + avg_loss = float((per_token_loss[valid_mask].mean().item())) if num_valid > 0 else float("nan") + + per_ex_avgs = [] + max_examples = max(1, int(getattr(training_args, "debug_ce_max_examples", 1) or 1)) + B = ce_labels.size(0) + for b in range(min(B, max_examples)): + vb = valid_mask[b] + if int(vb.sum().item()) > 0: + per_ex_avgs.append(float(per_token_loss[b][vb].mean().item())) + else: + per_ex_avgs.append(float("nan")) + logger.info(f"CE debug: tokens_in_loss={num_valid}, avg_loss={avg_loss:.4f}, per_example_avgs={[round(x,4) if x==x else None for x in per_ex_avgs]}") + except Exception as e: + logger.warning(f"CE detailed debug failed: {e}") + + # --------- CRITICAL SAVE OVERRIDES: also dump FULL head/connectors for inference --------- + + + def _save(self, output_dir: Optional[str] = None, state_dict=None) -> None: + try: + target_dir = output_dir or self.args.output_dir + lora_out = os.path.join(target_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # --- LLM PEFT adapters (if LoRA-wrapped) --- + language_model = getattr(self.model.model, "language_model", None) + if hasattr(language_model, "save_pretrained"): + language_model.save_pretrained(lora_out) + + # --- Diffusion head PEFT adapters (if LoRA-wrapped) --- + pred_head = getattr(self.model.model, "prediction_head", None) + if hasattr(pred_head, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + pred_head.save_pretrained(ph_dir) + + # --- ALWAYS save FULL diffusion head state_dict for fallback --- + if pred_head is not None and hasattr(pred_head, "state_dict"): + sd = pred_head.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + + # --- Connectors (plain state_dicts) --- + ac = getattr(self.model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + + se = getattr(self.model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + + except Exception as e: + logger.warning(f"Failed to save LoRA assets: {e}") + + + # ------------- Build the Trainer ------------- + + # Resolve which adapters to apply in samples + + ema_cb = EmaCallback(attr_path="model.prediction_head", decay=0.999, device="cuda") + + # --- CRITICAL FIX: CAST TRAINABLE PARAMS TO FP32 --- + # This prevents 'ValueError: Attempting to unscale FP16 gradients' + if getattr(training_args, 'fp16', False) or getattr(training_args, 'bf16', False): + print('>>> INFO: Enforcing float32 for trainable parameters (LoRA/Head) to fix GradScaler.') + for name, param in model.named_parameters(): + if param.requires_grad: + param.data = param.data.to(torch.float32) + # --------------------------------------------------- + + trainer = VibeVoiceTrainer( + model=model, + args=training_args, + train_dataset=train_dataset, + eval_dataset=eval_dataset, + data_collator=data_collator, + callbacks=[ema_cb, LoRADebugCallback(log_every_n_steps=(int(getattr(training_args, "logging_steps", 50) or 50)))], + ) + + # Optional debug pre-training save + if getattr(training_args, "debug_save", False): + try: + debug_dir = os.path.join(training_args.output_dir, "debug_initial") + lora_out = os.path.join(debug_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + logger.info(f"[debug_save] Saving initial (pre-training) model components to: {debug_dir}") + # language model adapters / base + try: + if hasattr(model.model.language_model, "save_pretrained"): + model.model.language_model.save_pretrained(lora_out) + except Exception as e_lm: + logger.warning(f"[debug_save] Failed to save language_model: {e_lm}") + # diffusion head + try: + if hasattr(model.model, "prediction_head") and hasattr(model.model.prediction_head, "save_pretrained"): + model.model.prediction_head.save_pretrained(os.path.join(lora_out, "diffusion_head")) + except Exception as e_head: + logger.warning(f"[debug_save] Failed to save prediction_head: {e_head}") + # NEW: full diffusion head state_dict as fallback + try: + ph = getattr(model.model, "prediction_head", None) + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + os.makedirs(os.path.join(lora_out, "diffusion_head"), exist_ok=True) + torch.save(sd, os.path.join(lora_out, "diffusion_head", "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"[debug_save] Failed to save FULL diffusion head: {e}") + # connectors + try: + ac_conn = getattr(model.model, "acoustic_connector", None) + if ac_conn is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac_conn.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e_ac: + logger.warning(f"[debug_save] Failed to save acoustic_connector: {e_ac}") + try: + se_conn = getattr(model.model, "semantic_connector", None) + if se_conn is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se_conn.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e_se: + logger.warning(f"[debug_save] Failed to save semantic_connector: {e_se}") + except Exception as e: + logger.warning(f"[debug_save] Unexpected failure saving initial components: {e}") + + if getattr(training_args, "gradient_checkpointing", False): + try: + model.gradient_checkpointing_enable() + except Exception: + logger.warning("Failed to enable gradient checkpointing on the model.") + + if training_args.do_train: + trainer.train(resume_from_checkpoint=training_args.resume_from_checkpoint) + + lora_out = os.path.join(training_args.output_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # LLM PEFT (if any) + lm = getattr(model.model, "language_model", None) + if hasattr(lm, "save_pretrained"): + lm.save_pretrained(lora_out) + + # Diffusion head PEFT (if any) + ph = getattr(model.model, "prediction_head", None) + if hasattr(ph, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + ph.save_pretrained(ph_dir) + + # ALWAYS: full diffusion head state_dict fallback + try: + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"Failed to save FULL diffusion head at end: {e}") + + # Connectors (if trained) + try: + ac = getattr(model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save acoustic_connector: {e}") + + try: + se = getattr(model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save semantic_connector: {e}") + + if training_args.do_eval and eval_dataset is not None: + trainer.evaluate() + + +if __name__ == "__main__": + main() diff --git a/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora00.py b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora00.py new file mode 100644 index 0000000000000000000000000000000000000000..c32629cd6999fc199efc02484ebcd3f2bef7c194 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora00.py @@ -0,0 +1,1005 @@ +# train_vibevoice_lora.py +import os +# متغیر زیر کامنت شده است تا سیستم بتواند تمام GPUها را در حالت DDP ببیند +# os.environ["CUDA_VISIBLE_DEVICES"] = "0" +os.environ["TOKENIZERS_PARALLELISM"] = "false" + +import logging +import copy +from dataclasses import dataclass, field +from typing import Any, Dict, List, Optional, Tuple + +import torch +import torch.nn as nn +import torch.nn.functional as F +from datasets import load_dataset, DatasetDict, VerificationMode + +from transformers import ( + HfArgumentParser, + Trainer, + set_seed, + TrainerCallback, +) +from transformers import TrainingArguments as HfTrainingArguments + +from peft import LoraConfig, get_peft_model, TaskType + +from vibevoice.modular.modeling_vibevoice import VibeVoiceForConditionalGeneration +from vibevoice.modular.configuration_vibevoice import VibeVoiceConfig +from vibevoice.processor.vibevoice_processor import VibeVoiceProcessor + +from data_vibevoice import VibeVoiceDataset, VibeVoiceCollator + +logger = logging.getLogger(__name__) + +# ================== SAMPLE CALLBACK UTILS ================== + +class EmaCallback(TrainerCallback): + def __init__(self, attr_path="model.prediction_head", decay=0.999): + """ + attr_path: where the head lives under self.model + decay: EMA decay + """ + self.attr_path = attr_path + self.decay = float(decay) + self.shadow = None + self._orig = None # store non-EMA weights when we swap + + def _get_module(self, model): + # رفع مشکل DDP: دسترسی به مدل اصلی در صورت Wrap شدن با DistributedDataParallel + mod = model.module if hasattr(model, "module") else model + for name in self.attr_path.split('.'): + mod = getattr(mod, name) + return mod + + def on_train_begin(self, args, state, control, model=None, **kwargs): + head = self._get_module(model) + # استفاده از دیوایس داینامیک برای پشتیبانی از چند گرافیک + self.shadow = {k: p.detach().clone() + for k, p in head.state_dict().items()} + + def on_step_end(self, args, state, control, model=None, **kwargs): + if self.shadow is None: return + head = self._get_module(model) + with torch.no_grad(): + for k, v in head.state_dict().items(): + target_device = self.shadow[k].device + self.shadow[k].mul_(self.decay).add_(v.detach().to(target_device), alpha=(1.0 - self.decay)) + + # ---- Swap helpers ---- + def _swap_in_ema(self, model): + head = self._get_module(model) + self._orig = copy.deepcopy(head.state_dict()) + head.load_state_dict(self.shadow, strict=False) + + def _swap_back(self, model): + if self._orig is None: return + head = self._get_module(model) + head.load_state_dict(self._orig, strict=False) + self._orig = None + + def on_evaluate(self, args, state, control, model=None, **kwargs): + self._swap_in_ema(model) + + def on_evaluate_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_save(self, args, state, control, model=None, **kwargs): + self._swap_in_ema(model) + + def on_save_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_train_end(self, args, state, control, model=None, **kwargs): + self._swap_in_ema(model) + + +@dataclass +class ModelArguments: + model_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to VibeVoice base model with config.json"} + ) + processor_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to processor dir (preprocessor_config.json). Defaults to model path."} + ) + cache_dir: Optional[str] = field(default=None) + freeze_acoustic_tokenizer: bool = field(default=True) + freeze_semantic_tokenizer: bool = field(default=True) + lora_r: int = field(default=8) + lora_alpha: int = field(default=32) + lora_dropout: float = field(default=0.05) + lora_target_modules: str = field( + default="q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj", + metadata={"help": "Comma-separated list of target module names in the LLM blocks"}, + ) + lora_wrap_diffusion_head: bool = field(default=False, metadata={"help": "Wrap diffusion head with PEFT LoRA"}) + train_diffusion_head: bool = field(default=False, metadata={"help": "Train diffusion prediction head (full fine-tune)"}) + train_connectors: bool = field(default=False, metadata={"help": "Train acoustic/semantic connectors (full fine-tune)"}) + layers_to_freeze: Optional[str] = field( + default=None, + metadata={"help": "Comma-separated indices of diffusion head layers to freeze (e.g., '0,1,5,7,8')."} + ) + +@dataclass +class DataArguments: + dataset_name: Optional[str] = field(default=None, metadata={"help": "HF dataset name or 'json' with --train_jsonl for local files"}) + dataset_config_name: Optional[str] = field(default=None) + train_split_name: str = field(default="train") + eval_split_name: Optional[str] = field(default="validation") + text_column_name: str = field(default="text") + audio_column_name: str = field(default="audio") + voice_prompts_column_name: Optional[str] = field(default="voice_prompts") + eval_split_size: float = field(default=0.0) + ignore_verifications: bool = field(default=False) + max_length: Optional[int] = field(default=None) + train_jsonl: Optional[str] = field(default=None, metadata={"help": "Path to local train JSONL with {text, audio, [voice_prompts]}"}) + validation_jsonl: Optional[str] = field(default=None, metadata={"help": "Optional path to local validation JSONL"}) + voice_prompt_drop_rate: float = field( + default=0.0, + metadata={"help": "Probability to drop conditioning voice prompt during training (0.0 keep always, 1.0 drop always)."}, + ) + +@dataclass +class CustomTrainingArguments(HfTrainingArguments): + ddpm_batch_mul: int = field(default=1) + ce_loss_weight: float = field(default=1.0) + diffusion_loss_weight: float = field(default=1.0) + debug_ce_details: bool = field(default=False) + debug_ce_topk: int = field(default=5) + debug_ce_max_examples: int = field(default=1) + debug_ce_every_n_steps: int = field(default=200) + gradient_clipping: bool = field( + default=False, + metadata={"help": "Enable gradient clipping using max_grad_norm (set via --max_grad_norm, default 1.0). When False, disables clipping by forcing max_grad_norm=0.0."}, + ) + debug_save: bool = field( + default=False, + metadata={"help": "If set, saves model components BEFORE training starts, into output_dir/debug_initial."}, + ) + +def build_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = [s.strip() for s in args.lora_target_modules.split(",") if s.strip()] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.CAUSAL_LM, + target_modules=target_modules, + ) + +def build_head_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = ["noisy_images_proj","cond_proj","gate_proj","up_proj","down_proj","linear"] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.FEATURE_EXTRACTION, + target_modules=target_modules, + ) + +def mask_for_ce(labels: torch.Tensor, attention_mask: torch.Tensor, acoustic_input_mask: torch.Tensor, pad_id: int = -100) -> torch.Tensor: + shifted = labels[:, 1:].contiguous() + base_mask = attention_mask[:, 1:].contiguous().eq(1) if (attention_mask is not None and attention_mask.numel() > 0) else torch.ones_like(shifted, dtype=torch.bool) + label_is_acoustic = acoustic_input_mask[:, 1:].contiguous() + final_mask = base_mask & (~label_is_acoustic) + out = shifted.clone() + out[~final_mask] = pad_id + return out + +def _patch_acoustic_encode_for_legacy_indexing(model_obj, logger_): + try: + # هندل کردن دسترسی به مدل در حالت DDP + actual_model = model_obj.module if hasattr(model_obj, "module") else model_obj + acoustic = getattr(getattr(actual_model, "model", actual_model), "acoustic_tokenizer", None) + if acoustic is None or not hasattr(acoustic, "encode"): + logger_.warning("No acoustic_tokenizer.encode() found to patch.") + return + base_encode = acoustic.encode + def encode_wrapped(*args, **kwargs): + out = base_encode(*args, **kwargs) + try: + _ = out[0][0] + return out + except Exception: + pass + if isinstance(out, dict): + for k in ("frames", "codes", "tokens", "latents", "hidden_states"): + if k in out: + return [[out[k]]] + if len(out) > 0: + return [[next(iter(out.values()))]] + for attr in ("frames", "codes", "tokens", "latents", "hidden_states"): + if hasattr(out, attr): + return [[getattr(out, attr)]] + try: + if isinstance(out, torch.Tensor): + return [[out]] + except Exception: + pass + return [[out]] + acoustic.encode = encode_wrapped + logger_.info("Patched acoustic_tokenizer.encode() to return [[...]] for legacy indexing.") + except Exception as e: + logger_.warning(f"Failed to patch acoustic_tokenizer.encode(): {e}") + +def main() -> None: + parser = HfArgumentParser((ModelArguments, DataArguments, CustomTrainingArguments)) + model_args, data_args, training_args = parser.parse_args_into_dataclasses() + + logging.basicConfig( + format="%(asctime)s - %(levelname)s - %(name)s - %(message)s", + datefmt="%m/%d/%Y %H:%M:%S", + level=logging.INFO if training_args.local_rank in [-1, 0] else logging.WARN, + ) + logger.info("Training/evaluation parameters %s", training_args) + set_seed(training_args.seed) + + # بدست آوردن Rank گرافیک فعلی برای تخصیص صحیح در DDP + local_rank = int(os.environ.get("LOCAL_RANK", -1)) + device_map = {"": local_rank} if local_rank != -1 else None + + # Configure gradient clipping + if not getattr(training_args, "gradient_clipping", False): + if hasattr(training_args, "max_grad_norm"): + training_args.max_grad_norm = 0.0 + logger.info("Gradient clipping disabled (set max_grad_norm=0.0). Use --gradient_clipping to enable.") + else: + if (not hasattr(training_args, "max_grad_norm")) or training_args.max_grad_norm is None or training_args.max_grad_norm <= 0: + training_args.max_grad_norm = 1.0 + logger.info(f"Gradient clipping enabled: max_grad_norm={training_args.max_grad_norm}") + + # Load processor + processor_path = model_args.processor_name_or_path or model_args.model_name_or_path + if processor_path is None: + raise ValueError("--model_name_or_path (or --processor_name_or_path) must be provided") + processor: VibeVoiceProcessor = VibeVoiceProcessor.from_pretrained(processor_path) + + # Required special tokens + tok = processor.tokenizer + for required in ["speech_start_id", "speech_diffusion_id", "speech_end_id"]: + if not hasattr(tok, required) or getattr(tok, required) is None: + raise RuntimeError(f"Tokenizer missing required special id: {required}") + + # Load model (تخصیص مدل به گرافیک‌ها با استفاده از device_map محاسبه شده) + if model_args.model_name_or_path is None: + raise ValueError("--model_name_or_path is required to load VibeVoice base model") + dtype = torch.float32 + if training_args.bf16: + dtype = torch.bfloat16 + elif getattr(training_args, "fp16", False): + dtype = torch.float16 + model = VibeVoiceForConditionalGeneration.from_pretrained( + model_args.model_name_or_path, + torch_dtype=dtype, + device_map=device_map, + ) + + _patch_acoustic_encode_for_legacy_indexing(model, logger) + processor.semantic_tokenizer = getattr(model.model, "semantic_tokenizer", None) + + # Diagnostics: LM head tie + try: + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + shared_ptr = bool(in_w is not None and out_w is not None and in_w.data_ptr() == out_w.data_ptr()) + values_equal = False + if in_w is not None and out_w is not None and in_w.shape == out_w.shape: + try: + values_equal = bool(torch.allclose(in_w, out_w)) + except Exception: + values_equal = False + try: + tie_cfg = getattr(getattr(model.config, "decoder_config", model.config), "tie_word_embeddings", None) + except Exception: + tie_cfg = getattr(model.config, "tie_word_embeddings", None) + logger.info(f"LM head diagnostics -> shared_params={shared_ptr}, values_equal={values_equal}, tie_word_embeddings={tie_cfg}") + if out_w is not None: + logger.info(f"LM head requires_grad before freeze: {bool(out_w.requires_grad)}") + except Exception as e: + logger.warning(f"LM head tie diagnostics failed: {e}") + + # Hard-tie LM head + try: + emb_module = model.get_input_embeddings() + head_module = model.get_output_embeddings() + if hasattr(emb_module, "weight") and hasattr(head_module, "weight"): + if emb_module.weight.shape == head_module.weight.shape and emb_module.weight.data_ptr() != head_module.weight.data_ptr(): + with torch.no_grad(): + head_module.weight = emb_module.weight + logger.info("Force-tied LM head weight to input embeddings (pointer share).") + except Exception as e: + logger.warning(f"Force-tie of LM head failed: {e}") + + # Validate special IDs (info logs only) + try: + special_names = ["speech_start_id", "speech_diffusion_id", "speech_end_id"] + try: + vocab_size = int(getattr(model.config.decoder_config, "vocab_size", 0)) + except Exception: + vocab_size = 0 + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + for name in special_names: + val = getattr(tok, name, None) + exists = (val is not None) + in_range = (exists and isinstance(val, int) and 0 <= val < vocab_size) + equal_row = None + if in_range and in_w is not None and out_w is not None and in_w.shape == out_w.shape and in_w.size(0) > val: + try: + equal_row = bool(torch.allclose(in_w[val], out_w[val])) + except Exception: + equal_row = False + decoded_str = None + if exists and isinstance(val, int): + try: + decoded_str = tok.decode([val]) + except Exception: + try: + decoded_str = tok.convert_ids_to_tokens(val) + except Exception: + decoded_str = "" + logger.info(f"Special token check -> {name}={val}, decoded='{decoded_str}', exists={exists}, in_vocab_range={in_range}, emb_vs_head_row_equal={equal_row}") + except Exception as e: + logger.warning(f"Special token ID/row validation failed: {e}") + + # Quick tokenizer diagnostics (optional) + try: + logger.info("=== TOKENIZER DIAGNOSTICS ===") + logger.info(f"Tokenizer class: {type(tok).__name__}") + logger.info(f"Tokenizer vocab_size: {tok.vocab_size}") + # tiny CE smoke test + with torch.no_grad(): + simple_text = "The cat sat on the mat." + simple_ids = torch.tensor([tok.encode(simple_text, add_special_tokens=True)], device=model.device) + simple_mask = torch.ones_like(simple_ids) + x = model.get_input_embeddings()(simple_ids) + outputs = model.model(inputs_embeds=x, attention_mask=simple_mask, return_dict=True) + logits = model.lm_head(outputs.last_hidden_state) + shift_logits = logits[:, :-1, :].contiguous() + shift_labels = simple_ids[:, 1:].contiguous() + ce_loss = F.cross_entropy(shift_logits.view(-1, shift_logits.size(-1)), shift_labels.view(-1), reduction='mean') + logger.info(f"Simple text CE loss: {ce_loss.item():.4f}") + except Exception as e: + logger.warning(f"Tokenizer diagnostics failed: {e}") + + # Disable cache during training + if hasattr(model.config, "use_cache") and training_args.do_train: + model.config.use_cache = False + + # Freeze tokenizers + if model_args.freeze_acoustic_tokenizer and hasattr(model.model, "acoustic_tokenizer"): + for p in model.model.acoustic_tokenizer.parameters(): + p.requires_grad = False + if model_args.freeze_semantic_tokenizer and hasattr(model.model, "semantic_tokenizer"): + for p in model.model.semantic_tokenizer.parameters(): + p.requires_grad = False + + # LoRA wrap LLM (optional) + lora_cfg = build_lora_config(model_args) + tm_lower = [s.strip().lower() for s in model_args.lora_target_modules.split(",") if s.strip()] + skip_lm_lora = (len(tm_lower) == 0) or all(t in ("none", "off", "disable", "disabled") for t in tm_lower) + if not skip_lm_lora: + model.model.language_model = get_peft_model(model.model.language_model, lora_cfg) + else: + logger.info("Skipping LLM LoRA wrapping (lora_target_modules indicates none).") + + try: + model.tie_weights() + except Exception: + pass + + # Freeze all then enable trainable subsets + for _, p in model.named_parameters(): + p.requires_grad = False + + try: + for n, p in model.model.language_model.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception: + logger.warning("Could not re-enable LoRA params on language_model.") + + # Diffusion head LoRA wrapping (optional) + if getattr(model_args, "lora_wrap_diffusion_head", False) and hasattr(model.model, "prediction_head"): + class _HeadForwardShim(nn.Module): + def __init__(self, base: nn.Module): super().__init__(); self.base = base + def forward(self, *args, **kwargs): + if len(args) >= 3: + noisy_images, timesteps, condition = args[:3] + else: + noisy_images = kwargs.get("noisy_images") + timesteps = kwargs.get("timesteps") + condition = kwargs.get("condition") + return self.base(noisy_images, timesteps, condition) + try: + shim = _HeadForwardShim(model.model.prediction_head) + model.model.prediction_head = get_peft_model(shim, build_head_lora_config(model_args)) + for n, p in model.model.prediction_head.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception as e: + logger.warning(f"Could not LoRA-wrap diffusion head: {e}") + + # Train full diffusion head (optional) + if getattr(model_args, "train_diffusion_head", False) and hasattr(model.model, "prediction_head"): + for p in model.model.prediction_head.parameters(): + p.requires_grad = True + + # Freeze diffusion head layers (optional) + if model_args.layers_to_freeze is not None and hasattr(model.model, "prediction_head"): + head_params = list(model.model.prediction_head.named_parameters()) + try: + indices_to_freeze = {int(x.strip()) for x in model_args.layers_to_freeze.split(',') if x.strip()} + frozen_count = 0 + for i, (name, param) in enumerate(head_params): + if i in indices_to_freeze: + param.requires_grad = False + frozen_count += 1 + logger.info(f"Froze layer [{i}]: {name}") + logger.info(f"Successfully froze {frozen_count} parameter groups in the diffusion head.") + except Exception as e: + logger.error(f"Could not parse --layers_to_freeze: {e}") + raise + + # Connectors + if getattr(model_args, "train_connectors", False): + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = True + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = True + else: + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = False + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = False + + # Freeze embedding + head + try: + emb = model.get_input_embeddings() + if hasattr(emb, "weight"): + emb.weight.requires_grad_(False) + head = model.get_output_embeddings() + if head is not None and hasattr(head, "weight"): + head.weight.requires_grad_(False) + except Exception: + pass + + # Diagnostics + def _sum_params(named_iter): + return sum(p.numel() for _, p in named_iter if p.requires_grad) + try: + lm_lora = _sum_params(model.model.language_model.named_parameters()) if hasattr(model.model, "language_model") else 0 + pred_head_train = _sum_params(model.model.prediction_head.named_parameters()) if hasattr(model.model, "prediction_head") else 0 + ac_conn_train = _sum_params(model.model.acoustic_connector.named_parameters()) if hasattr(model.model, "acoustic_connector") else 0 + se_conn_train = _sum_params(model.model.semantic_connector.named_parameters()) if hasattr(model.model, "semantic_connector") else 0 + total_trainable = sum(p.numel() for p in model.parameters() if p.requires_grad) + logger.info(f"Trainable by block -> LLM-LoRA: {lm_lora:,} | diff_head: {pred_head_train:,} | ac_conn: {ac_conn_train:,} | se_conn: {se_conn_train:,}") + logger.info("TOTAL trainable: %s", f"{total_trainable:,}") + except Exception: + pass + + # Preprocessed data classes + class PreprocessedBatchDataset: + def __init__(self, preprocessed_file: str): + self.data = torch.load(preprocessed_file, map_location='cpu') + logger.info(f"Loaded {len(self.data)} preprocessed batches from {preprocessed_file}") + + def __len__(self): + return len(self.data) + + def __getitem__(self, idx): + batch = self.data[idx] + result = {} + for k, v in batch.items(): + if isinstance(v, torch.Tensor): + result[k] = v + else: + result[k] = v + return result + + class PreprocessedBatchSubset: + def __init__(self, dataset: 'PreprocessedBatchDataset', indices: List[int]): + self.dataset = dataset + self.indices = indices + + def __len__(self): + return len(self.indices) + + def __getitem__(self, idx): + actual_idx = self.indices[idx] + return self.dataset[actual_idx] + + class PreprocessedBatchCollator: + def __call__(self, batch: List[Dict[str, torch.Tensor]]) -> Dict[str, torch.Tensor]: + if not batch: + return {} + result = {} + for key in batch[0].keys(): + tensors = [b[key] for b in batch if b[key] is not None] + if tensors and isinstance(tensors[0], torch.Tensor): + result[key] = torch.cat(tensors, dim=0) + else: + result[key] = tensors[0] if tensors else None + return result + + # Datasets + preprocessed_dir = os.path.join(training_args.output_dir, "preprocessed") + preprocessed_file = os.path.join(preprocessed_dir, "preprocessed_batches.pt") + + if os.path.exists(preprocessed_file): + logger.info(f"Loading preprocessed data from {preprocessed_file}") + preprocessed_data = PreprocessedBatchDataset(preprocessed_file) + + train_dataset = preprocessed_data + eval_dataset = None + + if training_args.do_eval and data_args.eval_split_size and data_args.eval_split_size > 0 and len(preprocessed_data) > 1: + num_eval = max(1, int(len(preprocessed_data) * data_args.eval_split_size)) + num_train = len(preprocessed_data) - num_eval + indices = list(range(len(preprocessed_data))) + import random + random.Random(training_args.seed).shuffle(indices) + train_indices = indices[:num_train] + eval_indices = indices[num_train:] + train_dataset = PreprocessedBatchSubset(preprocessed_data, train_indices) + eval_dataset = PreprocessedBatchSubset(preprocessed_data, eval_indices) + else: + logger.info(f"Preprocessed data not found at {preprocessed_file}, loading from raw JSONL/HF datasets") + verification_mode = VerificationMode.NO_CHECKS if data_args.ignore_verifications else VerificationMode.BASIC_CHECKS + if data_args.train_jsonl is not None: + data_files: Dict[str, str] = {"train": data_args.train_jsonl} + if data_args.validation_jsonl is not None: + data_files["validation"] = data_args.validation_jsonl + raw = load_dataset("json", data_files=data_files, verification_mode=verification_mode, cache_dir=model_args.cache_dir) + else: + if data_args.dataset_name is None: + raise ValueError("Provide --dataset_name (HF datasets) or use --train_jsonl/--validation_jsonl for local files.") + raw = load_dataset( + data_args.dataset_name, + data_args.dataset_config_name, + verification_mode=verification_mode, + cache_dir=model_args.cache_dir, + ) + train_ds = raw[data_args.train_split_name] + eval_ds = None + if training_args.do_eval: + if data_args.eval_split_name and data_args.eval_split_name in raw: + eval_ds = raw[data_args.eval_split_name] + elif data_args.eval_split_size and data_args.eval_split_size > 0 and len(train_ds) > 1: + split = train_ds.train_test_split(test_size=data_args.eval_split_size, seed=training_args.seed) + train_ds, eval_ds = split["train"], split["test"] + + train_dataset = VibeVoiceDataset( + train_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + eval_dataset = None + if eval_ds is not None: + eval_dataset = VibeVoiceDataset( + eval_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + + # Ratios/dims from processor+model + speech_compress_ratio = getattr(processor, "speech_tok_compress_ratio", 3200) + semantic_dim = getattr(model.config, "semantic_vae_dim", None) + if semantic_dim is None: + try: + semantic_dim = int(getattr(model.config.semantic_tokenizer_config, "vae_dim", 128)) + except Exception: + semantic_dim = 128 + + compute_semantics_flag = hasattr(processor, "semantic_tokenizer") and processor.semantic_tokenizer is not None + + if os.path.exists(preprocessed_file): + data_collator = PreprocessedBatchCollator() + else: + data_collator = VibeVoiceCollator( + processor=processor, + max_length=data_args.max_length, + speech_compress_ratio=speech_compress_ratio, + semantic_vae_dim=semantic_dim, + compute_semantics=compute_semantics_flag, + debug_checks=False, + voice_prompt_drop_rate=data_args.voice_prompt_drop_rate, + ) + + class LoRADebugCallback(TrainerCallback): + def __init__(self, log_every_n_steps: int = 50): + self.log_every_n_steps = max(1, int(log_every_n_steps)) + self.prev_param_norms: Dict[str, float] = {} + self.lora_param_names: List[str] = [] + + def on_train_begin(self, args, state, control, model=None, **kwargs): + try: + if model is None: + return + # دسترسی ایمن به مدل در حالت DDP + actual_model = model.module if hasattr(model, "module") else model + named: Dict[str, torch.nn.Parameter] = dict(actual_model.named_parameters()) + self.lora_param_names = [n for n in named.keys() if ("lora_A" in n or "lora_B" in n)] + for n in self.lora_param_names: + p = named[n] + self.prev_param_norms[n] = float(p.data.norm().item()) + total = len(self.lora_param_names) + req_grad = sum(1 for n in self.lora_param_names if named[n].requires_grad) + num_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + num_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + zero_B = sum(1 for n in self.lora_param_names if ("lora_B" in n and float(named[n].data.norm().item()) == 0.0)) + logger.info(f"LoRA debug: found {total} LoRA params (A={num_A}, B={num_B}); trainable={req_grad}. Initial lora_B_zero={zero_B}.") + if total == 0: + logger.warning("LoRA debug: No LoRA parameters found. Check lora_target_modules.") + if req_grad != total: + logger.warning("LoRA debug: Some LoRA params are frozen. They should be trainable.") + except Exception as e: + logger.warning(f"LoRA debug (on_train_begin) failed: {e}") + + def on_step_end(self, args, state, control, model=None, **kwargs): + try: + if model is None or len(self.lora_param_names) == 0: + return + step = int(getattr(state, "global_step", 0) or 0) + if step % self.log_every_n_steps != 0 and step != 1: + return + + actual_model = model.module if hasattr(model, "module") else model + named: Dict[str, torch.nn.Parameter] = dict(actual_model.named_parameters()) + changed_A = 0 + changed_B = 0 + zero_B = 0 + eps = 1e-12 + for n in self.lora_param_names: + p = named.get(n, None) + if p is None: + continue + prev = self.prev_param_norms.get(n, 0.0) + curr = float(p.data.norm().item()) + if "lora_A" in n and abs(curr - prev) > eps: + changed_A += 1 + if "lora_B" in n: + if abs(curr - prev) > eps: + changed_B += 1 + if curr == 0.0: + zero_B += 1 + self.prev_param_norms[n] = curr + total_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + total_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + logger.info(f"LoRA debug step {step}: changed A {changed_A}/{total_A}, changed B {changed_B}/{total_B}, lora_B_zero_now={zero_B}.") + except Exception as e: + logger.warning(f"LoRA debug (on_step_end) failed: {e}") + + class VibeVoiceTrainer(Trainer): + def compute_loss(self, model, inputs: Dict[str, Any], return_outputs=False, num_items_in_batch: Optional[int] = None): + # باز کردن DDP Wrapper برای دسترسی به متغیرهای داخلی مدل (جلوگیری از خطای DDP) + actual_model = model.module if hasattr(model, "module") else model + + labels = inputs.get("input_ids") + attention_mask = inputs.get("attention_mask") + acoustic_input_mask = inputs.get("acoustic_input_mask") + + # Ensure semantic tensors exist and have correct dtype/device + sem = inputs.get("speech_semantic_tensors", None) + try: + target_dtype = next(actual_model.model.semantic_connector.parameters()).dtype + except Exception: + target_dtype = actual_model.get_input_embeddings().weight.dtype + + if sem is None: + sm = inputs.get("speech_masks") + if sm is not None: + zeros = torch.zeros( + sm.size(0), sm.size(1), + getattr(actual_model.config, "semantic_vae_dim", 128), + dtype=target_dtype, + device=sm.device, + ) + inputs["speech_semantic_tensors"] = zeros + else: + if isinstance(sem, torch.Tensor): + inputs["speech_semantic_tensors"] = sem.to(dtype=target_dtype) + + outputs = model( + input_ids=inputs.get("input_ids"), + attention_mask=attention_mask, + speech_tensors=inputs.get("speech_tensors"), + speech_masks=inputs.get("speech_masks"), + speech_semantic_tensors=inputs.get("speech_semantic_tensors"), + acoustic_input_mask=acoustic_input_mask, + acoustic_loss_mask=inputs.get("acoustic_loss_mask"), + speeches_loss_input=inputs.get("speeches_loss_input"), + ddpm_batch_mul=training_args.ddpm_batch_mul, + ) + + # Invariants: token/latent selection equality across views (warn, don't assert) + try: + al_mask = inputs.get("acoustic_loss_mask") + sp_masks = inputs.get("speech_masks") + sp_loss_sel = inputs.get("speeches_loss_input") + num_tok_total = int(acoustic_input_mask.sum().item()) if acoustic_input_mask is not None else 0 + num_tok_loss = int(al_mask.sum().item()) if al_mask is not None else 0 + num_lat_total = int(sp_masks.sum().item()) if sp_masks is not None else 0 + num_lat_loss = int(((sp_loss_sel & sp_masks).sum().item())) if (sp_loss_sel is not None and sp_masks is not None) else 0 + self.log({ + "debug/num_tok_total": float(num_tok_total), + "debug/num_tok_loss": float(num_tok_loss), + "debug/num_lat_total": float(num_lat_total), + "debug/num_lat_loss": float(num_lat_loss), + }) + if sp_loss_sel is not None and sp_masks is not None and al_mask is not None: + if num_tok_loss != num_lat_loss: + logger.warning(f"Loss selection mismatch: acoustic_loss_mask={num_tok_loss} vs speeches_loss_input={num_lat_loss}") + except Exception: + pass + + # CE Loss + logits = outputs.logits + ce_labels = mask_for_ce(labels, attention_mask, acoustic_input_mask, pad_id=-100) + shift_logits = logits[:, :-1, :].contiguous() + loss_fct = nn.CrossEntropyLoss(ignore_index=-100) + ce_loss = loss_fct(shift_logits.view(-1, shift_logits.size(-1)), ce_labels.view(-1)) + + # Optional CE diagnostics + try: + self._debug_ce(shift_logits, ce_labels, attention_mask, acoustic_input_mask) + except Exception as e: + logger.warning(f"Failed invoking CE debug: {e}") + + # Diffusion loss + diffusion_loss = outputs.diffusion_loss if outputs.diffusion_loss is not None else torch.tensor(0.0, device=ce_loss.device) + total = training_args.ce_loss_weight * ce_loss + training_args.diffusion_loss_weight * diffusion_loss + + # Logs + try: + prefix = "train" if model.training else "eval" + self.log({ + f"{prefix}/ce_loss": ce_loss.detach().item(), + f"{prefix}/diffusion_loss": diffusion_loss.detach().item() if isinstance(diffusion_loss, torch.Tensor) else float(diffusion_loss), + }) + if hasattr(self, "optimizer") and self.optimizer is not None and len(self.optimizer.param_groups) > 0: + lr_val = self.optimizer.param_groups[0].get("lr", None) + if lr_val is not None: + self.log({"train/learning_rate_real": float(lr_val)}) + except Exception: + pass + + return (total, outputs) if return_outputs else total + + def _debug_ce(self, shift_logits: torch.Tensor, ce_labels: torch.Tensor, attention_mask: Optional[torch.Tensor], acoustic_input_mask: Optional[torch.Tensor]): + try: + if not getattr(training_args, "debug_ce_details", False): + return + step = int(getattr(self.state, "global_step", 0) or 0) + every_n = max(1, int(getattr(training_args, "debug_ce_every_n_steps", 200) or 200)) + if not (step <= 1 or (step % every_n == 0)): + return + + with torch.no_grad(): + vocab = shift_logits.size(-1) + per_token_loss = F.cross_entropy( + shift_logits.view(-1, vocab), + ce_labels.view(-1), + reduction="none", + ignore_index=-100, + ).view_as(ce_labels) + + valid_mask = ce_labels.ne(-100) + num_valid = int(valid_mask.sum().item()) + avg_loss = float((per_token_loss[valid_mask].mean().item())) if num_valid > 0 else float("nan") + + per_ex_avgs = [] + max_examples = max(1, int(getattr(training_args, "debug_ce_max_examples", 1) or 1)) + B = ce_labels.size(0) + for b in range(min(B, max_examples)): + vb = valid_mask[b] + if int(vb.sum().item()) > 0: + per_ex_avgs.append(float(per_token_loss[b][vb].mean().item())) + else: + per_ex_avgs.append(float("nan")) + logger.info(f"CE debug: tokens_in_loss={num_valid}, avg_loss={avg_loss:.4f}, per_example_avgs={[round(x,4) if x==x else None for x in per_ex_avgs]}") + except Exception as e: + logger.warning(f"CE detailed debug failed: {e}") + + # --------- CRITICAL SAVE OVERRIDES: also dump FULL head/connectors for inference --------- + + def _save(self, output_dir: Optional[str] = None, state_dict=None) -> None: + # فقط در پراسس اصلی فایل‌ها ذخیره شوند تا از تداخل و خرابی فایل در DDP جلوگیری شود + if not self.is_world_process_zero(): + return + + try: + actual_model = self.model.module if hasattr(self.model, "module") else self.model + target_dir = output_dir or self.args.output_dir + lora_out = os.path.join(target_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # --- LLM PEFT adapters (if LoRA-wrapped) --- + language_model = getattr(actual_model.model, "language_model", None) + if hasattr(language_model, "save_pretrained"): + language_model.save_pretrained(lora_out) + + # --- Diffusion head PEFT adapters (if LoRA-wrapped) --- + pred_head = getattr(actual_model.model, "prediction_head", None) + if hasattr(pred_head, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + pred_head.save_pretrained(ph_dir) + + # --- ALWAYS save FULL diffusion head state_dict for fallback --- + if pred_head is not None and hasattr(pred_head, "state_dict"): + sd = pred_head.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + + # --- Connectors (plain state_dicts) --- + ac = getattr(actual_model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + + se = getattr(actual_model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + + except Exception as e: + logger.warning(f"Failed to save LoRA assets: {e}") + + + # ------------- Build the Trainer ------------- + + # Resolve which adapters to apply in samples + # توجه: دستگاه به صورت خودکار در Callback مدیریت می‌شود + ema_cb = EmaCallback(attr_path="model.prediction_head", decay=0.999) + + # --- CRITICAL FIX: CAST TRAINABLE PARAMS TO FP32 --- + # This prevents 'ValueError: Attempting to unscale FP16 gradients' + if getattr(training_args, 'fp16', False) or getattr(training_args, 'bf16', False): + if training_args.local_rank in [-1, 0]: + print('>>> INFO: Enforcing float32 for trainable parameters (LoRA/Head) to fix GradScaler.') + # در حالت DDP ممکن است مدل رپ شده باشد، پس بهتر است actual_model را چک کنیم + actual_model = model.module if hasattr(model, "module") else model + for name, param in actual_model.named_parameters(): + if param.requires_grad: + param.data = param.data.to(torch.float32) + # --------------------------------------------------- + + trainer = VibeVoiceTrainer( + model=model, + args=training_args, + train_dataset=train_dataset, + eval_dataset=eval_dataset, + data_collator=data_collator, + callbacks=[ema_cb, LoRADebugCallback(log_every_n_steps=(int(getattr(training_args, "logging_steps", 50) or 50)))], + ) + + # Optional debug pre-training save + if getattr(training_args, "debug_save", False): + if trainer.is_world_process_zero(): + try: + actual_model = model.module if hasattr(model, "module") else model + debug_dir = os.path.join(training_args.output_dir, "debug_initial") + lora_out = os.path.join(debug_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + logger.info(f"[debug_save] Saving initial (pre-training) model components to: {debug_dir}") + # language model adapters / base + try: + if hasattr(actual_model.model.language_model, "save_pretrained"): + actual_model.model.language_model.save_pretrained(lora_out) + except Exception as e_lm: + logger.warning(f"[debug_save] Failed to save language_model: {e_lm}") + # diffusion head + try: + if hasattr(actual_model.model, "prediction_head") and hasattr(actual_model.model.prediction_head, "save_pretrained"): + actual_model.model.prediction_head.save_pretrained(os.path.join(lora_out, "diffusion_head")) + except Exception as e_head: + logger.warning(f"[debug_save] Failed to save prediction_head: {e_head}") + # NEW: full diffusion head state_dict as fallback + try: + ph = getattr(actual_model.model, "prediction_head", None) + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + os.makedirs(os.path.join(lora_out, "diffusion_head"), exist_ok=True) + torch.save(sd, os.path.join(lora_out, "diffusion_head", "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"[debug_save] Failed to save FULL diffusion head: {e}") + # connectors + try: + ac_conn = getattr(actual_model.model, "acoustic_connector", None) + if ac_conn is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac_conn.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e_ac: + logger.warning(f"[debug_save] Failed to save acoustic_connector: {e_ac}") + try: + se_conn = getattr(actual_model.model, "semantic_connector", None) + if se_conn is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se_conn.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e_se: + logger.warning(f"[debug_save] Failed to save semantic_connector: {e_se}") + except Exception as e: + logger.warning(f"[debug_save] Unexpected failure saving initial components: {e}") + + if getattr(training_args, "gradient_checkpointing", False): + try: + model.gradient_checkpointing_enable() + except Exception: + logger.warning("Failed to enable gradient checkpointing on the model.") + + if training_args.do_train: + trainer.train(resume_from_checkpoint=training_args.resume_from_checkpoint) + + if trainer.is_world_process_zero(): + actual_model = model.module if hasattr(model, "module") else model + lora_out = os.path.join(training_args.output_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # LLM PEFT (if any) + lm = getattr(actual_model.model, "language_model", None) + if hasattr(lm, "save_pretrained"): + lm.save_pretrained(lora_out) + + # Diffusion head PEFT (if any) + ph = getattr(actual_model.model, "prediction_head", None) + if hasattr(ph, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + ph.save_pretrained(ph_dir) + + # ALWAYS: full diffusion head state_dict fallback + try: + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"Failed to save FULL diffusion head at end: {e}") + + # Connectors (if trained) + try: + ac = getattr(actual_model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save acoustic_connector: {e}") + + try: + se = getattr(actual_model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save semantic_connector: {e}") + + if training_args.do_eval and eval_dataset is not None: + trainer.evaluate() + + +if __name__ == "__main__": + main() \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora10.py b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora10.py new file mode 100644 index 0000000000000000000000000000000000000000..d8a60f14cb178872b15c605db3b669bb3715b746 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora10.py @@ -0,0 +1,1044 @@ +# train_vibevoice_lora.py +import os +os.environ["CUDA_VISIBLE_DEVICES"] = "0" +os.environ["TOKENIZERS_PARALLELISM"] = "false" + +import logging +import os +from dataclasses import dataclass, field +from typing import Any, Dict, List, Optional, Tuple + +import torch +import torch.nn as nn +import torch.nn.functional as F +from datasets import load_dataset, DatasetDict, VerificationMode + +from transformers import ( + HfArgumentParser, + Trainer, + set_seed, + TrainerCallback, +) +from transformers import TrainingArguments as HfTrainingArguments + +from peft import LoraConfig, get_peft_model, TaskType + +from vibevoice.modular.modeling_vibevoice import VibeVoiceForConditionalGeneration +from vibevoice.modular.configuration_vibevoice import VibeVoiceConfig +from vibevoice.processor.vibevoice_processor import VibeVoiceProcessor + +from data_vibevoice import VibeVoiceDataset, VibeVoiceCollator + +logger = logging.getLogger(__name__) + +# ================== SAMPLE CALLBACK UTILS ================== + +import copy +import torch +from transformers import TrainerCallback + +class EmaCallback(TrainerCallback): + def __init__(self, attr_path="model.prediction_head", decay=0.999, device="cuda"): + """ + attr_path: where the head lives under self.model (Trainer wraps your VibeVoiceForConditionalGeneration) + decay: EMA decay (0.999 ~ stable, 0.9999 ~ very smooth, slower to adapt) + """ + self.attr_path = attr_path + self.decay = float(decay) + self.device = torch.device(device) + self.shadow = None + self._orig = None # store non-EMA weights when we swap + + def _get_module(self, model): + # Resolve dotted path like "model.prediction_head" + mod = model + for name in self.attr_path.split('.'): + mod = getattr(mod, name) + return mod + + def on_train_begin(self, args, state, control, model=None, **kwargs): + head = self._get_module(model) + self.shadow = {k: p.detach().to(self.device).clone() + for k, p in head.state_dict().items()} + + def on_step_end(self, args, state, control, model=None, **kwargs): + if self.shadow is None: return + head = self._get_module(model) + with torch.no_grad(): + for k, v in head.state_dict().items(): + self.shadow[k].mul_(self.decay).add_(v.detach().to(self.device), alpha=(1.0 - self.decay)) + + # ---- Swap helpers ---- + def _swap_in_ema(self, model): + head = self._get_module(model) + self._orig = copy.deepcopy(head.state_dict()) + head.load_state_dict(self.shadow, strict=False) + + def _swap_back(self, model): + if self._orig is None: return + head = self._get_module(model) + head.load_state_dict(self._orig, strict=False) + self._orig = None + + def on_evaluate(self, args, state, control, model=None, **kwargs): + # use EMA during eval + self._swap_in_ema(model) + + def on_evaluate_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_save(self, args, state, control, model=None, **kwargs): + # temporarily swap to EMA, let Trainer save, then swap back + self._swap_in_ema(model) + + def on_save_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_train_end(self, args, state, control, model=None, **kwargs): + # final checkpoint: persist EMA + self._swap_in_ema(model) + + +@dataclass +class ModelArguments: + model_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to VibeVoice base model with config.json"} + ) + processor_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to processor dir (preprocessor_config.json). Defaults to model path."} + ) + cache_dir: Optional[str] = field(default=None) + freeze_acoustic_tokenizer: bool = field(default=True) + freeze_semantic_tokenizer: bool = field(default=True) + lora_r: int = field(default=8) + lora_alpha: int = field(default=32) + lora_dropout: float = field(default=0.05) + lora_target_modules: str = field( + default="q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj", + metadata={"help": "Comma-separated list of target module names in the LLM blocks"}, + ) + lora_wrap_diffusion_head: bool = field(default=False, metadata={"help": "Wrap diffusion head with PEFT LoRA"}) + train_diffusion_head: bool = field(default=False, metadata={"help": "Train diffusion prediction head (full fine-tune)"}) + train_connectors: bool = field(default=False, metadata={"help": "Train acoustic/semantic connectors (full fine-tune)"}) + layers_to_freeze: Optional[str] = field( + default=None, + metadata={"help": "Comma-separated indices of diffusion head layers to freeze (e.g., '0,1,5,7,8')."} + ) + +@dataclass +class DataArguments: + dataset_name: Optional[str] = field(default=None, metadata={"help": "HF dataset name or 'json' with --train_jsonl for local files"}) + dataset_config_name: Optional[str] = field(default=None) + train_split_name: str = field(default="train") + eval_split_name: Optional[str] = field(default="validation") + text_column_name: str = field(default="text") + audio_column_name: str = field(default="audio") + voice_prompts_column_name: Optional[str] = field(default="voice_prompts") + eval_split_size: float = field(default=0.0) + ignore_verifications: bool = field(default=False) + max_length: Optional[int] = field(default=None) + train_jsonl: Optional[str] = field(default=None, metadata={"help": "Path to local train JSONL with {text, audio, [voice_prompts]}"}) + validation_jsonl: Optional[str] = field(default=None, metadata={"help": "Optional path to local validation JSONL"}) + voice_prompt_drop_rate: float = field( + default=0.0, + metadata={"help": "Probability to drop conditioning voice prompt during training (0.0 keep always, 1.0 drop always)."}, + ) + +@dataclass +class CustomTrainingArguments(HfTrainingArguments): + ddpm_batch_mul: int = field(default=1) + ce_loss_weight: float = field(default=1.0) + diffusion_loss_weight: float = field(default=1.0) + debug_ce_details: bool = field(default=False) + debug_ce_topk: int = field(default=5) + debug_ce_max_examples: int = field(default=1) + debug_ce_every_n_steps: int = field(default=200) + gradient_clipping: bool = field( + default=False, + metadata={"help": "Enable gradient clipping using max_grad_norm (set via --max_grad_norm, default 1.0). When False, disables clipping by forcing max_grad_norm=0.0."}, + ) + debug_save: bool = field( + default=False, + metadata={"help": "If set, saves model components BEFORE training starts, into output_dir/debug_initial."}, + ) + +def build_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = [s.strip() for s in args.lora_target_modules.split(",") if s.strip()] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.CAUSAL_LM, + target_modules=target_modules, + ) + +def build_head_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = ["noisy_images_proj","cond_proj","gate_proj","up_proj","down_proj","linear"] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.FEATURE_EXTRACTION, + target_modules=target_modules, + ) + +def mask_for_ce(labels: torch.Tensor, attention_mask: torch.Tensor, acoustic_input_mask: torch.Tensor, pad_id: int = -100) -> torch.Tensor: + shifted = labels[:, 1:].contiguous() + base_mask = attention_mask[:, 1:].contiguous().eq(1) if (attention_mask is not None and attention_mask.numel() > 0) else torch.ones_like(shifted, dtype=torch.bool) + label_is_acoustic = acoustic_input_mask[:, 1:].contiguous() + final_mask = base_mask & (~label_is_acoustic) + out = shifted.clone() + out[~final_mask] = pad_id + return out + +def _patch_acoustic_encode_for_legacy_indexing(model_obj, logger_): + try: + acoustic = getattr(getattr(model_obj, "model", model_obj), "acoustic_tokenizer", None) + if acoustic is None or not hasattr(acoustic, "encode"): + logger_.warning("No acoustic_tokenizer.encode() found to patch.") + return + base_encode = acoustic.encode + def encode_wrapped(*args, **kwargs): + out = base_encode(*args, **kwargs) + try: + _ = out[0][0] + return out + except Exception: + pass + if isinstance(out, dict): + for k in ("frames", "codes", "tokens", "latents", "hidden_states"): + if k in out: + return [[out[k]]] + if len(out) > 0: + return [[next(iter(out.values()))]] + for attr in ("frames", "codes", "tokens", "latents", "hidden_states"): + if hasattr(out, attr): + return [[getattr(out, attr)]] + try: + if isinstance(out, torch.Tensor): + return [[out]] + except Exception: + pass + return [[out]] + acoustic.encode = encode_wrapped + logger_.info("Patched acoustic_tokenizer.encode() to return [[...]] for legacy indexing.") + except Exception as e: + logger_.warning(f"Failed to patch acoustic_tokenizer.encode(): {e}") + +def main() -> None: + parser = HfArgumentParser((ModelArguments, DataArguments, CustomTrainingArguments)) + model_args, data_args, training_args = parser.parse_args_into_dataclasses() + + logging.basicConfig( + format="%(asctime)s - %(levelname)s - %(name)s - %(message)s", + datefmt="%m/%d/%Y %H:%M:%S", + level=logging.INFO if training_args.local_rank in [-1, 0] else logging.WARN, + ) + logger.info("Training/evaluation parameters %s", training_args) + set_seed(training_args.seed) + + # Configure gradient clipping + if not getattr(training_args, "gradient_clipping", False): + if hasattr(training_args, "max_grad_norm"): + training_args.max_grad_norm = 0.0 + logger.info("Gradient clipping disabled (set max_grad_norm=0.0). Use --gradient_clipping to enable.") + else: + if (not hasattr(training_args, "max_grad_norm")) or training_args.max_grad_norm is None or training_args.max_grad_norm <= 0: + training_args.max_grad_norm = 1.0 + logger.info(f"Gradient clipping enabled: max_grad_norm={training_args.max_grad_norm}") + + # Load processor + processor_path = model_args.processor_name_or_path or model_args.model_name_or_path + if processor_path is None: + raise ValueError("--model_name_or_path (or --processor_name_or_path) must be provided") + processor: VibeVoiceProcessor = VibeVoiceProcessor.from_pretrained(processor_path) + + # Required special tokens + tok = processor.tokenizer + for required in ["speech_start_id", "speech_diffusion_id", "speech_end_id"]: + if not hasattr(tok, required) or getattr(tok, required) is None: + raise RuntimeError(f"Tokenizer missing required special id: {required}") + + # Load model + if model_args.model_name_or_path is None: + raise ValueError("--model_name_or_path is required to load VibeVoice base model") + dtype = torch.float32 + if training_args.bf16: + dtype = torch.bfloat16 + elif getattr(training_args, "fp16", False): + dtype = torch.float16 + model = VibeVoiceForConditionalGeneration.from_pretrained( + model_args.model_name_or_path, + torch_dtype=dtype, device_map={"": 0}, + ) + _patch_acoustic_encode_for_legacy_indexing(model, logger) + processor.semantic_tokenizer = getattr(model.model, "semantic_tokenizer", None) + + # Diagnostics: LM head tie + try: + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + shared_ptr = bool(in_w is not None and out_w is not None and in_w.data_ptr() == out_w.data_ptr()) + values_equal = False + if in_w is not None and out_w is not None and in_w.shape == out_w.shape: + try: + values_equal = bool(torch.allclose(in_w, out_w)) + except Exception: + values_equal = False + try: + tie_cfg = getattr(getattr(model.config, "decoder_config", model.config), "tie_word_embeddings", None) + except Exception: + tie_cfg = getattr(model.config, "tie_word_embeddings", None) + logger.info(f"LM head diagnostics -> shared_params={shared_ptr}, values_equal={values_equal}, tie_word_embeddings={tie_cfg}") + if out_w is not None: + logger.info(f"LM head requires_grad before freeze: {bool(out_w.requires_grad)}") + except Exception as e: + logger.warning(f"LM head tie diagnostics failed: {e}") + + # Hard-tie LM head + try: + emb_module = model.get_input_embeddings() + head_module = model.get_output_embeddings() + if hasattr(emb_module, "weight") and hasattr(head_module, "weight"): + if emb_module.weight.shape == head_module.weight.shape and emb_module.weight.data_ptr() != head_module.weight.data_ptr(): + with torch.no_grad(): + head_module.weight = emb_module.weight + logger.info("Force-tied LM head weight to input embeddings (pointer share).") + except Exception as e: + logger.warning(f"Force-tie of LM head failed: {e}") + + # Validate special IDs (info logs only) + try: + special_names = ["speech_start_id", "speech_diffusion_id", "speech_end_id"] + try: + vocab_size = int(getattr(model.config.decoder_config, "vocab_size", 0)) + except Exception: + vocab_size = 0 + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + for name in special_names: + val = getattr(tok, name, None) + exists = (val is not None) + in_range = (exists and isinstance(val, int) and 0 <= val < vocab_size) + equal_row = None + if in_range and in_w is not None and out_w is not None and in_w.shape == out_w.shape and in_w.size(0) > val: + try: + equal_row = bool(torch.allclose(in_w[val], out_w[val])) + except Exception: + equal_row = False + decoded_str = None + if exists and isinstance(val, int): + try: + decoded_str = tok.decode([val]) + except Exception: + try: + decoded_str = tok.convert_ids_to_tokens(val) + except Exception: + decoded_str = "" + logger.info(f"Special token check -> {name}={val}, decoded='{decoded_str}', exists={exists}, in_vocab_range={in_range}, emb_vs_head_row_equal={equal_row}") + except Exception as e: + logger.warning(f"Special token ID/row validation failed: {e}") + + # Quick tokenizer diagnostics (optional) + try: + logger.info("=== TOKENIZER DIAGNOSTICS ===") + logger.info(f"Tokenizer class: {type(tok).__name__}") + logger.info(f"Tokenizer vocab_size: {tok.vocab_size}") + # tiny CE smoke test + with torch.no_grad(): + simple_text = "The cat sat on the mat." + simple_ids = torch.tensor([tok.encode(simple_text, add_special_tokens=True)], device=model.device) + simple_mask = torch.ones_like(simple_ids) + x = model.get_input_embeddings()(simple_ids) + outputs = model.model(inputs_embeds=x, attention_mask=simple_mask, return_dict=True) + logits = model.lm_head(outputs.last_hidden_state) + shift_logits = logits[:, :-1, :].contiguous() + shift_labels = simple_ids[:, 1:].contiguous() + ce_loss = F.cross_entropy(shift_logits.view(-1, shift_logits.size(-1)), shift_labels.view(-1), reduction='mean') + logger.info(f"Simple text CE loss: {ce_loss.item():.4f}") + except Exception as e: + logger.warning(f"Tokenizer diagnostics failed: {e}") + + # Disable cache during training + if hasattr(model.config, "use_cache") and training_args.do_train: + model.config.use_cache = False + + # Freeze tokenizers + if model_args.freeze_acoustic_tokenizer and hasattr(model.model, "acoustic_tokenizer"): + for p in model.model.acoustic_tokenizer.parameters(): + p.requires_grad = False + if model_args.freeze_semantic_tokenizer and hasattr(model.model, "semantic_tokenizer"): + for p in model.model.semantic_tokenizer.parameters(): + p.requires_grad = False + + # LoRA wrap LLM (optional) + lora_cfg = build_lora_config(model_args) + tm_lower = [s.strip().lower() for s in model_args.lora_target_modules.split(",") if s.strip()] + skip_lm_lora = (len(tm_lower) == 0) or all(t in ("none", "off", "disable", "disabled") for t in tm_lower) + if not skip_lm_lora: + model.model.language_model = get_peft_model(model.model.language_model, lora_cfg) + else: + logger.info("Skipping LLM LoRA wrapping (lora_target_modules indicates none).") + + try: + model.tie_weights() + except Exception: + pass + + # Freeze all then enable trainable subsets + for _, p in model.named_parameters(): + p.requires_grad = False + + try: + for n, p in model.model.language_model.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception: + logger.warning("Could not re-enable LoRA params on language_model.") + + # Diffusion head LoRA wrapping (optional) + if getattr(model_args, "lora_wrap_diffusion_head", False) and hasattr(model.model, "prediction_head"): + class _HeadForwardShim(nn.Module): + def __init__(self, base: nn.Module): super().__init__(); self.base = base + def forward(self, *args, **kwargs): + if len(args) >= 3: + noisy_images, timesteps, condition = args[:3] + else: + noisy_images = kwargs.get("noisy_images") + timesteps = kwargs.get("timesteps") + condition = kwargs.get("condition") + return self.base(noisy_images, timesteps, condition) + try: + shim = _HeadForwardShim(model.model.prediction_head) + model.model.prediction_head = get_peft_model(shim, build_head_lora_config(model_args)) + for n, p in model.model.prediction_head.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception as e: + logger.warning(f"Could not LoRA-wrap diffusion head: {e}") + + # Train full diffusion head (optional) + if getattr(model_args, "train_diffusion_head", False) and hasattr(model.model, "prediction_head"): + for p in model.model.prediction_head.parameters(): + p.requires_grad = True + + # Freeze diffusion head layers (optional) + if model_args.layers_to_freeze is not None and hasattr(model.model, "prediction_head"): + head_params = list(model.model.prediction_head.named_parameters()) + try: + indices_to_freeze = {int(x.strip()) for x in model_args.layers_to_freeze.split(',') if x.strip()} + frozen_count = 0 + for i, (name, param) in enumerate(head_params): + if i in indices_to_freeze: + param.requires_grad = False + frozen_count += 1 + logger.info(f"Froze layer [{i}]: {name}") + logger.info(f"Successfully froze {frozen_count} parameter groups in the diffusion head.") + except Exception as e: + logger.error(f"Could not parse --layers_to_freeze: {e}") + raise + + # Connectors + if getattr(model_args, "train_connectors", False): + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = True + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = True + else: + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = False + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = False + + # Freeze embedding + head + try: + emb = model.get_input_embeddings() + if hasattr(emb, "weight"): + emb.weight.requires_grad_(False) + head = model.get_output_embeddings() + if head is not None and hasattr(head, "weight"): + head.weight.requires_grad_(False) + except Exception: + pass + + # Diagnostics + def _sum_params(named_iter): + return sum(p.numel() for _, p in named_iter if p.requires_grad) + try: + lm_lora = _sum_params(model.model.language_model.named_parameters()) if hasattr(model.model, "language_model") else 0 + pred_head_train = _sum_params(model.model.prediction_head.named_parameters()) if hasattr(model.model, "prediction_head") else 0 + ac_conn_train = _sum_params(model.model.acoustic_connector.named_parameters()) if hasattr(model.model, "acoustic_connector") else 0 + se_conn_train = _sum_params(model.model.semantic_connector.named_parameters()) if hasattr(model.model, "semantic_connector") else 0 + total_trainable = sum(p.numel() for p in model.parameters() if p.requires_grad) + logger.info(f"Trainable by block -> LLM-LoRA: {lm_lora:,} | diff_head: {pred_head_train:,} | ac_conn: {ac_conn_train:,} | se_conn: {se_conn_train:,}") + logger.info("TOTAL trainable: %s", f"{total_trainable:,}") + except Exception: + pass + + # Preprocessed data classes + class PreprocessedBatchDataset: + def __init__(self, preprocessed_file: str): + self.data = torch.load(preprocessed_file, map_location='cpu') + logger.info(f"Loaded {len(self.data)} preprocessed batches from {preprocessed_file}") + + def __len__(self): + return len(self.data) + + def __getitem__(self, idx): + batch = self.data[idx] + result = {} + for k, v in batch.items(): + if isinstance(v, torch.Tensor): + result[k] = v + else: + result[k] = v + return result + + class PreprocessedBatchSubset: + def __init__(self, dataset: 'PreprocessedBatchDataset', indices: List[int]): + self.dataset = dataset + self.indices = indices + + def __len__(self): + return len(self.indices) + + def __getitem__(self, idx): + actual_idx = self.indices[idx] + return self.dataset[actual_idx] + + class PreprocessedBatchCollator: + def __call__(self, batch: List[Dict[str, torch.Tensor]]) -> Dict[str, torch.Tensor]: + if not batch: + return {} + result = {} + for key in batch[0].keys(): + tensors = [b[key] for b in batch if b[key] is not None] + if tensors and isinstance(tensors[0], torch.Tensor): + result[key] = torch.cat(tensors, dim=0) + else: + result[key] = tensors[0] if tensors else None + return result + + # Datasets + preprocessed_dir = os.path.join(training_args.output_dir, "preprocessed") + preprocessed_file = os.path.join(preprocessed_dir, "preprocessed_batches.pt") + + if os.path.exists(preprocessed_file): + logger.info(f"Loading preprocessed data from {preprocessed_file}") + preprocessed_data = PreprocessedBatchDataset(preprocessed_file) + + train_dataset = preprocessed_data + eval_dataset = None + + if training_args.do_eval and data_args.eval_split_size and data_args.eval_split_size > 0 and len(preprocessed_data) > 1: + num_eval = max(1, int(len(preprocessed_data) * data_args.eval_split_size)) + num_train = len(preprocessed_data) - num_eval + indices = list(range(len(preprocessed_data))) + import random + random.Random(training_args.seed).shuffle(indices) + train_indices = indices[:num_train] + eval_indices = indices[num_train:] + train_dataset = PreprocessedBatchSubset(preprocessed_data, train_indices) + eval_dataset = PreprocessedBatchSubset(preprocessed_data, eval_indices) + else: + logger.info(f"Preprocessed data not found at {preprocessed_file}, loading from raw JSONL/HF datasets") + verification_mode = VerificationMode.NO_CHECKS if data_args.ignore_verifications else VerificationMode.BASIC_CHECKS + if data_args.train_jsonl is not None: + data_files: Dict[str, str] = {"train": data_args.train_jsonl} + if data_args.validation_jsonl is not None: + data_files["validation"] = data_args.validation_jsonl + raw = load_dataset("json", data_files=data_files, verification_mode=verification_mode, cache_dir=model_args.cache_dir) + else: + if data_args.dataset_name is None: + raise ValueError("Provide --dataset_name (HF datasets) or use --train_jsonl/--validation_jsonl for local files.") + raw = load_dataset( + data_args.dataset_name, + data_args.dataset_config_name, + verification_mode=verification_mode, + cache_dir=model_args.cache_dir, + ) + train_ds = raw[data_args.train_split_name] + eval_ds = None + if training_args.do_eval: + if data_args.eval_split_name and data_args.eval_split_name in raw: + eval_ds = raw[data_args.eval_split_name] + elif data_args.eval_split_size and data_args.eval_split_size > 0 and len(train_ds) > 1: + split = train_ds.train_test_split(test_size=data_args.eval_split_size, seed=training_args.seed) + train_ds, eval_ds = split["train"], split["test"] + + train_dataset = VibeVoiceDataset( + train_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + eval_dataset = None + if eval_ds is not None: + eval_dataset = VibeVoiceDataset( + eval_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + + # Ratios/dims from processor+model + speech_compress_ratio = getattr(processor, "speech_tok_compress_ratio", 3200) + semantic_dim = getattr(model.config, "semantic_vae_dim", None) + if semantic_dim is None: + try: + semantic_dim = int(getattr(model.config.semantic_tokenizer_config, "vae_dim", 128)) + except Exception: + semantic_dim = 128 + + compute_semantics_flag = hasattr(processor, "semantic_tokenizer") and processor.semantic_tokenizer is not None + + if os.path.exists(preprocessed_file): + data_collator = PreprocessedBatchCollator() + else: + data_collator = VibeVoiceCollator( + processor=processor, + max_length=data_args.max_length, + speech_compress_ratio=speech_compress_ratio, + semantic_vae_dim=semantic_dim, + compute_semantics=compute_semantics_flag, + debug_checks=False, + voice_prompt_drop_rate=data_args.voice_prompt_drop_rate, + ) + + class LoRADebugCallback(TrainerCallback): + def __init__(self, log_every_n_steps: int = 50): + self.log_every_n_steps = max(1, int(log_every_n_steps)) + self.prev_param_norms: Dict[str, float] = {} + self.lora_param_names: List[str] = [] + + def on_train_begin(self, args, state, control, model=None, **kwargs): + try: + if model is None: + return + named: Dict[str, torch.nn.Parameter] = dict(model.named_parameters()) + self.lora_param_names = [n for n in named.keys() if ("lora_A" in n or "lora_B" in n)] + for n in self.lora_param_names: + p = named[n] + self.prev_param_norms[n] = float(p.data.norm().item()) + total = len(self.lora_param_names) + req_grad = sum(1 for n in self.lora_param_names if named[n].requires_grad) + num_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + num_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + zero_B = sum(1 for n in self.lora_param_names if ("lora_B" in n and float(named[n].data.norm().item()) == 0.0)) + logger.info(f"LoRA debug: found {total} LoRA params (A={num_A}, B={num_B}); trainable={req_grad}. Initial lora_B_zero={zero_B}.") + if total == 0: + logger.warning("LoRA debug: No LoRA parameters found. Check lora_target_modules.") + if req_grad != total: + logger.warning("LoRA debug: Some LoRA params are frozen. They should be trainable.") + except Exception as e: + logger.warning(f"LoRA debug (on_train_begin) failed: {e}") + + def on_step_end(self, args, state, control, model=None, **kwargs): + try: + if model is None or len(self.lora_param_names) == 0: + return + step = int(getattr(state, "global_step", 0) or 0) + if step % self.log_every_n_steps != 0 and step != 1: + return + named: Dict[str, torch.nn.Parameter] = dict(model.named_parameters()) + changed_A = 0 + changed_B = 0 + zero_B = 0 + eps = 1e-12 + for n in self.lora_param_names: + p = named.get(n, None) + if p is None: + continue + prev = self.prev_param_norms.get(n, 0.0) + curr = float(p.data.norm().item()) + if "lora_A" in n and abs(curr - prev) > eps: + changed_A += 1 + if "lora_B" in n: + if abs(curr - prev) > eps: + changed_B += 1 + if curr == 0.0: + zero_B += 1 + self.prev_param_norms[n] = curr + total_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + total_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + logger.info(f"LoRA debug step {step}: changed A {changed_A}/{total_A}, changed B {changed_B}/{total_B}, lora_B_zero_now={zero_B}.") + except Exception as e: + logger.warning(f"LoRA debug (on_step_end) failed: {e}") + + class VibeVoiceTrainer(Trainer): + def compute_loss(self, model: VibeVoiceForConditionalGeneration, inputs: Dict[str, Any], return_outputs=False, num_items_in_batch: Optional[int] = None): + labels = inputs.get("input_ids") + attention_mask = inputs.get("attention_mask") + acoustic_input_mask = inputs.get("acoustic_input_mask") + + # Ensure semantic tensors exist and have correct dtype/device + sem = inputs.get("speech_semantic_tensors", None) + try: + target_dtype = next(model.model.semantic_connector.parameters()).dtype + except Exception: + target_dtype = model.get_input_embeddings().weight.dtype + + if sem is None: + sm = inputs.get("speech_masks") + if sm is not None: + zeros = torch.zeros( + sm.size(0), sm.size(1), + getattr(model.config, "semantic_vae_dim", 128), + dtype=target_dtype, + device=sm.device, + ) + inputs["speech_semantic_tensors"] = zeros + else: + if isinstance(sem, torch.Tensor): + inputs["speech_semantic_tensors"] = sem.to(dtype=target_dtype) + + outputs = model( + input_ids=inputs.get("input_ids"), + attention_mask=attention_mask, + speech_tensors=inputs.get("speech_tensors"), + speech_masks=inputs.get("speech_masks"), + speech_semantic_tensors=inputs.get("speech_semantic_tensors"), + acoustic_input_mask=acoustic_input_mask, + acoustic_loss_mask=inputs.get("acoustic_loss_mask"), + speeches_loss_input=inputs.get("speeches_loss_input"), + ddpm_batch_mul=training_args.ddpm_batch_mul, + ) + + # Invariants: token/latent selection equality across views (warn, don't assert) + try: + al_mask = inputs.get("acoustic_loss_mask") + sp_masks = inputs.get("speech_masks") + sp_loss_sel = inputs.get("speeches_loss_input") + num_tok_total = int(acoustic_input_mask.sum().item()) if acoustic_input_mask is not None else 0 + num_tok_loss = int(al_mask.sum().item()) if al_mask is not None else 0 + num_lat_total = int(sp_masks.sum().item()) if sp_masks is not None else 0 + num_lat_loss = int(((sp_loss_sel & sp_masks).sum().item())) if (sp_loss_sel is not None and sp_masks is not None) else 0 + self.log({ + "debug/num_tok_total": float(num_tok_total), + "debug/num_tok_loss": float(num_tok_loss), + "debug/num_lat_total": float(num_lat_total), + "debug/num_lat_loss": float(num_lat_loss), + }) + if sp_loss_sel is not None and sp_masks is not None and al_mask is not None: + if num_tok_loss != num_lat_loss: + logger.warning(f"Loss selection mismatch: acoustic_loss_mask={num_tok_loss} vs speeches_loss_input={num_lat_loss}") + except Exception: + pass + + # CE Loss + logits = outputs.logits + ce_labels = mask_for_ce(labels, attention_mask, acoustic_input_mask, pad_id=-100) + shift_logits = logits[:, :-1, :].contiguous() + loss_fct = nn.CrossEntropyLoss(ignore_index=-100) + ce_loss = loss_fct(shift_logits.view(-1, shift_logits.size(-1)), ce_labels.view(-1)) + + # Optional CE diagnostics + try: + self._debug_ce(shift_logits, ce_labels, attention_mask, acoustic_input_mask) + except Exception as e: + logger.warning(f"Failed invoking CE debug: {e}") + + # Diffusion loss + diffusion_loss = outputs.diffusion_loss if outputs.diffusion_loss is not None else torch.tensor(0.0, device=ce_loss.device) + total = training_args.ce_loss_weight * ce_loss + training_args.diffusion_loss_weight * diffusion_loss + + # Logs + try: + prefix = "train" if model.training else "eval" + self.log({ + f"{prefix}/ce_loss": ce_loss.detach().item(), + f"{prefix}/diffusion_loss": diffusion_loss.detach().item() if isinstance(diffusion_loss, torch.Tensor) else float(diffusion_loss), + }) + if hasattr(self, "optimizer") and self.optimizer is not None and len(self.optimizer.param_groups) > 0: + lr_val = self.optimizer.param_groups[0].get("lr", None) + if lr_val is not None: + self.log({"train/learning_rate_real": float(lr_val)}) + except Exception: + pass + + return (total, outputs) if return_outputs else total + + def _debug_ce(self, shift_logits: torch.Tensor, ce_labels: torch.Tensor, attention_mask: Optional[torch.Tensor], acoustic_input_mask: Optional[torch.Tensor]): + try: + if not getattr(training_args, "debug_ce_details", False): + return + step = int(getattr(self.state, "global_step", 0) or 0) + every_n = max(1, int(getattr(training_args, "debug_ce_every_n_steps", 200) or 200)) + if not (step <= 1 or (step % every_n == 0)): + return + + with torch.no_grad(): + vocab = shift_logits.size(-1) + per_token_loss = F.cross_entropy( + shift_logits.view(-1, vocab), + ce_labels.view(-1), + reduction="none", + ignore_index=-100, + ).view_as(ce_labels) + + valid_mask = ce_labels.ne(-100) + num_valid = int(valid_mask.sum().item()) + avg_loss = float((per_token_loss[valid_mask].mean().item())) if num_valid > 0 else float("nan") + + per_ex_avgs = [] + max_examples = max(1, int(getattr(training_args, "debug_ce_max_examples", 1) or 1)) + B = ce_labels.size(0) + for b in range(min(B, max_examples)): + vb = valid_mask[b] + if int(vb.sum().item()) > 0: + per_ex_avgs.append(float(per_token_loss[b][vb].mean().item())) + else: + per_ex_avgs.append(float("nan")) + logger.info(f"CE debug: tokens_in_loss={num_valid}, avg_loss={avg_loss:.4f}, per_example_avgs={[round(x,4) if x==x else None for x in per_ex_avgs]}") + except Exception as e: + logger.warning(f"CE detailed debug failed: {e}") + + # --------- CRITICAL SAVE OVERRIDES: also dump FULL head/connectors for inference --------- + + + def _save(self, output_dir: Optional[str] = None, state_dict=None) -> None: + try: + target_dir = output_dir or self.args.output_dir + lora_out = os.path.join(target_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # --- LLM PEFT adapters (if LoRA-wrapped) --- + language_model = getattr(self.model.model, "language_model", None) + if hasattr(language_model, "save_pretrained"): + language_model.save_pretrained(lora_out) + + # --- Diffusion head PEFT adapters (if LoRA-wrapped) --- + pred_head = getattr(self.model.model, "prediction_head", None) + if hasattr(pred_head, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + pred_head.save_pretrained(ph_dir) + + # --- ALWAYS save FULL diffusion head state_dict for fallback --- + if pred_head is not None and hasattr(pred_head, "state_dict"): + sd = pred_head.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + + # --- Connectors (plain state_dicts) --- + ac = getattr(self.model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + + se = getattr(self.model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + + except Exception as e: + logger.warning(f"Failed to save LoRA assets: {e}") + + + # ------------- Build the Trainer ------------- + + # Resolve which adapters to apply in samples + + ema_cb = EmaCallback(attr_path="model.prediction_head", decay=0.999, device="cuda") + + # --- CRITICAL FIX: CAST TRAINABLE PARAMS TO FP32 --- + # This prevents 'ValueError: Attempting to unscale FP16 gradients' + if getattr(training_args, 'fp16', False) or getattr(training_args, 'bf16', False): + print('>>> INFO: Enforcing float32 for trainable parameters (LoRA/Head) to fix GradScaler.') + for name, param in model.named_parameters(): + if param.requires_grad: + param.data = param.data.to(torch.float32) + # --------------------------------------------------- + + trainer = VibeVoiceTrainer( + model=model, + args=training_args, + train_dataset=train_dataset, + eval_dataset=eval_dataset, + data_collator=data_collator, + callbacks=[ema_cb, LoRADebugCallback(log_every_n_steps=(int(getattr(training_args, "logging_steps", 50) or 50)))], + ) + + # Optional debug pre-training save + if getattr(training_args, "debug_save", False): + try: + debug_dir = os.path.join(training_args.output_dir, "debug_initial") + lora_out = os.path.join(debug_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + logger.info(f"[debug_save] Saving initial (pre-training) model components to: {debug_dir}") + # language model adapters / base + try: + if hasattr(model.model.language_model, "save_pretrained"): + model.model.language_model.save_pretrained(lora_out) + except Exception as e_lm: + logger.warning(f"[debug_save] Failed to save language_model: {e_lm}") + # diffusion head + try: + if hasattr(model.model, "prediction_head") and hasattr(model.model.prediction_head, "save_pretrained"): + model.model.prediction_head.save_pretrained(os.path.join(lora_out, "diffusion_head")) + except Exception as e_head: + logger.warning(f"[debug_save] Failed to save prediction_head: {e_head}") + # NEW: full diffusion head state_dict as fallback + try: + ph = getattr(model.model, "prediction_head", None) + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + os.makedirs(os.path.join(lora_out, "diffusion_head"), exist_ok=True) + torch.save(sd, os.path.join(lora_out, "diffusion_head", "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"[debug_save] Failed to save FULL diffusion head: {e}") + # connectors + try: + ac_conn = getattr(model.model, "acoustic_connector", None) + if ac_conn is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac_conn.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e_ac: + logger.warning(f"[debug_save] Failed to save acoustic_connector: {e_ac}") + try: + se_conn = getattr(model.model, "semantic_connector", None) + if se_conn is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se_conn.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e_se: + logger.warning(f"[debug_save] Failed to save semantic_connector: {e_se}") + except Exception as e: + logger.warning(f"[debug_save] Unexpected failure saving initial components: {e}") + + if getattr(training_args, "gradient_checkpointing", False): + try: + model.gradient_checkpointing_enable() + except Exception: + logger.warning("Failed to enable gradient checkpointing on the model.") + + # ========================================================================= + # Load Custom Weights from Checkpoint before resuming training + # ========================================================================= + if training_args.do_train and training_args.resume_from_checkpoint: + checkpoint_path = None + if isinstance(training_args.resume_from_checkpoint, bool) and training_args.resume_from_checkpoint: + from transformers.trainer_utils import get_last_checkpoint + checkpoint_path = get_last_checkpoint(training_args.output_dir) + else: + checkpoint_path = training_args.resume_from_checkpoint + + if checkpoint_path is not None and os.path.exists(checkpoint_path): + lora_dir = os.path.join(checkpoint_path, "lora") + if os.path.exists(lora_dir): + logger.info(f"*** Resuming custom weights (LoRA, Connectors, Head) from {lora_dir} ***") + + # 1. Load LLM LoRA + if hasattr(model.model, "language_model"): + try: + from peft import load_peft_weights, set_peft_model_state_dict + adapters_weights = load_peft_weights(lora_dir) + set_peft_model_state_dict(model.model.language_model, adapters_weights) + logger.info("Successfully loaded LLM LoRA weights.") + except Exception as e: + logger.warning(f"Could not load LLM LoRA weights: {e}") + + # 2. Load Diffusion Head + ph_full_path = os.path.join(lora_dir, "diffusion_head_full.bin") + if os.path.exists(ph_full_path) and hasattr(model.model, "prediction_head"): + try: + model.model.prediction_head.load_state_dict(torch.load(ph_full_path, map_location="cpu"), strict=False) + logger.info("Successfully loaded Diffusion Head weights.") + except Exception as e: + logger.warning(f"Failed to load Diffusion Head weights: {e}") + + # 3. Load Acoustic Connector + ac_path = os.path.join(lora_dir, "acoustic_connector", "pytorch_model.bin") + if os.path.exists(ac_path) and hasattr(model.model, "acoustic_connector"): + try: + model.model.acoustic_connector.load_state_dict(torch.load(ac_path, map_location="cpu")) + logger.info("Successfully loaded Acoustic Connector weights.") + except Exception as e: + logger.warning(f"Failed to load Acoustic Connector weights: {e}") + + # 4. Load Semantic Connector + se_path = os.path.join(lora_dir, "semantic_connector", "pytorch_model.bin") + if os.path.exists(se_path) and hasattr(model.model, "semantic_connector"): + try: + model.model.semantic_connector.load_state_dict(torch.load(se_path, map_location="cpu")) + logger.info("Successfully loaded Semantic Connector weights.") + except Exception as e: + logger.warning(f"Failed to load Semantic Connector weights: {e}") + else: + logger.warning(f"No custom 'lora' directory found inside checkpoint: {checkpoint_path}") + # ========================================================================= + + if training_args.do_train: + # ----- THE FIX: SET resume_from_checkpoint=False HERE ----- + # The weights are ALREADY loaded via the custom block above. + # Setting this to False forces Trainer to start counting steps/epochs from 0 + # for your new dataset, preventing it from immediately exiting. + trainer.train(resume_from_checkpoint=False) + + lora_out = os.path.join(training_args.output_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # LLM PEFT (if any) + lm = getattr(model.model, "language_model", None) + if hasattr(lm, "save_pretrained"): + lm.save_pretrained(lora_out) + + # Diffusion head PEFT (if any) + ph = getattr(model.model, "prediction_head", None) + if hasattr(ph, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + ph.save_pretrained(ph_dir) + + # ALWAYS: full diffusion head state_dict fallback + try: + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"Failed to save FULL diffusion head at end: {e}") + + # Connectors (if trained) + try: + ac = getattr(model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save acoustic_connector: {e}") + + try: + se = getattr(model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save semantic_connector: {e}") + + if training_args.do_eval and eval_dataset is not None: + trainer.evaluate() + + +if __name__ == "__main__": + main() \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora105.py b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora105.py new file mode 100644 index 0000000000000000000000000000000000000000..d8a60f14cb178872b15c605db3b669bb3715b746 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora105.py @@ -0,0 +1,1044 @@ +# train_vibevoice_lora.py +import os +os.environ["CUDA_VISIBLE_DEVICES"] = "0" +os.environ["TOKENIZERS_PARALLELISM"] = "false" + +import logging +import os +from dataclasses import dataclass, field +from typing import Any, Dict, List, Optional, Tuple + +import torch +import torch.nn as nn +import torch.nn.functional as F +from datasets import load_dataset, DatasetDict, VerificationMode + +from transformers import ( + HfArgumentParser, + Trainer, + set_seed, + TrainerCallback, +) +from transformers import TrainingArguments as HfTrainingArguments + +from peft import LoraConfig, get_peft_model, TaskType + +from vibevoice.modular.modeling_vibevoice import VibeVoiceForConditionalGeneration +from vibevoice.modular.configuration_vibevoice import VibeVoiceConfig +from vibevoice.processor.vibevoice_processor import VibeVoiceProcessor + +from data_vibevoice import VibeVoiceDataset, VibeVoiceCollator + +logger = logging.getLogger(__name__) + +# ================== SAMPLE CALLBACK UTILS ================== + +import copy +import torch +from transformers import TrainerCallback + +class EmaCallback(TrainerCallback): + def __init__(self, attr_path="model.prediction_head", decay=0.999, device="cuda"): + """ + attr_path: where the head lives under self.model (Trainer wraps your VibeVoiceForConditionalGeneration) + decay: EMA decay (0.999 ~ stable, 0.9999 ~ very smooth, slower to adapt) + """ + self.attr_path = attr_path + self.decay = float(decay) + self.device = torch.device(device) + self.shadow = None + self._orig = None # store non-EMA weights when we swap + + def _get_module(self, model): + # Resolve dotted path like "model.prediction_head" + mod = model + for name in self.attr_path.split('.'): + mod = getattr(mod, name) + return mod + + def on_train_begin(self, args, state, control, model=None, **kwargs): + head = self._get_module(model) + self.shadow = {k: p.detach().to(self.device).clone() + for k, p in head.state_dict().items()} + + def on_step_end(self, args, state, control, model=None, **kwargs): + if self.shadow is None: return + head = self._get_module(model) + with torch.no_grad(): + for k, v in head.state_dict().items(): + self.shadow[k].mul_(self.decay).add_(v.detach().to(self.device), alpha=(1.0 - self.decay)) + + # ---- Swap helpers ---- + def _swap_in_ema(self, model): + head = self._get_module(model) + self._orig = copy.deepcopy(head.state_dict()) + head.load_state_dict(self.shadow, strict=False) + + def _swap_back(self, model): + if self._orig is None: return + head = self._get_module(model) + head.load_state_dict(self._orig, strict=False) + self._orig = None + + def on_evaluate(self, args, state, control, model=None, **kwargs): + # use EMA during eval + self._swap_in_ema(model) + + def on_evaluate_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_save(self, args, state, control, model=None, **kwargs): + # temporarily swap to EMA, let Trainer save, then swap back + self._swap_in_ema(model) + + def on_save_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_train_end(self, args, state, control, model=None, **kwargs): + # final checkpoint: persist EMA + self._swap_in_ema(model) + + +@dataclass +class ModelArguments: + model_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to VibeVoice base model with config.json"} + ) + processor_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to processor dir (preprocessor_config.json). Defaults to model path."} + ) + cache_dir: Optional[str] = field(default=None) + freeze_acoustic_tokenizer: bool = field(default=True) + freeze_semantic_tokenizer: bool = field(default=True) + lora_r: int = field(default=8) + lora_alpha: int = field(default=32) + lora_dropout: float = field(default=0.05) + lora_target_modules: str = field( + default="q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj", + metadata={"help": "Comma-separated list of target module names in the LLM blocks"}, + ) + lora_wrap_diffusion_head: bool = field(default=False, metadata={"help": "Wrap diffusion head with PEFT LoRA"}) + train_diffusion_head: bool = field(default=False, metadata={"help": "Train diffusion prediction head (full fine-tune)"}) + train_connectors: bool = field(default=False, metadata={"help": "Train acoustic/semantic connectors (full fine-tune)"}) + layers_to_freeze: Optional[str] = field( + default=None, + metadata={"help": "Comma-separated indices of diffusion head layers to freeze (e.g., '0,1,5,7,8')."} + ) + +@dataclass +class DataArguments: + dataset_name: Optional[str] = field(default=None, metadata={"help": "HF dataset name or 'json' with --train_jsonl for local files"}) + dataset_config_name: Optional[str] = field(default=None) + train_split_name: str = field(default="train") + eval_split_name: Optional[str] = field(default="validation") + text_column_name: str = field(default="text") + audio_column_name: str = field(default="audio") + voice_prompts_column_name: Optional[str] = field(default="voice_prompts") + eval_split_size: float = field(default=0.0) + ignore_verifications: bool = field(default=False) + max_length: Optional[int] = field(default=None) + train_jsonl: Optional[str] = field(default=None, metadata={"help": "Path to local train JSONL with {text, audio, [voice_prompts]}"}) + validation_jsonl: Optional[str] = field(default=None, metadata={"help": "Optional path to local validation JSONL"}) + voice_prompt_drop_rate: float = field( + default=0.0, + metadata={"help": "Probability to drop conditioning voice prompt during training (0.0 keep always, 1.0 drop always)."}, + ) + +@dataclass +class CustomTrainingArguments(HfTrainingArguments): + ddpm_batch_mul: int = field(default=1) + ce_loss_weight: float = field(default=1.0) + diffusion_loss_weight: float = field(default=1.0) + debug_ce_details: bool = field(default=False) + debug_ce_topk: int = field(default=5) + debug_ce_max_examples: int = field(default=1) + debug_ce_every_n_steps: int = field(default=200) + gradient_clipping: bool = field( + default=False, + metadata={"help": "Enable gradient clipping using max_grad_norm (set via --max_grad_norm, default 1.0). When False, disables clipping by forcing max_grad_norm=0.0."}, + ) + debug_save: bool = field( + default=False, + metadata={"help": "If set, saves model components BEFORE training starts, into output_dir/debug_initial."}, + ) + +def build_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = [s.strip() for s in args.lora_target_modules.split(",") if s.strip()] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.CAUSAL_LM, + target_modules=target_modules, + ) + +def build_head_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = ["noisy_images_proj","cond_proj","gate_proj","up_proj","down_proj","linear"] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.FEATURE_EXTRACTION, + target_modules=target_modules, + ) + +def mask_for_ce(labels: torch.Tensor, attention_mask: torch.Tensor, acoustic_input_mask: torch.Tensor, pad_id: int = -100) -> torch.Tensor: + shifted = labels[:, 1:].contiguous() + base_mask = attention_mask[:, 1:].contiguous().eq(1) if (attention_mask is not None and attention_mask.numel() > 0) else torch.ones_like(shifted, dtype=torch.bool) + label_is_acoustic = acoustic_input_mask[:, 1:].contiguous() + final_mask = base_mask & (~label_is_acoustic) + out = shifted.clone() + out[~final_mask] = pad_id + return out + +def _patch_acoustic_encode_for_legacy_indexing(model_obj, logger_): + try: + acoustic = getattr(getattr(model_obj, "model", model_obj), "acoustic_tokenizer", None) + if acoustic is None or not hasattr(acoustic, "encode"): + logger_.warning("No acoustic_tokenizer.encode() found to patch.") + return + base_encode = acoustic.encode + def encode_wrapped(*args, **kwargs): + out = base_encode(*args, **kwargs) + try: + _ = out[0][0] + return out + except Exception: + pass + if isinstance(out, dict): + for k in ("frames", "codes", "tokens", "latents", "hidden_states"): + if k in out: + return [[out[k]]] + if len(out) > 0: + return [[next(iter(out.values()))]] + for attr in ("frames", "codes", "tokens", "latents", "hidden_states"): + if hasattr(out, attr): + return [[getattr(out, attr)]] + try: + if isinstance(out, torch.Tensor): + return [[out]] + except Exception: + pass + return [[out]] + acoustic.encode = encode_wrapped + logger_.info("Patched acoustic_tokenizer.encode() to return [[...]] for legacy indexing.") + except Exception as e: + logger_.warning(f"Failed to patch acoustic_tokenizer.encode(): {e}") + +def main() -> None: + parser = HfArgumentParser((ModelArguments, DataArguments, CustomTrainingArguments)) + model_args, data_args, training_args = parser.parse_args_into_dataclasses() + + logging.basicConfig( + format="%(asctime)s - %(levelname)s - %(name)s - %(message)s", + datefmt="%m/%d/%Y %H:%M:%S", + level=logging.INFO if training_args.local_rank in [-1, 0] else logging.WARN, + ) + logger.info("Training/evaluation parameters %s", training_args) + set_seed(training_args.seed) + + # Configure gradient clipping + if not getattr(training_args, "gradient_clipping", False): + if hasattr(training_args, "max_grad_norm"): + training_args.max_grad_norm = 0.0 + logger.info("Gradient clipping disabled (set max_grad_norm=0.0). Use --gradient_clipping to enable.") + else: + if (not hasattr(training_args, "max_grad_norm")) or training_args.max_grad_norm is None or training_args.max_grad_norm <= 0: + training_args.max_grad_norm = 1.0 + logger.info(f"Gradient clipping enabled: max_grad_norm={training_args.max_grad_norm}") + + # Load processor + processor_path = model_args.processor_name_or_path or model_args.model_name_or_path + if processor_path is None: + raise ValueError("--model_name_or_path (or --processor_name_or_path) must be provided") + processor: VibeVoiceProcessor = VibeVoiceProcessor.from_pretrained(processor_path) + + # Required special tokens + tok = processor.tokenizer + for required in ["speech_start_id", "speech_diffusion_id", "speech_end_id"]: + if not hasattr(tok, required) or getattr(tok, required) is None: + raise RuntimeError(f"Tokenizer missing required special id: {required}") + + # Load model + if model_args.model_name_or_path is None: + raise ValueError("--model_name_or_path is required to load VibeVoice base model") + dtype = torch.float32 + if training_args.bf16: + dtype = torch.bfloat16 + elif getattr(training_args, "fp16", False): + dtype = torch.float16 + model = VibeVoiceForConditionalGeneration.from_pretrained( + model_args.model_name_or_path, + torch_dtype=dtype, device_map={"": 0}, + ) + _patch_acoustic_encode_for_legacy_indexing(model, logger) + processor.semantic_tokenizer = getattr(model.model, "semantic_tokenizer", None) + + # Diagnostics: LM head tie + try: + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + shared_ptr = bool(in_w is not None and out_w is not None and in_w.data_ptr() == out_w.data_ptr()) + values_equal = False + if in_w is not None and out_w is not None and in_w.shape == out_w.shape: + try: + values_equal = bool(torch.allclose(in_w, out_w)) + except Exception: + values_equal = False + try: + tie_cfg = getattr(getattr(model.config, "decoder_config", model.config), "tie_word_embeddings", None) + except Exception: + tie_cfg = getattr(model.config, "tie_word_embeddings", None) + logger.info(f"LM head diagnostics -> shared_params={shared_ptr}, values_equal={values_equal}, tie_word_embeddings={tie_cfg}") + if out_w is not None: + logger.info(f"LM head requires_grad before freeze: {bool(out_w.requires_grad)}") + except Exception as e: + logger.warning(f"LM head tie diagnostics failed: {e}") + + # Hard-tie LM head + try: + emb_module = model.get_input_embeddings() + head_module = model.get_output_embeddings() + if hasattr(emb_module, "weight") and hasattr(head_module, "weight"): + if emb_module.weight.shape == head_module.weight.shape and emb_module.weight.data_ptr() != head_module.weight.data_ptr(): + with torch.no_grad(): + head_module.weight = emb_module.weight + logger.info("Force-tied LM head weight to input embeddings (pointer share).") + except Exception as e: + logger.warning(f"Force-tie of LM head failed: {e}") + + # Validate special IDs (info logs only) + try: + special_names = ["speech_start_id", "speech_diffusion_id", "speech_end_id"] + try: + vocab_size = int(getattr(model.config.decoder_config, "vocab_size", 0)) + except Exception: + vocab_size = 0 + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + for name in special_names: + val = getattr(tok, name, None) + exists = (val is not None) + in_range = (exists and isinstance(val, int) and 0 <= val < vocab_size) + equal_row = None + if in_range and in_w is not None and out_w is not None and in_w.shape == out_w.shape and in_w.size(0) > val: + try: + equal_row = bool(torch.allclose(in_w[val], out_w[val])) + except Exception: + equal_row = False + decoded_str = None + if exists and isinstance(val, int): + try: + decoded_str = tok.decode([val]) + except Exception: + try: + decoded_str = tok.convert_ids_to_tokens(val) + except Exception: + decoded_str = "" + logger.info(f"Special token check -> {name}={val}, decoded='{decoded_str}', exists={exists}, in_vocab_range={in_range}, emb_vs_head_row_equal={equal_row}") + except Exception as e: + logger.warning(f"Special token ID/row validation failed: {e}") + + # Quick tokenizer diagnostics (optional) + try: + logger.info("=== TOKENIZER DIAGNOSTICS ===") + logger.info(f"Tokenizer class: {type(tok).__name__}") + logger.info(f"Tokenizer vocab_size: {tok.vocab_size}") + # tiny CE smoke test + with torch.no_grad(): + simple_text = "The cat sat on the mat." + simple_ids = torch.tensor([tok.encode(simple_text, add_special_tokens=True)], device=model.device) + simple_mask = torch.ones_like(simple_ids) + x = model.get_input_embeddings()(simple_ids) + outputs = model.model(inputs_embeds=x, attention_mask=simple_mask, return_dict=True) + logits = model.lm_head(outputs.last_hidden_state) + shift_logits = logits[:, :-1, :].contiguous() + shift_labels = simple_ids[:, 1:].contiguous() + ce_loss = F.cross_entropy(shift_logits.view(-1, shift_logits.size(-1)), shift_labels.view(-1), reduction='mean') + logger.info(f"Simple text CE loss: {ce_loss.item():.4f}") + except Exception as e: + logger.warning(f"Tokenizer diagnostics failed: {e}") + + # Disable cache during training + if hasattr(model.config, "use_cache") and training_args.do_train: + model.config.use_cache = False + + # Freeze tokenizers + if model_args.freeze_acoustic_tokenizer and hasattr(model.model, "acoustic_tokenizer"): + for p in model.model.acoustic_tokenizer.parameters(): + p.requires_grad = False + if model_args.freeze_semantic_tokenizer and hasattr(model.model, "semantic_tokenizer"): + for p in model.model.semantic_tokenizer.parameters(): + p.requires_grad = False + + # LoRA wrap LLM (optional) + lora_cfg = build_lora_config(model_args) + tm_lower = [s.strip().lower() for s in model_args.lora_target_modules.split(",") if s.strip()] + skip_lm_lora = (len(tm_lower) == 0) or all(t in ("none", "off", "disable", "disabled") for t in tm_lower) + if not skip_lm_lora: + model.model.language_model = get_peft_model(model.model.language_model, lora_cfg) + else: + logger.info("Skipping LLM LoRA wrapping (lora_target_modules indicates none).") + + try: + model.tie_weights() + except Exception: + pass + + # Freeze all then enable trainable subsets + for _, p in model.named_parameters(): + p.requires_grad = False + + try: + for n, p in model.model.language_model.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception: + logger.warning("Could not re-enable LoRA params on language_model.") + + # Diffusion head LoRA wrapping (optional) + if getattr(model_args, "lora_wrap_diffusion_head", False) and hasattr(model.model, "prediction_head"): + class _HeadForwardShim(nn.Module): + def __init__(self, base: nn.Module): super().__init__(); self.base = base + def forward(self, *args, **kwargs): + if len(args) >= 3: + noisy_images, timesteps, condition = args[:3] + else: + noisy_images = kwargs.get("noisy_images") + timesteps = kwargs.get("timesteps") + condition = kwargs.get("condition") + return self.base(noisy_images, timesteps, condition) + try: + shim = _HeadForwardShim(model.model.prediction_head) + model.model.prediction_head = get_peft_model(shim, build_head_lora_config(model_args)) + for n, p in model.model.prediction_head.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception as e: + logger.warning(f"Could not LoRA-wrap diffusion head: {e}") + + # Train full diffusion head (optional) + if getattr(model_args, "train_diffusion_head", False) and hasattr(model.model, "prediction_head"): + for p in model.model.prediction_head.parameters(): + p.requires_grad = True + + # Freeze diffusion head layers (optional) + if model_args.layers_to_freeze is not None and hasattr(model.model, "prediction_head"): + head_params = list(model.model.prediction_head.named_parameters()) + try: + indices_to_freeze = {int(x.strip()) for x in model_args.layers_to_freeze.split(',') if x.strip()} + frozen_count = 0 + for i, (name, param) in enumerate(head_params): + if i in indices_to_freeze: + param.requires_grad = False + frozen_count += 1 + logger.info(f"Froze layer [{i}]: {name}") + logger.info(f"Successfully froze {frozen_count} parameter groups in the diffusion head.") + except Exception as e: + logger.error(f"Could not parse --layers_to_freeze: {e}") + raise + + # Connectors + if getattr(model_args, "train_connectors", False): + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = True + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = True + else: + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = False + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = False + + # Freeze embedding + head + try: + emb = model.get_input_embeddings() + if hasattr(emb, "weight"): + emb.weight.requires_grad_(False) + head = model.get_output_embeddings() + if head is not None and hasattr(head, "weight"): + head.weight.requires_grad_(False) + except Exception: + pass + + # Diagnostics + def _sum_params(named_iter): + return sum(p.numel() for _, p in named_iter if p.requires_grad) + try: + lm_lora = _sum_params(model.model.language_model.named_parameters()) if hasattr(model.model, "language_model") else 0 + pred_head_train = _sum_params(model.model.prediction_head.named_parameters()) if hasattr(model.model, "prediction_head") else 0 + ac_conn_train = _sum_params(model.model.acoustic_connector.named_parameters()) if hasattr(model.model, "acoustic_connector") else 0 + se_conn_train = _sum_params(model.model.semantic_connector.named_parameters()) if hasattr(model.model, "semantic_connector") else 0 + total_trainable = sum(p.numel() for p in model.parameters() if p.requires_grad) + logger.info(f"Trainable by block -> LLM-LoRA: {lm_lora:,} | diff_head: {pred_head_train:,} | ac_conn: {ac_conn_train:,} | se_conn: {se_conn_train:,}") + logger.info("TOTAL trainable: %s", f"{total_trainable:,}") + except Exception: + pass + + # Preprocessed data classes + class PreprocessedBatchDataset: + def __init__(self, preprocessed_file: str): + self.data = torch.load(preprocessed_file, map_location='cpu') + logger.info(f"Loaded {len(self.data)} preprocessed batches from {preprocessed_file}") + + def __len__(self): + return len(self.data) + + def __getitem__(self, idx): + batch = self.data[idx] + result = {} + for k, v in batch.items(): + if isinstance(v, torch.Tensor): + result[k] = v + else: + result[k] = v + return result + + class PreprocessedBatchSubset: + def __init__(self, dataset: 'PreprocessedBatchDataset', indices: List[int]): + self.dataset = dataset + self.indices = indices + + def __len__(self): + return len(self.indices) + + def __getitem__(self, idx): + actual_idx = self.indices[idx] + return self.dataset[actual_idx] + + class PreprocessedBatchCollator: + def __call__(self, batch: List[Dict[str, torch.Tensor]]) -> Dict[str, torch.Tensor]: + if not batch: + return {} + result = {} + for key in batch[0].keys(): + tensors = [b[key] for b in batch if b[key] is not None] + if tensors and isinstance(tensors[0], torch.Tensor): + result[key] = torch.cat(tensors, dim=0) + else: + result[key] = tensors[0] if tensors else None + return result + + # Datasets + preprocessed_dir = os.path.join(training_args.output_dir, "preprocessed") + preprocessed_file = os.path.join(preprocessed_dir, "preprocessed_batches.pt") + + if os.path.exists(preprocessed_file): + logger.info(f"Loading preprocessed data from {preprocessed_file}") + preprocessed_data = PreprocessedBatchDataset(preprocessed_file) + + train_dataset = preprocessed_data + eval_dataset = None + + if training_args.do_eval and data_args.eval_split_size and data_args.eval_split_size > 0 and len(preprocessed_data) > 1: + num_eval = max(1, int(len(preprocessed_data) * data_args.eval_split_size)) + num_train = len(preprocessed_data) - num_eval + indices = list(range(len(preprocessed_data))) + import random + random.Random(training_args.seed).shuffle(indices) + train_indices = indices[:num_train] + eval_indices = indices[num_train:] + train_dataset = PreprocessedBatchSubset(preprocessed_data, train_indices) + eval_dataset = PreprocessedBatchSubset(preprocessed_data, eval_indices) + else: + logger.info(f"Preprocessed data not found at {preprocessed_file}, loading from raw JSONL/HF datasets") + verification_mode = VerificationMode.NO_CHECKS if data_args.ignore_verifications else VerificationMode.BASIC_CHECKS + if data_args.train_jsonl is not None: + data_files: Dict[str, str] = {"train": data_args.train_jsonl} + if data_args.validation_jsonl is not None: + data_files["validation"] = data_args.validation_jsonl + raw = load_dataset("json", data_files=data_files, verification_mode=verification_mode, cache_dir=model_args.cache_dir) + else: + if data_args.dataset_name is None: + raise ValueError("Provide --dataset_name (HF datasets) or use --train_jsonl/--validation_jsonl for local files.") + raw = load_dataset( + data_args.dataset_name, + data_args.dataset_config_name, + verification_mode=verification_mode, + cache_dir=model_args.cache_dir, + ) + train_ds = raw[data_args.train_split_name] + eval_ds = None + if training_args.do_eval: + if data_args.eval_split_name and data_args.eval_split_name in raw: + eval_ds = raw[data_args.eval_split_name] + elif data_args.eval_split_size and data_args.eval_split_size > 0 and len(train_ds) > 1: + split = train_ds.train_test_split(test_size=data_args.eval_split_size, seed=training_args.seed) + train_ds, eval_ds = split["train"], split["test"] + + train_dataset = VibeVoiceDataset( + train_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + eval_dataset = None + if eval_ds is not None: + eval_dataset = VibeVoiceDataset( + eval_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + + # Ratios/dims from processor+model + speech_compress_ratio = getattr(processor, "speech_tok_compress_ratio", 3200) + semantic_dim = getattr(model.config, "semantic_vae_dim", None) + if semantic_dim is None: + try: + semantic_dim = int(getattr(model.config.semantic_tokenizer_config, "vae_dim", 128)) + except Exception: + semantic_dim = 128 + + compute_semantics_flag = hasattr(processor, "semantic_tokenizer") and processor.semantic_tokenizer is not None + + if os.path.exists(preprocessed_file): + data_collator = PreprocessedBatchCollator() + else: + data_collator = VibeVoiceCollator( + processor=processor, + max_length=data_args.max_length, + speech_compress_ratio=speech_compress_ratio, + semantic_vae_dim=semantic_dim, + compute_semantics=compute_semantics_flag, + debug_checks=False, + voice_prompt_drop_rate=data_args.voice_prompt_drop_rate, + ) + + class LoRADebugCallback(TrainerCallback): + def __init__(self, log_every_n_steps: int = 50): + self.log_every_n_steps = max(1, int(log_every_n_steps)) + self.prev_param_norms: Dict[str, float] = {} + self.lora_param_names: List[str] = [] + + def on_train_begin(self, args, state, control, model=None, **kwargs): + try: + if model is None: + return + named: Dict[str, torch.nn.Parameter] = dict(model.named_parameters()) + self.lora_param_names = [n for n in named.keys() if ("lora_A" in n or "lora_B" in n)] + for n in self.lora_param_names: + p = named[n] + self.prev_param_norms[n] = float(p.data.norm().item()) + total = len(self.lora_param_names) + req_grad = sum(1 for n in self.lora_param_names if named[n].requires_grad) + num_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + num_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + zero_B = sum(1 for n in self.lora_param_names if ("lora_B" in n and float(named[n].data.norm().item()) == 0.0)) + logger.info(f"LoRA debug: found {total} LoRA params (A={num_A}, B={num_B}); trainable={req_grad}. Initial lora_B_zero={zero_B}.") + if total == 0: + logger.warning("LoRA debug: No LoRA parameters found. Check lora_target_modules.") + if req_grad != total: + logger.warning("LoRA debug: Some LoRA params are frozen. They should be trainable.") + except Exception as e: + logger.warning(f"LoRA debug (on_train_begin) failed: {e}") + + def on_step_end(self, args, state, control, model=None, **kwargs): + try: + if model is None or len(self.lora_param_names) == 0: + return + step = int(getattr(state, "global_step", 0) or 0) + if step % self.log_every_n_steps != 0 and step != 1: + return + named: Dict[str, torch.nn.Parameter] = dict(model.named_parameters()) + changed_A = 0 + changed_B = 0 + zero_B = 0 + eps = 1e-12 + for n in self.lora_param_names: + p = named.get(n, None) + if p is None: + continue + prev = self.prev_param_norms.get(n, 0.0) + curr = float(p.data.norm().item()) + if "lora_A" in n and abs(curr - prev) > eps: + changed_A += 1 + if "lora_B" in n: + if abs(curr - prev) > eps: + changed_B += 1 + if curr == 0.0: + zero_B += 1 + self.prev_param_norms[n] = curr + total_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + total_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + logger.info(f"LoRA debug step {step}: changed A {changed_A}/{total_A}, changed B {changed_B}/{total_B}, lora_B_zero_now={zero_B}.") + except Exception as e: + logger.warning(f"LoRA debug (on_step_end) failed: {e}") + + class VibeVoiceTrainer(Trainer): + def compute_loss(self, model: VibeVoiceForConditionalGeneration, inputs: Dict[str, Any], return_outputs=False, num_items_in_batch: Optional[int] = None): + labels = inputs.get("input_ids") + attention_mask = inputs.get("attention_mask") + acoustic_input_mask = inputs.get("acoustic_input_mask") + + # Ensure semantic tensors exist and have correct dtype/device + sem = inputs.get("speech_semantic_tensors", None) + try: + target_dtype = next(model.model.semantic_connector.parameters()).dtype + except Exception: + target_dtype = model.get_input_embeddings().weight.dtype + + if sem is None: + sm = inputs.get("speech_masks") + if sm is not None: + zeros = torch.zeros( + sm.size(0), sm.size(1), + getattr(model.config, "semantic_vae_dim", 128), + dtype=target_dtype, + device=sm.device, + ) + inputs["speech_semantic_tensors"] = zeros + else: + if isinstance(sem, torch.Tensor): + inputs["speech_semantic_tensors"] = sem.to(dtype=target_dtype) + + outputs = model( + input_ids=inputs.get("input_ids"), + attention_mask=attention_mask, + speech_tensors=inputs.get("speech_tensors"), + speech_masks=inputs.get("speech_masks"), + speech_semantic_tensors=inputs.get("speech_semantic_tensors"), + acoustic_input_mask=acoustic_input_mask, + acoustic_loss_mask=inputs.get("acoustic_loss_mask"), + speeches_loss_input=inputs.get("speeches_loss_input"), + ddpm_batch_mul=training_args.ddpm_batch_mul, + ) + + # Invariants: token/latent selection equality across views (warn, don't assert) + try: + al_mask = inputs.get("acoustic_loss_mask") + sp_masks = inputs.get("speech_masks") + sp_loss_sel = inputs.get("speeches_loss_input") + num_tok_total = int(acoustic_input_mask.sum().item()) if acoustic_input_mask is not None else 0 + num_tok_loss = int(al_mask.sum().item()) if al_mask is not None else 0 + num_lat_total = int(sp_masks.sum().item()) if sp_masks is not None else 0 + num_lat_loss = int(((sp_loss_sel & sp_masks).sum().item())) if (sp_loss_sel is not None and sp_masks is not None) else 0 + self.log({ + "debug/num_tok_total": float(num_tok_total), + "debug/num_tok_loss": float(num_tok_loss), + "debug/num_lat_total": float(num_lat_total), + "debug/num_lat_loss": float(num_lat_loss), + }) + if sp_loss_sel is not None and sp_masks is not None and al_mask is not None: + if num_tok_loss != num_lat_loss: + logger.warning(f"Loss selection mismatch: acoustic_loss_mask={num_tok_loss} vs speeches_loss_input={num_lat_loss}") + except Exception: + pass + + # CE Loss + logits = outputs.logits + ce_labels = mask_for_ce(labels, attention_mask, acoustic_input_mask, pad_id=-100) + shift_logits = logits[:, :-1, :].contiguous() + loss_fct = nn.CrossEntropyLoss(ignore_index=-100) + ce_loss = loss_fct(shift_logits.view(-1, shift_logits.size(-1)), ce_labels.view(-1)) + + # Optional CE diagnostics + try: + self._debug_ce(shift_logits, ce_labels, attention_mask, acoustic_input_mask) + except Exception as e: + logger.warning(f"Failed invoking CE debug: {e}") + + # Diffusion loss + diffusion_loss = outputs.diffusion_loss if outputs.diffusion_loss is not None else torch.tensor(0.0, device=ce_loss.device) + total = training_args.ce_loss_weight * ce_loss + training_args.diffusion_loss_weight * diffusion_loss + + # Logs + try: + prefix = "train" if model.training else "eval" + self.log({ + f"{prefix}/ce_loss": ce_loss.detach().item(), + f"{prefix}/diffusion_loss": diffusion_loss.detach().item() if isinstance(diffusion_loss, torch.Tensor) else float(diffusion_loss), + }) + if hasattr(self, "optimizer") and self.optimizer is not None and len(self.optimizer.param_groups) > 0: + lr_val = self.optimizer.param_groups[0].get("lr", None) + if lr_val is not None: + self.log({"train/learning_rate_real": float(lr_val)}) + except Exception: + pass + + return (total, outputs) if return_outputs else total + + def _debug_ce(self, shift_logits: torch.Tensor, ce_labels: torch.Tensor, attention_mask: Optional[torch.Tensor], acoustic_input_mask: Optional[torch.Tensor]): + try: + if not getattr(training_args, "debug_ce_details", False): + return + step = int(getattr(self.state, "global_step", 0) or 0) + every_n = max(1, int(getattr(training_args, "debug_ce_every_n_steps", 200) or 200)) + if not (step <= 1 or (step % every_n == 0)): + return + + with torch.no_grad(): + vocab = shift_logits.size(-1) + per_token_loss = F.cross_entropy( + shift_logits.view(-1, vocab), + ce_labels.view(-1), + reduction="none", + ignore_index=-100, + ).view_as(ce_labels) + + valid_mask = ce_labels.ne(-100) + num_valid = int(valid_mask.sum().item()) + avg_loss = float((per_token_loss[valid_mask].mean().item())) if num_valid > 0 else float("nan") + + per_ex_avgs = [] + max_examples = max(1, int(getattr(training_args, "debug_ce_max_examples", 1) or 1)) + B = ce_labels.size(0) + for b in range(min(B, max_examples)): + vb = valid_mask[b] + if int(vb.sum().item()) > 0: + per_ex_avgs.append(float(per_token_loss[b][vb].mean().item())) + else: + per_ex_avgs.append(float("nan")) + logger.info(f"CE debug: tokens_in_loss={num_valid}, avg_loss={avg_loss:.4f}, per_example_avgs={[round(x,4) if x==x else None for x in per_ex_avgs]}") + except Exception as e: + logger.warning(f"CE detailed debug failed: {e}") + + # --------- CRITICAL SAVE OVERRIDES: also dump FULL head/connectors for inference --------- + + + def _save(self, output_dir: Optional[str] = None, state_dict=None) -> None: + try: + target_dir = output_dir or self.args.output_dir + lora_out = os.path.join(target_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # --- LLM PEFT adapters (if LoRA-wrapped) --- + language_model = getattr(self.model.model, "language_model", None) + if hasattr(language_model, "save_pretrained"): + language_model.save_pretrained(lora_out) + + # --- Diffusion head PEFT adapters (if LoRA-wrapped) --- + pred_head = getattr(self.model.model, "prediction_head", None) + if hasattr(pred_head, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + pred_head.save_pretrained(ph_dir) + + # --- ALWAYS save FULL diffusion head state_dict for fallback --- + if pred_head is not None and hasattr(pred_head, "state_dict"): + sd = pred_head.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + + # --- Connectors (plain state_dicts) --- + ac = getattr(self.model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + + se = getattr(self.model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + + except Exception as e: + logger.warning(f"Failed to save LoRA assets: {e}") + + + # ------------- Build the Trainer ------------- + + # Resolve which adapters to apply in samples + + ema_cb = EmaCallback(attr_path="model.prediction_head", decay=0.999, device="cuda") + + # --- CRITICAL FIX: CAST TRAINABLE PARAMS TO FP32 --- + # This prevents 'ValueError: Attempting to unscale FP16 gradients' + if getattr(training_args, 'fp16', False) or getattr(training_args, 'bf16', False): + print('>>> INFO: Enforcing float32 for trainable parameters (LoRA/Head) to fix GradScaler.') + for name, param in model.named_parameters(): + if param.requires_grad: + param.data = param.data.to(torch.float32) + # --------------------------------------------------- + + trainer = VibeVoiceTrainer( + model=model, + args=training_args, + train_dataset=train_dataset, + eval_dataset=eval_dataset, + data_collator=data_collator, + callbacks=[ema_cb, LoRADebugCallback(log_every_n_steps=(int(getattr(training_args, "logging_steps", 50) or 50)))], + ) + + # Optional debug pre-training save + if getattr(training_args, "debug_save", False): + try: + debug_dir = os.path.join(training_args.output_dir, "debug_initial") + lora_out = os.path.join(debug_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + logger.info(f"[debug_save] Saving initial (pre-training) model components to: {debug_dir}") + # language model adapters / base + try: + if hasattr(model.model.language_model, "save_pretrained"): + model.model.language_model.save_pretrained(lora_out) + except Exception as e_lm: + logger.warning(f"[debug_save] Failed to save language_model: {e_lm}") + # diffusion head + try: + if hasattr(model.model, "prediction_head") and hasattr(model.model.prediction_head, "save_pretrained"): + model.model.prediction_head.save_pretrained(os.path.join(lora_out, "diffusion_head")) + except Exception as e_head: + logger.warning(f"[debug_save] Failed to save prediction_head: {e_head}") + # NEW: full diffusion head state_dict as fallback + try: + ph = getattr(model.model, "prediction_head", None) + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + os.makedirs(os.path.join(lora_out, "diffusion_head"), exist_ok=True) + torch.save(sd, os.path.join(lora_out, "diffusion_head", "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"[debug_save] Failed to save FULL diffusion head: {e}") + # connectors + try: + ac_conn = getattr(model.model, "acoustic_connector", None) + if ac_conn is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac_conn.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e_ac: + logger.warning(f"[debug_save] Failed to save acoustic_connector: {e_ac}") + try: + se_conn = getattr(model.model, "semantic_connector", None) + if se_conn is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se_conn.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e_se: + logger.warning(f"[debug_save] Failed to save semantic_connector: {e_se}") + except Exception as e: + logger.warning(f"[debug_save] Unexpected failure saving initial components: {e}") + + if getattr(training_args, "gradient_checkpointing", False): + try: + model.gradient_checkpointing_enable() + except Exception: + logger.warning("Failed to enable gradient checkpointing on the model.") + + # ========================================================================= + # Load Custom Weights from Checkpoint before resuming training + # ========================================================================= + if training_args.do_train and training_args.resume_from_checkpoint: + checkpoint_path = None + if isinstance(training_args.resume_from_checkpoint, bool) and training_args.resume_from_checkpoint: + from transformers.trainer_utils import get_last_checkpoint + checkpoint_path = get_last_checkpoint(training_args.output_dir) + else: + checkpoint_path = training_args.resume_from_checkpoint + + if checkpoint_path is not None and os.path.exists(checkpoint_path): + lora_dir = os.path.join(checkpoint_path, "lora") + if os.path.exists(lora_dir): + logger.info(f"*** Resuming custom weights (LoRA, Connectors, Head) from {lora_dir} ***") + + # 1. Load LLM LoRA + if hasattr(model.model, "language_model"): + try: + from peft import load_peft_weights, set_peft_model_state_dict + adapters_weights = load_peft_weights(lora_dir) + set_peft_model_state_dict(model.model.language_model, adapters_weights) + logger.info("Successfully loaded LLM LoRA weights.") + except Exception as e: + logger.warning(f"Could not load LLM LoRA weights: {e}") + + # 2. Load Diffusion Head + ph_full_path = os.path.join(lora_dir, "diffusion_head_full.bin") + if os.path.exists(ph_full_path) and hasattr(model.model, "prediction_head"): + try: + model.model.prediction_head.load_state_dict(torch.load(ph_full_path, map_location="cpu"), strict=False) + logger.info("Successfully loaded Diffusion Head weights.") + except Exception as e: + logger.warning(f"Failed to load Diffusion Head weights: {e}") + + # 3. Load Acoustic Connector + ac_path = os.path.join(lora_dir, "acoustic_connector", "pytorch_model.bin") + if os.path.exists(ac_path) and hasattr(model.model, "acoustic_connector"): + try: + model.model.acoustic_connector.load_state_dict(torch.load(ac_path, map_location="cpu")) + logger.info("Successfully loaded Acoustic Connector weights.") + except Exception as e: + logger.warning(f"Failed to load Acoustic Connector weights: {e}") + + # 4. Load Semantic Connector + se_path = os.path.join(lora_dir, "semantic_connector", "pytorch_model.bin") + if os.path.exists(se_path) and hasattr(model.model, "semantic_connector"): + try: + model.model.semantic_connector.load_state_dict(torch.load(se_path, map_location="cpu")) + logger.info("Successfully loaded Semantic Connector weights.") + except Exception as e: + logger.warning(f"Failed to load Semantic Connector weights: {e}") + else: + logger.warning(f"No custom 'lora' directory found inside checkpoint: {checkpoint_path}") + # ========================================================================= + + if training_args.do_train: + # ----- THE FIX: SET resume_from_checkpoint=False HERE ----- + # The weights are ALREADY loaded via the custom block above. + # Setting this to False forces Trainer to start counting steps/epochs from 0 + # for your new dataset, preventing it from immediately exiting. + trainer.train(resume_from_checkpoint=False) + + lora_out = os.path.join(training_args.output_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # LLM PEFT (if any) + lm = getattr(model.model, "language_model", None) + if hasattr(lm, "save_pretrained"): + lm.save_pretrained(lora_out) + + # Diffusion head PEFT (if any) + ph = getattr(model.model, "prediction_head", None) + if hasattr(ph, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + ph.save_pretrained(ph_dir) + + # ALWAYS: full diffusion head state_dict fallback + try: + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"Failed to save FULL diffusion head at end: {e}") + + # Connectors (if trained) + try: + ac = getattr(model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save acoustic_connector: {e}") + + try: + se = getattr(model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save semantic_connector: {e}") + + if training_args.do_eval and eval_dataset is not None: + trainer.evaluate() + + +if __name__ == "__main__": + main() \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora120.py b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora120.py new file mode 100644 index 0000000000000000000000000000000000000000..8be0a86744c232671130742ea7f64371949d410c --- /dev/null +++ b/lor/VibeVoice-finetuning/src/finetune_vibevoice_lora120.py @@ -0,0 +1,1072 @@ +# train_vibevoice_lora.py +import os +os.environ["CUDA_VISIBLE_DEVICES"] = "0" +os.environ["TOKENIZERS_PARALLELISM"] = "false" + +import logging +import os +from dataclasses import dataclass, field +from typing import Any, Dict, List, Optional, Tuple + +import torch +import torch.nn as nn +import torch.nn.functional as F +from datasets import load_dataset, DatasetDict, VerificationMode + +from transformers import ( + HfArgumentParser, + Trainer, + set_seed, + TrainerCallback, + BitsAndBytesConfig, +) +from transformers import TrainingArguments as HfTrainingArguments + +from peft import LoraConfig, get_peft_model, TaskType, prepare_model_for_kbit_training + +from vibevoice.modular.modeling_vibevoice import VibeVoiceForConditionalGeneration +from vibevoice.modular.configuration_vibevoice import VibeVoiceConfig +from vibevoice.processor.vibevoice_processor import VibeVoiceProcessor + +from data_vibevoice import VibeVoiceDataset, VibeVoiceCollator + +logger = logging.getLogger(__name__) + +# ================== SAMPLE CALLBACK UTILS ================== + +import copy +import torch +from transformers import TrainerCallback + +class EmaCallback(TrainerCallback): + def __init__(self, attr_path="model.prediction_head", decay=0.999, device="cuda"): + """ + attr_path: where the head lives under self.model (Trainer wraps your VibeVoiceForConditionalGeneration) + decay: EMA decay (0.999 ~ stable, 0.9999 ~ very smooth, slower to adapt) + """ + self.attr_path = attr_path + self.decay = float(decay) + self.device = torch.device(device) + self.shadow = None + self._orig = None # store non-EMA weights when we swap + + def _get_module(self, model): + # Resolve dotted path like "model.prediction_head" + mod = model + for name in self.attr_path.split('.'): + mod = getattr(mod, name) + return mod + + def on_train_begin(self, args, state, control, model=None, **kwargs): + head = self._get_module(model) + self.shadow = {k: p.detach().to(self.device).clone() + for k, p in head.state_dict().items()} + + def on_step_end(self, args, state, control, model=None, **kwargs): + if self.shadow is None: return + head = self._get_module(model) + with torch.no_grad(): + for k, v in head.state_dict().items(): + self.shadow[k].mul_(self.decay).add_(v.detach().to(self.device), alpha=(1.0 - self.decay)) + + # ---- Swap helpers ---- + def _swap_in_ema(self, model): + head = self._get_module(model) + self._orig = copy.deepcopy(head.state_dict()) + head.load_state_dict(self.shadow, strict=False) + + def _swap_back(self, model): + if self._orig is None: return + head = self._get_module(model) + head.load_state_dict(self._orig, strict=False) + self._orig = None + + def on_evaluate(self, args, state, control, model=None, **kwargs): + # use EMA during eval + self._swap_in_ema(model) + + def on_evaluate_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_save(self, args, state, control, model=None, **kwargs): + # temporarily swap to EMA, let Trainer save, then swap back + self._swap_in_ema(model) + + def on_save_end(self, args, state, control, model=None, **kwargs): + self._swap_back(model) + + def on_train_end(self, args, state, control, model=None, **kwargs): + # final checkpoint: persist EMA + self._swap_in_ema(model) + + +@dataclass +class ModelArguments: + model_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to VibeVoice base model with config.json"} + ) + processor_name_or_path: Optional[str] = field( + default=None, metadata={"help": "Path to processor dir (preprocessor_config.json). Defaults to model path."} + ) + cache_dir: Optional[str] = field(default=None) + freeze_acoustic_tokenizer: bool = field(default=True) + freeze_semantic_tokenizer: bool = field(default=True) + lora_r: int = field(default=8) + lora_alpha: int = field(default=32) + lora_dropout: float = field(default=0.05) + lora_target_modules: str = field( + default="q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj", + metadata={"help": "Comma-separated list of target module names in the LLM blocks"}, + ) + lora_wrap_diffusion_head: bool = field(default=False, metadata={"help": "Wrap diffusion head with PEFT LoRA"}) + train_diffusion_head: bool = field(default=False, metadata={"help": "Train diffusion prediction head (full fine-tune)"}) + train_connectors: bool = field(default=False, metadata={"help": "Train acoustic/semantic connectors (full fine-tune)"}) + layers_to_freeze: Optional[str] = field( + default=None, + metadata={"help": "Comma-separated indices of diffusion head layers to freeze (e.g., '0,1,5,7,8')."} + ) + load_in_4bit: bool = field( + default=False, + metadata={"help": "Load the base model in 4-bit quantization (QLoRA) to save VRAM."} + ) + +@dataclass +class DataArguments: + dataset_name: Optional[str] = field(default=None, metadata={"help": "HF dataset name or 'json' with --train_jsonl for local files"}) + dataset_config_name: Optional[str] = field(default=None) + train_split_name: str = field(default="train") + eval_split_name: Optional[str] = field(default="validation") + text_column_name: str = field(default="text") + audio_column_name: str = field(default="audio") + voice_prompts_column_name: Optional[str] = field(default="voice_prompts") + eval_split_size: float = field(default=0.0) + ignore_verifications: bool = field(default=False) + max_length: Optional[int] = field(default=None) + train_jsonl: Optional[str] = field(default=None, metadata={"help": "Path to local train JSONL with {text, audio, [voice_prompts]}"}) + validation_jsonl: Optional[str] = field(default=None, metadata={"help": "Optional path to local validation JSONL"}) + voice_prompt_drop_rate: float = field( + default=0.0, + metadata={"help": "Probability to drop conditioning voice prompt during training (0.0 keep always, 1.0 drop always)."}, + ) + +@dataclass +class CustomTrainingArguments(HfTrainingArguments): + ddpm_batch_mul: int = field(default=1) + ce_loss_weight: float = field(default=1.0) + diffusion_loss_weight: float = field(default=1.0) + debug_ce_details: bool = field(default=False) + debug_ce_topk: int = field(default=5) + debug_ce_max_examples: int = field(default=1) + debug_ce_every_n_steps: int = field(default=200) + gradient_clipping: bool = field( + default=False, + metadata={"help": "Enable gradient clipping using max_grad_norm (set via --max_grad_norm, default 1.0). When False, disables clipping by forcing max_grad_norm=0.0."}, + ) + debug_save: bool = field( + default=False, + metadata={"help": "If set, saves model components BEFORE training starts, into output_dir/debug_initial."}, + ) + +def build_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = [s.strip() for s in args.lora_target_modules.split(",") if s.strip()] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.CAUSAL_LM, + target_modules=target_modules, + ) + +def build_head_lora_config(args: ModelArguments) -> LoraConfig: + target_modules = ["noisy_images_proj","cond_proj","gate_proj","up_proj","down_proj","linear"] + return LoraConfig( + r=args.lora_r, + lora_alpha=args.lora_alpha, + lora_dropout=args.lora_dropout, + bias="none", + task_type=TaskType.FEATURE_EXTRACTION, + target_modules=target_modules, + ) + +def mask_for_ce(labels: torch.Tensor, attention_mask: torch.Tensor, acoustic_input_mask: torch.Tensor, pad_id: int = -100) -> torch.Tensor: + shifted = labels[:, 1:].contiguous() + base_mask = attention_mask[:, 1:].contiguous().eq(1) if (attention_mask is not None and attention_mask.numel() > 0) else torch.ones_like(shifted, dtype=torch.bool) + label_is_acoustic = acoustic_input_mask[:, 1:].contiguous() + final_mask = base_mask & (~label_is_acoustic) + out = shifted.clone() + out[~final_mask] = pad_id + return out + +def _patch_acoustic_encode_for_legacy_indexing(model_obj, logger_): + try: + acoustic = getattr(getattr(model_obj, "model", model_obj), "acoustic_tokenizer", None) + if acoustic is None or not hasattr(acoustic, "encode"): + logger_.warning("No acoustic_tokenizer.encode() found to patch.") + return + base_encode = acoustic.encode + def encode_wrapped(*args, **kwargs): + out = base_encode(*args, **kwargs) + try: + _ = out[0][0] + return out + except Exception: + pass + if isinstance(out, dict): + for k in ("frames", "codes", "tokens", "latents", "hidden_states"): + if k in out: + return [[out[k]]] + if len(out) > 0: + return [[next(iter(out.values()))]] + for attr in ("frames", "codes", "tokens", "latents", "hidden_states"): + if hasattr(out, attr): + return [[getattr(out, attr)]] + try: + if isinstance(out, torch.Tensor): + return [[out]] + except Exception: + pass + return [[out]] + acoustic.encode = encode_wrapped + logger_.info("Patched acoustic_tokenizer.encode() to return [[...]] for legacy indexing.") + except Exception as e: + logger_.warning(f"Failed to patch acoustic_tokenizer.encode(): {e}") + +def main() -> None: + parser = HfArgumentParser((ModelArguments, DataArguments, CustomTrainingArguments)) + model_args, data_args, training_args = parser.parse_args_into_dataclasses() + + logging.basicConfig( + format="%(asctime)s - %(levelname)s - %(name)s - %(message)s", + datefmt="%m/%d/%Y %H:%M:%S", + level=logging.INFO if training_args.local_rank in [-1, 0] else logging.WARN, + ) + logger.info("Training/evaluation parameters %s", training_args) + set_seed(training_args.seed) + + # Configure gradient clipping + if not getattr(training_args, "gradient_clipping", False): + if hasattr(training_args, "max_grad_norm"): + training_args.max_grad_norm = 0.0 + logger.info("Gradient clipping disabled (set max_grad_norm=0.0). Use --gradient_clipping to enable.") + else: + if (not hasattr(training_args, "max_grad_norm")) or training_args.max_grad_norm is None or training_args.max_grad_norm <= 0: + training_args.max_grad_norm = 1.0 + logger.info(f"Gradient clipping enabled: max_grad_norm={training_args.max_grad_norm}") + + # Load processor + processor_path = model_args.processor_name_or_path or model_args.model_name_or_path + if processor_path is None: + raise ValueError("--model_name_or_path (or --processor_name_or_path) must be provided") + processor: VibeVoiceProcessor = VibeVoiceProcessor.from_pretrained(processor_path) + + # Required special tokens + tok = processor.tokenizer + for required in ["speech_start_id", "speech_diffusion_id", "speech_end_id"]: + if not hasattr(tok, required) or getattr(tok, required) is None: + raise RuntimeError(f"Tokenizer missing required special id: {required}") + + # Set dtype + dtype = torch.float32 + if training_args.bf16: + dtype = torch.bfloat16 + elif getattr(training_args, "fp16", False): + dtype = torch.float16 + + # ========================================================================= + # 4-BIT QUANTIZATION CONFIGURATION (QLoRA) + # ========================================================================= + quantization_config = None + if getattr(model_args, "load_in_4bit", False): + logger.info(">>> Loading base model in 4-bit mode (BitsAndBytes NF4) <<<") + quantization_config = BitsAndBytesConfig( + load_in_4bit=True, + bnb_4bit_compute_dtype=dtype, # Uses bf16/fp16 for compute + bnb_4bit_quant_type="nf4", # Recommended for QLoRA + bnb_4bit_use_double_quant=True # Double quantization saves more memory + ) + + if model_args.model_name_or_path is None: + raise ValueError("--model_name_or_path is required to load VibeVoice base model") + + # Load model + model = VibeVoiceForConditionalGeneration.from_pretrained( + model_args.model_name_or_path, + torch_dtype=dtype, + device_map={"": 0}, + quantization_config=quantization_config, + ) + + # Prepare model for 4-bit training if enabled + if getattr(model_args, "load_in_4bit", False): + model = prepare_model_for_kbit_training( + model, + use_gradient_checkpointing=getattr(training_args, "gradient_checkpointing", False) + ) + # ========================================================================= + + _patch_acoustic_encode_for_legacy_indexing(model, logger) + processor.semantic_tokenizer = getattr(model.model, "semantic_tokenizer", None) + + # Diagnostics: LM head tie + try: + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + shared_ptr = bool(in_w is not None and out_w is not None and in_w.data_ptr() == out_w.data_ptr()) + values_equal = False + if in_w is not None and out_w is not None and in_w.shape == out_w.shape: + try: + values_equal = bool(torch.allclose(in_w, out_w)) + except Exception: + values_equal = False + try: + tie_cfg = getattr(getattr(model.config, "decoder_config", model.config), "tie_word_embeddings", None) + except Exception: + tie_cfg = getattr(model.config, "tie_word_embeddings", None) + logger.info(f"LM head diagnostics -> shared_params={shared_ptr}, values_equal={values_equal}, tie_word_embeddings={tie_cfg}") + if out_w is not None: + logger.info(f"LM head requires_grad before freeze: {bool(out_w.requires_grad)}") + except Exception as e: + logger.warning(f"LM head tie diagnostics failed: {e}") + + # Hard-tie LM head + try: + emb_module = model.get_input_embeddings() + head_module = model.get_output_embeddings() + if hasattr(emb_module, "weight") and hasattr(head_module, "weight"): + if emb_module.weight.shape == head_module.weight.shape and emb_module.weight.data_ptr() != head_module.weight.data_ptr(): + with torch.no_grad(): + head_module.weight = emb_module.weight + logger.info("Force-tied LM head weight to input embeddings (pointer share).") + except Exception as e: + logger.warning(f"Force-tie of LM head failed: {e}") + + # Validate special IDs (info logs only) + try: + special_names = ["speech_start_id", "speech_diffusion_id", "speech_end_id"] + try: + vocab_size = int(getattr(model.config.decoder_config, "vocab_size", 0)) + except Exception: + vocab_size = 0 + in_emb_mod = model.get_input_embeddings() + out_emb_mod = model.get_output_embeddings() + in_w = getattr(in_emb_mod, "weight", None) + out_w = getattr(out_emb_mod, "weight", None) + for name in special_names: + val = getattr(tok, name, None) + exists = (val is not None) + in_range = (exists and isinstance(val, int) and 0 <= val < vocab_size) + equal_row = None + if in_range and in_w is not None and out_w is not None and in_w.shape == out_w.shape and in_w.size(0) > val: + try: + equal_row = bool(torch.allclose(in_w[val], out_w[val])) + except Exception: + equal_row = False + decoded_str = None + if exists and isinstance(val, int): + try: + decoded_str = tok.decode([val]) + except Exception: + try: + decoded_str = tok.convert_ids_to_tokens(val) + except Exception: + decoded_str = "" + logger.info(f"Special token check -> {name}={val}, decoded='{decoded_str}', exists={exists}, in_vocab_range={in_range}, emb_vs_head_row_equal={equal_row}") + except Exception as e: + logger.warning(f"Special token ID/row validation failed: {e}") + + # Quick tokenizer diagnostics (optional) + try: + logger.info("=== TOKENIZER DIAGNOSTICS ===") + logger.info(f"Tokenizer class: {type(tok).__name__}") + logger.info(f"Tokenizer vocab_size: {tok.vocab_size}") + # tiny CE smoke test + with torch.no_grad(): + simple_text = "The cat sat on the mat." + simple_ids = torch.tensor([tok.encode(simple_text, add_special_tokens=True)], device=model.device) + simple_mask = torch.ones_like(simple_ids) + x = model.get_input_embeddings()(simple_ids) + outputs = model.model(inputs_embeds=x, attention_mask=simple_mask, return_dict=True) + logits = model.lm_head(outputs.last_hidden_state) + shift_logits = logits[:, :-1, :].contiguous() + shift_labels = simple_ids[:, 1:].contiguous() + ce_loss = F.cross_entropy(shift_logits.view(-1, shift_logits.size(-1)), shift_labels.view(-1), reduction='mean') + logger.info(f"Simple text CE loss: {ce_loss.item():.4f}") + except Exception as e: + logger.warning(f"Tokenizer diagnostics failed: {e}") + + # Disable cache during training + if hasattr(model.config, "use_cache") and training_args.do_train: + model.config.use_cache = False + + # Freeze tokenizers + if model_args.freeze_acoustic_tokenizer and hasattr(model.model, "acoustic_tokenizer"): + for p in model.model.acoustic_tokenizer.parameters(): + p.requires_grad = False + if model_args.freeze_semantic_tokenizer and hasattr(model.model, "semantic_tokenizer"): + for p in model.model.semantic_tokenizer.parameters(): + p.requires_grad = False + + # LoRA wrap LLM (optional) + lora_cfg = build_lora_config(model_args) + tm_lower = [s.strip().lower() for s in model_args.lora_target_modules.split(",") if s.strip()] + skip_lm_lora = (len(tm_lower) == 0) or all(t in ("none", "off", "disable", "disabled") for t in tm_lower) + if not skip_lm_lora: + model.model.language_model = get_peft_model(model.model.language_model, lora_cfg) + else: + logger.info("Skipping LLM LoRA wrapping (lora_target_modules indicates none).") + + try: + model.tie_weights() + except Exception: + pass + + # Freeze all then enable trainable subsets + for _, p in model.named_parameters(): + p.requires_grad = False + + try: + for n, p in model.model.language_model.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception: + logger.warning("Could not re-enable LoRA params on language_model.") + + # Diffusion head LoRA wrapping (optional) + if getattr(model_args, "lora_wrap_diffusion_head", False) and hasattr(model.model, "prediction_head"): + class _HeadForwardShim(nn.Module): + def __init__(self, base: nn.Module): super().__init__(); self.base = base + def forward(self, *args, **kwargs): + if len(args) >= 3: + noisy_images, timesteps, condition = args[:3] + else: + noisy_images = kwargs.get("noisy_images") + timesteps = kwargs.get("timesteps") + condition = kwargs.get("condition") + return self.base(noisy_images, timesteps, condition) + try: + shim = _HeadForwardShim(model.model.prediction_head) + model.model.prediction_head = get_peft_model(shim, build_head_lora_config(model_args)) + for n, p in model.model.prediction_head.named_parameters(): + if "lora_A" in n or "lora_B" in n: + p.requires_grad = True + except Exception as e: + logger.warning(f"Could not LoRA-wrap diffusion head: {e}") + + # Train full diffusion head (optional) + if getattr(model_args, "train_diffusion_head", False) and hasattr(model.model, "prediction_head"): + for p in model.model.prediction_head.parameters(): + p.requires_grad = True + + # Freeze diffusion head layers (optional) + if model_args.layers_to_freeze is not None and hasattr(model.model, "prediction_head"): + head_params = list(model.model.prediction_head.named_parameters()) + try: + indices_to_freeze = {int(x.strip()) for x in model_args.layers_to_freeze.split(',') if x.strip()} + frozen_count = 0 + for i, (name, param) in enumerate(head_params): + if i in indices_to_freeze: + param.requires_grad = False + frozen_count += 1 + logger.info(f"Froze layer [{i}]: {name}") + logger.info(f"Successfully froze {frozen_count} parameter groups in the diffusion head.") + except Exception as e: + logger.error(f"Could not parse --layers_to_freeze: {e}") + raise + + # Connectors + if getattr(model_args, "train_connectors", False): + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = True + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = True + else: + if hasattr(model.model, "acoustic_connector"): + for p in model.model.acoustic_connector.parameters(): + p.requires_grad = False + if hasattr(model.model, "semantic_connector"): + for p in model.model.semantic_connector.parameters(): + p.requires_grad = False + + # Freeze embedding + head + try: + emb = model.get_input_embeddings() + if hasattr(emb, "weight"): + emb.weight.requires_grad_(False) + head = model.get_output_embeddings() + if head is not None and hasattr(head, "weight"): + head.weight.requires_grad_(False) + except Exception: + pass + + # Diagnostics + def _sum_params(named_iter): + return sum(p.numel() for _, p in named_iter if p.requires_grad) + try: + lm_lora = _sum_params(model.model.language_model.named_parameters()) if hasattr(model.model, "language_model") else 0 + pred_head_train = _sum_params(model.model.prediction_head.named_parameters()) if hasattr(model.model, "prediction_head") else 0 + ac_conn_train = _sum_params(model.model.acoustic_connector.named_parameters()) if hasattr(model.model, "acoustic_connector") else 0 + se_conn_train = _sum_params(model.model.semantic_connector.named_parameters()) if hasattr(model.model, "semantic_connector") else 0 + total_trainable = sum(p.numel() for p in model.parameters() if p.requires_grad) + logger.info(f"Trainable by block -> LLM-LoRA: {lm_lora:,} | diff_head: {pred_head_train:,} | ac_conn: {ac_conn_train:,} | se_conn: {se_conn_train:,}") + logger.info("TOTAL trainable: %s", f"{total_trainable:,}") + except Exception: + pass + + # Preprocessed data classes + class PreprocessedBatchDataset: + def __init__(self, preprocessed_file: str): + self.data = torch.load(preprocessed_file, map_location='cpu') + logger.info(f"Loaded {len(self.data)} preprocessed batches from {preprocessed_file}") + + def __len__(self): + return len(self.data) + + def __getitem__(self, idx): + batch = self.data[idx] + result = {} + for k, v in batch.items(): + if isinstance(v, torch.Tensor): + result[k] = v + else: + result[k] = v + return result + + class PreprocessedBatchSubset: + def __init__(self, dataset: 'PreprocessedBatchDataset', indices: List[int]): + self.dataset = dataset + self.indices = indices + + def __len__(self): + return len(self.indices) + + def __getitem__(self, idx): + actual_idx = self.indices[idx] + return self.dataset[actual_idx] + + class PreprocessedBatchCollator: + def __call__(self, batch: List[Dict[str, torch.Tensor]]) -> Dict[str, torch.Tensor]: + if not batch: + return {} + result = {} + for key in batch[0].keys(): + tensors = [b[key] for b in batch if b[key] is not None] + if tensors and isinstance(tensors[0], torch.Tensor): + result[key] = torch.cat(tensors, dim=0) + else: + result[key] = tensors[0] if tensors else None + return result + + # Datasets + preprocessed_dir = os.path.join(training_args.output_dir, "preprocessed") + preprocessed_file = os.path.join(preprocessed_dir, "preprocessed_batches.pt") + + if os.path.exists(preprocessed_file): + logger.info(f"Loading preprocessed data from {preprocessed_file}") + preprocessed_data = PreprocessedBatchDataset(preprocessed_file) + + train_dataset = preprocessed_data + eval_dataset = None + + if training_args.do_eval and data_args.eval_split_size and data_args.eval_split_size > 0 and len(preprocessed_data) > 1: + num_eval = max(1, int(len(preprocessed_data) * data_args.eval_split_size)) + num_train = len(preprocessed_data) - num_eval + indices = list(range(len(preprocessed_data))) + import random + random.Random(training_args.seed).shuffle(indices) + train_indices = indices[:num_train] + eval_indices = indices[num_train:] + train_dataset = PreprocessedBatchSubset(preprocessed_data, train_indices) + eval_dataset = PreprocessedBatchSubset(preprocessed_data, eval_indices) + else: + logger.info(f"Preprocessed data not found at {preprocessed_file}, loading from raw JSONL/HF datasets") + verification_mode = VerificationMode.NO_CHECKS if data_args.ignore_verifications else VerificationMode.BASIC_CHECKS + if data_args.train_jsonl is not None: + data_files: Dict[str, str] = {"train": data_args.train_jsonl} + if data_args.validation_jsonl is not None: + data_files["validation"] = data_args.validation_jsonl + raw = load_dataset("json", data_files=data_files, verification_mode=verification_mode, cache_dir=model_args.cache_dir) + else: + if data_args.dataset_name is None: + raise ValueError("Provide --dataset_name (HF datasets) or use --train_jsonl/--validation_jsonl for local files.") + raw = load_dataset( + data_args.dataset_name, + data_args.dataset_config_name, + verification_mode=verification_mode, + cache_dir=model_args.cache_dir, + ) + train_ds = raw[data_args.train_split_name] + eval_ds = None + if training_args.do_eval: + if data_args.eval_split_name and data_args.eval_split_name in raw: + eval_ds = raw[data_args.eval_split_name] + elif data_args.eval_split_size and data_args.eval_split_size > 0 and len(train_ds) > 1: + split = train_ds.train_test_split(test_size=data_args.eval_split_size, seed=training_args.seed) + train_ds, eval_ds = split["train"], split["test"] + + train_dataset = VibeVoiceDataset( + train_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + eval_dataset = None + if eval_ds is not None: + eval_dataset = VibeVoiceDataset( + eval_ds, + text_column=data_args.text_column_name, + audio_column=data_args.audio_column_name, + voice_prompts_column=data_args.voice_prompts_column_name, + ) + + # Ratios/dims from processor+model + speech_compress_ratio = getattr(processor, "speech_tok_compress_ratio", 3200) + semantic_dim = getattr(model.config, "semantic_vae_dim", None) + if semantic_dim is None: + try: + semantic_dim = int(getattr(model.config.semantic_tokenizer_config, "vae_dim", 128)) + except Exception: + semantic_dim = 128 + + compute_semantics_flag = hasattr(processor, "semantic_tokenizer") and processor.semantic_tokenizer is not None + + if os.path.exists(preprocessed_file): + data_collator = PreprocessedBatchCollator() + else: + data_collator = VibeVoiceCollator( + processor=processor, + max_length=data_args.max_length, + speech_compress_ratio=speech_compress_ratio, + semantic_vae_dim=semantic_dim, + compute_semantics=compute_semantics_flag, + debug_checks=False, + voice_prompt_drop_rate=data_args.voice_prompt_drop_rate, + ) + + class LoRADebugCallback(TrainerCallback): + def __init__(self, log_every_n_steps: int = 50): + self.log_every_n_steps = max(1, int(log_every_n_steps)) + self.prev_param_norms: Dict[str, float] = {} + self.lora_param_names: List[str] = [] + + def on_train_begin(self, args, state, control, model=None, **kwargs): + try: + if model is None: + return + named: Dict[str, torch.nn.Parameter] = dict(model.named_parameters()) + self.lora_param_names = [n for n in named.keys() if ("lora_A" in n or "lora_B" in n)] + for n in self.lora_param_names: + p = named[n] + self.prev_param_norms[n] = float(p.data.norm().item()) + total = len(self.lora_param_names) + req_grad = sum(1 for n in self.lora_param_names if named[n].requires_grad) + num_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + num_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + zero_B = sum(1 for n in self.lora_param_names if ("lora_B" in n and float(named[n].data.norm().item()) == 0.0)) + logger.info(f"LoRA debug: found {total} LoRA params (A={num_A}, B={num_B}); trainable={req_grad}. Initial lora_B_zero={zero_B}.") + if total == 0: + logger.warning("LoRA debug: No LoRA parameters found. Check lora_target_modules.") + if req_grad != total: + logger.warning("LoRA debug: Some LoRA params are frozen. They should be trainable.") + except Exception as e: + logger.warning(f"LoRA debug (on_train_begin) failed: {e}") + + def on_step_end(self, args, state, control, model=None, **kwargs): + try: + if model is None or len(self.lora_param_names) == 0: + return + step = int(getattr(state, "global_step", 0) or 0) + if step % self.log_every_n_steps != 0 and step != 1: + return + named: Dict[str, torch.nn.Parameter] = dict(model.named_parameters()) + changed_A = 0 + changed_B = 0 + zero_B = 0 + eps = 1e-12 + for n in self.lora_param_names: + p = named.get(n, None) + if p is None: + continue + prev = self.prev_param_norms.get(n, 0.0) + curr = float(p.data.norm().item()) + if "lora_A" in n and abs(curr - prev) > eps: + changed_A += 1 + if "lora_B" in n: + if abs(curr - prev) > eps: + changed_B += 1 + if curr == 0.0: + zero_B += 1 + self.prev_param_norms[n] = curr + total_A = sum(1 for n in self.lora_param_names if "lora_A" in n) + total_B = sum(1 for n in self.lora_param_names if "lora_B" in n) + logger.info(f"LoRA debug step {step}: changed A {changed_A}/{total_A}, changed B {changed_B}/{total_B}, lora_B_zero_now={zero_B}.") + except Exception as e: + logger.warning(f"LoRA debug (on_step_end) failed: {e}") + + class VibeVoiceTrainer(Trainer): + def compute_loss(self, model: VibeVoiceForConditionalGeneration, inputs: Dict[str, Any], return_outputs=False, num_items_in_batch: Optional[int] = None): + labels = inputs.get("input_ids") + attention_mask = inputs.get("attention_mask") + acoustic_input_mask = inputs.get("acoustic_input_mask") + + # Ensure semantic tensors exist and have correct dtype/device + sem = inputs.get("speech_semantic_tensors", None) + try: + target_dtype = next(model.model.semantic_connector.parameters()).dtype + except Exception: + target_dtype = model.get_input_embeddings().weight.dtype + + if sem is None: + sm = inputs.get("speech_masks") + if sm is not None: + zeros = torch.zeros( + sm.size(0), sm.size(1), + getattr(model.config, "semantic_vae_dim", 128), + dtype=target_dtype, + device=sm.device, + ) + inputs["speech_semantic_tensors"] = zeros + else: + if isinstance(sem, torch.Tensor): + inputs["speech_semantic_tensors"] = sem.to(dtype=target_dtype) + + outputs = model( + input_ids=inputs.get("input_ids"), + attention_mask=attention_mask, + speech_tensors=inputs.get("speech_tensors"), + speech_masks=inputs.get("speech_masks"), + speech_semantic_tensors=inputs.get("speech_semantic_tensors"), + acoustic_input_mask=acoustic_input_mask, + acoustic_loss_mask=inputs.get("acoustic_loss_mask"), + speeches_loss_input=inputs.get("speeches_loss_input"), + ddpm_batch_mul=training_args.ddpm_batch_mul, + ) + + # Invariants: token/latent selection equality across views (warn, don't assert) + try: + al_mask = inputs.get("acoustic_loss_mask") + sp_masks = inputs.get("speech_masks") + sp_loss_sel = inputs.get("speeches_loss_input") + num_tok_total = int(acoustic_input_mask.sum().item()) if acoustic_input_mask is not None else 0 + num_tok_loss = int(al_mask.sum().item()) if al_mask is not None else 0 + num_lat_total = int(sp_masks.sum().item()) if sp_masks is not None else 0 + num_lat_loss = int(((sp_loss_sel & sp_masks).sum().item())) if (sp_loss_sel is not None and sp_masks is not None) else 0 + self.log({ + "debug/num_tok_total": float(num_tok_total), + "debug/num_tok_loss": float(num_tok_loss), + "debug/num_lat_total": float(num_lat_total), + "debug/num_lat_loss": float(num_lat_loss), + }) + if sp_loss_sel is not None and sp_masks is not None and al_mask is not None: + if num_tok_loss != num_lat_loss: + logger.warning(f"Loss selection mismatch: acoustic_loss_mask={num_tok_loss} vs speeches_loss_input={num_lat_loss}") + except Exception: + pass + + # CE Loss + logits = outputs.logits + ce_labels = mask_for_ce(labels, attention_mask, acoustic_input_mask, pad_id=-100) + shift_logits = logits[:, :-1, :].contiguous() + loss_fct = nn.CrossEntropyLoss(ignore_index=-100) + ce_loss = loss_fct(shift_logits.view(-1, shift_logits.size(-1)), ce_labels.view(-1)) + + # Optional CE diagnostics + try: + self._debug_ce(shift_logits, ce_labels, attention_mask, acoustic_input_mask) + except Exception as e: + logger.warning(f"Failed invoking CE debug: {e}") + + # Diffusion loss + diffusion_loss = outputs.diffusion_loss if outputs.diffusion_loss is not None else torch.tensor(0.0, device=ce_loss.device) + total = training_args.ce_loss_weight * ce_loss + training_args.diffusion_loss_weight * diffusion_loss + + # Logs + try: + prefix = "train" if model.training else "eval" + self.log({ + f"{prefix}/ce_loss": ce_loss.detach().item(), + f"{prefix}/diffusion_loss": diffusion_loss.detach().item() if isinstance(diffusion_loss, torch.Tensor) else float(diffusion_loss), + }) + if hasattr(self, "optimizer") and self.optimizer is not None and len(self.optimizer.param_groups) > 0: + lr_val = self.optimizer.param_groups[0].get("lr", None) + if lr_val is not None: + self.log({"train/learning_rate_real": float(lr_val)}) + except Exception: + pass + + return (total, outputs) if return_outputs else total + + def _debug_ce(self, shift_logits: torch.Tensor, ce_labels: torch.Tensor, attention_mask: Optional[torch.Tensor], acoustic_input_mask: Optional[torch.Tensor]): + try: + if not getattr(training_args, "debug_ce_details", False): + return + step = int(getattr(self.state, "global_step", 0) or 0) + every_n = max(1, int(getattr(training_args, "debug_ce_every_n_steps", 200) or 200)) + if not (step <= 1 or (step % every_n == 0)): + return + + with torch.no_grad(): + vocab = shift_logits.size(-1) + per_token_loss = F.cross_entropy( + shift_logits.view(-1, vocab), + ce_labels.view(-1), + reduction="none", + ignore_index=-100, + ).view_as(ce_labels) + + valid_mask = ce_labels.ne(-100) + num_valid = int(valid_mask.sum().item()) + avg_loss = float((per_token_loss[valid_mask].mean().item())) if num_valid > 0 else float("nan") + + per_ex_avgs = [] + max_examples = max(1, int(getattr(training_args, "debug_ce_max_examples", 1) or 1)) + B = ce_labels.size(0) + for b in range(min(B, max_examples)): + vb = valid_mask[b] + if int(vb.sum().item()) > 0: + per_ex_avgs.append(float(per_token_loss[b][vb].mean().item())) + else: + per_ex_avgs.append(float("nan")) + logger.info(f"CE debug: tokens_in_loss={num_valid}, avg_loss={avg_loss:.4f}, per_example_avgs={[round(x,4) if x==x else None for x in per_ex_avgs]}") + except Exception as e: + logger.warning(f"CE detailed debug failed: {e}") + + # --------- CRITICAL SAVE OVERRIDES: also dump FULL head/connectors for inference --------- + + + def _save(self, output_dir: Optional[str] = None, state_dict=None) -> None: + try: + target_dir = output_dir or self.args.output_dir + lora_out = os.path.join(target_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # --- LLM PEFT adapters (if LoRA-wrapped) --- + language_model = getattr(self.model.model, "language_model", None) + if hasattr(language_model, "save_pretrained"): + language_model.save_pretrained(lora_out) + + # --- Diffusion head PEFT adapters (if LoRA-wrapped) --- + pred_head = getattr(self.model.model, "prediction_head", None) + if hasattr(pred_head, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + pred_head.save_pretrained(ph_dir) + + # --- ALWAYS save FULL diffusion head state_dict for fallback --- + if pred_head is not None and hasattr(pred_head, "state_dict"): + sd = pred_head.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + + # --- Connectors (plain state_dicts) --- + ac = getattr(self.model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + + se = getattr(self.model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + + except Exception as e: + logger.warning(f"Failed to save LoRA assets: {e}") + + + # ------------- Build the Trainer ------------- + + # Resolve which adapters to apply in samples + + ema_cb = EmaCallback(attr_path="model.prediction_head", decay=0.999, device="cuda") + + # --- CRITICAL FIX: CAST TRAINABLE PARAMS TO FP32 --- + # This prevents 'ValueError: Attempting to unscale FP16 gradients' + if getattr(training_args, 'fp16', False) or getattr(training_args, 'bf16', False): + print('>>> INFO: Enforcing float32 for trainable parameters (LoRA/Head) to fix GradScaler.') + for name, param in model.named_parameters(): + if param.requires_grad: + param.data = param.data.to(torch.float32) + # --------------------------------------------------- + + trainer = VibeVoiceTrainer( + model=model, + args=training_args, + train_dataset=train_dataset, + eval_dataset=eval_dataset, + data_collator=data_collator, + callbacks=[ema_cb, LoRADebugCallback(log_every_n_steps=(int(getattr(training_args, "logging_steps", 50) or 50)))], + ) + + # Optional debug pre-training save + if getattr(training_args, "debug_save", False): + try: + debug_dir = os.path.join(training_args.output_dir, "debug_initial") + lora_out = os.path.join(debug_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + logger.info(f"[debug_save] Saving initial (pre-training) model components to: {debug_dir}") + # language model adapters / base + try: + if hasattr(model.model.language_model, "save_pretrained"): + model.model.language_model.save_pretrained(lora_out) + except Exception as e_lm: + logger.warning(f"[debug_save] Failed to save language_model: {e_lm}") + # diffusion head + try: + if hasattr(model.model, "prediction_head") and hasattr(model.model.prediction_head, "save_pretrained"): + model.model.prediction_head.save_pretrained(os.path.join(lora_out, "diffusion_head")) + except Exception as e_head: + logger.warning(f"[debug_save] Failed to save prediction_head: {e_head}") + # NEW: full diffusion head state_dict as fallback + try: + ph = getattr(model.model, "prediction_head", None) + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + os.makedirs(os.path.join(lora_out, "diffusion_head"), exist_ok=True) + torch.save(sd, os.path.join(lora_out, "diffusion_head", "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"[debug_save] Failed to save FULL diffusion head: {e}") + # connectors + try: + ac_conn = getattr(model.model, "acoustic_connector", None) + if ac_conn is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac_conn.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e_ac: + logger.warning(f"[debug_save] Failed to save acoustic_connector: {e_ac}") + try: + se_conn = getattr(model.model, "semantic_connector", None) + if se_conn is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se_conn.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e_se: + logger.warning(f"[debug_save] Failed to save semantic_connector: {e_se}") + except Exception as e: + logger.warning(f"[debug_save] Unexpected failure saving initial components: {e}") + + if getattr(training_args, "gradient_checkpointing", False): + try: + model.gradient_checkpointing_enable() + except Exception: + logger.warning("Failed to enable gradient checkpointing on the model.") + + # ========================================================================= + # BUG FIX: Load Custom Weights from Checkpoint before resuming training + # ========================================================================= + if training_args.do_train and training_args.resume_from_checkpoint: + checkpoint_path = None + if isinstance(training_args.resume_from_checkpoint, bool) and training_args.resume_from_checkpoint: + from transformers.trainer_utils import get_last_checkpoint + checkpoint_path = get_last_checkpoint(training_args.output_dir) + else: + checkpoint_path = training_args.resume_from_checkpoint + + if checkpoint_path is not None and os.path.exists(checkpoint_path): + lora_dir = os.path.join(checkpoint_path, "lora") + if os.path.exists(lora_dir): + logger.info(f"*** Resuming custom weights (LoRA, Connectors, Head) from {lora_dir} ***") + + # 1. Load LLM LoRA + if hasattr(model.model, "language_model"): + try: + from peft import load_peft_weights, set_peft_model_state_dict + adapters_weights = load_peft_weights(lora_dir) + set_peft_model_state_dict(model.model.language_model, adapters_weights) + logger.info("Successfully loaded LLM LoRA weights.") + except Exception as e: + logger.warning(f"Could not load LLM LoRA weights: {e}") + + # 2. Load Diffusion Head + ph_full_path = os.path.join(lora_dir, "diffusion_head_full.bin") + if os.path.exists(ph_full_path) and hasattr(model.model, "prediction_head"): + try: + model.model.prediction_head.load_state_dict(torch.load(ph_full_path, map_location="cpu"), strict=False) + logger.info("Successfully loaded Diffusion Head weights.") + except Exception as e: + logger.warning(f"Failed to load Diffusion Head weights: {e}") + + # 3. Load Acoustic Connector + ac_path = os.path.join(lora_dir, "acoustic_connector", "pytorch_model.bin") + if os.path.exists(ac_path) and hasattr(model.model, "acoustic_connector"): + try: + model.model.acoustic_connector.load_state_dict(torch.load(ac_path, map_location="cpu")) + logger.info("Successfully loaded Acoustic Connector weights.") + except Exception as e: + logger.warning(f"Failed to load Acoustic Connector weights: {e}") + + # 4. Load Semantic Connector + se_path = os.path.join(lora_dir, "semantic_connector", "pytorch_model.bin") + if os.path.exists(se_path) and hasattr(model.model, "semantic_connector"): + try: + model.model.semantic_connector.load_state_dict(torch.load(se_path, map_location="cpu")) + logger.info("Successfully loaded Semantic Connector weights.") + except Exception as e: + logger.warning(f"Failed to load Semantic Connector weights: {e}") + else: + logger.warning(f"No custom 'lora' directory found inside checkpoint: {checkpoint_path}") + # ========================================================================= + + if training_args.do_train: + trainer.train(resume_from_checkpoint=training_args.resume_from_checkpoint) + + lora_out = os.path.join(training_args.output_dir, "lora") + os.makedirs(lora_out, exist_ok=True) + + # LLM PEFT (if any) + lm = getattr(model.model, "language_model", None) + if hasattr(lm, "save_pretrained"): + lm.save_pretrained(lora_out) + + # Diffusion head PEFT (if any) + ph = getattr(model.model, "prediction_head", None) + if hasattr(ph, "save_pretrained"): + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + ph.save_pretrained(ph_dir) + + # ALWAYS: full diffusion head state_dict fallback + try: + if ph is not None and hasattr(ph, "state_dict"): + sd = ph.state_dict() + torch.save(sd, os.path.join(lora_out, "diffusion_head_full.bin")) + ph_dir = os.path.join(lora_out, "diffusion_head") + os.makedirs(ph_dir, exist_ok=True) + torch.save(sd, os.path.join(ph_dir, "diffusion_head_full.bin")) + except Exception as e: + logger.warning(f"Failed to save FULL diffusion head at end: {e}") + + # Connectors (if trained) + try: + ac = getattr(model.model, "acoustic_connector", None) + if ac is not None: + ac_dir = os.path.join(lora_out, "acoustic_connector") + os.makedirs(ac_dir, exist_ok=True) + torch.save(ac.state_dict(), os.path.join(ac_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save acoustic_connector: {e}") + + try: + se = getattr(model.model, "semantic_connector", None) + if se is not None: + se_dir = os.path.join(lora_out, "semantic_connector") + os.makedirs(se_dir, exist_ok=True) + torch.save(se.state_dict(), os.path.join(se_dir, "pytorch_model.bin")) + except Exception as e: + logger.warning(f"Failed to save semantic_connector: {e}") + + if training_args.do_eval and eval_dataset is not None: + trainer.evaluate() + + +if __name__ == "__main__": + main() \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/.DS_Store b/lor/VibeVoice-finetuning/src/vibevoice/.DS_Store new file mode 100644 index 0000000000000000000000000000000000000000..6bbf48dcc9c7f23c2ee2de0372a123575236ff25 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/.DS_Store differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/configs/qwen2.5_1.5b_64k.json b/lor/VibeVoice-finetuning/src/vibevoice/configs/qwen2.5_1.5b_64k.json new file mode 100644 index 0000000000000000000000000000000000000000..febd05cd76d2a5df49c39fabcde478aa18e1ba78 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/configs/qwen2.5_1.5b_64k.json @@ -0,0 +1,112 @@ +{ + "_attn_implementation_autoset": true, + "acoustic_vae_dim": 64, + "acoustic_tokenizer_config": { + "causal": true, + "channels": 1, + "conv_bias": true, + "conv_norm": "none", + "corpus_normalize": 0.0, + "decoder_depths": null, + "decoder_n_filters": 32, + "decoder_ratios": [ + 8, + 5, + 5, + 4, + 2, + 2 + ], + "disable_last_norm": true, + "encoder_depths": "3-3-3-3-3-3-8", + "encoder_n_filters": 32, + "encoder_ratios": [ + 8, + 5, + 5, + 4, + 2, + 2 + ], + "fix_std": 0.5, + "layer_scale_init_value": 1e-06, + "layernorm": "RMSNorm", + "layernorm_elementwise_affine": true, + "layernorm_eps": 1e-05, + "mixer_layer": "depthwise_conv", + "model_type": "vibepod_acoustic_tokenizer", + "pad_mode": "constant", + "std_dist_type": "gaussian", + "vae_dim": 64, + "weight_init_value": 0.01 + }, + "decoder_config": { + "attention_dropout": 0.0, + "hidden_act": "silu", + "hidden_size": 1536, + "initializer_range": 0.02, + "intermediate_size": 8960, + "max_position_embeddings": 65536, + "max_window_layers": 28, + "model_type": "qwen2", + "num_attention_heads": 12, + "num_hidden_layers": 28, + "num_key_value_heads": 2, + "rms_norm_eps": 1e-06, + "rope_scaling": null, + "rope_theta": 1000000.0, + "sliding_window": null, + "tie_word_embeddings": true, + "torch_dtype": "bfloat16", + "use_cache": true, + "use_sliding_window": false, + "vocab_size": 151936 + }, + "diffusion_head_config": { + "ddpm_batch_mul": 4, + "ddpm_beta_schedule": "cosine", + "ddpm_num_inference_steps": 20, + "ddpm_num_steps": 1000, + "diffusion_type": "ddpm", + "head_ffn_ratio": 3.0, + "head_layers": 4, + "hidden_size": 1536, + "latent_size": 64, + "model_type": "vibepod_diffusion_head", + "prediction_type": "v_prediction", + "rms_norm_eps": 1e-05, + "speech_vae_dim": 64 + }, + "model_type": "vibepod", + "semantic_tokenizer_config": { + "causal": true, + "channels": 1, + "conv_bias": true, + "conv_norm": "none", + "corpus_normalize": 0.0, + "disable_last_norm": true, + "encoder_depths": "3-3-3-3-3-3-8", + "encoder_n_filters": 32, + "encoder_ratios": [ + 8, + 5, + 5, + 4, + 2, + 2 + ], + "fix_std": 0, + "layer_scale_init_value": 1e-06, + "layernorm": "RMSNorm", + "layernorm_elementwise_affine": true, + "layernorm_eps": 1e-05, + "mixer_layer": "depthwise_conv", + "model_type": "vibepod_semantic_tokenizer", + "pad_mode": "constant", + "std_dist_type": "none", + "vae_dim": 128, + "weight_init_value": 0.01 + }, + "semantic_vae_dim": 128, + "torch_dtype": "bfloat16" +} diff --git a/lor/VibeVoice-finetuning/src/vibevoice/configs/qwen2.5_7b_32k.json b/lor/VibeVoice-finetuning/src/vibevoice/configs/qwen2.5_7b_32k.json new file mode 100644 index 0000000000000000000000000000000000000000..d39952c3b572bbd553dc84a827ee1cd2ffaab90e --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/configs/qwen2.5_7b_32k.json @@ -0,0 +1,113 @@ +{ + "_attn_implementation_autoset": true, + "acoustic_vae_dim": 64, + "acoustic_tokenizer_config": { + "causal": true, + "channels": 1, + "conv_bias": true, + "conv_norm": "none", + "corpus_normalize": 0.0, + "decoder_depths": null, + "decoder_n_filters": 32, + "decoder_ratios": [ + 8, + 5, + 5, + 4, + 2, + 2 + ], + "disable_last_norm": true, + "encoder_depths": "3-3-3-3-3-3-8", + "encoder_n_filters": 32, + "encoder_ratios": [ + 8, + 5, + 5, + 4, + 2, + 2 + ], + "fix_std": 0.5, + "layer_scale_init_value": 1e-06, + "layernorm": "RMSNorm", + "layernorm_elementwise_affine": true, + "layernorm_eps": 1e-05, + "mixer_layer": "depthwise_conv", + "model_type": "vibepod_acoustic_tokenizer", + "pad_mode": "constant", + "std_dist_type": "gaussian", + "vae_dim": 64, + "weight_init_value": 0.01 + }, + "decoder_config": { + "attention_dropout": 0.0, + "hidden_act": "silu", + "hidden_size": 3584, + "initializer_range": 0.02, + "intermediate_size": 18944, + "max_position_embeddings": 32768, + "max_window_layers": 28, + "model_type": "qwen2", + "num_attention_heads": 28, + "num_hidden_layers": 28, + "num_key_value_heads": 4, + "rms_norm_eps": 1e-06, + "rope_theta": 1000000.0, + "sliding_window": null, + "tie_word_embeddings": false, + "torch_dtype": "bfloat16", + "transformers_version": "4.40.1", + "use_cache": true, + "use_mrope": false, + "use_sliding_window": false, + "vocab_size": 152064 + }, + "diffusion_head_config": { + "ddpm_batch_mul": 4, + "ddpm_beta_schedule": "cosine", + "ddpm_num_inference_steps": 20, + "ddpm_num_steps": 1000, + "diffusion_type": "ddpm", + "head_ffn_ratio": 3.0, + "head_layers": 4, + "hidden_size": 3584, + "latent_size": 64, + "model_type": "vibepod_diffusion_head", + "prediction_type": "v_prediction", + "rms_norm_eps": 1e-05, + "speech_vae_dim": 64 + }, + "model_type": "vibepod", + "semantic_tokenizer_config": { + "causal": true, + "channels": 1, + "conv_bias": true, + "conv_norm": "none", + "corpus_normalize": 0.0, + "disable_last_norm": true, + "encoder_depths": "3-3-3-3-3-3-8", + "encoder_n_filters": 32, + "encoder_ratios": [ + 8, + 5, + 5, + 4, + 2, + 2 + ], + "fix_std": 0, + "layer_scale_init_value": 1e-06, + "layernorm": "RMSNorm", + "layernorm_elementwise_affine": true, + "layernorm_eps": 1e-05, + "mixer_layer": "depthwise_conv", + "model_type": "vibepod_semantic_tokenizer", + "pad_mode": "constant", + "std_dist_type": "none", + "vae_dim": 128, + "weight_init_value": 0.01 + }, + "semantic_vae_dim": 128, + "torch_dtype": "bfloat16" +} diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__init__.py b/lor/VibeVoice-finetuning/src/vibevoice/modular/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/__init__.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/__init__.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..75abd33514b354f836cbf11fb4ed3c01dd7f9e6a Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/__init__.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/__init__.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/__init__.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..3eb1cdb5d347511f8a51ad31330e6a3bae899024 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/__init__.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/configuration_vibevoice.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/configuration_vibevoice.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..68d5384cfd6c81d18ae8f925e8c74aa2667caf4e Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/configuration_vibevoice.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/configuration_vibevoice.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/configuration_vibevoice.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..5d796227c68b4e5a84dc2593e5f448cb5296fe8a Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/configuration_vibevoice.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modeling_vibevoice.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modeling_vibevoice.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..20066ad4870d7688e3e6652bbf9cfe6edcbe1443 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modeling_vibevoice.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modeling_vibevoice.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modeling_vibevoice.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..5e0c77fa0d0d1acbde452f048b678efaed3d6908 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modeling_vibevoice.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modeling_vibevoice_inference.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modeling_vibevoice_inference.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..68ce5bb62ebf05bf70cc893e85bb5f4545aceef0 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modeling_vibevoice_inference.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_diffusion_head.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_diffusion_head.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..0729bf1d875fea788853ad0a17ae5473112d9844 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_diffusion_head.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_diffusion_head.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_diffusion_head.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..3fa9f9188259c8614c0bd1766341a0a2160f4183 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_diffusion_head.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_text_tokenizer.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_text_tokenizer.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..d50794e10a1e66bc346d854620f41c623dbaf47c Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_text_tokenizer.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_text_tokenizer.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_text_tokenizer.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..c552b076d9508067e3bd726231e3638a2aa9c0ef Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_text_tokenizer.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_tokenizer.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_tokenizer.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..16bd53fad1482f693fe96add8a81ecbae1befbdc Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_tokenizer.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_tokenizer.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_tokenizer.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..6ea31728ba2a27c7efbbdf6cab3f4605838654da Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/modular/__pycache__/modular_vibevoice_tokenizer.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/configuration_vibevoice.py b/lor/VibeVoice-finetuning/src/vibevoice/modular/configuration_vibevoice.py new file mode 100644 index 0000000000000000000000000000000000000000..fcffcb93afae6358f57a155d6fb6eb009b69a706 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/modular/configuration_vibevoice.py @@ -0,0 +1,248 @@ +""" VibeVoice_AcousticTokenizer model configuration""" + +from typing import Dict, List, Optional, Tuple + +from transformers.configuration_utils import PretrainedConfig +from transformers.utils import logging + +from transformers.models.qwen2.configuration_qwen2 import Qwen2Config + +logger = logging.get_logger(__name__) + + +class VibeVoiceAcousticTokenizerConfig(PretrainedConfig): + model_type = "vibevoice_acoustic_tokenizer" + + def __init__( + self, + channels: int = 1, + corpus_normalize: float = 0.0, + causal: bool = True, + vae_dim: int = 64, + fix_std: float = 0.5, + std_dist_type: str = 'gaussian', + # common + mixer_layer: str = 'depthwise_conv', + conv_norm: str = 'none', + pad_mode: str = 'constant', + disable_last_norm: bool = True, + layernorm: str = 'RMSNorm', + layernorm_eps: float = 1e-5, + layernorm_elementwise_affine: bool = True, + conv_bias: bool = True, + layer_scale_init_value: float = 1e-6, + weight_init_value: float = 1e-2, + # encoder specific + encoder_n_filters: int = 32, + encoder_ratios: Optional[List[int]] = [8,5,5,4,2,2], + encoder_depths: str = "3-3-3-3-3-3-8", + # decoder specific + decoder_n_filters: int = 32, + decoder_ratios: Optional[List[int]] = None, # if None, same as encoder + decoder_depths: Optional[str] = None, + **kwargs + ): + super().__init__(**kwargs) + self.channels = channels + self.corpus_normalize = corpus_normalize + self.causal = causal + self.vae_dim = vae_dim + self.fix_std = fix_std + self.std_dist_type = std_dist_type + + # common parameters + self.conv_norm = conv_norm + self.pad_mode = pad_mode + self.layernorm_eps = layernorm_eps + self.disable_last_norm = disable_last_norm + self.layernorm = layernorm + self.layernorm_elementwise_affine = layernorm_elementwise_affine + self.conv_bias = conv_bias + self.layer_scale_init_value = layer_scale_init_value + self.weight_init_value = weight_init_value + self.mixer_layer = mixer_layer + + # encoder specific parameters + self.encoder_n_filters = encoder_n_filters + self.encoder_ratios = encoder_ratios + self.encoder_depths = encoder_depths + + # decoder specific parameters + self.decoder_ratios = decoder_ratios if decoder_ratios is not None else encoder_ratios + self.decoder_n_filters = decoder_n_filters + self.decoder_depths = decoder_depths + + +class VibeVoiceSemanticTokenizerConfig(PretrainedConfig): + model_type = "vibevoice_semantic_tokenizer" + + def __init__( + self, + channels: int = 1, + corpus_normalize: float = 0.0, + causal: bool = True, + vae_dim: int = 64, + fix_std: float = 0, + std_dist_type: str = 'none', + # common + mixer_layer: str = 'depthwise_conv', + conv_norm: str = 'none', + pad_mode: str = 'constant', + disable_last_norm: bool = True, + layernorm: str = 'RMSNorm', + layernorm_eps: float = 1e-5, + layernorm_elementwise_affine: bool = True, + conv_bias: bool = True, + layer_scale_init_value: float = 1e-6, + weight_init_value: float = 1e-2, + # encoder specific + encoder_n_filters: int = 32, + encoder_ratios: Optional[List[int]] = [8,5,5,4,2,2], + encoder_depths: str = "3-3-3-3-3-3-8", + **kwargs + ): + super().__init__(**kwargs) + self.channels = channels + self.corpus_normalize = corpus_normalize + self.causal = causal + self.vae_dim = vae_dim + self.fix_std = fix_std + self.std_dist_type = std_dist_type + + # common parameters + self.conv_norm = conv_norm + self.pad_mode = pad_mode + self.layernorm_eps = layernorm_eps + self.disable_last_norm = disable_last_norm + self.layernorm = layernorm + self.layernorm_elementwise_affine = layernorm_elementwise_affine + self.conv_bias = conv_bias + self.layer_scale_init_value = layer_scale_init_value + self.weight_init_value = weight_init_value + self.mixer_layer = mixer_layer + + # encoder specific parameters + self.encoder_n_filters = encoder_n_filters + self.encoder_ratios = encoder_ratios + self.encoder_depths = encoder_depths + + +class VibeVoiceDiffusionHeadConfig(PretrainedConfig): + model_type = "vibevoice_diffusion_head" + + def __init__( + self, + hidden_size=768, + head_layers=4, + head_ffn_ratio=3.0, + rms_norm_eps=1e-5, + latent_size=64, + speech_vae_dim=None, + prediction_type="v_prediction", + diffusion_type="ddpm", + ddpm_num_steps=1000, + ddpm_num_inference_steps=20, + ddpm_beta_schedule="cosine", + ddpm_batch_mul=4, + **kwargs + ): + self.hidden_size = hidden_size + self.head_layers = head_layers + self.head_ffn_ratio = head_ffn_ratio + self.rms_norm_eps = rms_norm_eps + self.latent_size = latent_size + self.speech_vae_dim = speech_vae_dim + self.prediction_type = prediction_type + self.diffusion_type = diffusion_type + self.ddpm_num_steps = ddpm_num_steps + self.ddpm_num_inference_steps = ddpm_num_inference_steps + self.ddpm_beta_schedule = ddpm_beta_schedule + self.ddpm_batch_mul = ddpm_batch_mul + + super().__init__(**kwargs) + +class VibeVoiceConfig(PretrainedConfig): + model_type = "vibevoice" + is_composition = True + sub_configs = { + "acoustic_tokenizer_config": VibeVoiceAcousticTokenizerConfig, + "semantic_tokenizer_config": VibeVoiceSemanticTokenizerConfig, + "decoder_config": Qwen2Config, + "diffusion_head_config": VibeVoiceDiffusionHeadConfig, + } + # keys_to_ignore_at_inference = ["past_key_values"] + # Default tensor parallel plan for base model `Qwen2` + base_model_tp_plan = { + "layers.*.self_attn.q_proj": "colwise", + "layers.*.self_attn.k_proj": "colwise", + "layers.*.self_attn.v_proj": "colwise", + "layers.*.self_attn.o_proj": "rowwise", + "layers.*.mlp.gate_proj": "colwise", + "layers.*.mlp.up_proj": "colwise", + "layers.*.mlp.down_proj": "rowwise", + } + + def __init__( + self, + acoustic_tokenizer_config=None, + semantic_tokenizer_config=None, + decoder_config=None, + diffusion_head_config=None, + **kwargs + ): + + # kwargs["_attn_implementation"] = "flash_attention_2" + kwargs["_attn_implementation_autoset"] = False + + if acoustic_tokenizer_config is None: + self.acoustic_tokenizer_config = self.sub_configs["acoustic_tokenizer_config"]() + elif isinstance(acoustic_tokenizer_config, dict): + acoustic_tokenizer_config["model_type"] = "vibevoice_acoustic_tokenizer" + self.acoustic_tokenizer_config = self.sub_configs["acoustic_tokenizer_config"](**acoustic_tokenizer_config) + elif isinstance(acoustic_tokenizer_config, VibeVoiceAcousticTokenizerConfig): + # If an instance of the config class is provided + self.acoustic_tokenizer_config = acoustic_tokenizer_config + + if semantic_tokenizer_config is None: + self.semantic_tokenizer_config = self.sub_configs["semantic_tokenizer_config"]() + elif isinstance(semantic_tokenizer_config, dict): + semantic_tokenizer_config["model_type"] = "vibevoice_semantic_tokenizer" + self.semantic_tokenizer_config = self.sub_configs["semantic_tokenizer_config"](**semantic_tokenizer_config) + elif isinstance(semantic_tokenizer_config, VibeVoiceSemanticTokenizerConfig): + # If an instance of the config class is provided + self.semantic_tokenizer_config = semantic_tokenizer_config + + if decoder_config is None: + self.decoder_config = self.sub_configs["decoder_config"]() + elif isinstance(decoder_config, dict): + # If a dictionary is provided, instantiate the config class with it + # self.decoder_config = self.sub_configs["decoder_config"](**decoder_config) + if decoder_config.get("model_type", '') == "qwen2": + self.decoder_config = Qwen2Config(**decoder_config) + else: + raise ValueError(f"Unsupported decoder model type: {decoder_config.get('model_type', '')}") + elif isinstance(decoder_config, (Qwen2Config,)): + # If an instance of the config class is provided + self.decoder_config = decoder_config + + if diffusion_head_config is None: + self.diffusion_head_config = self.sub_configs["diffusion_head_config"]() + elif isinstance(diffusion_head_config, dict): + diffusion_head_config["model_type"] = "vibevoice_diffusion_head" + self.diffusion_head_config = self.sub_configs["diffusion_head_config"](**diffusion_head_config) + elif isinstance(diffusion_head_config, VibeVoiceDiffusionHeadConfig): + # If an instance of the config class is provided + self.diffusion_head_config = diffusion_head_config + + # other parameters + self.acoustic_vae_dim = getattr(self.acoustic_tokenizer_config, 'vae_dim', 64) + self.semantic_vae_dim = getattr(self.semantic_tokenizer_config, 'vae_dim', 128) + + super().__init__(**kwargs) + +__all__ = [ + "VibeVoiceAcousticTokenizerConfig", + "VibeVoiceSemanticTokenizerConfig", + "VibeVoiceDiffusionHeadConfig", + "VibeVoiceConfig" +] \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/modeling_vibevoice.py b/lor/VibeVoice-finetuning/src/vibevoice/modular/modeling_vibevoice.py new file mode 100644 index 0000000000000000000000000000000000000000..92fbd09b7b5d811440a44359980096560c63fd6e --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/modular/modeling_vibevoice.py @@ -0,0 +1,508 @@ +from dataclasses import dataclass +from typing import Dict, List, Optional, Tuple, Union, Callable +from tqdm import tqdm +import torch +import torch.nn as nn +import torch.nn.functional as F +import torch.distributed as dist + +from transformers.models.auto import AutoModel, AutoModelForCausalLM + +from transformers.activations import ACT2FN +from transformers.modeling_outputs import CausalLMOutput, BaseModelOutputWithPast, ModelOutput +from transformers.models.llama.modeling_llama import LlamaRMSNorm +from transformers import modeling_utils +from transformers.modeling_utils import PreTrainedModel +from transformers.modeling_flash_attention_utils import FlashAttentionKwargs +from transformers.utils import logging + + +from .modular_vibevoice_tokenizer import VibeVoiceTokenizerStreamingCache, VibeVoiceAcousticTokenizerModel, VibeVoiceSemanticTokenizerModel +from .modular_vibevoice_diffusion_head import VibeVoiceDiffusionHead +from vibevoice.schedule.dpm_solver import DPMSolverMultistepScheduler + +from .configuration_vibevoice import VibeVoiceConfig + + +logger = logging.get_logger(__name__) + +if not hasattr(modeling_utils, "ALL_PARALLEL_STYLES") or modeling_utils.ALL_PARALLEL_STYLES is None: + modeling_utils.ALL_PARALLEL_STYLES = ["tp", "none", "colwise", "rowwise"] + +@dataclass +class VibeVoiceCausalLMOutputWithPast(ModelOutput): + loss: Optional[torch.FloatTensor] = None + diffusion_loss: Optional[torch.FloatTensor] = None + speech_token_num: Optional[int] = None + logits: torch.FloatTensor = None + past_key_values: Optional[Tuple[Tuple[torch.FloatTensor]]] = None + hidden_states: Optional[Tuple[torch.FloatTensor, ...]] = None + attentions: Optional[Tuple[torch.FloatTensor, ...]] = None + + +@dataclass +class VibeVoiceGenerationOutput(ModelOutput): + """ + Output type for VibeVoice generation. + + Args: + sequences (`torch.LongTensor` of shape `(batch_size, sequence_length)`): + The generated sequences. + speech_outputs (`List[torch.FloatTensor]`, *optional*): + List of generated speech waveforms or latents for each speech segment. + """ + sequences: torch.LongTensor = None + speech_outputs: Optional[List[torch.FloatTensor]] = None + + +class SpeechConnector(nn.Module): + def __init__(self, input_dim, output_dim): + super().__init__() + self.fc1 = nn.Linear(input_dim, output_dim) + self.norm = LlamaRMSNorm(output_dim, eps=1e-6) + self.fc2 = nn.Linear(output_dim, output_dim) + + def forward(self, features, **kwargs): + x = self.fc1(features) + x = self.norm(x) + x = self.fc2(x) + return x + + +# @auto_docstring +class VibeVoicePreTrainedModel(PreTrainedModel): + config_class = VibeVoiceConfig + base_model_prefix = "model" + supports_gradient_checkpointing = True + _skip_keys_device_placement = "past_key_values" + _supports_cache_class = True + _supports_flash_attn_2 = True + _supports_sdpa = True + _supports_quantized_cache = True + _supports_static_cache = True + _supports_attention_backend = True + + def _init_weights(self, module): + if isinstance(module, VibeVoiceDiffusionHead): + module.initialize_weights() + return + + # Use the language model's initializer_range if available + if hasattr(self.config, 'language_model_config') and hasattr(self.config.language_model_config, 'initializer_range'): + std = self.config.language_model_config.initializer_range + elif hasattr(self.config, 'decoder_config') and hasattr(self.config.decoder_config, 'initializer_range'): + std = self.config.decoder_config.initializer_range + else: + std = 0.02 # Default value + + if isinstance(module, nn.Linear): + module.weight.data.normal_(mean=0.0, std=std) + if module.bias is not None: + module.bias.data.zero_() + elif isinstance(module, nn.LayerNorm): + module.weight.data.fill_(1.0) + module.bias.data.zero_() + +# @auto_docstring +class VibeVoiceModel(VibeVoicePreTrainedModel): + def __init__(self, config): + super().__init__(config) + + if hasattr(config, 'torch_dtype') and config.torch_dtype is not None: + if isinstance(config.torch_dtype, str): + dtype = getattr(torch, config.torch_dtype) + else: + dtype = config.torch_dtype + else: + dtype = torch.float32 + + # Initialize Qwen2 model for language modeling + lm_config = config.decoder_config + self.language_model = AutoModel.from_config(lm_config) + + # Initialize speech components if needed + self.acoustic_tokenizer = AutoModel.from_config(config.acoustic_tokenizer_config).to(dtype) + self.semantic_tokenizer = AutoModel.from_config(config.semantic_tokenizer_config).to(dtype) + + self.acoustic_connector = SpeechConnector(config.acoustic_vae_dim, lm_config.hidden_size).to(dtype) + self.semantic_connector = SpeechConnector(config.semantic_vae_dim, lm_config.hidden_size).to(dtype) + + # Register scaling factors as buffers - use 1D tensors for FSDP compatibility + self.register_buffer('speech_scaling_factor', torch.tensor(float('nan'))) + self.register_buffer('speech_bias_factor', torch.tensor(float('nan'))) + + # Initialize prediction head for speech generation + self.prediction_head = AutoModel.from_config(config.diffusion_head_config).to(dtype) + + # Initialize noise scheduler + self.noise_scheduler = DPMSolverMultistepScheduler( + num_train_timesteps=config.diffusion_head_config.ddpm_num_steps, + beta_schedule=config.diffusion_head_config.ddpm_beta_schedule, + prediction_type=config.diffusion_head_config.prediction_type + ) + + def get_input_embeddings(self): + if hasattr(self.language_model, 'embed_tokens'): + # If the language model has an embed_tokens attribute, return it + return self.language_model.embed_tokens + + for name, attr in self.language_model.fullmap.items(): # parallel by nnscaler, the name is changed + if attr.orig_name == 'embed_tokens.weight': + return getattr(self.language_model, name) + assert False, 'should not arrive here' + + def set_input_embeddings(self, value): + self.language_model.embed_tokens = value + + def set_speech_tokenizers(self, acoustic_tokenizer=None, semantic_tokenizer=None): + """Set the speech tokenizers used for encoding and decoding speech.""" + self.acoustic_tokenizer = acoustic_tokenizer + self.semantic_tokenizer = semantic_tokenizer + + # Reset the encoder to evaluation mode + if self.acoustic_tokenizer is not None: + self.acoustic_tokenizer.eval() + + if self.semantic_tokenizer is not None: + self.semantic_tokenizer.eval() + + def forward( + self, + input_ids: torch.LongTensor = None, + attention_mask: Optional[torch.Tensor] = None, + position_ids: Optional[torch.LongTensor] = None, + past_key_values: Optional[Tuple[Tuple[torch.FloatTensor]]] = None, + inputs_embeds: Optional[torch.FloatTensor] = None, + use_cache: Optional[bool] = None, + output_attentions: Optional[bool] = None, + output_hidden_states: Optional[bool] = None, + return_dict: Optional[bool] = None, + cache_position: Optional[torch.LongTensor] = None, + **kwargs, + ) -> Union[Tuple, BaseModelOutputWithPast]: + + return_dict = return_dict if return_dict is not None else self.config.use_return_dict + + # Forward through language model + outputs = self.language_model( + input_ids=input_ids, + attention_mask=attention_mask, + position_ids=position_ids, + past_key_values=past_key_values, + inputs_embeds=inputs_embeds, + use_cache=use_cache, + output_attentions=output_attentions, + output_hidden_states=output_hidden_states, + return_dict=return_dict, + cache_position=cache_position, + **kwargs, + ) + + if not return_dict: + return outputs + + return BaseModelOutputWithPast( + last_hidden_state=outputs.last_hidden_state, + past_key_values=outputs.past_key_values, + hidden_states=outputs.hidden_states, + attentions=outputs.attentions, + ) + + +class VibeVoiceForConditionalGeneration(VibeVoicePreTrainedModel): + _tied_weights_keys = ["lm_head.weight"] + _tp_plan = {"lm_head": "colwise_rep"} + + def __init__(self, config): + super().__init__(config) + self.model = VibeVoiceModel(config) + self.vocab_size = config.decoder_config.vocab_size + self.lm_head = nn.Linear(config.decoder_config.hidden_size, self.vocab_size, bias=False) + + self.post_init() + + def get_input_embeddings(self): + return self.model.get_input_embeddings() + + def set_input_embeddings(self, value): + self.model.set_input_embeddings(value) + + def get_output_embeddings(self): + return self.lm_head + + def set_decoder(self, decoder): + self.model.language_model = decoder + + def get_decoder(self): + return self.model.language_model + + def tie_weights(self): + """ + Tie the weights between the input embeddings and the output embeddings. + """ + if getattr(self.config.decoder_config, 'tie_word_embeddings', False): + # The standard PreTrainedModel method will handle the tying. + # It typically does a simple parameter object assignment, which is + # CORRECT to do BEFORE FSDP wraps the model. + output_embeddings = self.get_output_embeddings() + input_embeddings = self.get_input_embeddings() + if hasattr(input_embeddings, 'weight'): + output_embeddings.weight = input_embeddings.weight + else: + # maybe returned input_embeddings a tensor directly + output_embeddings.weight = input_embeddings + + if getattr(output_embeddings, "bias", None) is not None: + output_embeddings.bias.data = nn.functional.pad( + output_embeddings.bias.data, + (0, output_embeddings.weight.shape[0] - output_embeddings.bias.shape[0]), + "constant", + 0, + ) + print("✅ Tied input and output embeddings using standard assignment.") + else: + print("ℹ️ tie_word_embeddings is False, not tying weights.") + + # Also, ensure set_output_embeddings is safe, though your implementation looks okay. + # The key is to avoid calling it after accelerator.prepare(). + def set_output_embeddings(self, new_embeddings): + # Your current implementation using data.copy_ is good practice, + # but the best way is to not call this after prepare(). + self.lm_head = new_embeddings + + def forward_speech_features( + self, + speech_tensors=None, + speech_masks=None, + speech_type="audio", + return_unmask=False + ): + if speech_tensors is None: + # Use config to get vae_dim instead of non-existent self.args + vae_dim = self.config.acoustic_tokenizer_config.vae_dim + audio_features = torch.zeros(1, 1, vae_dim).to(self.get_input_embeddings().weight) + connect_features = self.model.acoustic_connector(audio_features) + return audio_features, connect_features + else: + with torch.no_grad(): + if speech_type == "audio": + with torch.no_grad(): + frames = self.model.acoustic_tokenizer.encode(speech_tensors.unsqueeze(1))[0][0] + audio_tokens = frames.sample(self.model.acoustic_tokenizer.std_dist_type)[0] + + elif speech_type == "vae": + # Use config to get vae_dim instead of non-existent self.args + vae_dim = self.config.acoustic_tokenizer_config.vae_dim + speech_mode = speech_tensors.reshape(speech_tensors.size(0), -1, vae_dim) + + # gaussian sample from the speech_mode + batch_size = speech_mode.size(0) + value = self.model.acoustic_tokenizer.fix_std / 0.8 + std = torch.randn(batch_size, dtype=speech_mode.dtype, device=speech_mode.device) * value + std = std.view(-1, *[1] * (speech_mode.dim() - 1)) + audio_tokens = speech_mode + std * torch.randn(speech_mode.shape).to(speech_mode) + else: + raise NotImplementedError(f"Speech type {speech_type} not implemented") + + if torch.isnan(self.model.speech_scaling_factor) or torch.isnan(self.model.speech_bias_factor): + scaling_factor = 1. / audio_tokens[speech_masks].flatten().std() + bias_factor = -audio_tokens[speech_masks].flatten().mean() + + # Only use distributed operations if the process group is initialized + if dist.is_available() and dist.is_initialized(): + dist.all_reduce(scaling_factor, op=dist.ReduceOp.SUM) + dist.all_reduce(bias_factor, op=dist.ReduceOp.SUM) + world_size = dist.get_world_size() + self.model.speech_scaling_factor.copy_(scaling_factor / world_size) + self.model.speech_bias_factor.copy_(bias_factor / world_size) + print(f"Speech scaling factor (distributed): {self.model.speech_scaling_factor}, bias factor: {self.model.speech_bias_factor}", flush=True) + else: + # Single process case + self.model.speech_scaling_factor.copy_(scaling_factor) + self.model.speech_bias_factor.copy_(bias_factor) + print(f"Speech scaling factor (single process): {self.model.speech_scaling_factor}, bias factor: {self.model.speech_bias_factor}", flush=True) + + audio_features = (audio_tokens + self.model.speech_bias_factor) * self.model.speech_scaling_factor + + connect_features = self.model.acoustic_connector(audio_features) + if return_unmask: + return audio_features, connect_features + return audio_features[speech_masks], connect_features[speech_masks] + + def forward( + self, + input_ids: torch.LongTensor = None, + attention_mask: Optional[torch.Tensor] = None, + position_ids: Optional[torch.LongTensor] = None, + past_key_values: Optional[List[torch.FloatTensor]] = None, + inputs_embeds: Optional[torch.FloatTensor] = None, + labels: Optional[torch.LongTensor] = None, + use_cache: Optional[bool] = False, + output_attentions: Optional[bool] = None, + output_hidden_states: Optional[bool] = None, + return_dict: Optional[bool] = None, + cache_position: Optional[torch.LongTensor] = None, + # New arguments for speech processing and loss calculation + speech_tensors: Optional[torch.FloatTensor] = None, + speech_masks: Optional[torch.BoolTensor] = None, + speeches_loss_input: Optional[torch.FloatTensor] = None, + speech_semantic_tensors: Optional[torch.FloatTensor] = None, + acoustic_input_mask: Optional[torch.BoolTensor] = None, + acoustic_loss_mask: Optional[torch.BoolTensor] = None, + ddpm_batch_mul: int = 1, + **kwargs: Optional[Dict[str, Union[torch.Tensor, str]]], + ) -> Union[Tuple, VibeVoiceCausalLMOutputWithPast]: + + return_dict = return_dict if return_dict is not None else self.config.use_return_dict + + x = self.get_input_embeddings()(input_ids) + + semantic_speech_all_connect_features = self.model.semantic_connector(speech_semantic_tensors) + if speeches_loss_input is not None: + # only part audio need diffuse + speech_all_features, speech_all_connect_features = self.forward_speech_features( + speech_tensors=speech_tensors.type_as(x) if speech_tensors is not None else None, + speech_masks=speech_masks, + speech_type=kwargs.get("speech_type", "audio"), + return_unmask=True + ) + if speech_tensors is not None: + if semantic_speech_all_connect_features is not None: + x[acoustic_input_mask] = speech_all_connect_features[speech_masks] + semantic_speech_all_connect_features[speech_masks] + else: + x[acoustic_input_mask] = speech_all_connect_features[speech_masks] + speech_features = speech_all_features[speeches_loss_input & speech_masks] # only part audio need diffuse + speech_connect_features = speech_all_connect_features[speeches_loss_input & speech_masks] + # Forward-time consistency check: selected latent count should match number of acoustic placeholders + try: + if acoustic_input_mask is not None: + assert speech_connect_features.shape[0] == int(acoustic_input_mask.sum().item()), ( + f"Mismatch between selected speech connectors ({speech_connect_features.shape[0]}) and acoustic_input_mask sum ({int(acoustic_input_mask.sum().item())})" + ) + except Exception: + pass + else: + speech_features, speech_connect_features = self.forward_speech_features( + speech_tensors=speech_tensors.type_as(x) if speech_tensors is not None else None, + speech_masks=speech_masks, + speech_type=kwargs.get("speech_type", "audio"), + ) + if speech_tensors is not None: + x[acoustic_input_mask] = speech_connect_features + + outputs = self.model( + input_ids=None, + attention_mask=attention_mask, + position_ids=position_ids, + past_key_values=past_key_values, + inputs_embeds=x, + use_cache=use_cache, + output_attentions=output_attentions, + output_hidden_states=False, + return_dict=return_dict, + cache_position=cache_position, + ) + + hidden_states = outputs.last_hidden_state + logits = self.lm_head(hidden_states) + # logits = logits.float() + + loss = None + if labels is not None: + # The custom CE loss with masking is calculated in the training script. + # We leave the standard loss calculation here as None. + pass + + # --- Diffusion Loss Calculation --- + diffusion_loss = None + # This block is executed only if we are in a context that involves speech. + if speech_tensors is not None and acoustic_loss_mask.sum().item() > 0: + # Build conditioning mask from positions whose NEXT token is a speech latent (shift left by 1) + cond_mask = torch.zeros_like(acoustic_loss_mask, dtype=torch.bool) + cond_mask[:, :-1] = acoustic_loss_mask[:, 1:] + cond_mask[:, 0] = False + condition_features = hidden_states[cond_mask] + + speech_len, latent_size = speech_features.shape + # Sanity check: ensure 1:1 alignment between selected conditions and latents + try: + assert condition_features.shape[0] == speech_len, ( + f"Mismatch: condition_features={condition_features.shape[0]} vs speech_features={speech_len}" + ) + except Exception: + pass + + noise = torch.randn( + (speech_len * ddpm_batch_mul, latent_size), + device=hidden_states.device, + dtype=hidden_states.dtype + ) + + timesteps = torch.multinomial( + torch.ones(self.config.diffusion_head_config.ddpm_num_steps), + speech_len * ddpm_batch_mul, + replacement=True, + ).to(hidden_states.device) + + speech_features_repeated = speech_features.repeat_interleave(ddpm_batch_mul, dim=0) + condition_features_repeated = condition_features.repeat_interleave(ddpm_batch_mul, dim=0) + + noisy_speech_features = self.model.noise_scheduler.add_noise( + speech_features_repeated, noise, timesteps + ) + + model_output = self.model.prediction_head( + noisy_speech_features, + timesteps.type_as(x), + condition_features_repeated + ) + + prediction_type = self.config.diffusion_head_config.prediction_type + if prediction_type == "epsilon": + target_for_loss = noise + elif prediction_type == "v_prediction": + target_for_loss = self.model.noise_scheduler.get_velocity( + speech_features_repeated, noise, timesteps + ) + else: + raise NotImplementedError(f"Prediction type {prediction_type} not implemented") + + diffusion_loss = F.mse_loss(model_output.float(), target_for_loss.float(), reduction='sum') + if latent_size > 0 and ddpm_batch_mul > 0: + # Normalize by latent dim, number of sampled diffusion steps per latent, and number of speech tokens + diffusion_loss = diffusion_loss / latent_size / ddpm_batch_mul / max(speech_len, 1) + else: + diffusion_loss = torch.tensor(0.0, device=diffusion_loss.device) + + else: + # Dummy loss for DDP to work when there are no speech samples in a batch, + # but we are in a speech context. + diffusion_loss = sum(p.sum() for p in self.model.prediction_head.parameters()) * 0.0 + diffusion_loss += sum(p.sum() for p in self.model.acoustic_connector.parameters()) * 0.0 + diffusion_loss += sum(p.sum() for p in self.model.semantic_connector.parameters()) * 0.0 + # --- End Diffusion Loss Calculation --- + + if not return_dict: + output = (logits, speech_len) + outputs.to_tuple()[1:] + return (loss, diffusion_loss) + output + + return VibeVoiceCausalLMOutputWithPast( + loss=loss, + diffusion_loss=diffusion_loss, + speech_token_num=speech_len if speech_tensors is not None else 0, + logits=logits, + past_key_values=outputs.past_key_values, + hidden_states=outputs.hidden_states, + attentions=outputs.attentions, + ) + +AutoModel.register(VibeVoiceConfig, VibeVoiceModel) +AutoModelForCausalLM.register(VibeVoiceConfig, VibeVoiceForConditionalGeneration) + +__all__ = [ + "VibeVoiceModel", + "VibeVoicePreTrainedModel", + "VibeVoiceForConditionalGeneration", + "VibeVoiceCausalLMOutputWithPast", + "VibeVoiceGenerationOutput", +] \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/modeling_vibevoice_inference.py b/lor/VibeVoice-finetuning/src/vibevoice/modular/modeling_vibevoice_inference.py new file mode 100644 index 0000000000000000000000000000000000000000..7e10af4a2bd1f5ba4ec454942e4a87bb312aa091 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/modular/modeling_vibevoice_inference.py @@ -0,0 +1,715 @@ +from dataclasses import dataclass +from typing import Dict, List, Optional, Tuple, Union, Callable +from tqdm import tqdm +import torch +import torch.nn as nn + +from transformers.models.auto import AutoModel, AutoModelForCausalLM + +from transformers.generation import GenerationMixin, GenerationConfig, LogitsProcessor, LogitsProcessorList, StoppingCriteriaList +from transformers.modeling_outputs import BaseModelOutputWithPast, ModelOutput +from transformers import modeling_utils +from transformers.modeling_utils import PreTrainedModel +from transformers.modeling_flash_attention_utils import FlashAttentionKwargs +from transformers.utils import logging + + +# from .modular_vibevoice_tokenizer import VibeVoiceTokenizerStreamingCache, VibeVoiceAcousticTokenizerModel, VibeVoiceSemanticTokenizerModel +from .modular_vibevoice_tokenizer import VibeVoiceTokenizerStreamingCache, VibeVoiceTokenizerEncoderOutput +from .modular_vibevoice_diffusion_head import VibeVoiceDiffusionHead +from vibevoice.schedule.dpm_solver import DPMSolverMultistepScheduler + +from .configuration_vibevoice import VibeVoiceConfig + +from .modular_vibevoice_text_tokenizer import VibeVoiceTextTokenizer, VibeVoiceTextTokenizerFast + +from .modeling_vibevoice import VibeVoiceModel, VibeVoicePreTrainedModel +from .streamer import AudioStreamer, AsyncAudioStreamer + +logger = logging.get_logger(__name__) + +if not hasattr(modeling_utils, "ALL_PARALLEL_STYLES") or modeling_utils.ALL_PARALLEL_STYLES is None: + modeling_utils.ALL_PARALLEL_STYLES = ["tp", "none", "colwise", "rowwise"] + +@dataclass +class VibeVoiceCausalLMOutputWithPast(BaseModelOutputWithPast): + logits: Optional[torch.FloatTensor] = None + +@dataclass +class VibeVoiceGenerationOutput(ModelOutput): + """ + Output type for VibeVoice generation. + + Args: + sequences (`torch.LongTensor` of shape `(batch_size, sequence_length)`): + The generated sequences. + speech_outputs (`List[torch.FloatTensor]`, *optional*): + List of generated speech waveforms or latents for each speech segment. + """ + sequences: torch.LongTensor = None + speech_outputs: Optional[List[torch.FloatTensor]] = None + reach_max_step_sample: Optional[torch.BoolTensor] = None + +class VibeVoiceTokenConstraintProcessor(LogitsProcessor): + """Constrains token generation to only valid tokens during speech generation.""" + + def __init__(self, valid_token_ids: List[int], device: torch.device = None): + self.valid_token_ids = torch.tensor(valid_token_ids, dtype=torch.long, device=device) + + def __call__(self, input_ids: torch.LongTensor, scores: torch.FloatTensor) -> torch.FloatTensor: + # Create a mask for valid tokens + mask = torch.full_like(scores, float('-inf')) + mask[:, self.valid_token_ids] = 0 + + # Apply mask to scores + scores = scores + mask + return scores + +class VibeVoiceForConditionalGenerationInference(VibeVoicePreTrainedModel, GenerationMixin): + _tied_weights_keys = ["lm_head.weight"] + _tp_plan = {"lm_head": "colwise_rep"} + + def __init__(self, config): + super().__init__(config) + + # Initialize the base model + self.model = VibeVoiceModel(config) + + # LM head for text generation + self.lm_head = nn.Linear(config.decoder_config.hidden_size, config.decoder_config.vocab_size, bias=False) + + # inference configuration + self.ddpm_inference_steps = config.diffusion_head_config.ddpm_num_inference_steps + + # Initialize weights and apply final processing + self.post_init() + + @property + def noise_scheduler(self): + return self.model.noise_scheduler + + @property + def prediction_head(self): + return self.model.prediction_head + + @property + def speech_scaling_factor(self): + return self.model.speech_scaling_factor + + @property + def speech_bias_factor(self): + return self.model.speech_bias_factor + + @property + def acoustic_tokenizer(self): + return self.model.acoustic_tokenizer + + @property + def semantic_tokenizer(self): + return self.model.semantic_tokenizer + + @property + def acoustic_connector(self): + return self.model.acoustic_connector + + @property + def semantic_connector(self): + return self.model.semantic_connector + + def tie_weights(self): + """ + Tie the weights between the input embeddings and the output embeddings. + """ + # Tie lm_head.weight to language_model.embed_tokens.weight + if not getattr(self.config, 'tie_word_embeddings', False): + return + + if hasattr(self, 'lm_head') and hasattr(self.model.language_model, 'embed_tokens'): + self.lm_head.weight = self.model.language_model.embed_tokens.weight + + def get_input_embeddings(self): + return self.model.get_input_embeddings() + + def set_input_embeddings(self, value): + self.model.set_input_embeddings(value) + + def get_output_embeddings(self): + return self.lm_head + + def set_output_embeddings(self, new_embeddings): + self.lm_head = new_embeddings + + def set_speech_tokenizers(self, acoustic_tokenizer=None, semantic_tokenizer=None): + """Set the speech tokenizers used for encoding and decoding speech.""" + self.model.set_speech_tokenizers(acoustic_tokenizer, semantic_tokenizer) + + def set_ddpm_inference_steps(self, num_steps=None): + self.ddpm_inference_steps = num_steps or self.config.diffusion_head_config.ddpm_num_inference_steps + + def _process_speech_inputs(self, speech_tensors, speech_masks, speech_type="audio"): + """Process speech inputs through tokenizers and connectors.""" + with torch.no_grad(): + if speech_type == "audio": + # Encode audio to acoustic latents + encoder_output = self.model.acoustic_tokenizer.encode(speech_tensors.unsqueeze(1)) + acoustic_latents = encoder_output.sample(dist_type=self.model.acoustic_tokenizer.std_dist_type)[0] + + # Apply scaling and bias + acoustic_features = (acoustic_latents + self.model.speech_bias_factor.to(acoustic_latents.device)) * self.model.speech_scaling_factor.to(acoustic_latents.device) + + # Connect to language model space + acoustic_connected = self.model.acoustic_connector(acoustic_features)[speech_masks.cpu()] + + return acoustic_features, acoustic_connected + elif speech_type == "pt": + encoder_output = VibeVoiceTokenizerEncoderOutput(mean=speech_tensors, std=self.acoustic_tokenizer.config.fix_std) + acoustic_latents = encoder_output.sample(dist_type=self.model.acoustic_tokenizer.std_dist_type)[0] + + # Apply scaling and bias + acoustic_features = (acoustic_latents + self.model.speech_bias_factor.to(acoustic_latents.device)) * self.model.speech_scaling_factor.to(acoustic_latents.device) + + # Connect to language model space + acoustic_connected = self.model.acoustic_connector(acoustic_features)[speech_masks.cpu()] + + return acoustic_features, acoustic_connected + else: + raise NotImplementedError(f"Speech type {speech_type} not implemented") + + # @can_return_tuple + def forward( + self, + input_ids: torch.LongTensor = None, + attention_mask: Optional[torch.Tensor] = None, + position_ids: Optional[torch.LongTensor] = None, + past_key_values: Optional[Tuple[Tuple[torch.FloatTensor]]] = None, + inputs_embeds: Optional[torch.FloatTensor] = None, + labels: Optional[torch.LongTensor] = None, + use_cache: Optional[bool] = None, + output_attentions: Optional[bool] = None, + output_hidden_states: Optional[bool] = None, + return_dict: Optional[bool] = None, + cache_position: Optional[torch.LongTensor] = None, + speech_tensors: Optional[torch.FloatTensor] = None, + speech_masks: Optional[torch.BoolTensor] = None, + speech_input_mask: Optional[torch.BoolTensor] = None, + logits_to_keep: Union[int, slice] = 0, + **kwargs, + ) -> Union[Tuple, VibeVoiceCausalLMOutputWithPast]: + """ + Args: + labels (`torch.LongTensor` of shape `(batch_size, sequence_length)`, *optional*): + Labels for computing the masked language modeling loss. Indices should either be in `[0, ..., + config.vocab_size]` or -100 (see `input_ids` docstring). Tokens with indices set to `-100` are ignored + (masked), the loss is only computed for the tokens with labels in `[0, ..., config.vocab_size]`. + speech_tensors (`torch.FloatTensor`, *optional*): + Input speech waveforms for voice cloning or speech understanding. + speech_masks (`torch.BoolTensor`, *optional*): + Masks indicating valid speech frames. + speech_input_mask (`torch.BoolTensor`, *optional*): + Positions in the input sequence where speech embeddings should be inserted. + + Returns: + `VibeVoiceCausalLMOutputWithPast` or tuple + """ + return_dict = return_dict if return_dict is not None else self.config.use_return_dict + + # Get embeddings + if inputs_embeds is None: + inputs_embeds = self.model.get_input_embeddings()(input_ids) + + # Process speech inputs if provided + if speech_tensors is not None and speech_masks is not None: + acoustic_features, speech_embeds = self._process_speech_inputs(speech_tensors.to(self.dtype), speech_masks) + if speech_input_mask is not None: + inputs_embeds[speech_input_mask] = speech_embeds + + outputs = self.model( + inputs_embeds=inputs_embeds, + attention_mask=attention_mask, + position_ids=position_ids, + past_key_values=past_key_values, + use_cache=use_cache, + output_attentions=output_attentions, + output_hidden_states=output_hidden_states, + return_dict=return_dict, + cache_position=cache_position, + **kwargs, + ) + + hidden_states = outputs[0] if not return_dict else outputs.last_hidden_state + # Only compute necessary logits, and do not upcast them to float if we are not computing the loss + slice_indices = slice(-logits_to_keep, None) if isinstance(logits_to_keep, int) else logits_to_keep + logits = self.lm_head(hidden_states[:, slice_indices, :]) + + if labels is not None: + raise NotImplementedError("Loss computation is not implemented in this version.") + + return VibeVoiceCausalLMOutputWithPast( + logits=logits, + past_key_values=outputs.past_key_values, + last_hidden_state=hidden_states, + attentions=outputs.attentions, + ) + + def _build_generate_config_model_kwargs(self, generation_config, inputs, tokenizer, return_processors=False, **kwargs): + if generation_config is None: + generation_config = GenerationConfig( + bos_token_id=tokenizer.bos_token_id, + eos_token_id=tokenizer.eos_token_id, + pad_token_id = tokenizer.pad_token_id + ) + else: + generation_config = GenerationConfig( + **generation_config, + bos_token_id=tokenizer.bos_token_id, + eos_token_id=tokenizer.eos_token_id, + pad_token_id = tokenizer.pad_token_id + ) + + generation_config, model_kwargs = self._prepare_generation_config( + generation_config, + True, + speech_start_id=tokenizer.speech_start_id, + speech_end_id=tokenizer.speech_end_id, + speech_diffusion_id=tokenizer.speech_diffusion_id, + **kwargs + ) + generation_config.speech_start_id = tokenizer.speech_start_id + generation_config.speech_end_id = tokenizer.speech_end_id + generation_config.speech_diffusion_id = tokenizer.speech_diffusion_id + + inputs_tensor, model_input_name, model_kwargs = self._prepare_model_inputs(inputs, generation_config.bos_token_id, model_kwargs) + batch_size = inputs_tensor.shape[0] + device = self.device + + self._prepare_special_tokens(generation_config, True, device=device) + generation_config.use_cache = True + model_kwargs["use_cache"] = generation_config.use_cache + input_ids = inputs_tensor.to(self.device) + + input_ids_length = input_ids.shape[1] + has_default_max_length = kwargs.get("max_length") is None and generation_config.max_length is not None + has_default_min_length = kwargs.get("min_length") is None and generation_config.min_length is not None + generation_config = self._prepare_generated_length( + generation_config=generation_config, + has_default_max_length=has_default_max_length, + has_default_min_length=has_default_min_length, + model_input_name=model_input_name, + inputs_tensor=inputs_tensor, + input_ids_length=input_ids_length, + ) + + max_cache_length = generation_config.max_length - 1 + self._prepare_cache_for_generation(generation_config, model_kwargs, None, batch_size, max_cache_length, device) + model_kwargs['cache_position'] = torch.arange(input_ids_length, device=device, dtype=torch.long) + for k, v in model_kwargs.items(): + if isinstance(v, torch.Tensor): + model_kwargs[k] = v.to(device=device) + + if return_processors: + logits_processor = self._get_logits_processor( + generation_config=generation_config, + input_ids_seq_length=input_ids_length, + encoder_input_ids=inputs_tensor, + prefix_allowed_tokens_fn=None, + logits_processor=LogitsProcessorList(), + device=inputs_tensor.device, + model_kwargs=model_kwargs, + ) + + stopping_criteria = self._get_stopping_criteria(generation_config=generation_config, stopping_criteria=StoppingCriteriaList()) + + return generation_config, model_kwargs, input_ids, logits_processor, stopping_criteria + else: + return generation_config, model_kwargs, input_ids + + @torch.no_grad() + def generate( + self, + inputs: Optional[torch.Tensor] = None, + generation_config: Optional[GenerationConfig] = None, + logits_processor: Optional[LogitsProcessorList] = None, + stopping_criteria: Optional[StoppingCriteriaList] = None, + prefix_allowed_tokens_fn: Optional[Callable[[int, torch.Tensor], List[int]]] = None, + synced_gpus: Optional[bool] = None, + assistant_model: Optional["PreTrainedModel"] = None, + audio_streamer: Optional[Union[AudioStreamer, AsyncAudioStreamer]] = None, + negative_prompt_ids: Optional[torch.Tensor] = None, + negative_prompt_attention_mask: Optional[torch.Tensor] = None, + speech_tensors: Optional[torch.FloatTensor] = None, + speech_masks: Optional[torch.BoolTensor] = None, + speech_input_mask: Optional[torch.BoolTensor] = None, + return_speech: bool = True, + cfg_scale: float = 1.0, + stop_check_fn: Optional[Callable[[], bool]] = None, + **kwargs, + ) -> Union[torch.LongTensor, VibeVoiceGenerationOutput]: + """ + Generates sequences of token ids and optionally speech outputs. + + Args: + All standard generation arguments from GenerationMixin + negative_prompt_ids: Negative prompt for CFG in speech generation + negative_prompt_attention_mask: Attention mask for negative prompt + speech_tensors: Input speech for voice cloning + speech_masks: Masks for speech tensors + speech_input_mask: Positions to insert speech embeddings + return_speech: Whether to decode and return speech outputs + cfg_scale: CFG scale for speech generation + stop_check_fn: Optional callable that returns True if generation should stop + + Returns: + Generated token sequences and optionally speech outputs + """ + # 1. Handle `generation_config` and kwargs that might update it, and validate the `.generate()` call + tokenizer = kwargs.pop("tokenizer", None) # Pull this out first, we only use it for stopping criteria + parsed_scripts = kwargs.pop("parsed_scripts", None) + all_speakers_list = kwargs.pop("all_speakers_list", None) + max_length_times = kwargs.pop("max_length_times", 2) + + if kwargs.get('max_new_tokens', None) is None: + kwargs['max_new_tokens'] = self.config.decoder_config.max_position_embeddings - kwargs['input_ids'].shape[-1] + + generation_config, model_kwargs, input_ids, logits_processor, stopping_criteria = self._build_generate_config_model_kwargs( + generation_config, inputs, tokenizer, return_processors=True, **kwargs + ) + + negative_kwargs = { + 'input_ids': torch.full((kwargs['input_ids'].shape[0], 1), tokenizer.speech_start_id, dtype=torch.long, device=kwargs['input_ids'].device), + 'attention_mask': torch.ones((kwargs['input_ids'].shape[0], 1), dtype=torch.long, device=kwargs['input_ids'].device), + 'max_new_tokens': kwargs.get('max_new_tokens', 100) + } + negative_generation_config, negative_model_kwargs, negative_input_ids = self._build_generate_config_model_kwargs( + None, None, tokenizer, return_processors=False, **negative_kwargs + ) + + acoustic_cache = VibeVoiceTokenizerStreamingCache() + semantic_cache = VibeVoiceTokenizerStreamingCache() + + batch_size = input_ids.shape[0] + device = input_ids.device + finished_tags = torch.zeros(batch_size, dtype=torch.bool, device=device) + correct_cnt = torch.zeros(batch_size, dtype=torch.long, device=device) + is_prefill = True + inputs_embeds = None + verbose = kwargs.get("verbose", False) + + # Initialize audio chunks storage for each sample + audio_chunks = [[] for _ in range(batch_size)] + + initial_length = input_ids.shape[-1] + initial_length_per_sample = model_kwargs['attention_mask'].sum(dim=-1) + + # Define all valid tokens that can be generated + valid_tokens = [ + generation_config.speech_start_id, + generation_config.speech_end_id, + generation_config.speech_diffusion_id, + generation_config.eos_token_id + ] + # Add bos_token_id if it exists + if hasattr(generation_config, 'bos_token_id') and generation_config.bos_token_id is not None: + valid_tokens.append(generation_config.bos_token_id) + + # Add custom processor to constrain token generation + token_constraint_processor = VibeVoiceTokenConstraintProcessor(valid_tokens, device=device) + if logits_processor is None: + logits_processor = LogitsProcessorList() + logits_processor.append(token_constraint_processor) + + max_steps = min(generation_config.max_length - initial_length, int(max_length_times * initial_length)) + max_step_per_sample = torch.min(generation_config.max_length - initial_length_per_sample, (max_length_times * initial_length_per_sample).long()) + reach_max_step_sample = torch.zeros(batch_size, dtype=torch.bool, device=device) + + # Create progress iterator if verbose + if kwargs.get("show_progress_bar", True): + progress_bar = tqdm(range(max_steps), desc="Generating", leave=False) + else: + progress_bar = range(max_steps) + + for step in progress_bar: + # Check for external stop signal + if stop_check_fn is not None and stop_check_fn(): + if verbose: + print(f"Generation stopped externally at step {step + 1}") + # End the audio streamer if it exists + if audio_streamer is not None: + audio_streamer.end() + break + + # Check if audio_streamer has been ended (stopped externally) + if audio_streamer is not None and hasattr(audio_streamer, 'finished_flags'): + if any(audio_streamer.finished_flags): + if verbose: + print(f"Audio generation stopped externally at step {step + 1}") + break + + if finished_tags.all(): + if hasattr(progress_bar, 'set_description'): + progress_bar.set_description("Generation complete") + break + + if input_ids.shape[-1] >= generation_config.max_length: + print(f"Reached maximum generation length {generation_config.max_length}, stopped it.") + reached_samples = torch.arange(batch_size, device=device)[~finished_tags] + if reached_samples.numel() > 0: + reach_max_step_sample[reached_samples] = True + break + + # Update progress bar description with active samples + if hasattr(progress_bar, 'set_description'): + active_samples = (~finished_tags).sum().item() + progress_bar.set_description(f"Generating (active: {active_samples}/{batch_size})") + + model_inputs = self.prepare_inputs_for_generation(input_ids, **model_kwargs) + if is_prefill: + # we process the speech inputs only during the first generation step + prefill_inputs = { + "speech_tensors": speech_tensors.to(device=device), + "speech_masks": speech_masks.to(device), + "speech_input_mask": speech_input_mask.to(device), + } + is_prefill = False + else: + _ = model_inputs.pop('inputs_embeds', None) + prefill_inputs = {'inputs_embeds': inputs_embeds} + + # Forward pass through the model + outputs = self( + **model_inputs, **prefill_inputs, logits_to_keep=1, return_dict=True, output_attentions=False, output_hidden_states=False, + ) + model_kwargs = self._update_model_kwargs_for_generation( + outputs, model_kwargs, is_encoder_decoder=False, + ) + + # Get logits and apply logits processor + next_token_logits = outputs.logits[:, -1, :].to(copy=True, dtype=torch.float32, device=input_ids.device) + # next_token_logits = outputs.logits[:, -1, :].to(copy=True, device=input_ids.device) + next_token_scores = logits_processor(input_ids, next_token_logits) + + # token selection + if generation_config.do_sample: + probs = nn.functional.softmax(next_token_scores, dim=-1) + # TODO (joao): this OP throws "skipping cudagraphs due to ['incompatible ops']", find solution + next_tokens = torch.multinomial(probs, num_samples=1).squeeze(1) + else: + next_tokens = torch.argmax(next_token_scores, dim=-1) + + next_tokens[finished_tags] = generation_config.eos_token_id + input_ids = torch.cat([input_ids, next_tokens[:, None]], dim=-1) + + if not kwargs.get('refresh_negative', True): + negative_model_inputs = self.prepare_inputs_for_generation(negative_input_ids, **negative_model_kwargs) + # Forward negative pass through the model + if negative_model_inputs['inputs_embeds'] is None and inputs_embeds is not None: + negative_model_inputs['inputs_embeds'] = inputs_embeds + negative_model_inputs['input_ids'] = None + + negative_outputs = self( + **negative_model_inputs, logits_to_keep=0, return_dict=True, output_attentions=False, output_hidden_states=False, + ) + negative_model_kwargs = self._update_model_kwargs_for_generation( + negative_outputs, negative_model_kwargs, is_encoder_decoder=False, + ) + negative_input_ids = torch.cat([negative_input_ids, next_tokens[:, None]], dim=-1) + + # reached end of generation + if (next_tokens == generation_config.eos_token_id).any(): + eos_indices = (next_tokens == generation_config.eos_token_id).nonzero(as_tuple=False).squeeze(1) + # Only print for samples that are newly finished (not already marked as finished) + new_eos_indices = eos_indices[~finished_tags[eos_indices]] + if new_eos_indices.numel() > 0: + finished_tags[new_eos_indices] = True + if verbose: + print(f"Samples {new_eos_indices.tolist()} reached EOS token at step {step + 1}.", flush=True) + if audio_streamer is not None: + audio_streamer.end(new_eos_indices) + + # Check if any sample reached its maximum generation length + max_length_reached = step >= max_step_per_sample + new_max_length_indices = torch.nonzero(max_length_reached & ~finished_tags, as_tuple=False).squeeze(1) + if new_max_length_indices.numel() > 0: + finished_tags[new_max_length_indices] = True + reach_max_step_sample[new_max_length_indices] = True + if verbose: + print(f"Samples {new_max_length_indices.tolist()} reached max generation length at step {step + 1}.", flush=True) + if audio_streamer is not None: + audio_streamer.end(new_max_length_indices) + + # speech_end + diffusion_end_indices = (next_tokens == generation_config.speech_end_id).nonzero(as_tuple=False).squeeze(1) + if diffusion_end_indices.numel() > 0: + # Clear tokenizer caches for samples that reached speech end + acoustic_cache.set_to_zero(diffusion_end_indices) + semantic_cache.set_to_zero(diffusion_end_indices) + + # speech_begin + diffusion_start_indices = torch.arange(batch_size, device=device)[~finished_tags & (next_tokens == generation_config.speech_start_id)] + if diffusion_start_indices.numel() > 0 and kwargs.get('refresh_negative', True): + # update attention mask + for i, sample_idx in enumerate(diffusion_start_indices.tolist()): + negative_model_kwargs['attention_mask'][sample_idx, :] = 0 + negative_model_kwargs['attention_mask'][sample_idx, -1] = 1 + # update past key values + for layer_idx, (k_cache, v_cache) in enumerate(zip(negative_model_kwargs['past_key_values'].key_cache, + negative_model_kwargs['past_key_values'].value_cache)): + # Process each non-diffusion sample + for sample_idx in diffusion_start_indices.tolist(): + # Shift cache for this sample + k_cache[sample_idx, :, -1, :] = k_cache[sample_idx, :, 0, :].clone() + v_cache[sample_idx, :, -1, :] = v_cache[sample_idx, :, 0, :].clone() + # update negative_input_ids + for sample_idx in diffusion_start_indices.tolist(): + negative_input_ids[sample_idx, -1] = generation_config.speech_start_id + + # Prepare inputs_embeds for next iteration + # Initialize with default embeddings for all tokens + next_inputs_embeds = self.model.get_input_embeddings()(next_tokens).unsqueeze(1) # [batch_size, 1, hidden_size] + + # forward diffusion + # Diffusion indices are those that are not finished and not special tokens + diffusion_indices = torch.arange(batch_size, device=device)[~finished_tags & (next_tokens == generation_config.speech_diffusion_id)] + + if diffusion_indices.numel() > 0: + if kwargs.get('refresh_negative', True): + negative_model_inputs = self.prepare_inputs_for_generation(negative_input_ids, **negative_model_kwargs) + # Forward negative pass through the model + if negative_model_inputs['inputs_embeds'] is None and inputs_embeds is not None: + negative_model_inputs['inputs_embeds'] = inputs_embeds + negative_model_inputs['input_ids'] = None + + negative_outputs = self( + **negative_model_inputs, logits_to_keep=0, return_dict=True, output_attentions=False, output_hidden_states=False, + ) + negative_model_kwargs = self._update_model_kwargs_for_generation( + negative_outputs, negative_model_kwargs, is_encoder_decoder=False, + ) + negative_input_ids = torch.cat([negative_input_ids, next_tokens[:, None]], dim=-1) + # correct the non-diffusion indices + # we forward all samples' negative outputs even if + # they are not in diffusion mode to keep the cache consistent + # So we need to correct the kv cache of non-diffusion samples + non_diffusion_mask = ~finished_tags & (next_tokens != generation_config.speech_diffusion_id) + if non_diffusion_mask.any(): + non_diffusion_indices = torch.arange(batch_size, device=device)[non_diffusion_mask] + start_indices = correct_cnt[non_diffusion_indices] + + # 1. Update attention_mask - need to handle each sample separately + seq_len = negative_model_kwargs['attention_mask'].shape[1] + for i, (sample_idx, start_idx) in enumerate(zip(non_diffusion_indices.tolist(), start_indices.tolist())): + # Shift the attention mask for this sample + if start_idx + 1 < seq_len - 1: + negative_model_kwargs['attention_mask'][sample_idx, start_idx+1:] = \ + negative_model_kwargs['attention_mask'][sample_idx, start_idx:-1].clone() + negative_model_kwargs['attention_mask'][sample_idx, start_idx] = 0 + + # 2. Update past_key_values + for layer_idx, (k_cache, v_cache) in enumerate(zip(negative_model_kwargs['past_key_values'].key_cache, + negative_model_kwargs['past_key_values'].value_cache)): + # Process each non-diffusion sample + for sample_idx, start_idx in zip(non_diffusion_indices.tolist(), start_indices.tolist()): + if start_idx + 1 < k_cache.shape[2] - 1: + # Shift cache for this sample + k_cache[sample_idx, :, start_idx+1:, :] = k_cache[sample_idx, :, start_idx:-1, :].clone() + v_cache[sample_idx, :, start_idx+1:, :] = v_cache[sample_idx, :, start_idx:-1, :].clone() + + # 3. Update negative_input_ids + for sample_idx, start_idx in zip(non_diffusion_indices.tolist(), start_indices.tolist()): + if start_idx + 1 < negative_input_ids.shape[1] - 1: + negative_input_ids[sample_idx, start_idx+1:] = \ + negative_input_ids[sample_idx, start_idx:-1].clone() + + correct_cnt[non_diffusion_indices] += 1 + + positive_condition = outputs.last_hidden_state[diffusion_indices, -1, :] + negative_condition = negative_outputs.last_hidden_state[diffusion_indices, -1, :] + + speech_latent = self.sample_speech_tokens( + positive_condition, + negative_condition, + cfg_scale=cfg_scale, + ).unsqueeze(1) + + # Decode acoustic latent to audio using acoustic streaming cache + scaled_latent = speech_latent / self.model.speech_scaling_factor.to(speech_latent.device) - self.model.speech_bias_factor.to(speech_latent.device) + audio_chunk = self.model.acoustic_tokenizer.decode( + scaled_latent.to(self.model.acoustic_tokenizer.device), + cache=acoustic_cache, # Use acoustic-specific cache + sample_indices=diffusion_indices.to(self.model.acoustic_tokenizer.device), + use_cache=True, + debug=False + ) + + # Store audio chunks for each sample + for i, sample_idx in enumerate(diffusion_indices): + idx = sample_idx.item() + # Only append audio chunk if the sample is not finished + if not finished_tags[idx]: + audio_chunks[idx].append(audio_chunk[i]) + + # Add streaming support here + if audio_streamer is not None: + # Stream the audio chunks immediately + audio_streamer.put(audio_chunk, diffusion_indices) + + # Encode audio to semantic features using semantic streaming cache + semantic_features = self.model.semantic_tokenizer.encode( + audio_chunk, + cache=semantic_cache, # Use semantic-specific cache + sample_indices=diffusion_indices, + use_cache=True, + debug=False + ).mean # semantic tokenizer has no VAE. + + # Combine acoustic and semantic features for next input + acoustic_embed = self.model.acoustic_connector(speech_latent) + semantic_embed = self.model.semantic_connector(semantic_features) + diffusion_embeds = acoustic_embed + semantic_embed + + # Update embeddings for diffusion indices + next_inputs_embeds[diffusion_indices] = diffusion_embeds + + # Set inputs_embeds for next iteration + inputs_embeds = next_inputs_embeds + + if audio_streamer is not None: + audio_streamer.end() + + # Concatenate audio chunks for each sample + final_audio_outputs = [] + for sample_chunks in audio_chunks: + if sample_chunks: + # Concatenate all chunks along the time dimension (assumed to be the last dimension) + concatenated_audio = torch.cat(sample_chunks, dim=-1) + final_audio_outputs.append(concatenated_audio) + else: + # If no audio was generated for this sample, append None + final_audio_outputs.append(None) + + return VibeVoiceGenerationOutput( + sequences=input_ids, + speech_outputs=final_audio_outputs if return_speech else None, + reach_max_step_sample=reach_max_step_sample, + ) + + @torch.no_grad() + def sample_speech_tokens(self, condition, neg_condition, cfg_scale=3.0): + self.model.noise_scheduler.set_timesteps(self.ddpm_inference_steps) + condition = torch.cat([condition, neg_condition], dim=0).to(self.model.prediction_head.device) + speech = torch.randn(condition.shape[0], self.config.acoustic_vae_dim).to(condition) + for t in self.model.noise_scheduler.timesteps: + half = speech[: len(speech) // 2] + combined = torch.cat([half, half], dim=0) + eps = self.model.prediction_head(combined, t.repeat(combined.shape[0]).to(combined), condition=condition) + cond_eps, uncond_eps = torch.split(eps, len(eps) // 2, dim=0) + half_eps = uncond_eps + cfg_scale * (cond_eps - uncond_eps) + eps = torch.cat([half_eps, half_eps], dim=0) + speech = self.model.noise_scheduler.step(eps, t, speech).prev_sample + return speech[: len(speech) // 2] + + +AutoModelForCausalLM.register(VibeVoiceConfig, VibeVoiceForConditionalGenerationInference) + +__all__ = [ + "VibeVoiceForConditionalGenerationInference", +] diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_diffusion_head.py b/lor/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_diffusion_head.py new file mode 100644 index 0000000000000000000000000000000000000000..59de50fb2fe80d6b1ba5a50c9de1ef9cffc4f614 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_diffusion_head.py @@ -0,0 +1,287 @@ +import math +from typing import Optional, Tuple, Union + +import torch +import torch.nn as nn +import torch.nn.functional as F + +from transformers.models.auto import AutoModel +from transformers.modeling_utils import PreTrainedModel +# from transformers.modeling_layers import GradientCheckpointingLayer +from transformers.activations import ACT2FN +from transformers.utils import logging + +from .configuration_vibevoice import VibeVoiceDiffusionHeadConfig + + +logger = logging.get_logger(__name__) + + +class RMSNorm(nn.Module): + def __init__(self, dim: int, eps: float = 1e-6, elementwise_affine=True, memory_efficient=False): + super().__init__() + self.dim = dim + self.eps = eps + self.elementwise_affine = elementwise_affine + if self.elementwise_affine: + self.weight = nn.Parameter(torch.ones(dim)) + else: + self.register_parameter('weight', None) + + def _norm(self, x): + return x * torch.rsqrt(x.pow(2).mean(-1, keepdim=True) + self.eps) + + def forward(self, x): + output = self._norm(x.float()).type_as(x) + if self.weight is not None: + output = output * self.weight + return output + + def extra_repr(self) -> str: + return f'dim={self.dim}, eps={self.eps}, elementwise_affine={self.elementwise_affine}' + +def modulate(x, shift, scale): + """Apply modulation to input tensor.""" + return x * (1 + scale) + shift + + +class TimestepEmbedder(nn.Module): + """ + Embeds scalar timesteps into vector representations. + + Args: + hidden_size (`int`): Size of the output embedding + frequency_embedding_size (`int`, optional): Size of the intermediate frequency embedding + """ + def __init__(self, hidden_size, frequency_embedding_size=256): + super().__init__() + self.mlp = nn.Sequential( + nn.Linear(frequency_embedding_size, hidden_size, bias=False), + # nn.SiLU(), + ACT2FN['silu'], + nn.Linear(hidden_size, hidden_size, bias=False), + ) + self.frequency_embedding_size = frequency_embedding_size + + @staticmethod + def timestep_embedding(t, dim, max_period=10000): + """ + Create sinusoidal timestep embeddings. + + Args: + t (`torch.Tensor`): A 1-D Tensor of N indices, one per batch element. + These may be fractional. + dim (`int`): The dimension of the output. + max_period (`int`, optional): Controls the minimum frequency of the embeddings. + + Returns: + `torch.Tensor`: An [N, D] Tensor of positional embeddings. + """ + half = dim // 2 + freqs = torch.exp( + -math.log(max_period) * torch.arange(start=0, end=half, dtype=torch.float32) / half + ).to(t.device) + args = t[:, None].float() * freqs[None] + embedding = torch.cat([torch.cos(args), torch.sin(args)], dim=-1) + if dim % 2: + embedding = torch.cat([embedding, torch.zeros_like(embedding[:, :1])], dim=-1) + return embedding.to(t.dtype) + + def forward(self, t): + t_freq = self.timestep_embedding(t, self.frequency_embedding_size) + t_emb = self.mlp(t_freq) + return t_emb + + +class FeedForwardNetwork(nn.Module): + """ + Standard feed-forward network with SwiGLU activation. + + Args: + embed_dim (`int`): Input dimension + ffn_dim (`int`): Hidden dimension + """ + def __init__( + self, + embed_dim, + ffn_dim, + ): + super().__init__() + self.embed_dim = embed_dim + self.gate_proj = nn.Linear(self.embed_dim, ffn_dim, bias=False) + self.up_proj = nn.Linear(self.embed_dim, ffn_dim, bias=False) + self.down_proj = nn.Linear(ffn_dim, self.embed_dim, bias=False) + self.act_fn = ACT2FN['silu'] # Using SiLU as the activation function + + def forward(self, x): + gate = self.gate_proj(x) + up = self.up_proj(x) + + # SwiGLU activation + # gate = F.silu(gate) + gate = self.act_fn(gate) + return self.down_proj(gate * up) + + +class HeadLayer(nn.Module): + """ + A layer in the diffusion head. + + Args: + embed_dim (`int`): Input dimension + ffn_dim (`int`): Hidden dimension + cond_dim (`int`): Condition embedding dimension + norm_eps (`float`, optional): Epsilon for normalization + """ + def __init__( + self, + embed_dim, + ffn_dim, + cond_dim, + norm_eps=1e-5, + ): + super().__init__() + self.embed_dim = embed_dim + self.cond_dim = cond_dim + self.ffn_dim = ffn_dim + self.ffn = FeedForwardNetwork( + self.embed_dim, + self.ffn_dim, + ) + self.norm = RMSNorm(self.embed_dim, eps=norm_eps) + self.adaLN_modulation = nn.Sequential( + # nn.SiLU(), + ACT2FN['silu'], + nn.Linear(cond_dim, 3 * self.embed_dim, bias=False) + ) + + def forward(self, x, c): + shift_ffn, scale_ffn, gate_ffn = self.adaLN_modulation(c).chunk(3, dim=-1) + x = x + gate_ffn * self.ffn(modulate(self.norm(x), shift_ffn, scale_ffn)) + return x + + +class FinalLayer(nn.Module): + """ + Final layer in the diffusion head. + + Args: + hidden_size (`int`): Input dimension + output_size (`int`): Output dimension + cond_size (`int`): Condition embedding dimension + norm_eps (`float`, optional): Epsilon for normalization + """ + def __init__(self, hidden_size, output_size, cond_size, norm_eps=1e-5): + super().__init__() + self.norm_final = RMSNorm(hidden_size, eps=norm_eps, elementwise_affine=False) + self.linear = nn.Linear(hidden_size, output_size, bias=False) + self.adaLN_modulation = nn.Sequential( + # nn.SiLU(), + ACT2FN['silu'], + nn.Linear(cond_size, 2 * hidden_size, bias=False) + ) + + def forward(self, x, c): + shift, scale = self.adaLN_modulation(c).chunk(2, dim=-1) + x = modulate(self.norm_final(x), shift, scale) + x = self.linear(x) + return x + + +class VibeVoiceDiffusionHead(PreTrainedModel): + """ + Diffusion head model for vibevoice. + + Args: + config (`VibeVoiceDiffusionHeadConfig`): Model configuration + latent_size (`int`, optional): Size of the latent space. If not provided, uses `config.latent_size`. + """ + config_class = VibeVoiceDiffusionHeadConfig + supports_gradient_checkpointing = True + _supports_flash_attn_2 = True + _supports_sdpa = True + + def __init__( + self, + config, + ): + super().__init__(config) + self.config = config + self.cond_dim = config.hidden_size + latent_size = config.latent_size + + self.noisy_images_proj = nn.Linear(latent_size, config.hidden_size, bias=False) + self.cond_proj = nn.Linear(config.hidden_size, self.cond_dim, bias=False) + self.t_embedder = TimestepEmbedder(self.cond_dim) + + ffn_dim = int(config.hidden_size * config.head_ffn_ratio) + + # Create the intermediate layers + self.layers = nn.ModuleList([ + HeadLayer( + embed_dim=config.hidden_size, + ffn_dim=ffn_dim, + cond_dim=self.cond_dim, + norm_eps=config.rms_norm_eps + ) + for _ in range(config.head_layers) + ]) + + # Final layer for output + self.final_layer = FinalLayer( + hidden_size=config.hidden_size, + output_size=latent_size, + cond_size=self.cond_dim, + norm_eps=config.rms_norm_eps + ) + + self.initialize_weights() + + def initialize_weights(self): + """Initialize the weights of the model.""" + # Initialize timestep embedder + nn.init.normal_(self.t_embedder.mlp[0].weight, std=0.02) + nn.init.normal_(self.t_embedder.mlp[2].weight, std=0.02) + + # Zero-out adaLN modulation layers + for layer in self.layers: + nn.init.constant_(layer.adaLN_modulation[-1].weight, 0) + + # Zero-out output layers + nn.init.constant_(self.final_layer.adaLN_modulation[-1].weight, 0) + nn.init.constant_(self.final_layer.linear.weight, 0) + + def forward( + self, + noisy_images, + timesteps, + condition, + ): + """ + Forward pass of the prediction head. + + Args: + noisy_images (`torch.Tensor`): Noisy images/latents to denoise + timesteps (`torch.Tensor`): Timesteps for diffusion + condition (`torch.Tensor`): Conditioning information + + Returns: + `torch.Tensor`: The predicted noise/velocity + """ + x = self.noisy_images_proj(noisy_images) + t = self.t_embedder(timesteps) + condition = self.cond_proj(condition) + c = condition + t + + for layer in self.layers: + x = layer(x, c) + + x = self.final_layer(x, c) + return x + + +AutoModel.register(VibeVoiceDiffusionHeadConfig, VibeVoiceDiffusionHead) + +__all__ = [ + "VibeVoiceDiffusionHead", +] \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_text_tokenizer.py b/lor/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_text_tokenizer.py new file mode 100644 index 0000000000000000000000000000000000000000..bfa7bdd18783d67d488371071cc6425ceb80b376 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_text_tokenizer.py @@ -0,0 +1,214 @@ +"""Tokenization classes for vibevoice.""" + +from typing import List, Optional, Union + +from transformers.utils import logging +from transformers.models.qwen2.tokenization_qwen2 import Qwen2Tokenizer +from transformers.models.qwen2.tokenization_qwen2_fast import Qwen2TokenizerFast + +logger = logging.get_logger(__name__) + + +class VibeVoiceTextTokenizer(Qwen2Tokenizer): + """ + Construct a VibeVoice tokenizer. Based on the Qwen2 tokenizer with additional special tokens for speech. + + Args: + vocab_file (`str`): + Path to the vocabulary file. + merges_file (`str`): + Path to the merges file. + errors (`str`, *optional*, defaults to `"replace"`): + Paradigm to follow when decoding bytes to UTF-8. + unk_token (`str`, *optional*, defaults to `"<|endoftext|>"`): + The unknown token. + bos_token (`str`, *optional*): + The beginning of sequence token. Not used for vibevoice. + eos_token (`str`, *optional*, defaults to `"<|endoftext|>"`): + The end of sequence token. + pad_token (`str`, *optional*, defaults to `"<|endoftext|>"`): + The token used for padding. + add_special_tokens (`bool`, *optional*, defaults to `True`): + Whether or not to add special tokens when encoding. + """ + + model_input_names = ["input_ids", "attention_mask"] + + def __init__( + self, + vocab_file, + merges_file, + errors="replace", + unk_token="<|endoftext|>", + bos_token=None, + eos_token="<|endoftext|>", + pad_token="<|endoftext|>", + add_prefix_space=False, + add_special_tokens=True, + **kwargs, + ): + super().__init__( + vocab_file=vocab_file, + merges_file=merges_file, + errors=errors, + unk_token=unk_token, + bos_token=bos_token, + eos_token=eos_token, + pad_token=pad_token, + add_prefix_space=add_prefix_space, + add_special_tokens=add_special_tokens, + **kwargs, + ) + + # Add VibeVoice-specific special tokens + self._add_vibevoice_special_tokens() + + def _add_vibevoice_special_tokens(self): + """Add VibeVoice-specific special tokens.""" + special_tokens = { + "additional_special_tokens": [ + "<|vision_start|>", # Speech start (reusing vision tokens) + "<|vision_end|>", # Speech end + "<|vision_pad|>", # Speech diffusion pad + ] + } + num_added = self.add_special_tokens(special_tokens) + + # Cache special token IDs + self._speech_start_id = self.convert_tokens_to_ids("<|vision_start|>") + self._speech_end_id = self.convert_tokens_to_ids("<|vision_end|>") + self._speech_diffusion_id = self.convert_tokens_to_ids("<|vision_pad|>") + + self._eos_id = self.convert_tokens_to_ids('<|endoftext|>') + + return num_added + + @property + def eos_id(self) -> int: + """Id of the end of sequence token.""" + return self._eos_id + + @property + def speech_start_id(self) -> int: + """Id of the speech start token.""" + return self._speech_start_id + + @property + def speech_end_id(self) -> int: + """Id of the speech end token.""" + return self._speech_end_id + + @property + def speech_diffusion_id(self) -> int: + """Id of the speech diffusion token.""" + return self._speech_diffusion_id + + @property + def pad_id(self) -> int: + """Id used for padding (returns -100 for loss masking).""" + return -100 + + +class VibeVoiceTextTokenizerFast(Qwen2TokenizerFast): + """ + Construct a "fast" VibeVoice tokenizer (backed by HuggingFace's *tokenizers* library). + Based on the Qwen2 tokenizer with additional special tokens for speech. + + Args: + vocab_file (`str`, *optional*): + Path to the vocabulary file. + merges_file (`str`, *optional*): + Path to the merges file. + tokenizer_file (`str`, *optional*): + Path to [tokenizers](https://github.com/huggingface/tokenizers) file. + unk_token (`str`, *optional*, defaults to `"<|endoftext|>"`): + The unknown token. + bos_token (`str`, *optional*): + The beginning of sequence token. Not used for vibevoice. + eos_token (`str`, *optional*, defaults to `"<|endoftext|>"`): + The end of sequence token. + pad_token (`str`, *optional*, defaults to `"<|endoftext|>"`): + The token used for padding. + """ + + model_input_names = ["input_ids", "attention_mask"] + + def __init__( + self, + vocab_file=None, + merges_file=None, + tokenizer_file=None, + unk_token="<|endoftext|>", + bos_token=None, + eos_token="<|endoftext|>", + pad_token="<|endoftext|>", + add_prefix_space=False, + **kwargs, + ): + super().__init__( + vocab_file=vocab_file, + merges_file=merges_file, + tokenizer_file=tokenizer_file, + unk_token=unk_token, + bos_token=bos_token, + eos_token=eos_token, + pad_token=pad_token, + add_prefix_space=add_prefix_space, + **kwargs, + ) + + # Add VibeVoice-specific special tokens + self._add_vibevoice_special_tokens() + + def _add_vibevoice_special_tokens(self): + """Add VibeVoice-specific special tokens.""" + special_tokens = { + "additional_special_tokens": [ + "<|vision_start|>", # Speech start (reusing vision tokens) + "<|vision_end|>", # Speech end + "<|vision_pad|>", # Speech diffusion pad + ] + } + num_added = self.add_special_tokens(special_tokens) + + # Cache special token IDs + self._speech_start_id = self.convert_tokens_to_ids("<|vision_start|>") + self._speech_end_id = self.convert_tokens_to_ids("<|vision_end|>") + self._speech_diffusion_id = self.convert_tokens_to_ids("<|vision_pad|>") + + # self._eos_id = self.convert_tokens_to_ids('<|endoftext|>') + self._eos_id = self.eos_token_id # qwen2 / qwen3 + self._pad_id = self.convert_tokens_to_ids('<|image_pad|>') + + return num_added + + @property + def eos_id(self) -> int: + """Id of the end of sequence token.""" + return self._eos_id + + @property + def speech_start_id(self) -> int: + """Id of the speech start token.""" + return self._speech_start_id + + @property + def speech_end_id(self) -> int: + """Id of the speech end token.""" + return self._speech_end_id + + @property + def speech_diffusion_id(self) -> int: + """Id of the speech diffusion token.""" + return self._speech_diffusion_id + + @property + def pad_id(self) -> int: + """Id used for padding (returns -100 for loss masking).""" + return self._pad_id + + +__all__ = [ + "VibeVoiceTextTokenizer", + "VibeVoiceTextTokenizerFast", +] \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_tokenizer.py b/lor/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_tokenizer.py new file mode 100644 index 0000000000000000000000000000000000000000..fbd5182f82ba61898a09b762ec20e6f34270d053 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_tokenizer.py @@ -0,0 +1,1195 @@ +import math +import typing as tp +from functools import partial +from dataclasses import dataclass, field +from typing import Dict, List, Optional, Tuple, Union +import copy + +import numpy as np +import torch +import torch.nn as nn +import torch.nn.functional as F + +from transformers.models.auto import AutoModel + +from transformers.configuration_utils import PretrainedConfig +from transformers.utils import logging +from transformers.modeling_utils import PreTrainedModel +from transformers.activations import ACT2FN + +from .configuration_vibevoice import VibeVoiceAcousticTokenizerConfig, VibeVoiceSemanticTokenizerConfig + +logger = logging.get_logger(__name__) + +import os +# Try to import APEX FusedRMSNorm +try: + from apex.normalization.fused_layer_norm import fused_rms_norm_affine + APEX_AVAILABLE = True + logger.info("APEX FusedRMSNorm is available and will be used for optimization") + if int(os.getenv("OPTIMIZE_FOR_SPEED", "0")) == 0: + APEX_AVAILABLE = False + logger.warning("APEX FusedRMSNorm is disabled by environment variable OPTIMIZE_FOR_SPEED=0") +except ImportError: + APEX_AVAILABLE = False + logger.warning("APEX FusedRMSNorm not available, using native implementation") +# APEX_AVAILABLE=False + +# Normalization modules +class ConvLayerNorm(nn.LayerNorm): + """ + Convolution-friendly LayerNorm that moves channels to last dimensions + before running the normalization and moves them back to original position right after. + """ + def __init__(self, normalized_shape: tp.Union[int, tp.List[int], torch.Size], **kwargs): + super().__init__(normalized_shape, **kwargs) + + def forward(self, x): + x = x.transpose(1, 2) # b ... t -> b t ... + x = nn.functional.layer_norm(x.float(), self.normalized_shape, self.weight.float(), self.bias.float(), self.eps).type_as(x) + x = x.transpose(1, 2) # b t ... -> b ... t + return x + +class RMSNorm(nn.Module): + def __init__(self, dim: int, eps: float = 1e-5, elementwise_affine=True, weight_shape=None): + super().__init__() + self.dim = dim + self.eps = eps + self.elementwise_affine = elementwise_affine + if self.elementwise_affine: + weight_shape = (dim,) if weight_shape is None else weight_shape + self.weight = nn.Parameter(torch.ones(weight_shape)) + else: + self.register_parameter('weight', None) + + def _norm(self, x): + return x * torch.rsqrt(x.pow(2).mean(-1, keepdim=True) + self.eps) + + def forward(self, x): + output = self._norm(x.float()).type_as(x) + if self.weight is not None: + output = output * self.weight + return output + + def extra_repr(self) -> str: + return f'dim={self.dim}, eps={self.eps}, elementwise_affine={self.elementwise_affine}' + +class ConvRMSNorm(RMSNorm): + def __init__(self, dim: int, eps: float = 1e-5, elementwise_affine=True, weight_shape=None): + super().__init__(dim, eps, elementwise_affine, weight_shape) + + def forward(self, x): + x = x.transpose(1, 2) # b ... t -> b t ... + if (not APEX_AVAILABLE) or (not self.elementwise_affine): + # Fallback to native implementation + output = self._norm(x.float()).type_as(x) + if self.weight is not None: + output = output * self.weight + else: + output = fused_rms_norm_affine(x, self.weight, self.weight.shape, self.eps) + output = output.transpose(1, 2) # b t ... -> b ... t + return output + +# Convolutional layers and utilities +CONV_NORMALIZATIONS = frozenset(['none', 'weight_norm', 'spectral_norm', + 'time_layer_norm', 'layer_norm', 'time_group_norm']) + + +def apply_parametrization_norm(module: nn.Module, norm: str = 'none') -> nn.Module: + assert norm in CONV_NORMALIZATIONS + if norm == 'weight_norm': + return nn.utils.weight_norm(module) + elif norm == 'spectral_norm': + return nn.utils.spectral_norm(module) + else: + # We already check was in CONV_NORMALIZATION, so any other choice + # doesn't need reparametrization. + return module + + +def get_norm_module(module: nn.Module, causal: bool = False, norm: str = 'none', **norm_kwargs) -> nn.Module: + """Return the proper normalization module. If causal is True, this will ensure the returned + module is causal, or return an error if the normalization doesn't support causal evaluation. + """ + assert norm in CONV_NORMALIZATIONS + if norm == 'layer_norm': + assert isinstance(module, nn.modules.conv._ConvNd) + return ConvLayerNorm(module.out_channels, **norm_kwargs) + elif norm == 'time_group_norm': + if causal: + raise ValueError("GroupNorm doesn't support causal evaluation.") + assert isinstance(module, nn.modules.conv._ConvNd) + return nn.GroupNorm(1, module.out_channels, **norm_kwargs) + else: + return nn.Identity() + + +def get_extra_padding_for_conv1d(x: torch.Tensor, kernel_size: int, stride: int, + padding_total: int = 0) -> int: + """Calculate extra padding needed for convolution to have the same output length""" + length = x.shape[-1] + n_frames = (length - kernel_size + padding_total) / stride + 1 + ideal_length = (math.ceil(n_frames) - 1) * stride + (kernel_size - padding_total) + return ideal_length - length + + +def pad1d(x: torch.Tensor, paddings: tp.Tuple[int, int], mode: str = 'zero', value: float = 0.): + """Pad 1D input with handling for small inputs in reflect mode""" + length = x.shape[-1] + padding_left, padding_right = paddings + assert padding_left >= 0 and padding_right >= 0, (padding_left, padding_right) + if mode == 'reflect': + max_pad = max(padding_left, padding_right) + extra_pad = 0 + if length <= max_pad: + extra_pad = max_pad - length + 1 + x = F.pad(x, (0, extra_pad)) + padded = F.pad(x, paddings, mode, value) + end = padded.shape[-1] - extra_pad + return padded[..., :end] + else: + return F.pad(x, paddings, mode, value) + + +def unpad1d(x: torch.Tensor, paddings: tp.Tuple[int, int]): + """Remove padding from x, handling properly zero padding. Only for 1d!""" + padding_left, padding_right = paddings + assert padding_left >= 0 and padding_right >= 0, (padding_left, padding_right) + assert (padding_left + padding_right) <= x.shape[-1] + end = x.shape[-1] - padding_right + return x[..., padding_left: end] + + +class NormConv1d(nn.Module): + """Wrapper around Conv1d and normalization applied to this conv""" + def __init__(self, *args, causal: bool = False, norm: str = 'none', + norm_kwargs: tp.Dict[str, tp.Any] = {}, **kwargs): + super().__init__() + self.conv = apply_parametrization_norm(nn.Conv1d(*args, **kwargs), norm) + self.norm = get_norm_module(self.conv, causal, norm, **norm_kwargs) + self.norm_type = norm + + def forward(self, x): + x = self.conv(x) + x = self.norm(x) + return x + + +class NormConvTranspose1d(nn.Module): + """Wrapper around ConvTranspose1d and normalization applied to this conv""" + def __init__(self, *args, causal: bool = False, norm: str = 'none', + norm_kwargs: tp.Dict[str, tp.Any] = {}, **kwargs): + super().__init__() + self.convtr = apply_parametrization_norm(nn.ConvTranspose1d(*args, **kwargs), norm) + self.norm = get_norm_module(self.convtr, causal, norm, **norm_kwargs) + self.norm_type = norm + + def forward(self, x): + x = self.convtr(x) + x = self.norm(x) + return x + + +class VibeVoiceTokenizerStreamingCache: + """Cache for streaming convolution, similar to KV cache in attention""" + def __init__(self): + self.cache = {} # Dict mapping (layer_id, sample_idx) to state tensor + + def get(self, layer_id: str, sample_indices: torch.Tensor) -> Optional[torch.Tensor]: + """Get cached states for given layer and sample indices""" + states = [] + max_length = 0 + + # First pass: collect states and find max length + for idx in sample_indices.tolist(): + key = (layer_id, idx) + if key not in self.cache: + return None # If any sample is missing, return None + state = self.cache[key] + states.append(state) + max_length = max(max_length, state.shape[-1]) + + # Second pass: pad states to max length if needed + if len(states) > 0 and states[0].dim() >= 2: + padded_states = [] + for state in states: + if state.shape[-1] < max_length: + # Pad on the time dimension (last dimension) + pad_size = max_length - state.shape[-1] + # Pad with zeros on the LEFT to align the most recent samples + padded_state = F.pad(state, (pad_size, 0), mode='constant', value=0) + padded_states.append(padded_state) + else: + padded_states.append(state) + return torch.stack(padded_states, dim=0) + else: + return torch.stack(states, dim=0) + + def set(self, layer_id: str, sample_indices: torch.Tensor, states: torch.Tensor): + """Set cached states for given layer and sample indices""" + for i, idx in enumerate(sample_indices.tolist()): + key = (layer_id, idx) + self.cache[key] = states[i].detach() + + def set_to_zero(self, sample_indices: torch.Tensor): + """Set all cached states to zero for given sample indices""" + for key in list(self.cache.keys()): + layer_id, sample_idx = key + if sample_idx in sample_indices.tolist(): + # Create zero tensor with same shape and dtype as cached tensor + cached_tensor = self.cache[key] + self.cache[key] = torch.zeros_like(cached_tensor) + + def clear(self, layer_id: Optional[str] = None, sample_indices: Optional[torch.Tensor] = None): + """Clear cache for specific layer/samples or everything""" + if layer_id is None and sample_indices is None: + self.cache.clear() + elif layer_id is not None and sample_indices is None: + # Clear all samples for a specific layer + keys_to_remove = [k for k in self.cache.keys() if k[0] == layer_id] + for k in keys_to_remove: + del self.cache[k] + elif layer_id is not None and sample_indices is not None: + # Clear specific samples for a specific layer + for idx in sample_indices.tolist(): + key = (layer_id, idx) + self.cache.pop(key, None) + +class SConv1d(nn.Module): + """Conv1d with built-in handling of asymmetric or causal padding and normalization.""" + def __init__(self, in_channels: int, out_channels: int, + kernel_size: int, stride: int = 1, dilation: int = 1, + groups: int = 1, bias: bool = True, causal: bool = False, + norm: str = 'none', norm_kwargs: tp.Dict[str, tp.Any] = {}, + pad_mode: str = 'reflect'): + super().__init__() + self.conv = NormConv1d(in_channels, out_channels, kernel_size, stride, + dilation=dilation, groups=groups, bias=bias, causal=causal, + norm=norm, norm_kwargs=norm_kwargs) + self.causal = causal + self.pad_mode = pad_mode + + # Store configuration + self.kernel_size = kernel_size + self.dilation = dilation + self.stride = stride + self.in_channels = in_channels + self.out_channels = out_channels + + # For causal convolution, we need to maintain kernel_size - 1 samples as context + # need to check use which context_size is more suitable + # self.context_size = (kernel_size - 1) * dilation + self.context_size = (kernel_size - 1) * dilation - (stride - 1) + + # For non-streaming mode, calculate padding + self.padding_total = (kernel_size - 1) * dilation - (stride - 1) + + # Create a unique layer ID for cache management + self._layer_id = None + + @property + def layer_id(self): + if self._layer_id is None: + self._layer_id = f"sconv1d_{id(self)}" + return self._layer_id + + def forward(self, x: torch.Tensor, + cache: Optional[VibeVoiceTokenizerStreamingCache] = None, + sample_indices: Optional[torch.Tensor] = None, + use_cache: bool = False, + debug: bool = False) -> torch.Tensor: + """ + Forward pass with optional streaming support via cache. + + Args: + x: Input tensor [batch_size, channels, time] + cache: VibeVoiceTokenizerStreamingCache object for maintaining states + sample_indices: Indices identifying each sample for cache management + use_cache: Whether to use cached states for streaming + debug: Whether to print debug information + + Returns: + Output tensor + """ + B, C, T = x.shape + + # Non-streaming mode + if not use_cache or cache is None: + return self._forward_non_streaming(x, debug=debug) + + # Streaming mode + assert self.causal, "Streaming mode is only supported for causal convolutions" + assert sample_indices is not None, "sample_indices must be provided for streaming mode" + assert len(sample_indices) == B, "sample_indices must match batch size" + + return self._forward_streaming(x, cache, sample_indices, debug) + + def _forward_streaming(self, x: torch.Tensor, + cache: VibeVoiceTokenizerStreamingCache, + sample_indices: torch.Tensor, + debug: bool = False) -> torch.Tensor: + """Streaming forward pass with cache operations kept separate from compiled code""" + B, C, T = x.shape + + # Cache operations (not compiled) + cached_states = cache.get(self.layer_id, sample_indices) + + if cached_states is None: + # First chunk - initialize with zeros for context + if self.context_size > 0: + cached_states = torch.zeros(B, C, self.context_size, device=x.device, dtype=x.dtype) + if debug: + print(f"[DEBUG] Initialized cache with shape: {cached_states.shape}, context_size={self.context_size}") + else: + cached_states = torch.zeros(B, C, 0, device=x.device, dtype=x.dtype) + if debug: + print(f"[DEBUG] No context needed (kernel_size=stride)") + + # Concatenate cached states with input + if cached_states.shape[2] > 0: + input_with_context = torch.cat([cached_states, x], dim=2) + else: + input_with_context = x + + if debug: + print(f"[DEBUG] Input shape: {x.shape}, Cache shape: {cached_states.shape}, Combined: {input_with_context.shape}") + + # Apply convolution directly - no extra padding in streaming mode + # The conv layer will handle its own padding internally + output = self.conv(input_with_context) + + if debug: + print(f"[DEBUG] Output shape: {output.shape}") + + # Update cache for next chunk + if self.context_size > 0: + # Calculate how many samples to keep + total_input_length = input_with_context.shape[2] + + # Keep the last context_size samples + if total_input_length >= self.context_size: + new_cache_start = total_input_length - self.context_size + new_cache = input_with_context[:, :, new_cache_start:] + else: + # If we have less than context_size samples, keep everything + new_cache = input_with_context + + if debug: + print(f"[DEBUG] New cache shape: {new_cache.shape}") + + cache.set(self.layer_id, sample_indices, new_cache) + + return output + + def _forward_non_streaming(self, x: torch.Tensor, debug: bool = False) -> torch.Tensor: + """Standard forward pass without streaming""" + B, C, T = x.shape + kernel_size = self.kernel_size + stride = self.stride + dilation = self.dilation + padding_total = self.padding_total + + # Compute extra padding for stride alignment + extra_padding = get_extra_padding_for_conv1d(x, kernel_size, stride, padding_total) + + if debug: + print(f"[DEBUG NON-STREAMING] Input shape: {x.shape}, padding_total={padding_total}, extra_padding={extra_padding}") + + if self.causal: + # Left padding for causal + if self.pad_mode == 'constant': + x = pad1d(x, (padding_total, extra_padding), mode=self.pad_mode, value=0) + else: + x = pad1d(x, (padding_total, extra_padding), mode=self.pad_mode) + else: + # Symmetric padding for non-causal + padding_right = padding_total // 2 + padding_left = padding_total - padding_right + x = pad1d(x, (padding_left, padding_right + extra_padding), mode=self.pad_mode) + + if debug: + print(f"[DEBUG NON-STREAMING] After padding: {x.shape}") + + output = self.conv(x) + + if debug: + print(f"[DEBUG NON-STREAMING] Output shape: {output.shape}") + + return output + + +class SConvTranspose1d(nn.Module): + """ConvTranspose1d with built-in handling of asymmetric or causal padding and normalization.""" + def __init__(self, in_channels: int, out_channels: int, + kernel_size: int, stride: int = 1, causal: bool = False, + norm: str = 'none', trim_right_ratio: float = 1., + norm_kwargs: tp.Dict[str, tp.Any] = {}, bias: bool = True): + super().__init__() + self.convtr = NormConvTranspose1d(in_channels, out_channels, kernel_size, stride, + causal=causal, norm=norm, norm_kwargs=norm_kwargs, bias=bias) + self.causal = causal + self.trim_right_ratio = trim_right_ratio + assert self.causal or self.trim_right_ratio == 1., \ + "`trim_right_ratio` != 1.0 only makes sense for causal convolutions" + assert self.trim_right_ratio >= 0. and self.trim_right_ratio <= 1. + + # Store configuration + self.kernel_size = kernel_size + self.stride = stride + self.in_channels = in_channels + self.out_channels = out_channels + + # For transposed convolution, padding calculation is different + self.padding_total = kernel_size - stride + + # For streaming, we need to keep track of input history + # Transposed conv needs to see multiple input samples to produce correct output + self.context_size = kernel_size - 1 + + # Create a unique layer ID for cache management + self._layer_id = None + + @property + def layer_id(self): + if self._layer_id is None: + self._layer_id = f"sconvtr1d_{id(self)}" + return self._layer_id + + def forward(self, x: torch.Tensor, + cache: Optional[VibeVoiceTokenizerStreamingCache] = None, + sample_indices: Optional[torch.Tensor] = None, + use_cache: bool = False, + debug: bool = False) -> torch.Tensor: + """ + Forward pass with optional streaming support via cache. + """ + B, C, T = x.shape + + # Non-streaming mode + if not use_cache or cache is None: + return self._forward_non_streaming(x, debug=debug) + + # Streaming mode + assert sample_indices is not None, "sample_indices must be provided for streaming mode" + assert len(sample_indices) == B, "sample_indices must match batch size" + + return self._forward_streaming(x, cache, sample_indices, debug) + + def _forward_streaming(self, x: torch.Tensor, + cache: VibeVoiceTokenizerStreamingCache, + sample_indices: torch.Tensor, + debug: bool = False) -> torch.Tensor: + """Streaming forward pass with cache operations kept separate from compiled code""" + B, C, T = x.shape + + # Cache operations (not compiled) + cached_input = cache.get(self.layer_id, sample_indices) + + if cached_input is None: + # First chunk - no history yet + cached_input = torch.zeros(B, C, 0, device=x.device, dtype=x.dtype) + if debug: + print(f"[DEBUG] Initialized empty cache for transposed conv") + + # Concatenate cached input with new input + full_input = torch.cat([cached_input, x], dim=2) + + if debug: + print(f"[DEBUG] Input shape: {x.shape}, Cache shape: {cached_input.shape}, Combined: {full_input.shape}") + + # First chunk or debug mode - use uncompiled version + full_output = self.convtr(full_input) + + if debug: + print(f"[DEBUG] Full transposed conv output shape: {full_output.shape}") + + # Calculate padding to remove + if self.causal: + padding_right = math.ceil(self.padding_total * self.trim_right_ratio) + padding_left = self.padding_total - padding_right + else: + padding_right = self.padding_total // 2 + padding_left = self.padding_total - padding_right + + # Remove padding + if padding_left + padding_right > 0: + full_output = unpad1d(full_output, (padding_left, padding_right)) + + if debug: + print(f"[DEBUG] After unpadding: {full_output.shape}") + + # Determine which part of the output corresponds to the new input + if cached_input.shape[2] == 0: + # First chunk - return all output + output = full_output + else: + # Subsequent chunks - return only the new output + expected_new_output = T * self.stride + + # Take the last expected_new_output samples + if full_output.shape[2] >= expected_new_output: + output = full_output[:, :, -expected_new_output:] + else: + output = full_output + + if debug: + print(f"[DEBUG] Final streaming output shape: {output.shape}") + + # Update cache + if full_input.shape[2] > self.context_size: + new_cache = full_input[:, :, -self.context_size:] + else: + new_cache = full_input + + if debug: + print(f"[DEBUG] New cache shape: {new_cache.shape}") + + cache.set(self.layer_id, sample_indices, new_cache) + + return output + + def _forward_non_streaming(self, x: torch.Tensor, debug: bool = False) -> torch.Tensor: + """Standard forward pass without streaming""" + if debug: + print(f"[DEBUG NON-STREAMING] Input shape: {x.shape}") + + # Apply transposed convolution + y = self.convtr(x) + + if debug: + print(f"[DEBUG NON-STREAMING] After transposed conv: {y.shape}") + + # Calculate and remove padding + if self.causal: + padding_right = math.ceil(self.padding_total * self.trim_right_ratio) + padding_left = self.padding_total - padding_right + else: + padding_right = self.padding_total // 2 + padding_left = self.padding_total - padding_right + + if padding_left + padding_right > 0: + y = unpad1d(y, (padding_left, padding_right)) + + if debug: + print(f"[DEBUG NON-STREAMING] Final output shape: {y.shape}") + + return y + +# FFN +class FFN(nn.Module): + def __init__( + self, + embed_dim, + ffn_dim, + bias=False, + ): + super().__init__() + self.embed_dim = embed_dim + self.linear1 = nn.Linear(self.embed_dim, ffn_dim, bias=bias) + self.gelu = ACT2FN["gelu"] + self.linear2 = nn.Linear(ffn_dim, self.embed_dim, bias=bias) + + def forward(self, x): + x = self.linear1(x) + x = self.gelu(x) + x = self.linear2(x) + return x + + +class Convlayer(nn.Module): + def __init__( + self, + in_channels, + out_channels, + kernel_size, + stride=1, + dilation=1, + groups=1, + bias=True, + pad_mode='zeros', + norm='weight_norm', + causal=True, + ): + super().__init__() + self.conv = SConv1d(in_channels, out_channels, kernel_size, stride=stride, dilation=dilation, + groups=groups, bias=bias, pad_mode=pad_mode, norm=norm, causal=causal) + + def forward(self, x): + return self.conv(x) + +class Block1D(nn.Module): + def __init__(self, dim, kernel_size=7, drop_path=0., mixer_layer='conv', + layer_scale_init_value=1e-6, **kwargs): + super().__init__() + + if kwargs.get('layernorm', 'LN') == 'LN': + self.norm = ConvLayerNorm(dim, eps=kwargs.get('eps', 1e-6)) + self.ffn_norm = ConvLayerNorm(dim, eps=kwargs.get('eps', 1e-6)) + elif kwargs.get('layernorm', 'RMSNorm') == 'RMSNorm': + self.norm = ConvRMSNorm(dim, eps=kwargs.get('eps', 1e-6)) + self.ffn_norm = ConvRMSNorm(dim, eps=kwargs.get('eps', 1e-6)) + + if mixer_layer == 'conv': + self.mixer = Convlayer(dim, dim, groups=kwargs.get('groups', 1), + kernel_size=kernel_size, + pad_mode=kwargs.get('pad_mode', 'reflect'), + norm=kwargs.get('norm', 'none'), + causal=kwargs.get('causal', True), + bias=kwargs.get('bias', True), + ) + elif mixer_layer == 'depthwise_conv': + self.mixer = Convlayer(dim, dim, groups=dim, + kernel_size=kernel_size, + pad_mode=kwargs.get('pad_mode', 'reflect'), + norm=kwargs.get('norm', 'none'), + causal=kwargs.get('causal', True), + bias=kwargs.get('bias', True), + ) + else: + raise ValueError(f"Unsupported mixer layer: {mixer_layer}") + + self.ffn = FFN( + dim, + kwargs.get('ffn_expansion', 4) * dim, + bias=kwargs.get('bias', False), + ) + self.drop_path = nn.Identity() if drop_path <= 0. else nn.modules.DropPath(drop_path) + + if layer_scale_init_value > 0: + self.gamma = nn.Parameter(layer_scale_init_value * torch.ones((dim)), requires_grad=True) + self.ffn_gamma = nn.Parameter(layer_scale_init_value * torch.ones((dim)), requires_grad=True) + else: + self.gamma = None + self.ffn_gamma = None + + def forward(self, x): + # mixer + residual = x + x = self.norm(x) + x = self.mixer(x) + if self.gamma is not None: + x = x * self.gamma.unsqueeze(-1) + x = residual + self.drop_path(x) + + # ffn + residual = x + x = self.ffn_norm(x) + x = x.permute(0, 2, 1) + x = self.ffn(x) + x = x.permute(0, 2, 1) + if self.ffn_gamma is not None: + x = x * self.ffn_gamma.unsqueeze(-1) + x = residual + self.drop_path(x) + + return x + + +class TokenizerEncoder(nn.Module): + """ + Encoder component for the VibeVoice tokenizer that converts audio to latent representations. + + Args: + config: Configuration object with model parameters + """ + def __init__(self, config): + super().__init__() + + # Extract parameters from config + self.channels = config.channels + self.dimension = config.dimension + self.n_filters = config.n_filters + self.ratios = list(reversed(config.ratios)) + self.depths = config.depths + self.n_residual_layers = getattr(config, "n_residual_layers", 1) + self.hop_length = np.prod(self.ratios) + self.causal = config.causal + + # Additional config parameters with defaults + kernel_size = getattr(config, "kernel_size", 7) + last_kernel_size = getattr(config, "last_kernel_size", 7) + norm = getattr(config, "norm", "none") + norm_params = getattr(config, "norm_params", {}) + pad_mode = getattr(config, "pad_mode", "reflect") + bias = getattr(config, "bias", True) + layernorm = getattr(config, "layernorm", "LN") + layernorm_eps = getattr(config, "layernorm_eps", 1e-6) + layernorm_elementwise_affine = getattr(config, "layernorm_elementwise_affine", True) + drop_path_rate = getattr(config, "drop_path_rate", 0.0) + mixer_layer = getattr(config, "mixer_layer", "conv") + layer_scale_init_value = getattr(config, "layer_scale_init_value", 0) + disable_last_norm = getattr(config, "disable_last_norm", False) + + # determine the norm type based on layernorm + if layernorm == 'LN': + norm_type = ConvLayerNorm + elif layernorm == 'RMSNorm': + norm_type = partial(ConvRMSNorm, elementwise_affine=layernorm_elementwise_affine) + else: + raise ValueError(f"Unsupported norm type: {layernorm}") + + # stem and intermediate downsampling conv layers + stem = nn.Sequential( + SConv1d(self.channels, self.n_filters, kernel_size, norm=norm, norm_kwargs=norm_params, causal=self.causal, pad_mode=pad_mode, bias=bias), + ) + + self.downsample_layers = nn.ModuleList() + self.downsample_layers.append(stem) + for i in range(len(self.ratios)): + in_ch = self.n_filters * (2 ** i) + out_ch = self.n_filters * (2 ** (i + 1)) + downsample_layer = nn.Sequential( + SConv1d(in_ch, out_ch, kernel_size=self.ratios[i] * 2, stride=self.ratios[i], causal=self.causal, pad_mode=pad_mode, norm=norm, bias=bias) + ) + self.downsample_layers.append(downsample_layer) + + # configure the transformer blocks + layer_type = partial( + Block1D, + mixer_layer=mixer_layer, + layernorm=layernorm, + eps=layernorm_eps, + causal=self.causal, + pad_mode=pad_mode, + norm=norm, + bias=bias, + layer_scale_init_value=layer_scale_init_value, + ) + + self.stages = nn.ModuleList() + dp_rates = [x.item() for x in torch.linspace(0, drop_path_rate, sum(self.depths))] + cur = 0 + + for i in range(len(self.depths)): + in_ch = self.n_filters * (2 ** i) + stage = nn.Sequential( + *[layer_type(dim=in_ch, drop_path=dp_rates[cur + j]) for j in range(self.depths[i])] + ) + self.stages.append(stage) + cur += self.depths[i] + + if not disable_last_norm: + self.norm = norm_type(in_ch, eps=layernorm_eps) + else: + self.norm = nn.Identity() + self.head = SConv1d(in_ch, self.dimension, kernel_size=last_kernel_size, causal=self.causal, pad_mode=pad_mode, norm=norm, bias=bias) + + def forward_features(self, x, cache=None, sample_indices=None, use_cache=False, debug=False): + for i in range(len(self.depths)): + # Apply downsampling + for layer in self.downsample_layers[i]: + if isinstance(layer, SConv1d): + x = layer(x, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + else: + x = layer(x) + + # Apply stage (Block1D contains Convlayer which contains SConv1d) + for block in self.stages[i]: + if hasattr(block, 'mixer') and hasattr(block.mixer, 'conv') and isinstance(block.mixer.conv, SConv1d): + # Block1D forward with cache support + residual = x + x = block.norm(x) + x = block.mixer.conv(x, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + if block.gamma is not None: + x = x * block.gamma.unsqueeze(-1) + x = residual + x + + # FFN part + residual = x + x = block.ffn_norm(x) + x = x.permute(0, 2, 1) + x = block.ffn(x) + x = x.permute(0, 2, 1) + if block.ffn_gamma is not None: + x = x * block.ffn_gamma.unsqueeze(-1) + x = residual + x + else: + x = block(x) + + return self.norm(x) + + def forward(self, x, cache=None, sample_indices=None, use_cache=False, debug=False): + x = self.forward_features(x, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + x = self.head(x, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + return x + + +class TokenizerDecoder(nn.Module): + """ + Decoder component for the VibeVoice tokenizer that converts latent representations back to audio. + + Args: + config: Configuration object with model parameters + """ + def __init__(self, config): + super().__init__() + + # Extract parameters from config + self.dimension = config.dimension + self.channels = config.channels + self.n_filters = config.n_filters + self.ratios = config.ratios + + # IMPORTANT CHANGE: Don't reverse depths again since they're already reversed in VibeVoiceAcousticTokenizerModel + self.depths = config.depths # Changed from list(reversed(config.depths)) + + self.n_residual_layers = getattr(config, "n_residual_layers", 1) + self.hop_length = np.prod(self.ratios) + self.causal = config.causal + + # Additional config parameters with defaults + kernel_size = getattr(config, "kernel_size", 7) + last_kernel_size = getattr(config, "last_kernel_size", 7) + norm = getattr(config, "norm", "none") + norm_params = getattr(config, "norm_params", {}) + pad_mode = getattr(config, "pad_mode", "reflect") + bias = getattr(config, "bias", True) + layernorm = getattr(config, "layernorm", "LN") + layernorm_eps = getattr(config, "layernorm_eps", 1e-6) + trim_right_ratio = getattr(config, "trim_right_ratio", 1.0) + layernorm_elementwise_affine = getattr(config, "layernorm_elementwise_affine", True) + drop_path_rate = getattr(config, "drop_path_rate", 0.0) + mixer_layer = getattr(config, "mixer_layer", "conv") + layer_scale_init_value = getattr(config, "layer_scale_init_value", 0) + disable_last_norm = getattr(config, "disable_last_norm", False) + + # determine the norm type based on layernorm + if layernorm == 'LN': + norm_type = ConvLayerNorm + elif layernorm == 'RMSNorm': + norm_type = partial(ConvRMSNorm, elementwise_affine=layernorm_elementwise_affine) + else: + raise ValueError(f"Unsupported norm type: {layernorm}") + + # stem and upsampling layers + stem = nn.Sequential( + SConv1d(self.dimension, self.n_filters * 2 ** (len(self.depths) - 1), kernel_size, norm=norm, + norm_kwargs=norm_params, causal=self.causal, pad_mode=pad_mode, bias=bias), + ) + + self.upsample_layers = nn.ModuleList() + self.upsample_layers.append(stem) + for i in range(len(self.ratios)): + in_ch = self.n_filters * (2 ** (len(self.depths) - 1 - i)) + out_ch = self.n_filters * (2 ** (len(self.depths) - 1 - i - 1)) + upsample_layer = nn.Sequential( + SConvTranspose1d(in_ch, out_ch, + kernel_size=self.ratios[i] * 2, stride=self.ratios[i], + norm=norm, norm_kwargs=norm_params, bias=bias, + causal=self.causal, trim_right_ratio=trim_right_ratio), + ) + self.upsample_layers.append(upsample_layer) + + # configure transformer blocks + layer_type = partial( + Block1D, + mixer_layer=mixer_layer, + layernorm=layernorm, + eps=layernorm_eps, + causal=self.causal, + pad_mode=pad_mode, + norm=norm, + bias=bias, + layer_scale_init_value=layer_scale_init_value, + ) + + self.stages = nn.ModuleList() + dp_rates = [x.item() for x in torch.linspace(0, drop_path_rate, sum(self.depths))] + cur = 0 + + # Create stages in the same order as the original model + for i in range(len(self.depths)): + in_ch = self.n_filters * (2 ** (len(self.depths) - 1 - i)) + stage = nn.Sequential( + *[layer_type(dim=in_ch, drop_path=dp_rates[cur + j]) for j in range(self.depths[i])] + ) + self.stages.append(stage) + cur += self.depths[i] + + if not disable_last_norm: + self.norm = norm_type(in_ch, eps=layernorm_eps) + else: + self.norm = nn.Identity() + self.head = SConv1d(in_ch, self.channels, kernel_size=last_kernel_size, causal=self.causal, pad_mode=pad_mode, norm=norm, bias=bias) + + def forward_features(self, x, cache=None, sample_indices=None, use_cache=False, debug=False): + for i in range(len(self.depths)): + # Apply upsampling + for layer in self.upsample_layers[i]: + if isinstance(layer, (SConv1d, SConvTranspose1d)): + x = layer(x, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + else: + x = layer(x) + + # Apply stage (Block1D contains Convlayer which contains SConv1d) + for block in self.stages[i]: + if hasattr(block, 'mixer') and hasattr(block.mixer, 'conv') and isinstance(block.mixer.conv, SConv1d): + # Block1D forward with cache support + residual = x + x = block.norm(x) + x = block.mixer.conv(x, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + if block.gamma is not None: + x = x * block.gamma.unsqueeze(-1) + x = residual + x + + # FFN part + residual = x + x = block.ffn_norm(x) + x = x.permute(0, 2, 1) + x = block.ffn(x) + x = x.permute(0, 2, 1) + if block.ffn_gamma is not None: + x = x * block.ffn_gamma.unsqueeze(-1) + x = residual + x + else: + x = block(x) + + return self.norm(x) + + def forward(self, x, cache=None, sample_indices=None, use_cache=False, debug=False): + x = self.forward_features(x, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + x = self.head(x, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + return x + + +@dataclass +class VibeVoiceTokenizerEncoderOutput: + """ + Output of VibeVoice tokenizer encoder, representing a Gaussian distribution with fixed variance. + + Args: + mean (`torch.FloatTensor`): The mean parameters of the distribution. + std (`float` or `torch.FloatTensor`): Fixed standard deviation value. + """ + mean: torch.Tensor + std: Optional[Union[float, torch.Tensor]] = None + + def sample(self, dist_type='fix'): + """ + Sample from the distribution. + + Args: + dist_type (`str`): Sampling method, either 'fix' or 'gaussian'. + + Returns: + `torch.FloatTensor`: Sampled values. + `torch.FloatTensor` (optional): Standard deviation used (only when dist_type='gaussian'). + """ + if dist_type == 'fix': + x = self.mean + self.std * torch.randn_like(self.mean) + return x, self.std + elif dist_type == 'gaussian': + batch_size = self.mean.size(0) + value = self.std / 0.8 + std = torch.randn(batch_size, device=self.mean.device, dtype=self.mean.dtype) * value + + while std.dim() < self.mean.dim(): + std = std.unsqueeze(-1) + + x = self.mean + std * torch.randn_like(self.mean) + return x, std + else: + return self.mean, self.std + + def kl(self): + """Compute KL divergence between this distribution and a standard normal.""" + target = torch.zeros_like(self.mean) + return F.mse_loss(self.mean, target, reduction='none') + + def mode(self): + """Return the distribution mode (which is the mean for Gaussian).""" + return self.mean + +class VibeVoiceAcousticTokenizerModel(PreTrainedModel): + """VibeVoice speech tokenizer model combining encoder and decoder for acoustic tokens""" + + config_class = VibeVoiceAcousticTokenizerConfig + base_model_prefix = "vibevoice_acoustic_tokenizer" + _supports_flash_attn_2 = True + _supports_sdpa = True + _no_split_modules = ["TokenizerEncoder", "TokenizerDecoder"] + + def __init__(self, config): + super().__init__(config) + + self.register_buffer('fix_std', torch.tensor(config.fix_std), persistent=False) + self.std_dist_type = getattr(config, "std_dist_type", "fix") + + # Parse encoder depths + if isinstance(config.encoder_depths, str): + encoder_depths = [int(d) for d in config.encoder_depths.split('-')] + else: + encoder_depths = config.encoder_depths + + # Parse decoder depths if provided + if config.decoder_depths is not None and isinstance(config.decoder_depths, str): + decoder_depths = [int(d) for d in config.decoder_depths.split('-')] + else: + # Default: use reversed encoder depths if decoder_depths is None + decoder_depths = list(reversed(encoder_depths)) + + # Create encoder config + encoder_config = copy.deepcopy(config) + encoder_config.dimension = config.vae_dim + encoder_config.n_filters = config.encoder_n_filters + encoder_config.ratios = config.encoder_ratios + encoder_config.depths = encoder_depths + encoder_config.norm = config.conv_norm + encoder_config.pad_mode = config.pad_mode + encoder_config.bias = config.conv_bias + encoder_config.layernorm_eps = config.layernorm_eps + encoder_config.layernorm_elementwise_affine = config.layernorm_elementwise_affine + encoder_config.mixer_layer = config.mixer_layer + encoder_config.layer_scale_init_value = config.layer_scale_init_value + encoder_config.disable_last_norm = config.disable_last_norm + + # Create decoder config + decoder_config = copy.deepcopy(config) + decoder_config.dimension = config.vae_dim + decoder_config.n_filters = config.decoder_n_filters + decoder_config.ratios = config.decoder_ratios + decoder_config.depths = decoder_depths + decoder_config.norm = config.conv_norm + decoder_config.pad_mode = config.pad_mode + decoder_config.bias = config.conv_bias + decoder_config.layernorm_eps = config.layernorm_eps + decoder_config.layernorm_elementwise_affine = config.layernorm_elementwise_affine + decoder_config.mixer_layer = config.mixer_layer + decoder_config.layer_scale_init_value = config.layer_scale_init_value + decoder_config.disable_last_norm = config.disable_last_norm + + # Initialize encoder and decoder + self.encoder = TokenizerEncoder(encoder_config) + self.decoder = TokenizerDecoder(decoder_config) + + # Initialize weights + self.apply(self._init_weights) + + def _init_weights(self, module): + """Initialize weights for the model""" + if isinstance(module, nn.Linear): + nn.init.normal_(module.weight, std=self.config.weight_init_value) + if module.bias is not None: + nn.init.zeros_(module.bias) + elif isinstance(module, nn.LayerNorm): + nn.init.ones_(module.weight) + nn.init.zeros_(module.bias) + elif isinstance(module, nn.Conv1d): + nn.init.normal_(module.weight, std=self.config.weight_init_value) + if module.bias is not None: + nn.init.zeros_(module.bias) + + @torch.no_grad() + def encode(self, audio, cache=None, sample_indices=None, use_cache=False, debug=False): + """Convert audio to latent representations""" + latents = self.encoder(audio, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + return VibeVoiceTokenizerEncoderOutput(mean=latents.permute(0, 2, 1), std=self.fix_std) + + @torch.no_grad() + def sampling(self, encoder_output, dist_type=None): + """Sample from the encoder output distribution""" + dist_type = dist_type or self.std_dist_type + + if dist_type == 'fix': + return encoder_output.sample(dist_type='fix') + elif dist_type == 'gaussian': + return encoder_output.sample(dist_type='gaussian') + else: + raise ValueError(f"Unsupported dist_type: {dist_type}, expected 'fix' or 'gaussian'") + + @torch.no_grad() + def decode(self, latents, cache=None, sample_indices=None, use_cache=False, debug=False): + """Convert latent representations back to audio""" + if latents.shape[1] == self.config.vae_dim: + pass + else: + latents = latents.permute(0, 2, 1) + + audio = self.decoder(latents, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + return audio + + def forward(self, audio, cache=None, sample_indices=None, use_cache=False, debug=False): + """Full forward pass: encode audio to latents, then decode back to audio""" + encoder_output = self.encode(audio, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + sampled_latents, _ = self.sampling(encoder_output) + reconstructed = self.decode(sampled_latents, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + return reconstructed, sampled_latents + + +class VibeVoiceSemanticTokenizerModel(PreTrainedModel): + """VibeVoice speech tokenizer model with only encoder for semantic tokens""" + + config_class = VibeVoiceSemanticTokenizerConfig + base_model_prefix = "vibevoice_semantic_tokenizer" + _supports_flash_attn_2 = True + _supports_sdpa = True + _no_split_modules = ["TokenizerEncoder"] + + def __init__(self, config): + super().__init__(config) + + # Parse encoder depths + if isinstance(config.encoder_depths, str): + encoder_depths = [int(d) for d in config.encoder_depths.split('-')] + else: + encoder_depths = config.encoder_depths + + # Create encoder config + encoder_config = copy.deepcopy(config) + encoder_config.dimension = config.vae_dim + encoder_config.n_filters = config.encoder_n_filters + encoder_config.ratios = config.encoder_ratios + encoder_config.depths = encoder_depths + encoder_config.norm = config.conv_norm + encoder_config.pad_mode = config.pad_mode + encoder_config.bias = config.conv_bias + encoder_config.layernorm_eps = config.layernorm_eps + encoder_config.layernorm_elementwise_affine = config.layernorm_elementwise_affine + encoder_config.mixer_layer = config.mixer_layer + encoder_config.layer_scale_init_value = config.layer_scale_init_value + encoder_config.disable_last_norm = config.disable_last_norm + + # Initialize encoder and decoder + self.encoder = TokenizerEncoder(encoder_config) + + # Initialize weights + self.apply(self._init_weights) + + def _init_weights(self, module): + """Initialize weights for the model""" + if isinstance(module, nn.Linear): + nn.init.normal_(module.weight, std=self.config.weight_init_value) + if module.bias is not None: + nn.init.zeros_(module.bias) + elif isinstance(module, nn.LayerNorm): + nn.init.ones_(module.weight) + nn.init.zeros_(module.bias) + elif isinstance(module, nn.Conv1d): + nn.init.normal_(module.weight, std=self.config.weight_init_value) + if module.bias is not None: + nn.init.zeros_(module.bias) + + @torch.no_grad() + def encode(self, audio, cache=None, sample_indices=None, use_cache=False, debug=False): + """Convert audio to latent representations""" + latents = self.encoder(audio, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + return VibeVoiceTokenizerEncoderOutput(mean=latents.permute(0, 2, 1)) + + @torch.no_grad() + def sampling(self, encoder_output, dist_type=None): + """Sample from the encoder output distribution""" + return encoder_output.sample(dist_type='none') + + def forward(self, audio, cache=None, sample_indices=None, use_cache=False, debug=False): + """Full forward pass: encode audio to latents, then decode back to audio""" + encoder_output = self.encode(audio, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + sampled_latents, _ = self.sampling(encoder_output, dist_type='none') + return None, sampled_latents + +AutoModel.register(VibeVoiceAcousticTokenizerConfig, VibeVoiceAcousticTokenizerModel) +AutoModel.register(VibeVoiceSemanticTokenizerConfig, VibeVoiceSemanticTokenizerModel) + +__all__ = [ + "VibeVoiceTokenizerStreamingCache", + "VibeVoiceAcousticTokenizerModel", + "VibeVoiceSemanticTokenizerModel", +] \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/modular/streamer.py b/lor/VibeVoice-finetuning/src/vibevoice/modular/streamer.py new file mode 100644 index 0000000000000000000000000000000000000000..7a76cb063ec1b48a9e6397f113b47663ae6c5799 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/modular/streamer.py @@ -0,0 +1,264 @@ +from __future__ import annotations + +import torch + +import asyncio +from queue import Queue +from typing import TYPE_CHECKING, Optional + + +from transformers.generation import BaseStreamer + + +class AudioStreamer(BaseStreamer): + """ + Audio streamer that stores audio chunks in queues for each sample in the batch. + This allows streaming audio generation for multiple samples simultaneously. + + Parameters: + batch_size (`int`): + The batch size for generation + stop_signal (`any`, *optional*): + The signal to put in the queue when generation ends. Defaults to None. + timeout (`float`, *optional*): + The timeout for the audio queue. If `None`, the queue will block indefinitely. + """ + + def __init__( + self, + batch_size: int, + stop_signal: Optional[any] = None, + timeout: Optional[float] = None, + ): + self.batch_size = batch_size + self.stop_signal = stop_signal + self.timeout = timeout + + # Create a queue for each sample in the batch + self.audio_queues = [Queue() for _ in range(batch_size)] + self.finished_flags = [False for _ in range(batch_size)] + self.sample_indices_map = {} # Maps from sample index to queue index + + def put(self, audio_chunks: torch.Tensor, sample_indices: torch.Tensor): + """ + Receives audio chunks and puts them in the appropriate queues. + + Args: + audio_chunks: Tensor of shape (num_samples, ...) containing audio chunks + sample_indices: Tensor indicating which samples these chunks belong to + """ + for i, sample_idx in enumerate(sample_indices): + idx = sample_idx.item() + if idx < self.batch_size and not self.finished_flags[idx]: + # Convert to numpy or keep as tensor based on preference + audio_chunk = audio_chunks[i].detach().cpu() + self.audio_queues[idx].put(audio_chunk, timeout=self.timeout) + + def end(self, sample_indices: Optional[torch.Tensor] = None): + """ + Signals the end of generation for specified samples or all samples. + + Args: + sample_indices: Optional tensor of sample indices to end. If None, ends all. + """ + if sample_indices is None: + # End all samples + for idx in range(self.batch_size): + if not self.finished_flags[idx]: + self.audio_queues[idx].put(self.stop_signal, timeout=self.timeout) + self.finished_flags[idx] = True + else: + # End specific samples + for sample_idx in sample_indices: + idx = sample_idx.item() if torch.is_tensor(sample_idx) else sample_idx + if idx < self.batch_size and not self.finished_flags[idx]: + self.audio_queues[idx].put(self.stop_signal, timeout=self.timeout) + self.finished_flags[idx] = True + + def __iter__(self): + """Returns an iterator over the batch of audio streams.""" + return AudioBatchIterator(self) + + def get_stream(self, sample_idx: int): + """Get the audio stream for a specific sample.""" + if sample_idx >= self.batch_size: + raise ValueError(f"Sample index {sample_idx} exceeds batch size {self.batch_size}") + return AudioSampleIterator(self, sample_idx) + + +class AudioSampleIterator: + """Iterator for a single audio stream from the batch.""" + + def __init__(self, streamer: AudioStreamer, sample_idx: int): + self.streamer = streamer + self.sample_idx = sample_idx + + def __iter__(self): + return self + + def __next__(self): + value = self.streamer.audio_queues[self.sample_idx].get(timeout=self.streamer.timeout) + if value == self.streamer.stop_signal: + raise StopIteration() + return value + + +class AudioBatchIterator: + """Iterator that yields audio chunks for all samples in the batch.""" + + def __init__(self, streamer: AudioStreamer): + self.streamer = streamer + self.active_samples = set(range(streamer.batch_size)) + + def __iter__(self): + return self + + def __next__(self): + if not self.active_samples: + raise StopIteration() + + batch_chunks = {} + samples_to_remove = set() + + # Try to get chunks from all active samples + for idx in self.active_samples: + try: + value = self.streamer.audio_queues[idx].get(block=False) + if value == self.streamer.stop_signal: + samples_to_remove.add(idx) + else: + batch_chunks[idx] = value + except: + # Queue is empty for this sample, skip it this iteration + pass + + # Remove finished samples + self.active_samples -= samples_to_remove + + if batch_chunks: + return batch_chunks + elif self.active_samples: + # If no chunks were ready but we still have active samples, + # wait a bit and try again + import time + time.sleep(0.01) + return self.__next__() + else: + raise StopIteration() + + +class AsyncAudioStreamer(AudioStreamer): + """ + Async version of AudioStreamer for use in async contexts. + """ + + def __init__( + self, + batch_size: int, + stop_signal: Optional[any] = None, + timeout: Optional[float] = None, + ): + super().__init__(batch_size, stop_signal, timeout) + # Replace regular queues with async queues + self.audio_queues = [asyncio.Queue() for _ in range(batch_size)] + self.loop = asyncio.get_running_loop() + + def put(self, audio_chunks: torch.Tensor, sample_indices: torch.Tensor): + """Put audio chunks in the appropriate async queues.""" + for i, sample_idx in enumerate(sample_indices): + idx = sample_idx.item() + if idx < self.batch_size and not self.finished_flags[idx]: + audio_chunk = audio_chunks[i].detach().cpu() + self.loop.call_soon_threadsafe( + self.audio_queues[idx].put_nowait, audio_chunk + ) + + def end(self, sample_indices: Optional[torch.Tensor] = None): + """Signal the end of generation for specified samples.""" + if sample_indices is None: + indices_to_end = range(self.batch_size) + else: + indices_to_end = [s.item() if torch.is_tensor(s) else s for s in sample_indices] + + for idx in indices_to_end: + if idx < self.batch_size and not self.finished_flags[idx]: + self.loop.call_soon_threadsafe( + self.audio_queues[idx].put_nowait, self.stop_signal + ) + self.finished_flags[idx] = True + + async def get_stream(self, sample_idx: int): + """Get async iterator for a specific sample's audio stream.""" + if sample_idx >= self.batch_size: + raise ValueError(f"Sample index {sample_idx} exceeds batch size {self.batch_size}") + + while True: + value = await self.audio_queues[sample_idx].get() + if value == self.stop_signal: + break + yield value + + def __aiter__(self): + """Returns an async iterator over all audio streams.""" + return AsyncAudioBatchIterator(self) + + +class AsyncAudioBatchIterator: + """Async iterator for batch audio streaming.""" + + def __init__(self, streamer: AsyncAudioStreamer): + self.streamer = streamer + self.active_samples = set(range(streamer.batch_size)) + + def __aiter__(self): + return self + + async def __anext__(self): + if not self.active_samples: + raise StopAsyncIteration() + + batch_chunks = {} + samples_to_remove = set() + + # Create tasks for all active samples + tasks = { + idx: asyncio.create_task(self._get_chunk(idx)) + for idx in self.active_samples + } + + # Wait for at least one chunk to be ready + done, pending = await asyncio.wait( + tasks.values(), + return_when=asyncio.FIRST_COMPLETED, + timeout=self.streamer.timeout + ) + + # Cancel pending tasks + for task in pending: + task.cancel() + + # Process completed tasks + for idx, task in tasks.items(): + if task in done: + try: + value = await task + if value == self.streamer.stop_signal: + samples_to_remove.add(idx) + else: + batch_chunks[idx] = value + except asyncio.CancelledError: + pass + + self.active_samples -= samples_to_remove + + if batch_chunks: + return batch_chunks + elif self.active_samples: + # Try again if we still have active samples + return await self.__anext__() + else: + raise StopAsyncIteration() + + async def _get_chunk(self, idx): + """Helper to get a chunk from a specific queue.""" + return await self.streamer.audio_queues[idx].get() \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/processor/__init__.py b/lor/VibeVoice-finetuning/src/vibevoice/processor/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/__init__.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/__init__.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..388a6aeac2b677014b4ddfa5007ea26e58e60526 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/__init__.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/__init__.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/__init__.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..bb7fd7fb787124628559cc59f59968e88a4b9d00 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/__init__.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_processor.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_processor.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..e1f84dfebe87daeaede29e4c2cd9e9cc2922dded Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_processor.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_processor.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_processor.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..8639073833657d084716b998775c735fcac24bba Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_processor.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_tokenizer_processor.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_tokenizer_processor.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..e32d689b44377e3c4942525df0c55ad3bb26700f Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_tokenizer_processor.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_tokenizer_processor.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_tokenizer_processor.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..764248ce332ca0bf4dd4e58d99ba2a5b8c735487 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/processor/__pycache__/vibevoice_tokenizer_processor.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/processor/preprocessor_config.json b/lor/VibeVoice-finetuning/src/vibevoice/processor/preprocessor_config.json new file mode 100644 index 0000000000000000000000000000000000000000..3458133691d4ecfcd885f4841c8483a0ecf0f460 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/processor/preprocessor_config.json @@ -0,0 +1,13 @@ +{ + "processor_class": "VibeVoiceProcessor", + "speech_tok_compress_ratio": 3200, + "db_normalize": true, + "audio_processor": { + "feature_extractor_type": "VibeVoiceTokenizerProcessor", + "sampling_rate": 24000, + "normalize_audio": true, + "target_dB_FS": -25, + "eps": 1e-06 + }, + "language_model_pretrained_name": "Qwen/Qwen2.5-7B" +} \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/processor/vibevoice_processor.py b/lor/VibeVoice-finetuning/src/vibevoice/processor/vibevoice_processor.py new file mode 100644 index 0000000000000000000000000000000000000000..66d0a9de2e2beb3eeeaf0bb5a5eb523d5f61acae --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/processor/vibevoice_processor.py @@ -0,0 +1,677 @@ +import math +import warnings +from typing import List, Optional, Union, Dict, Any, Tuple +import os +import re + +import numpy as np +import torch + +from transformers.tokenization_utils_base import BatchEncoding, PaddingStrategy, PreTokenizedInput, TextInput, TruncationStrategy +from transformers.utils import TensorType, logging +from .vibevoice_tokenizer_processor import AudioNormalizer + +logger = logging.get_logger(__name__) + + +class VibeVoiceProcessor: + r""" + Constructs a VibeVoice processor which wraps a VibeVoice tokenizer and audio processor into a single processor. + + [`VibeVoiceProcessor`] offers all the functionalities of [`VibeVoiceTokenizer`] and [`VibeVoiceTokenizerProcessor`]. + See the [`~VibeVoiceProcessor.__call__`] and [`~VibeVoiceProcessor.decode`] for more information. + + Args: + tokenizer (`VibeVoiceTextTokenizer` or `VibeVoiceTextTokenizerFast`): + The tokenizer for text processing. + audio_processor (`VibeVoiceTokenizerProcessor`): + The audio processor for speech processing. + speech_tok_compress_ratio (`int`, *optional*, defaults to 3200): + The compression ratio for speech tokenization. + db_normalize (`bool`, *optional*, defaults to True): + Whether to apply decibel normalization to audio inputs. + """ + + def __init__(self, tokenizer=None, audio_processor=None, speech_tok_compress_ratio=3200, db_normalize=True, **kwargs): + self.tokenizer = tokenizer + self.audio_processor = audio_processor + self.speech_tok_compress_ratio = speech_tok_compress_ratio + self.db_normalize = db_normalize + self.audio_normalizer = AudioNormalizer() if db_normalize else None + self.system_prompt = " Transform the text provided by various speakers into speech output, utilizing the distinct voice of each respective speaker.\n" + + @classmethod + def from_pretrained(cls, pretrained_model_name_or_path, **kwargs): + """ + Instantiate a VibeVoiceProcessor from a pretrained VibeVoice processor. + + Args: + pretrained_model_name_or_path (`str` or `os.PathLike`): + This can be either: + - a string, the *model id* of a pretrained model + - a path to a *directory* containing processor config + + Returns: + [`VibeVoiceProcessor`]: The processor object instantiated from pretrained model. + """ + import os + import json + from .vibevoice_tokenizer_processor import VibeVoiceTokenizerProcessor + from vibevoice.modular.modular_vibevoice_text_tokenizer import ( + VibeVoiceTextTokenizer, + VibeVoiceTextTokenizerFast + ) + + # Load processor configuration + config_path = os.path.join(pretrained_model_name_or_path, "preprocessor_config.json") + if os.path.exists(config_path): + with open(config_path, 'r') as f: + config = json.load(f) + else: + logger.warning(f"No preprocessor_config.json found at {pretrained_model_name_or_path}, using defaults") + config = { + "speech_tok_compress_ratio": 3200, + "db_normalize": True, + } + + # Extract main processor parameters + speech_tok_compress_ratio = config.get("speech_tok_compress_ratio", 3200) + db_normalize = config.get("db_normalize", True) + + # Load tokenizer - try from model path first, then fallback to Qwen + language_model_pretrained_name = config.get("language_model_pretrained_name", None) or kwargs.pop("language_model_pretrained_name", "Qwen/Qwen2.5-1.5B") + logger.info(f"Loading tokenizer from {language_model_pretrained_name}") + if 'qwen' in language_model_pretrained_name.lower(): + tokenizer = VibeVoiceTextTokenizerFast.from_pretrained( + language_model_pretrained_name, + **kwargs + ) + else: + raise ValueError(f"Unsupported tokenizer type for {language_model_pretrained_name}. Supported types: Qwen, Llama, Gemma.") + + # Load audio processor + if "audio_processor" in config: + # Create audio processor from config + audio_config = config["audio_processor"] + audio_processor = VibeVoiceTokenizerProcessor( + sampling_rate=audio_config.get("sampling_rate", 24000), + normalize_audio=audio_config.get("normalize_audio", True), + target_dB_FS=audio_config.get("target_dB_FS", -25), + eps=audio_config.get("eps", 1e-6), + ) + else: + # Create default audio processor + audio_processor = VibeVoiceTokenizerProcessor() + + # Create and return the processor + return cls( + tokenizer=tokenizer, + audio_processor=audio_processor, + speech_tok_compress_ratio=speech_tok_compress_ratio, + db_normalize=db_normalize, + ) + + def save_pretrained(self, save_directory: Union[str, os.PathLike], **kwargs): + """ + Save a processor to a directory, so that it can be re-loaded using the + [`~VibeVoiceProcessor.from_pretrained`] class method. + + Args: + save_directory (`str` or `os.PathLike`): + Directory where the processor will be saved. + """ + import os + import json + + os.makedirs(save_directory, exist_ok=True) + + # Save processor configuration + processor_config = { + "processor_class": "VibeVoiceProcessor", + "speech_tok_compress_ratio": self.speech_tok_compress_ratio, + "db_normalize": self.db_normalize, + "audio_processor": { + "feature_extractor_type": "VibeVoiceTokenizerProcessor", + "sampling_rate": getattr(self.audio_processor, 'sampling_rate', 24000), + "normalize_audio": getattr(self.audio_processor, 'normalize_audio', True), + "target_dB_FS": getattr(self.audio_processor, 'target_dB_FS', -25), + "eps": getattr(self.audio_processor, 'eps', 1e-6), + } + } + + config_path = os.path.join(save_directory, "preprocessor_config.json") + with open(config_path, 'w') as f: + json.dump(processor_config, f, indent=2) + + logger.info(f"Processor configuration saved in {config_path}") + + def __call__( + self, + text: Optional[Union[str, List[str], TextInput, PreTokenizedInput, List[TextInput], List[PreTokenizedInput]]] = None, + voice_samples: Optional[Union[List[Union[str, np.ndarray]], List[List[Union[str, np.ndarray]]]]] = None, + padding: Union[bool, str, PaddingStrategy] = True, + truncation: Union[bool, str, TruncationStrategy] = False, + max_length: Optional[int] = None, + return_tensors: Optional[Union[str, TensorType]] = None, + return_attention_mask: bool = True, + **kwargs, + ) -> BatchEncoding: + """ + Main method to process one or more podcast scripts with optional voice samples. + + Args: + text (`str`, `List[str]`): + The input text(s) to process. Can be: + - A single script string + - A list of script strings for batch processing + - A path to a .json or .txt file + - A list of paths + voice_samples (`List[Union[str, np.ndarray]]`, `List[List[Union[str, np.ndarray]]]`, *optional*): + Voice samples for each script. Can be: + - A list of samples for a single script + - A list of lists for batch processing + padding (`bool`, `str` or `PaddingStrategy`, defaults to `True`): + Whether to pad sequences to the same length + truncation (`bool`, `str` or `TruncationStrategy`, defaults to `False`): + Whether to truncate sequences + max_length (`int`, *optional*): + Maximum length of the returned sequences + return_tensors (`str` or `TensorType`, *optional*): + If set, will return tensors of a particular framework + return_attention_mask (`bool`, defaults to `True`): + Whether to return the attention mask + + Returns: + `BatchEncoding`: A BatchEncoding with the following fields: + - **input_ids** -- List of token id sequences or tensor + - **attention_mask** -- List of attention masks or tensor + - **speech_tensors** -- Padded speech inputs (if voice_samples provided) + - **speech_masks** -- Speech masks (if voice_samples provided) + - **speech_input_mask** -- Boolean masks indicating speech token positions + """ + # Handle single vs batch input + if isinstance(text, str) or (isinstance(text, list) and len(text) > 0 and not isinstance(text[0], str)): + # Single input + texts = [text] + is_batched = False + else: + # Batch input + texts = text + is_batched = True + + # Handle voice samples + if voice_samples is not None: + if not is_batched or (isinstance(voice_samples[0], (str, np.ndarray))): + # Single set of voice samples + voice_samples_list = [voice_samples] + else: + # Batch of voice samples + voice_samples_list = voice_samples + else: + voice_samples_list = [None] * len(texts) + + # Process each input + all_encodings = [] + for text_input, voice_input in zip(texts, voice_samples_list): + encoding = self._process_single(text_input, voice_input) + all_encodings.append(encoding) + + # Combine batch + batch_encoding = self._batch_encode( + all_encodings, + padding=padding, + truncation=truncation, + max_length=max_length, + return_tensors=return_tensors, + return_attention_mask=return_attention_mask, + ) + + return batch_encoding + + def _process_single( + self, + text: Union[str, TextInput], + voice_samples: Optional[List[Union[str, np.ndarray]]] = None, + ) -> Dict[str, Any]: + """Process a single podcast script.""" + # Determine if text is a file path or direct script + script = None + if isinstance(text, str): + # Check if it's a file path + if text.endswith('.json') and os.path.exists(text): + script = self._convert_json_to_script(text) + elif text.endswith('.txt') and os.path.exists(text): + script = self._convert_text_to_script(text) + else: + # Assume it's the script content directly + script = text + + if script is None: + raise ValueError(f"Could not process input text: {text}") + + # Parse the script + parsed_lines = self._parse_script(script) + all_speakers = list(set(speaker_id for speaker_id, _ in parsed_lines)) + + # Create system prompt + # system_tokens = self.tokenizer.encode(self.system_prompt, add_special_tokens=False) + system_tokens = self.tokenizer.encode(self.system_prompt) + + # Process voice samples if provided + if voice_samples: + voice_tokens, voice_speech_inputs, voice_speech_masks = self._create_voice_prompt(voice_samples[:len(all_speakers)]) + else: + voice_tokens, voice_speech_inputs, voice_speech_masks = [], [], [] + + # Build full token sequence + full_tokens = system_tokens + voice_tokens + speech_input_mask = [False] * len(system_tokens) + voice_speech_masks + + # Add text input section + full_tokens += self.tokenizer.encode(' Text input:\n', add_special_tokens=False) + speech_input_mask += [False] * len(self.tokenizer.encode(' Text input:\n', add_special_tokens=False)) + + for speaker_id, speaker_text in parsed_lines: + speaker_text_tokens = self.tokenizer.encode(f" Speaker {speaker_id}:{speaker_text}\n", add_special_tokens=False) + full_tokens += speaker_text_tokens + speech_input_mask += [False] * len(speaker_text_tokens) + + # Add speech output section + full_tokens += self.tokenizer.encode(' Speech output:\n', add_special_tokens=False) + [self.tokenizer.speech_start_id] + speech_input_mask += [False] * (len(self.tokenizer.encode(' Speech output:\n', add_special_tokens=False)) + 1) + + return { + "input_ids": full_tokens, + "speech_inputs": voice_speech_inputs if voice_speech_inputs else None, + "speech_input_mask": speech_input_mask, + "parsed_script": parsed_lines, + "all_speakers": all_speakers, + } + + def _batch_encode( + self, + encodings: List[Dict[str, Any]], + padding: Union[bool, str, PaddingStrategy] = True, + truncation: Union[bool, str, TruncationStrategy] = False, + max_length: Optional[int] = None, + return_tensors: Optional[Union[str, TensorType]] = None, + return_attention_mask: bool = True, + ) -> BatchEncoding: + """Combine multiple encodings into a batch with padding.""" + # Extract input_ids and create attention_mask + input_ids_list = [enc["input_ids"] for enc in encodings] + speech_input_masks_list = [enc["speech_input_mask"] for enc in encodings] + + # Determine padding strategy + if isinstance(padding, bool): + padding_strategy = PaddingStrategy.LONGEST if padding else PaddingStrategy.DO_NOT_PAD + elif isinstance(padding, str): + padding_strategy = PaddingStrategy(padding) + else: + padding_strategy = padding + + # Apply padding to input_ids + if padding_strategy != PaddingStrategy.DO_NOT_PAD: + if padding_strategy == PaddingStrategy.LONGEST: + max_len = max(len(ids) for ids in input_ids_list) + elif padding_strategy == PaddingStrategy.MAX_LENGTH and max_length is not None: + max_len = max_length + else: + max_len = max(len(ids) for ids in input_ids_list) + + # Pad sequences + padded_input_ids = [] + attention_masks = [] + padded_speech_input_masks = [] + + for input_ids, speech_mask in zip(input_ids_list, speech_input_masks_list): + # Truncate if needed + if truncation and len(input_ids) > max_len: + input_ids = input_ids[:max_len] + speech_mask = speech_mask[:max_len] + + # Pad + padding_length = max_len - len(input_ids) + # padded_ids = [self.tokenizer.pad_token_id] * padding_length + input_ids + padded_ids = [self.tokenizer.pad_id] * padding_length + input_ids + attention_mask = [0] * padding_length + [1] * len(input_ids) + padded_speech_mask = [False] * padding_length + speech_mask + + padded_input_ids.append(padded_ids) + attention_masks.append(attention_mask) + padded_speech_input_masks.append(padded_speech_mask) + + input_ids_list = padded_input_ids + speech_input_masks_list = padded_speech_input_masks + else: + # No padding, just create attention masks + attention_masks = [[1] * len(ids) for ids in input_ids_list] if return_attention_mask else None + + # Process speech inputs + all_speech_inputs = [] + has_speech = False + for enc in encodings: + if enc["speech_inputs"] is not None: + all_speech_inputs.extend(enc["speech_inputs"]) + has_speech = True + + # Prepare batch encoding + batch_encoding = BatchEncoding() + + # Handle tensor conversion + if return_tensors is not None: + batch_encoding["input_ids"] = torch.tensor(input_ids_list, dtype=torch.long) + if return_attention_mask and attention_masks is not None: + batch_encoding["attention_mask"] = torch.tensor(attention_masks, dtype=torch.long) + batch_encoding["speech_input_mask"] = torch.tensor(speech_input_masks_list, dtype=torch.bool) + else: + batch_encoding["input_ids"] = input_ids_list + if return_attention_mask and attention_masks is not None: + batch_encoding["attention_mask"] = attention_masks + batch_encoding["speech_input_mask"] = speech_input_masks_list + + # Process speech tensors if present + if has_speech: + speech_dict = self.prepare_speech_inputs( + all_speech_inputs, + return_tensors=return_tensors, + ) + batch_encoding["speech_tensors"] = speech_dict["padded_speeches"] + batch_encoding["speech_masks"] = speech_dict["speech_masks"] + else: + batch_encoding["speech_tensors"] = None + batch_encoding["speech_masks"] = None + + # Add metadata + batch_encoding["parsed_scripts"] = [enc["parsed_script"] for enc in encodings] + batch_encoding["all_speakers_list"] = [enc["all_speakers"] for enc in encodings] + + return batch_encoding + + def _create_voice_prompt( + self, + speaker_samples: List[Union[str, np.ndarray]] + ) -> Tuple[List[int], List[np.ndarray], List[bool]]: + """ + Create voice prompt tokens and process audio samples. + + Returns: + tuple: (voice_tokens, voice_speech_inputs, voice_speech_masks) + """ + vae_token_id = self.tokenizer.speech_diffusion_id + + voice_full_tokens = self.tokenizer.encode(' Voice input:\n', add_special_tokens=False) + voice_speech_inputs = [] + voice_speech_masks = [False] * len(voice_full_tokens) + + for speaker_id, speaker_audio in enumerate(speaker_samples): + prefix_tokens = self.tokenizer.encode(f" Speaker {speaker_id}:", add_special_tokens=False) + + # Process audio + if isinstance(speaker_audio, str): + # Load audio from file + wav = self.audio_processor._load_audio_from_path(speaker_audio) + else: + wav = np.array(speaker_audio, dtype=np.float32) + + # Apply normalization if needed + if self.db_normalize and self.audio_normalizer: + wav = self.audio_normalizer(wav) + + # Calculate token length based on compression ratio + # if speaker_audio.endswith('.pt') or speaker_audio.endswith('.npy'): + # vae_tok_len = wav.shape[0] + # else: + vae_tok_len = math.ceil(wav.shape[0] / self.speech_tok_compress_ratio) + + # Build tokens and masks + speaker_tokens = (prefix_tokens + + [self.tokenizer.speech_start_id] + + [vae_token_id] * vae_tok_len + + [self.tokenizer.speech_end_id] + + self.tokenizer.encode('\n', add_special_tokens=False)) + + vae_input_mask = ([False] * len(prefix_tokens) + + [False] + + [True] * vae_tok_len + + [False] + + [False]) + + voice_full_tokens.extend(speaker_tokens) + voice_speech_masks.extend(vae_input_mask) + voice_speech_inputs.append(wav) + + return voice_full_tokens, voice_speech_inputs, voice_speech_masks + + def prepare_speech_inputs( + self, + speech_inputs: List[np.ndarray], + return_tensors: Optional[Union[str, TensorType]] = None, + device: Optional[Union[str, torch.device]] = None, + dtype: Optional[torch.dtype] = None, + ) -> Dict[str, Any]: + """ + Prepare speech inputs for model consumption. + + Args: + speech_inputs: List of speech arrays + return_tensors: Output tensor type + device: Device to place tensors on + dtype: Data type for tensors + + Returns: + Dictionary with padded_speeches and speech_masks + """ + if not speech_inputs: + return {"padded_speeches": None, "speech_masks": None} + + # Calculate sequence lengths + vae_tok_seqlens = [math.ceil(s.shape[0] / self.speech_tok_compress_ratio) for s in speech_inputs] + # vae_tok_seqlens = [math.ceil(s.shape[0] / self.speech_tok_compress_ratio) if s.ndim == 1 else s.shape[0] for s in speech_inputs] + max_speech_length = max(s.shape[0] for s in speech_inputs) + + # Pad speeches + if speech_inputs[0].ndim == 1: + padded_speeches = np.full((len(speech_inputs), max_speech_length), fill_value=0, dtype=np.float32) + else: + padded_speeches = np.full((len(speech_inputs), max_speech_length, speech_inputs[0].shape[-1]), fill_value=0, dtype=np.float32) + speech_masks = np.zeros((len(speech_inputs), max(vae_tok_seqlens)), dtype=np.bool_) + + for i, (speech, vae_tok_length) in enumerate(zip(speech_inputs, vae_tok_seqlens)): + padded_speeches[i, :len(speech)] = speech + speech_masks[i, :vae_tok_length] = True + + result = { + "padded_speeches": padded_speeches, + "speech_masks": speech_masks, + } + + # Convert to tensors if requested + if return_tensors == "pt": + result["padded_speeches"] = torch.tensor(padded_speeches, device=device, dtype=dtype or torch.float32) + result["speech_masks"] = torch.tensor(speech_masks, device=device, dtype=torch.bool) + + return result + + def _convert_json_to_script(self, json_file: str) -> str: + """ + Convert JSON format to script format. + Expected JSON format: + [ + {"speaker": "1", "text": "Hello everyone..."}, + {"speaker": "2", "text": "Great to be here..."} + ] + """ + import json + + with open(json_file, 'r', encoding='utf-8') as f: + data = json.load(f) + + if not isinstance(data, list): + raise ValueError("JSON file must contain a list of speaker entries") + + script_lines = [] + for item in data: + if not isinstance(item, dict): + logger.warning(f"Skipping non-dict entry: {item}") + continue + + speaker = item.get('speaker') + text = item.get('text') + + if speaker is None or text is None: + logger.warning(f"Skipping entry missing speaker or text: {item}") + continue + + # Ensure speaker ID is valid + try: + speaker_id = int(speaker) + except (ValueError, TypeError): + logger.warning(f"Invalid speaker ID: {speaker}, skipping entry") + continue + + # Clean up text + text = text.strip() + if text: + script_lines.append(f"Speaker {speaker_id}: {text}") + + if not script_lines: + raise ValueError("No valid entries found in JSON file") + + return "\n".join(script_lines) + + def _convert_text_to_script(self, text_file: str) -> str: + """ + Convert text file to script format. + Handles multiple formats: + 1. Already formatted as "Speaker X: text" + 2. Plain text (assigns to Speaker 1) + + Handles edge cases like multiple colons in a line. + """ + with open(text_file, 'r', encoding='utf-8') as f: + lines = f.readlines() + + script_lines = [] + current_speaker = 1 + + for line in lines: + line = line.strip() + if not line: + continue + + # Try to parse as "Speaker X: text" format + # Use regex to be more robust + speaker_match = re.match(r'^Speaker\s+(\d+)\s*:\s*(.*)$', line, re.IGNORECASE) + + if speaker_match: + speaker_id = int(speaker_match.group(1)) + text = speaker_match.group(2).strip() + if text: + script_lines.append(f"Speaker {speaker_id}: {text}") + else: + # Treat as plain text - assign to current speaker + script_lines.append(f"Speaker {current_speaker}: {line}") + + if not script_lines: + raise ValueError("No valid content found in text file") + + return "\n".join(script_lines) + + def _parse_script(self, script: str) -> List[Tuple[int, str]]: + """Parse script into list of (speaker_id, text) tuples.""" + lines = script.strip().split("\n") + parsed_lines = [] + speaker_ids = [] + + # First pass: parse all lines and collect speaker IDs + for line in lines: + if not line.strip(): + continue + + # Use regex to handle edge cases like multiple colons + match = re.match(r'^Speaker\s+(\d+)\s*:\s*(.*)$', line.strip(), re.IGNORECASE) + + if match: + speaker_id = int(match.group(1)) + text = ' ' + match.group(2).strip() + parsed_lines.append((speaker_id, text)) + speaker_ids.append(speaker_id) + else: + logger.warning(f"Could not parse line: '{line}'") + + if not parsed_lines: + raise ValueError("No valid speaker lines found in script") + + # Check if we need to normalize speaker IDs (only if all are > 0) + min_speaker_id = min(speaker_ids) + if min_speaker_id > 0: + # Normalize to start from 0 + normalized_lines = [] + for speaker_id, text in parsed_lines: + normalized_lines.append((speaker_id - 1, text)) + return normalized_lines + else: + # Keep original IDs + return parsed_lines + + def _merge_inputs(self, text_inputs: BatchEncoding, audio_inputs: Dict) -> BatchEncoding: + """Merge text and audio inputs into a single BatchEncoding.""" + # Start with text inputs + merged = BatchEncoding(text_inputs) + + # Add audio-specific fields + if "audio" in audio_inputs: + merged["speech_inputs"] = audio_inputs["audio"] + if "streaming" in audio_inputs: + merged["streaming"] = audio_inputs["streaming"] + + return merged + + def batch_decode(self, *args, **kwargs): + """ + This method forwards all its arguments to VibeVoiceTextTokenizer's [`~PreTrainedTokenizer.batch_decode`]. + Please refer to the docstring of this method for more information. + """ + return self.tokenizer.batch_decode(*args, **kwargs) + + def decode(self, *args, **kwargs): + """ + This method forwards all its arguments to VibeVoiceTextTokenizer's [`~PreTrainedTokenizer.decode`]. + Please refer to the docstring of this method for more information. + """ + return self.tokenizer.decode(*args, **kwargs) + + @property + def model_input_names(self): + """ + Return the list of inputs accepted by the model. + """ + tokenizer_input_names = self.tokenizer.model_input_names + audio_processor_input_names = self.audio_processor.model_input_names + return list(dict.fromkeys(tokenizer_input_names + audio_processor_input_names + ["speech_inputs", "speech_input_mask"])) + + def save_audio(self, + audio: Union[torch.Tensor, np.ndarray, List[Union[torch.Tensor, np.ndarray]]], + output_path: str = "output.wav", + sampling_rate: Optional[int] = None, + normalize: bool = False, + batch_prefix: str = "audio_", + ) -> str: + """ + Save audio data to a file. + Args: + audio (Union[torch.Tensor, np.ndarray, List[Union[torch.Tensor, np.ndarray]]]): + The audio data to save. Can be a single tensor/array or a list of them. + output_path (str, optional): Path to save the audio file. Defaults to "output.wav". + sampling_rate (int, optional): Sampling rate for the audio. If None, uses the processor's default. + normalize (bool, optional): Whether to normalize the audio before saving. Defaults to False. + batch_prefix (str, optional): Prefix for batch audio files. Defaults to "audio_". + Returns: + str: The path to the saved audio file. + """ + return self.audio_processor.save_audio(audio, output_path=output_path, sampling_rate=sampling_rate, normalize=normalize, batch_prefix=batch_prefix) + +__all__ = [ + "VibeVoiceProcessor", +] \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/processor/vibevoice_tokenizer_processor.py b/lor/VibeVoice-finetuning/src/vibevoice/processor/vibevoice_tokenizer_processor.py new file mode 100644 index 0000000000000000000000000000000000000000..0d854b7842658dbb573b6623c05d1326a71221cf --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/processor/vibevoice_tokenizer_processor.py @@ -0,0 +1,483 @@ +""" +Processor class for VibeVoice models. +""" + +import os +import json +import warnings +from typing import List, Optional, Union, Dict, Any + +import numpy as np +import torch + +from transformers.feature_extraction_utils import FeatureExtractionMixin +from transformers.utils import logging + +logger = logging.get_logger(__name__) + + +class AudioNormalizer: + """ + Audio normalization class for VibeVoice tokenizer. + + This class provides audio normalization to ensure consistent input levels + for the VibeVoice tokenizer while maintaining audio quality. + """ + + def __init__(self, target_dB_FS: float = -25, eps: float = 1e-6): + """ + Initialize the audio normalizer. + + Args: + target_dB_FS (float): Target dB FS level for the audio. Default: -25 + eps (float): Small value to avoid division by zero. Default: 1e-6 + """ + self.target_dB_FS = target_dB_FS + self.eps = eps + + def tailor_dB_FS(self, audio: np.ndarray) -> tuple: + """ + Adjust the audio to the target dB FS level. + + Args: + audio (np.ndarray): Input audio signal + + Returns: + tuple: (normalized_audio, rms, scalar) + """ + rms = np.sqrt(np.mean(audio**2)) + scalar = 10 ** (self.target_dB_FS / 20) / (rms + self.eps) + normalized_audio = audio * scalar + return normalized_audio, rms, scalar + + def avoid_clipping(self, audio: np.ndarray, scalar: Optional[float] = None) -> tuple: + """ + Avoid clipping by scaling down if necessary. + + Args: + audio (np.ndarray): Input audio signal + scalar (float, optional): Explicit scaling factor + + Returns: + tuple: (normalized_audio, scalar) + """ + if scalar is None: + max_val = np.max(np.abs(audio)) + if max_val > 1.0: + scalar = max_val + self.eps + else: + scalar = 1.0 + + return audio / scalar, scalar + + def __call__(self, audio: np.ndarray) -> np.ndarray: + """ + Normalize the audio by adjusting to target dB FS and avoiding clipping. + + Args: + audio (np.ndarray): Input audio signal + + Returns: + np.ndarray: Normalized audio signal + """ + # First adjust to target dB FS + audio, _, _ = self.tailor_dB_FS(audio) + # Then avoid clipping + audio, _ = self.avoid_clipping(audio) + return audio + + +# Change from ProcessorMixin to FeatureExtractionMixin which is designed for single components +class VibeVoiceTokenizerProcessor(FeatureExtractionMixin): + """ + Processor for VibeVoice acoustic tokenizer models. + + This processor handles audio preprocessing for VibeVoice models, including: + - Audio format conversion (stereo to mono) + - Optional audio normalization + - Streaming support for infinite-length audio + + Args: + sampling_rate (int, optional): Expected sampling rate. Defaults to 24000. + normalize_audio (bool, optional): Whether to normalize audio. Defaults to True. + target_dB_FS (float, optional): Target dB FS for normalization. Defaults to -25. + eps (float, optional): Small value for numerical stability. Defaults to 1e-6. + """ + model_input_names = ["input_features"] + + def __init__( + self, + sampling_rate: int = 24000, + normalize_audio: bool = True, + target_dB_FS: float = -25, + eps: float = 1e-6, + **kwargs, + ): + super().__init__(**kwargs) + + self.sampling_rate = sampling_rate + self.normalize_audio = normalize_audio + + # Initialize audio normalizer if needed + if self.normalize_audio: + self.normalizer = AudioNormalizer(target_dB_FS=target_dB_FS, eps=eps) + else: + self.normalizer = None + + # Save config + self.feature_extractor_dict = { + "sampling_rate": sampling_rate, + "normalize_audio": normalize_audio, + "target_dB_FS": target_dB_FS, + "eps": eps, + } + + def _ensure_mono(self, audio: np.ndarray) -> np.ndarray: + """ + Convert stereo audio to mono if needed. + + Args: + audio (np.ndarray): Input audio array + + Returns: + np.ndarray: Mono audio array + """ + if len(audio.shape) == 1: + return audio + elif len(audio.shape) == 2: + if audio.shape[0] == 2: # (2, time) + return np.mean(audio, axis=0) + elif audio.shape[1] == 2: # (time, 2) + return np.mean(audio, axis=1) + else: + # If one dimension is 1, squeeze it + if audio.shape[0] == 1: + return audio.squeeze(0) + elif audio.shape[1] == 1: + return audio.squeeze(1) + else: + raise ValueError(f"Unexpected audio shape: {audio.shape}") + else: + raise ValueError(f"Audio should be 1D or 2D, got shape: {audio.shape}") + + def _process_single_audio(self, audio: Union[np.ndarray, List[float]]) -> np.ndarray: + """ + Process a single audio array. + + Args: + audio: Single audio input + + Returns: + np.ndarray: Processed audio + """ + # Convert to numpy array + if not isinstance(audio, np.ndarray): + audio = np.array(audio, dtype=np.float32) + else: + audio = audio.astype(np.float32) + + # Ensure mono + audio = self._ensure_mono(audio) + + # Normalize if requested + if self.normalize_audio and self.normalizer is not None: + audio = self.normalizer(audio) + + return audio + + def __call__( + self, + audio: Union[str, np.ndarray, List[float], List[np.ndarray], List[List[float]], List[str]] = None, + sampling_rate: Optional[int] = None, + return_tensors: Optional[str] = None, + **kwargs, + ): + """ + Process audio for VibeVoice models. + + Args: + audio: Audio input(s) to process. Can be: + - str: Path to audio file + - np.ndarray: Audio array + - List[float]: Audio as list of floats + - List[np.ndarray]: Batch of audio arrays + - List[str]: Batch of audio file paths + sampling_rate (int, optional): Sampling rate of the input audio + return_tensors (str, optional): Return format ('pt' for PyTorch, 'np' for NumPy) + + Returns: + dict: Processed audio inputs with keys: + - input_features: Audio tensor(s) ready for the model + """ + if audio is None: + raise ValueError("Audio input is required") + + # Validate sampling rate + if sampling_rate is not None and sampling_rate != self.sampling_rate: + logger.warning( + f"Input sampling rate ({sampling_rate}) differs from expected " + f"sampling rate ({self.sampling_rate}). Please resample your audio." + ) + + # Handle different input types + if isinstance(audio, str): + # Single audio file path + audio = self._load_audio_from_path(audio) + is_batched = False + elif isinstance(audio, list): + if len(audio) == 0: + raise ValueError("Empty audio list provided") + + # Check if it's a list of file paths + if all(isinstance(item, str) for item in audio): + # Batch of audio file paths + audio = [self._load_audio_from_path(path) for path in audio] + is_batched = True + else: + # Check if it's batched audio arrays + is_batched = isinstance(audio[0], (np.ndarray, list)) + else: + # Single audio array or list + is_batched = False + + # Process audio + if is_batched: + processed_audio = [self._process_single_audio(a) for a in audio] + else: + processed_audio = [self._process_single_audio(audio)] + + # Convert to tensors if requested + if return_tensors == "pt": + if len(processed_audio) == 1: + # Create a proper batch dimension (B, T) + input_features = torch.from_numpy(processed_audio[0]).unsqueeze(0).unsqueeze(1) + else: + # For batched input with different lengths, create a batch properly + input_features = torch.stack([torch.from_numpy(a) for a in processed_audio]).unsqueeze(1) + elif return_tensors == "np": + if len(processed_audio) == 1: + input_features = processed_audio[0][np.newaxis, np.newaxis, :] + else: + input_features = np.stack(processed_audio)[:, np.newaxis, :] + else: + input_features = processed_audio[0] if len(processed_audio) == 1 else processed_audio + + outputs = { + "audio": input_features, # Use "audio" instead of "input_features" + } + + return outputs + + def _load_audio_from_path(self, audio_path: str) -> np.ndarray: + """ + Load audio from file path. + + Args: + audio_path (str): Path to audio file + + Returns: + np.ndarray: Loaded audio array + """ + # Get file extension to determine loading method + file_ext = os.path.splitext(audio_path)[1].lower() + + if file_ext in ['.wav', '.mp3', '.flac', '.m4a', '.ogg']: + # Audio file - use librosa + import librosa + audio_array, sr = librosa.load( + audio_path, + sr=self.sampling_rate, + mono=True + ) + return audio_array + elif file_ext == '.pt': + # PyTorch tensor file + audio_tensor = torch.load(audio_path, map_location='cpu').squeeze() + if isinstance(audio_tensor, torch.Tensor): + audio_array = audio_tensor.numpy() + else: + audio_array = np.array(audio_tensor) + return audio_array.astype(np.float32) + elif file_ext == '.npy': + # NumPy file + audio_array = np.load(audio_path) + return audio_array.astype(np.float32) + else: + raise ValueError( + f"Unsupported file format: {file_ext}. " + f"Supported formats: .wav, .mp3, .flac, .m4a, .ogg, .pt, .npy, .npz" + ) + + def preprocess_audio( + self, + audio_path_or_array: Union[str, np.ndarray], + normalize: Optional[bool] = None, + ) -> np.ndarray: + """ + Convenience method to preprocess audio from file path or array. + This method is kept for backward compatibility but __call__ is recommended. + + Args: + audio_path_or_array: Path to audio file or numpy array + normalize: Whether to normalize (overrides default setting) + + Returns: + np.ndarray: Preprocessed audio array + """ + if isinstance(audio_path_or_array, str): + audio_array = self._load_audio_from_path(audio_path_or_array) + else: + audio_array = np.array(audio_path_or_array, dtype=np.float32) + + # Override normalization setting if specified + original_normalize = self.normalize_audio + if normalize is not None: + self.normalize_audio = normalize + + try: + processed = self._process_single_audio(audio_array) + finally: + # Restore original setting + self.normalize_audio = original_normalize + + return processed + + # Override to_dict method for configuration saving + def to_dict(self) -> Dict[str, Any]: + """ + Convert the object to a dict containing all attributes needed for serialization. + """ + return self.feature_extractor_dict + + def save_audio( + self, + audio: Union[torch.Tensor, np.ndarray, List[Union[torch.Tensor, np.ndarray]]], + output_path: str = "output.wav", + sampling_rate: Optional[int] = None, + normalize: bool = False, + batch_prefix: str = "audio_", + ): + """ + Save audio data to WAV file(s). + + Args: + audio: Audio data to save. Can be: + - torch.Tensor: PyTorch tensor with shape (B, C, T) or (B, T) or (T) + - np.ndarray: NumPy array with shape (B, C, T) or (B, T) or (T) + - List of tensors or arrays + output_path: Path where to save the audio. If saving multiple files, + this is treated as a directory and individual files will be saved inside. + sampling_rate: Sampling rate for the saved audio. Defaults to the processor's rate. + normalize: Whether to normalize audio before saving. + batch_prefix: Prefix for batch files when saving multiple audios. + + Returns: + List[str]: Paths to the saved audio files. + """ + if sampling_rate is None: + sampling_rate = self.sampling_rate + + try: + import soundfile as sf + except ImportError: + raise ImportError( + "soundfile is required to save audio files. " + "Install it with: pip install soundfile" + ) + + # Ensure audio is in the right format + if isinstance(audio, torch.Tensor): + # Convert PyTorch tensor to numpy + audio_np = audio.float().detach().cpu().numpy() + elif isinstance(audio, np.ndarray): + audio_np = audio + elif isinstance(audio, list): + # Handle list of tensors or arrays + if all(isinstance(a, torch.Tensor) for a in audio): + audio_np = [a.float().detach().cpu().numpy() for a in audio] + else: + audio_np = audio + else: + raise ValueError(f"Unsupported audio type: {type(audio)}") + + saved_paths = [] + + # Handle based on shape or type + if isinstance(audio_np, list): + # Multiple separate audios to save + output_dir = output_path + + # Ensure output directory exists + os.makedirs(output_dir, exist_ok=True) + + # Save each audio + for i, audio_item in enumerate(audio_np): + audio_item = self._prepare_audio_for_save(audio_item, normalize) + file_path = os.path.join(output_dir, f"{batch_prefix}{i}.wav") + sf.write(file_path, audio_item, sampling_rate) + saved_paths.append(file_path) + + else: + # Handle different dimensions + if len(audio_np.shape) >= 3: # (B, C, T) or similar + # Get batch size + batch_size = audio_np.shape[0] + + if batch_size > 1: + # Multiple audios in a batch + output_dir = output_path + + # Ensure output directory exists + os.makedirs(output_dir, exist_ok=True) + + # Save each audio in the batch + for i in range(batch_size): + # Extract single audio and remove channel dim if present + single_audio = audio_np[i] + if len(single_audio.shape) > 1: + if single_audio.shape[0] == 1: # (1, T) + single_audio = single_audio.squeeze(0) + + single_audio = self._prepare_audio_for_save(single_audio, normalize) + file_path = os.path.join(output_dir, f"{batch_prefix}{i}.wav") + sf.write(file_path, single_audio, sampling_rate) + saved_paths.append(file_path) + else: + # Single audio with batch and channel dims + audio_item = audio_np.squeeze() # Remove batch and channel dimensions + audio_item = self._prepare_audio_for_save(audio_item, normalize) + sf.write(output_path, audio_item, sampling_rate) + saved_paths.append(output_path) + else: + # Single audio without batch dimension + audio_item = self._prepare_audio_for_save(audio_np, normalize) + sf.write(output_path, audio_item, sampling_rate) + saved_paths.append(output_path) + + return saved_paths + + def _prepare_audio_for_save(self, audio: np.ndarray, normalize: bool) -> np.ndarray: + """ + Prepare audio for saving by ensuring it's the right shape and optionally normalizing. + + Args: + audio: Audio data as numpy array + normalize: Whether to normalize audio + + Returns: + np.ndarray: Processed audio ready for saving + """ + # Ensure right dimensionality + if len(audio.shape) > 1 and audio.shape[0] == 1: # (1, T) + audio = audio.squeeze(0) + + # Normalize if requested + if normalize: + max_val = np.abs(audio).max() + if max_val > 0: + audio = audio / max_val + + return audio + + +__all__ = ["VibeVoiceTokenizerProcessor", "AudioNormalizer"] \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/schedule/__init__.py b/lor/VibeVoice-finetuning/src/vibevoice/schedule/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/__init__.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/__init__.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..1b83ef0b946c9e2fa248c213d214cb626079b966 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/__init__.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/__init__.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/__init__.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..d7fc7e72184429194210472bf84b23601d246f03 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/__init__.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/dpm_solver.cpython-311.pyc b/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/dpm_solver.cpython-311.pyc new file mode 100644 index 0000000000000000000000000000000000000000..6e48b8e4b7e773207e567010033d0da802a9025e Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/dpm_solver.cpython-311.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/dpm_solver.cpython-312.pyc b/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/dpm_solver.cpython-312.pyc new file mode 100644 index 0000000000000000000000000000000000000000..daabdd852b3da80d9851b415bb4d03aea6546f22 Binary files /dev/null and b/lor/VibeVoice-finetuning/src/vibevoice/schedule/__pycache__/dpm_solver.cpython-312.pyc differ diff --git a/lor/VibeVoice-finetuning/src/vibevoice/schedule/dpm_solver.py b/lor/VibeVoice-finetuning/src/vibevoice/schedule/dpm_solver.py new file mode 100644 index 0000000000000000000000000000000000000000..806241f4352465f50114b587e0db2c63bc73c24f --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/schedule/dpm_solver.py @@ -0,0 +1,1065 @@ +# Copyright 2024 TSAIL Team and The HuggingFace Team. All rights reserved. +# +# Licensed under the Apache License, Version 2.0 (the "License"); +# you may not use this file except in compliance with the License. +# You may obtain a copy of the License at +# +# http://www.apache.org/licenses/LICENSE-2.0 +# +# Unless required by applicable law or agreed to in writing, software +# distributed under the License is distributed on an "AS IS" BASIS, +# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. +# See the License for the specific language governing permissions and +# limitations under the License. + +# DISCLAIMER: This file is strongly influenced by https://github.com/LuChengTHU/dpm-solver + +import math +from typing import List, Optional, Tuple, Union + +import numpy as np +import torch + +from diffusers.configuration_utils import ConfigMixin, register_to_config +from diffusers.utils import deprecate +from diffusers.utils.torch_utils import randn_tensor +from diffusers.schedulers.scheduling_utils import KarrasDiffusionSchedulers, SchedulerMixin, SchedulerOutput + +def betas_for_alpha_bar( + num_diffusion_timesteps, + max_beta=0.999, + alpha_transform_type="cosine", +): + """ + Create a beta schedule that discretizes the given alpha_t_bar function, which defines the cumulative product of + (1-beta) over time from t = [0,1]. + + Contains a function alpha_bar that takes an argument t and transforms it to the cumulative product of (1-beta) up + to that part of the diffusion process. + + + Args: + num_diffusion_timesteps (`int`): the number of betas to produce. + max_beta (`float`): the maximum beta to use; use values lower than 1 to + prevent singularities. + alpha_transform_type (`str`, *optional*, default to `cosine`): the type of noise schedule for alpha_bar. + Choose from `cosine` or `exp` + + Returns: + betas (`np.ndarray`): the betas used by the scheduler to step the model outputs + """ + if alpha_transform_type == "cosine": + + def alpha_bar_fn(t): + return math.cos((t + 0.008) / 1.008 * math.pi / 2) ** 2 + # return math.cos(t * math.pi / 2 * 0.95) ** 2 + + elif alpha_transform_type == "exp": + + def alpha_bar_fn(t): + return math.exp(t * -12.0) + + elif alpha_transform_type == "cauchy": + # µ + γ tan (π (0.5 - x)) γ = 1, µ = 3 + # alpha^2 = 1-1/(exp(λ)+1) + def alpha_bar_fn(t, gamma=1, mu=3): + snr = mu + gamma * math.tan(math.pi * (0.5 - t) * 0.9) + return 1 - 1 / (math.exp(snr) + 1.1) + + elif alpha_transform_type == "laplace": + # µ − bsgn(0.5 − t) log(1 − 2|t − 0.5|) µ = 0, b = 1 + def alpha_bar_fn(t, mu=0, b=1): + snr = mu - b * math.copysign(1, 0.5 - t) * math.log(1 - 2 * abs(t - 0.5) * 0.98) + return 1 - 1 / (math.exp(snr) + 1.02) + + else: + raise ValueError(f"Unsupported alpha_transform_type: {alpha_transform_type}") + + betas = [] + for i in range(num_diffusion_timesteps): + t1 = i / num_diffusion_timesteps + t2 = (i + 1) / num_diffusion_timesteps + betas.append(min(1 - alpha_bar_fn(t2) / alpha_bar_fn(t1), max_beta)) + return torch.tensor(betas, dtype=torch.float32) + + +# Copied from diffusers.schedulers.scheduling_ddim.rescale_zero_terminal_snr +def rescale_zero_terminal_snr(betas): + """ + Rescales betas to have zero terminal SNR Based on https://arxiv.org/pdf/2305.08891.pdf (Algorithm 1) + + + Args: + betas (`torch.Tensor`): + the betas that the scheduler is being initialized with. + + Returns: + `torch.Tensor`: rescaled betas with zero terminal SNR + """ + # Convert betas to alphas_bar_sqrt + alphas = 1.0 - betas + alphas_cumprod = torch.cumprod(alphas, dim=0) + alphas_bar_sqrt = alphas_cumprod.sqrt() + + # Store old values. + alphas_bar_sqrt_0 = alphas_bar_sqrt[0].clone() + alphas_bar_sqrt_T = alphas_bar_sqrt[-1].clone() + + # Shift so the last timestep is zero. + alphas_bar_sqrt -= alphas_bar_sqrt_T + + # Scale so the first timestep is back to the old value. + alphas_bar_sqrt *= alphas_bar_sqrt_0 / (alphas_bar_sqrt_0 - alphas_bar_sqrt_T) + + # Convert alphas_bar_sqrt to betas + alphas_bar = alphas_bar_sqrt**2 # Revert sqrt + alphas = alphas_bar[1:] / alphas_bar[:-1] # Revert cumprod + alphas = torch.cat([alphas_bar[0:1], alphas]) + betas = 1 - alphas + + return betas + +class DPMSolverMultistepScheduler(SchedulerMixin, ConfigMixin): + """ + `DPMSolverMultistepScheduler` is a fast dedicated high-order solver for diffusion ODEs. + + This model inherits from [`SchedulerMixin`] and [`ConfigMixin`]. Check the superclass documentation for the generic + methods the library implements for all schedulers such as loading and saving. + + Args: + num_train_timesteps (`int`, defaults to 1000): + The number of diffusion steps to train the model. + beta_start (`float`, defaults to 0.0001): + The starting `beta` value of inference. + beta_end (`float`, defaults to 0.02): + The final `beta` value. + beta_schedule (`str`, defaults to `"linear"`): + The beta schedule, a mapping from a beta range to a sequence of betas for stepping the model. Choose from + `linear`, `scaled_linear`, or `squaredcos_cap_v2`. + trained_betas (`np.ndarray`, *optional*): + Pass an array of betas directly to the constructor to bypass `beta_start` and `beta_end`. + solver_order (`int`, defaults to 2): + The DPMSolver order which can be `1` or `2` or `3`. It is recommended to use `solver_order=2` for guided + sampling, and `solver_order=3` for unconditional sampling. + prediction_type (`str`, defaults to `epsilon`, *optional*): + Prediction type of the scheduler function; can be `epsilon` (predicts the noise of the diffusion process), + `sample` (directly predicts the noisy sample`) or `v_prediction` (see section 2.4 of [Imagen + Video](https://imagen.research.google/video/paper.pdf) paper). + thresholding (`bool`, defaults to `False`): + Whether to use the "dynamic thresholding" method. This is unsuitable for latent-space diffusion models such + as Stable Diffusion. + dynamic_thresholding_ratio (`float`, defaults to 0.995): + The ratio for the dynamic thresholding method. Valid only when `thresholding=True`. + sample_max_value (`float`, defaults to 1.0): + The threshold value for dynamic thresholding. Valid only when `thresholding=True` and + `algorithm_type="dpmsolver++"`. + algorithm_type (`str`, defaults to `dpmsolver++`): + Algorithm type for the solver; can be `dpmsolver`, `dpmsolver++`, `sde-dpmsolver` or `sde-dpmsolver++`. The + `dpmsolver` type implements the algorithms in the [DPMSolver](https://huggingface.co/papers/2206.00927) + paper, and the `dpmsolver++` type implements the algorithms in the + [DPMSolver++](https://huggingface.co/papers/2211.01095) paper. It is recommended to use `dpmsolver++` or + `sde-dpmsolver++` with `solver_order=2` for guided sampling like in Stable Diffusion. + solver_type (`str`, defaults to `midpoint`): + Solver type for the second-order solver; can be `midpoint` or `heun`. The solver type slightly affects the + sample quality, especially for a small number of steps. It is recommended to use `midpoint` solvers. + lower_order_final (`bool`, defaults to `True`): + Whether to use lower-order solvers in the final steps. Only valid for < 15 inference steps. This can + stabilize the sampling of DPMSolver for steps < 15, especially for steps <= 10. + euler_at_final (`bool`, defaults to `False`): + Whether to use Euler's method in the final step. It is a trade-off between numerical stability and detail + richness. This can stabilize the sampling of the SDE variant of DPMSolver for small number of inference + steps, but sometimes may result in blurring. + use_karras_sigmas (`bool`, *optional*, defaults to `False`): + Whether to use Karras sigmas for step sizes in the noise schedule during the sampling process. If `True`, + the sigmas are determined according to a sequence of noise levels {σi}. + use_lu_lambdas (`bool`, *optional*, defaults to `False`): + Whether to use the uniform-logSNR for step sizes proposed by Lu's DPM-Solver in the noise schedule during + the sampling process. If `True`, the sigmas and time steps are determined according to a sequence of + `lambda(t)`. + final_sigmas_type (`str`, defaults to `"zero"`): + The final `sigma` value for the noise schedule during the sampling process. If `"sigma_min"`, the final + sigma is the same as the last sigma in the training schedule. If `zero`, the final sigma is set to 0. + lambda_min_clipped (`float`, defaults to `-inf`): + Clipping threshold for the minimum value of `lambda(t)` for numerical stability. This is critical for the + cosine (`squaredcos_cap_v2`) noise schedule. + variance_type (`str`, *optional*): + Set to "learned" or "learned_range" for diffusion models that predict variance. If set, the model's output + contains the predicted Gaussian variance. + timestep_spacing (`str`, defaults to `"linspace"`): + The way the timesteps should be scaled. Refer to Table 2 of the [Common Diffusion Noise Schedules and + Sample Steps are Flawed](https://huggingface.co/papers/2305.08891) for more information. + steps_offset (`int`, defaults to 0): + An offset added to the inference steps, as required by some model families. + rescale_betas_zero_snr (`bool`, defaults to `False`): + Whether to rescale the betas to have zero terminal SNR. This enables the model to generate very bright and + dark samples instead of limiting it to samples with medium brightness. Loosely related to + [`--offset_noise`](https://github.com/huggingface/diffusers/blob/74fd735eb073eb1d774b1ab4154a0876eb82f055/examples/dreambooth/train_dreambooth.py#L506). + """ + + _compatibles = [e.name for e in KarrasDiffusionSchedulers] + order = 1 + + @register_to_config + def __init__( + self, + num_train_timesteps: int = 1000, + beta_start: float = 0.0001, + beta_end: float = 0.02, + beta_schedule: str = "linear", + trained_betas: Optional[Union[np.ndarray, List[float]]] = None, + solver_order: int = 2, + prediction_type: str = "epsilon", + thresholding: bool = False, + dynamic_thresholding_ratio: float = 0.995, + sample_max_value: float = 1.0, + algorithm_type: str = "dpmsolver++", + solver_type: str = "midpoint", + lower_order_final: bool = True, + euler_at_final: bool = False, + use_karras_sigmas: Optional[bool] = False, + use_lu_lambdas: Optional[bool] = False, + final_sigmas_type: Optional[str] = "zero", # "zero", "sigma_min" + lambda_min_clipped: float = -float("inf"), + variance_type: Optional[str] = None, + timestep_spacing: str = "linspace", + steps_offset: int = 0, + rescale_betas_zero_snr: bool = False, + ): + if algorithm_type in ["dpmsolver", "sde-dpmsolver"]: + deprecation_message = f"algorithm_type {algorithm_type} is deprecated and will be removed in a future version. Choose from `dpmsolver++` or `sde-dpmsolver++` instead" + deprecate("algorithm_types dpmsolver and sde-dpmsolver", "1.0.0", deprecation_message) + + if trained_betas is not None: + self.betas = torch.tensor(trained_betas, dtype=torch.float32) + elif beta_schedule == "linear": + self.betas = torch.linspace(beta_start, beta_end, num_train_timesteps, dtype=torch.float32) + elif beta_schedule == "scaled_linear": + # this schedule is very specific to the latent diffusion model. + self.betas = torch.linspace(beta_start**0.5, beta_end**0.5, num_train_timesteps, dtype=torch.float32) ** 2 + elif beta_schedule == "squaredcos_cap_v2" or beta_schedule == "cosine": + # Glide cosine schedule + self.betas = betas_for_alpha_bar(num_train_timesteps, alpha_transform_type="cosine") + elif beta_schedule == "cauchy": + self.betas = betas_for_alpha_bar(num_train_timesteps, alpha_transform_type="cauchy") + elif beta_schedule == "laplace": + self.betas = betas_for_alpha_bar(num_train_timesteps, alpha_transform_type="laplace") + else: + raise NotImplementedError(f"{beta_schedule} is not implemented for {self.__class__}") + + if rescale_betas_zero_snr: + self.betas = rescale_zero_terminal_snr(self.betas) + + self.alphas = 1.0 - self.betas + self.alphas_cumprod = torch.cumprod(self.alphas, dim=0) + + if rescale_betas_zero_snr: + # Close to 0 without being 0 so first sigma is not inf + # FP16 smallest positive subnormal works well here + self.alphas_cumprod[-1] = 2**-24 + + # Currently we only support VP-type noise schedule + self.alpha_t = torch.sqrt(self.alphas_cumprod) + self.sigma_t = torch.sqrt(1 - self.alphas_cumprod) + self.lambda_t = torch.log(self.alpha_t) - torch.log(self.sigma_t) + self.sigmas = ((1 - self.alphas_cumprod) / self.alphas_cumprod) ** 0.5 + + # standard deviation of the initial noise distribution + self.init_noise_sigma = 1.0 + + # settings for DPM-Solver + if algorithm_type not in ["dpmsolver", "dpmsolver++", "sde-dpmsolver", "sde-dpmsolver++"]: + if algorithm_type == "deis": + self.register_to_config(algorithm_type="dpmsolver++") + else: + raise NotImplementedError(f"{algorithm_type} is not implemented for {self.__class__}") + + if solver_type not in ["midpoint", "heun"]: + if solver_type in ["logrho", "bh1", "bh2"]: + self.register_to_config(solver_type="midpoint") + else: + raise NotImplementedError(f"{solver_type} is not implemented for {self.__class__}") + + if algorithm_type not in ["dpmsolver++", "sde-dpmsolver++"] and final_sigmas_type == "zero": + raise ValueError( + f"`final_sigmas_type` {final_sigmas_type} is not supported for `algorithm_type` {algorithm_type}. Please choose `sigma_min` instead." + ) + + # setable values + self.num_inference_steps = None + timesteps = np.linspace(0, num_train_timesteps - 1, num_train_timesteps, dtype=np.float32)[::-1].copy() + self.timesteps = torch.from_numpy(timesteps) + self.model_outputs = [None] * solver_order + self.lower_order_nums = 0 + self._step_index = None + self._begin_index = None + self.sigmas = self.sigmas.to("cpu") # to avoid too much CPU/GPU communication + + @property + def step_index(self): + """ + The index counter for current timestep. It will increase 1 after each scheduler step. + """ + return self._step_index + + @property + def begin_index(self): + """ + The index for the first timestep. It should be set from pipeline with `set_begin_index` method. + """ + return self._begin_index + + def set_begin_index(self, begin_index: int = 0): + """ + Sets the begin index for the scheduler. This function should be run from pipeline before the inference. + + Args: + begin_index (`int`): + The begin index for the scheduler. + """ + self._begin_index = begin_index + + def set_timesteps( + self, + num_inference_steps: int = None, + device: Union[str, torch.device] = None, + timesteps: Optional[List[int]] = None, + ): + """ + Sets the discrete timesteps used for the diffusion chain (to be run before inference). + + Args: + num_inference_steps (`int`): + The number of diffusion steps used when generating samples with a pre-trained model. + device (`str` or `torch.device`, *optional*): + The device to which the timesteps should be moved to. If `None`, the timesteps are not moved. + timesteps (`List[int]`, *optional*): + Custom timesteps used to support arbitrary timesteps schedule. If `None`, timesteps will be generated + based on the `timestep_spacing` attribute. If `timesteps` is passed, `num_inference_steps` and `sigmas` + must be `None`, and `timestep_spacing` attribute will be ignored. + """ + if num_inference_steps is None and timesteps is None: + raise ValueError("Must pass exactly one of `num_inference_steps` or `timesteps`.") + if num_inference_steps is not None and timesteps is not None: + raise ValueError("Can only pass one of `num_inference_steps` or `custom_timesteps`.") + if timesteps is not None and self.config.use_karras_sigmas: + raise ValueError("Cannot use `timesteps` with `config.use_karras_sigmas = True`") + if timesteps is not None and self.config.use_lu_lambdas: + raise ValueError("Cannot use `timesteps` with `config.use_lu_lambdas = True`") + + if timesteps is not None: + timesteps = np.array(timesteps).astype(np.int64) + else: + # Clipping the minimum of all lambda(t) for numerical stability. + # This is critical for cosine (squaredcos_cap_v2) noise schedule. + clipped_idx = torch.searchsorted(torch.flip(self.lambda_t, [0]), self.config.lambda_min_clipped) + last_timestep = ((self.config.num_train_timesteps - clipped_idx).numpy()).item() + + # "linspace", "leading", "trailing" corresponds to annotation of Table 2. of https://arxiv.org/abs/2305.08891 + if self.config.timestep_spacing == "linspace": + timesteps = ( + np.linspace(0, last_timestep - 1, num_inference_steps + 1) + .round()[::-1][:-1] + .copy() + .astype(np.int64) + ) + elif self.config.timestep_spacing == "leading": + step_ratio = last_timestep // (num_inference_steps + 1) + # creates integer timesteps by multiplying by ratio + # casting to int to avoid issues when num_inference_step is power of 3 + timesteps = ( + (np.arange(0, num_inference_steps + 1) * step_ratio).round()[::-1][:-1].copy().astype(np.int64) + ) + timesteps += self.config.steps_offset + elif self.config.timestep_spacing == "trailing": + step_ratio = self.config.num_train_timesteps / num_inference_steps + # creates integer timesteps by multiplying by ratio + # casting to int to avoid issues when num_inference_step is power of 3 + timesteps = np.arange(last_timestep, 0, -step_ratio).round().copy().astype(np.int64) + timesteps -= 1 + else: + raise ValueError( + f"{self.config.timestep_spacing} is not supported. Please make sure to choose one of 'linspace', 'leading' or 'trailing'." + ) + + sigmas = np.array(((1 - self.alphas_cumprod) / self.alphas_cumprod) ** 0.5) + log_sigmas = np.log(sigmas) + + if self.config.use_karras_sigmas: + sigmas = np.flip(sigmas).copy() + sigmas = self._convert_to_karras(in_sigmas=sigmas, num_inference_steps=num_inference_steps) + timesteps = np.array([self._sigma_to_t(sigma, log_sigmas) for sigma in sigmas]).round() + elif self.config.use_lu_lambdas: + lambdas = np.flip(log_sigmas.copy()) + lambdas = self._convert_to_lu(in_lambdas=lambdas, num_inference_steps=num_inference_steps) + sigmas = np.exp(lambdas) + timesteps = np.array([self._sigma_to_t(sigma, log_sigmas) for sigma in sigmas]).round() + else: + sigmas = np.interp(timesteps, np.arange(0, len(sigmas)), sigmas) + + if self.config.final_sigmas_type == "sigma_min": + sigma_last = ((1 - self.alphas_cumprod[0]) / self.alphas_cumprod[0]) ** 0.5 + elif self.config.final_sigmas_type == "zero": + sigma_last = 0 + else: + raise ValueError( + f"`final_sigmas_type` must be one of 'zero', or 'sigma_min', but got {self.config.final_sigmas_type}" + ) + + sigmas = np.concatenate([sigmas, [sigma_last]]).astype(np.float32) + + self.sigmas = torch.from_numpy(sigmas) + self.timesteps = torch.from_numpy(timesteps).to(device=device, dtype=torch.int64) + + self.num_inference_steps = len(timesteps) + + self.model_outputs = [ + None, + ] * self.config.solver_order + self.lower_order_nums = 0 + + # add an index counter for schedulers that allow duplicated timesteps + self._step_index = None + self._begin_index = None + self.sigmas = self.sigmas.to("cpu") # to avoid too much CPU/GPU communication + + # Copied from diffusers.schedulers.scheduling_ddpm.DDPMScheduler._threshold_sample + def _threshold_sample(self, sample: torch.Tensor) -> torch.Tensor: + """ + "Dynamic thresholding: At each sampling step we set s to a certain percentile absolute pixel value in xt0 (the + prediction of x_0 at timestep t), and if s > 1, then we threshold xt0 to the range [-s, s] and then divide by + s. Dynamic thresholding pushes saturated pixels (those near -1 and 1) inwards, thereby actively preventing + pixels from saturation at each step. We find that dynamic thresholding results in significantly better + photorealism as well as better image-text alignment, especially when using very large guidance weights." + + https://arxiv.org/abs/2205.11487 + """ + dtype = sample.dtype + batch_size, channels, *remaining_dims = sample.shape + + if dtype not in (torch.float32, torch.float64): + sample = sample.float() # upcast for quantile calculation, and clamp not implemented for cpu half + + # Flatten sample for doing quantile calculation along each image + sample = sample.reshape(batch_size, channels * np.prod(remaining_dims)) + + abs_sample = sample.abs() # "a certain percentile absolute pixel value" + + s = torch.quantile(abs_sample, self.config.dynamic_thresholding_ratio, dim=1) + s = torch.clamp( + s, min=1, max=self.config.sample_max_value + ) # When clamped to min=1, equivalent to standard clipping to [-1, 1] + s = s.unsqueeze(1) # (batch_size, 1) because clamp will broadcast along dim=0 + sample = torch.clamp(sample, -s, s) / s # "we threshold xt0 to the range [-s, s] and then divide by s" + + sample = sample.reshape(batch_size, channels, *remaining_dims) + sample = sample.to(dtype) + + return sample + + # Copied from diffusers.schedulers.scheduling_euler_discrete.EulerDiscreteScheduler._sigma_to_t + def _sigma_to_t(self, sigma, log_sigmas): + # get log sigma + log_sigma = np.log(np.maximum(sigma, 1e-10)) + + # get distribution + dists = log_sigma - log_sigmas[:, np.newaxis] + + # get sigmas range + low_idx = np.cumsum((dists >= 0), axis=0).argmax(axis=0).clip(max=log_sigmas.shape[0] - 2) + high_idx = low_idx + 1 + + low = log_sigmas[low_idx] + high = log_sigmas[high_idx] + + # interpolate sigmas + w = (low - log_sigma) / (low - high) + w = np.clip(w, 0, 1) + + # transform interpolation to time range + t = (1 - w) * low_idx + w * high_idx + t = t.reshape(sigma.shape) + return t + + def _sigma_to_alpha_sigma_t(self, sigma): + alpha_t = 1 / ((sigma**2 + 1) ** 0.5) + sigma_t = sigma * alpha_t + + return alpha_t, sigma_t + + # Copied from diffusers.schedulers.scheduling_euler_discrete.EulerDiscreteScheduler._convert_to_karras + def _convert_to_karras(self, in_sigmas: torch.Tensor, num_inference_steps) -> torch.Tensor: + """Constructs the noise schedule of Karras et al. (2022).""" + + # Hack to make sure that other schedulers which copy this function don't break + # TODO: Add this logic to the other schedulers + if hasattr(self.config, "sigma_min"): + sigma_min = self.config.sigma_min + else: + sigma_min = None + + if hasattr(self.config, "sigma_max"): + sigma_max = self.config.sigma_max + else: + sigma_max = None + + sigma_min = sigma_min if sigma_min is not None else in_sigmas[-1].item() + sigma_max = sigma_max if sigma_max is not None else in_sigmas[0].item() + + rho = 7.0 # 7.0 is the value used in the paper + ramp = np.linspace(0, 1, num_inference_steps) + min_inv_rho = sigma_min ** (1 / rho) + max_inv_rho = sigma_max ** (1 / rho) + sigmas = (max_inv_rho + ramp * (min_inv_rho - max_inv_rho)) ** rho + return sigmas + + def _convert_to_lu(self, in_lambdas: torch.Tensor, num_inference_steps) -> torch.Tensor: + """Constructs the noise schedule of Lu et al. (2022).""" + + lambda_min: float = in_lambdas[-1].item() + lambda_max: float = in_lambdas[0].item() + + rho = 1.0 # 1.0 is the value used in the paper + ramp = np.linspace(0, 1, num_inference_steps) + min_inv_rho = lambda_min ** (1 / rho) + max_inv_rho = lambda_max ** (1 / rho) + lambdas = (max_inv_rho + ramp * (min_inv_rho - max_inv_rho)) ** rho + return lambdas + + def convert_model_output( + self, + model_output: torch.Tensor, + *args, + sample: torch.Tensor = None, + **kwargs, + ) -> torch.Tensor: + """ + Convert the model output to the corresponding type the DPMSolver/DPMSolver++ algorithm needs. DPM-Solver is + designed to discretize an integral of the noise prediction model, and DPM-Solver++ is designed to discretize an + integral of the data prediction model. + + + + The algorithm and model type are decoupled. You can use either DPMSolver or DPMSolver++ for both noise + prediction and data prediction models. + + + + Args: + model_output (`torch.Tensor`): + The direct output from the learned diffusion model. + sample (`torch.Tensor`): + A current instance of a sample created by the diffusion process. + + Returns: + `torch.Tensor`: + The converted model output. + """ + timestep = args[0] if len(args) > 0 else kwargs.pop("timestep", None) + if sample is None: + if len(args) > 1: + sample = args[1] + else: + raise ValueError("missing `sample` as a required keyward argument") + if timestep is not None: + deprecate( + "timesteps", + "1.0.0", + "Passing `timesteps` is deprecated and has no effect as model output conversion is now handled via an internal counter `self.step_index`", + ) + + # DPM-Solver++ needs to solve an integral of the data prediction model. + if self.config.algorithm_type in ["dpmsolver++", "sde-dpmsolver++"]: + if self.config.prediction_type == "epsilon": + # DPM-Solver and DPM-Solver++ only need the "mean" output. + if self.config.variance_type in ["learned", "learned_range"]: + model_output = model_output[:, :3] + sigma = self.sigmas[self.step_index] + alpha_t, sigma_t = self._sigma_to_alpha_sigma_t(sigma) + x0_pred = (sample - sigma_t * model_output) / alpha_t + elif self.config.prediction_type == "sample": + x0_pred = model_output + elif self.config.prediction_type == "v_prediction": + sigma = self.sigmas[self.step_index] + alpha_t, sigma_t = self._sigma_to_alpha_sigma_t(sigma) + x0_pred = alpha_t * sample - sigma_t * model_output + else: + raise ValueError( + f"prediction_type given as {self.config.prediction_type} must be one of `epsilon`, `sample`, or" + " `v_prediction` for the DPMSolverMultistepScheduler." + ) + + if self.config.thresholding: + x0_pred = self._threshold_sample(x0_pred) + + return x0_pred + + # DPM-Solver needs to solve an integral of the noise prediction model. + elif self.config.algorithm_type in ["dpmsolver", "sde-dpmsolver"]: + if self.config.prediction_type == "epsilon": + # DPM-Solver and DPM-Solver++ only need the "mean" output. + if self.config.variance_type in ["learned", "learned_range"]: + epsilon = model_output[:, :3] + else: + epsilon = model_output + elif self.config.prediction_type == "sample": + sigma = self.sigmas[self.step_index] + alpha_t, sigma_t = self._sigma_to_alpha_sigma_t(sigma) + epsilon = (sample - alpha_t * model_output) / sigma_t + elif self.config.prediction_type == "v_prediction": + sigma = self.sigmas[self.step_index] + alpha_t, sigma_t = self._sigma_to_alpha_sigma_t(sigma) + epsilon = alpha_t * model_output + sigma_t * sample + else: + raise ValueError( + f"prediction_type given as {self.config.prediction_type} must be one of `epsilon`, `sample`, or" + " `v_prediction` for the DPMSolverMultistepScheduler." + ) + + if self.config.thresholding: + sigma = self.sigmas[self.step_index] + alpha_t, sigma_t = self._sigma_to_alpha_sigma_t(sigma) + x0_pred = (sample - sigma_t * epsilon) / alpha_t + x0_pred = self._threshold_sample(x0_pred) + epsilon = (sample - alpha_t * x0_pred) / sigma_t + + return epsilon + + def dpm_solver_first_order_update( + self, + model_output: torch.Tensor, + *args, + sample: torch.Tensor = None, + noise: Optional[torch.Tensor] = None, + **kwargs, + ) -> torch.Tensor: + """ + One step for the first-order DPMSolver (equivalent to DDIM). + + Args: + model_output (`torch.Tensor`): + The direct output from the learned diffusion model. + sample (`torch.Tensor`): + A current instance of a sample created by the diffusion process. + + Returns: + `torch.Tensor`: + The sample tensor at the previous timestep. + """ + timestep = args[0] if len(args) > 0 else kwargs.pop("timestep", None) + prev_timestep = args[1] if len(args) > 1 else kwargs.pop("prev_timestep", None) + if sample is None: + if len(args) > 2: + sample = args[2] + else: + raise ValueError(" missing `sample` as a required keyward argument") + if timestep is not None: + deprecate( + "timesteps", + "1.0.0", + "Passing `timesteps` is deprecated and has no effect as model output conversion is now handled via an internal counter `self.step_index`", + ) + + if prev_timestep is not None: + deprecate( + "prev_timestep", + "1.0.0", + "Passing `prev_timestep` is deprecated and has no effect as model output conversion is now handled via an internal counter `self.step_index`", + ) + + sigma_t, sigma_s = self.sigmas[self.step_index + 1], self.sigmas[self.step_index] + alpha_t, sigma_t = self._sigma_to_alpha_sigma_t(sigma_t) + alpha_s, sigma_s = self._sigma_to_alpha_sigma_t(sigma_s) + lambda_t = torch.log(alpha_t) - torch.log(sigma_t) + lambda_s = torch.log(alpha_s) - torch.log(sigma_s) + + h = lambda_t - lambda_s + if self.config.algorithm_type == "dpmsolver++": + x_t = (sigma_t / sigma_s) * sample - (alpha_t * (torch.exp(-h) - 1.0)) * model_output + elif self.config.algorithm_type == "dpmsolver": + x_t = (alpha_t / alpha_s) * sample - (sigma_t * (torch.exp(h) - 1.0)) * model_output + elif self.config.algorithm_type == "sde-dpmsolver++": + assert noise is not None + x_t = ( + (sigma_t / sigma_s * torch.exp(-h)) * sample + + (alpha_t * (1 - torch.exp(-2.0 * h))) * model_output + + sigma_t * torch.sqrt(1.0 - torch.exp(-2 * h)) * noise + ) + elif self.config.algorithm_type == "sde-dpmsolver": + assert noise is not None + x_t = ( + (alpha_t / alpha_s) * sample + - 2.0 * (sigma_t * (torch.exp(h) - 1.0)) * model_output + + sigma_t * torch.sqrt(torch.exp(2 * h) - 1.0) * noise + ) + return x_t + + def multistep_dpm_solver_second_order_update( + self, + model_output_list: List[torch.Tensor], + *args, + sample: torch.Tensor = None, + noise: Optional[torch.Tensor] = None, + **kwargs, + ) -> torch.Tensor: + """ + One step for the second-order multistep DPMSolver. + + Args: + model_output_list (`List[torch.Tensor]`): + The direct outputs from learned diffusion model at current and latter timesteps. + sample (`torch.Tensor`): + A current instance of a sample created by the diffusion process. + + Returns: + `torch.Tensor`: + The sample tensor at the previous timestep. + """ + timestep_list = args[0] if len(args) > 0 else kwargs.pop("timestep_list", None) + prev_timestep = args[1] if len(args) > 1 else kwargs.pop("prev_timestep", None) + if sample is None: + if len(args) > 2: + sample = args[2] + else: + raise ValueError(" missing `sample` as a required keyward argument") + if timestep_list is not None: + deprecate( + "timestep_list", + "1.0.0", + "Passing `timestep_list` is deprecated and has no effect as model output conversion is now handled via an internal counter `self.step_index`", + ) + + if prev_timestep is not None: + deprecate( + "prev_timestep", + "1.0.0", + "Passing `prev_timestep` is deprecated and has no effect as model output conversion is now handled via an internal counter `self.step_index`", + ) + + sigma_t, sigma_s0, sigma_s1 = ( + self.sigmas[self.step_index + 1], + self.sigmas[self.step_index], + self.sigmas[self.step_index - 1], + ) + + alpha_t, sigma_t = self._sigma_to_alpha_sigma_t(sigma_t) + alpha_s0, sigma_s0 = self._sigma_to_alpha_sigma_t(sigma_s0) + alpha_s1, sigma_s1 = self._sigma_to_alpha_sigma_t(sigma_s1) + + lambda_t = torch.log(alpha_t) - torch.log(sigma_t) + lambda_s0 = torch.log(alpha_s0) - torch.log(sigma_s0) + lambda_s1 = torch.log(alpha_s1) - torch.log(sigma_s1) + + m0, m1 = model_output_list[-1], model_output_list[-2] + + h, h_0 = lambda_t - lambda_s0, lambda_s0 - lambda_s1 + r0 = h_0 / h + D0, D1 = m0, (1.0 / r0) * (m0 - m1) + if self.config.algorithm_type == "dpmsolver++": + # See https://arxiv.org/abs/2211.01095 for detailed derivations + if self.config.solver_type == "midpoint": + x_t = ( + (sigma_t / sigma_s0) * sample + - (alpha_t * (torch.exp(-h) - 1.0)) * D0 + - 0.5 * (alpha_t * (torch.exp(-h) - 1.0)) * D1 + ) + elif self.config.solver_type == "heun": + x_t = ( + (sigma_t / sigma_s0) * sample + - (alpha_t * (torch.exp(-h) - 1.0)) * D0 + + (alpha_t * ((torch.exp(-h) - 1.0) / h + 1.0)) * D1 + ) + elif self.config.algorithm_type == "dpmsolver": + # See https://arxiv.org/abs/2206.00927 for detailed derivations + if self.config.solver_type == "midpoint": + x_t = ( + (alpha_t / alpha_s0) * sample + - (sigma_t * (torch.exp(h) - 1.0)) * D0 + - 0.5 * (sigma_t * (torch.exp(h) - 1.0)) * D1 + ) + elif self.config.solver_type == "heun": + x_t = ( + (alpha_t / alpha_s0) * sample + - (sigma_t * (torch.exp(h) - 1.0)) * D0 + - (sigma_t * ((torch.exp(h) - 1.0) / h - 1.0)) * D1 + ) + elif self.config.algorithm_type == "sde-dpmsolver++": + assert noise is not None + if self.config.solver_type == "midpoint": + x_t = ( + (sigma_t / sigma_s0 * torch.exp(-h)) * sample + + (alpha_t * (1 - torch.exp(-2.0 * h))) * D0 + + 0.5 * (alpha_t * (1 - torch.exp(-2.0 * h))) * D1 + + sigma_t * torch.sqrt(1.0 - torch.exp(-2 * h)) * noise + ) + elif self.config.solver_type == "heun": + x_t = ( + (sigma_t / sigma_s0 * torch.exp(-h)) * sample + + (alpha_t * (1 - torch.exp(-2.0 * h))) * D0 + + (alpha_t * ((1.0 - torch.exp(-2.0 * h)) / (-2.0 * h) + 1.0)) * D1 + + sigma_t * torch.sqrt(1.0 - torch.exp(-2 * h)) * noise + ) + elif self.config.algorithm_type == "sde-dpmsolver": + assert noise is not None + if self.config.solver_type == "midpoint": + x_t = ( + (alpha_t / alpha_s0) * sample + - 2.0 * (sigma_t * (torch.exp(h) - 1.0)) * D0 + - (sigma_t * (torch.exp(h) - 1.0)) * D1 + + sigma_t * torch.sqrt(torch.exp(2 * h) - 1.0) * noise + ) + elif self.config.solver_type == "heun": + x_t = ( + (alpha_t / alpha_s0) * sample + - 2.0 * (sigma_t * (torch.exp(h) - 1.0)) * D0 + - 2.0 * (sigma_t * ((torch.exp(h) - 1.0) / h - 1.0)) * D1 + + sigma_t * torch.sqrt(torch.exp(2 * h) - 1.0) * noise + ) + return x_t + + def multistep_dpm_solver_third_order_update( + self, + model_output_list: List[torch.Tensor], + *args, + sample: torch.Tensor = None, + **kwargs, + ) -> torch.Tensor: + """ + One step for the third-order multistep DPMSolver. + + Args: + model_output_list (`List[torch.Tensor]`): + The direct outputs from learned diffusion model at current and latter timesteps. + sample (`torch.Tensor`): + A current instance of a sample created by diffusion process. + + Returns: + `torch.Tensor`: + The sample tensor at the previous timestep. + """ + + timestep_list = args[0] if len(args) > 0 else kwargs.pop("timestep_list", None) + prev_timestep = args[1] if len(args) > 1 else kwargs.pop("prev_timestep", None) + if sample is None: + if len(args) > 2: + sample = args[2] + else: + raise ValueError(" missing`sample` as a required keyward argument") + if timestep_list is not None: + deprecate( + "timestep_list", + "1.0.0", + "Passing `timestep_list` is deprecated and has no effect as model output conversion is now handled via an internal counter `self.step_index`", + ) + + if prev_timestep is not None: + deprecate( + "prev_timestep", + "1.0.0", + "Passing `prev_timestep` is deprecated and has no effect as model output conversion is now handled via an internal counter `self.step_index`", + ) + + sigma_t, sigma_s0, sigma_s1, sigma_s2 = ( + self.sigmas[self.step_index + 1], + self.sigmas[self.step_index], + self.sigmas[self.step_index - 1], + self.sigmas[self.step_index - 2], + ) + + alpha_t, sigma_t = self._sigma_to_alpha_sigma_t(sigma_t) + alpha_s0, sigma_s0 = self._sigma_to_alpha_sigma_t(sigma_s0) + alpha_s1, sigma_s1 = self._sigma_to_alpha_sigma_t(sigma_s1) + alpha_s2, sigma_s2 = self._sigma_to_alpha_sigma_t(sigma_s2) + + lambda_t = torch.log(alpha_t) - torch.log(sigma_t) + lambda_s0 = torch.log(alpha_s0) - torch.log(sigma_s0) + lambda_s1 = torch.log(alpha_s1) - torch.log(sigma_s1) + lambda_s2 = torch.log(alpha_s2) - torch.log(sigma_s2) + + m0, m1, m2 = model_output_list[-1], model_output_list[-2], model_output_list[-3] + + h, h_0, h_1 = lambda_t - lambda_s0, lambda_s0 - lambda_s1, lambda_s1 - lambda_s2 + r0, r1 = h_0 / h, h_1 / h + D0 = m0 + D1_0, D1_1 = (1.0 / r0) * (m0 - m1), (1.0 / r1) * (m1 - m2) + D1 = D1_0 + (r0 / (r0 + r1)) * (D1_0 - D1_1) + D2 = (1.0 / (r0 + r1)) * (D1_0 - D1_1) + if self.config.algorithm_type == "dpmsolver++": + # See https://arxiv.org/abs/2206.00927 for detailed derivations + x_t = ( + (sigma_t / sigma_s0) * sample + - (alpha_t * (torch.exp(-h) - 1.0)) * D0 + + (alpha_t * ((torch.exp(-h) - 1.0) / h + 1.0)) * D1 + - (alpha_t * ((torch.exp(-h) - 1.0 + h) / h**2 - 0.5)) * D2 + ) + elif self.config.algorithm_type == "dpmsolver": + # See https://arxiv.org/abs/2206.00927 for detailed derivations + x_t = ( + (alpha_t / alpha_s0) * sample + - (sigma_t * (torch.exp(h) - 1.0)) * D0 + - (sigma_t * ((torch.exp(h) - 1.0) / h - 1.0)) * D1 + - (sigma_t * ((torch.exp(h) - 1.0 - h) / h**2 - 0.5)) * D2 + ) + return x_t + + def index_for_timestep(self, timestep, schedule_timesteps=None): + if schedule_timesteps is None: + schedule_timesteps = self.timesteps + + index_candidates = (schedule_timesteps == timestep).nonzero() + + if len(index_candidates) == 0: + step_index = len(self.timesteps) - 1 + # The sigma index that is taken for the **very** first `step` + # is always the second index (or the last index if there is only 1) + # This way we can ensure we don't accidentally skip a sigma in + # case we start in the middle of the denoising schedule (e.g. for image-to-image) + elif len(index_candidates) > 1: + step_index = index_candidates[1].item() + else: + step_index = index_candidates[0].item() + + return step_index + + def _init_step_index(self, timestep): + """ + Initialize the step_index counter for the scheduler. + """ + + if self.begin_index is None: + if isinstance(timestep, torch.Tensor): + timestep = timestep.to(self.timesteps.device) + self._step_index = self.index_for_timestep(timestep) + else: + self._step_index = self._begin_index + + def step( + self, + model_output: torch.Tensor, + timestep: int, + sample: torch.Tensor, + generator=None, + variance_noise: Optional[torch.Tensor] = None, + return_dict: bool = True, + ) -> Union[SchedulerOutput, Tuple]: + """ + Predict the sample from the previous timestep by reversing the SDE. This function propagates the sample with + the multistep DPMSolver. + + Args: + model_output (`torch.Tensor`): + The direct output from learned diffusion model. + timestep (`int`): + The current discrete timestep in the diffusion chain. + sample (`torch.Tensor`): + A current instance of a sample created by the diffusion process. + generator (`torch.Generator`, *optional*): + A random number generator. + variance_noise (`torch.Tensor`): + Alternative to generating noise with `generator` by directly providing the noise for the variance + itself. Useful for methods such as [`LEdits++`]. + return_dict (`bool`): + Whether or not to return a [`~schedulers.scheduling_utils.SchedulerOutput`] or `tuple`. + + Returns: + [`~schedulers.scheduling_utils.SchedulerOutput`] or `tuple`: + If return_dict is `True`, [`~schedulers.scheduling_utils.SchedulerOutput`] is returned, otherwise a + tuple is returned where the first element is the sample tensor. + + """ + if self.num_inference_steps is None: + raise ValueError( + "Number of inference steps is 'None', you need to run 'set_timesteps' after creating the scheduler" + ) + + if self.step_index is None: + self._init_step_index(timestep) + + # Improve numerical stability for small number of steps + lower_order_final = (self.step_index == len(self.timesteps) - 1) and ( + self.config.euler_at_final + or (self.config.lower_order_final and len(self.timesteps) < 15) + or self.config.final_sigmas_type == "zero" + ) + lower_order_second = ( + (self.step_index == len(self.timesteps) - 2) and self.config.lower_order_final and len(self.timesteps) < 15 + ) + + model_output = self.convert_model_output(model_output, sample=sample) + for i in range(self.config.solver_order - 1): + self.model_outputs[i] = self.model_outputs[i + 1] + self.model_outputs[-1] = model_output + + # Upcast to avoid precision issues when computing prev_sample + sample = sample.to(torch.float32) + if self.config.algorithm_type in ["sde-dpmsolver", "sde-dpmsolver++"] and variance_noise is None: + noise = randn_tensor( + model_output.shape, generator=generator, device=model_output.device, dtype=torch.float32 + ) + elif self.config.algorithm_type in ["sde-dpmsolver", "sde-dpmsolver++"]: + noise = variance_noise.to(device=model_output.device, dtype=torch.float32) + else: + noise = None + + if self.config.solver_order == 1 or self.lower_order_nums < 1 or lower_order_final: + prev_sample = self.dpm_solver_first_order_update(model_output, sample=sample, noise=noise) + elif self.config.solver_order == 2 or self.lower_order_nums < 2 or lower_order_second: + prev_sample = self.multistep_dpm_solver_second_order_update(self.model_outputs, sample=sample, noise=noise) + else: + prev_sample = self.multistep_dpm_solver_third_order_update(self.model_outputs, sample=sample) + + if self.lower_order_nums < self.config.solver_order: + self.lower_order_nums += 1 + + # Cast sample back to expected dtype + prev_sample = prev_sample.to(model_output.dtype) + + # upon completion increase step index by one + self._step_index += 1 + + if not return_dict: + return (prev_sample,) + + return SchedulerOutput(prev_sample=prev_sample) + + def add_noise( + self, + original_samples: torch.Tensor, + noise: torch.Tensor, + timesteps: torch.IntTensor, + ) -> torch.Tensor: + # Make sure sigmas and timesteps have the same device and dtype as original_samples + # alpha_t = self.alpha_t.to(device=original_samples.device, dtype=original_samples.dtype) + # sigma_t = self.sigma_t.to(device=original_samples.device, dtype=original_samples.dtype) + alpha_t = self.alpha_t.to(original_samples.device).to(original_samples.dtype) + sigma_t = self.sigma_t.to(original_samples.device).to(original_samples.dtype) + timesteps = timesteps.to(original_samples.device) + alpha_t = alpha_t[timesteps].flatten() + while len(alpha_t.shape) < len(original_samples.shape): + alpha_t = alpha_t.unsqueeze(-1) + + sigma_t = sigma_t[timesteps].flatten() + while len(sigma_t.shape) < len(original_samples.shape): + sigma_t = sigma_t.unsqueeze(-1) + noisy_samples = alpha_t * original_samples + sigma_t * noise + return noisy_samples + + def get_velocity(self, original_samples: torch.Tensor, noise: torch.Tensor, timesteps: torch.IntTensor) -> torch.Tensor: + # alpha_t = self.alpha_t.to(device=original_samples.device, dtype=original_samples.dtype) + # sigma_t = self.sigma_t.to(device=original_samples.device, dtype=original_samples.dtype) + alpha_t = self.alpha_t.to(original_samples.device).to(original_samples.dtype) + sigma_t = self.sigma_t.to(original_samples.device).to(original_samples.dtype) + + timesteps = timesteps.to(original_samples.device) + alpha_t = alpha_t[timesteps].flatten() + while len(alpha_t.shape) < len(original_samples.shape): + alpha_t = alpha_t.unsqueeze(-1) + + sigma_t = sigma_t[timesteps].flatten() + while len(sigma_t.shape) < len(original_samples.shape): + sigma_t = sigma_t.unsqueeze(-1) + + velocity = alpha_t * noise - sigma_t * original_samples + return velocity + + def __len__(self): + return self.config.num_train_timesteps \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/schedule/timestep_sampler.py b/lor/VibeVoice-finetuning/src/vibevoice/schedule/timestep_sampler.py new file mode 100644 index 0000000000000000000000000000000000000000..177b66fcc77da055bbdf7c883be4a38dae699b99 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/schedule/timestep_sampler.py @@ -0,0 +1,19 @@ +import math +import torch + + +class UniformSampler: + def __init__(self, timesteps = 1000): + self.timesteps = timesteps + def sample(self, batch_size, device): + return torch.randint(0, self.timesteps, (batch_size,), device=device) + +class LogitNormalSampler: + def __init__(self, timesteps = 1000, m = 0, s = 1): + self.timesteps = timesteps + timesteps = torch.linspace(0, 1, timesteps) + logit = torch.log(timesteps / (1 - timesteps)) + self.prob = torch.exp(-0.5 * (logit - m) ** 2 / s ** 2) / (s * math.sqrt(2 * math.pi)) + def sample(self, batch_size, device): + return torch.multinomial(self.prob, batch_size, replacement=True).to(device) + \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice/scripts/convert_nnscaler_checkpoint_to_transformers.py b/lor/VibeVoice-finetuning/src/vibevoice/scripts/convert_nnscaler_checkpoint_to_transformers.py new file mode 100644 index 0000000000000000000000000000000000000000..bb814cf47d4d4264a2881680ce4b76ca9f4435a7 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice/scripts/convert_nnscaler_checkpoint_to_transformers.py @@ -0,0 +1,166 @@ +#!/usr/bin/env python +# coding=utf-8 + +import argparse +import json +import os +from pathlib import Path +import re +import torch +from typing import Dict, List, Tuple + +from vibevoice.modular.configuration_vibevoice import ( + VibeVoiceConfig +) +from vibevoice.modular.modeling_vibevoice import VibeVoiceForConditionalGeneration +from transformers.utils import logging + +logger = logging.get_logger(__name__) + +def convert_vibevoice_nnscaler_checkpoint_to_hf( + checkpoint_path: str, + pytorch_dump_folder_path: str, + config_path: str = None, +): + """ + Convert a nnscaler VibeVoice checkpoint to HuggingFace format. + Supports both regular checkpoints and tensor parallel checkpoints. + """ + + # Load regular checkpoint + logger.info(f"Loading regular checkpoint from {checkpoint_path}") + checkpoint = torch.load(checkpoint_path, map_location="cpu") # ['model', 'optimizer', 'lr_scheduler', 'train_status', 'train_args', 'rng_states', 'nnscaler', 'dataloader'] + + # config = checkpoint['train_args'] + init_config_name = checkpoint['train_args']['vars']['model_args']['config_path']['relative_path'] + pretrained_name = checkpoint['train_args']['vars']['data_args']['tokenizer_path'] + + init_config_path = Path(__file__).parent.parent / 'configs' / init_config_name.split('/')[-1] + if init_config_path.exists(): + logger.info(f"Loading initial config from {init_config_path}") + with open(init_config_path, 'r') as f: + init_config = json.load(f) + else: + raise FileNotFoundError(f"Initial config file {init_config_path} not found. Please provide a valid path.") + + tie_word_embeddings = init_config['decoder_config'].get('tie_word_embeddings', True) + logger.info(f"Tie word embeddings: {tie_word_embeddings}") + + init_config['decoder_config']['use_cache'] = True + config = VibeVoiceConfig(**init_config, tie_word_embeddings=tie_word_embeddings) + + # # Extract the model state dict + model_state_dict = {k.replace('model.model.', 'model.'): v for k, v in checkpoint["model"].items() if k.startswith('model.model.')} + if not tie_word_embeddings and 'model.lm_head.weight' in checkpoint["model"].keys(): + # If not tying weights, we need to add the lm_head weight separately + model_state_dict['lm_head.weight'] = checkpoint["model"]['model.lm_head.weight'] + + # Override with provided config if available + if config_path: + logger.info(f"Loading config from {config_path}") + with open(config_path, 'r') as f: + config_dict = json.load(f) + config = VibeVoiceConfig.from_dict(config_dict) + + # Set the default dtype to bfloat16 before creating the model + original_dtype = torch.get_default_dtype() + torch.set_default_dtype(torch.bfloat16) + + # Create the HuggingFace model + logger.info("Creating HuggingFace VibeVoiceForConditionalGeneration model") + model = VibeVoiceForConditionalGeneration(config) + + # Restore original dtype + torch.set_default_dtype(original_dtype) + + # Load the state dict + logger.info("Loading weights into model") + missing_keys, unexpected_keys = model.load_state_dict(model_state_dict, strict=False) + + if missing_keys: + logger.warning(f"Missing keys: {missing_keys}") + if unexpected_keys: + logger.warning(f"Unexpected keys: {unexpected_keys}") + + # Create output directory + os.makedirs(pytorch_dump_folder_path, exist_ok=True) + + # Save the model and config + logger.info(f"Saving model to {pytorch_dump_folder_path}") + + # Save config + config.save_pretrained(pytorch_dump_folder_path) + + # Save VibeVoiceProcessor configuration + logger.info("Saving VibeVoiceProcessor configuration") + processor_config = { + "processor_class": "VibeVoiceProcessor", + "speech_tok_compress_ratio": 3200, + "db_normalize": True, + # Audio processor configuration + "audio_processor": { + "feature_extractor_type": "VibeVoiceTokenizerProcessor", + "sampling_rate": 24000, + "normalize_audio": True, + "target_dB_FS": -25, + "eps": 1e-6, + }, + "language_model_pretrained_name": pretrained_name, + } + + processor_config_path = os.path.join(pytorch_dump_folder_path, "preprocessor_config.json") + with open(processor_config_path, 'w') as f: + json.dump(processor_config, f, indent=2) + logger.info(f"Saved processor config to {processor_config_path}") + + # Save model with sharding + # save_pretrained handles tied weights automatically + logger.info("Saving model weights with sharding...") + model.save_pretrained( + pytorch_dump_folder_path, + max_shard_size="2GB", # Set maximum size for each shard + safe_serialization=True # Ensure saving in .safetensors format + ) + logger.info(f"Model weights saved to {pytorch_dump_folder_path}") + + logger.info("Conversion complete!") + + # Verify the saved model can be loaded + logger.info("Verifying saved model...") + loaded_model = VibeVoiceForConditionalGeneration.from_pretrained(pytorch_dump_folder_path) + logger.info("Model successfully loaded from saved checkpoint!") + +def main(): + parser = argparse.ArgumentParser() + parser.add_argument( + "--nnscaler_checkpoint_path", + type=str, + required=True, + help="Path to the fairseq checkpoint (.pt file). For tensor parallel checkpoints, " + "provide any one of the part files (e.g., checkpoint_1_5000-model_part-0.pt), " + "and the script will automatically detect and merge all parts.", + ) + parser.add_argument( + "--pytorch_dump_folder_path", + type=str, + required=True, + help="Path to the output PyTorch model directory", + ) + parser.add_argument( + "--config_path", + type=str, + default=None, + help="Optional path to a config JSON file to override extracted config", + ) + + args = parser.parse_args() + + convert_vibevoice_nnscaler_checkpoint_to_hf( + args.nnscaler_checkpoint_path, + args.pytorch_dump_folder_path, + args.config_path, + ) + + +if __name__ == "__main__": + main() \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice_dump_colab.py b/lor/VibeVoice-finetuning/src/vibevoice_dump_colab.py new file mode 100644 index 0000000000000000000000000000000000000000..4b81af6a150dfa6c58112fd8c3d5cc7ccbe05a43 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice_dump_colab.py @@ -0,0 +1,259 @@ +""" +vibevoice_dump_colab.py (KAGGLE & MULTI-GPU OPTIMIZED) +===================================================== +نسخه بهینه‌سازی شده برای محیط‌های محدود نظیر Kaggle با اعمال محدودیت ترد +و تاخیر زمانی در لودینگ جهت جلوگیری از پر شدن حافظه رم (RAM). +""" + +import os +import sys +import json +import argparse +import zipfile +import re +import math +import shutil +import time +import torch +import torchaudio +import multiprocessing as mp + +# --- HACK TO BYPASS VIBEVOICE LIBRARY BUG --- +class DummyNoneTensor: + def to(self, *args, **kwargs): + return None +# -------------------------------------------- + +def worker_process(worker_id, gpu_id, tasks, args): + """ + پردازشگرهای موازی مستقل بهینه‌سازی شده برای منابع محدود CPU در Kaggle. + """ + # مهم‌ترین بخش برای Kaggle: محدود کردن مصرف CPU جهت جلوگیری از قفل شدن + torch.set_num_threads(1) + torch.set_num_interop_threads(1) + + # تاخیر زمانی برای لود مرحله‌ای مدل‌ها جهت جلوگیری از کرش رم سیستم (RAM OOM) + # به عنوان مثال پردازش سوم ۳۰ ثانیه صبر می‌کند تا پردازش‌های قبلی مدل را به کارت گرافیک بفرستند + wait_time = worker_id * 15 + print(f"[Worker {worker_id}] Waiting {wait_time}s before loading model to prevent RAM spike...") + time.sleep(wait_time) + + device = f"cuda:{gpu_id}" + dtype = torch.bfloat16 if torch.cuda.is_bf16_supported() else torch.float16 + + print(f"[Worker {worker_id}] Loading model onto {device}...") + + try: + from vibevoice.modular.modeling_vibevoice_inference import VibeVoiceForConditionalGenerationInference + from vibevoice.modular.configuration_vibevoice import VibeVoiceConfig + from vibevoice.processor.vibevoice_processor import VibeVoiceProcessor + from vibevoice_layer_dump import VibeVoiceLayerDumper + except ImportError: + print(f"[Worker {worker_id}] Error: Ensure VibeVoice modular code is in PYTHONPATH.") + sys.exit(1) + + # بارگذاری مدل + cfg = VibeVoiceConfig.from_pretrained(args.model_id) + model = VibeVoiceForConditionalGenerationInference.from_pretrained( + args.model_id, config=cfg, torch_dtype=dtype, low_cpu_mem_usage=True + ).to(device) + model.eval() + + processor = VibeVoiceProcessor.from_pretrained(args.model_id) + tok = processor.tokenizer + + # ساخت پوشه موقت اختصاصی برای این پردازش + worker_output_dir = os.path.join(args.output_dir, f"worker_{worker_id}") + os.makedirs(worker_output_dir, exist_ok=True) + + dumper = VibeVoiceLayerDumper( + model=model, + output_dir=worker_output_dir, + tokenizer=tok + ) + dumper.attach() + + # شروع کار روی بخش اختصاص داده شده از داده‌ها + for step_num, (sample_idx, line) in enumerate(tasks): + try: + raw_data = json.loads(line) + except json.JSONDecodeError: + continue + + raw_text = raw_data.get("text", "").strip() + audio_path = raw_data.get("audio_path", None) + + if not raw_text: + continue + + speaker_match = re.match(r"^\s*speaker\s+(\d+)\s*:\s*(.*)$", raw_text, re.IGNORECASE) + if speaker_match: + speaker_id = int(speaker_match.group(1)) + clean_text = speaker_match.group(2).strip() + else: + speaker_id = raw_data.get("speaker_id", 0) + clean_text = raw_text + + script_text = f"Speaker {speaker_id}: {clean_text}" + + if audio_path and os.path.exists(audio_path): + waveform, sr = torchaudio.load(audio_path) + if waveform.shape[0] > 1: + waveform = waveform.mean(dim=0, keepdim=True) + audio_array = waveform.squeeze().numpy() + + inputs = processor( + text=script_text, + voice_samples=[audio_array], + return_tensors="pt" + ) + else: + inputs = processor( + text=script_text, + voice_samples=None, + return_tensors="pt" + ) + + # انتقال به GPU هدف + for k in list(inputs.keys()): + v = inputs[k] + if isinstance(v, torch.Tensor): + inputs[k] = v.to(device) + + dummy = DummyNoneTensor() + for key in ["speech_tensors", "speech_masks", "speech_input_mask"]: + if key not in inputs or inputs.get(key) is None: + inputs[key] = dummy + + dumper.begin_call() + audio_output = None + + extra_keys = ["parsed_scripts", "all_speakers_list"] + generate_kwargs = {} + for key in extra_keys: + if key in inputs: + generate_kwargs[key] = inputs.pop(key) + + with torch.no_grad(): + out = model.generate( + **inputs, + max_new_tokens=args.max_new_tokens, + do_sample=False, + tokenizer=tok, + show_progress_bar=False, # غیرفعال کردن نوار پیشرفت در پردازش موازی برای خوانایی بهتر ترمینال + return_speech=True, + **generate_kwargs, + ) + + if hasattr(out, "speech_outputs") and out.speech_outputs is not None: + if len(out.speech_outputs) > 0 and out.speech_outputs[0] is not None: + audio_output = out.speech_outputs[0].cpu().float().numpy() + + dumper.flush_distillation_dataset(sample_idx=sample_idx, audio_output=audio_output) + print(f"[Worker {worker_id}] Saved Sample {sample_idx} ({step_num + 1}/{len(tasks)})") + + dumper.detach() + print(f"[Worker {worker_id}] Task completed successfully!") + + +if __name__ == "__main__": + # اجباری برای استفاده چندپردازشی در سیستم‌های لینوکسی/نوتبوک با GPU + mp.set_start_method('spawn', force=True) + + parser = argparse.ArgumentParser(description="Kaggle Multi-GPU KD Dataset Generator") + parser.add_argument("--model_id", default="aoi-ot/VibeVoice-1.5B", help="HF model id or local path.") + parser.add_argument("--output_dir", default="/content/vibevoice_kd_dataset", help="Dataset output directory.") + parser.add_argument("--input_jsonl", default="/content/inputs.jsonl", help="Path to input JSONL file.") + parser.add_argument("--max_new_tokens", type=int, default=150, help="Number of tokens/frames to generate.") + parser.add_argument("--zip_path", default="/content/kd_dataset.zip", help="Path to save the final ZIP file.") + args = parser.parse_args() + + if not os.path.exists(args.input_jsonl): + print(f"ERROR: Input JSONL file not found at '{args.input_jsonl}'") + sys.exit(1) + + with open(args.input_jsonl, "r", encoding="utf-8") as f: + all_lines = [(i, line.strip()) for i, line in enumerate(f) if line.strip()] + + total_tasks = len(all_lines) + print(f"Total samples found: {total_tasks}") + + # تعداد کل هسته‌ها و تخصیص GPUها (۲ پردازش موازی روی هر کدام از ۲ کارت گرافیک T4) + num_workers = 4 + gpu_assignments = [0, 0, 1, 1] + + chunk_size = math.ceil(total_tasks / num_workers) + chunks = [all_lines[i:i + chunk_size] for i in range(0, total_tasks, chunk_size)] + + print(f"Launching {len(chunks)} parallel worker processes...") + processes = [] + for w_id in range(len(chunks)): + if len(chunks[w_id]) > 0: + gpu_id = gpu_assignments[w_id] + p = mp.Process(target=worker_process, args=(w_id, gpu_id, chunks[w_id], args)) + processes.append(p) + p.start() + + # منتظر ماندن برای پایان کار تمام پردازش‌ها + for p in processes: + p.join() + + print("\nAll workers finished! Merging outputs from workers...") + + # ساختار نهایی پوشه خروجی + final_dataset_dir = os.path.join(args.output_dir, "distillation_dataset") + os.makedirs(os.path.join(final_dataset_dir, "tensors"), exist_ok=True) + os.makedirs(os.path.join(final_dataset_dir, "audio"), exist_ok=True) + final_jsonl_path = os.path.join(final_dataset_dir, "distill_metadata.jsonl") + + # ادغام فایل‌های ایجاد شده توسط پردازش‌های موازی + with open(final_jsonl_path, "w", encoding="utf-8") as final_jsonl: + for w_id in range(num_workers): + worker_dir = os.path.join(args.output_dir, f"worker_{w_id}", "distillation_dataset") + + # ۱. ادغام فایل‌های متادیتا + w_jsonl = os.path.join(worker_dir, "distill_metadata.jsonl") + if os.path.exists(w_jsonl): + with open(w_jsonl, "r", encoding="utf-8") as f: + final_jsonl.write(f.read()) + + # ۲. انتقال پوشه تنسورها + w_tensors = os.path.join(worker_dir, "tensors") + if os.path.exists(w_tensors): + for sample_folder in os.listdir(w_tensors): + src_folder = os.path.join(w_tensors, sample_folder) + dst_folder = os.path.join(final_dataset_dir, "tensors", sample_folder) + if os.path.exists(src_folder): + if os.path.exists(dst_folder): + shutil.rmtree(dst_folder) + shutil.move(src_folder, dst_folder) + + # ۳. انتقال پوشه فایل‌های صوتی + w_audio = os.path.join(worker_dir, "audio") + if os.path.exists(w_audio): + for audio_file in os.listdir(w_audio): + src_audio = os.path.join(w_audio, audio_file) + dst_audio = os.path.join(final_dataset_dir, "audio", audio_file) + if os.path.exists(src_audio): + shutil.move(src_audio, dst_audio) + + # حذف فایل‌های موقت اضافی + tmp_w_dir = os.path.join(args.output_dir, f"worker_{w_id}") + if os.path.exists(tmp_w_dir): + shutil.rmtree(tmp_w_dir) + + print("Merge completed successfully!") + + # فشرده‌سازی خروجی به صورت ZIP + print(f"Creating ZIP archive at {args.zip_path}...") + if os.path.exists(args.zip_path): + os.remove(args.zip_path) + + with zipfile.ZipFile(args.zip_path, "w", compression=zipfile.ZIP_STORED) as zf: + for root, _, files in os.walk(final_dataset_dir): + for f in files: + full = os.path.join(root, f) + rel = os.path.relpath(full, os.path.dirname(final_dataset_dir)) + zf.write(full, rel) + + print("\nAll tasks completed successfully!") \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/PKG-INFO b/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/PKG-INFO new file mode 100644 index 0000000000000000000000000000000000000000..3d1755f3ed0f40f755ec53bd5f53319200d5887a --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/PKG-INFO @@ -0,0 +1,809 @@ +Metadata-Version: 2.4 +Name: vibevoice-finetuning +Version: 0.1.0 +Summary: Open Source finetuning code for VibeVoice +Author-email: jpgallegoarvpb +License: MIT License + + Copyright (c) 2025 Resemble AI + + Permission is hereby granted, free of charge, to any person obtaining a copy + of this software and associated documentation files (the "Software"), to deal + in the Software without restriction, including without limitation the rights + to use, copy, modify, merge, publish, distribute, sublicense, and/or sell + copies of the Software, and to permit persons to whom the Software is + furnished to do so, subject to the following conditions: + + The above copyright notice and this permission notice shall be included in all + copies or substantial portions of the Software. + + THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR + IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, + FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE + AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER + LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, + OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE + SOFTWARE. +Requires-Python: >=3.8 +Description-Content-Type: text/markdown +License-File: LICENSE +Requires-Dist: numpy~=1.26.0 +Requires-Dist: resampy==0.4.3 +Requires-Dist: librosa==0.11.0 +Requires-Dist: s3tokenizer +Requires-Dist: torch +Requires-Dist: torchaudio +Requires-Dist: transformers +Requires-Dist: datasets>=2.18.0 +Requires-Dist: diffusers==0.29.0 +Requires-Dist: resemble-perth==1.0.1 +Requires-Dist: omegaconf==2.3.0 +Requires-Dist: conformer==0.3.2 +Requires-Dist: safetensors==0.5.3 +Requires-Dist: peft>=0.11.0 +Requires-Dist: tensorboard>=2.12 +Requires-Dist: wandb +Dynamic: license-file + + + + +# Unofficial WIP Finetuning repo for VibeVoice + + + +# Hardware requirements + + + +To train a VibeVoice 1.5B LoRa, a machine with at least 16gb VRAM is recommended. + +To train a VibeVoice 7B LoRa, a machine with at least 48gb VRAM is recommended. + +Keep in mind longer audios increase VRAM requirements + + + +# Installation + +It is recommended to install this in a fresh environment. Specifically, the Dockerized environment `runpod/pytorch:2.8.0-py3.11-cuda12.8.1-cudnn-devel-ubuntu22.04` has been tested to work. + + + +Transformers version 4.51.3 is known to work, while other versions have errors related to Qwen2 architecture. + + +``` +git clone https://github.com/voicepowered-ai/VibeVoice-finetuning + +pip install -e . + +pip uninstall -y transformers && pip install transformers==4.51.3 + +(OPTIONAL) wandb login + +(OPTIONAL) export HF_HOME=/workspace/hf_models +``` + + + +# Usage + + + +## VibeVoice 1.5B / 7B (LoRA) fine-tuning + + + + + +We put some code together for training VibeVoice (7B) with LoRA. This uses the vendored VibeVoice model/processor and trains with a dual loss: masked CE on text tokens plus diffusion MSE on acoustic latents. + + + + + +Requirements: + + + +- Download a compatible VibeVoice 7B or 1.5b checkpoint (config + weights) and its processor files (preprocessor_config.json) or run straight from HF model. + +- A 24khz audio dataset with audio files (target audio), text prompts (transcriptions) and optionally voice prompts (reference audio) + + + + + + +### Training with Hugging Face Dataset + + +``` +python -m src.finetune_vibevoice_lora \ + +--model_name_or_path aoi-ot/VibeVoice-Large \ + +--processor_name_or_path src/vibevoice/processor \ + +--dataset_name your/dataset \ + +--text_column_name text \ + +--audio_column_name audio \ + +--voice_prompts_column_name voice_prompts \ + +--output_dir outputTrain3 \ + +--per_device_train_batch_size 8 \ + +--gradient_accumulation_steps 16 \ + +--learning_rate 2.5e-5 \ + +--num_train_epochs 5 \ + +--logging_steps 10 \ + +--save_steps 100 \ + +--eval_steps 100 \ + +--report_to wandb \ + +--remove_unused_columns False \ + +--bf16 True \ + +--do_train \ + +--gradient_clipping \ + +--gradient_checkpointing False \ + +--ddpm_batch_mul 4 \ + +--diffusion_loss_weight 1.4 \ + +--train_diffusion_head True \ + +--ce_loss_weight 0.04 \ + +--voice_prompt_drop_rate 0.2 \ + +--lora_target_modules q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj \ + +--lr_scheduler_type cosine \ + +--warmup_ratio 0.03 \ + +--max_grad_norm 0.8 +``` + + +---------- + + + +### Training with Local JSONL Dataset + + +``` +python -m src.finetune_vibevoice_lora \ + +--model_name_or_path aoi-ot/VibeVoice-Large \ + +--processor_name_or_path src/vibevoice/processor \ + +--train_jsonl prompts.jsonl \ + +--text_column_name text \ + +--audio_column_name audio \ + +--output_dir outputTrain3 \ + +--per_device_train_batch_size 8 \ + +--gradient_accumulation_steps 16 \ + +--learning_rate 2.5e-5 \ + +--num_train_epochs 5 \ + +--logging_steps 10 \ + +--save_steps 100 \ + +--report_to wandb \ + +--remove_unused_columns False \ + +--bf16 True \ + +--do_train \ + +--gradient_clipping \ + +--gradient_checkpointing False \ + +--ddpm_batch_mul 4 \ + +--diffusion_loss_weight 1.4 \ + +--train_diffusion_head True \ + +--ce_loss_weight 0.04 \ + +--voice_prompt_drop_rate 0.2 \ + +--lora_target_modules q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj \ + +--lr_scheduler_type cosine \ + +--warmup_ratio 0.03 \ + +--max_grad_norm 0.8 +``` + + +### JSONL format: + + + +You can provide an optional `voice_prompts` key. If it is omitted, a voice prompt will be automatically generated from the target audio. + + + +**Example without a pre-defined voice prompt (will be auto-generated):** + +`{"text": "Speaker 0: Speaker0 transcription.", "audio": "/workspace/wavs/segment_000000.wav"}` + + + +**Example with a pre-defined voice prompt:** + +`{"text": "Speaker 0: Speaker0 transcription.", "audio": "/workspace/wavs/segment_000000.wav", "voice_prompts": "/path/to/a/different/prompt.wav"}` + + + +**Example with multiple speakers and voice prompts:** + +`{"text": "Speaker 0: How is the project coming along?\nSpeaker 1: It's going well, we should be finished by Friday.", "audio": "/data/conversations/convo_01.wav", "voice_prompts": ["/data/prompts/alice_voice_prompt.wav", "/data/prompts/bob_voice_prompt.wav"]}` + + + + + +# Notes: + + + +- Audio is assumed to be 24 kHz; input audio will be loaded/resampled to 24 kHz. + + + +- If you pass raw NumPy arrays or torch Tensors as audio (without sampling rate metadata), the collator assumes they are already 24 kHz. To trigger resampling, provide dicts like {"array": , "sampling_rate": } or file paths. + + + +- Tokenizers (acoustic/semantic) are frozen by default. LoRA is applied to the LLM (Qwen) and optionally to the diffusion head. + + + +- The collator builds interleaved sequences with speech placeholders and computes the required masks for diffusion loss. + +- If a voice_prompts column is not provided in your dataset for a given sample, a voice prompt is **automatically generated** by taking a random clip from the target audio. This fallback ensures the model's voice cloning ability is maintained. You can override this behavior by providing your own voice prompts. + +- Said voice_prompts are randomly dropped during training to improve generalization. Drop rates of 0.2 and 0.25 have been tested with satisfactory results. + + + +- The model learns to emit a closing `[speech_end]` token after target placeholders. + + + +- For multi‑speaker prompts, ensure `voice_prompts` list order matches `Speaker 0/1/...` tags in your text. + + + +- LoRA adapters are saved under `output_dir/lora` after training. + + + + + +# Acknowledgements + + + +- [VibeVoice](https://github.com/microsoft/VibeVoice) + + + +- [chatterbox-finetuning](https://github.com/stlohrey/chatterbox-finetuning) + + + + +## Training Script Arguments + + + +Comprehensive list of all the command-line arguments available for the fine-tuning script. + + + +### Model & Architecture Arguments + +Controls the base model, its configuration, and which components are trained. + + + +* `--model_name_or_path` + +* **What it does:** Specifies the path to the pretrained VibeVoice base model. This can be a local directory or a Hugging Face Hub repository ID. + +* **Required:** Yes. + +* **Example:** + +```bash + +--model_name_or_path aoi-ot/VibeVoice-Large + +``` + + + +* `--processor_name_or_path` + +* **What it does:** Specifies the path to the VibeVoice processor configuration. If not provided, it defaults to the `model_name_or_path`. + +* **Example:** + +```bash + +--processor_name_or_path src/vibevoice/processor + +``` + + + +* `--train_diffusion_head` + +* **What it does:** A boolean flag to enable **full fine-tuning** of the diffusion prediction head. When enabled, all parameters of the diffusion head become trainable. + +* **Example:** + +```bash + +--train_diffusion_head True + +``` + + + +* `--train_connectors` + +* **What it does:** A boolean flag to enable training of the acoustic and semantic connectors, which bridge different parts of the model. + +* **Example:** + +```bash + +--train_connectors True + +``` + + + +* `--lora_target_modules` + +* **What it does:** A comma-separated string of module names within the language model to apply LoRA adapters to. This is the primary way to enable LoRA for the text-processing part of the model. + +* **Example:** + +```bash + +--lora_target_modules q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj + +``` + + + +* `--lora_r` + +* **What it does:** The rank (`r`) of the LoRA decomposition. A smaller number means fewer trainable parameters. + +* **Default:** `8` + +* **Example:** + +```bash + +--lora_r 16 + +``` + + + +* `--lora_alpha` + +* **What it does:** The scaling factor for the LoRA weights. A common practice is to set `lora_alpha` to be four times the value of `lora_r`. + +* **Default:** `32` + +* **Example:** + +```bash + +--lora_alpha 64 + +``` + +* `--lora_wrap_diffusion_head` + +* **What it does:** An **alternative** to `--train_diffusion_head`. If `True`, it applies LoRA adapters to the diffusion head instead of fine-tuning it fully, enabling more parameter-efficient training of the head. Must only use `--train_diffusion_head` or `--lora_wrap_diffusion_head` + +* **Default:** `False` + + + + + +* `--layers_to_freeze` + +* **What it does:** Comma-separated indices of diffusion head layers to freeze (e.g., '0,1,5,7,8'). [Diffusion head layer indices](https://github.com/voicepowered-ai/VibeVoice-finetuning/blob/main/diff_head_layers.txt) + +* **Default:** `None` + +### Data & Processing Arguments + +Defines the dataset to be used, its structure, and how it should be processed. + + + +* `--train_jsonl` + +* **What it does:** Path to your local training data file in JSONL (JSON Lines) format. Each line should be a JSON object with keys for text and audio path. + +* **Example:** + +```bash + +--train_jsonl prompts.jsonl + +``` + + + +* `--validation_jsonl` + +* **What it does:** Optional path to a local validation data file in JSONL format. + +* **Example:** + +```bash + +--validation_jsonl validation_prompts.jsonl + +``` + + + +* `--text_column_name` + +* **What it does:** The name of the key in your JSONL file that contains the text transcription/prompt. + +* **Default:** `text` + +* **Example:** + +```bash + +--text_column_name "prompt" + +``` + + + +* `--audio_column_name` + +* **What it does:** The name of the key in your JSONL file that contains the path to the audio file. + +* **Default:** `audio` + +* **Example:** + +```bash + +--audio_column_name "file_path" + +``` + + + +* `--voice_prompt_drop_rate` + +* **What it does:** The probability (from 0.0 to 1.0) of randomly dropping the conditioning voice prompt during training. This acts as a regularizer. + +* **Default:** `0.0` + +* **Example:** + +```bash + +--voice_prompt_drop_rate 0.2 + +``` + + + +### Core Training Arguments + +Standard Hugging Face `TrainingArguments` that control the training loop, optimizer, and saving. + + + +* `--output_dir` + +* **What it does:** The directory where model checkpoints and final outputs will be saved. + +* **Required:** Yes. + +* **Example:** + +```bash + +--output_dir output_model + +``` + + + +* `--per_device_train_batch_size` + +* **What it does:** The number of training examples processed per GPU in a single step. + +* **Example:** + +```bash + +--per_device_train_batch_size 8 + +``` + + + +* `--gradient_accumulation_steps` + +* **What it does:** The number of forward passes to accumulate gradients for before performing an optimizer step. This effectively increases the batch size without using more VRAM. + +* **Example:** + +```bash + +--gradient_accumulation_steps 16 + +``` + + + +* `--learning_rate` + +* **What it does:** The initial learning rate for the optimizer. + +* **Example:** + +```bash + +--learning_rate 2.5e-5 + +``` + + + +* `--num_train_epochs` + +* **What it does:** The total number of times to iterate over the entire training dataset. + +* **Example:** + +```bash + +--num_train_epochs 5 + +``` + + + +* `--logging_steps` + +* **What it does:** How often (in steps) to log training metrics like loss. + +* **Example:** + +```bash + +--logging_steps 10 + +``` + + + +* `--save_steps` + +* **What it does:** How often (in steps) to save a model checkpoint. + +* **Example:** + +```bash + +--save_steps 100 + +``` + + + +* `--report_to` + +* **What it does:** The integration to report logs to. Can be `wandb`, `tensorboard`, or `none`. + +* **Example:** + +```bash + +--report_to wandb + +``` + + + +* `--remove_unused_columns` + +* **What it does:** Whether to remove columns from the dataset not used by the model's `forward` method. **This must be set to `False`** for this script to work correctly. + +* **Example:** + +```bash + +--remove_unused_columns False + +``` + + + +* `--bf16` + +* **What it does:** Enables mixed-precision training using `bfloat16`. This speeds up training and reduces memory usage on compatible GPUs (NVIDIA Ampere series and newer). + +* **Example:** + +```bash + +--bf16 True + +``` + + + +* `--gradient_checkpointing` + +* **What it does:** A memory-saving technique that trades compute for memory. Useful for training large models on limited VRAM. + +* **Example:** + +```bash + +--gradient_checkpointing True + +``` + + + +* `--lr_scheduler_type` + +* **What it does:** The type of learning rate schedule to use (e.g., `linear`, `cosine`, `constant`). + +* **Example:** + +```bash + +--lr_scheduler_type cosine + +``` + + + +* `--warmup_ratio` + +* **What it does:** The proportion of total training steps used for a linear warmup from 0 to the initial learning rate. + +* **Example:** + +```bash + +--warmup_ratio 0.03 + +``` + + + +### Custom VibeVoice Training Arguments + +Special arguments to control VibeVoice-specific training behaviors. + + + +* `--gradient_clipping` + +* **What it does:** A custom boolean flag that acts as the master switch for gradient clipping. If you include this flag, the value from `--max_grad_norm` will be used to prevent exploding gradients. + +* **Example:** + +```bash + +--gradient_clipping + +``` + +* `--max_grad_norm` + +* **What it does:** The maximum value for gradient clipping. Only active if `--gradient_clipping` is also used. + +* **Default:** `1.0` + +* **Example:** + +```bash + +--max_grad_norm 0.8 + +``` + + + +* `--diffusion_loss_weight` + +* **What it does:** A float that scales the importance of the diffusion loss (for speech generation quality) in the total loss calculation. + +* **Example:** + +```bash + +--diffusion_loss_weight 1.4 + +``` + + + +* `--ce_loss_weight` + +* **What it does:** A float that scales the importance of the Cross-Entropy loss (for text prediction accuracy) in the total loss calculation. + +* **Example:** + +```bash + +--ce_loss_weight 0.04 + +``` + + + +* `--ddpm_batch_mul` + +* **What it does:** An integer multiplier for the batch size used specifically within the diffusion process. + +* **Example:** + +```bash + +--ddpm_batch_mul 4 + + +``` + + diff --git a/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/SOURCES.txt b/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/SOURCES.txt new file mode 100644 index 0000000000000000000000000000000000000000..74b080fa2dc38be927f7aab69fd5f1a6cf421cd6 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/SOURCES.txt @@ -0,0 +1,23 @@ +LICENSE +README.md +pyproject.toml +src/vibevoice/modular/__init__.py +src/vibevoice/modular/configuration_vibevoice.py +src/vibevoice/modular/modeling_vibevoice.py +src/vibevoice/modular/modeling_vibevoice_inference.py +src/vibevoice/modular/modular_vibevoice_diffusion_head.py +src/vibevoice/modular/modular_vibevoice_text_tokenizer.py +src/vibevoice/modular/modular_vibevoice_tokenizer.py +src/vibevoice/modular/streamer.py +src/vibevoice/processor/__init__.py +src/vibevoice/processor/vibevoice_processor.py +src/vibevoice/processor/vibevoice_tokenizer_processor.py +src/vibevoice/schedule/__init__.py +src/vibevoice/schedule/dpm_solver.py +src/vibevoice/schedule/timestep_sampler.py +src/vibevoice/scripts/convert_nnscaler_checkpoint_to_transformers.py +src/vibevoice_finetuning.egg-info/PKG-INFO +src/vibevoice_finetuning.egg-info/SOURCES.txt +src/vibevoice_finetuning.egg-info/dependency_links.txt +src/vibevoice_finetuning.egg-info/requires.txt +src/vibevoice_finetuning.egg-info/top_level.txt \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/dependency_links.txt b/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/dependency_links.txt new file mode 100644 index 0000000000000000000000000000000000000000..8b137891791fe96927ad78e64b0aad7bded08bdc --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/dependency_links.txt @@ -0,0 +1 @@ + diff --git a/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/requires.txt b/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/requires.txt new file mode 100644 index 0000000000000000000000000000000000000000..050d1d5b676651f4bdeb73d25a84724fb758b098 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/requires.txt @@ -0,0 +1,16 @@ +numpy~=1.26.0 +resampy==0.4.3 +librosa==0.11.0 +s3tokenizer +torch +torchaudio +transformers +datasets>=2.18.0 +diffusers==0.29.0 +resemble-perth==1.0.1 +omegaconf==2.3.0 +conformer==0.3.2 +safetensors==0.5.3 +peft>=0.11.0 +tensorboard>=2.12 +wandb diff --git a/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/top_level.txt b/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/top_level.txt new file mode 100644 index 0000000000000000000000000000000000000000..233679bc0be4130b9992b7d7ac4dd2d9008d3f46 --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice_finetuning.egg-info/top_level.txt @@ -0,0 +1 @@ +vibevoice diff --git a/lor/VibeVoice-finetuning/src/vibevoice_layer_dump.py b/lor/VibeVoice-finetuning/src/vibevoice_layer_dump.py new file mode 100644 index 0000000000000000000000000000000000000000..ec5d2c638549526dccf56b3d940040be9fe0b40f --- /dev/null +++ b/lor/VibeVoice-finetuning/src/vibevoice_layer_dump.py @@ -0,0 +1,265 @@ +""" +vibevoice_layer_dump.py (FIXED) +======================= + +A highly optimized Knowledge Distillation (KD) dataset generator for VibeVoice. +Captures continuous input embeddings and final hidden states across all +autoregressive generation steps (prefill and decode). + +FIXES / IMPROVEMENTS: +--------------------- +1. Added hidden_size metadata to JSONL records, so downstream fine-tuning + code knows the source model's hidden dimension for projection layers. + +2. Added input_embeds_shape and output_hidden_shape to step records, + making it easier to verify dimension compatibility when training + projection layers for Qwen 3.5 4B. + +3. Improved robustness: The _to_numpy helper now handles tuple outputs + from modules that return (tensor, ...) gracefully. + +4. Added a safety check for the lm_head output shape when logits_to_keep + is used during generation (the lm_head only sees the last position). +""" + +import os +import json +from collections import OrderedDict +from dataclasses import dataclass +from typing import Any, Dict, List, Optional, Tuple + +import numpy as np +import torch +import torch.nn as nn + + +def _to_numpy(t: Any) -> Optional[np.ndarray]: + """Convert torch tensor to numpy array safely and efficiently.""" + if t is None: + return None + if isinstance(t, torch.Tensor): + if t.is_cuda: + t = t.detach().cpu() + else: + t = t.detach() + # Upcast bfloat16 to float32 because numpy lacks native bfloat16 in many versions + if t.dtype in (torch.bfloat16, torch.float16): + t = t.float() + return t.numpy() + if isinstance(t, (tuple, list)): + # Return the FIRST tensor found (typical for module outputs that return tuples) + for x in t: + if isinstance(x, torch.Tensor): + return _to_numpy(x) + return None + if isinstance(t, np.ndarray): + return t + return None + + +@dataclass +class _StepData: + """Holds data for a single autoregressive step.""" + step_index: int + input_embeds: Optional[np.ndarray] = None + output_hidden: Optional[np.ndarray] = None + predicted_token_id: Optional[int] = None + + +class VibeVoiceLayerDumper: + """ + Hooks into a VibeVoice model to extract continuous input embeddings + and final hidden states for Knowledge Distillation (KD). + """ + + def __init__( + self, + model: nn.Module, + output_dir: str, + tokenizer: Optional[Any] = None, + ) -> None: + self.model = model + self.output_dir = output_dir + self.tokenizer = tokenizer + + self._handles: List[torch.utils.hooks.RemovableHandle] = [] + self._call_counter = 0 + + # Buffer stores data step-by-step: step_index -> _StepData + self._step_buffer: Dict[int, _StepData] = OrderedDict() + self._hook_specs: List[Tuple[nn.Module, str]] = [] + + # Detect hidden_size from the model for metadata + self._hidden_size = self._detect_hidden_size() + + self._discover_specs() + + def _detect_hidden_size(self) -> int: + """Detect the hidden size of the language model for metadata.""" + try: + inner = getattr(self.model, "model", self.model) + llm = getattr(inner, "language_model", None) + if llm is not None: + config = getattr(llm, "config", None) + if config is not None: + return getattr(config, "hidden_size", 0) + except Exception: + pass + return 0 + + def _discover_specs(self) -> None: + # Unwrap top-level model if necessary + inner = getattr(self.model, "model", self.model) + llm = getattr(inner, "language_model", None) + + if llm is not None: + # 1. First Transformer Layer (Captures continuous FUSED inputs) + layers = getattr(llm, "layers", None) + if isinstance(layers, nn.ModuleList) and len(layers) > 0: + self._hook_specs.append((layers[0], "llm_first_layer")) + + # 2. Final RMSNorm/LayerNorm (Captures continuous hidden states before Head) + norm = getattr(llm, "norm", None) + if isinstance(norm, nn.Module): + self._hook_specs.append((norm, "llm_final_norm")) + + # 3. LM Head (Captures the predicted discrete text token) + lm_head = getattr(self.model, "lm_head", None) + if isinstance(lm_head, nn.Linear): + self._hook_specs.append((lm_head, "lm_head")) + + def attach(self) -> None: + """Register PyTorch forward hooks.""" + if self._handles: + self.detach() + for module, name in self._hook_specs: + handle = module.register_forward_hook(self._make_hook(name)) + self._handles.append(handle) + + def detach(self) -> None: + """Remove PyTorch forward hooks.""" + for h in self._handles: + try: + h.remove() + except Exception: + pass + self._handles.clear() + + def _get_or_create_step(self, step_idx: int) -> _StepData: + if step_idx not in self._step_buffer: + self._step_buffer[step_idx] = _StepData(step_index=step_idx) + return self._step_buffer[step_idx] + + def _make_hook(self, name: str): + def hook(module: nn.Module, inputs: Any, output: Any) -> None: + + # --- 1. CAPTURE INPUT EMBEDDINGS --- + if name == "llm_first_layer": + if inputs is not None and len(inputs) > 0: + self._call_counter += 1 # Increment on each new step + step_data = self._get_or_create_step(self._call_counter) + + in_arr = _to_numpy(inputs[0]) + if in_arr is not None: + step_data.input_embeds = in_arr + + # --- 2. CAPTURE OUTPUT HIDDEN STATES --- + elif name == "llm_final_norm": + out_arr = _to_numpy(output) + if out_arr is not None: + step_data = self._get_or_create_step(self._call_counter) + step_data.output_hidden = out_arr + + # --- 3. CAPTURE PREDICTED TOKENS (Text) --- + elif name == "lm_head": + if isinstance(output, torch.Tensor): + pred_ids = output.argmax(dim=-1).detach().cpu().numpy() + step_data = self._get_or_create_step(self._call_counter) + # Handle both full-sequence logits and logits_to_keep=1 + if pred_ids.ndim > 1: + step_data.predicted_token_id = int(pred_ids[0, -1]) + else: + step_data.predicted_token_id = int(pred_ids[-1]) + + return hook + + def begin_call(self) -> None: + """Reset the call counter for a new sequence generation.""" + self._call_counter = 0 + self._step_buffer.clear() + + def flush_distillation_dataset(self, sample_idx: int, audio_output: Optional[np.ndarray] = None) -> str: + """ + Flushes captured steps into optimized .npy files and a .jsonl index. + Returns the path to the updated JSONL file. + """ + if not self._step_buffer: + return "" + + dataset_dir = os.path.join(self.output_dir, "distillation_dataset") + tensors_dir = os.path.join(dataset_dir, "tensors", f"sample_{sample_idx:05d}") + os.makedirs(tensors_dir, exist_ok=True) + + jsonl_path = os.path.join(dataset_dir, "distill_metadata.jsonl") + step_records = [] + + for step_idx, data in self._step_buffer.items(): + if data.input_embeds is None or data.output_hidden is None: + continue + + seq_len = data.input_embeds.shape[1] if data.input_embeds.ndim >= 2 else 1 + step_type = "prefill" if seq_len > 1 else "decode" + + in_file = f"step_{step_idx:04d}_in.npy" + out_file = f"step_{step_idx:04d}_out.npy" + + # Save tensors as binary arrays (extremely fast and space-efficient for KD) + np.save(os.path.join(tensors_dir, in_file), data.input_embeds) + np.save(os.path.join(tensors_dir, out_file), data.output_hidden) + + record = { + "step_index": step_idx, + "step_type": step_type, + "seq_len": seq_len, + "input_embeds_file": f"tensors/sample_{sample_idx:05d}/{in_file}", + "output_hidden_file": f"tensors/sample_{sample_idx:05d}/{out_file}", + # IMPROVEMENT: Store shapes for dimension verification + "input_embeds_shape": list(data.input_embeds.shape), + "output_hidden_shape": list(data.output_hidden.shape), + } + + if data.predicted_token_id is not None: + record["predicted_token_id"] = data.predicted_token_id + + step_records.append(record) + + audio_filename = None + if audio_output is not None: + import soundfile as sf + audio_dir = os.path.join(dataset_dir, "audio") + os.makedirs(audio_dir, exist_ok=True) + audio_filename = f"audio_{sample_idx:05d}.wav" + + # --- FIX FOR SOUNDFILE SHAPE ERROR --- + audio_data = audio_output.astype(np.float32) + if audio_data.ndim > 1: + audio_data = np.squeeze(audio_data) # Flatten [1, 1, time] -> [time] + + sf.write(os.path.join(audio_dir, audio_filename), audio_data, 24000) + + if step_records: + sample_metadata = { + "sample_index": sample_idx, + "audio_file": audio_filename, + "num_steps": len(step_records), + # IMPROVEMENT: Store source model's hidden_size for projection layer setup + "source_hidden_size": self._hidden_size, + "steps": step_records + } + + with open(jsonl_path, "a", encoding="utf-8") as f: + f.write(json.dumps(sample_metadata) + "\n") + + # Clear buffer for the next sample + self.begin_call() + return jsonl_path diff --git a/lor/VibeVoice-finetuning/wandb/debug-internal.log b/lor/VibeVoice-finetuning/wandb/debug-internal.log new file mode 100644 index 0000000000000000000000000000000000000000..7c70ff32c79cc9b1e72a08e34d26d8e301f5518f --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/debug-internal.log @@ -0,0 +1,6 @@ +{"time":"2026-02-18T14:42:37.394199692Z","level":"INFO","msg":"stream: starting","core version":"0.24.2"} +{"time":"2026-02-18T14:42:37.612237616Z","level":"INFO","msg":"stream: created new stream","id":"a0h99ykt"} +{"time":"2026-02-18T14:42:37.614905768Z","level":"INFO","msg":"handler: started","stream_id":"a0h99ykt"} +{"time":"2026-02-18T14:42:37.615126264Z","level":"INFO","msg":"stream: started","id":"a0h99ykt"} +{"time":"2026-02-18T14:42:37.61519901Z","level":"INFO","msg":"writer: started","stream_id":"a0h99ykt"} +{"time":"2026-02-18T14:42:37.615229541Z","level":"INFO","msg":"sender: started","stream_id":"a0h99ykt"} diff --git a/lor/VibeVoice-finetuning/wandb/debug.log b/lor/VibeVoice-finetuning/wandb/debug.log new file mode 100644 index 0000000000000000000000000000000000000000..adfb959582e7b8de6f0318e34a1f1ac5a191de5c --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/debug.log @@ -0,0 +1,22 @@ +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_setup.py:_flush():81] Current SDK version is 0.24.2 +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_setup.py:_flush():81] Configure stats pid to 6770 +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_setup.py:_flush():81] Loading settings from environment variables +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_init.py:setup_run_log_directory():717] Logging user logs to /content/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug.log +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_init.py:setup_run_log_directory():718] Logging internal logs to /content/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug-internal.log +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_init.py:init():844] calling init triggers +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_init.py:init():849] wandb.init called with sweep_config: {} +config: {'_wandb': {}} +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_init.py:init():892] starting backend +2026-02-18 14:42:37,379 INFO MainThread:6770 [wandb_init.py:init():895] sending inform_init request +2026-02-18 14:42:37,388 INFO MainThread:6770 [wandb_init.py:init():903] backend started and connected +2026-02-18 14:42:37,392 INFO MainThread:6770 [wandb_init.py:init():973] updated telemetry +2026-02-18 14:42:37,418 INFO MainThread:6770 [wandb_init.py:init():997] communicating run to backend with 90.0 second timeout +2026-02-18 14:42:38,009 INFO MainThread:6770 [wandb_init.py:init():1042] starting run threads in backend +2026-02-18 14:42:39,044 INFO MainThread:6770 [wandb_run.py:_console_start():2529] atexit reg +2026-02-18 14:42:39,044 INFO MainThread:6770 [wandb_run.py:_redirect():2377] redirect: wrap_raw +2026-02-18 14:42:39,044 INFO MainThread:6770 [wandb_run.py:_redirect():2446] Wrapping output streams. +2026-02-18 14:42:39,044 INFO MainThread:6770 [wandb_run.py:_redirect():2469] Redirects installed. +2026-02-18 14:42:39,048 INFO MainThread:6770 [wandb_init.py:init():1082] run started, returning control to user process +2026-02-18 14:42:39,050 INFO MainThread:6770 [wandb_run.py:_config_callback():1404] config_cb None None {'acoustic_tokenizer_config': {'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_acoustic_tokenizer', 'channels': 1, 'corpus_normalize': 0.0, 'causal': True, 'vae_dim': 64, 'fix_std': 0.5, 'std_dist_type': 'gaussian', 'conv_norm': 'none', 'pad_mode': 'constant', 'layernorm_eps': 1e-05, 'disable_last_norm': True, 'layernorm': 'RMSNorm', 'layernorm_elementwise_affine': True, 'conv_bias': True, 'layer_scale_init_value': 1e-06, 'weight_init_value': 0.01, 'mixer_layer': 'depthwise_conv', 'encoder_n_filters': 32, 'encoder_ratios': [8, 5, 5, 4, 2, 2], 'encoder_depths': '3-3-3-3-3-3-8', 'decoder_ratios': [8, 5, 5, 4, 2, 2], 'decoder_n_filters': 32, 'decoder_depths': None}, 'semantic_tokenizer_config': {'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_semantic_tokenizer', 'channels': 1, 'corpus_normalize': 0.0, 'causal': True, 'vae_dim': 128, 'fix_std': 0, 'std_dist_type': 'none', 'conv_norm': 'none', 'pad_mode': 'constant', 'layernorm_eps': 1e-05, 'disable_last_norm': True, 'layernorm': 'RMSNorm', 'layernorm_elementwise_affine': True, 'conv_bias': True, 'layer_scale_init_value': 1e-06, 'weight_init_value': 0.01, 'mixer_layer': 'depthwise_conv', 'encoder_n_filters': 32, 'encoder_ratios': [8, 5, 5, 4, 2, 2], 'encoder_depths': '3-3-3-3-3-3-8'}, 'decoder_config': {'vocab_size': 151936, 'max_position_embeddings': 65536, 'hidden_size': 1536, 'intermediate_size': 8960, 'num_hidden_layers': 28, 'num_attention_heads': 12, 'use_sliding_window': False, 'sliding_window': None, 'max_window_layers': 28, 'num_key_value_heads': 2, 'hidden_act': 'silu', 'initializer_range': 0.02, 'rms_norm_eps': 1e-06, 'use_cache': True, 'rope_theta': 1000000.0, 'rope_scaling': None, 'attention_dropout': 0.0, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'qwen2'}, 'diffusion_head_config': {'hidden_size': 1536, 'head_layers': 4, 'head_ffn_ratio': 3.0, 'rms_norm_eps': 1e-05, 'latent_size': 64, 'speech_vae_dim': 64, 'prediction_type': 'v_prediction', 'diffusion_type': 'ddpm', 'ddpm_num_steps': 1000, 'ddpm_num_inference_steps': 20, 'ddpm_beta_schedule': 'cosine', 'ddpm_batch_mul': 4, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_diffusion_head'}, 'acoustic_vae_dim': 64, 'semantic_vae_dim': 128, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': ['VibeVoiceForConditionalGeneration'], 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': 'microsoft/VibeVoice-1.5B', '_attn_implementation_autoset': True, 'transformers_version': '4.51.3', 'model_type': 'vibevoice', 'output_dir': '/content/', 'overwrite_output_dir': False, 'do_train': True, 'do_eval': False, 'do_predict': False, 'eval_strategy': 'no', 'prediction_loss_only': False, 'per_device_train_batch_size': 1, 'per_device_eval_batch_size': 8, 'per_gpu_train_batch_size': None, 'per_gpu_eval_batch_size': None, 'gradient_accumulation_steps': 10, 'eval_accumulation_steps': None, 'eval_delay': 0, 'torch_empty_cache_steps': None, 'learning_rate': 5e-05, 'weight_decay': 0.0, 'adam_beta1': 0.9, 'adam_beta2': 0.999, 'adam_epsilon': 1e-08, 'max_grad_norm': 0.6, 'num_train_epochs': 8.0, 'max_steps': -1, 'lr_scheduler_type': 'cosine', 'lr_scheduler_kwargs': {}, 'warmup_ratio': 0.1, 'warmup_steps': 0, 'log_level': 'passive', 'log_level_replica': 'warning', 'log_on_each_node': True, 'logging_dir': '/content/runs/Feb18_14-41-34_d690d73e974e', 'logging_strategy': 'steps', 'logging_first_step': False, 'logging_steps': 10, 'logging_nan_inf_filter': True, 'save_strategy': 'steps', 'save_steps': 60, 'save_total_limit': None, 'save_safetensors': True, 'save_on_each_node': False, 'save_only_model': False, 'restore_callback_states_from_checkpoint': False, 'no_cuda': False, 'use_cpu': False, 'use_mps_device': False, 'seed': 42, 'data_seed': None, 'jit_mode_eval': False, 'use_ipex': False, 'bf16': False, 'fp16': True, 'fp16_opt_level': 'O1', 'half_precision_backend': 'auto', 'bf16_full_eval': False, 'fp16_full_eval': False, 'tf32': None, 'local_rank': 0, 'ddp_backend': None, 'tpu_num_cores': None, 'tpu_metrics_debug': False, 'debug': [], 'dataloader_drop_last': False, 'eval_steps': 80.0, 'dataloader_num_workers': 0, 'dataloader_prefetch_factor': None, 'past_index': -1, 'run_name': '/content/', 'disable_tqdm': False, 'remove_unused_columns': False, 'label_names': None, 'load_best_model_at_end': False, 'metric_for_best_model': None, 'greater_is_better': None, 'ignore_data_skip': False, 'fsdp': [], 'fsdp_min_num_params': 0, 'fsdp_config': {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}, 'tp_size': 0, 'fsdp_transformer_layer_cls_to_wrap': None, 'accelerator_config': {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}, 'deepspeed': None, 'label_smoothing_factor': 0.0, 'optim': 'adamw_torch', 'optim_args': None, 'adafactor': False, 'group_by_length': False, 'length_column_name': 'length', 'report_to': ['wandb'], 'ddp_find_unused_parameters': None, 'ddp_bucket_cap_mb': None, 'ddp_broadcast_buffers': None, 'dataloader_pin_memory': True, 'dataloader_persistent_workers': False, 'skip_memory_metrics': True, 'use_legacy_prediction_loop': False, 'push_to_hub': False, 'resume_from_checkpoint': None, 'hub_model_id': None, 'hub_strategy': 'every_save', 'hub_token': '', 'hub_private_repo': None, 'hub_always_push': False, 'gradient_checkpointing': False, 'gradient_checkpointing_kwargs': None, 'include_inputs_for_metrics': False, 'include_for_metrics': [], 'eval_do_concat_batches': True, 'fp16_backend': 'auto', 'push_to_hub_model_id': None, 'push_to_hub_organization': None, 'push_to_hub_token': '', 'mp_parameters': '', 'auto_find_batch_size': False, 'full_determinism': False, 'torchdynamo': None, 'ray_scope': 'last', 'ddp_timeout': 1800, 'torch_compile': False, 'torch_compile_backend': None, 'torch_compile_mode': None, 'include_tokens_per_second': False, 'include_num_input_tokens_seen': False, 'neftune_noise_alpha': None, 'optim_target_modules': None, 'batch_eval_metrics': False, 'eval_on_start': False, 'use_liger_kernel': False, 'eval_use_gather_object': False, 'average_tokens_across_devices': False, 'ddpm_batch_mul': 1, 'ce_loss_weight': 1.1, 'diffusion_loss_weight': 1.7, 'debug_ce_details': False, 'debug_ce_topk': 5, 'debug_ce_max_examples': 1, 'debug_ce_every_n_steps': 200, 'gradient_clipping': True, 'debug_save': False} +2026-02-18 14:42:39,062 INFO MainThread:6770 [wandb_config.py:__setitem__():154] [no run ID] config set model/num_parameters = 2740951521 - > +2026-02-18 14:42:39,063 INFO MainThread:6770 [wandb_run.py:_config_callback():1404] config_cb model/num_parameters 2740951521 None diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/config.yaml b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..b45ed76f6a206d64d88aa911350660f1d08ad6ed --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/config.yaml @@ -0,0 +1,889 @@ +_attn_implementation_autoset: + value: true +_name_or_path: + value: microsoft/VibeVoice-1.5B +_wandb: + value: + cli_version: 0.24.2 + e: + k6l1ner32njng4qwpewn53uqxrr8kl0l: + args: + - --model_name_or_path + - microsoft/VibeVoice-1.5B + - --processor_name_or_path + - vibevoice/processor + - --text_column_name + - text + - --audio_column_name + - audio + - --voice_prompts_column_name + - voice_prompts + - --output_dir + - /content/ + - --per_device_train_batch_size + - "1" + - --gradient_accumulation_steps + - "12" + - --learning_rate + - "5e-5" + - --num_train_epochs + - "10" + - --logging_steps + - "10" + - --save_steps + - "60" + - --eval_steps + - "80" + - --report_to + - wandb + - --lora_r + - "32" + - --lora_alpha + - "64" + - --remove_unused_columns + - "False" + - --fp16 + - "True" + - --do_train + - --gradient_clipping + - --gradient_checkpointing + - "False" + - --ddpm_batch_mul + - "1" + - --diffusion_loss_weight + - "1.8" + - --train_diffusion_head + - "True" + - --ce_loss_weight + - "1.1" + - --voice_prompt_drop_rate + - "0.35" + - --lora_target_modules + - q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj + - --lr_scheduler_type + - cosine + - --warmup_ratio + - "0.1" + - --max_grad_norm + - "0.6" + cpu_count: 1 + cpu_count_logical: 2 + cudaVersion: "13.0" + disk: + /: + total: "120942624768" + used: "58460594176" + email: aralien0907@gmail.com + executable: /usr/bin/python3 + git: + commit: f74368637dd67fc3895d9f81365c50e65ae0641c + remote: https://github.com/voicepowered-ai/VibeVoice-finetuning.git + gpu: Tesla T4 + gpu_count: 1 + gpu_nvidia: + - architecture: Turing + cudaCores: 2560 + memoryTotal: "16106127360" + name: Tesla T4 + uuid: GPU-7e69ea04-764f-97d5-5a16-fe87280f30f7 + host: d690d73e974e + memory: + total: "13605851136" + os: Linux-6.6.105+-x86_64-with-glibc2.35 + program: -m src.finetune_vibevoice_lora0 + python: CPython 3.12.12 + root: /content/VibeVoice-finetuning + startedAt: "2026-02-18T14:25:00.937955Z" + writerId: k6l1ner32njng4qwpewn53uqxrr8kl0l + m: + - "1": train/global_step + "6": + - 3 + "7": [] + - "2": '*' + "5": 1 + "6": + - 1 + "7": [] + python_version: 3.12.12 + t: + "1": + - 1 + - 2 + - 3 + - 5 + - 11 + - 12 + - 41 + - 49 + - 51 + - 53 + - 63 + - 71 + - 83 + - 98 + - 105 + "2": + - 1 + - 2 + - 3 + - 5 + - 11 + - 12 + - 41 + - 49 + - 51 + - 53 + - 63 + - 71 + - 83 + - 98 + - 105 + "3": + - 7 + - 13 + - 19 + - 66 + "4": 3.12.12 + "5": 0.24.2 + "6": 4.51.3 + "9": + "1": transformers_trainer + "12": 0.24.2 + "13": linux-x86_64 +accelerator_config: + value: + dispatch_batches: null + even_batches: true + gradient_accumulation_kwargs: null + non_blocking: false + split_batches: false + use_seedable_sampler: true +acoustic_tokenizer_config: + value: + _attn_implementation_autoset: false + _name_or_path: "" + add_cross_attention: false + architectures: null + bad_words_ids: null + begin_suppress_tokens: null + bos_token_id: null + causal: true + channels: 1 + chunk_size_feed_forward: 0 + conv_bias: true + conv_norm: none + corpus_normalize: 0 + cross_attention_hidden_size: null + decoder_depths: null + decoder_n_filters: 32 + decoder_ratios: + - 8 + - 5 + - 5 + - 4 + - 2 + - 2 + decoder_start_token_id: null + disable_last_norm: true + diversity_penalty: 0 + do_sample: false + early_stopping: false + encoder_depths: 3-3-3-3-3-3-8 + encoder_n_filters: 32 + encoder_no_repeat_ngram_size: 0 + encoder_ratios: + - 8 + - 5 + - 5 + - 4 + - 2 + - 2 + eos_token_id: null + exponential_decay_length_penalty: null + finetuning_task: null + fix_std: 0.5 + forced_bos_token_id: null + forced_eos_token_id: null + id2label: + "0": LABEL_0 + "1": LABEL_1 + is_decoder: false + is_encoder_decoder: false + label2id: + LABEL_0: 0 + LABEL_1: 1 + layer_scale_init_value: 1e-06 + layernorm: RMSNorm + layernorm_elementwise_affine: true + layernorm_eps: 1e-05 + length_penalty: 1 + max_length: 20 + min_length: 0 + mixer_layer: depthwise_conv + model_type: vibevoice_acoustic_tokenizer + no_repeat_ngram_size: 0 + num_beam_groups: 1 + num_beams: 1 + num_return_sequences: 1 + output_attentions: false + output_hidden_states: false + output_scores: false + pad_mode: constant + pad_token_id: null + prefix: null + problem_type: null + remove_invalid_values: false + repetition_penalty: 1 + return_dict: true + return_dict_in_generate: false + sep_token_id: null + std_dist_type: gaussian + suppress_tokens: null + task_specific_params: null + temperature: 1 + tf_legacy_loss: false + tie_encoder_decoder: false + tie_word_embeddings: true + tokenizer_class: null + top_k: 50 + top_p: 1 + torch_dtype: float16 + torchscript: false + typical_p: 1 + use_bfloat16: false + vae_dim: 64 + weight_init_value: 0.01 +acoustic_vae_dim: + value: 64 +adafactor: + value: false +adam_beta1: + value: 0.9 +adam_beta2: + value: 0.999 +adam_epsilon: + value: 1e-08 +add_cross_attention: + value: false +architectures: + value: + - VibeVoiceForConditionalGeneration +auto_find_batch_size: + value: false +average_tokens_across_devices: + value: false +bad_words_ids: + value: null +batch_eval_metrics: + value: false +begin_suppress_tokens: + value: null +bf16: + value: false +bf16_full_eval: + value: false +bos_token_id: + value: null +ce_loss_weight: + value: 1.1 +chunk_size_feed_forward: + value: 0 +cross_attention_hidden_size: + value: null +data_seed: + value: null +dataloader_drop_last: + value: false +dataloader_num_workers: + value: 0 +dataloader_persistent_workers: + value: false +dataloader_pin_memory: + value: true +dataloader_prefetch_factor: + value: null +ddp_backend: + value: null +ddp_broadcast_buffers: + value: null +ddp_bucket_cap_mb: + value: null +ddp_find_unused_parameters: + value: null +ddp_timeout: + value: 1800 +ddpm_batch_mul: + value: 1 +debug: + value: [] +debug_ce_details: + value: false +debug_ce_every_n_steps: + value: 200 +debug_ce_max_examples: + value: 1 +debug_ce_topk: + value: 5 +debug_save: + value: false +decoder_config: + value: + _attn_implementation_autoset: false + _name_or_path: "" + add_cross_attention: false + architectures: null + attention_dropout: 0 + bad_words_ids: null + begin_suppress_tokens: null + bos_token_id: null + chunk_size_feed_forward: 0 + cross_attention_hidden_size: null + decoder_start_token_id: null + diversity_penalty: 0 + do_sample: false + early_stopping: false + encoder_no_repeat_ngram_size: 0 + eos_token_id: null + exponential_decay_length_penalty: null + finetuning_task: null + forced_bos_token_id: null + forced_eos_token_id: null + hidden_act: silu + hidden_size: 1536 + id2label: + "0": LABEL_0 + "1": LABEL_1 + initializer_range: 0.02 + intermediate_size: 8960 + is_decoder: false + is_encoder_decoder: false + label2id: + LABEL_0: 0 + LABEL_1: 1 + length_penalty: 1 + max_length: 20 + max_position_embeddings: 65536 + max_window_layers: 28 + min_length: 0 + model_type: qwen2 + no_repeat_ngram_size: 0 + num_attention_heads: 12 + num_beam_groups: 1 + num_beams: 1 + num_hidden_layers: 28 + num_key_value_heads: 2 + num_return_sequences: 1 + output_attentions: false + output_hidden_states: false + output_scores: false + pad_token_id: null + prefix: null + problem_type: null + remove_invalid_values: false + repetition_penalty: 1 + return_dict: true + return_dict_in_generate: false + rms_norm_eps: 1e-06 + rope_scaling: null + rope_theta: 1e+06 + sep_token_id: null + sliding_window: null + suppress_tokens: null + task_specific_params: null + temperature: 1 + tf_legacy_loss: false + tie_encoder_decoder: false + tie_word_embeddings: true + tokenizer_class: null + top_k: 50 + top_p: 1 + torch_dtype: float16 + torchscript: false + typical_p: 1 + use_bfloat16: false + use_cache: true + use_sliding_window: false + vocab_size: 151936 +decoder_start_token_id: + value: null +deepspeed: + value: null +diffusion_head_config: + value: + _attn_implementation_autoset: false + _name_or_path: "" + add_cross_attention: false + architectures: null + bad_words_ids: null + begin_suppress_tokens: null + bos_token_id: null + chunk_size_feed_forward: 0 + cross_attention_hidden_size: null + ddpm_batch_mul: 4 + ddpm_beta_schedule: cosine + ddpm_num_inference_steps: 20 + ddpm_num_steps: 1000 + decoder_start_token_id: null + diffusion_type: ddpm + diversity_penalty: 0 + do_sample: false + early_stopping: false + encoder_no_repeat_ngram_size: 0 + eos_token_id: null + exponential_decay_length_penalty: null + finetuning_task: null + forced_bos_token_id: null + forced_eos_token_id: null + head_ffn_ratio: 3 + head_layers: 4 + hidden_size: 1536 + id2label: + "0": LABEL_0 + "1": LABEL_1 + is_decoder: false + is_encoder_decoder: false + label2id: + LABEL_0: 0 + LABEL_1: 1 + latent_size: 64 + length_penalty: 1 + max_length: 20 + min_length: 0 + model_type: vibevoice_diffusion_head + no_repeat_ngram_size: 0 + num_beam_groups: 1 + num_beams: 1 + num_return_sequences: 1 + output_attentions: false + output_hidden_states: false + output_scores: false + pad_token_id: null + prediction_type: v_prediction + prefix: null + problem_type: null + remove_invalid_values: false + repetition_penalty: 1 + return_dict: true + return_dict_in_generate: false + rms_norm_eps: 1e-05 + sep_token_id: null + speech_vae_dim: 64 + suppress_tokens: null + task_specific_params: null + temperature: 1 + tf_legacy_loss: false + tie_encoder_decoder: false + tie_word_embeddings: true + tokenizer_class: null + top_k: 50 + top_p: 1 + torch_dtype: float16 + torchscript: false + typical_p: 1 + use_bfloat16: false +diffusion_loss_weight: + value: 1.8 +disable_tqdm: + value: false +diversity_penalty: + value: 0 +do_eval: + value: false +do_predict: + value: false +do_sample: + value: false +do_train: + value: true +early_stopping: + value: false +encoder_no_repeat_ngram_size: + value: 0 +eos_token_id: + value: null +eval_accumulation_steps: + value: null +eval_delay: + value: 0 +eval_do_concat_batches: + value: true +eval_on_start: + value: false +eval_steps: + value: 80 +eval_strategy: + value: "no" +eval_use_gather_object: + value: false +exponential_decay_length_penalty: + value: null +finetuning_task: + value: null +forced_bos_token_id: + value: null +forced_eos_token_id: + value: null +fp16: + value: true +fp16_backend: + value: auto +fp16_full_eval: + value: false +fp16_opt_level: + value: O1 +fsdp: + value: [] +fsdp_config: + value: + min_num_params: 0 + xla: false + xla_fsdp_grad_ckpt: false + xla_fsdp_v2: false +fsdp_min_num_params: + value: 0 +fsdp_transformer_layer_cls_to_wrap: + value: null +full_determinism: + value: false +gradient_accumulation_steps: + value: 12 +gradient_checkpointing: + value: false +gradient_checkpointing_kwargs: + value: null +gradient_clipping: + value: true +greater_is_better: + value: null +group_by_length: + value: false +half_precision_backend: + value: auto +hub_always_push: + value: false +hub_model_id: + value: null +hub_private_repo: + value: null +hub_strategy: + value: every_save +hub_token: + value: +id2label: + value: + "0": LABEL_0 + "1": LABEL_1 +ignore_data_skip: + value: false +include_for_metrics: + value: [] +include_inputs_for_metrics: + value: false +include_num_input_tokens_seen: + value: false +include_tokens_per_second: + value: false +is_decoder: + value: false +is_encoder_decoder: + value: false +jit_mode_eval: + value: false +label_names: + value: null +label_smoothing_factor: + value: 0 +label2id: + value: + LABEL_0: 0 + LABEL_1: 1 +learning_rate: + value: 5e-05 +length_column_name: + value: length +length_penalty: + value: 1 +load_best_model_at_end: + value: false +local_rank: + value: 0 +log_level: + value: passive +log_level_replica: + value: warning +log_on_each_node: + value: true +logging_dir: + value: /content/runs/Feb18_14-23-47_d690d73e974e +logging_first_step: + value: false +logging_nan_inf_filter: + value: true +logging_steps: + value: 10 +logging_strategy: + value: steps +lr_scheduler_type: + value: cosine +max_grad_norm: + value: 0.6 +max_length: + value: 20 +max_steps: + value: -1 +metric_for_best_model: + value: null +min_length: + value: 0 +model/num_parameters: + value: 2740951521 +model_type: + value: vibevoice +mp_parameters: + value: "" +neftune_noise_alpha: + value: null +no_cuda: + value: false +no_repeat_ngram_size: + value: 0 +num_beam_groups: + value: 1 +num_beams: + value: 1 +num_return_sequences: + value: 1 +num_train_epochs: + value: 10 +optim: + value: adamw_torch +optim_args: + value: null +optim_target_modules: + value: null +output_attentions: + value: false +output_dir: + value: /content/ +output_hidden_states: + value: false +output_scores: + value: false +overwrite_output_dir: + value: false +pad_token_id: + value: null +past_index: + value: -1 +per_device_eval_batch_size: + value: 8 +per_device_train_batch_size: + value: 1 +per_gpu_eval_batch_size: + value: null +per_gpu_train_batch_size: + value: null +prediction_loss_only: + value: false +prefix: + value: null +problem_type: + value: null +push_to_hub: + value: false +push_to_hub_model_id: + value: null +push_to_hub_organization: + value: null +push_to_hub_token: + value: +ray_scope: + value: last +remove_invalid_values: + value: false +remove_unused_columns: + value: false +repetition_penalty: + value: 1 +report_to: + value: + - wandb +restore_callback_states_from_checkpoint: + value: false +resume_from_checkpoint: + value: null +return_dict: + value: true +return_dict_in_generate: + value: false +run_name: + value: /content/ +save_on_each_node: + value: false +save_only_model: + value: false +save_safetensors: + value: true +save_steps: + value: 60 +save_strategy: + value: steps +save_total_limit: + value: null +seed: + value: 42 +semantic_tokenizer_config: + value: + _attn_implementation_autoset: false + _name_or_path: "" + add_cross_attention: false + architectures: null + bad_words_ids: null + begin_suppress_tokens: null + bos_token_id: null + causal: true + channels: 1 + chunk_size_feed_forward: 0 + conv_bias: true + conv_norm: none + corpus_normalize: 0 + cross_attention_hidden_size: null + decoder_start_token_id: null + disable_last_norm: true + diversity_penalty: 0 + do_sample: false + early_stopping: false + encoder_depths: 3-3-3-3-3-3-8 + encoder_n_filters: 32 + encoder_no_repeat_ngram_size: 0 + encoder_ratios: + - 8 + - 5 + - 5 + - 4 + - 2 + - 2 + eos_token_id: null + exponential_decay_length_penalty: null + finetuning_task: null + fix_std: 0 + forced_bos_token_id: null + forced_eos_token_id: null + id2label: + "0": LABEL_0 + "1": LABEL_1 + is_decoder: false + is_encoder_decoder: false + label2id: + LABEL_0: 0 + LABEL_1: 1 + layer_scale_init_value: 1e-06 + layernorm: RMSNorm + layernorm_elementwise_affine: true + layernorm_eps: 1e-05 + length_penalty: 1 + max_length: 20 + min_length: 0 + mixer_layer: depthwise_conv + model_type: vibevoice_semantic_tokenizer + no_repeat_ngram_size: 0 + num_beam_groups: 1 + num_beams: 1 + num_return_sequences: 1 + output_attentions: false + output_hidden_states: false + output_scores: false + pad_mode: constant + pad_token_id: null + prefix: null + problem_type: null + remove_invalid_values: false + repetition_penalty: 1 + return_dict: true + return_dict_in_generate: false + sep_token_id: null + std_dist_type: none + suppress_tokens: null + task_specific_params: null + temperature: 1 + tf_legacy_loss: false + tie_encoder_decoder: false + tie_word_embeddings: true + tokenizer_class: null + top_k: 50 + top_p: 1 + torch_dtype: float16 + torchscript: false + typical_p: 1 + use_bfloat16: false + vae_dim: 128 + weight_init_value: 0.01 +semantic_vae_dim: + value: 128 +sep_token_id: + value: null +skip_memory_metrics: + value: true +suppress_tokens: + value: null +task_specific_params: + value: null +temperature: + value: 1 +tf_legacy_loss: + value: false +tf32: + value: null +tie_encoder_decoder: + value: false +tie_word_embeddings: + value: true +tokenizer_class: + value: null +top_k: + value: 50 +top_p: + value: 1 +torch_compile: + value: false +torch_compile_backend: + value: null +torch_compile_mode: + value: null +torch_dtype: + value: float16 +torch_empty_cache_steps: + value: null +torchdynamo: + value: null +torchscript: + value: false +tp_size: + value: 0 +tpu_metrics_debug: + value: false +tpu_num_cores: + value: null +transformers_version: + value: 4.51.3 +typical_p: + value: 1 +use_bfloat16: + value: false +use_cpu: + value: false +use_ipex: + value: false +use_legacy_prediction_loop: + value: false +use_liger_kernel: + value: false +use_mps_device: + value: false +warmup_ratio: + value: 0.1 +warmup_steps: + value: 0 +weight_decay: + value: 0 diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/output.log b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/output.log new file mode 100644 index 0000000000000000000000000000000000000000..2f6db1d46d3f516fcde687cfddca561cddf02c58 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/output.log @@ -0,0 +1,558 @@ + +{'debug/num_tok_total': 145.0, 'debug/num_tok_loss': 39.0, 'debug/num_lat_total': 145.0, 'debug/num_lat_loss': 39.0, 'epoch': 0} +{'train/ce_loss': 17.624103546142578, 'train/diffusion_loss': 0.7094717025756836, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 152.0, 'debug/num_tok_loss': 45.0, 'debug/num_lat_total': 152.0, 'debug/num_lat_loss': 45.0, 'epoch': 0} +{'train/ce_loss': 18.688594818115234, 'train/diffusion_loss': 0.5714285373687744, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 85.0, 'debug/num_tok_loss': 34.0, 'debug/num_lat_total': 85.0, 'debug/num_lat_loss': 34.0, 'epoch': 0} +{'train/ce_loss': 17.47560691833496, 'train/diffusion_loss': 0.5668375492095947, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 166.0, 'debug/num_tok_loss': 117.0, 'debug/num_lat_total': 166.0, 'debug/num_lat_loss': 117.0, 'epoch': 0} +{'train/ce_loss': 20.7196044921875, 'train/diffusion_loss': 0.6255993247032166, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 154.0, 'debug/num_tok_loss': 83.0, 'debug/num_lat_total': 154.0, 'debug/num_lat_loss': 83.0, 'epoch': 0} +{'train/ce_loss': 20.959171295166016, 'train/diffusion_loss': 0.6066958904266357, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 153.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 153.0, 'debug/num_lat_loss': 47.0, 'epoch': 0} +{'train/ce_loss': 18.233762741088867, 'train/diffusion_loss': 0.5949330925941467, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 30.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 30.0, 'epoch': 0} +{'train/ce_loss': 16.892210006713867, 'train/diffusion_loss': 0.6077481508255005, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 138.0, 'debug/num_tok_loss': 31.0, 'debug/num_lat_total': 138.0, 'debug/num_lat_loss': 31.0, 'epoch': 0} +{'train/ce_loss': 16.396814346313477, 'train/diffusion_loss': 0.60689377784729, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 169.0, 'debug/num_tok_loss': 63.0, 'debug/num_lat_total': 169.0, 'debug/num_lat_loss': 63.0, 'epoch': 0} +{'train/ce_loss': 19.0556583404541, 'train/diffusion_loss': 0.5751490592956543, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 99.0, 'debug/num_tok_loss': 35.0, 'debug/num_lat_total': 99.0, 'debug/num_lat_loss': 35.0, 'epoch': 0} +{'train/ce_loss': 17.942827224731445, 'train/diffusion_loss': 0.5633095502853394, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 81.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 81.0, 'epoch': 0} +{'train/ce_loss': 20.29229164123535, 'train/diffusion_loss': 0.5666168928146362, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 117.0, 'debug/num_tok_loss': 11.0, 'debug/num_lat_total': 117.0, 'debug/num_lat_loss': 11.0, 'epoch': 0} +{'train/ce_loss': 13.591137886047363, 'train/diffusion_loss': 0.4021272659301758, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 206.0, 'debug/num_tok_loss': 99.0, 'debug/num_lat_total': 206.0, 'debug/num_lat_loss': 99.0, 'epoch': 0.0} +{'train/ce_loss': 21.090343475341797, 'train/diffusion_loss': 0.6082291007041931, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 148.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 148.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.0} +{'train/ce_loss': 19.46612548828125, 'train/diffusion_loss': 0.6474497318267822, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 116.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 116.0, 'debug/num_lat_loss': 47.0, 'epoch': 0.0} +{'train/ce_loss': 18.134809494018555, 'train/diffusion_loss': 0.6856439113616943, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 161.0, 'debug/num_tok_loss': 80.0, 'debug/num_lat_total': 161.0, 'debug/num_lat_loss': 80.0, 'epoch': 0.0} +{'train/ce_loss': 20.820384979248047, 'train/diffusion_loss': 0.5715802311897278, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.0} +{'train/ce_loss': 19.09589385986328, 'train/diffusion_loss': 0.5783407092094421, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 158.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 158.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.0} +{'train/ce_loss': 20.06045150756836, 'train/diffusion_loss': 0.5878459215164185, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 180.0, 'debug/num_tok_loss': 73.0, 'debug/num_lat_total': 180.0, 'debug/num_lat_loss': 73.0, 'epoch': 0.0} +{'train/ce_loss': 20.345367431640625, 'train/diffusion_loss': 0.652065098285675, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 101.0, 'debug/num_tok_loss': 20.0, 'debug/num_lat_total': 101.0, 'debug/num_lat_loss': 20.0, 'epoch': 0.0} +{'train/ce_loss': 15.036038398742676, 'train/diffusion_loss': 0.387031227350235, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 165.0, 'debug/num_tok_loss': 113.0, 'debug/num_lat_total': 165.0, 'debug/num_lat_loss': 113.0, 'epoch': 0.0} +{'train/ce_loss': 20.343006134033203, 'train/diffusion_loss': 0.6079820394515991, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 149.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 149.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.0} +{'train/ce_loss': 20.710960388183594, 'train/diffusion_loss': 0.5807090401649475, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 147.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 147.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.0} +{'train/ce_loss': 19.858078002929688, 'train/diffusion_loss': 0.6235314011573792, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 134.0, 'debug/num_tok_loss': 27.0, 'debug/num_lat_total': 134.0, 'debug/num_lat_loss': 27.0, 'epoch': 0.0} +{'train/ce_loss': 16.209667205810547, 'train/diffusion_loss': 0.5468798875808716, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 128.0, 'debug/num_tok_loss': 76.0, 'debug/num_lat_total': 128.0, 'debug/num_lat_loss': 76.0, 'epoch': 0.01} +{'train/ce_loss': 19.85587501525879, 'train/diffusion_loss': 0.6201486587524414, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 107.0, 'debug/num_tok_loss': 43.0, 'debug/num_lat_total': 107.0, 'debug/num_lat_loss': 43.0, 'epoch': 0.01} +{'train/ce_loss': 19.119394302368164, 'train/diffusion_loss': 0.6161847710609436, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 98.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 98.0, 'debug/num_lat_loss': 47.0, 'epoch': 0.01} +{'train/ce_loss': 16.98512840270996, 'train/diffusion_loss': 0.6135052442550659, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 115.0, 'debug/num_tok_loss': 96.0, 'debug/num_lat_total': 115.0, 'debug/num_lat_loss': 96.0, 'epoch': 0.01} +{'train/ce_loss': 20.251426696777344, 'train/diffusion_loss': 0.6778286695480347, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 121.0, 'debug/num_tok_loss': 52.0, 'debug/num_lat_total': 121.0, 'debug/num_lat_loss': 52.0, 'epoch': 0.01} +{'train/ce_loss': 19.211193084716797, 'train/diffusion_loss': 0.5722253918647766, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 19.677370071411133, 'train/diffusion_loss': 0.6380274295806885, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 168.0, 'debug/num_tok_loss': 61.0, 'debug/num_lat_total': 168.0, 'debug/num_lat_loss': 61.0, 'epoch': 0.01} +{'train/ce_loss': 19.51193618774414, 'train/diffusion_loss': 0.6553022861480713, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 160.0, 'debug/num_tok_loss': 96.0, 'debug/num_lat_total': 160.0, 'debug/num_lat_loss': 96.0, 'epoch': 0.01} +{'train/ce_loss': 20.536746978759766, 'train/diffusion_loss': 0.6725964546203613, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 160.0, 'debug/num_tok_loss': 89.0, 'debug/num_lat_total': 160.0, 'debug/num_lat_loss': 89.0, 'epoch': 0.01} +{'train/ce_loss': 20.379037857055664, 'train/diffusion_loss': 0.6461488008499146, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 49.0, 'debug/num_tok_loss': 30.0, 'debug/num_lat_total': 49.0, 'debug/num_lat_loss': 30.0, 'epoch': 0.01} +{'train/ce_loss': 16.79844856262207, 'train/diffusion_loss': 0.6155766248703003, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 182.0, 'debug/num_tok_loss': 111.0, 'debug/num_lat_total': 182.0, 'debug/num_lat_loss': 111.0, 'epoch': 0.01} +{'train/ce_loss': 21.026275634765625, 'train/diffusion_loss': 0.5858950614929199, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 211.0, 'debug/num_tok_loss': 104.0, 'debug/num_lat_total': 211.0, 'debug/num_lat_loss': 104.0, 'epoch': 0.01} +{'train/ce_loss': 21.564098358154297, 'train/diffusion_loss': 0.641681969165802, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 114.0, 'debug/num_tok_loss': 65.0, 'debug/num_lat_total': 114.0, 'debug/num_lat_loss': 65.0, 'epoch': 0.01} +{'train/ce_loss': 18.807844161987305, 'train/diffusion_loss': 0.6348744034767151, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 151.0, 'debug/num_tok_loss': 80.0, 'debug/num_lat_total': 151.0, 'debug/num_lat_loss': 80.0, 'epoch': 0.01} +{'train/ce_loss': 19.74795150756836, 'train/diffusion_loss': 0.6446933150291443, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 138.0, 'debug/num_tok_loss': 86.0, 'debug/num_lat_total': 138.0, 'debug/num_lat_loss': 86.0, 'epoch': 0.01} +{'train/ce_loss': 20.13687515258789, 'train/diffusion_loss': 0.5867917537689209, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 134.0, 'debug/num_tok_loss': 28.0, 'debug/num_lat_total': 134.0, 'debug/num_lat_loss': 28.0, 'epoch': 0.01} +{'train/ce_loss': 16.64942741394043, 'train/diffusion_loss': 0.48928365111351013, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 166.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 166.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.01} +{'train/ce_loss': 19.190689086914062, 'train/diffusion_loss': 0.5625889301300049, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 130.0, 'debug/num_tok_loss': 111.0, 'debug/num_lat_total': 130.0, 'debug/num_lat_loss': 111.0, 'epoch': 0.01} +{'train/ce_loss': 19.898826599121094, 'train/diffusion_loss': 0.6222584247589111, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 162.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 162.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.01} +{'train/ce_loss': 20.198333740234375, 'train/diffusion_loss': 0.5587427616119385, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 19.82209587097168, 'train/diffusion_loss': 0.6874608993530273, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 145.0, 'debug/num_tok_loss': 64.0, 'debug/num_lat_total': 145.0, 'debug/num_lat_loss': 64.0, 'epoch': 0.01} +{'train/ce_loss': 19.807933807373047, 'train/diffusion_loss': 0.6290066242218018, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 162.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 162.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.01} +{'train/ce_loss': 20.285276412963867, 'train/diffusion_loss': 0.6258421540260315, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.01} +{'train/ce_loss': 18.537385940551758, 'train/diffusion_loss': 0.6116793751716614, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 143.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 143.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 20.56442642211914, 'train/diffusion_loss': 0.6365885138511658, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 86.0, 'debug/num_tok_loss': 67.0, 'debug/num_lat_total': 86.0, 'debug/num_lat_loss': 67.0, 'epoch': 0.01} +{'train/ce_loss': 19.567869186401367, 'train/diffusion_loss': 0.6358458995819092, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 83.0, 'debug/num_tok_loss': 32.0, 'debug/num_lat_total': 83.0, 'debug/num_lat_loss': 32.0, 'epoch': 0.01} +{'train/ce_loss': 16.667713165283203, 'train/diffusion_loss': 0.5608019232749939, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 106.0, 'debug/num_tok_loss': 55.0, 'debug/num_lat_total': 106.0, 'debug/num_lat_loss': 55.0, 'epoch': 0.01} +{'train/ce_loss': 18.44162368774414, 'train/diffusion_loss': 0.545034646987915, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 147.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 147.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.01} +{'train/ce_loss': 19.91998863220215, 'train/diffusion_loss': 0.6026426553726196, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 135.0, 'debug/num_tok_loss': 84.0, 'debug/num_lat_total': 135.0, 'debug/num_lat_loss': 84.0, 'epoch': 0.01} +{'train/ce_loss': 19.55213737487793, 'train/diffusion_loss': 0.5744384527206421, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 103.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 103.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.01} +{'train/ce_loss': 18.771753311157227, 'train/diffusion_loss': 0.675837516784668, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 84.0, 'debug/num_tok_loss': 32.0, 'debug/num_lat_total': 84.0, 'debug/num_lat_loss': 32.0, 'epoch': 0.01} +{'train/ce_loss': 16.766742706298828, 'train/diffusion_loss': 0.4784148931503296, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 144.0, 'debug/num_tok_loss': 92.0, 'debug/num_lat_total': 144.0, 'debug/num_lat_loss': 92.0, 'epoch': 0.01} +{'train/ce_loss': 20.41745948791504, 'train/diffusion_loss': 0.6582262516021729, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 153.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 153.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 20.303739547729492, 'train/diffusion_loss': 0.581567108631134, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 184.0, 'debug/num_tok_loss': 78.0, 'debug/num_lat_total': 184.0, 'debug/num_lat_loss': 78.0, 'epoch': 0.01} +{'train/ce_loss': 21.09649658203125, 'train/diffusion_loss': 0.6613467335700989, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 102.0, 'debug/num_tok_loss': 31.0, 'debug/num_lat_total': 102.0, 'debug/num_lat_loss': 31.0, 'epoch': 0.01} +{'train/ce_loss': 17.368268966674805, 'train/diffusion_loss': 0.5023375749588013, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 124.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 124.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.01} +{'train/ce_loss': 19.724924087524414, 'train/diffusion_loss': 0.5076279640197754, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 167.0, 'debug/num_tok_loss': 115.0, 'debug/num_lat_total': 167.0, 'debug/num_lat_loss': 115.0, 'epoch': 0.02} +{'train/ce_loss': 20.939071655273438, 'train/diffusion_loss': 0.6402233242988586, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 137.0, 'debug/num_tok_loss': 73.0, 'debug/num_lat_total': 137.0, 'debug/num_lat_loss': 73.0, 'epoch': 0.02} +{'train/ce_loss': 20.081600189208984, 'train/diffusion_loss': 0.7652465105056763, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 182.0, 'debug/num_tok_loss': 76.0, 'debug/num_lat_total': 182.0, 'debug/num_lat_loss': 76.0, 'epoch': 0.02} +{'train/ce_loss': 20.280378341674805, 'train/diffusion_loss': 0.6082424521446228, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 108.0, 'debug/num_tok_loss': 37.0, 'debug/num_lat_total': 108.0, 'debug/num_lat_loss': 37.0, 'epoch': 0.02} +{'train/ce_loss': 17.90779685974121, 'train/diffusion_loss': 0.6051508784294128, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 189.0, 'debug/num_tok_loss': 82.0, 'debug/num_lat_total': 189.0, 'debug/num_lat_loss': 82.0, 'epoch': 0.02} +{'train/ce_loss': 20.55449867248535, 'train/diffusion_loss': 0.6229814291000366, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 104.0, 'debug/num_tok_loss': 40.0, 'debug/num_lat_total': 104.0, 'debug/num_lat_loss': 40.0, 'epoch': 0.02} +{'train/ce_loss': 17.75387191772461, 'train/diffusion_loss': 0.6561646461486816, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 146.0, 'debug/num_tok_loss': 95.0, 'debug/num_lat_total': 146.0, 'debug/num_lat_loss': 95.0, 'epoch': 0.02} +{'train/ce_loss': 20.21068000793457, 'train/diffusion_loss': 0.6563456654548645, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 189.0, 'debug/num_tok_loss': 108.0, 'debug/num_lat_total': 189.0, 'debug/num_lat_loss': 108.0, 'epoch': 0.02} +{'train/ce_loss': 21.39984130859375, 'train/diffusion_loss': 0.6744173169136047, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 111.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 111.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.02} +{'train/ce_loss': 18.44169044494629, 'train/diffusion_loss': 0.6293514370918274, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 117.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 117.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.02} +{'train/ce_loss': 19.426002502441406, 'train/diffusion_loss': 0.6109452843666077, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 148.0, 'debug/num_tok_loss': 79.0, 'debug/num_lat_total': 148.0, 'debug/num_lat_loss': 79.0, 'epoch': 0.02} +{'train/ce_loss': 19.72512435913086, 'train/diffusion_loss': 0.665356457233429, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 160.0, 'debug/num_tok_loss': 79.0, 'debug/num_lat_total': 160.0, 'debug/num_lat_loss': 79.0, 'epoch': 0.02} +{'train/ce_loss': 20.49042510986328, 'train/diffusion_loss': 0.6193800568580627, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 125.0, 'debug/num_tok_loss': 106.0, 'debug/num_lat_total': 125.0, 'debug/num_lat_loss': 106.0, 'epoch': 0.02} +{'train/ce_loss': 20.25029754638672, 'train/diffusion_loss': 0.6302565932273865, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 139.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 139.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.02} +{'train/ce_loss': 20.205171585083008, 'train/diffusion_loss': 0.6446937918663025, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 116.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 116.0, 'debug/num_lat_loss': 47.0, 'epoch': 0.02} +{'train/ce_loss': 18.700767517089844, 'train/diffusion_loss': 0.5093510150909424, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 187.0, 'debug/num_tok_loss': 106.0, 'debug/num_lat_total': 187.0, 'debug/num_lat_loss': 106.0, 'epoch': 0.02} +{'train/ce_loss': 21.028060913085938, 'train/diffusion_loss': 0.650716245174408, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 85.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 85.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.02} +{'train/ce_loss': 18.896345138549805, 'train/diffusion_loss': 0.703157901763916, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 134.0, 'debug/num_tok_loss': 115.0, 'debug/num_lat_total': 134.0, 'debug/num_lat_loss': 115.0, 'epoch': 0.02} +{'train/ce_loss': 20.166528701782227, 'train/diffusion_loss': 0.6639329791069031, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 63.0, 'debug/num_tok_loss': 44.0, 'debug/num_lat_total': 63.0, 'debug/num_lat_loss': 44.0, 'epoch': 0.02} +{'train/ce_loss': 17.95720863342285, 'train/diffusion_loss': 0.4961731433868408, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 210.0, 'debug/num_tok_loss': 103.0, 'debug/num_lat_total': 210.0, 'debug/num_lat_loss': 103.0, 'epoch': 0.02} +{'train/ce_loss': 21.164226531982422, 'train/diffusion_loss': 0.6625969409942627, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 139.0, 'debug/num_tok_loss': 75.0, 'debug/num_lat_total': 139.0, 'debug/num_lat_loss': 75.0, 'epoch': 0.02} +{'train/ce_loss': 20.09592056274414, 'train/diffusion_loss': 0.5740203261375427, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 98.0, 'debug/num_tok_loss': 49.0, 'debug/num_lat_total': 98.0, 'debug/num_lat_loss': 49.0, 'epoch': 0.02} +{'train/ce_loss': 18.307174682617188, 'train/diffusion_loss': 0.5731379389762878, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 137.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 137.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.02} +{'train/ce_loss': 19.972871780395508, 'train/diffusion_loss': 0.6498357653617859, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 64.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 64.0, 'epoch': 0.02} +{'train/ce_loss': 19.750192642211914, 'train/diffusion_loss': 0.6678406596183777, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 168.0, 'debug/num_tok_loss': 97.0, 'debug/num_lat_total': 168.0, 'debug/num_lat_loss': 97.0, 'epoch': 0.02} +{'train/ce_loss': 21.003150939941406, 'train/diffusion_loss': 0.6708221435546875, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 107.0, 'debug/num_tok_loss': 38.0, 'debug/num_lat_total': 107.0, 'debug/num_lat_loss': 38.0, 'epoch': 0.02} +{'train/ce_loss': 18.06692886352539, 'train/diffusion_loss': 0.5038706064224243, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 157.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 157.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.02} +{'train/ce_loss': 18.723657608032227, 'train/diffusion_loss': 0.721290111541748, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 156.0, 'debug/num_tok_loss': 49.0, 'debug/num_lat_total': 156.0, 'debug/num_lat_loss': 49.0, 'epoch': 0.02} +{'train/ce_loss': 18.34589958190918, 'train/diffusion_loss': 0.5500691533088684, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 139.0, 'debug/num_tok_loss': 87.0, 'debug/num_lat_total': 139.0, 'debug/num_lat_loss': 87.0, 'epoch': 0.02} +{'train/ce_loss': 20.208045959472656, 'train/diffusion_loss': 0.6484007239341736, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 97.0, 'debug/num_tok_loss': 78.0, 'debug/num_lat_total': 97.0, 'debug/num_lat_loss': 78.0, 'epoch': 0.02} +{'train/ce_loss': 19.33632469177246, 'train/diffusion_loss': 0.6910350322723389, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 158.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 158.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.02} +{'train/ce_loss': 18.855663299560547, 'train/diffusion_loss': 0.6219175457954407, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.02} +{'train/ce_loss': 19.218856811523438, 'train/diffusion_loss': 0.6585834622383118, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 130.0, 'debug/num_tok_loss': 59.0, 'debug/num_lat_total': 130.0, 'debug/num_lat_loss': 59.0, 'epoch': 0.02} +{'train/ce_loss': 20.49312973022461, 'train/diffusion_loss': 0.6386563777923584, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 154.0, 'debug/num_tok_loss': 102.0, 'debug/num_lat_total': 154.0, 'debug/num_lat_loss': 102.0, 'epoch': 0.02} +{'train/ce_loss': 20.62437629699707, 'train/diffusion_loss': 0.7400602698326111, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 141.0, 'debug/num_tok_loss': 92.0, 'debug/num_lat_total': 141.0, 'debug/num_lat_loss': 92.0, 'epoch': 0.02} +{'train/ce_loss': 20.46222686767578, 'train/diffusion_loss': 0.6028913259506226, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 158.0, 'debug/num_tok_loss': 109.0, 'debug/num_lat_total': 158.0, 'debug/num_lat_loss': 109.0, 'epoch': 0.02} +{'train/ce_loss': 20.79239273071289, 'train/diffusion_loss': 0.6147456765174866, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 163.0, 'debug/num_tok_loss': 94.0, 'debug/num_lat_total': 163.0, 'debug/num_lat_loss': 94.0, 'epoch': 0.03} +{'train/ce_loss': 20.57509994506836, 'train/diffusion_loss': 0.7088994383811951, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 126.0, 'debug/num_tok_loss': 75.0, 'debug/num_lat_total': 126.0, 'debug/num_lat_loss': 75.0, 'epoch': 0.03} +{'train/ce_loss': 18.446666717529297, 'train/diffusion_loss': 0.650718092918396, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 175.0, 'debug/num_tok_loss': 106.0, 'debug/num_lat_total': 175.0, 'debug/num_lat_loss': 106.0, 'epoch': 0.03} +{'train/ce_loss': 20.59746742248535, 'train/diffusion_loss': 0.6431128978729248, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 144.0, 'debug/num_tok_loss': 75.0, 'debug/num_lat_total': 144.0, 'debug/num_lat_loss': 75.0, 'epoch': 0.03} +{'train/ce_loss': 19.27339744567871, 'train/diffusion_loss': 0.5562569499015808, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 121.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 121.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.03} +{'train/ce_loss': 19.60222053527832, 'train/diffusion_loss': 0.6408166885375977, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 164.0, 'debug/num_tok_loss': 93.0, 'debug/num_lat_total': 164.0, 'debug/num_lat_loss': 93.0, 'epoch': 0.03} +{'train/ce_loss': 20.80626678466797, 'train/diffusion_loss': 0.6117432713508606, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 109.0, 'debug/num_tok_loss': 58.0, 'debug/num_lat_total': 109.0, 'debug/num_lat_loss': 58.0, 'epoch': 0.03} +{'train/ce_loss': 19.13028907775879, 'train/diffusion_loss': 0.5879777073860168, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 95.0, 'debug/num_tok_loss': 24.0, 'debug/num_lat_total': 95.0, 'debug/num_lat_loss': 24.0, 'epoch': 0.03} +{'train/ce_loss': 15.282405853271484, 'train/diffusion_loss': 0.5103256106376648, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 149.0, 'debug/num_tok_loss': 80.0, 'debug/num_lat_total': 149.0, 'debug/num_lat_loss': 80.0, 'epoch': 0.03} +{'train/ce_loss': 20.381473541259766, 'train/diffusion_loss': 0.6809321641921997, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 26.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 26.0, 'epoch': 0.03} +{'train/ce_loss': 17.394084930419922, 'train/diffusion_loss': 0.5014019012451172, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 164.0, 'debug/num_tok_loss': 83.0, 'debug/num_lat_total': 164.0, 'debug/num_lat_loss': 83.0, 'epoch': 0.03} +{'train/ce_loss': 20.71193504333496, 'train/diffusion_loss': 0.6959791779518127, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 93.0, 'debug/num_tok_loss': 44.0, 'debug/num_lat_total': 93.0, 'debug/num_lat_loss': 44.0, 'epoch': 0.03} +{'train/ce_loss': 17.373638153076172, 'train/diffusion_loss': 0.7014344334602356, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 57.0, 'debug/num_tok_loss': 38.0, 'debug/num_lat_total': 57.0, 'debug/num_lat_loss': 38.0, 'epoch': 0.03} +{'train/ce_loss': 16.517501831054688, 'train/diffusion_loss': 0.5533789396286011, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 150.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 150.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.03} +{'train/ce_loss': 20.071502685546875, 'train/diffusion_loss': 0.5635582208633423, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 172.0, 'debug/num_tok_loss': 65.0, 'debug/num_lat_total': 172.0, 'debug/num_lat_loss': 65.0, 'epoch': 0.03} +{'train/ce_loss': 19.822772979736328, 'train/diffusion_loss': 0.5178290605545044, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 193.0, 'debug/num_tok_loss': 86.0, 'debug/num_lat_total': 193.0, 'debug/num_lat_loss': 86.0, 'epoch': 0.03} +{'train/ce_loss': 19.776874542236328, 'train/diffusion_loss': 0.5555462837219238, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 104.0, 'debug/num_tok_loss': 52.0, 'debug/num_lat_total': 104.0, 'debug/num_lat_loss': 52.0, 'epoch': 0.03} +{'train/ce_loss': 18.655250549316406, 'train/diffusion_loss': 0.6078395247459412, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 138.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 138.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.03} +{'train/ce_loss': 19.897125244140625, 'train/diffusion_loss': 0.7147426009178162, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 83.0, 'debug/num_tok_loss': 34.0, 'debug/num_lat_total': 83.0, 'debug/num_lat_loss': 34.0, 'epoch': 0.03} +{'train/ce_loss': 17.37364387512207, 'train/diffusion_loss': 0.4754306674003601, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 115.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 115.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.03} +{'train/ce_loss': 19.600387573242188, 'train/diffusion_loss': 0.6061995029449463, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 141.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 141.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.03} +{'train/ce_loss': 20.226604461669922, 'train/diffusion_loss': 0.6053200364112854, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 148.0, 'debug/num_tok_loss': 99.0, 'debug/num_lat_total': 148.0, 'debug/num_lat_loss': 99.0, 'epoch': 0.03} +{'train/ce_loss': 20.443145751953125, 'train/diffusion_loss': 0.6950148940086365, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 104.0, 'debug/num_tok_loss': 40.0, 'debug/num_lat_total': 104.0, 'debug/num_lat_loss': 40.0, 'epoch': 0.03} +{'train/ce_loss': 16.804990768432617, 'train/diffusion_loss': 0.6039783358573914, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 94.0, 'debug/num_tok_loss': 23.0, 'debug/num_lat_total': 94.0, 'debug/num_lat_loss': 23.0, 'epoch': 0.03} +{'train/ce_loss': 16.26577377319336, 'train/diffusion_loss': 0.4927777945995331, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'loss': 267.3987, 'grad_norm': 567.91455078125, 'learning_rate': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 201.0, 'debug/num_tok_loss': 95.0, 'debug/num_lat_total': 201.0, 'debug/num_lat_loss': 95.0, 'epoch': 0.03} +{'train/ce_loss': 20.88629722595215, 'train/diffusion_loss': 0.633046567440033, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 146.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 146.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.03} +{'train/ce_loss': 20.44351577758789, 'train/diffusion_loss': 0.5981954336166382, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 62.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 62.0, 'epoch': 0.03} +{'train/ce_loss': 19.56106185913086, 'train/diffusion_loss': 0.5868979096412659, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 121.0, 'debug/num_tok_loss': 50.0, 'debug/num_lat_total': 121.0, 'debug/num_lat_loss': 50.0, 'epoch': 0.03} +{'train/ce_loss': 18.193038940429688, 'train/diffusion_loss': 0.5588584542274475, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 184.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 184.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.03} +{'train/ce_loss': 20.277347564697266, 'train/diffusion_loss': 0.6097756624221802, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 126.0, 'debug/num_tok_loss': 45.0, 'debug/num_lat_total': 126.0, 'debug/num_lat_loss': 45.0, 'epoch': 0.03} +{'train/ce_loss': 18.841224670410156, 'train/diffusion_loss': 0.5998368859291077, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 175.0, 'debug/num_tok_loss': 111.0, 'debug/num_lat_total': 175.0, 'debug/num_lat_loss': 111.0, 'epoch': 0.03} +{'train/ce_loss': 20.905258178710938, 'train/diffusion_loss': 0.6906164288520813, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 78.0, 'debug/num_tok_loss': 59.0, 'debug/num_lat_total': 78.0, 'debug/num_lat_loss': 59.0, 'epoch': 0.03} +{'train/ce_loss': 18.56374168395996, 'train/diffusion_loss': 0.7492324113845825, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 191.0, 'debug/num_tok_loss': 120.0, 'debug/num_lat_total': 191.0, 'debug/num_lat_loss': 120.0, 'epoch': 0.03} +{'train/ce_loss': 20.86470603942871, 'train/diffusion_loss': 0.6980457901954651, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 141.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 141.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.03} +{'train/ce_loss': 20.217056274414062, 'train/diffusion_loss': 0.6739798188209534, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 98.0, 'debug/num_tok_loss': 27.0, 'debug/num_lat_total': 98.0, 'debug/num_lat_loss': 27.0, 'epoch': 0.03} +{'train/ce_loss': 16.748903274536133, 'train/diffusion_loss': 0.4928033947944641, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 84.0, 'debug/num_tok_loss': 35.0, 'debug/num_lat_total': 84.0, 'debug/num_lat_loss': 35.0, 'epoch': 0.03} +{'train/ce_loss': 16.73040199279785, 'train/diffusion_loss': 0.5736998319625854, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 167.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 167.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.04} +{'train/ce_loss': 20.1654109954834, 'train/diffusion_loss': 0.6253719329833984, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 96.0, 'debug/num_tok_loss': 44.0, 'debug/num_lat_total': 96.0, 'debug/num_lat_loss': 44.0, 'epoch': 0.04} +{'train/ce_loss': 18.568599700927734, 'train/diffusion_loss': 0.6133934259414673, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 163.0, 'debug/num_tok_loss': 112.0, 'debug/num_lat_total': 163.0, 'debug/num_lat_loss': 112.0, 'epoch': 0.04} +{'train/ce_loss': 20.573606491088867, 'train/diffusion_loss': 0.6844426393508911, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 89.0, 'debug/num_tok_loss': 40.0, 'debug/num_lat_total': 89.0, 'debug/num_lat_loss': 40.0, 'epoch': 0.04} +{'train/ce_loss': 18.740985870361328, 'train/diffusion_loss': 0.6411295533180237, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 146.0, 'debug/num_tok_loss': 95.0, 'debug/num_lat_total': 146.0, 'debug/num_lat_loss': 95.0, 'epoch': 0.04} +{'train/ce_loss': 19.96758460998535, 'train/diffusion_loss': 0.6180863380432129, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 124.0, 'debug/num_tok_loss': 43.0, 'debug/num_lat_total': 124.0, 'debug/num_lat_loss': 43.0, 'epoch': 0.04} +{'train/ce_loss': 18.24755096435547, 'train/diffusion_loss': 0.5411134362220764, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 224.0, 'debug/num_tok_loss': 117.0, 'debug/num_lat_total': 224.0, 'debug/num_lat_loss': 117.0, 'epoch': 0.04} +{'train/ce_loss': 20.655609130859375, 'train/diffusion_loss': 0.6678435802459717, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 175.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 175.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.04} +{'train/ce_loss': 20.366064071655273, 'train/diffusion_loss': 0.5933130979537964, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 226.0, 'debug/num_tok_loss': 119.0, 'debug/num_lat_total': 226.0, 'debug/num_lat_loss': 119.0, 'epoch': 0.04} +{'train/ce_loss': 21.18747901916504, 'train/diffusion_loss': 0.5763781070709229, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 191.0, 'debug/num_tok_loss': 84.0, 'debug/num_lat_total': 191.0, 'debug/num_lat_loss': 84.0, 'epoch': 0.04} +{'train/ce_loss': 20.290218353271484, 'train/diffusion_loss': 0.5762882828712463, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 26.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 26.0, 'epoch': 0.04} +{'train/ce_loss': 16.703577041625977, 'train/diffusion_loss': 0.5179185271263123, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 193.0, 'debug/num_tok_loss': 112.0, 'debug/num_lat_total': 193.0, 'debug/num_lat_loss': 112.0, 'epoch': 0.04} +{'train/ce_loss': 20.94532585144043, 'train/diffusion_loss': 0.6893497705459595, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 100.0, 'debug/num_tok_loss': 81.0, 'debug/num_lat_total': 100.0, 'debug/num_lat_loss': 81.0, 'epoch': 0.04} +{'train/ce_loss': 19.035293579101562, 'train/diffusion_loss': 0.6394315958023071, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 186.0, 'debug/num_tok_loss': 105.0, 'debug/num_lat_total': 186.0, 'debug/num_lat_loss': 105.0, 'epoch': 0.04} +{'train/ce_loss': 21.26852035522461, 'train/diffusion_loss': 0.7264164686203003, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 118.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 118.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.04} +{'train/ce_loss': 19.37299346923828, 'train/diffusion_loss': 0.6143879890441895, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 164.0, 'debug/num_tok_loss': 58.0, 'debug/num_lat_total': 164.0, 'debug/num_lat_loss': 58.0, 'epoch': 0.04} +{'train/ce_loss': 19.468652725219727, 'train/diffusion_loss': 0.5936351418495178, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 105.0, 'debug/num_tok_loss': 86.0, 'debug/num_lat_total': 105.0, 'debug/num_lat_loss': 86.0, 'epoch': 0.04} +{'train/ce_loss': 19.224863052368164, 'train/diffusion_loss': 0.6358407735824585, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 42.0, 'debug/num_tok_loss': 23.0, 'debug/num_lat_total': 42.0, 'debug/num_lat_loss': 23.0, 'epoch': 0.04} +{'train/ce_loss': 14.811044692993164, 'train/diffusion_loss': 0.48437750339508057, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 143.0, 'debug/num_tok_loss': 92.0, 'debug/num_lat_total': 143.0, 'debug/num_lat_loss': 92.0, 'epoch': 0.04} +{'train/ce_loss': 19.888538360595703, 'train/diffusion_loss': 0.5813890099525452, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.04} +{'train/ce_loss': 18.725513458251953, 'train/diffusion_loss': 0.5101108551025391, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 165.0, 'debug/num_tok_loss': 59.0, 'debug/num_lat_total': 165.0, 'debug/num_lat_loss': 59.0, 'epoch': 0.04} +{'train/ce_loss': 18.798866271972656, 'train/diffusion_loss': 0.7045279145240784, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 170.0, 'debug/num_tok_loss': 99.0, 'debug/num_lat_total': 170.0, 'debug/num_lat_loss': 99.0, 'epoch': 0.04} +{'train/ce_loss': 21.15802001953125, 'train/diffusion_loss': 0.5948197841644287, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 107.0, 'debug/num_tok_loss': 56.0, 'debug/num_lat_total': 107.0, 'debug/num_lat_loss': 56.0, 'epoch': 0.04} +{'train/ce_loss': 18.503070831298828, 'train/diffusion_loss': 0.5941833257675171, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 137.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 137.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.04} +{'train/ce_loss': 19.879188537597656, 'train/diffusion_loss': 0.5642816424369812, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} + File "", line 198, in _run_module_as_main + File "", line 88, in _run_code + File "/content/VibeVoice-finetuning/src/finetune_vibevoice_lora0.py", line 984, in + main() + File "/content/VibeVoice-finetuning/src/finetune_vibevoice_lora0.py", line 932, in main + trainer.train(resume_from_checkpoint=training_args.resume_from_checkpoint) + File "/usr/local/lib/python3.12/dist-packages/transformers/trainer.py", line 2245, in train + return inner_training_loop( + ^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/transformers/trainer.py", line 2560, in _inner_training_loop + tr_loss_step = self.training_step(model, inputs, num_items_in_batch) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/transformers/trainer.py", line 3736, in training_step + loss = self.compute_loss(model, inputs, num_items_in_batch=num_items_in_batch) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/finetune_vibevoice_lora0.py", line 705, in compute_loss + outputs = model( + ^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1775, in _wrapped_call_impl + return self._call_impl(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1786, in _call_impl + return forward_call(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/accelerate/utils/operations.py", line 819, in forward + return model_forward(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/accelerate/utils/operations.py", line 807, in __call__ + return convert_to_fp32(self.model_forward(*args, **kwargs)) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/amp/autocast_mode.py", line 44, in decorate_autocast + return func(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/vibevoice/modular/modeling_vibevoice.py", line 393, in forward + outputs = self.model( + ^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1775, in _wrapped_call_impl + return self._call_impl(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1786, in _call_impl + return forward_call(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/vibevoice/modular/modeling_vibevoice.py", line 187, in forward + outputs = self.language_model( + ^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1775, in _wrapped_call_impl + return self._call_impl(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1786, in _call_impl + return forward_call(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/peft/peft_model.py", line 1073, in forward + return self.base_model( + ^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1775, in _wrapped_call_impl + return self._call_impl(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1786, in _call_impl + return forward_call(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/peft/tuners/tuners_utils.py", line 103, in forward + return self.model.forward(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/transformers/utils/generic.py", line 965, in wrapper + output = func(self, *args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/transformers/models/qwen2/modeling_qwen2.py", line 549, in forward + layer_outputs = decoder_layer( + ^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1775, in _wrapped_call_impl + return self._call_impl(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1786, in _call_impl + return forward_call(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/transformers/models/qwen2/modeling_qwen2.py", line 277, in forward + hidden_states = self.post_attention_layernorm(hidden_states) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1775, in _wrapped_call_impl + return self._call_impl(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1786, in _call_impl + return forward_call(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/transformers/models/qwen2/modeling_qwen2.py", line 225, in forward + return self.weight * hidden_states.to(input_dtype) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ +KeyboardInterrupt diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/requirements.txt b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/requirements.txt new file mode 100644 index 0000000000000000000000000000000000000000..f2978c96caaca9f204690d18885e5adee315acb6 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/requirements.txt @@ -0,0 +1,752 @@ +setuptools==75.2.0 +types-setuptools==80.10.0.20260124 +pip==24.1.2 +requirements-parser==0.9.0 +cfgv==3.5.0 +s3tokenizer==0.3.0 +datasets==2.21.0 +onnx==1.20.1 +filelock==3.24.2 +vibevoice-finetuning==0.1.0 +fsspec==2024.6.1 +identify==2.6.16 +conformer==0.3.2 +safetensors==0.5.3 +diffusers==0.29.0 +huggingface_hub==0.36.2 +nodeenv==1.10.0 +virtualenv==20.37.0 +pre_commit==4.5.1 +distlib==0.4.0 +tokenizers==0.21.4 +peft==0.7.1 +resampy==0.4.3 +numpy==1.26.4 +resemble-perth==1.0.1 +transformers==4.51.3 +google-colab==1.0.0 +patsy==1.0.2 +aiofiles==24.1.0 +tensorflow-text==2.19.0 +tensorflow-hub==0.16.1 +google-cloud-dataproc==5.24.0 +jsonpickle==4.1.1 +numba-cuda==0.19.2 +treelite==4.4.1 +ucxx-cu12==0.46.0 +opencv-contrib-python==4.13.0.92 +jupyter_server_terminals==0.5.4 +astropy-iers-data==0.2026.2.9.0.50.33 +geemap==0.35.3 +pyshp==3.0.3 +rpy2==3.5.17 +pickleshare==0.7.5 +numexpr==2.14.1 +html5lib==1.1 +music21==9.9.1 +notebook==6.5.7 +ipython==7.34.0 +nvidia-cusparse-cu12==12.5.8.93 +python-utils==3.9.1 +nest-asyncio==1.6.0 +pytz==2025.2 +sphinxcontrib-qthelp==2.0.0 +cuda-toolkit==12.9.1 +google==3.0.0 +PySocks==1.7.1 +tiktoken==0.12.0 +python-json-logger==4.0.0 +backcall==0.2.0 +wordcloud==1.9.6 +google-api-python-client==2.190.0 +ibis-framework==9.5.0 +astunparse==1.6.3 +tomlkit==0.13.3 +jupytext==1.19.1 +opentelemetry-exporter-otlp-proto-common==1.38.0 +pydotplus==2.0.2 +tinycss2==1.4.0 +SecretStorage==3.5.0 +toml==0.10.2 +oauthlib==3.3.1 +markdown-it-py==4.0.0 +highspy==1.13.1 +ormsgpack==1.12.2 +matplotlib-venn==1.1.2 +torchaudio==2.9.0+cu128 +certifi==2026.1.4 +pydub==0.25.1 +joblib==1.5.3 +keyrings.google-artifactregistry-auth==1.1.2 +wandb==0.24.2 +dask==2025.9.1 +grpc-google-iam-v1==0.14.3 +mkl==2025.3.1 +tsfresh==0.21.1 +chardet==5.2.0 +shellingham==1.5.4 +stanio==0.5.1 +tzlocal==5.3.1 +google-pasta==0.2.0 +psutil==5.9.5 +editdistance==0.8.1 +pyspark==4.0.2 +multidict==6.7.1 +cupy-cuda12x==13.6.0 +Werkzeug==3.1.5 +ipykernel==6.17.1 +networkx==3.6.1 +google-cloud-datastore==2.23.0 +typer==0.23.0 +natsort==8.4.0 +tensorflow_decision_forests==1.12.0 +db-dtypes==1.5.0 +fastapi==0.129.0 +python-slugify==8.0.4 +plotnine==0.14.5 +tensorflow-metadata==1.17.3 +mlxtend==0.23.4 +segregation==2.5.3 +tblib==3.2.2 +namex==0.1.0 +google-cloud-trace==1.18.0 +pyasn1==0.6.2 +antlr4-python3-runtime==4.9.3 +keyring==25.7.0 +soupsieve==2.8.3 +lxml==6.0.2 +cramjam==2.11.0 +mgwr==2.2.1 +fastcore==1.12.13 +click-plugins==1.1.1.2 +immutabledict==4.3.0 +tensorflow-probability==0.25.0 +imbalanced-learn==0.14.1 +nvidia-cuda-nvcc-cu12==12.5.82 +gym==0.25.2 +jiter==0.13.0 +click==8.3.1 +simsimd==6.5.12 +hpack==4.1.0 +pointpats==2.5.2 +snowballstemmer==3.0.1 +frozendict==2.4.7 +textblob==0.19.0 +rsa==4.9.1 +pyerfa==2.0.1.5 +ffmpy==1.0.0 +fastjsonschema==2.21.2 +flatbuffers==25.12.19 +colour==0.1.5 +optax==0.2.7 +hyperopt==0.2.7 +fqdn==1.5.1 +google-cloud-audit-log==0.4.0 +langsmith==0.7.1 +pyviz_comms==3.0.6 +widgetsnbextension==3.6.10 +fastrlock==0.8.3 +rasterstats==0.20.0 +google-cloud-core==2.5.0 +entrypoints==0.4 +giddy==2.3.8 +nvidia-curand-cu12==10.3.9.90 +langgraph==1.0.8 +smart_open==7.5.0 +h11==0.16.0 +clarabel==0.11.1 +psycopg2==2.9.11 +splot==1.1.7 +nvidia-nvtx-cu12==12.8.90 +jax-cuda12-pjrt==0.7.2 +multipledispatch==1.0.0 +parsy==2.2 +polars==1.31.0 +pylibcudf-cu12==25.10.0 +jsonschema==4.26.0 +gitdb==4.0.12 +wasabi==1.1.3 +dask-cudf-cu12==25.10.0 +requests-toolbelt==1.0.0 +ratelim==0.1.6 +tqdm==4.67.3 +google-cloud-logging==3.13.0 +pyasn1_modules==0.4.2 +google-auth-oauthlib==1.2.4 +cvxopt==1.3.2 +propcache==0.4.1 +opentelemetry-exporter-gcp-monitoring==1.11.0a0 +catalogue==2.0.10 +missingno==0.5.2 +libcugraph-cu12==25.10.1 +aiosqlite==0.22.1 +soundfile==0.13.1 +psygnal==0.15.1 +python-fasthtml==0.12.41 +opentelemetry-exporter-otlp-proto-http==1.38.0 +google-cloud-storage==3.9.0 +attrs==25.4.0 +xarray==2025.12.0 +ipyevents==2.0.4 +pandas-gbq==0.30.0 +dataproc-spark-connect==1.0.2 +multiprocess==0.70.16 +sniffio==1.3.1 +isoduration==20.11.0 +geopandas==1.1.2 +mistune==3.2.0 +httpcore==1.0.9 +gspread==6.2.1 +holoviews==1.22.1 +portpicker==1.5.2 +libclang==18.1.1 +pyproj==3.7.2 +atpublic==5.1 +linkify-it-py==2.0.3 +uvloop==0.22.1 +nibabel==5.3.3 +fiona==1.10.1 +colorcet==3.1.0 +aiohttp==3.13.3 +idna==3.11 +rapids-logger==0.1.19 +access==1.1.10.post3 +babel==2.18.0 +cryptography==43.0.3 +duckdb==1.3.2 +annotated-types==0.7.0 +fastlite==0.2.4 +omegaconf==2.3.0 +typer-slim==0.23.0 +jaraco.context==6.1.0 +spacy-loggers==1.0.5 +parso==0.8.6 +httpx-sse==0.4.3 +protobuf==5.29.6 +cuda-python==12.9.5 +Jinja2==3.1.6 +sphinxcontrib-jsmath==1.0.1 +umf==1.0.3 +momepy==0.11.0 +python-box==7.3.2 +cons==0.4.7 +earthengine-api==1.5.24 +blosc2==4.0.0 +tenacity==9.1.4 +xyzservices==2025.11.0 +rmm-cu12==25.10.0 +python-dotenv==1.2.1 +cuda-pathfinder==1.3.4 +spanner-graph-notebook==1.1.8 +opentelemetry-semantic-conventions==0.59b0 +docstring_parser==0.17.0 +toolz==0.12.1 +graphviz==0.21 +sqlglot==25.20.2 +xarray-einstats==0.9.1 +nvidia-cudnn-cu12==9.10.2.21 +debugpy==1.8.15 +folium==0.20.0 +nvtx==0.2.14 +cycler==0.12.1 +simplejson==3.20.2 +PyJWT==2.11.0 +nltk==3.9.1 +rapids-dask-dependency==25.10.0 +langchain-core==1.2.12 +multitasking==0.0.12 +gradio_client==1.14.0 +pydata-google-auth==1.9.1 +Bottleneck==1.4.2 +libraft-cu12==25.10.0 +blinker==1.9.0 +einops==0.8.2 +scs==3.2.11 +grpc-interceptor==0.15.4 +google-adk==1.25.0 +autograd==1.8.0 +libkvikio-cu12==25.10.0 +simple-parsing==0.1.8 +spacy==3.8.11 +pycairo==1.29.0 +groovy==0.1.2 +ipyfilechooser==0.6.0 +keras-hub==0.21.1 +astropy==7.2.0 +alabaster==1.0.0 +apswutils==0.1.2 +watchdog==6.0.0 +etils==1.13.0 +geocoder==1.38.1 +google-cloud-speech==2.36.1 +opentelemetry-proto==1.38.0 +tifffile==2026.1.28 +sklearn-compat==0.1.5 +stringzilla==4.6.0 +dopamine_rl==4.1.2 +pycparser==3.0 +notebook_shim==0.2.4 +spacy-legacy==3.0.12 +triton==3.5.0 +gym-notices==0.1.0 +google-auth==2.47.0 +xxhash==3.6.0 +narwhals==2.16.0 +curl_cffi==0.14.0 +ndindex==1.10.1 +jieba==0.42.1 +opentelemetry-exporter-gcp-trace==1.11.0 +safehttpx==0.1.7 +openai==2.20.0 +orbax-checkpoint==0.11.32 +arviz==0.22.0 +brotli==1.2.0 +keras-nlp==0.21.1 +pluggy==1.6.0 +firebase-admin==6.9.0 +rfc3987-syntax==1.1.0 +matplotlib-inline==0.2.1 +terminado==0.18.1 +kagglehub==0.3.13 +smmap==5.0.2 +grpcio==1.78.0 +etuples==0.3.10 +grpcio-status==1.71.2 +requests-oauthlib==2.0.0 +pycryptodomex==3.23.0 +google-cloud-translate==3.24.0 +nvidia-ml-py==13.590.48 +apsw==3.51.2.0 +Cython==3.0.12 +shap==0.50.0 +nvidia-cuda-nvrtc-cu12==12.8.93 +httplib2==0.31.2 +PyOpenGL==3.1.10 +weasel==0.4.3 +google-genai==1.63.0 +charset-normalizer==3.4.4 +cachetools==7.0.1 +librosa==0.11.0 +cuml-cu12==25.10.0 +orjson==3.11.7 +panel==1.8.7 +langgraph-sdk==0.3.5 +alembic==1.18.4 +Authlib==1.6.7 +hf-xet==1.2.0 +librmm-cu12==25.10.0 +itsdangerous==2.2.0 +seaborn==0.13.2 +tensorstore==0.1.81 +PyDrive2==1.21.3 +future==1.0.0 +regex==2025.11.3 +tf_keras==2.19.0 +opentelemetry-resourcedetector-gcp==1.11.0a0 +lightgbm==4.6.0 +webencodings==0.5.1 +pydantic==2.12.3 +nvidia-cuda-cupti-cu12==12.8.90 +ipytree==0.2.2 +Markdown==3.10.2 +proglog==0.1.12 +python-snappy==0.7.3 +torchdata==0.11.0 +libucx-cu12==1.19.0 +jsonpointer==3.0.0 +annotated-doc==0.0.4 +prettytable==3.17.0 +opencv-python-headless==4.13.0.92 +sphinxcontrib-htmlhelp==2.1.0 +torchcodec==0.8.0+cu128 +en_core_web_sm==3.8.0 +matplotlib==3.10.0 +raft-dask-cu12==25.10.0 +cloudpathlib==0.23.0 +google-cloud-bigquery-storage==2.36.1 +typing-inspection==0.4.2 +google-resumable-media==2.8.0 +branca==0.8.2 +tbb==2022.3.1 +lazy_loader==0.4 +pandas-stubs==2.2.2.240909 +Send2Trash==2.1.0 +bqplot==0.12.45 +pysal==25.7 +nvidia-cufile-cu12==1.13.1.3 +mapclassify==2.10.0 +prometheus_client==0.24.1 +pynndescent==0.6.0 +types-pytz==2025.2.0.20251108 +humanize==4.15.0 +timm==1.0.24 +jeepney==0.9.0 +tf-slim==1.1.0 +google-cloud-secret-manager==2.26.0 +jupyter-leaflet==0.20.0 +sympy==1.14.0 +sentencepiece==0.2.1 +pillow==11.3.0 +ale-py==0.11.2 +pylibraft-cu12==25.10.0 +py4j==0.10.9.9 +wcwidth==0.6.0 +h5py==3.15.1 +distributed==2025.9.1 +nvidia-cublas-cu12==12.8.4.1 +spint==1.0.7 +wrapt==2.1.1 +numba==0.60.0 +gymnasium==1.2.3 +httpimport==1.4.1 +google-cloud-iam==2.21.0 +pandocfilters==1.5.1 +inflect==7.5.0 +sentence-transformers==5.2.2 +mdurl==0.1.2 +spglm==1.1.0 +ipython-sql==0.5.0 +google-api-core==2.29.0 +kaggle==1.7.4.5 +cufflinks==0.17.3 +nx-cugraph-cu12==25.10.0 +jaraco.functools==4.4.0 +vega-datasets==0.9.0 +pygame==2.6.1 +pandas-datareader==0.10.0 +progressbar2==4.5.0 +pydot==4.0.1 +aiohappyeyeballs==2.6.1 +uri-template==1.3.0 +ptyprocess==0.7.0 +msgpack==1.1.2 +pyOpenSSL==24.2.1 +easydict==1.13 +distributed-ucxx-cu12==0.46.0 +jax-cuda12-plugin==0.7.2 +ipywidgets==7.7.1 +opentelemetry-exporter-gcp-logging==1.11.0a0 +opencv-python==4.13.0.92 +dm-tree==0.1.9 +greenlet==3.3.1 +nvidia-cufft-cu12==11.3.3.83 +fasttransform==0.0.2 +pylibcugraph-cu12==25.10.1 +iniconfig==2.3.0 +jsonpatch==1.33 +libucxx-cu12==0.46.0 +aiosignal==1.4.0 +jupyter_server==2.14.0 +scikit-image==0.25.2 +arrow==1.4.0 +rich==13.9.4 +dill==0.3.8 +referencing==0.37.0 +hyperframe==6.1.0 +contourpy==1.3.3 +ydf==0.15.0 +logical-unification==0.4.7 +CacheControl==0.14.4 +openpyxl==3.1.5 +google-cloud-bigquery==3.40.1 +rfc3339-validator==0.1.4 +opt_einsum==3.4.0 +SQLAlchemy==2.0.46 +nvidia-cusolver-cu12==11.7.3.90 +PyYAML==6.0.3 +google-crc32c==1.8.0 +uuid_utils==0.14.0 +plum-dispatch==2.6.1 +locket==1.0.0 +sphinxcontrib-devhelp==2.0.0 +bleach==6.3.0 +yarl==1.22.0 +webcolors==25.10.0 +httpx==0.28.1 +jupyter_client==7.4.9 +gradio==5.50.0 +zipp==3.23.0 +miniKanren==1.0.5 +pooch==1.9.0 +intel-openmp==2025.3.2 +gdown==5.2.1 +langgraph-checkpoint==4.0.0 +zict==3.0.0 +prophet==1.3.0 +google-cloud-spanner==3.62.0 +torchao==0.10.0 +kiwisolver==1.4.9 +importlib_metadata==8.7.1 +googledrivedownloader==1.1.0 +termcolor==3.3.0 +cmdstanpy==1.3.0 +torchtune==0.6.1 +keras==3.10.0 +ml_dtypes==0.5.4 +plotly==5.24.1 +docutils==0.21.2 +google-cloud-appengine-logging==1.8.0 +google-cloud-aiplatform==1.137.0 +anywidget==0.9.21 +Farama-Notifications==0.0.4 +tensorflow-datasets==4.9.9 +uc-micro-py==1.0.3 +defusedxml==0.7.1 +tzdata==2025.3 +more-itertools==10.8.0 +tensorboard==2.19.0 +imutils==0.5.4 +cffi==2.0.0 +importlib_resources==6.5.2 +google-cloud-monitoring==2.29.1 +sse-starlette==3.2.0 +tweepy==4.16.0 +platformdirs==4.6.0 +google-ai-generativelanguage==0.6.15 +pycocotools==2.0.11 +ruff==0.15.0 +nbclient==0.10.4 +statsmodels==0.14.6 +slicer==0.0.8 +websockets==15.0.1 +pygit2==1.19.1 +python-louvain==0.16 +dask-cuda==25.10.0 +jax==0.7.2 +mizani==0.13.5 +stumpy==1.13.0 +text-unidecode==1.3 +yellowbrick==1.5 +jupyter_kernel_gateway==2.5.2 +xlrd==2.0.2 +proto-plus==1.27.1 +nvidia-nccl-cu12==2.27.5 +preshed==3.0.12 +sphinxcontrib-serializinghtml==2.0.0 +oauth2client==4.1.3 +decorator==4.4.2 +soxr==1.0.0 +mmh3==5.2.0 +imageio-ffmpeg==0.6.0 +GDAL==3.8.4 +gspread-dataframe==4.0.0 +pydantic-settings==2.12.0 +traittypes==0.2.3 +albumentations==2.0.8 +yfinance==0.2.66 +py-cpuinfo==9.0.0 +watchfiles==1.1.1 +tobler==0.13.0 +pytensor==2.37.0 +jupyter-console==6.6.3 +promise==2.3 +bokeh==3.7.3 +nvidia-cuda-runtime-cu12==12.8.90 +nvidia-cusparselt-cu12==0.7.1 +pydantic_core==2.41.4 +rasterio==1.5.0 +imagesize==1.4.1 +mcp==1.26.0 +betterproto==2.0.0b6 +flax==0.11.2 +fastai==2.8.6 +gin-config==0.5.0 +argon2-cffi-bindings==25.1.0 +bigframes==2.33.0 +googleapis-common-protos==1.72.0 +spaghetti==1.7.6 +inequality==1.1.2 +tensorboard-data-server==0.7.2 +ipython-genutils==0.2.0 +pytest==8.4.2 +PuLP==3.3.0 +cmake==3.31.10 +uritemplate==4.2.0 +treescope==0.1.10 +ImageIO==2.37.2 +eerepr==0.1.2 +zstandard==0.25.0 +google-cloud-pubsub==2.35.0 +anyio==4.12.1 +google-cloud-language==2.19.0 +sqlparse==0.5.5 +google-cloud-bigtable==2.35.0 +grpclib==0.4.9 +altair==5.5.0 +roman-numerals==4.1.0 +typing_extensions==4.15.0 +prompt_toolkit==3.0.52 +google-auth-httplib2==0.3.0 +srsly==2.5.2 +intel-cmplr-lib-ur==2025.3.2 +six==1.17.0 +pymc==5.27.1 +nvidia-cuda-cccl-cu12==12.9.27 +jupyter-events==0.12.0 +rtree==1.4.1 +pyogrio==0.12.1 +cymem==2.0.13 +fastdownload==0.0.7 +audioread==3.1.0 +sortedcontainers==2.4.0 +esda==2.8.1 +pexpect==4.9.0 +rfc3986-validator==0.1.1 +wurlitzer==3.1.1 +sentry-sdk==2.52.0 +uvicorn==0.40.0 +fonttools==4.61.1 +PyWavelets==1.9.0 +param==2.3.2 +langchain==1.2.10 +nbformat==5.10.4 +geopy==2.4.1 +blobfile==3.2.0 +google-cloud-discoveryengine==0.13.12 +jaraco.classes==3.4.0 +beartype==0.22.9 +tables==3.10.2 +mdit-py-plugins==0.5.0 +wheel==0.46.3 +osqp==1.1.1 +holidays==0.90 +opentelemetry-api==1.38.0 +et_xmlfile==2.0.0 +torchsummary==1.5.1 +cuda-bindings==12.9.5 +semantic-version==2.10.0 +overrides==7.7.0 +spopt==0.7.0 +h5netcdf==1.8.1 +torchvision==0.24.0+cu128 +google-generativeai==0.8.6 +threadpoolctl==3.6.0 +umap-learn==0.5.11 +libpysal==4.14.1 +starlette==0.52.1 +jaxlib==0.7.2 +dlib==19.24.6 +jupyterlab_widgets==3.0.16 +httptools==0.7.1 +peewee==3.19.0 +urllib3==2.5.0 +pyzmq==26.2.1 +pyarrow==18.1.0 +colorlover==0.3.0 +ipyparallel==8.8.0 +roman-numerals-py==4.1.0 +Sphinx==8.2.3 +python-dateutil==2.9.0.post0 +google-cloud-bigquery-connection==1.20.0 +jsonschema-specifications==2025.9.1 +typeguard==4.4.4 +tensorflow==2.19.0 +cudf-polars-cu12==25.10.0 +cyipopt==1.5.0 +xgboost==3.2.0 +llvmlite==0.43.0 +fastprogress==1.1.3 +partd==1.4.2 +gast==0.7.0 +ipyleaflet==0.20.0 +scooby==0.11.0 +nvidia-nvshmem-cu12==3.3.20 +langgraph-prebuilt==1.0.7 +shapely==2.1.2 +mpmath==1.3.0 +nbconvert==7.17.0 +pyperclip==1.11.0 +glob2==0.7 +python-multipart==0.0.22 +optree==0.18.0 +nbclassic==1.3.3 +traitlets==5.7.1 +geographiclib==2.1 +beautifulsoup4==4.13.5 +moviepy==1.0.3 +hdbscan==0.8.41 +Flask==3.1.2 +jupyter_core==5.9.1 +nvidia-nvjitlink-cu12==12.8.93 +GitPython==3.1.46 +argon2-cffi==25.1.0 +MarkupSafe==3.0.3 +spreg==1.8.5 +quantecon==0.10.1 +cloudpickle==3.1.2 +Pygments==2.19.2 +torch==2.9.0+cu128 +google-cloud-resource-manager==1.16.0 +pyomo==6.9.5 +affine==2.4.0 +ply==3.11 +scipy==1.16.3 +accelerate==1.12.0 +cudf-cu12==25.10.0 +gcsfs==2025.3.0 +blis==1.3.3 +frozenlist==1.8.0 +scikit-learn==1.6.1 +community==1.0.0b1 +google-cloud-firestore==2.23.0 +deprecation==2.1.0 +rpds-py==0.30.0 +Mako==1.3.10 +absl-py==1.4.0 +array_record==0.8.3 +opentelemetry-sdk==1.38.0 +packaging==26.0 +onemkl-license==2025.3.1 +tabulate==0.9.0 +cvxpy==1.6.7 +libcuml-cu12==25.10.0 +google-cloud-functions==1.22.0 +h2==4.3.0 +murmurhash==1.0.15 +lark==1.3.1 +PyGObject==3.48.2 +thinc==8.3.10 +grain==0.2.15 +sklearn-pandas==2.2.0 +pandas==2.2.2 +jupyterlab_pygments==0.3.0 +websocket-client==1.9.0 +sphinxcontrib-applehelp==2.0.0 +albucore==0.0.24 +tcmlib==1.4.1 +tornado==6.5.1 +pyparsing==3.3.2 +confection==0.1.5 +cuda-core==0.3.2 +requests==2.32.4 +sqlalchemy-spanner==1.17.2 +cligj==0.7.2 +distro==1.9.0 +bigquery-magics==0.12.0 +libcudf-cu12==25.10.0 +python-apt==0.0.0 +vibevoice-finetuning==0.1.0 +httplib2==0.20.2 +cryptography==3.4.8 +distro==1.7.0 +PyJWT==2.3.0 +blinker==1.4 +six==1.16.0 +jeepney==0.7.1 +pyparsing==2.4.7 +python-apt==2.4.0+ubuntu4.1 +more-itertools==8.10.0 +oauthlib==3.2.0 +SecretStorage==3.3.1 +importlib-metadata==4.6.4 +launchpadlib==1.10.16 +lazr.uri==1.0.6 +zipp==1.0.0 +keyring==23.5.0 +dbus-python==1.2.18 +PyGObject==3.42.1 +lazr.restfulclient==0.14.4 +wadllib==1.3.6 +Markdown==3.3.6 +MarkupSafe==2.0.1 +Mako==1.1.3 diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/wandb-metadata.json b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/wandb-metadata.json new file mode 100644 index 0000000000000000000000000000000000000000..875ddaf4c718f7514d850f53388d6440d19d3bb5 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/wandb-metadata.json @@ -0,0 +1,98 @@ +{ + "os": "Linux-6.6.105+-x86_64-with-glibc2.35", + "python": "CPython 3.12.12", + "startedAt": "2026-02-18T14:25:00.937955Z", + "args": [ + "--model_name_or_path", + "microsoft/VibeVoice-1.5B", + "--processor_name_or_path", + "vibevoice/processor", + "--text_column_name", + "text", + "--audio_column_name", + "audio", + "--voice_prompts_column_name", + "voice_prompts", + "--output_dir", + "/content/", + "--per_device_train_batch_size", + "1", + "--gradient_accumulation_steps", + "12", + "--learning_rate", + "5e-5", + "--num_train_epochs", + "10", + "--logging_steps", + "10", + "--save_steps", + "60", + "--eval_steps", + "80", + "--report_to", + "wandb", + "--lora_r", + "32", + "--lora_alpha", + "64", + "--remove_unused_columns", + "False", + "--fp16", + "True", + "--do_train", + "--gradient_clipping", + "--gradient_checkpointing", + "False", + "--ddpm_batch_mul", + "1", + "--diffusion_loss_weight", + "1.8", + "--train_diffusion_head", + "True", + "--ce_loss_weight", + "1.1", + "--voice_prompt_drop_rate", + "0.35", + "--lora_target_modules", + "q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj", + "--lr_scheduler_type", + "cosine", + "--warmup_ratio", + "0.1", + "--max_grad_norm", + "0.6" + ], + "program": "-m src.finetune_vibevoice_lora0", + "git": { + "remote": "https://github.com/voicepowered-ai/VibeVoice-finetuning.git", + "commit": "f74368637dd67fc3895d9f81365c50e65ae0641c" + }, + "email": "aralien0907@gmail.com", + "root": "/content/VibeVoice-finetuning", + "host": "d690d73e974e", + "executable": "/usr/bin/python3", + "cpu_count": 1, + "cpu_count_logical": 2, + "gpu": "Tesla T4", + "gpu_count": 1, + "disk": { + "/": { + "total": "120942624768", + "used": "58460594176" + } + }, + "memory": { + "total": "13605851136" + }, + "gpu_nvidia": [ + { + "name": "Tesla T4", + "memoryTotal": "16106127360", + "cudaCores": 2560, + "architecture": "Turing", + "uuid": "GPU-7e69ea04-764f-97d5-5a16-fe87280f30f7" + } + ], + "cudaVersion": "13.0", + "writerId": "k6l1ner32njng4qwpewn53uqxrr8kl0l" +} \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/wandb-summary.json b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/wandb-summary.json new file mode 100644 index 0000000000000000000000000000000000000000..934cafdd7520108ce95cec5136c6837438739acd --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/files/wandb-summary.json @@ -0,0 +1 @@ +{"train/global_step":12,"_timestamp":1.7714249354372144e+09,"train/train/ce_loss":19.879188537597656,"train/grad_norm":567.91455078125,"train/debug/num_lat_total":137,"_step":468,"train/learning_rate":1.0000000000000002e-06,"train/debug/num_tok_total":137,"_runtime":542,"train/debug/num_lat_loss":66,"train/loss":267.3987,"train/debug/num_tok_loss":66,"_wandb":{"runtime":542},"train/train/learning_rate_real":1.5e-06,"train/epoch":0.04,"train/train/diffusion_loss":0.5642816424369812} \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug-core.log b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug-core.log new file mode 100644 index 0000000000000000000000000000000000000000..cf463c64f107617773b0bdcfd13f4c08fa8b94e2 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug-core.log @@ -0,0 +1,15 @@ +{"time":"2026-02-18T14:25:01.86002582Z","level":"INFO","msg":"main: starting server","port-filename":"/tmp/tmpqljs81it/port-2268.txt","pid":2268,"log-level":0,"disable-analytics":false,"shutdown-on-parent-exit":false,"enable-dcgm-profiling":false} +{"time":"2026-02-18T14:25:01.864768507Z","level":"INFO","msg":"server: will exit if parent process dies","ppid":2268} +{"time":"2026-02-18T14:25:01.864750122Z","level":"INFO","msg":"server: accepting connections","addr":{"Name":"/tmp/wandb-2268-2677-307263651/socket","Net":"unix"}} +{"time":"2026-02-18T14:25:01.920416079Z","level":"INFO","msg":"connection: ManageConnectionData: new connection created","id":"1(@)"} +{"time":"2026-02-18T14:25:01.935318463Z","level":"INFO","msg":"handleInformInit: received","streamId":"puguclmi","id":"1(@)"} +{"time":"2026-02-18T14:25:02.161418585Z","level":"INFO","msg":"handleInformInit: stream started","streamId":"puguclmi","id":"1(@)"} +{"time":"2026-02-18T14:25:09.391324266Z","level":"INFO","msg":"connection: cancelling request","id":"1(@)","requestId":"jx5tc91nhxca"} +{"time":"2026-02-18T14:34:04.753622385Z","level":"INFO","msg":"handleInformTeardown: server teardown initiated","id":"1(@)"} +{"time":"2026-02-18T14:34:04.758418013Z","level":"INFO","msg":"connection: closing","id":"1(@)"} +{"time":"2026-02-18T14:34:04.761096811Z","level":"INFO","msg":"connection: closed successfully","id":"1(@)"} +{"time":"2026-02-18T14:34:04.761119877Z","level":"INFO","msg":"server is shutting down"} +{"time":"2026-02-18T14:34:04.768553895Z","level":"INFO","msg":"server: listener closed","addr":{"Name":"/tmp/wandb-2268-2677-307263651/socket","Net":"unix"}} +{"time":"2026-02-18T14:34:05.376464212Z","level":"INFO","msg":"handleInformTeardown: server shutdown complete","id":"1(@)"} +{"time":"2026-02-18T14:34:05.376511206Z","level":"INFO","msg":"connection: ManageConnectionData: connection closed","id":"1(@)"} +{"time":"2026-02-18T14:34:05.376536813Z","level":"INFO","msg":"server is closed"} diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug-internal.log b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug-internal.log new file mode 100644 index 0000000000000000000000000000000000000000..82264bbfcd731291600d375071b18e2df738b9ea --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug-internal.log @@ -0,0 +1,11 @@ +{"time":"2026-02-18T14:25:01.935517233Z","level":"INFO","msg":"stream: starting","core version":"0.24.2"} +{"time":"2026-02-18T14:25:02.161044693Z","level":"INFO","msg":"stream: created new stream","id":"puguclmi"} +{"time":"2026-02-18T14:25:02.161264243Z","level":"INFO","msg":"handler: started","stream_id":"puguclmi"} +{"time":"2026-02-18T14:25:02.161404637Z","level":"INFO","msg":"stream: started","id":"puguclmi"} +{"time":"2026-02-18T14:25:02.161441738Z","level":"INFO","msg":"writer: started","stream_id":"puguclmi"} +{"time":"2026-02-18T14:25:02.161773904Z","level":"INFO","msg":"sender: started","stream_id":"puguclmi"} +{"time":"2026-02-18T14:34:04.759757068Z","level":"INFO","msg":"stream: closing","id":"puguclmi"} +{"time":"2026-02-18T14:34:05.219778467Z","level":"INFO","msg":"fileTransfer: Close: file transfer manager closed"} +{"time":"2026-02-18T14:34:05.368909307Z","level":"INFO","msg":"handler: closed","stream_id":"puguclmi"} +{"time":"2026-02-18T14:34:05.370716235Z","level":"INFO","msg":"sender: closed","stream_id":"puguclmi"} +{"time":"2026-02-18T14:34:05.370762282Z","level":"INFO","msg":"stream: closed","id":"puguclmi"} diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug.log b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug.log new file mode 100644 index 0000000000000000000000000000000000000000..ee0352da4ed5e3859e982a8be5b85bef9908f551 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug.log @@ -0,0 +1,24 @@ +2026-02-18 14:25:00,941 INFO MainThread:2268 [wandb_setup.py:_flush():81] Current SDK version is 0.24.2 +2026-02-18 14:25:00,941 INFO MainThread:2268 [wandb_setup.py:_flush():81] Configure stats pid to 2268 +2026-02-18 14:25:00,942 INFO MainThread:2268 [wandb_setup.py:_flush():81] Loading settings from environment variables +2026-02-18 14:25:00,942 INFO MainThread:2268 [wandb_init.py:setup_run_log_directory():717] Logging user logs to /content/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug.log +2026-02-18 14:25:00,942 INFO MainThread:2268 [wandb_init.py:setup_run_log_directory():718] Logging internal logs to /content/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/logs/debug-internal.log +2026-02-18 14:25:00,942 INFO MainThread:2268 [wandb_init.py:init():844] calling init triggers +2026-02-18 14:25:00,942 INFO MainThread:2268 [wandb_init.py:init():849] wandb.init called with sweep_config: {} +config: {'_wandb': {}} +2026-02-18 14:25:00,942 INFO MainThread:2268 [wandb_init.py:init():892] starting backend +2026-02-18 14:25:01,920 INFO MainThread:2268 [wandb_init.py:init():895] sending inform_init request +2026-02-18 14:25:01,930 INFO MainThread:2268 [wandb_init.py:init():903] backend started and connected +2026-02-18 14:25:01,934 INFO MainThread:2268 [wandb_init.py:init():973] updated telemetry +2026-02-18 14:25:01,969 INFO MainThread:2268 [wandb_init.py:init():997] communicating run to backend with 90.0 second timeout +2026-02-18 14:25:02,474 INFO MainThread:2268 [wandb_init.py:init():1042] starting run threads in backend +2026-02-18 14:25:04,385 INFO MainThread:2268 [wandb_run.py:_console_start():2529] atexit reg +2026-02-18 14:25:04,385 INFO MainThread:2268 [wandb_run.py:_redirect():2377] redirect: wrap_raw +2026-02-18 14:25:04,385 INFO MainThread:2268 [wandb_run.py:_redirect():2446] Wrapping output streams. +2026-02-18 14:25:04,386 INFO MainThread:2268 [wandb_run.py:_redirect():2469] Redirects installed. +2026-02-18 14:25:04,404 INFO MainThread:2268 [wandb_init.py:init():1082] run started, returning control to user process +2026-02-18 14:25:04,408 INFO MainThread:2268 [wandb_run.py:_config_callback():1404] config_cb None None {'acoustic_tokenizer_config': {'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_acoustic_tokenizer', 'channels': 1, 'corpus_normalize': 0.0, 'causal': True, 'vae_dim': 64, 'fix_std': 0.5, 'std_dist_type': 'gaussian', 'conv_norm': 'none', 'pad_mode': 'constant', 'layernorm_eps': 1e-05, 'disable_last_norm': True, 'layernorm': 'RMSNorm', 'layernorm_elementwise_affine': True, 'conv_bias': True, 'layer_scale_init_value': 1e-06, 'weight_init_value': 0.01, 'mixer_layer': 'depthwise_conv', 'encoder_n_filters': 32, 'encoder_ratios': [8, 5, 5, 4, 2, 2], 'encoder_depths': '3-3-3-3-3-3-8', 'decoder_ratios': [8, 5, 5, 4, 2, 2], 'decoder_n_filters': 32, 'decoder_depths': None}, 'semantic_tokenizer_config': {'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_semantic_tokenizer', 'channels': 1, 'corpus_normalize': 0.0, 'causal': True, 'vae_dim': 128, 'fix_std': 0, 'std_dist_type': 'none', 'conv_norm': 'none', 'pad_mode': 'constant', 'layernorm_eps': 1e-05, 'disable_last_norm': True, 'layernorm': 'RMSNorm', 'layernorm_elementwise_affine': True, 'conv_bias': True, 'layer_scale_init_value': 1e-06, 'weight_init_value': 0.01, 'mixer_layer': 'depthwise_conv', 'encoder_n_filters': 32, 'encoder_ratios': [8, 5, 5, 4, 2, 2], 'encoder_depths': '3-3-3-3-3-3-8'}, 'decoder_config': {'vocab_size': 151936, 'max_position_embeddings': 65536, 'hidden_size': 1536, 'intermediate_size': 8960, 'num_hidden_layers': 28, 'num_attention_heads': 12, 'use_sliding_window': False, 'sliding_window': None, 'max_window_layers': 28, 'num_key_value_heads': 2, 'hidden_act': 'silu', 'initializer_range': 0.02, 'rms_norm_eps': 1e-06, 'use_cache': True, 'rope_theta': 1000000.0, 'rope_scaling': None, 'attention_dropout': 0.0, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'qwen2'}, 'diffusion_head_config': {'hidden_size': 1536, 'head_layers': 4, 'head_ffn_ratio': 3.0, 'rms_norm_eps': 1e-05, 'latent_size': 64, 'speech_vae_dim': 64, 'prediction_type': 'v_prediction', 'diffusion_type': 'ddpm', 'ddpm_num_steps': 1000, 'ddpm_num_inference_steps': 20, 'ddpm_beta_schedule': 'cosine', 'ddpm_batch_mul': 4, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_diffusion_head'}, 'acoustic_vae_dim': 64, 'semantic_vae_dim': 128, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': ['VibeVoiceForConditionalGeneration'], 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': 'microsoft/VibeVoice-1.5B', '_attn_implementation_autoset': True, 'transformers_version': '4.51.3', 'model_type': 'vibevoice', 'output_dir': '/content/', 'overwrite_output_dir': False, 'do_train': True, 'do_eval': False, 'do_predict': False, 'eval_strategy': 'no', 'prediction_loss_only': False, 'per_device_train_batch_size': 1, 'per_device_eval_batch_size': 8, 'per_gpu_train_batch_size': None, 'per_gpu_eval_batch_size': None, 'gradient_accumulation_steps': 12, 'eval_accumulation_steps': None, 'eval_delay': 0, 'torch_empty_cache_steps': None, 'learning_rate': 5e-05, 'weight_decay': 0.0, 'adam_beta1': 0.9, 'adam_beta2': 0.999, 'adam_epsilon': 1e-08, 'max_grad_norm': 0.6, 'num_train_epochs': 10.0, 'max_steps': -1, 'lr_scheduler_type': 'cosine', 'lr_scheduler_kwargs': {}, 'warmup_ratio': 0.1, 'warmup_steps': 0, 'log_level': 'passive', 'log_level_replica': 'warning', 'log_on_each_node': True, 'logging_dir': '/content/runs/Feb18_14-23-47_d690d73e974e', 'logging_strategy': 'steps', 'logging_first_step': False, 'logging_steps': 10, 'logging_nan_inf_filter': True, 'save_strategy': 'steps', 'save_steps': 60, 'save_total_limit': None, 'save_safetensors': True, 'save_on_each_node': False, 'save_only_model': False, 'restore_callback_states_from_checkpoint': False, 'no_cuda': False, 'use_cpu': False, 'use_mps_device': False, 'seed': 42, 'data_seed': None, 'jit_mode_eval': False, 'use_ipex': False, 'bf16': False, 'fp16': True, 'fp16_opt_level': 'O1', 'half_precision_backend': 'auto', 'bf16_full_eval': False, 'fp16_full_eval': False, 'tf32': None, 'local_rank': 0, 'ddp_backend': None, 'tpu_num_cores': None, 'tpu_metrics_debug': False, 'debug': [], 'dataloader_drop_last': False, 'eval_steps': 80.0, 'dataloader_num_workers': 0, 'dataloader_prefetch_factor': None, 'past_index': -1, 'run_name': '/content/', 'disable_tqdm': False, 'remove_unused_columns': False, 'label_names': None, 'load_best_model_at_end': False, 'metric_for_best_model': None, 'greater_is_better': None, 'ignore_data_skip': False, 'fsdp': [], 'fsdp_min_num_params': 0, 'fsdp_config': {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}, 'tp_size': 0, 'fsdp_transformer_layer_cls_to_wrap': None, 'accelerator_config': {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}, 'deepspeed': None, 'label_smoothing_factor': 0.0, 'optim': 'adamw_torch', 'optim_args': None, 'adafactor': False, 'group_by_length': False, 'length_column_name': 'length', 'report_to': ['wandb'], 'ddp_find_unused_parameters': None, 'ddp_bucket_cap_mb': None, 'ddp_broadcast_buffers': None, 'dataloader_pin_memory': True, 'dataloader_persistent_workers': False, 'skip_memory_metrics': True, 'use_legacy_prediction_loop': False, 'push_to_hub': False, 'resume_from_checkpoint': None, 'hub_model_id': None, 'hub_strategy': 'every_save', 'hub_token': '', 'hub_private_repo': None, 'hub_always_push': False, 'gradient_checkpointing': False, 'gradient_checkpointing_kwargs': None, 'include_inputs_for_metrics': False, 'include_for_metrics': [], 'eval_do_concat_batches': True, 'fp16_backend': 'auto', 'push_to_hub_model_id': None, 'push_to_hub_organization': None, 'push_to_hub_token': '', 'mp_parameters': '', 'auto_find_batch_size': False, 'full_determinism': False, 'torchdynamo': None, 'ray_scope': 'last', 'ddp_timeout': 1800, 'torch_compile': False, 'torch_compile_backend': None, 'torch_compile_mode': None, 'include_tokens_per_second': False, 'include_num_input_tokens_seen': False, 'neftune_noise_alpha': None, 'optim_target_modules': None, 'batch_eval_metrics': False, 'eval_on_start': False, 'use_liger_kernel': False, 'eval_use_gather_object': False, 'average_tokens_across_devices': False, 'ddpm_batch_mul': 1, 'ce_loss_weight': 1.1, 'diffusion_loss_weight': 1.8, 'debug_ce_details': False, 'debug_ce_topk': 5, 'debug_ce_max_examples': 1, 'debug_ce_every_n_steps': 200, 'gradient_clipping': True, 'debug_save': False} +2026-02-18 14:25:04,425 INFO MainThread:2268 [wandb_config.py:__setitem__():154] [no run ID] config set model/num_parameters = 2740951521 - > +2026-02-18 14:25:04,425 INFO MainThread:2268 [wandb_run.py:_config_callback():1404] config_cb model/num_parameters 2740951521 None +2026-02-18 14:34:04,731 INFO wandb-AsyncioManager-main:2268 [service_client.py:_forward_responses():94] Reached EOF. +2026-02-18 14:34:04,734 INFO wandb-AsyncioManager-main:2268 [mailbox.py:close():154] Closing mailbox, abandoning 1 handles. diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/run-puguclmi.wandb b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/run-puguclmi.wandb new file mode 100644 index 0000000000000000000000000000000000000000..cde638e6d955c2246fff45895988169fa2a498fd --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_142500-puguclmi/run-puguclmi.wandb @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d79565d2a888073c33acad6f668632a115eb6b3f1b66efc024ddfa2b6abb7ed9 +size 563006 diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/config.yaml b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/config.yaml new file mode 100644 index 0000000000000000000000000000000000000000..19a34065a5878cd508f64744aa9cc5d576896a04 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/config.yaml @@ -0,0 +1,889 @@ +_attn_implementation_autoset: + value: true +_name_or_path: + value: microsoft/VibeVoice-1.5B +_wandb: + value: + cli_version: 0.24.2 + e: + t9iezcc8p78hk4ahqovb3s40i4tbnxqa: + args: + - --model_name_or_path + - microsoft/VibeVoice-1.5B + - --processor_name_or_path + - vibevoice/processor + - --text_column_name + - text + - --audio_column_name + - audio + - --voice_prompts_column_name + - voice_prompts + - --output_dir + - /content/ + - --per_device_train_batch_size + - "1" + - --gradient_accumulation_steps + - "12" + - --learning_rate + - "5e-5" + - --num_train_epochs + - "10" + - --logging_steps + - "10" + - --save_steps + - "60" + - --eval_steps + - "80" + - --report_to + - wandb + - --lora_r + - "32" + - --lora_alpha + - "64" + - --remove_unused_columns + - "False" + - --fp16 + - "True" + - --do_train + - --gradient_clipping + - --gradient_checkpointing + - "False" + - --ddpm_batch_mul + - "1" + - --diffusion_loss_weight + - "1.7" + - --train_diffusion_head + - "True" + - --ce_loss_weight + - "1.1" + - --voice_prompt_drop_rate + - "0.35" + - --lora_target_modules + - q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj + - --lr_scheduler_type + - cosine + - --warmup_ratio + - "0.1" + - --max_grad_norm + - "0.6" + cpu_count: 1 + cpu_count_logical: 2 + cudaVersion: "13.0" + disk: + /: + total: "120942624768" + used: "58461388800" + email: aralien0907@gmail.com + executable: /usr/bin/python3 + git: + commit: f74368637dd67fc3895d9f81365c50e65ae0641c + remote: https://github.com/voicepowered-ai/VibeVoice-finetuning.git + gpu: Tesla T4 + gpu_count: 1 + gpu_nvidia: + - architecture: Turing + cudaCores: 2560 + memoryTotal: "16106127360" + name: Tesla T4 + uuid: GPU-7e69ea04-764f-97d5-5a16-fe87280f30f7 + host: d690d73e974e + memory: + total: "13605851136" + os: Linux-6.6.105+-x86_64-with-glibc2.35 + program: -m src.finetune_vibevoice_lora0 + python: CPython 3.12.12 + root: /content/VibeVoice-finetuning + startedAt: "2026-02-18T14:36:17.761028Z" + writerId: t9iezcc8p78hk4ahqovb3s40i4tbnxqa + m: + - "1": train/global_step + "6": + - 3 + "7": [] + - "2": '*' + "5": 1 + "6": + - 1 + "7": [] + python_version: 3.12.12 + t: + "1": + - 1 + - 2 + - 3 + - 5 + - 11 + - 12 + - 41 + - 49 + - 51 + - 53 + - 63 + - 71 + - 83 + - 98 + - 105 + "2": + - 1 + - 2 + - 3 + - 5 + - 11 + - 12 + - 41 + - 49 + - 51 + - 53 + - 63 + - 71 + - 83 + - 98 + - 105 + "3": + - 7 + - 13 + - 19 + - 66 + "4": 3.12.12 + "5": 0.24.2 + "6": 4.51.3 + "9": + "1": transformers_trainer + "12": 0.24.2 + "13": linux-x86_64 +accelerator_config: + value: + dispatch_batches: null + even_batches: true + gradient_accumulation_kwargs: null + non_blocking: false + split_batches: false + use_seedable_sampler: true +acoustic_tokenizer_config: + value: + _attn_implementation_autoset: false + _name_or_path: "" + add_cross_attention: false + architectures: null + bad_words_ids: null + begin_suppress_tokens: null + bos_token_id: null + causal: true + channels: 1 + chunk_size_feed_forward: 0 + conv_bias: true + conv_norm: none + corpus_normalize: 0 + cross_attention_hidden_size: null + decoder_depths: null + decoder_n_filters: 32 + decoder_ratios: + - 8 + - 5 + - 5 + - 4 + - 2 + - 2 + decoder_start_token_id: null + disable_last_norm: true + diversity_penalty: 0 + do_sample: false + early_stopping: false + encoder_depths: 3-3-3-3-3-3-8 + encoder_n_filters: 32 + encoder_no_repeat_ngram_size: 0 + encoder_ratios: + - 8 + - 5 + - 5 + - 4 + - 2 + - 2 + eos_token_id: null + exponential_decay_length_penalty: null + finetuning_task: null + fix_std: 0.5 + forced_bos_token_id: null + forced_eos_token_id: null + id2label: + "0": LABEL_0 + "1": LABEL_1 + is_decoder: false + is_encoder_decoder: false + label2id: + LABEL_0: 0 + LABEL_1: 1 + layer_scale_init_value: 1e-06 + layernorm: RMSNorm + layernorm_elementwise_affine: true + layernorm_eps: 1e-05 + length_penalty: 1 + max_length: 20 + min_length: 0 + mixer_layer: depthwise_conv + model_type: vibevoice_acoustic_tokenizer + no_repeat_ngram_size: 0 + num_beam_groups: 1 + num_beams: 1 + num_return_sequences: 1 + output_attentions: false + output_hidden_states: false + output_scores: false + pad_mode: constant + pad_token_id: null + prefix: null + problem_type: null + remove_invalid_values: false + repetition_penalty: 1 + return_dict: true + return_dict_in_generate: false + sep_token_id: null + std_dist_type: gaussian + suppress_tokens: null + task_specific_params: null + temperature: 1 + tf_legacy_loss: false + tie_encoder_decoder: false + tie_word_embeddings: true + tokenizer_class: null + top_k: 50 + top_p: 1 + torch_dtype: float16 + torchscript: false + typical_p: 1 + use_bfloat16: false + vae_dim: 64 + weight_init_value: 0.01 +acoustic_vae_dim: + value: 64 +adafactor: + value: false +adam_beta1: + value: 0.9 +adam_beta2: + value: 0.999 +adam_epsilon: + value: 1e-08 +add_cross_attention: + value: false +architectures: + value: + - VibeVoiceForConditionalGeneration +auto_find_batch_size: + value: false +average_tokens_across_devices: + value: false +bad_words_ids: + value: null +batch_eval_metrics: + value: false +begin_suppress_tokens: + value: null +bf16: + value: false +bf16_full_eval: + value: false +bos_token_id: + value: null +ce_loss_weight: + value: 1.1 +chunk_size_feed_forward: + value: 0 +cross_attention_hidden_size: + value: null +data_seed: + value: null +dataloader_drop_last: + value: false +dataloader_num_workers: + value: 0 +dataloader_persistent_workers: + value: false +dataloader_pin_memory: + value: true +dataloader_prefetch_factor: + value: null +ddp_backend: + value: null +ddp_broadcast_buffers: + value: null +ddp_bucket_cap_mb: + value: null +ddp_find_unused_parameters: + value: null +ddp_timeout: + value: 1800 +ddpm_batch_mul: + value: 1 +debug: + value: [] +debug_ce_details: + value: false +debug_ce_every_n_steps: + value: 200 +debug_ce_max_examples: + value: 1 +debug_ce_topk: + value: 5 +debug_save: + value: false +decoder_config: + value: + _attn_implementation_autoset: false + _name_or_path: "" + add_cross_attention: false + architectures: null + attention_dropout: 0 + bad_words_ids: null + begin_suppress_tokens: null + bos_token_id: null + chunk_size_feed_forward: 0 + cross_attention_hidden_size: null + decoder_start_token_id: null + diversity_penalty: 0 + do_sample: false + early_stopping: false + encoder_no_repeat_ngram_size: 0 + eos_token_id: null + exponential_decay_length_penalty: null + finetuning_task: null + forced_bos_token_id: null + forced_eos_token_id: null + hidden_act: silu + hidden_size: 1536 + id2label: + "0": LABEL_0 + "1": LABEL_1 + initializer_range: 0.02 + intermediate_size: 8960 + is_decoder: false + is_encoder_decoder: false + label2id: + LABEL_0: 0 + LABEL_1: 1 + length_penalty: 1 + max_length: 20 + max_position_embeddings: 65536 + max_window_layers: 28 + min_length: 0 + model_type: qwen2 + no_repeat_ngram_size: 0 + num_attention_heads: 12 + num_beam_groups: 1 + num_beams: 1 + num_hidden_layers: 28 + num_key_value_heads: 2 + num_return_sequences: 1 + output_attentions: false + output_hidden_states: false + output_scores: false + pad_token_id: null + prefix: null + problem_type: null + remove_invalid_values: false + repetition_penalty: 1 + return_dict: true + return_dict_in_generate: false + rms_norm_eps: 1e-06 + rope_scaling: null + rope_theta: 1e+06 + sep_token_id: null + sliding_window: null + suppress_tokens: null + task_specific_params: null + temperature: 1 + tf_legacy_loss: false + tie_encoder_decoder: false + tie_word_embeddings: true + tokenizer_class: null + top_k: 50 + top_p: 1 + torch_dtype: float16 + torchscript: false + typical_p: 1 + use_bfloat16: false + use_cache: true + use_sliding_window: false + vocab_size: 151936 +decoder_start_token_id: + value: null +deepspeed: + value: null +diffusion_head_config: + value: + _attn_implementation_autoset: false + _name_or_path: "" + add_cross_attention: false + architectures: null + bad_words_ids: null + begin_suppress_tokens: null + bos_token_id: null + chunk_size_feed_forward: 0 + cross_attention_hidden_size: null + ddpm_batch_mul: 4 + ddpm_beta_schedule: cosine + ddpm_num_inference_steps: 20 + ddpm_num_steps: 1000 + decoder_start_token_id: null + diffusion_type: ddpm + diversity_penalty: 0 + do_sample: false + early_stopping: false + encoder_no_repeat_ngram_size: 0 + eos_token_id: null + exponential_decay_length_penalty: null + finetuning_task: null + forced_bos_token_id: null + forced_eos_token_id: null + head_ffn_ratio: 3 + head_layers: 4 + hidden_size: 1536 + id2label: + "0": LABEL_0 + "1": LABEL_1 + is_decoder: false + is_encoder_decoder: false + label2id: + LABEL_0: 0 + LABEL_1: 1 + latent_size: 64 + length_penalty: 1 + max_length: 20 + min_length: 0 + model_type: vibevoice_diffusion_head + no_repeat_ngram_size: 0 + num_beam_groups: 1 + num_beams: 1 + num_return_sequences: 1 + output_attentions: false + output_hidden_states: false + output_scores: false + pad_token_id: null + prediction_type: v_prediction + prefix: null + problem_type: null + remove_invalid_values: false + repetition_penalty: 1 + return_dict: true + return_dict_in_generate: false + rms_norm_eps: 1e-05 + sep_token_id: null + speech_vae_dim: 64 + suppress_tokens: null + task_specific_params: null + temperature: 1 + tf_legacy_loss: false + tie_encoder_decoder: false + tie_word_embeddings: true + tokenizer_class: null + top_k: 50 + top_p: 1 + torch_dtype: float16 + torchscript: false + typical_p: 1 + use_bfloat16: false +diffusion_loss_weight: + value: 1.7 +disable_tqdm: + value: false +diversity_penalty: + value: 0 +do_eval: + value: false +do_predict: + value: false +do_sample: + value: false +do_train: + value: true +early_stopping: + value: false +encoder_no_repeat_ngram_size: + value: 0 +eos_token_id: + value: null +eval_accumulation_steps: + value: null +eval_delay: + value: 0 +eval_do_concat_batches: + value: true +eval_on_start: + value: false +eval_steps: + value: 80 +eval_strategy: + value: "no" +eval_use_gather_object: + value: false +exponential_decay_length_penalty: + value: null +finetuning_task: + value: null +forced_bos_token_id: + value: null +forced_eos_token_id: + value: null +fp16: + value: true +fp16_backend: + value: auto +fp16_full_eval: + value: false +fp16_opt_level: + value: O1 +fsdp: + value: [] +fsdp_config: + value: + min_num_params: 0 + xla: false + xla_fsdp_grad_ckpt: false + xla_fsdp_v2: false +fsdp_min_num_params: + value: 0 +fsdp_transformer_layer_cls_to_wrap: + value: null +full_determinism: + value: false +gradient_accumulation_steps: + value: 12 +gradient_checkpointing: + value: false +gradient_checkpointing_kwargs: + value: null +gradient_clipping: + value: true +greater_is_better: + value: null +group_by_length: + value: false +half_precision_backend: + value: auto +hub_always_push: + value: false +hub_model_id: + value: null +hub_private_repo: + value: null +hub_strategy: + value: every_save +hub_token: + value: +id2label: + value: + "0": LABEL_0 + "1": LABEL_1 +ignore_data_skip: + value: false +include_for_metrics: + value: [] +include_inputs_for_metrics: + value: false +include_num_input_tokens_seen: + value: false +include_tokens_per_second: + value: false +is_decoder: + value: false +is_encoder_decoder: + value: false +jit_mode_eval: + value: false +label_names: + value: null +label_smoothing_factor: + value: 0 +label2id: + value: + LABEL_0: 0 + LABEL_1: 1 +learning_rate: + value: 5e-05 +length_column_name: + value: length +length_penalty: + value: 1 +load_best_model_at_end: + value: false +local_rank: + value: 0 +log_level: + value: passive +log_level_replica: + value: warning +log_on_each_node: + value: true +logging_dir: + value: /content/runs/Feb18_14-35-16_d690d73e974e +logging_first_step: + value: false +logging_nan_inf_filter: + value: true +logging_steps: + value: 10 +logging_strategy: + value: steps +lr_scheduler_type: + value: cosine +max_grad_norm: + value: 0.6 +max_length: + value: 20 +max_steps: + value: -1 +metric_for_best_model: + value: null +min_length: + value: 0 +model/num_parameters: + value: 2740951521 +model_type: + value: vibevoice +mp_parameters: + value: "" +neftune_noise_alpha: + value: null +no_cuda: + value: false +no_repeat_ngram_size: + value: 0 +num_beam_groups: + value: 1 +num_beams: + value: 1 +num_return_sequences: + value: 1 +num_train_epochs: + value: 10 +optim: + value: adamw_torch +optim_args: + value: null +optim_target_modules: + value: null +output_attentions: + value: false +output_dir: + value: /content/ +output_hidden_states: + value: false +output_scores: + value: false +overwrite_output_dir: + value: false +pad_token_id: + value: null +past_index: + value: -1 +per_device_eval_batch_size: + value: 8 +per_device_train_batch_size: + value: 1 +per_gpu_eval_batch_size: + value: null +per_gpu_train_batch_size: + value: null +prediction_loss_only: + value: false +prefix: + value: null +problem_type: + value: null +push_to_hub: + value: false +push_to_hub_model_id: + value: null +push_to_hub_organization: + value: null +push_to_hub_token: + value: +ray_scope: + value: last +remove_invalid_values: + value: false +remove_unused_columns: + value: false +repetition_penalty: + value: 1 +report_to: + value: + - wandb +restore_callback_states_from_checkpoint: + value: false +resume_from_checkpoint: + value: null +return_dict: + value: true +return_dict_in_generate: + value: false +run_name: + value: /content/ +save_on_each_node: + value: false +save_only_model: + value: false +save_safetensors: + value: true +save_steps: + value: 60 +save_strategy: + value: steps +save_total_limit: + value: null +seed: + value: 42 +semantic_tokenizer_config: + value: + _attn_implementation_autoset: false + _name_or_path: "" + add_cross_attention: false + architectures: null + bad_words_ids: null + begin_suppress_tokens: null + bos_token_id: null + causal: true + channels: 1 + chunk_size_feed_forward: 0 + conv_bias: true + conv_norm: none + corpus_normalize: 0 + cross_attention_hidden_size: null + decoder_start_token_id: null + disable_last_norm: true + diversity_penalty: 0 + do_sample: false + early_stopping: false + encoder_depths: 3-3-3-3-3-3-8 + encoder_n_filters: 32 + encoder_no_repeat_ngram_size: 0 + encoder_ratios: + - 8 + - 5 + - 5 + - 4 + - 2 + - 2 + eos_token_id: null + exponential_decay_length_penalty: null + finetuning_task: null + fix_std: 0 + forced_bos_token_id: null + forced_eos_token_id: null + id2label: + "0": LABEL_0 + "1": LABEL_1 + is_decoder: false + is_encoder_decoder: false + label2id: + LABEL_0: 0 + LABEL_1: 1 + layer_scale_init_value: 1e-06 + layernorm: RMSNorm + layernorm_elementwise_affine: true + layernorm_eps: 1e-05 + length_penalty: 1 + max_length: 20 + min_length: 0 + mixer_layer: depthwise_conv + model_type: vibevoice_semantic_tokenizer + no_repeat_ngram_size: 0 + num_beam_groups: 1 + num_beams: 1 + num_return_sequences: 1 + output_attentions: false + output_hidden_states: false + output_scores: false + pad_mode: constant + pad_token_id: null + prefix: null + problem_type: null + remove_invalid_values: false + repetition_penalty: 1 + return_dict: true + return_dict_in_generate: false + sep_token_id: null + std_dist_type: none + suppress_tokens: null + task_specific_params: null + temperature: 1 + tf_legacy_loss: false + tie_encoder_decoder: false + tie_word_embeddings: true + tokenizer_class: null + top_k: 50 + top_p: 1 + torch_dtype: float16 + torchscript: false + typical_p: 1 + use_bfloat16: false + vae_dim: 128 + weight_init_value: 0.01 +semantic_vae_dim: + value: 128 +sep_token_id: + value: null +skip_memory_metrics: + value: true +suppress_tokens: + value: null +task_specific_params: + value: null +temperature: + value: 1 +tf_legacy_loss: + value: false +tf32: + value: null +tie_encoder_decoder: + value: false +tie_word_embeddings: + value: true +tokenizer_class: + value: null +top_k: + value: 50 +top_p: + value: 1 +torch_compile: + value: false +torch_compile_backend: + value: null +torch_compile_mode: + value: null +torch_dtype: + value: float16 +torch_empty_cache_steps: + value: null +torchdynamo: + value: null +torchscript: + value: false +tp_size: + value: 0 +tpu_metrics_debug: + value: false +tpu_num_cores: + value: null +transformers_version: + value: 4.51.3 +typical_p: + value: 1 +use_bfloat16: + value: false +use_cpu: + value: false +use_ipex: + value: false +use_legacy_prediction_loop: + value: false +use_liger_kernel: + value: false +use_mps_device: + value: false +warmup_ratio: + value: 0.1 +warmup_steps: + value: 0 +weight_decay: + value: 0 diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/output.log b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/output.log new file mode 100644 index 0000000000000000000000000000000000000000..6041e9f677d3e3654048eb5e1d8aae795770460c --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/output.log @@ -0,0 +1,549 @@ + +{'debug/num_tok_total': 145.0, 'debug/num_tok_loss': 39.0, 'debug/num_lat_total': 145.0, 'debug/num_lat_loss': 39.0, 'epoch': 0} +{'train/ce_loss': 17.624103546142578, 'train/diffusion_loss': 0.7094717025756836, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 152.0, 'debug/num_tok_loss': 45.0, 'debug/num_lat_total': 152.0, 'debug/num_lat_loss': 45.0, 'epoch': 0} +{'train/ce_loss': 18.688594818115234, 'train/diffusion_loss': 0.5714285373687744, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 85.0, 'debug/num_tok_loss': 34.0, 'debug/num_lat_total': 85.0, 'debug/num_lat_loss': 34.0, 'epoch': 0} +{'train/ce_loss': 17.47560691833496, 'train/diffusion_loss': 0.5668375492095947, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 166.0, 'debug/num_tok_loss': 117.0, 'debug/num_lat_total': 166.0, 'debug/num_lat_loss': 117.0, 'epoch': 0} +{'train/ce_loss': 20.7196044921875, 'train/diffusion_loss': 0.6255993247032166, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 154.0, 'debug/num_tok_loss': 83.0, 'debug/num_lat_total': 154.0, 'debug/num_lat_loss': 83.0, 'epoch': 0} +{'train/ce_loss': 20.959171295166016, 'train/diffusion_loss': 0.6066958904266357, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 153.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 153.0, 'debug/num_lat_loss': 47.0, 'epoch': 0} +{'train/ce_loss': 18.233762741088867, 'train/diffusion_loss': 0.5949330925941467, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 30.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 30.0, 'epoch': 0} +{'train/ce_loss': 16.892210006713867, 'train/diffusion_loss': 0.6077481508255005, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 138.0, 'debug/num_tok_loss': 31.0, 'debug/num_lat_total': 138.0, 'debug/num_lat_loss': 31.0, 'epoch': 0} +{'train/ce_loss': 16.396814346313477, 'train/diffusion_loss': 0.60689377784729, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 169.0, 'debug/num_tok_loss': 63.0, 'debug/num_lat_total': 169.0, 'debug/num_lat_loss': 63.0, 'epoch': 0} +{'train/ce_loss': 19.0556583404541, 'train/diffusion_loss': 0.5751490592956543, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 99.0, 'debug/num_tok_loss': 35.0, 'debug/num_lat_total': 99.0, 'debug/num_lat_loss': 35.0, 'epoch': 0} +{'train/ce_loss': 17.942827224731445, 'train/diffusion_loss': 0.5633095502853394, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 81.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 81.0, 'epoch': 0} +{'train/ce_loss': 20.29229164123535, 'train/diffusion_loss': 0.5666168928146362, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 117.0, 'debug/num_tok_loss': 11.0, 'debug/num_lat_total': 117.0, 'debug/num_lat_loss': 11.0, 'epoch': 0} +{'train/ce_loss': 13.591137886047363, 'train/diffusion_loss': 0.4021272659301758, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 206.0, 'debug/num_tok_loss': 99.0, 'debug/num_lat_total': 206.0, 'debug/num_lat_loss': 99.0, 'epoch': 0.0} +{'train/ce_loss': 21.090343475341797, 'train/diffusion_loss': 0.6082291007041931, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 148.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 148.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.0} +{'train/ce_loss': 19.46612548828125, 'train/diffusion_loss': 0.6474497318267822, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 116.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 116.0, 'debug/num_lat_loss': 47.0, 'epoch': 0.0} +{'train/ce_loss': 18.134809494018555, 'train/diffusion_loss': 0.6856439113616943, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 161.0, 'debug/num_tok_loss': 80.0, 'debug/num_lat_total': 161.0, 'debug/num_lat_loss': 80.0, 'epoch': 0.0} +{'train/ce_loss': 20.820384979248047, 'train/diffusion_loss': 0.5715802311897278, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.0} +{'train/ce_loss': 19.09589385986328, 'train/diffusion_loss': 0.5783407092094421, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 158.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 158.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.0} +{'train/ce_loss': 20.06045150756836, 'train/diffusion_loss': 0.5878459215164185, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 180.0, 'debug/num_tok_loss': 73.0, 'debug/num_lat_total': 180.0, 'debug/num_lat_loss': 73.0, 'epoch': 0.0} +{'train/ce_loss': 20.345367431640625, 'train/diffusion_loss': 0.652065098285675, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 101.0, 'debug/num_tok_loss': 20.0, 'debug/num_lat_total': 101.0, 'debug/num_lat_loss': 20.0, 'epoch': 0.0} +{'train/ce_loss': 15.036038398742676, 'train/diffusion_loss': 0.387031227350235, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 165.0, 'debug/num_tok_loss': 113.0, 'debug/num_lat_total': 165.0, 'debug/num_lat_loss': 113.0, 'epoch': 0.0} +{'train/ce_loss': 20.343006134033203, 'train/diffusion_loss': 0.6079820394515991, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 149.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 149.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.0} +{'train/ce_loss': 20.710960388183594, 'train/diffusion_loss': 0.5807090401649475, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 147.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 147.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.0} +{'train/ce_loss': 19.858078002929688, 'train/diffusion_loss': 0.6235314011573792, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 134.0, 'debug/num_tok_loss': 27.0, 'debug/num_lat_total': 134.0, 'debug/num_lat_loss': 27.0, 'epoch': 0.0} +{'train/ce_loss': 16.209667205810547, 'train/diffusion_loss': 0.5468798875808716, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 128.0, 'debug/num_tok_loss': 76.0, 'debug/num_lat_total': 128.0, 'debug/num_lat_loss': 76.0, 'epoch': 0.01} +{'train/ce_loss': 19.85587501525879, 'train/diffusion_loss': 0.6201486587524414, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 107.0, 'debug/num_tok_loss': 43.0, 'debug/num_lat_total': 107.0, 'debug/num_lat_loss': 43.0, 'epoch': 0.01} +{'train/ce_loss': 19.119394302368164, 'train/diffusion_loss': 0.6161847710609436, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 98.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 98.0, 'debug/num_lat_loss': 47.0, 'epoch': 0.01} +{'train/ce_loss': 16.98512840270996, 'train/diffusion_loss': 0.6135052442550659, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 115.0, 'debug/num_tok_loss': 96.0, 'debug/num_lat_total': 115.0, 'debug/num_lat_loss': 96.0, 'epoch': 0.01} +{'train/ce_loss': 20.251426696777344, 'train/diffusion_loss': 0.6778286695480347, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 121.0, 'debug/num_tok_loss': 52.0, 'debug/num_lat_total': 121.0, 'debug/num_lat_loss': 52.0, 'epoch': 0.01} +{'train/ce_loss': 19.211193084716797, 'train/diffusion_loss': 0.5722253918647766, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 19.677370071411133, 'train/diffusion_loss': 0.6380274295806885, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 168.0, 'debug/num_tok_loss': 61.0, 'debug/num_lat_total': 168.0, 'debug/num_lat_loss': 61.0, 'epoch': 0.01} +{'train/ce_loss': 19.51193618774414, 'train/diffusion_loss': 0.6553022861480713, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 160.0, 'debug/num_tok_loss': 96.0, 'debug/num_lat_total': 160.0, 'debug/num_lat_loss': 96.0, 'epoch': 0.01} +{'train/ce_loss': 20.536746978759766, 'train/diffusion_loss': 0.6725964546203613, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 160.0, 'debug/num_tok_loss': 89.0, 'debug/num_lat_total': 160.0, 'debug/num_lat_loss': 89.0, 'epoch': 0.01} +{'train/ce_loss': 20.379037857055664, 'train/diffusion_loss': 0.6461488008499146, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 49.0, 'debug/num_tok_loss': 30.0, 'debug/num_lat_total': 49.0, 'debug/num_lat_loss': 30.0, 'epoch': 0.01} +{'train/ce_loss': 16.79844856262207, 'train/diffusion_loss': 0.6155766248703003, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 182.0, 'debug/num_tok_loss': 111.0, 'debug/num_lat_total': 182.0, 'debug/num_lat_loss': 111.0, 'epoch': 0.01} +{'train/ce_loss': 21.026275634765625, 'train/diffusion_loss': 0.5858950614929199, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 211.0, 'debug/num_tok_loss': 104.0, 'debug/num_lat_total': 211.0, 'debug/num_lat_loss': 104.0, 'epoch': 0.01} +{'train/ce_loss': 21.564098358154297, 'train/diffusion_loss': 0.641681969165802, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 114.0, 'debug/num_tok_loss': 65.0, 'debug/num_lat_total': 114.0, 'debug/num_lat_loss': 65.0, 'epoch': 0.01} +{'train/ce_loss': 18.807844161987305, 'train/diffusion_loss': 0.6348744034767151, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 151.0, 'debug/num_tok_loss': 80.0, 'debug/num_lat_total': 151.0, 'debug/num_lat_loss': 80.0, 'epoch': 0.01} +{'train/ce_loss': 19.74795150756836, 'train/diffusion_loss': 0.6446933150291443, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 138.0, 'debug/num_tok_loss': 86.0, 'debug/num_lat_total': 138.0, 'debug/num_lat_loss': 86.0, 'epoch': 0.01} +{'train/ce_loss': 20.13687515258789, 'train/diffusion_loss': 0.5867917537689209, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 134.0, 'debug/num_tok_loss': 28.0, 'debug/num_lat_total': 134.0, 'debug/num_lat_loss': 28.0, 'epoch': 0.01} +{'train/ce_loss': 16.64942741394043, 'train/diffusion_loss': 0.48928365111351013, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 166.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 166.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.01} +{'train/ce_loss': 19.190689086914062, 'train/diffusion_loss': 0.5625889301300049, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 130.0, 'debug/num_tok_loss': 111.0, 'debug/num_lat_total': 130.0, 'debug/num_lat_loss': 111.0, 'epoch': 0.01} +{'train/ce_loss': 19.898826599121094, 'train/diffusion_loss': 0.6222584247589111, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 162.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 162.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.01} +{'train/ce_loss': 20.198333740234375, 'train/diffusion_loss': 0.5587427616119385, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 19.82209587097168, 'train/diffusion_loss': 0.6874608993530273, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 145.0, 'debug/num_tok_loss': 64.0, 'debug/num_lat_total': 145.0, 'debug/num_lat_loss': 64.0, 'epoch': 0.01} +{'train/ce_loss': 19.807933807373047, 'train/diffusion_loss': 0.6290066242218018, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 162.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 162.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.01} +{'train/ce_loss': 20.285276412963867, 'train/diffusion_loss': 0.6258421540260315, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.01} +{'train/ce_loss': 18.537385940551758, 'train/diffusion_loss': 0.6116793751716614, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 143.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 143.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 20.56442642211914, 'train/diffusion_loss': 0.6365885138511658, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 86.0, 'debug/num_tok_loss': 67.0, 'debug/num_lat_total': 86.0, 'debug/num_lat_loss': 67.0, 'epoch': 0.01} +{'train/ce_loss': 19.567869186401367, 'train/diffusion_loss': 0.6358458995819092, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 83.0, 'debug/num_tok_loss': 32.0, 'debug/num_lat_total': 83.0, 'debug/num_lat_loss': 32.0, 'epoch': 0.01} +{'train/ce_loss': 16.667713165283203, 'train/diffusion_loss': 0.5608019232749939, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 106.0, 'debug/num_tok_loss': 55.0, 'debug/num_lat_total': 106.0, 'debug/num_lat_loss': 55.0, 'epoch': 0.01} +{'train/ce_loss': 18.44162368774414, 'train/diffusion_loss': 0.545034646987915, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 147.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 147.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.01} +{'train/ce_loss': 19.91998863220215, 'train/diffusion_loss': 0.6026426553726196, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 135.0, 'debug/num_tok_loss': 84.0, 'debug/num_lat_total': 135.0, 'debug/num_lat_loss': 84.0, 'epoch': 0.01} +{'train/ce_loss': 19.55213737487793, 'train/diffusion_loss': 0.5744384527206421, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 103.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 103.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.01} +{'train/ce_loss': 18.771753311157227, 'train/diffusion_loss': 0.675837516784668, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 84.0, 'debug/num_tok_loss': 32.0, 'debug/num_lat_total': 84.0, 'debug/num_lat_loss': 32.0, 'epoch': 0.01} +{'train/ce_loss': 16.766742706298828, 'train/diffusion_loss': 0.4784148931503296, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 144.0, 'debug/num_tok_loss': 92.0, 'debug/num_lat_total': 144.0, 'debug/num_lat_loss': 92.0, 'epoch': 0.01} +{'train/ce_loss': 20.41745948791504, 'train/diffusion_loss': 0.6582262516021729, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 153.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 153.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 20.303739547729492, 'train/diffusion_loss': 0.581567108631134, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 184.0, 'debug/num_tok_loss': 78.0, 'debug/num_lat_total': 184.0, 'debug/num_lat_loss': 78.0, 'epoch': 0.01} +{'train/ce_loss': 21.09649658203125, 'train/diffusion_loss': 0.6613467335700989, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 102.0, 'debug/num_tok_loss': 31.0, 'debug/num_lat_total': 102.0, 'debug/num_lat_loss': 31.0, 'epoch': 0.01} +{'train/ce_loss': 17.368268966674805, 'train/diffusion_loss': 0.5023375749588013, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 124.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 124.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.01} +{'train/ce_loss': 19.724924087524414, 'train/diffusion_loss': 0.5076279640197754, 'epoch': 0.01} +{'train/learning_rate_real': 1.6666666666666668e-07, 'epoch': 0.01} +{'debug/num_tok_total': 167.0, 'debug/num_tok_loss': 115.0, 'debug/num_lat_total': 167.0, 'debug/num_lat_loss': 115.0, 'epoch': 0.02} +{'train/ce_loss': 20.940595626831055, 'train/diffusion_loss': 0.6402390599250793, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 137.0, 'debug/num_tok_loss': 73.0, 'debug/num_lat_total': 137.0, 'debug/num_lat_loss': 73.0, 'epoch': 0.02} +{'train/ce_loss': 20.08302116394043, 'train/diffusion_loss': 0.7651703357696533, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 182.0, 'debug/num_tok_loss': 76.0, 'debug/num_lat_total': 182.0, 'debug/num_lat_loss': 76.0, 'epoch': 0.02} +{'train/ce_loss': 20.28279685974121, 'train/diffusion_loss': 0.6082379221916199, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 108.0, 'debug/num_tok_loss': 37.0, 'debug/num_lat_total': 108.0, 'debug/num_lat_loss': 37.0, 'epoch': 0.02} +{'train/ce_loss': 17.907041549682617, 'train/diffusion_loss': 0.605295717716217, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 189.0, 'debug/num_tok_loss': 82.0, 'debug/num_lat_total': 189.0, 'debug/num_lat_loss': 82.0, 'epoch': 0.02} +{'train/ce_loss': 20.55436134338379, 'train/diffusion_loss': 0.6229020953178406, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 104.0, 'debug/num_tok_loss': 40.0, 'debug/num_lat_total': 104.0, 'debug/num_lat_loss': 40.0, 'epoch': 0.02} +{'train/ce_loss': 17.753219604492188, 'train/diffusion_loss': 0.6561962366104126, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 146.0, 'debug/num_tok_loss': 95.0, 'debug/num_lat_total': 146.0, 'debug/num_lat_loss': 95.0, 'epoch': 0.02} +{'train/ce_loss': 20.21076774597168, 'train/diffusion_loss': 0.6563171148300171, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 189.0, 'debug/num_tok_loss': 108.0, 'debug/num_lat_total': 189.0, 'debug/num_lat_loss': 108.0, 'epoch': 0.02} +{'train/ce_loss': 21.400144577026367, 'train/diffusion_loss': 0.6743456721305847, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 111.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 111.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.02} +{'train/ce_loss': 18.439697265625, 'train/diffusion_loss': 0.629324734210968, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 117.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 117.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.02} +{'train/ce_loss': 19.423912048339844, 'train/diffusion_loss': 0.6109022498130798, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 148.0, 'debug/num_tok_loss': 79.0, 'debug/num_lat_total': 148.0, 'debug/num_lat_loss': 79.0, 'epoch': 0.02} +{'train/ce_loss': 19.725217819213867, 'train/diffusion_loss': 0.6653574705123901, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 160.0, 'debug/num_tok_loss': 79.0, 'debug/num_lat_total': 160.0, 'debug/num_lat_loss': 79.0, 'epoch': 0.02} +{'train/ce_loss': 20.4893856048584, 'train/diffusion_loss': 0.6195732951164246, 'epoch': 0.02} +{'train/learning_rate_real': 3.3333333333333335e-07, 'epoch': 0.02} +{'debug/num_tok_total': 125.0, 'debug/num_tok_loss': 106.0, 'debug/num_lat_total': 125.0, 'debug/num_lat_loss': 106.0, 'epoch': 0.02} +{'train/ce_loss': 20.251684188842773, 'train/diffusion_loss': 0.630237877368927, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 139.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 139.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.02} +{'train/ce_loss': 20.20622444152832, 'train/diffusion_loss': 0.644622266292572, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 116.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 116.0, 'debug/num_lat_loss': 47.0, 'epoch': 0.02} +{'train/ce_loss': 18.7036075592041, 'train/diffusion_loss': 0.5094050168991089, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 187.0, 'debug/num_tok_loss': 106.0, 'debug/num_lat_total': 187.0, 'debug/num_lat_loss': 106.0, 'epoch': 0.02} +{'train/ce_loss': 21.027284622192383, 'train/diffusion_loss': 0.6506954431533813, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 85.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 85.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.02} +{'train/ce_loss': 18.897762298583984, 'train/diffusion_loss': 0.7031742930412292, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 134.0, 'debug/num_tok_loss': 115.0, 'debug/num_lat_total': 134.0, 'debug/num_lat_loss': 115.0, 'epoch': 0.02} +{'train/ce_loss': 20.166278839111328, 'train/diffusion_loss': 0.663967490196228, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 63.0, 'debug/num_tok_loss': 44.0, 'debug/num_lat_total': 63.0, 'debug/num_lat_loss': 44.0, 'epoch': 0.02} +{'train/ce_loss': 17.959138870239258, 'train/diffusion_loss': 0.4961543083190918, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 210.0, 'debug/num_tok_loss': 103.0, 'debug/num_lat_total': 210.0, 'debug/num_lat_loss': 103.0, 'epoch': 0.02} +{'train/ce_loss': 21.166645050048828, 'train/diffusion_loss': 0.662558376789093, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 139.0, 'debug/num_tok_loss': 75.0, 'debug/num_lat_total': 139.0, 'debug/num_lat_loss': 75.0, 'epoch': 0.02} +{'train/ce_loss': 20.095048904418945, 'train/diffusion_loss': 0.5739942789077759, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 98.0, 'debug/num_tok_loss': 49.0, 'debug/num_lat_total': 98.0, 'debug/num_lat_loss': 49.0, 'epoch': 0.02} +{'train/ce_loss': 18.306684494018555, 'train/diffusion_loss': 0.5730726718902588, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 137.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 137.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.02} +{'train/ce_loss': 19.97385597229004, 'train/diffusion_loss': 0.6497908234596252, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 64.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 64.0, 'epoch': 0.02} +{'train/ce_loss': 19.74818229675293, 'train/diffusion_loss': 0.6678849458694458, 'epoch': 0.02} +{'train/learning_rate_real': 5.000000000000001e-07, 'epoch': 0.02} +{'debug/num_tok_total': 168.0, 'debug/num_tok_loss': 97.0, 'debug/num_lat_total': 168.0, 'debug/num_lat_loss': 97.0, 'epoch': 0.02} +{'train/ce_loss': 21.00205421447754, 'train/diffusion_loss': 0.6708245873451233, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 107.0, 'debug/num_tok_loss': 38.0, 'debug/num_lat_total': 107.0, 'debug/num_lat_loss': 38.0, 'epoch': 0.02} +{'train/ce_loss': 18.06574821472168, 'train/diffusion_loss': 0.5038679242134094, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 157.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 157.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.02} +{'train/ce_loss': 18.722190856933594, 'train/diffusion_loss': 0.7212826609611511, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 156.0, 'debug/num_tok_loss': 49.0, 'debug/num_lat_total': 156.0, 'debug/num_lat_loss': 49.0, 'epoch': 0.02} +{'train/ce_loss': 18.34746742248535, 'train/diffusion_loss': 0.550148606300354, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 139.0, 'debug/num_tok_loss': 87.0, 'debug/num_lat_total': 139.0, 'debug/num_lat_loss': 87.0, 'epoch': 0.02} +{'train/ce_loss': 20.206687927246094, 'train/diffusion_loss': 0.6482954621315002, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 97.0, 'debug/num_tok_loss': 78.0, 'debug/num_lat_total': 97.0, 'debug/num_lat_loss': 78.0, 'epoch': 0.02} +{'train/ce_loss': 19.33749771118164, 'train/diffusion_loss': 0.6911303400993347, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 158.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 158.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.02} +{'train/ce_loss': 18.858015060424805, 'train/diffusion_loss': 0.6219611167907715, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.02} +{'train/ce_loss': 19.217124938964844, 'train/diffusion_loss': 0.6585752964019775, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 130.0, 'debug/num_tok_loss': 59.0, 'debug/num_lat_total': 130.0, 'debug/num_lat_loss': 59.0, 'epoch': 0.02} +{'train/ce_loss': 20.4932804107666, 'train/diffusion_loss': 0.6388077735900879, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 154.0, 'debug/num_tok_loss': 102.0, 'debug/num_lat_total': 154.0, 'debug/num_lat_loss': 102.0, 'epoch': 0.02} +{'train/ce_loss': 20.623170852661133, 'train/diffusion_loss': 0.7400584816932678, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 141.0, 'debug/num_tok_loss': 92.0, 'debug/num_lat_total': 141.0, 'debug/num_lat_loss': 92.0, 'epoch': 0.02} +{'train/ce_loss': 20.462520599365234, 'train/diffusion_loss': 0.6030052900314331, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 158.0, 'debug/num_tok_loss': 109.0, 'debug/num_lat_total': 158.0, 'debug/num_lat_loss': 109.0, 'epoch': 0.02} +{'train/ce_loss': 20.792394638061523, 'train/diffusion_loss': 0.614713728427887, 'epoch': 0.02} +{'train/learning_rate_real': 6.666666666666667e-07, 'epoch': 0.02} +{'debug/num_tok_total': 163.0, 'debug/num_tok_loss': 94.0, 'debug/num_lat_total': 163.0, 'debug/num_lat_loss': 94.0, 'epoch': 0.03} +{'train/ce_loss': 20.57790756225586, 'train/diffusion_loss': 0.7089092135429382, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 126.0, 'debug/num_tok_loss': 75.0, 'debug/num_lat_total': 126.0, 'debug/num_lat_loss': 75.0, 'epoch': 0.03} +{'train/ce_loss': 18.449909210205078, 'train/diffusion_loss': 0.6506624221801758, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 175.0, 'debug/num_tok_loss': 106.0, 'debug/num_lat_total': 175.0, 'debug/num_lat_loss': 106.0, 'epoch': 0.03} +{'train/ce_loss': 20.59683609008789, 'train/diffusion_loss': 0.6429937481880188, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 144.0, 'debug/num_tok_loss': 75.0, 'debug/num_lat_total': 144.0, 'debug/num_lat_loss': 75.0, 'epoch': 0.03} +{'train/ce_loss': 19.269563674926758, 'train/diffusion_loss': 0.5561970472335815, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 121.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 121.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.03} +{'train/ce_loss': 19.60355567932129, 'train/diffusion_loss': 0.6408190727233887, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 164.0, 'debug/num_tok_loss': 93.0, 'debug/num_lat_total': 164.0, 'debug/num_lat_loss': 93.0, 'epoch': 0.03} +{'train/ce_loss': 20.805227279663086, 'train/diffusion_loss': 0.6117426753044128, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 109.0, 'debug/num_tok_loss': 58.0, 'debug/num_lat_total': 109.0, 'debug/num_lat_loss': 58.0, 'epoch': 0.03} +{'train/ce_loss': 19.131187438964844, 'train/diffusion_loss': 0.5879923105239868, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 95.0, 'debug/num_tok_loss': 24.0, 'debug/num_lat_total': 95.0, 'debug/num_lat_loss': 24.0, 'epoch': 0.03} +{'train/ce_loss': 15.284979820251465, 'train/diffusion_loss': 0.5102832913398743, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 149.0, 'debug/num_tok_loss': 80.0, 'debug/num_lat_total': 149.0, 'debug/num_lat_loss': 80.0, 'epoch': 0.03} +{'train/ce_loss': 20.38149642944336, 'train/diffusion_loss': 0.6808876395225525, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 26.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 26.0, 'epoch': 0.03} +{'train/ce_loss': 17.395030975341797, 'train/diffusion_loss': 0.5014070272445679, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 164.0, 'debug/num_tok_loss': 83.0, 'debug/num_lat_total': 164.0, 'debug/num_lat_loss': 83.0, 'epoch': 0.03} +{'train/ce_loss': 20.71450424194336, 'train/diffusion_loss': 0.6959617733955383, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 93.0, 'debug/num_tok_loss': 44.0, 'debug/num_lat_total': 93.0, 'debug/num_lat_loss': 44.0, 'epoch': 0.03} +{'train/ce_loss': 17.371479034423828, 'train/diffusion_loss': 0.701470673084259, 'epoch': 0.03} +{'train/learning_rate_real': 8.333333333333333e-07, 'epoch': 0.03} +{'debug/num_tok_total': 57.0, 'debug/num_tok_loss': 38.0, 'debug/num_lat_total': 57.0, 'debug/num_lat_loss': 38.0, 'epoch': 0.03} +{'train/ce_loss': 16.51700210571289, 'train/diffusion_loss': 0.5535467863082886, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 150.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 150.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.03} +{'train/ce_loss': 20.072385787963867, 'train/diffusion_loss': 0.5635637044906616, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 172.0, 'debug/num_tok_loss': 65.0, 'debug/num_lat_total': 172.0, 'debug/num_lat_loss': 65.0, 'epoch': 0.03} +{'train/ce_loss': 19.823884963989258, 'train/diffusion_loss': 0.5178627967834473, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 193.0, 'debug/num_tok_loss': 86.0, 'debug/num_lat_total': 193.0, 'debug/num_lat_loss': 86.0, 'epoch': 0.03} +{'train/ce_loss': 19.779346466064453, 'train/diffusion_loss': 0.5555330514907837, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 104.0, 'debug/num_tok_loss': 52.0, 'debug/num_lat_total': 104.0, 'debug/num_lat_loss': 52.0, 'epoch': 0.03} +{'train/ce_loss': 18.65873146057129, 'train/diffusion_loss': 0.6078282594680786, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 138.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 138.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.03} +{'train/ce_loss': 19.899089813232422, 'train/diffusion_loss': 0.7147643566131592, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 83.0, 'debug/num_tok_loss': 34.0, 'debug/num_lat_total': 83.0, 'debug/num_lat_loss': 34.0, 'epoch': 0.03} +{'train/ce_loss': 17.371667861938477, 'train/diffusion_loss': 0.4754423201084137, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 115.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 115.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.03} +{'train/ce_loss': 19.596282958984375, 'train/diffusion_loss': 0.606148362159729, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 141.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 141.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.03} +{'train/ce_loss': 20.229127883911133, 'train/diffusion_loss': 0.6054156422615051, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 148.0, 'debug/num_tok_loss': 99.0, 'debug/num_lat_total': 148.0, 'debug/num_lat_loss': 99.0, 'epoch': 0.03} +{'train/ce_loss': 20.44205665588379, 'train/diffusion_loss': 0.6950575113296509, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 104.0, 'debug/num_tok_loss': 40.0, 'debug/num_lat_total': 104.0, 'debug/num_lat_loss': 40.0, 'epoch': 0.03} +{'train/ce_loss': 16.80394744873047, 'train/diffusion_loss': 0.6041313409805298, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 94.0, 'debug/num_tok_loss': 23.0, 'debug/num_lat_total': 94.0, 'debug/num_lat_loss': 23.0, 'epoch': 0.03} +{'train/ce_loss': 16.266008377075195, 'train/diffusion_loss': 0.49282509088516235, 'epoch': 0.03} +{'train/learning_rate_real': 1.0000000000000002e-06, 'epoch': 0.03} +{'loss': 266.6681, 'grad_norm': 567.853515625, 'learning_rate': 1.0000000000000002e-06, 'epoch': 0.03} +{'debug/num_tok_total': 201.0, 'debug/num_tok_loss': 95.0, 'debug/num_lat_total': 201.0, 'debug/num_lat_loss': 95.0, 'epoch': 0.03} +{'train/ce_loss': 20.8855037689209, 'train/diffusion_loss': 0.633036196231842, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 146.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 146.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.03} +{'train/ce_loss': 20.443233489990234, 'train/diffusion_loss': 0.5981792211532593, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 62.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 62.0, 'epoch': 0.03} +{'train/ce_loss': 19.562549591064453, 'train/diffusion_loss': 0.5868687629699707, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 121.0, 'debug/num_tok_loss': 50.0, 'debug/num_lat_total': 121.0, 'debug/num_lat_loss': 50.0, 'epoch': 0.03} +{'train/ce_loss': 18.19532585144043, 'train/diffusion_loss': 0.5588268041610718, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 184.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 184.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.03} +{'train/ce_loss': 20.277462005615234, 'train/diffusion_loss': 0.6097513437271118, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 126.0, 'debug/num_tok_loss': 45.0, 'debug/num_lat_total': 126.0, 'debug/num_lat_loss': 45.0, 'epoch': 0.03} +{'train/ce_loss': 18.838912963867188, 'train/diffusion_loss': 0.5998520255088806, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 175.0, 'debug/num_tok_loss': 111.0, 'debug/num_lat_total': 175.0, 'debug/num_lat_loss': 111.0, 'epoch': 0.03} +{'train/ce_loss': 20.90423011779785, 'train/diffusion_loss': 0.6905404329299927, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 78.0, 'debug/num_tok_loss': 59.0, 'debug/num_lat_total': 78.0, 'debug/num_lat_loss': 59.0, 'epoch': 0.03} +{'train/ce_loss': 18.565052032470703, 'train/diffusion_loss': 0.7491587996482849, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 191.0, 'debug/num_tok_loss': 120.0, 'debug/num_lat_total': 191.0, 'debug/num_lat_loss': 120.0, 'epoch': 0.03} +{'train/ce_loss': 20.86245346069336, 'train/diffusion_loss': 0.6981663107872009, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 141.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 141.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.03} +{'train/ce_loss': 20.219308853149414, 'train/diffusion_loss': 0.6740112900733948, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 98.0, 'debug/num_tok_loss': 27.0, 'debug/num_lat_total': 98.0, 'debug/num_lat_loss': 27.0, 'epoch': 0.03} +{'train/ce_loss': 16.747333526611328, 'train/diffusion_loss': 0.49282172322273254, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 84.0, 'debug/num_tok_loss': 35.0, 'debug/num_lat_total': 84.0, 'debug/num_lat_loss': 35.0, 'epoch': 0.03} +{'train/ce_loss': 16.728307723999023, 'train/diffusion_loss': 0.5737107992172241, 'epoch': 0.03} +{'train/learning_rate_real': 1.1666666666666668e-06, 'epoch': 0.03} +{'debug/num_tok_total': 167.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 167.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.04} +{'train/ce_loss': 20.16675567626953, 'train/diffusion_loss': 0.6254013776779175, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 96.0, 'debug/num_tok_loss': 44.0, 'debug/num_lat_total': 96.0, 'debug/num_lat_loss': 44.0, 'epoch': 0.04} +{'train/ce_loss': 18.568870544433594, 'train/diffusion_loss': 0.6134258508682251, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 163.0, 'debug/num_tok_loss': 112.0, 'debug/num_lat_total': 163.0, 'debug/num_lat_loss': 112.0, 'epoch': 0.04} +{'train/ce_loss': 20.57467269897461, 'train/diffusion_loss': 0.6843720078468323, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 89.0, 'debug/num_tok_loss': 40.0, 'debug/num_lat_total': 89.0, 'debug/num_lat_loss': 40.0, 'epoch': 0.04} +{'train/ce_loss': 18.739681243896484, 'train/diffusion_loss': 0.6410850286483765, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 146.0, 'debug/num_tok_loss': 95.0, 'debug/num_lat_total': 146.0, 'debug/num_lat_loss': 95.0, 'epoch': 0.04} +{'train/ce_loss': 19.968639373779297, 'train/diffusion_loss': 0.6182363629341125, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 124.0, 'debug/num_tok_loss': 43.0, 'debug/num_lat_total': 124.0, 'debug/num_lat_loss': 43.0, 'epoch': 0.04} +{'train/ce_loss': 18.250762939453125, 'train/diffusion_loss': 0.5409747958183289, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 224.0, 'debug/num_tok_loss': 117.0, 'debug/num_lat_total': 224.0, 'debug/num_lat_loss': 117.0, 'epoch': 0.04} +{'train/ce_loss': 20.655040740966797, 'train/diffusion_loss': 0.6678592562675476, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 175.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 175.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.04} +{'train/ce_loss': 20.366426467895508, 'train/diffusion_loss': 0.5933476686477661, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 226.0, 'debug/num_tok_loss': 119.0, 'debug/num_lat_total': 226.0, 'debug/num_lat_loss': 119.0, 'epoch': 0.04} +{'train/ce_loss': 21.187095642089844, 'train/diffusion_loss': 0.5764259099960327, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 191.0, 'debug/num_tok_loss': 84.0, 'debug/num_lat_total': 191.0, 'debug/num_lat_loss': 84.0, 'epoch': 0.04} +{'train/ce_loss': 20.290807723999023, 'train/diffusion_loss': 0.5762823224067688, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 26.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 26.0, 'epoch': 0.04} +{'train/ce_loss': 16.704378128051758, 'train/diffusion_loss': 0.5179340243339539, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 193.0, 'debug/num_tok_loss': 112.0, 'debug/num_lat_total': 193.0, 'debug/num_lat_loss': 112.0, 'epoch': 0.04} +{'train/ce_loss': 20.946117401123047, 'train/diffusion_loss': 0.6893817782402039, 'epoch': 0.04} +{'train/learning_rate_real': 1.3333333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 100.0, 'debug/num_tok_loss': 81.0, 'debug/num_lat_total': 100.0, 'debug/num_lat_loss': 81.0, 'epoch': 0.04} +{'train/ce_loss': 19.034639358520508, 'train/diffusion_loss': 0.6393831372261047, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 186.0, 'debug/num_tok_loss': 105.0, 'debug/num_lat_total': 186.0, 'debug/num_lat_loss': 105.0, 'epoch': 0.04} +{'train/ce_loss': 21.270912170410156, 'train/diffusion_loss': 0.7264360189437866, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 118.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 118.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.04} +{'train/ce_loss': 19.37391471862793, 'train/diffusion_loss': 0.6143487095832825, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 164.0, 'debug/num_tok_loss': 58.0, 'debug/num_lat_total': 164.0, 'debug/num_lat_loss': 58.0, 'epoch': 0.04} +{'train/ce_loss': 19.469667434692383, 'train/diffusion_loss': 0.5937036871910095, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 105.0, 'debug/num_tok_loss': 86.0, 'debug/num_lat_total': 105.0, 'debug/num_lat_loss': 86.0, 'epoch': 0.04} +{'train/ce_loss': 19.223268508911133, 'train/diffusion_loss': 0.6357275247573853, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 42.0, 'debug/num_tok_loss': 23.0, 'debug/num_lat_total': 42.0, 'debug/num_lat_loss': 23.0, 'epoch': 0.04} +{'train/ce_loss': 14.81341552734375, 'train/diffusion_loss': 0.4845297634601593, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 143.0, 'debug/num_tok_loss': 92.0, 'debug/num_lat_total': 143.0, 'debug/num_lat_loss': 92.0, 'epoch': 0.04} +{'train/ce_loss': 19.889179229736328, 'train/diffusion_loss': 0.5814254879951477, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.04} +{'train/ce_loss': 18.725109100341797, 'train/diffusion_loss': 0.5101487040519714, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 165.0, 'debug/num_tok_loss': 59.0, 'debug/num_lat_total': 165.0, 'debug/num_lat_loss': 59.0, 'epoch': 0.04} +{'train/ce_loss': 18.797164916992188, 'train/diffusion_loss': 0.7044903635978699, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 170.0, 'debug/num_tok_loss': 99.0, 'debug/num_lat_total': 170.0, 'debug/num_lat_loss': 99.0, 'epoch': 0.04} +{'train/ce_loss': 21.15913963317871, 'train/diffusion_loss': 0.5948572754859924, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 107.0, 'debug/num_tok_loss': 56.0, 'debug/num_lat_total': 107.0, 'debug/num_lat_loss': 56.0, 'epoch': 0.04} +{'train/ce_loss': 18.50257682800293, 'train/diffusion_loss': 0.5940078496932983, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} +{'debug/num_tok_total': 137.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 137.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.04} +{'train/ce_loss': 19.88117790222168, 'train/diffusion_loss': 0.5643084049224854, 'epoch': 0.04} +{'train/learning_rate_real': 1.5e-06, 'epoch': 0.04} + File "", line 198, in _run_module_as_main + File "", line 88, in _run_code + File "/content/VibeVoice-finetuning/src/finetune_vibevoice_lora0.py", line 984, in + main() + File "/content/VibeVoice-finetuning/src/finetune_vibevoice_lora0.py", line 932, in main + trainer.train(resume_from_checkpoint=training_args.resume_from_checkpoint) + File "/usr/local/lib/python3.12/dist-packages/transformers/trainer.py", line 2245, in train + return inner_training_loop( + ^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/transformers/trainer.py", line 2560, in _inner_training_loop + tr_loss_step = self.training_step(model, inputs, num_items_in_batch) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/transformers/trainer.py", line 3736, in training_step + loss = self.compute_loss(model, inputs, num_items_in_batch=num_items_in_batch) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/finetune_vibevoice_lora0.py", line 705, in compute_loss + outputs = model( + ^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1775, in _wrapped_call_impl + return self._call_impl(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1786, in _call_impl + return forward_call(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/accelerate/utils/operations.py", line 819, in forward + return model_forward(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/accelerate/utils/operations.py", line 807, in __call__ + return convert_to_fp32(self.model_forward(*args, **kwargs)) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/amp/autocast_mode.py", line 44, in decorate_autocast + return func(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/vibevoice/modular/modeling_vibevoice.py", line 363, in forward + speech_all_features, speech_all_connect_features = self.forward_speech_features( + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/vibevoice/modular/modeling_vibevoice.py", line 290, in forward_speech_features + frames = self.model.acoustic_tokenizer.encode(speech_tensors.unsqueeze(1))[0][0] + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/finetune_vibevoice_lora0.py", line 204, in encode_wrapped + out = base_encode(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/utils/_contextlib.py", line 120, in decorate_context + return func(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_tokenizer.py", line 1084, in encode + latents = self.encoder(audio, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1775, in _wrapped_call_impl + return self._call_impl(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1786, in _call_impl + return forward_call(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_tokenizer.py", line 811, in forward + x = self.forward_features(x, cache=cache, sample_indices=sample_indices, use_cache=use_cache, debug=debug) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_tokenizer.py", line 800, in forward_features + x = block.ffn(x) + ^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1775, in _wrapped_call_impl + return self._call_impl(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1786, in _call_impl + return forward_call(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/content/VibeVoice-finetuning/src/vibevoice/modular/modular_vibevoice_tokenizer.py", line 595, in forward + x = self.linear2(x) + ^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1775, in _wrapped_call_impl + return self._call_impl(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/module.py", line 1786, in _call_impl + return forward_call(*args, **kwargs) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ + File "/usr/local/lib/python3.12/dist-packages/torch/nn/modules/linear.py", line 134, in forward + return F.linear(input, self.weight, self.bias) + ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ +KeyboardInterrupt diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/requirements.txt b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/requirements.txt new file mode 100644 index 0000000000000000000000000000000000000000..f2978c96caaca9f204690d18885e5adee315acb6 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/requirements.txt @@ -0,0 +1,752 @@ +setuptools==75.2.0 +types-setuptools==80.10.0.20260124 +pip==24.1.2 +requirements-parser==0.9.0 +cfgv==3.5.0 +s3tokenizer==0.3.0 +datasets==2.21.0 +onnx==1.20.1 +filelock==3.24.2 +vibevoice-finetuning==0.1.0 +fsspec==2024.6.1 +identify==2.6.16 +conformer==0.3.2 +safetensors==0.5.3 +diffusers==0.29.0 +huggingface_hub==0.36.2 +nodeenv==1.10.0 +virtualenv==20.37.0 +pre_commit==4.5.1 +distlib==0.4.0 +tokenizers==0.21.4 +peft==0.7.1 +resampy==0.4.3 +numpy==1.26.4 +resemble-perth==1.0.1 +transformers==4.51.3 +google-colab==1.0.0 +patsy==1.0.2 +aiofiles==24.1.0 +tensorflow-text==2.19.0 +tensorflow-hub==0.16.1 +google-cloud-dataproc==5.24.0 +jsonpickle==4.1.1 +numba-cuda==0.19.2 +treelite==4.4.1 +ucxx-cu12==0.46.0 +opencv-contrib-python==4.13.0.92 +jupyter_server_terminals==0.5.4 +astropy-iers-data==0.2026.2.9.0.50.33 +geemap==0.35.3 +pyshp==3.0.3 +rpy2==3.5.17 +pickleshare==0.7.5 +numexpr==2.14.1 +html5lib==1.1 +music21==9.9.1 +notebook==6.5.7 +ipython==7.34.0 +nvidia-cusparse-cu12==12.5.8.93 +python-utils==3.9.1 +nest-asyncio==1.6.0 +pytz==2025.2 +sphinxcontrib-qthelp==2.0.0 +cuda-toolkit==12.9.1 +google==3.0.0 +PySocks==1.7.1 +tiktoken==0.12.0 +python-json-logger==4.0.0 +backcall==0.2.0 +wordcloud==1.9.6 +google-api-python-client==2.190.0 +ibis-framework==9.5.0 +astunparse==1.6.3 +tomlkit==0.13.3 +jupytext==1.19.1 +opentelemetry-exporter-otlp-proto-common==1.38.0 +pydotplus==2.0.2 +tinycss2==1.4.0 +SecretStorage==3.5.0 +toml==0.10.2 +oauthlib==3.3.1 +markdown-it-py==4.0.0 +highspy==1.13.1 +ormsgpack==1.12.2 +matplotlib-venn==1.1.2 +torchaudio==2.9.0+cu128 +certifi==2026.1.4 +pydub==0.25.1 +joblib==1.5.3 +keyrings.google-artifactregistry-auth==1.1.2 +wandb==0.24.2 +dask==2025.9.1 +grpc-google-iam-v1==0.14.3 +mkl==2025.3.1 +tsfresh==0.21.1 +chardet==5.2.0 +shellingham==1.5.4 +stanio==0.5.1 +tzlocal==5.3.1 +google-pasta==0.2.0 +psutil==5.9.5 +editdistance==0.8.1 +pyspark==4.0.2 +multidict==6.7.1 +cupy-cuda12x==13.6.0 +Werkzeug==3.1.5 +ipykernel==6.17.1 +networkx==3.6.1 +google-cloud-datastore==2.23.0 +typer==0.23.0 +natsort==8.4.0 +tensorflow_decision_forests==1.12.0 +db-dtypes==1.5.0 +fastapi==0.129.0 +python-slugify==8.0.4 +plotnine==0.14.5 +tensorflow-metadata==1.17.3 +mlxtend==0.23.4 +segregation==2.5.3 +tblib==3.2.2 +namex==0.1.0 +google-cloud-trace==1.18.0 +pyasn1==0.6.2 +antlr4-python3-runtime==4.9.3 +keyring==25.7.0 +soupsieve==2.8.3 +lxml==6.0.2 +cramjam==2.11.0 +mgwr==2.2.1 +fastcore==1.12.13 +click-plugins==1.1.1.2 +immutabledict==4.3.0 +tensorflow-probability==0.25.0 +imbalanced-learn==0.14.1 +nvidia-cuda-nvcc-cu12==12.5.82 +gym==0.25.2 +jiter==0.13.0 +click==8.3.1 +simsimd==6.5.12 +hpack==4.1.0 +pointpats==2.5.2 +snowballstemmer==3.0.1 +frozendict==2.4.7 +textblob==0.19.0 +rsa==4.9.1 +pyerfa==2.0.1.5 +ffmpy==1.0.0 +fastjsonschema==2.21.2 +flatbuffers==25.12.19 +colour==0.1.5 +optax==0.2.7 +hyperopt==0.2.7 +fqdn==1.5.1 +google-cloud-audit-log==0.4.0 +langsmith==0.7.1 +pyviz_comms==3.0.6 +widgetsnbextension==3.6.10 +fastrlock==0.8.3 +rasterstats==0.20.0 +google-cloud-core==2.5.0 +entrypoints==0.4 +giddy==2.3.8 +nvidia-curand-cu12==10.3.9.90 +langgraph==1.0.8 +smart_open==7.5.0 +h11==0.16.0 +clarabel==0.11.1 +psycopg2==2.9.11 +splot==1.1.7 +nvidia-nvtx-cu12==12.8.90 +jax-cuda12-pjrt==0.7.2 +multipledispatch==1.0.0 +parsy==2.2 +polars==1.31.0 +pylibcudf-cu12==25.10.0 +jsonschema==4.26.0 +gitdb==4.0.12 +wasabi==1.1.3 +dask-cudf-cu12==25.10.0 +requests-toolbelt==1.0.0 +ratelim==0.1.6 +tqdm==4.67.3 +google-cloud-logging==3.13.0 +pyasn1_modules==0.4.2 +google-auth-oauthlib==1.2.4 +cvxopt==1.3.2 +propcache==0.4.1 +opentelemetry-exporter-gcp-monitoring==1.11.0a0 +catalogue==2.0.10 +missingno==0.5.2 +libcugraph-cu12==25.10.1 +aiosqlite==0.22.1 +soundfile==0.13.1 +psygnal==0.15.1 +python-fasthtml==0.12.41 +opentelemetry-exporter-otlp-proto-http==1.38.0 +google-cloud-storage==3.9.0 +attrs==25.4.0 +xarray==2025.12.0 +ipyevents==2.0.4 +pandas-gbq==0.30.0 +dataproc-spark-connect==1.0.2 +multiprocess==0.70.16 +sniffio==1.3.1 +isoduration==20.11.0 +geopandas==1.1.2 +mistune==3.2.0 +httpcore==1.0.9 +gspread==6.2.1 +holoviews==1.22.1 +portpicker==1.5.2 +libclang==18.1.1 +pyproj==3.7.2 +atpublic==5.1 +linkify-it-py==2.0.3 +uvloop==0.22.1 +nibabel==5.3.3 +fiona==1.10.1 +colorcet==3.1.0 +aiohttp==3.13.3 +idna==3.11 +rapids-logger==0.1.19 +access==1.1.10.post3 +babel==2.18.0 +cryptography==43.0.3 +duckdb==1.3.2 +annotated-types==0.7.0 +fastlite==0.2.4 +omegaconf==2.3.0 +typer-slim==0.23.0 +jaraco.context==6.1.0 +spacy-loggers==1.0.5 +parso==0.8.6 +httpx-sse==0.4.3 +protobuf==5.29.6 +cuda-python==12.9.5 +Jinja2==3.1.6 +sphinxcontrib-jsmath==1.0.1 +umf==1.0.3 +momepy==0.11.0 +python-box==7.3.2 +cons==0.4.7 +earthengine-api==1.5.24 +blosc2==4.0.0 +tenacity==9.1.4 +xyzservices==2025.11.0 +rmm-cu12==25.10.0 +python-dotenv==1.2.1 +cuda-pathfinder==1.3.4 +spanner-graph-notebook==1.1.8 +opentelemetry-semantic-conventions==0.59b0 +docstring_parser==0.17.0 +toolz==0.12.1 +graphviz==0.21 +sqlglot==25.20.2 +xarray-einstats==0.9.1 +nvidia-cudnn-cu12==9.10.2.21 +debugpy==1.8.15 +folium==0.20.0 +nvtx==0.2.14 +cycler==0.12.1 +simplejson==3.20.2 +PyJWT==2.11.0 +nltk==3.9.1 +rapids-dask-dependency==25.10.0 +langchain-core==1.2.12 +multitasking==0.0.12 +gradio_client==1.14.0 +pydata-google-auth==1.9.1 +Bottleneck==1.4.2 +libraft-cu12==25.10.0 +blinker==1.9.0 +einops==0.8.2 +scs==3.2.11 +grpc-interceptor==0.15.4 +google-adk==1.25.0 +autograd==1.8.0 +libkvikio-cu12==25.10.0 +simple-parsing==0.1.8 +spacy==3.8.11 +pycairo==1.29.0 +groovy==0.1.2 +ipyfilechooser==0.6.0 +keras-hub==0.21.1 +astropy==7.2.0 +alabaster==1.0.0 +apswutils==0.1.2 +watchdog==6.0.0 +etils==1.13.0 +geocoder==1.38.1 +google-cloud-speech==2.36.1 +opentelemetry-proto==1.38.0 +tifffile==2026.1.28 +sklearn-compat==0.1.5 +stringzilla==4.6.0 +dopamine_rl==4.1.2 +pycparser==3.0 +notebook_shim==0.2.4 +spacy-legacy==3.0.12 +triton==3.5.0 +gym-notices==0.1.0 +google-auth==2.47.0 +xxhash==3.6.0 +narwhals==2.16.0 +curl_cffi==0.14.0 +ndindex==1.10.1 +jieba==0.42.1 +opentelemetry-exporter-gcp-trace==1.11.0 +safehttpx==0.1.7 +openai==2.20.0 +orbax-checkpoint==0.11.32 +arviz==0.22.0 +brotli==1.2.0 +keras-nlp==0.21.1 +pluggy==1.6.0 +firebase-admin==6.9.0 +rfc3987-syntax==1.1.0 +matplotlib-inline==0.2.1 +terminado==0.18.1 +kagglehub==0.3.13 +smmap==5.0.2 +grpcio==1.78.0 +etuples==0.3.10 +grpcio-status==1.71.2 +requests-oauthlib==2.0.0 +pycryptodomex==3.23.0 +google-cloud-translate==3.24.0 +nvidia-ml-py==13.590.48 +apsw==3.51.2.0 +Cython==3.0.12 +shap==0.50.0 +nvidia-cuda-nvrtc-cu12==12.8.93 +httplib2==0.31.2 +PyOpenGL==3.1.10 +weasel==0.4.3 +google-genai==1.63.0 +charset-normalizer==3.4.4 +cachetools==7.0.1 +librosa==0.11.0 +cuml-cu12==25.10.0 +orjson==3.11.7 +panel==1.8.7 +langgraph-sdk==0.3.5 +alembic==1.18.4 +Authlib==1.6.7 +hf-xet==1.2.0 +librmm-cu12==25.10.0 +itsdangerous==2.2.0 +seaborn==0.13.2 +tensorstore==0.1.81 +PyDrive2==1.21.3 +future==1.0.0 +regex==2025.11.3 +tf_keras==2.19.0 +opentelemetry-resourcedetector-gcp==1.11.0a0 +lightgbm==4.6.0 +webencodings==0.5.1 +pydantic==2.12.3 +nvidia-cuda-cupti-cu12==12.8.90 +ipytree==0.2.2 +Markdown==3.10.2 +proglog==0.1.12 +python-snappy==0.7.3 +torchdata==0.11.0 +libucx-cu12==1.19.0 +jsonpointer==3.0.0 +annotated-doc==0.0.4 +prettytable==3.17.0 +opencv-python-headless==4.13.0.92 +sphinxcontrib-htmlhelp==2.1.0 +torchcodec==0.8.0+cu128 +en_core_web_sm==3.8.0 +matplotlib==3.10.0 +raft-dask-cu12==25.10.0 +cloudpathlib==0.23.0 +google-cloud-bigquery-storage==2.36.1 +typing-inspection==0.4.2 +google-resumable-media==2.8.0 +branca==0.8.2 +tbb==2022.3.1 +lazy_loader==0.4 +pandas-stubs==2.2.2.240909 +Send2Trash==2.1.0 +bqplot==0.12.45 +pysal==25.7 +nvidia-cufile-cu12==1.13.1.3 +mapclassify==2.10.0 +prometheus_client==0.24.1 +pynndescent==0.6.0 +types-pytz==2025.2.0.20251108 +humanize==4.15.0 +timm==1.0.24 +jeepney==0.9.0 +tf-slim==1.1.0 +google-cloud-secret-manager==2.26.0 +jupyter-leaflet==0.20.0 +sympy==1.14.0 +sentencepiece==0.2.1 +pillow==11.3.0 +ale-py==0.11.2 +pylibraft-cu12==25.10.0 +py4j==0.10.9.9 +wcwidth==0.6.0 +h5py==3.15.1 +distributed==2025.9.1 +nvidia-cublas-cu12==12.8.4.1 +spint==1.0.7 +wrapt==2.1.1 +numba==0.60.0 +gymnasium==1.2.3 +httpimport==1.4.1 +google-cloud-iam==2.21.0 +pandocfilters==1.5.1 +inflect==7.5.0 +sentence-transformers==5.2.2 +mdurl==0.1.2 +spglm==1.1.0 +ipython-sql==0.5.0 +google-api-core==2.29.0 +kaggle==1.7.4.5 +cufflinks==0.17.3 +nx-cugraph-cu12==25.10.0 +jaraco.functools==4.4.0 +vega-datasets==0.9.0 +pygame==2.6.1 +pandas-datareader==0.10.0 +progressbar2==4.5.0 +pydot==4.0.1 +aiohappyeyeballs==2.6.1 +uri-template==1.3.0 +ptyprocess==0.7.0 +msgpack==1.1.2 +pyOpenSSL==24.2.1 +easydict==1.13 +distributed-ucxx-cu12==0.46.0 +jax-cuda12-plugin==0.7.2 +ipywidgets==7.7.1 +opentelemetry-exporter-gcp-logging==1.11.0a0 +opencv-python==4.13.0.92 +dm-tree==0.1.9 +greenlet==3.3.1 +nvidia-cufft-cu12==11.3.3.83 +fasttransform==0.0.2 +pylibcugraph-cu12==25.10.1 +iniconfig==2.3.0 +jsonpatch==1.33 +libucxx-cu12==0.46.0 +aiosignal==1.4.0 +jupyter_server==2.14.0 +scikit-image==0.25.2 +arrow==1.4.0 +rich==13.9.4 +dill==0.3.8 +referencing==0.37.0 +hyperframe==6.1.0 +contourpy==1.3.3 +ydf==0.15.0 +logical-unification==0.4.7 +CacheControl==0.14.4 +openpyxl==3.1.5 +google-cloud-bigquery==3.40.1 +rfc3339-validator==0.1.4 +opt_einsum==3.4.0 +SQLAlchemy==2.0.46 +nvidia-cusolver-cu12==11.7.3.90 +PyYAML==6.0.3 +google-crc32c==1.8.0 +uuid_utils==0.14.0 +plum-dispatch==2.6.1 +locket==1.0.0 +sphinxcontrib-devhelp==2.0.0 +bleach==6.3.0 +yarl==1.22.0 +webcolors==25.10.0 +httpx==0.28.1 +jupyter_client==7.4.9 +gradio==5.50.0 +zipp==3.23.0 +miniKanren==1.0.5 +pooch==1.9.0 +intel-openmp==2025.3.2 +gdown==5.2.1 +langgraph-checkpoint==4.0.0 +zict==3.0.0 +prophet==1.3.0 +google-cloud-spanner==3.62.0 +torchao==0.10.0 +kiwisolver==1.4.9 +importlib_metadata==8.7.1 +googledrivedownloader==1.1.0 +termcolor==3.3.0 +cmdstanpy==1.3.0 +torchtune==0.6.1 +keras==3.10.0 +ml_dtypes==0.5.4 +plotly==5.24.1 +docutils==0.21.2 +google-cloud-appengine-logging==1.8.0 +google-cloud-aiplatform==1.137.0 +anywidget==0.9.21 +Farama-Notifications==0.0.4 +tensorflow-datasets==4.9.9 +uc-micro-py==1.0.3 +defusedxml==0.7.1 +tzdata==2025.3 +more-itertools==10.8.0 +tensorboard==2.19.0 +imutils==0.5.4 +cffi==2.0.0 +importlib_resources==6.5.2 +google-cloud-monitoring==2.29.1 +sse-starlette==3.2.0 +tweepy==4.16.0 +platformdirs==4.6.0 +google-ai-generativelanguage==0.6.15 +pycocotools==2.0.11 +ruff==0.15.0 +nbclient==0.10.4 +statsmodels==0.14.6 +slicer==0.0.8 +websockets==15.0.1 +pygit2==1.19.1 +python-louvain==0.16 +dask-cuda==25.10.0 +jax==0.7.2 +mizani==0.13.5 +stumpy==1.13.0 +text-unidecode==1.3 +yellowbrick==1.5 +jupyter_kernel_gateway==2.5.2 +xlrd==2.0.2 +proto-plus==1.27.1 +nvidia-nccl-cu12==2.27.5 +preshed==3.0.12 +sphinxcontrib-serializinghtml==2.0.0 +oauth2client==4.1.3 +decorator==4.4.2 +soxr==1.0.0 +mmh3==5.2.0 +imageio-ffmpeg==0.6.0 +GDAL==3.8.4 +gspread-dataframe==4.0.0 +pydantic-settings==2.12.0 +traittypes==0.2.3 +albumentations==2.0.8 +yfinance==0.2.66 +py-cpuinfo==9.0.0 +watchfiles==1.1.1 +tobler==0.13.0 +pytensor==2.37.0 +jupyter-console==6.6.3 +promise==2.3 +bokeh==3.7.3 +nvidia-cuda-runtime-cu12==12.8.90 +nvidia-cusparselt-cu12==0.7.1 +pydantic_core==2.41.4 +rasterio==1.5.0 +imagesize==1.4.1 +mcp==1.26.0 +betterproto==2.0.0b6 +flax==0.11.2 +fastai==2.8.6 +gin-config==0.5.0 +argon2-cffi-bindings==25.1.0 +bigframes==2.33.0 +googleapis-common-protos==1.72.0 +spaghetti==1.7.6 +inequality==1.1.2 +tensorboard-data-server==0.7.2 +ipython-genutils==0.2.0 +pytest==8.4.2 +PuLP==3.3.0 +cmake==3.31.10 +uritemplate==4.2.0 +treescope==0.1.10 +ImageIO==2.37.2 +eerepr==0.1.2 +zstandard==0.25.0 +google-cloud-pubsub==2.35.0 +anyio==4.12.1 +google-cloud-language==2.19.0 +sqlparse==0.5.5 +google-cloud-bigtable==2.35.0 +grpclib==0.4.9 +altair==5.5.0 +roman-numerals==4.1.0 +typing_extensions==4.15.0 +prompt_toolkit==3.0.52 +google-auth-httplib2==0.3.0 +srsly==2.5.2 +intel-cmplr-lib-ur==2025.3.2 +six==1.17.0 +pymc==5.27.1 +nvidia-cuda-cccl-cu12==12.9.27 +jupyter-events==0.12.0 +rtree==1.4.1 +pyogrio==0.12.1 +cymem==2.0.13 +fastdownload==0.0.7 +audioread==3.1.0 +sortedcontainers==2.4.0 +esda==2.8.1 +pexpect==4.9.0 +rfc3986-validator==0.1.1 +wurlitzer==3.1.1 +sentry-sdk==2.52.0 +uvicorn==0.40.0 +fonttools==4.61.1 +PyWavelets==1.9.0 +param==2.3.2 +langchain==1.2.10 +nbformat==5.10.4 +geopy==2.4.1 +blobfile==3.2.0 +google-cloud-discoveryengine==0.13.12 +jaraco.classes==3.4.0 +beartype==0.22.9 +tables==3.10.2 +mdit-py-plugins==0.5.0 +wheel==0.46.3 +osqp==1.1.1 +holidays==0.90 +opentelemetry-api==1.38.0 +et_xmlfile==2.0.0 +torchsummary==1.5.1 +cuda-bindings==12.9.5 +semantic-version==2.10.0 +overrides==7.7.0 +spopt==0.7.0 +h5netcdf==1.8.1 +torchvision==0.24.0+cu128 +google-generativeai==0.8.6 +threadpoolctl==3.6.0 +umap-learn==0.5.11 +libpysal==4.14.1 +starlette==0.52.1 +jaxlib==0.7.2 +dlib==19.24.6 +jupyterlab_widgets==3.0.16 +httptools==0.7.1 +peewee==3.19.0 +urllib3==2.5.0 +pyzmq==26.2.1 +pyarrow==18.1.0 +colorlover==0.3.0 +ipyparallel==8.8.0 +roman-numerals-py==4.1.0 +Sphinx==8.2.3 +python-dateutil==2.9.0.post0 +google-cloud-bigquery-connection==1.20.0 +jsonschema-specifications==2025.9.1 +typeguard==4.4.4 +tensorflow==2.19.0 +cudf-polars-cu12==25.10.0 +cyipopt==1.5.0 +xgboost==3.2.0 +llvmlite==0.43.0 +fastprogress==1.1.3 +partd==1.4.2 +gast==0.7.0 +ipyleaflet==0.20.0 +scooby==0.11.0 +nvidia-nvshmem-cu12==3.3.20 +langgraph-prebuilt==1.0.7 +shapely==2.1.2 +mpmath==1.3.0 +nbconvert==7.17.0 +pyperclip==1.11.0 +glob2==0.7 +python-multipart==0.0.22 +optree==0.18.0 +nbclassic==1.3.3 +traitlets==5.7.1 +geographiclib==2.1 +beautifulsoup4==4.13.5 +moviepy==1.0.3 +hdbscan==0.8.41 +Flask==3.1.2 +jupyter_core==5.9.1 +nvidia-nvjitlink-cu12==12.8.93 +GitPython==3.1.46 +argon2-cffi==25.1.0 +MarkupSafe==3.0.3 +spreg==1.8.5 +quantecon==0.10.1 +cloudpickle==3.1.2 +Pygments==2.19.2 +torch==2.9.0+cu128 +google-cloud-resource-manager==1.16.0 +pyomo==6.9.5 +affine==2.4.0 +ply==3.11 +scipy==1.16.3 +accelerate==1.12.0 +cudf-cu12==25.10.0 +gcsfs==2025.3.0 +blis==1.3.3 +frozenlist==1.8.0 +scikit-learn==1.6.1 +community==1.0.0b1 +google-cloud-firestore==2.23.0 +deprecation==2.1.0 +rpds-py==0.30.0 +Mako==1.3.10 +absl-py==1.4.0 +array_record==0.8.3 +opentelemetry-sdk==1.38.0 +packaging==26.0 +onemkl-license==2025.3.1 +tabulate==0.9.0 +cvxpy==1.6.7 +libcuml-cu12==25.10.0 +google-cloud-functions==1.22.0 +h2==4.3.0 +murmurhash==1.0.15 +lark==1.3.1 +PyGObject==3.48.2 +thinc==8.3.10 +grain==0.2.15 +sklearn-pandas==2.2.0 +pandas==2.2.2 +jupyterlab_pygments==0.3.0 +websocket-client==1.9.0 +sphinxcontrib-applehelp==2.0.0 +albucore==0.0.24 +tcmlib==1.4.1 +tornado==6.5.1 +pyparsing==3.3.2 +confection==0.1.5 +cuda-core==0.3.2 +requests==2.32.4 +sqlalchemy-spanner==1.17.2 +cligj==0.7.2 +distro==1.9.0 +bigquery-magics==0.12.0 +libcudf-cu12==25.10.0 +python-apt==0.0.0 +vibevoice-finetuning==0.1.0 +httplib2==0.20.2 +cryptography==3.4.8 +distro==1.7.0 +PyJWT==2.3.0 +blinker==1.4 +six==1.16.0 +jeepney==0.7.1 +pyparsing==2.4.7 +python-apt==2.4.0+ubuntu4.1 +more-itertools==8.10.0 +oauthlib==3.2.0 +SecretStorage==3.3.1 +importlib-metadata==4.6.4 +launchpadlib==1.10.16 +lazr.uri==1.0.6 +zipp==1.0.0 +keyring==23.5.0 +dbus-python==1.2.18 +PyGObject==3.42.1 +lazr.restfulclient==0.14.4 +wadllib==1.3.6 +Markdown==3.3.6 +MarkupSafe==2.0.1 +Mako==1.1.3 diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/wandb-metadata.json b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/wandb-metadata.json new file mode 100644 index 0000000000000000000000000000000000000000..355524702dbf19e1a382585dd2968ff5c6256379 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/wandb-metadata.json @@ -0,0 +1,98 @@ +{ + "os": "Linux-6.6.105+-x86_64-with-glibc2.35", + "python": "CPython 3.12.12", + "startedAt": "2026-02-18T14:36:17.761028Z", + "args": [ + "--model_name_or_path", + "microsoft/VibeVoice-1.5B", + "--processor_name_or_path", + "vibevoice/processor", + "--text_column_name", + "text", + "--audio_column_name", + "audio", + "--voice_prompts_column_name", + "voice_prompts", + "--output_dir", + "/content/", + "--per_device_train_batch_size", + "1", + "--gradient_accumulation_steps", + "12", + "--learning_rate", + "5e-5", + "--num_train_epochs", + "10", + "--logging_steps", + "10", + "--save_steps", + "60", + "--eval_steps", + "80", + "--report_to", + "wandb", + "--lora_r", + "32", + "--lora_alpha", + "64", + "--remove_unused_columns", + "False", + "--fp16", + "True", + "--do_train", + "--gradient_clipping", + "--gradient_checkpointing", + "False", + "--ddpm_batch_mul", + "1", + "--diffusion_loss_weight", + "1.7", + "--train_diffusion_head", + "True", + "--ce_loss_weight", + "1.1", + "--voice_prompt_drop_rate", + "0.35", + "--lora_target_modules", + "q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj", + "--lr_scheduler_type", + "cosine", + "--warmup_ratio", + "0.1", + "--max_grad_norm", + "0.6" + ], + "program": "-m src.finetune_vibevoice_lora0", + "git": { + "remote": "https://github.com/voicepowered-ai/VibeVoice-finetuning.git", + "commit": "f74368637dd67fc3895d9f81365c50e65ae0641c" + }, + "email": "aralien0907@gmail.com", + "root": "/content/VibeVoice-finetuning", + "host": "d690d73e974e", + "executable": "/usr/bin/python3", + "cpu_count": 1, + "cpu_count_logical": 2, + "gpu": "Tesla T4", + "gpu_count": 1, + "disk": { + "/": { + "total": "120942624768", + "used": "58461388800" + } + }, + "memory": { + "total": "13605851136" + }, + "gpu_nvidia": [ + { + "name": "Tesla T4", + "memoryTotal": "16106127360", + "cudaCores": 2560, + "architecture": "Turing", + "uuid": "GPU-7e69ea04-764f-97d5-5a16-fe87280f30f7" + } + ], + "cudaVersion": "13.0", + "writerId": "t9iezcc8p78hk4ahqovb3s40i4tbnxqa" +} \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/wandb-summary.json b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/wandb-summary.json new file mode 100644 index 0000000000000000000000000000000000000000..ef773b4fda66321352166e9c3fc73ab1051c12c7 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/files/wandb-summary.json @@ -0,0 +1 @@ +{"train/train/learning_rate_real":1.5e-06,"train/train/diffusion_loss":0.5643084049224854,"_step":468,"train/learning_rate":1.0000000000000002e-06,"train/grad_norm":567.853515625,"_wandb":{"runtime":271},"train/debug/num_lat_loss":66,"train/debug/num_lat_total":137,"_timestamp":1.77142560625742e+09,"train/loss":266.6681,"train/epoch":0.04,"train/debug/num_tok_total":137,"train/global_step":12,"_runtime":271,"train/debug/num_tok_loss":66,"train/train/ce_loss":19.88117790222168} \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug-core.log b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug-core.log new file mode 100644 index 0000000000000000000000000000000000000000..a83fc70ecc350956c79924334758810168502362 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug-core.log @@ -0,0 +1,15 @@ +{"time":"2026-02-18T14:36:18.318814742Z","level":"INFO","msg":"main: starting server","port-filename":"/tmp/tmp0wbus73a/port-5160.txt","pid":5160,"log-level":0,"disable-analytics":false,"shutdown-on-parent-exit":false,"enable-dcgm-profiling":false} +{"time":"2026-02-18T14:36:18.321087077Z","level":"INFO","msg":"server: will exit if parent process dies","ppid":5160} +{"time":"2026-02-18T14:36:18.321067352Z","level":"INFO","msg":"server: accepting connections","addr":{"Name":"/tmp/wandb-5160-5567-2770610517/socket","Net":"unix"}} +{"time":"2026-02-18T14:36:18.399979831Z","level":"INFO","msg":"connection: ManageConnectionData: new connection created","id":"1(@)"} +{"time":"2026-02-18T14:36:18.409154509Z","level":"INFO","msg":"handleInformInit: received","streamId":"09tsct60","id":"1(@)"} +{"time":"2026-02-18T14:36:18.628861539Z","level":"INFO","msg":"handleInformInit: stream started","streamId":"09tsct60","id":"1(@)"} +{"time":"2026-02-18T14:36:24.874341837Z","level":"INFO","msg":"connection: cancelling request","id":"1(@)","requestId":"pjma6uerg29o"} +{"time":"2026-02-18T14:40:50.543872095Z","level":"INFO","msg":"handleInformTeardown: server teardown initiated","id":"1(@)"} +{"time":"2026-02-18T14:40:50.574774548Z","level":"INFO","msg":"server is shutting down"} +{"time":"2026-02-18T14:40:50.572588823Z","level":"INFO","msg":"connection: closing","id":"1(@)"} +{"time":"2026-02-18T14:40:50.574865205Z","level":"INFO","msg":"connection: closed successfully","id":"1(@)"} +{"time":"2026-02-18T14:40:50.58755877Z","level":"INFO","msg":"server: listener closed","addr":{"Name":"/tmp/wandb-5160-5567-2770610517/socket","Net":"unix"}} +{"time":"2026-02-18T14:40:51.310034699Z","level":"INFO","msg":"handleInformTeardown: server shutdown complete","id":"1(@)"} +{"time":"2026-02-18T14:40:51.310110514Z","level":"INFO","msg":"connection: ManageConnectionData: connection closed","id":"1(@)"} +{"time":"2026-02-18T14:40:51.310270762Z","level":"INFO","msg":"server is closed"} diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug-internal.log b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug-internal.log new file mode 100644 index 0000000000000000000000000000000000000000..83d6623d8ae431cf59ad9de60807c621fb0b3128 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug-internal.log @@ -0,0 +1,13 @@ +{"time":"2026-02-18T14:36:18.40937558Z","level":"INFO","msg":"stream: starting","core version":"0.24.2"} +{"time":"2026-02-18T14:36:18.628487285Z","level":"INFO","msg":"stream: created new stream","id":"09tsct60"} +{"time":"2026-02-18T14:36:18.62869693Z","level":"INFO","msg":"handler: started","stream_id":"09tsct60"} +{"time":"2026-02-18T14:36:18.62884976Z","level":"INFO","msg":"stream: started","id":"09tsct60"} +{"time":"2026-02-18T14:36:18.628893218Z","level":"INFO","msg":"writer: started","stream_id":"09tsct60"} +{"time":"2026-02-18T14:36:18.629017724Z","level":"INFO","msg":"sender: started","stream_id":"09tsct60"} +{"time":"2026-02-18T14:40:50.527866219Z","level":"INFO","msg":"flowcontrol: backed up, offloading to disk","recordNumber":4799} +{"time":"2026-02-18T14:40:50.559873809Z","level":"INFO","msg":"stream: closing","id":"09tsct60"} +{"time":"2026-02-18T14:40:50.553537947Z","level":"INFO","msg":"flowcontrol: unblocked","totalOffloaded":1} +{"time":"2026-02-18T14:40:51.145529744Z","level":"INFO","msg":"fileTransfer: Close: file transfer manager closed"} +{"time":"2026-02-18T14:40:51.304192086Z","level":"INFO","msg":"handler: closed","stream_id":"09tsct60"} +{"time":"2026-02-18T14:40:51.306845729Z","level":"INFO","msg":"sender: closed","stream_id":"09tsct60"} +{"time":"2026-02-18T14:40:51.30689593Z","level":"INFO","msg":"stream: closed","id":"09tsct60"} diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug.log b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug.log new file mode 100644 index 0000000000000000000000000000000000000000..ddec4c825bd09d0353affbb9f1515fd26074cbc8 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug.log @@ -0,0 +1,24 @@ +2026-02-18 14:36:17,765 INFO MainThread:5160 [wandb_setup.py:_flush():81] Current SDK version is 0.24.2 +2026-02-18 14:36:17,765 INFO MainThread:5160 [wandb_setup.py:_flush():81] Configure stats pid to 5160 +2026-02-18 14:36:17,765 INFO MainThread:5160 [wandb_setup.py:_flush():81] Loading settings from environment variables +2026-02-18 14:36:17,765 INFO MainThread:5160 [wandb_init.py:setup_run_log_directory():717] Logging user logs to /content/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug.log +2026-02-18 14:36:17,765 INFO MainThread:5160 [wandb_init.py:setup_run_log_directory():718] Logging internal logs to /content/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/logs/debug-internal.log +2026-02-18 14:36:17,765 INFO MainThread:5160 [wandb_init.py:init():844] calling init triggers +2026-02-18 14:36:17,765 INFO MainThread:5160 [wandb_init.py:init():849] wandb.init called with sweep_config: {} +config: {'_wandb': {}} +2026-02-18 14:36:17,765 INFO MainThread:5160 [wandb_init.py:init():892] starting backend +2026-02-18 14:36:18,399 INFO MainThread:5160 [wandb_init.py:init():895] sending inform_init request +2026-02-18 14:36:18,405 INFO MainThread:5160 [wandb_init.py:init():903] backend started and connected +2026-02-18 14:36:18,409 INFO MainThread:5160 [wandb_init.py:init():973] updated telemetry +2026-02-18 14:36:18,441 INFO MainThread:5160 [wandb_init.py:init():997] communicating run to backend with 90.0 second timeout +2026-02-18 14:36:18,803 INFO MainThread:5160 [wandb_init.py:init():1042] starting run threads in backend +2026-02-18 14:36:19,867 INFO MainThread:5160 [wandb_run.py:_console_start():2529] atexit reg +2026-02-18 14:36:19,868 INFO MainThread:5160 [wandb_run.py:_redirect():2377] redirect: wrap_raw +2026-02-18 14:36:19,868 INFO MainThread:5160 [wandb_run.py:_redirect():2446] Wrapping output streams. +2026-02-18 14:36:19,868 INFO MainThread:5160 [wandb_run.py:_redirect():2469] Redirects installed. +2026-02-18 14:36:19,871 INFO MainThread:5160 [wandb_init.py:init():1082] run started, returning control to user process +2026-02-18 14:36:19,874 INFO MainThread:5160 [wandb_run.py:_config_callback():1404] config_cb None None {'acoustic_tokenizer_config': {'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_acoustic_tokenizer', 'channels': 1, 'corpus_normalize': 0.0, 'causal': True, 'vae_dim': 64, 'fix_std': 0.5, 'std_dist_type': 'gaussian', 'conv_norm': 'none', 'pad_mode': 'constant', 'layernorm_eps': 1e-05, 'disable_last_norm': True, 'layernorm': 'RMSNorm', 'layernorm_elementwise_affine': True, 'conv_bias': True, 'layer_scale_init_value': 1e-06, 'weight_init_value': 0.01, 'mixer_layer': 'depthwise_conv', 'encoder_n_filters': 32, 'encoder_ratios': [8, 5, 5, 4, 2, 2], 'encoder_depths': '3-3-3-3-3-3-8', 'decoder_ratios': [8, 5, 5, 4, 2, 2], 'decoder_n_filters': 32, 'decoder_depths': None}, 'semantic_tokenizer_config': {'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_semantic_tokenizer', 'channels': 1, 'corpus_normalize': 0.0, 'causal': True, 'vae_dim': 128, 'fix_std': 0, 'std_dist_type': 'none', 'conv_norm': 'none', 'pad_mode': 'constant', 'layernorm_eps': 1e-05, 'disable_last_norm': True, 'layernorm': 'RMSNorm', 'layernorm_elementwise_affine': True, 'conv_bias': True, 'layer_scale_init_value': 1e-06, 'weight_init_value': 0.01, 'mixer_layer': 'depthwise_conv', 'encoder_n_filters': 32, 'encoder_ratios': [8, 5, 5, 4, 2, 2], 'encoder_depths': '3-3-3-3-3-3-8'}, 'decoder_config': {'vocab_size': 151936, 'max_position_embeddings': 65536, 'hidden_size': 1536, 'intermediate_size': 8960, 'num_hidden_layers': 28, 'num_attention_heads': 12, 'use_sliding_window': False, 'sliding_window': None, 'max_window_layers': 28, 'num_key_value_heads': 2, 'hidden_act': 'silu', 'initializer_range': 0.02, 'rms_norm_eps': 1e-06, 'use_cache': True, 'rope_theta': 1000000.0, 'rope_scaling': None, 'attention_dropout': 0.0, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'qwen2'}, 'diffusion_head_config': {'hidden_size': 1536, 'head_layers': 4, 'head_ffn_ratio': 3.0, 'rms_norm_eps': 1e-05, 'latent_size': 64, 'speech_vae_dim': 64, 'prediction_type': 'v_prediction', 'diffusion_type': 'ddpm', 'ddpm_num_steps': 1000, 'ddpm_num_inference_steps': 20, 'ddpm_beta_schedule': 'cosine', 'ddpm_batch_mul': 4, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_diffusion_head'}, 'acoustic_vae_dim': 64, 'semantic_vae_dim': 128, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': ['VibeVoiceForConditionalGeneration'], 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': 'microsoft/VibeVoice-1.5B', '_attn_implementation_autoset': True, 'transformers_version': '4.51.3', 'model_type': 'vibevoice', 'output_dir': '/content/', 'overwrite_output_dir': False, 'do_train': True, 'do_eval': False, 'do_predict': False, 'eval_strategy': 'no', 'prediction_loss_only': False, 'per_device_train_batch_size': 1, 'per_device_eval_batch_size': 8, 'per_gpu_train_batch_size': None, 'per_gpu_eval_batch_size': None, 'gradient_accumulation_steps': 12, 'eval_accumulation_steps': None, 'eval_delay': 0, 'torch_empty_cache_steps': None, 'learning_rate': 5e-05, 'weight_decay': 0.0, 'adam_beta1': 0.9, 'adam_beta2': 0.999, 'adam_epsilon': 1e-08, 'max_grad_norm': 0.6, 'num_train_epochs': 10.0, 'max_steps': -1, 'lr_scheduler_type': 'cosine', 'lr_scheduler_kwargs': {}, 'warmup_ratio': 0.1, 'warmup_steps': 0, 'log_level': 'passive', 'log_level_replica': 'warning', 'log_on_each_node': True, 'logging_dir': '/content/runs/Feb18_14-35-16_d690d73e974e', 'logging_strategy': 'steps', 'logging_first_step': False, 'logging_steps': 10, 'logging_nan_inf_filter': True, 'save_strategy': 'steps', 'save_steps': 60, 'save_total_limit': None, 'save_safetensors': True, 'save_on_each_node': False, 'save_only_model': False, 'restore_callback_states_from_checkpoint': False, 'no_cuda': False, 'use_cpu': False, 'use_mps_device': False, 'seed': 42, 'data_seed': None, 'jit_mode_eval': False, 'use_ipex': False, 'bf16': False, 'fp16': True, 'fp16_opt_level': 'O1', 'half_precision_backend': 'auto', 'bf16_full_eval': False, 'fp16_full_eval': False, 'tf32': None, 'local_rank': 0, 'ddp_backend': None, 'tpu_num_cores': None, 'tpu_metrics_debug': False, 'debug': [], 'dataloader_drop_last': False, 'eval_steps': 80.0, 'dataloader_num_workers': 0, 'dataloader_prefetch_factor': None, 'past_index': -1, 'run_name': '/content/', 'disable_tqdm': False, 'remove_unused_columns': False, 'label_names': None, 'load_best_model_at_end': False, 'metric_for_best_model': None, 'greater_is_better': None, 'ignore_data_skip': False, 'fsdp': [], 'fsdp_min_num_params': 0, 'fsdp_config': {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}, 'tp_size': 0, 'fsdp_transformer_layer_cls_to_wrap': None, 'accelerator_config': {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}, 'deepspeed': None, 'label_smoothing_factor': 0.0, 'optim': 'adamw_torch', 'optim_args': None, 'adafactor': False, 'group_by_length': False, 'length_column_name': 'length', 'report_to': ['wandb'], 'ddp_find_unused_parameters': None, 'ddp_bucket_cap_mb': None, 'ddp_broadcast_buffers': None, 'dataloader_pin_memory': True, 'dataloader_persistent_workers': False, 'skip_memory_metrics': True, 'use_legacy_prediction_loop': False, 'push_to_hub': False, 'resume_from_checkpoint': None, 'hub_model_id': None, 'hub_strategy': 'every_save', 'hub_token': '', 'hub_private_repo': None, 'hub_always_push': False, 'gradient_checkpointing': False, 'gradient_checkpointing_kwargs': None, 'include_inputs_for_metrics': False, 'include_for_metrics': [], 'eval_do_concat_batches': True, 'fp16_backend': 'auto', 'push_to_hub_model_id': None, 'push_to_hub_organization': None, 'push_to_hub_token': '', 'mp_parameters': '', 'auto_find_batch_size': False, 'full_determinism': False, 'torchdynamo': None, 'ray_scope': 'last', 'ddp_timeout': 1800, 'torch_compile': False, 'torch_compile_backend': None, 'torch_compile_mode': None, 'include_tokens_per_second': False, 'include_num_input_tokens_seen': False, 'neftune_noise_alpha': None, 'optim_target_modules': None, 'batch_eval_metrics': False, 'eval_on_start': False, 'use_liger_kernel': False, 'eval_use_gather_object': False, 'average_tokens_across_devices': False, 'ddpm_batch_mul': 1, 'ce_loss_weight': 1.1, 'diffusion_loss_weight': 1.7, 'debug_ce_details': False, 'debug_ce_topk': 5, 'debug_ce_max_examples': 1, 'debug_ce_every_n_steps': 200, 'gradient_clipping': True, 'debug_save': False} +2026-02-18 14:36:19,885 INFO MainThread:5160 [wandb_config.py:__setitem__():154] [no run ID] config set model/num_parameters = 2740951521 - > +2026-02-18 14:36:19,885 INFO MainThread:5160 [wandb_run.py:_config_callback():1404] config_cb model/num_parameters 2740951521 None +2026-02-18 14:40:50,510 INFO wandb-AsyncioManager-main:5160 [service_client.py:_forward_responses():94] Reached EOF. +2026-02-18 14:40:50,513 INFO wandb-AsyncioManager-main:5160 [mailbox.py:close():154] Closing mailbox, abandoning 1 handles. diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/run-09tsct60.wandb b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/run-09tsct60.wandb new file mode 100644 index 0000000000000000000000000000000000000000..c8c797e8ce4dc9d0b584ed51e8f7a4a7fd4ff56b --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_143617-09tsct60/run-09tsct60.wandb @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:c5083e9e5897c5349767d9c50522c2f48e6acda766e864f4b7df536bf2813261 +size 546216 diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/files/output.log b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/files/output.log new file mode 100644 index 0000000000000000000000000000000000000000..4fc8a8e227445a0b89fdd0bba0b96b40792c1af8 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/files/output.log @@ -0,0 +1,470 @@ + +{'debug/num_tok_total': 145.0, 'debug/num_tok_loss': 39.0, 'debug/num_lat_total': 145.0, 'debug/num_lat_loss': 39.0, 'epoch': 0} +{'train/ce_loss': 17.624103546142578, 'train/diffusion_loss': 0.7094717025756836, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 152.0, 'debug/num_tok_loss': 45.0, 'debug/num_lat_total': 152.0, 'debug/num_lat_loss': 45.0, 'epoch': 0} +{'train/ce_loss': 18.688594818115234, 'train/diffusion_loss': 0.5714285373687744, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 85.0, 'debug/num_tok_loss': 34.0, 'debug/num_lat_total': 85.0, 'debug/num_lat_loss': 34.0, 'epoch': 0} +{'train/ce_loss': 17.47560691833496, 'train/diffusion_loss': 0.5668375492095947, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 166.0, 'debug/num_tok_loss': 117.0, 'debug/num_lat_total': 166.0, 'debug/num_lat_loss': 117.0, 'epoch': 0} +{'train/ce_loss': 20.7196044921875, 'train/diffusion_loss': 0.6255993247032166, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 154.0, 'debug/num_tok_loss': 83.0, 'debug/num_lat_total': 154.0, 'debug/num_lat_loss': 83.0, 'epoch': 0} +{'train/ce_loss': 20.959171295166016, 'train/diffusion_loss': 0.6066958904266357, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 153.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 153.0, 'debug/num_lat_loss': 47.0, 'epoch': 0} +{'train/ce_loss': 18.233762741088867, 'train/diffusion_loss': 0.5949330925941467, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 30.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 30.0, 'epoch': 0} +{'train/ce_loss': 16.892210006713867, 'train/diffusion_loss': 0.6077481508255005, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 138.0, 'debug/num_tok_loss': 31.0, 'debug/num_lat_total': 138.0, 'debug/num_lat_loss': 31.0, 'epoch': 0} +{'train/ce_loss': 16.396814346313477, 'train/diffusion_loss': 0.60689377784729, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 169.0, 'debug/num_tok_loss': 63.0, 'debug/num_lat_total': 169.0, 'debug/num_lat_loss': 63.0, 'epoch': 0} +{'train/ce_loss': 19.0556583404541, 'train/diffusion_loss': 0.5751490592956543, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 99.0, 'debug/num_tok_loss': 35.0, 'debug/num_lat_total': 99.0, 'debug/num_lat_loss': 35.0, 'epoch': 0} +{'train/ce_loss': 17.942827224731445, 'train/diffusion_loss': 0.5633095502853394, 'epoch': 0} +{'train/learning_rate_real': 0.0, 'epoch': 0} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 81.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 81.0, 'epoch': 0.0} +{'train/ce_loss': 20.29229164123535, 'train/diffusion_loss': 0.5666168928146362, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 117.0, 'debug/num_tok_loss': 11.0, 'debug/num_lat_total': 117.0, 'debug/num_lat_loss': 11.0, 'epoch': 0.0} +{'train/ce_loss': 13.591137886047363, 'train/diffusion_loss': 0.4021272659301758, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 206.0, 'debug/num_tok_loss': 99.0, 'debug/num_lat_total': 206.0, 'debug/num_lat_loss': 99.0, 'epoch': 0.0} +{'train/ce_loss': 21.090343475341797, 'train/diffusion_loss': 0.6082291007041931, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 148.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 148.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.0} +{'train/ce_loss': 19.46612548828125, 'train/diffusion_loss': 0.6474497318267822, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 116.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 116.0, 'debug/num_lat_loss': 47.0, 'epoch': 0.0} +{'train/ce_loss': 18.134809494018555, 'train/diffusion_loss': 0.6856439113616943, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 161.0, 'debug/num_tok_loss': 80.0, 'debug/num_lat_total': 161.0, 'debug/num_lat_loss': 80.0, 'epoch': 0.0} +{'train/ce_loss': 20.820384979248047, 'train/diffusion_loss': 0.5715802311897278, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.0} +{'train/ce_loss': 19.09589385986328, 'train/diffusion_loss': 0.5783407092094421, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 158.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 158.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.0} +{'train/ce_loss': 20.06045150756836, 'train/diffusion_loss': 0.5878459215164185, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 180.0, 'debug/num_tok_loss': 73.0, 'debug/num_lat_total': 180.0, 'debug/num_lat_loss': 73.0, 'epoch': 0.0} +{'train/ce_loss': 20.345367431640625, 'train/diffusion_loss': 0.652065098285675, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 101.0, 'debug/num_tok_loss': 20.0, 'debug/num_lat_total': 101.0, 'debug/num_lat_loss': 20.0, 'epoch': 0.0} +{'train/ce_loss': 15.036038398742676, 'train/diffusion_loss': 0.387031227350235, 'epoch': 0.0} +{'train/learning_rate_real': 0.0, 'epoch': 0.0} +{'debug/num_tok_total': 165.0, 'debug/num_tok_loss': 113.0, 'debug/num_lat_total': 165.0, 'debug/num_lat_loss': 113.0, 'epoch': 0.01} +{'train/ce_loss': 20.343006134033203, 'train/diffusion_loss': 0.6079820394515991, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 149.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 149.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.01} +{'train/ce_loss': 20.710960388183594, 'train/diffusion_loss': 0.5807090401649475, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 147.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 147.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.01} +{'train/ce_loss': 19.858078002929688, 'train/diffusion_loss': 0.6235314011573792, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 134.0, 'debug/num_tok_loss': 27.0, 'debug/num_lat_total': 134.0, 'debug/num_lat_loss': 27.0, 'epoch': 0.01} +{'train/ce_loss': 16.209667205810547, 'train/diffusion_loss': 0.5468798875808716, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 128.0, 'debug/num_tok_loss': 76.0, 'debug/num_lat_total': 128.0, 'debug/num_lat_loss': 76.0, 'epoch': 0.01} +{'train/ce_loss': 19.85587501525879, 'train/diffusion_loss': 0.6201486587524414, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 107.0, 'debug/num_tok_loss': 43.0, 'debug/num_lat_total': 107.0, 'debug/num_lat_loss': 43.0, 'epoch': 0.01} +{'train/ce_loss': 19.119394302368164, 'train/diffusion_loss': 0.6161847710609436, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 98.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 98.0, 'debug/num_lat_loss': 47.0, 'epoch': 0.01} +{'train/ce_loss': 16.98512840270996, 'train/diffusion_loss': 0.6135052442550659, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 115.0, 'debug/num_tok_loss': 96.0, 'debug/num_lat_total': 115.0, 'debug/num_lat_loss': 96.0, 'epoch': 0.01} +{'train/ce_loss': 20.251426696777344, 'train/diffusion_loss': 0.6778286695480347, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 121.0, 'debug/num_tok_loss': 52.0, 'debug/num_lat_total': 121.0, 'debug/num_lat_loss': 52.0, 'epoch': 0.01} +{'train/ce_loss': 19.211193084716797, 'train/diffusion_loss': 0.5722253918647766, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 19.677370071411133, 'train/diffusion_loss': 0.6380274295806885, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 168.0, 'debug/num_tok_loss': 61.0, 'debug/num_lat_total': 168.0, 'debug/num_lat_loss': 61.0, 'epoch': 0.01} +{'train/ce_loss': 19.51193618774414, 'train/diffusion_loss': 0.6553022861480713, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 160.0, 'debug/num_tok_loss': 96.0, 'debug/num_lat_total': 160.0, 'debug/num_lat_loss': 96.0, 'epoch': 0.01} +{'train/ce_loss': 20.536746978759766, 'train/diffusion_loss': 0.6725964546203613, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 160.0, 'debug/num_tok_loss': 89.0, 'debug/num_lat_total': 160.0, 'debug/num_lat_loss': 89.0, 'epoch': 0.01} +{'train/ce_loss': 20.379037857055664, 'train/diffusion_loss': 0.6461488008499146, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 49.0, 'debug/num_tok_loss': 30.0, 'debug/num_lat_total': 49.0, 'debug/num_lat_loss': 30.0, 'epoch': 0.01} +{'train/ce_loss': 16.79844856262207, 'train/diffusion_loss': 0.6155766248703003, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 182.0, 'debug/num_tok_loss': 111.0, 'debug/num_lat_total': 182.0, 'debug/num_lat_loss': 111.0, 'epoch': 0.01} +{'train/ce_loss': 21.026275634765625, 'train/diffusion_loss': 0.5858950614929199, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 211.0, 'debug/num_tok_loss': 104.0, 'debug/num_lat_total': 211.0, 'debug/num_lat_loss': 104.0, 'epoch': 0.01} +{'train/ce_loss': 21.564098358154297, 'train/diffusion_loss': 0.641681969165802, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 114.0, 'debug/num_tok_loss': 65.0, 'debug/num_lat_total': 114.0, 'debug/num_lat_loss': 65.0, 'epoch': 0.01} +{'train/ce_loss': 18.807844161987305, 'train/diffusion_loss': 0.6348744034767151, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 151.0, 'debug/num_tok_loss': 80.0, 'debug/num_lat_total': 151.0, 'debug/num_lat_loss': 80.0, 'epoch': 0.01} +{'train/ce_loss': 19.74795150756836, 'train/diffusion_loss': 0.6446933150291443, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 138.0, 'debug/num_tok_loss': 86.0, 'debug/num_lat_total': 138.0, 'debug/num_lat_loss': 86.0, 'epoch': 0.01} +{'train/ce_loss': 20.13687515258789, 'train/diffusion_loss': 0.5867917537689209, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 134.0, 'debug/num_tok_loss': 28.0, 'debug/num_lat_total': 134.0, 'debug/num_lat_loss': 28.0, 'epoch': 0.01} +{'train/ce_loss': 16.64942741394043, 'train/diffusion_loss': 0.48928365111351013, 'epoch': 0.01} +{'train/learning_rate_real': 0.0, 'epoch': 0.01} +{'debug/num_tok_total': 166.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 166.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.01} +{'train/ce_loss': 19.190689086914062, 'train/diffusion_loss': 0.5625889301300049, 'epoch': 0.01} +{'train/learning_rate_real': 1.7361111111111112e-07, 'epoch': 0.01} +{'debug/num_tok_total': 130.0, 'debug/num_tok_loss': 111.0, 'debug/num_lat_total': 130.0, 'debug/num_lat_loss': 111.0, 'epoch': 0.01} +{'train/ce_loss': 19.898826599121094, 'train/diffusion_loss': 0.6222584247589111, 'epoch': 0.01} +{'train/learning_rate_real': 1.7361111111111112e-07, 'epoch': 0.01} +{'debug/num_tok_total': 162.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 162.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.01} +{'train/ce_loss': 20.198333740234375, 'train/diffusion_loss': 0.5587427616119385, 'epoch': 0.01} +{'train/learning_rate_real': 1.7361111111111112e-07, 'epoch': 0.01} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 19.82209587097168, 'train/diffusion_loss': 0.6874608993530273, 'epoch': 0.01} +{'train/learning_rate_real': 1.7361111111111112e-07, 'epoch': 0.01} +{'debug/num_tok_total': 145.0, 'debug/num_tok_loss': 64.0, 'debug/num_lat_total': 145.0, 'debug/num_lat_loss': 64.0, 'epoch': 0.01} +{'train/ce_loss': 19.807933807373047, 'train/diffusion_loss': 0.6290066242218018, 'epoch': 0.01} +{'train/learning_rate_real': 1.7361111111111112e-07, 'epoch': 0.01} +{'debug/num_tok_total': 162.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 162.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.01} +{'train/ce_loss': 20.285276412963867, 'train/diffusion_loss': 0.6258421540260315, 'epoch': 0.01} +{'train/learning_rate_real': 1.7361111111111112e-07, 'epoch': 0.01} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.01} +{'train/ce_loss': 18.537385940551758, 'train/diffusion_loss': 0.6116793751716614, 'epoch': 0.01} +{'train/learning_rate_real': 1.7361111111111112e-07, 'epoch': 0.01} +{'debug/num_tok_total': 143.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 143.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 20.56442642211914, 'train/diffusion_loss': 0.6365885138511658, 'epoch': 0.01} +{'train/learning_rate_real': 1.7361111111111112e-07, 'epoch': 0.01} +{'debug/num_tok_total': 86.0, 'debug/num_tok_loss': 67.0, 'debug/num_lat_total': 86.0, 'debug/num_lat_loss': 67.0, 'epoch': 0.01} +{'train/ce_loss': 19.567869186401367, 'train/diffusion_loss': 0.6358458995819092, 'epoch': 0.01} +{'train/learning_rate_real': 1.7361111111111112e-07, 'epoch': 0.01} +{'debug/num_tok_total': 83.0, 'debug/num_tok_loss': 32.0, 'debug/num_lat_total': 83.0, 'debug/num_lat_loss': 32.0, 'epoch': 0.01} +{'train/ce_loss': 16.667713165283203, 'train/diffusion_loss': 0.5608019232749939, 'epoch': 0.01} +{'train/learning_rate_real': 1.7361111111111112e-07, 'epoch': 0.01} +{'debug/num_tok_total': 106.0, 'debug/num_tok_loss': 55.0, 'debug/num_lat_total': 106.0, 'debug/num_lat_loss': 55.0, 'epoch': 0.01} +{'train/ce_loss': 18.439180374145508, 'train/diffusion_loss': 0.5450182557106018, 'epoch': 0.01} +{'train/learning_rate_real': 3.4722222222222224e-07, 'epoch': 0.01} +{'debug/num_tok_total': 147.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 147.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.01} +{'train/ce_loss': 19.91761589050293, 'train/diffusion_loss': 0.6027352213859558, 'epoch': 0.01} +{'train/learning_rate_real': 3.4722222222222224e-07, 'epoch': 0.01} +{'debug/num_tok_total': 135.0, 'debug/num_tok_loss': 84.0, 'debug/num_lat_total': 135.0, 'debug/num_lat_loss': 84.0, 'epoch': 0.01} +{'train/ce_loss': 19.548765182495117, 'train/diffusion_loss': 0.5743993520736694, 'epoch': 0.01} +{'train/learning_rate_real': 3.4722222222222224e-07, 'epoch': 0.01} +{'debug/num_tok_total': 103.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 103.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.01} +{'train/ce_loss': 18.7719669342041, 'train/diffusion_loss': 0.6757559776306152, 'epoch': 0.01} +{'train/learning_rate_real': 3.4722222222222224e-07, 'epoch': 0.01} +{'debug/num_tok_total': 84.0, 'debug/num_tok_loss': 32.0, 'debug/num_lat_total': 84.0, 'debug/num_lat_loss': 32.0, 'epoch': 0.01} +{'train/ce_loss': 16.76695442199707, 'train/diffusion_loss': 0.4784492552280426, 'epoch': 0.01} +{'train/learning_rate_real': 3.4722222222222224e-07, 'epoch': 0.01} +{'debug/num_tok_total': 144.0, 'debug/num_tok_loss': 92.0, 'debug/num_lat_total': 144.0, 'debug/num_lat_loss': 92.0, 'epoch': 0.01} +{'train/ce_loss': 20.4174861907959, 'train/diffusion_loss': 0.6582851409912109, 'epoch': 0.01} +{'train/learning_rate_real': 3.4722222222222224e-07, 'epoch': 0.01} +{'debug/num_tok_total': 153.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 153.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.01} +{'train/ce_loss': 20.302064895629883, 'train/diffusion_loss': 0.5814523696899414, 'epoch': 0.01} +{'train/learning_rate_real': 3.4722222222222224e-07, 'epoch': 0.01} +{'debug/num_tok_total': 184.0, 'debug/num_tok_loss': 78.0, 'debug/num_lat_total': 184.0, 'debug/num_lat_loss': 78.0, 'epoch': 0.01} +{'train/ce_loss': 21.093482971191406, 'train/diffusion_loss': 0.6613051891326904, 'epoch': 0.01} +{'train/learning_rate_real': 3.4722222222222224e-07, 'epoch': 0.01} +{'debug/num_tok_total': 102.0, 'debug/num_tok_loss': 31.0, 'debug/num_lat_total': 102.0, 'debug/num_lat_loss': 31.0, 'epoch': 0.01} +{'train/ce_loss': 17.367095947265625, 'train/diffusion_loss': 0.5023490786552429, 'epoch': 0.01} +{'train/learning_rate_real': 3.4722222222222224e-07, 'epoch': 0.01} +{'debug/num_tok_total': 124.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 124.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.01} +{'train/ce_loss': 19.724761962890625, 'train/diffusion_loss': 0.5076276659965515, 'epoch': 0.01} +{'train/learning_rate_real': 3.4722222222222224e-07, 'epoch': 0.01} +{'debug/num_tok_total': 167.0, 'debug/num_tok_loss': 115.0, 'debug/num_lat_total': 167.0, 'debug/num_lat_loss': 115.0, 'epoch': 0.02} +{'train/ce_loss': 20.933704376220703, 'train/diffusion_loss': 0.6400501728057861, 'epoch': 0.02} +{'train/learning_rate_real': 5.208333333333334e-07, 'epoch': 0.02} +{'debug/num_tok_total': 137.0, 'debug/num_tok_loss': 73.0, 'debug/num_lat_total': 137.0, 'debug/num_lat_loss': 73.0, 'epoch': 0.02} +{'train/ce_loss': 20.078731536865234, 'train/diffusion_loss': 0.7650999426841736, 'epoch': 0.02} +{'train/learning_rate_real': 5.208333333333334e-07, 'epoch': 0.02} +{'debug/num_tok_total': 182.0, 'debug/num_tok_loss': 76.0, 'debug/num_lat_total': 182.0, 'debug/num_lat_loss': 76.0, 'epoch': 0.02} +{'train/ce_loss': 20.279762268066406, 'train/diffusion_loss': 0.608095645904541, 'epoch': 0.02} +{'train/learning_rate_real': 5.208333333333334e-07, 'epoch': 0.02} +{'debug/num_tok_total': 108.0, 'debug/num_tok_loss': 37.0, 'debug/num_lat_total': 108.0, 'debug/num_lat_loss': 37.0, 'epoch': 0.02} +{'train/ce_loss': 17.907001495361328, 'train/diffusion_loss': 0.605061948299408, 'epoch': 0.02} +{'train/learning_rate_real': 5.208333333333334e-07, 'epoch': 0.02} +{'debug/num_tok_total': 189.0, 'debug/num_tok_loss': 82.0, 'debug/num_lat_total': 189.0, 'debug/num_lat_loss': 82.0, 'epoch': 0.02} +{'train/ce_loss': 20.549320220947266, 'train/diffusion_loss': 0.6228569746017456, 'epoch': 0.02} +{'train/learning_rate_real': 5.208333333333334e-07, 'epoch': 0.02} +{'debug/num_tok_total': 104.0, 'debug/num_tok_loss': 40.0, 'debug/num_lat_total': 104.0, 'debug/num_lat_loss': 40.0, 'epoch': 0.02} +{'train/ce_loss': 17.75079917907715, 'train/diffusion_loss': 0.656035840511322, 'epoch': 0.02} +{'train/learning_rate_real': 5.208333333333334e-07, 'epoch': 0.02} +{'debug/num_tok_total': 146.0, 'debug/num_tok_loss': 95.0, 'debug/num_lat_total': 146.0, 'debug/num_lat_loss': 95.0, 'epoch': 0.02} +{'train/ce_loss': 20.207656860351562, 'train/diffusion_loss': 0.6561698317527771, 'epoch': 0.02} +{'train/learning_rate_real': 5.208333333333334e-07, 'epoch': 0.02} +{'debug/num_tok_total': 189.0, 'debug/num_tok_loss': 108.0, 'debug/num_lat_total': 189.0, 'debug/num_lat_loss': 108.0, 'epoch': 0.02} +{'train/ce_loss': 21.397130966186523, 'train/diffusion_loss': 0.6742449998855591, 'epoch': 0.02} +{'train/learning_rate_real': 5.208333333333334e-07, 'epoch': 0.02} +{'debug/num_tok_total': 111.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 111.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.02} +{'train/ce_loss': 18.437355041503906, 'train/diffusion_loss': 0.6292180418968201, 'epoch': 0.02} +{'train/learning_rate_real': 5.208333333333334e-07, 'epoch': 0.02} +{'debug/num_tok_total': 117.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 117.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.02} +{'train/ce_loss': 19.421100616455078, 'train/diffusion_loss': 0.6108461022377014, 'epoch': 0.02} +{'train/learning_rate_real': 5.208333333333334e-07, 'epoch': 0.02} +{'debug/num_tok_total': 148.0, 'debug/num_tok_loss': 79.0, 'debug/num_lat_total': 148.0, 'debug/num_lat_loss': 79.0, 'epoch': 0.02} +{'train/ce_loss': 19.715457916259766, 'train/diffusion_loss': 0.6650787591934204, 'epoch': 0.02} +{'train/learning_rate_real': 6.944444444444445e-07, 'epoch': 0.02} +{'debug/num_tok_total': 160.0, 'debug/num_tok_loss': 79.0, 'debug/num_lat_total': 160.0, 'debug/num_lat_loss': 79.0, 'epoch': 0.02} +{'train/ce_loss': 20.478893280029297, 'train/diffusion_loss': 0.6187779307365417, 'epoch': 0.02} +{'train/learning_rate_real': 6.944444444444445e-07, 'epoch': 0.02} +{'debug/num_tok_total': 125.0, 'debug/num_tok_loss': 106.0, 'debug/num_lat_total': 125.0, 'debug/num_lat_loss': 106.0, 'epoch': 0.02} +{'train/ce_loss': 20.241918563842773, 'train/diffusion_loss': 0.6300225853919983, 'epoch': 0.02} +{'train/learning_rate_real': 6.944444444444445e-07, 'epoch': 0.02} +{'debug/num_tok_total': 139.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 139.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.02} +{'train/ce_loss': 20.19538116455078, 'train/diffusion_loss': 0.6443847417831421, 'epoch': 0.02} +{'train/learning_rate_real': 6.944444444444445e-07, 'epoch': 0.02} +{'debug/num_tok_total': 116.0, 'debug/num_tok_loss': 47.0, 'debug/num_lat_total': 116.0, 'debug/num_lat_loss': 47.0, 'epoch': 0.02} +{'train/ce_loss': 18.69656753540039, 'train/diffusion_loss': 0.5089635252952576, 'epoch': 0.02} +{'train/learning_rate_real': 6.944444444444445e-07, 'epoch': 0.02} +{'debug/num_tok_total': 187.0, 'debug/num_tok_loss': 106.0, 'debug/num_lat_total': 187.0, 'debug/num_lat_loss': 106.0, 'epoch': 0.02} +{'train/ce_loss': 21.017518997192383, 'train/diffusion_loss': 0.6502640247344971, 'epoch': 0.02} +{'train/learning_rate_real': 6.944444444444445e-07, 'epoch': 0.02} +{'debug/num_tok_total': 85.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 85.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.02} +{'train/ce_loss': 18.88558578491211, 'train/diffusion_loss': 0.7027941346168518, 'epoch': 0.02} +{'train/learning_rate_real': 6.944444444444445e-07, 'epoch': 0.02} +{'debug/num_tok_total': 134.0, 'debug/num_tok_loss': 115.0, 'debug/num_lat_total': 134.0, 'debug/num_lat_loss': 115.0, 'epoch': 0.02} +{'train/ce_loss': 20.15751075744629, 'train/diffusion_loss': 0.6637868881225586, 'epoch': 0.02} +{'train/learning_rate_real': 6.944444444444445e-07, 'epoch': 0.02} +{'debug/num_tok_total': 63.0, 'debug/num_tok_loss': 44.0, 'debug/num_lat_total': 63.0, 'debug/num_lat_loss': 44.0, 'epoch': 0.02} +{'train/ce_loss': 17.94878578186035, 'train/diffusion_loss': 0.49591708183288574, 'epoch': 0.02} +{'train/learning_rate_real': 6.944444444444445e-07, 'epoch': 0.02} +{'debug/num_tok_total': 210.0, 'debug/num_tok_loss': 103.0, 'debug/num_lat_total': 210.0, 'debug/num_lat_loss': 103.0, 'epoch': 0.02} +{'train/ce_loss': 21.15741539001465, 'train/diffusion_loss': 0.6620184183120728, 'epoch': 0.02} +{'train/learning_rate_real': 6.944444444444445e-07, 'epoch': 0.02} +{'debug/num_tok_total': 139.0, 'debug/num_tok_loss': 75.0, 'debug/num_lat_total': 139.0, 'debug/num_lat_loss': 75.0, 'epoch': 0.02} +{'train/ce_loss': 20.06936264038086, 'train/diffusion_loss': 0.5737177133560181, 'epoch': 0.02} +{'train/learning_rate_real': 8.680555555555556e-07, 'epoch': 0.02} +{'debug/num_tok_total': 98.0, 'debug/num_tok_loss': 49.0, 'debug/num_lat_total': 98.0, 'debug/num_lat_loss': 49.0, 'epoch': 0.02} +{'train/ce_loss': 18.285932540893555, 'train/diffusion_loss': 0.5720060467720032, 'epoch': 0.02} +{'train/learning_rate_real': 8.680555555555556e-07, 'epoch': 0.02} +{'debug/num_tok_total': 137.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 137.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.02} +{'train/ce_loss': 19.950475692749023, 'train/diffusion_loss': 0.6495792865753174, 'epoch': 0.02} +{'train/learning_rate_real': 8.680555555555556e-07, 'epoch': 0.02} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 64.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 64.0, 'epoch': 0.02} +{'train/ce_loss': 19.72606086730957, 'train/diffusion_loss': 0.6668078899383545, 'epoch': 0.02} +{'train/learning_rate_real': 8.680555555555556e-07, 'epoch': 0.02} +{'debug/num_tok_total': 168.0, 'debug/num_tok_loss': 97.0, 'debug/num_lat_total': 168.0, 'debug/num_lat_loss': 97.0, 'epoch': 0.02} +{'train/ce_loss': 20.98926544189453, 'train/diffusion_loss': 0.670268177986145, 'epoch': 0.02} +{'train/learning_rate_real': 8.680555555555556e-07, 'epoch': 0.02} +{'debug/num_tok_total': 107.0, 'debug/num_tok_loss': 38.0, 'debug/num_lat_total': 107.0, 'debug/num_lat_loss': 38.0, 'epoch': 0.02} +{'train/ce_loss': 18.05272102355957, 'train/diffusion_loss': 0.5032280683517456, 'epoch': 0.02} +{'train/learning_rate_real': 8.680555555555556e-07, 'epoch': 0.02} +{'debug/num_tok_total': 157.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 157.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.02} +{'train/ce_loss': 18.711381912231445, 'train/diffusion_loss': 0.7208620309829712, 'epoch': 0.02} +{'train/learning_rate_real': 8.680555555555556e-07, 'epoch': 0.02} +{'debug/num_tok_total': 156.0, 'debug/num_tok_loss': 49.0, 'debug/num_lat_total': 156.0, 'debug/num_lat_loss': 49.0, 'epoch': 0.02} +{'train/ce_loss': 18.334991455078125, 'train/diffusion_loss': 0.5499362945556641, 'epoch': 0.02} +{'train/learning_rate_real': 8.680555555555556e-07, 'epoch': 0.02} +{'debug/num_tok_total': 139.0, 'debug/num_tok_loss': 87.0, 'debug/num_lat_total': 139.0, 'debug/num_lat_loss': 87.0, 'epoch': 0.02} +{'train/ce_loss': 20.190658569335938, 'train/diffusion_loss': 0.647619903087616, 'epoch': 0.02} +{'train/learning_rate_real': 8.680555555555556e-07, 'epoch': 0.02} +{'debug/num_tok_total': 97.0, 'debug/num_tok_loss': 78.0, 'debug/num_lat_total': 97.0, 'debug/num_lat_loss': 78.0, 'epoch': 0.02} +{'train/ce_loss': 19.319377899169922, 'train/diffusion_loss': 0.690421998500824, 'epoch': 0.02} +{'train/learning_rate_real': 8.680555555555556e-07, 'epoch': 0.02} +{'debug/num_tok_total': 158.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 158.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.03} +{'train/ce_loss': 18.818370819091797, 'train/diffusion_loss': 0.6208781003952026, 'epoch': 0.03} +{'train/learning_rate_real': 1.0416666666666667e-06, 'epoch': 0.03} +{'debug/num_tok_total': 136.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 136.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.03} +{'train/ce_loss': 19.176607131958008, 'train/diffusion_loss': 0.6570757627487183, 'epoch': 0.03} +{'train/learning_rate_real': 1.0416666666666667e-06, 'epoch': 0.03} +{'debug/num_tok_total': 130.0, 'debug/num_tok_loss': 59.0, 'debug/num_lat_total': 130.0, 'debug/num_lat_loss': 59.0, 'epoch': 0.03} +{'train/ce_loss': 20.45052146911621, 'train/diffusion_loss': 0.6372094750404358, 'epoch': 0.03} +{'train/learning_rate_real': 1.0416666666666667e-06, 'epoch': 0.03} +{'debug/num_tok_total': 154.0, 'debug/num_tok_loss': 102.0, 'debug/num_lat_total': 154.0, 'debug/num_lat_loss': 102.0, 'epoch': 0.03} +{'train/ce_loss': 20.5742130279541, 'train/diffusion_loss': 0.7388219833374023, 'epoch': 0.03} +{'train/learning_rate_real': 1.0416666666666667e-06, 'epoch': 0.03} +{'debug/num_tok_total': 141.0, 'debug/num_tok_loss': 92.0, 'debug/num_lat_total': 141.0, 'debug/num_lat_loss': 92.0, 'epoch': 0.03} +{'train/ce_loss': 20.411863327026367, 'train/diffusion_loss': 0.6017991900444031, 'epoch': 0.03} +{'train/learning_rate_real': 1.0416666666666667e-06, 'epoch': 0.03} +{'debug/num_tok_total': 158.0, 'debug/num_tok_loss': 109.0, 'debug/num_lat_total': 158.0, 'debug/num_lat_loss': 109.0, 'epoch': 0.03} +{'train/ce_loss': 20.740234375, 'train/diffusion_loss': 0.6138235330581665, 'epoch': 0.03} +{'train/learning_rate_real': 1.0416666666666667e-06, 'epoch': 0.03} +{'debug/num_tok_total': 163.0, 'debug/num_tok_loss': 94.0, 'debug/num_lat_total': 163.0, 'debug/num_lat_loss': 94.0, 'epoch': 0.03} +{'train/ce_loss': 20.54712677001953, 'train/diffusion_loss': 0.7082481384277344, 'epoch': 0.03} +{'train/learning_rate_real': 1.0416666666666667e-06, 'epoch': 0.03} +{'debug/num_tok_total': 126.0, 'debug/num_tok_loss': 75.0, 'debug/num_lat_total': 126.0, 'debug/num_lat_loss': 75.0, 'epoch': 0.03} +{'train/ce_loss': 18.421384811401367, 'train/diffusion_loss': 0.6498443484306335, 'epoch': 0.03} +{'train/learning_rate_real': 1.0416666666666667e-06, 'epoch': 0.03} +{'debug/num_tok_total': 175.0, 'debug/num_tok_loss': 106.0, 'debug/num_lat_total': 175.0, 'debug/num_lat_loss': 106.0, 'epoch': 0.03} +{'train/ce_loss': 20.568830490112305, 'train/diffusion_loss': 0.6414757370948792, 'epoch': 0.03} +{'train/learning_rate_real': 1.0416666666666667e-06, 'epoch': 0.03} +{'debug/num_tok_total': 144.0, 'debug/num_tok_loss': 75.0, 'debug/num_lat_total': 144.0, 'debug/num_lat_loss': 75.0, 'epoch': 0.03} +{'train/ce_loss': 19.24578094482422, 'train/diffusion_loss': 0.5559576749801636, 'epoch': 0.03} +{'train/learning_rate_real': 1.0416666666666667e-06, 'epoch': 0.03} +{'loss': 223.1838, 'grad_norm': 540.3775634765625, 'learning_rate': 1.0416666666666667e-06, 'epoch': 0.03} +{'debug/num_tok_total': 121.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 121.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.03} +{'train/ce_loss': 19.534975051879883, 'train/diffusion_loss': 0.6375946998596191, 'epoch': 0.03} +{'train/learning_rate_real': 1.2152777777777778e-06, 'epoch': 0.03} +{'debug/num_tok_total': 164.0, 'debug/num_tok_loss': 93.0, 'debug/num_lat_total': 164.0, 'debug/num_lat_loss': 93.0, 'epoch': 0.03} +{'train/ce_loss': 20.73758316040039, 'train/diffusion_loss': 0.6101950407028198, 'epoch': 0.03} +{'train/learning_rate_real': 1.2152777777777778e-06, 'epoch': 0.03} +{'debug/num_tok_total': 109.0, 'debug/num_tok_loss': 58.0, 'debug/num_lat_total': 109.0, 'debug/num_lat_loss': 58.0, 'epoch': 0.03} +{'train/ce_loss': 19.06505584716797, 'train/diffusion_loss': 0.586173951625824, 'epoch': 0.03} +{'train/learning_rate_real': 1.2152777777777778e-06, 'epoch': 0.03} +{'debug/num_tok_total': 95.0, 'debug/num_tok_loss': 24.0, 'debug/num_lat_total': 95.0, 'debug/num_lat_loss': 24.0, 'epoch': 0.03} +{'train/ce_loss': 15.25345516204834, 'train/diffusion_loss': 0.5090619325637817, 'epoch': 0.03} +{'train/learning_rate_real': 1.2152777777777778e-06, 'epoch': 0.03} +{'debug/num_tok_total': 149.0, 'debug/num_tok_loss': 80.0, 'debug/num_lat_total': 149.0, 'debug/num_lat_loss': 80.0, 'epoch': 0.03} +{'train/ce_loss': 20.310302734375, 'train/diffusion_loss': 0.6792158484458923, 'epoch': 0.03} +{'train/learning_rate_real': 1.2152777777777778e-06, 'epoch': 0.03} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 26.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 26.0, 'epoch': 0.03} +{'train/ce_loss': 17.348421096801758, 'train/diffusion_loss': 0.5003698468208313, 'epoch': 0.03} +{'train/learning_rate_real': 1.2152777777777778e-06, 'epoch': 0.03} +{'debug/num_tok_total': 164.0, 'debug/num_tok_loss': 83.0, 'debug/num_lat_total': 164.0, 'debug/num_lat_loss': 83.0, 'epoch': 0.03} +{'train/ce_loss': 20.641849517822266, 'train/diffusion_loss': 0.6944359540939331, 'epoch': 0.03} +{'train/learning_rate_real': 1.2152777777777778e-06, 'epoch': 0.03} +{'debug/num_tok_total': 93.0, 'debug/num_tok_loss': 44.0, 'debug/num_lat_total': 93.0, 'debug/num_lat_loss': 44.0, 'epoch': 0.03} +{'train/ce_loss': 17.319612503051758, 'train/diffusion_loss': 0.7004954814910889, 'epoch': 0.03} +{'train/learning_rate_real': 1.2152777777777778e-06, 'epoch': 0.03} +{'debug/num_tok_total': 57.0, 'debug/num_tok_loss': 38.0, 'debug/num_lat_total': 57.0, 'debug/num_lat_loss': 38.0, 'epoch': 0.03} +{'train/ce_loss': 16.487300872802734, 'train/diffusion_loss': 0.5527320504188538, 'epoch': 0.03} +{'train/learning_rate_real': 1.2152777777777778e-06, 'epoch': 0.03} +{'debug/num_tok_total': 150.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 150.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.03} +{'train/ce_loss': 20.028093338012695, 'train/diffusion_loss': 0.5624157786369324, 'epoch': 0.03} +{'train/learning_rate_real': 1.2152777777777778e-06, 'epoch': 0.03} +{'debug/num_tok_total': 172.0, 'debug/num_tok_loss': 65.0, 'debug/num_lat_total': 172.0, 'debug/num_lat_loss': 65.0, 'epoch': 0.03} +{'train/ce_loss': 19.728309631347656, 'train/diffusion_loss': 0.517084538936615, 'epoch': 0.03} +{'train/learning_rate_real': 1.388888888888889e-06, 'epoch': 0.03} +{'debug/num_tok_total': 193.0, 'debug/num_tok_loss': 86.0, 'debug/num_lat_total': 193.0, 'debug/num_lat_loss': 86.0, 'epoch': 0.03} +{'train/ce_loss': 19.681211471557617, 'train/diffusion_loss': 0.5535690784454346, 'epoch': 0.03} +{'train/learning_rate_real': 1.388888888888889e-06, 'epoch': 0.03} +{'debug/num_tok_total': 104.0, 'debug/num_tok_loss': 52.0, 'debug/num_lat_total': 104.0, 'debug/num_lat_loss': 52.0, 'epoch': 0.03} +{'train/ce_loss': 18.567880630493164, 'train/diffusion_loss': 0.6064608693122864, 'epoch': 0.03} +{'train/learning_rate_real': 1.388888888888889e-06, 'epoch': 0.03} +{'debug/num_tok_total': 138.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 138.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.03} +{'train/ce_loss': 19.801658630371094, 'train/diffusion_loss': 0.7133328318595886, 'epoch': 0.03} +{'train/learning_rate_real': 1.388888888888889e-06, 'epoch': 0.03} +{'debug/num_tok_total': 83.0, 'debug/num_tok_loss': 34.0, 'debug/num_lat_total': 83.0, 'debug/num_lat_loss': 34.0, 'epoch': 0.03} +{'train/ce_loss': 17.30178451538086, 'train/diffusion_loss': 0.4739327132701874, 'epoch': 0.03} +{'train/learning_rate_real': 1.388888888888889e-06, 'epoch': 0.03} +{'debug/num_tok_total': 115.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 115.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.03} +{'train/ce_loss': 19.50510025024414, 'train/diffusion_loss': 0.603676974773407, 'epoch': 0.03} +{'train/learning_rate_real': 1.388888888888889e-06, 'epoch': 0.03} +{'debug/num_tok_total': 141.0, 'debug/num_tok_loss': 72.0, 'debug/num_lat_total': 141.0, 'debug/num_lat_loss': 72.0, 'epoch': 0.03} +{'train/ce_loss': 20.126863479614258, 'train/diffusion_loss': 0.6024927496910095, 'epoch': 0.03} +{'train/learning_rate_real': 1.388888888888889e-06, 'epoch': 0.03} +{'debug/num_tok_total': 148.0, 'debug/num_tok_loss': 99.0, 'debug/num_lat_total': 148.0, 'debug/num_lat_loss': 99.0, 'epoch': 0.03} +{'train/ce_loss': 20.33479118347168, 'train/diffusion_loss': 0.6943716406822205, 'epoch': 0.03} +{'train/learning_rate_real': 1.388888888888889e-06, 'epoch': 0.03} +{'debug/num_tok_total': 104.0, 'debug/num_tok_loss': 40.0, 'debug/num_lat_total': 104.0, 'debug/num_lat_loss': 40.0, 'epoch': 0.03} +{'train/ce_loss': 16.740732192993164, 'train/diffusion_loss': 0.6024547815322876, 'epoch': 0.03} +{'train/learning_rate_real': 1.388888888888889e-06, 'epoch': 0.03} +{'debug/num_tok_total': 94.0, 'debug/num_tok_loss': 23.0, 'debug/num_lat_total': 94.0, 'debug/num_lat_loss': 23.0, 'epoch': 0.03} +{'train/ce_loss': 16.208389282226562, 'train/diffusion_loss': 0.49191758036613464, 'epoch': 0.03} +{'train/learning_rate_real': 1.388888888888889e-06, 'epoch': 0.03} +{'debug/num_tok_total': 201.0, 'debug/num_tok_loss': 95.0, 'debug/num_lat_total': 201.0, 'debug/num_lat_loss': 95.0, 'epoch': 0.03} +{'train/ce_loss': 20.746055603027344, 'train/diffusion_loss': 0.6311644315719604, 'epoch': 0.03} +{'train/learning_rate_real': 1.5625e-06, 'epoch': 0.03} +{'debug/num_tok_total': 146.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 146.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.03} +{'train/ce_loss': 20.30637550354004, 'train/diffusion_loss': 0.5966240167617798, 'epoch': 0.03} +{'train/learning_rate_real': 1.5625e-06, 'epoch': 0.03} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 62.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 62.0, 'epoch': 0.03} +{'train/ce_loss': 19.439289093017578, 'train/diffusion_loss': 0.5843804478645325, 'epoch': 0.03} +{'train/learning_rate_real': 1.5625e-06, 'epoch': 0.03} +{'debug/num_tok_total': 121.0, 'debug/num_tok_loss': 50.0, 'debug/num_lat_total': 121.0, 'debug/num_lat_loss': 50.0, 'epoch': 0.03} +{'train/ce_loss': 18.08902931213379, 'train/diffusion_loss': 0.5570539236068726, 'epoch': 0.03} +{'train/learning_rate_real': 1.5625e-06, 'epoch': 0.03} +{'debug/num_tok_total': 184.0, 'debug/num_tok_loss': 77.0, 'debug/num_lat_total': 184.0, 'debug/num_lat_loss': 77.0, 'epoch': 0.03} +{'train/ce_loss': 20.13611602783203, 'train/diffusion_loss': 0.6082140207290649, 'epoch': 0.03} +{'train/learning_rate_real': 1.5625e-06, 'epoch': 0.03} +{'debug/num_tok_total': 126.0, 'debug/num_tok_loss': 45.0, 'debug/num_lat_total': 126.0, 'debug/num_lat_loss': 45.0, 'epoch': 0.03} +{'train/ce_loss': 18.714475631713867, 'train/diffusion_loss': 0.5976426005363464, 'epoch': 0.03} +{'train/learning_rate_real': 1.5625e-06, 'epoch': 0.03} +{'debug/num_tok_total': 175.0, 'debug/num_tok_loss': 111.0, 'debug/num_lat_total': 175.0, 'debug/num_lat_loss': 111.0, 'epoch': 0.03} +{'train/ce_loss': 20.757291793823242, 'train/diffusion_loss': 0.6882185339927673, 'epoch': 0.03} +{'train/learning_rate_real': 1.5625e-06, 'epoch': 0.03} +{'debug/num_tok_total': 78.0, 'debug/num_tok_loss': 59.0, 'debug/num_lat_total': 78.0, 'debug/num_lat_loss': 59.0, 'epoch': 0.03} +{'train/ce_loss': 18.438121795654297, 'train/diffusion_loss': 0.7465121746063232, 'epoch': 0.03} +{'train/learning_rate_real': 1.5625e-06, 'epoch': 0.03} +{'debug/num_tok_total': 191.0, 'debug/num_tok_loss': 120.0, 'debug/num_lat_total': 191.0, 'debug/num_lat_loss': 120.0, 'epoch': 0.03} +{'train/ce_loss': 20.71637535095215, 'train/diffusion_loss': 0.6956584453582764, 'epoch': 0.03} +{'train/learning_rate_real': 1.5625e-06, 'epoch': 0.03} +{'debug/num_tok_total': 141.0, 'debug/num_tok_loss': 60.0, 'debug/num_lat_total': 141.0, 'debug/num_lat_loss': 60.0, 'epoch': 0.03} +{'train/ce_loss': 20.082399368286133, 'train/diffusion_loss': 0.6733725666999817, 'epoch': 0.03} +{'train/learning_rate_real': 1.5625e-06, 'epoch': 0.03} +{'debug/num_tok_total': 98.0, 'debug/num_tok_loss': 27.0, 'debug/num_lat_total': 98.0, 'debug/num_lat_loss': 27.0, 'epoch': 0.04} +{'train/ce_loss': 16.60427474975586, 'train/diffusion_loss': 0.4902164340019226, 'epoch': 0.04} +{'train/learning_rate_real': 1.7361111111111112e-06, 'epoch': 0.04} +{'debug/num_tok_total': 84.0, 'debug/num_tok_loss': 35.0, 'debug/num_lat_total': 84.0, 'debug/num_lat_loss': 35.0, 'epoch': 0.04} +{'train/ce_loss': 16.57710075378418, 'train/diffusion_loss': 0.5725088715553284, 'epoch': 0.04} +{'train/learning_rate_real': 1.7361111111111112e-06, 'epoch': 0.04} +{'debug/num_tok_total': 167.0, 'debug/num_tok_loss': 98.0, 'debug/num_lat_total': 167.0, 'debug/num_lat_loss': 98.0, 'epoch': 0.04} +{'train/ce_loss': 19.995079040527344, 'train/diffusion_loss': 0.622211754322052, 'epoch': 0.04} +{'train/learning_rate_real': 1.7361111111111112e-06, 'epoch': 0.04} +{'debug/num_tok_total': 96.0, 'debug/num_tok_loss': 44.0, 'debug/num_lat_total': 96.0, 'debug/num_lat_loss': 44.0, 'epoch': 0.04} +{'train/ce_loss': 18.419260025024414, 'train/diffusion_loss': 0.6121848821640015, 'epoch': 0.04} +{'train/learning_rate_real': 1.7361111111111112e-06, 'epoch': 0.04} +{'debug/num_tok_total': 163.0, 'debug/num_tok_loss': 112.0, 'debug/num_lat_total': 163.0, 'debug/num_lat_loss': 112.0, 'epoch': 0.04} +{'train/ce_loss': 20.386402130126953, 'train/diffusion_loss': 0.6827024221420288, 'epoch': 0.04} +{'train/learning_rate_real': 1.7361111111111112e-06, 'epoch': 0.04} +{'debug/num_tok_total': 89.0, 'debug/num_tok_loss': 40.0, 'debug/num_lat_total': 89.0, 'debug/num_lat_loss': 40.0, 'epoch': 0.04} +{'train/ce_loss': 18.59446907043457, 'train/diffusion_loss': 0.6387297511100769, 'epoch': 0.04} +{'train/learning_rate_real': 1.7361111111111112e-06, 'epoch': 0.04} +{'debug/num_tok_total': 146.0, 'debug/num_tok_loss': 95.0, 'debug/num_lat_total': 146.0, 'debug/num_lat_loss': 95.0, 'epoch': 0.04} +{'train/ce_loss': 19.784019470214844, 'train/diffusion_loss': 0.6160887479782104, 'epoch': 0.04} +{'train/learning_rate_real': 1.7361111111111112e-06, 'epoch': 0.04} +{'debug/num_tok_total': 124.0, 'debug/num_tok_loss': 43.0, 'debug/num_lat_total': 124.0, 'debug/num_lat_loss': 43.0, 'epoch': 0.04} +{'train/ce_loss': 18.10952377319336, 'train/diffusion_loss': 0.5397147536277771, 'epoch': 0.04} +{'train/learning_rate_real': 1.7361111111111112e-06, 'epoch': 0.04} +{'debug/num_tok_total': 224.0, 'debug/num_tok_loss': 117.0, 'debug/num_lat_total': 224.0, 'debug/num_lat_loss': 117.0, 'epoch': 0.04} +{'train/ce_loss': 20.465579986572266, 'train/diffusion_loss': 0.6651091575622559, 'epoch': 0.04} +{'train/learning_rate_real': 1.7361111111111112e-06, 'epoch': 0.04} +{'debug/num_tok_total': 175.0, 'debug/num_tok_loss': 68.0, 'debug/num_lat_total': 175.0, 'debug/num_lat_loss': 68.0, 'epoch': 0.04} +{'train/ce_loss': 20.19669532775879, 'train/diffusion_loss': 0.5916145443916321, 'epoch': 0.04} +{'train/learning_rate_real': 1.7361111111111112e-06, 'epoch': 0.04} +{'debug/num_tok_total': 226.0, 'debug/num_tok_loss': 119.0, 'debug/num_lat_total': 226.0, 'debug/num_lat_loss': 119.0, 'epoch': 0.04} +{'train/ce_loss': 20.871326446533203, 'train/diffusion_loss': 0.5730578899383545, 'epoch': 0.04} +{'train/learning_rate_real': 1.9097222222222225e-06, 'epoch': 0.04} +{'debug/num_tok_total': 191.0, 'debug/num_tok_loss': 84.0, 'debug/num_lat_total': 191.0, 'debug/num_lat_loss': 84.0, 'epoch': 0.04} +{'train/ce_loss': 20.01779556274414, 'train/diffusion_loss': 0.572838544845581, 'epoch': 0.04} +{'train/learning_rate_real': 1.9097222222222225e-06, 'epoch': 0.04} +{'debug/num_tok_total': 133.0, 'debug/num_tok_loss': 26.0, 'debug/num_lat_total': 133.0, 'debug/num_lat_loss': 26.0, 'epoch': 0.04} +{'train/ce_loss': 16.524629592895508, 'train/diffusion_loss': 0.5155435800552368, 'epoch': 0.04} +{'train/learning_rate_real': 1.9097222222222225e-06, 'epoch': 0.04} +{'debug/num_tok_total': 193.0, 'debug/num_tok_loss': 112.0, 'debug/num_lat_total': 193.0, 'debug/num_lat_loss': 112.0, 'epoch': 0.04} +{'train/ce_loss': 20.622207641601562, 'train/diffusion_loss': 0.6868361234664917, 'epoch': 0.04} +{'train/learning_rate_real': 1.9097222222222225e-06, 'epoch': 0.04} +{'debug/num_tok_total': 100.0, 'debug/num_tok_loss': 81.0, 'debug/num_lat_total': 100.0, 'debug/num_lat_loss': 81.0, 'epoch': 0.04} +{'train/ce_loss': 18.82771110534668, 'train/diffusion_loss': 0.6383902430534363, 'epoch': 0.04} +{'train/learning_rate_real': 1.9097222222222225e-06, 'epoch': 0.04} +{'debug/num_tok_total': 186.0, 'debug/num_tok_loss': 105.0, 'debug/num_lat_total': 186.0, 'debug/num_lat_loss': 105.0, 'epoch': 0.04} +{'train/ce_loss': 21.027172088623047, 'train/diffusion_loss': 0.7239924669265747, 'epoch': 0.04} +{'train/learning_rate_real': 1.9097222222222225e-06, 'epoch': 0.04} +{'debug/num_tok_total': 118.0, 'debug/num_tok_loss': 69.0, 'debug/num_lat_total': 118.0, 'debug/num_lat_loss': 69.0, 'epoch': 0.04} +{'train/ce_loss': 19.1536922454834, 'train/diffusion_loss': 0.6128078103065491, 'epoch': 0.04} +{'train/learning_rate_real': 1.9097222222222225e-06, 'epoch': 0.04} +{'debug/num_tok_total': 164.0, 'debug/num_tok_loss': 58.0, 'debug/num_lat_total': 164.0, 'debug/num_lat_loss': 58.0, 'epoch': 0.04} +{'train/ce_loss': 19.275192260742188, 'train/diffusion_loss': 0.5910192728042603, 'epoch': 0.04} +{'train/learning_rate_real': 1.9097222222222225e-06, 'epoch': 0.04} +{'debug/num_tok_total': 105.0, 'debug/num_tok_loss': 86.0, 'debug/num_lat_total': 105.0, 'debug/num_lat_loss': 86.0, 'epoch': 0.04} +{'train/ce_loss': 19.009634017944336, 'train/diffusion_loss': 0.6324865221977234, 'epoch': 0.04} +{'train/learning_rate_real': 1.9097222222222225e-06, 'epoch': 0.04} +{'debug/num_tok_total': 42.0, 'debug/num_tok_loss': 23.0, 'debug/num_lat_total': 42.0, 'debug/num_lat_loss': 23.0, 'epoch': 0.04} +{'train/ce_loss': 14.706951141357422, 'train/diffusion_loss': 0.48362359404563904, 'epoch': 0.04} +{'train/learning_rate_real': 1.9097222222222225e-06, 'epoch': 0.04} +{'debug/num_tok_total': 143.0, 'debug/num_tok_loss': 92.0, 'debug/num_lat_total': 143.0, 'debug/num_lat_loss': 92.0, 'epoch': 0.04} +{'train/ce_loss': 19.52496337890625, 'train/diffusion_loss': 0.5781906247138977, 'epoch': 0.04} +{'train/learning_rate_real': 2.0833333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 132.0, 'debug/num_tok_loss': 51.0, 'debug/num_lat_total': 132.0, 'debug/num_lat_loss': 51.0, 'epoch': 0.04} +{'train/ce_loss': 18.42128562927246, 'train/diffusion_loss': 0.5054909586906433, 'epoch': 0.04} +{'train/learning_rate_real': 2.0833333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 165.0, 'debug/num_tok_loss': 59.0, 'debug/num_lat_total': 165.0, 'debug/num_lat_loss': 59.0, 'epoch': 0.04} +{'train/ce_loss': 18.49955177307129, 'train/diffusion_loss': 0.7013862729072571, 'epoch': 0.04} +{'train/learning_rate_real': 2.0833333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 170.0, 'debug/num_tok_loss': 99.0, 'debug/num_lat_total': 170.0, 'debug/num_lat_loss': 99.0, 'epoch': 0.04} +{'train/ce_loss': 20.78624725341797, 'train/diffusion_loss': 0.5893378853797913, 'epoch': 0.04} +{'train/learning_rate_real': 2.0833333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 107.0, 'debug/num_tok_loss': 56.0, 'debug/num_lat_total': 107.0, 'debug/num_lat_loss': 56.0, 'epoch': 0.04} +{'train/ce_loss': 18.199623107910156, 'train/diffusion_loss': 0.5909366607666016, 'epoch': 0.04} +{'train/learning_rate_real': 2.0833333333333334e-06, 'epoch': 0.04} +{'debug/num_tok_total': 137.0, 'debug/num_tok_loss': 66.0, 'debug/num_lat_total': 137.0, 'debug/num_lat_loss': 66.0, 'epoch': 0.04} +{'train/ce_loss': 19.569889068603516, 'train/diffusion_loss': 0.5613240599632263, 'epoch': 0.04} +{'train/learning_rate_real': 2.0833333333333334e-06, 'epoch': 0.04} diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/files/requirements.txt b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/files/requirements.txt new file mode 100644 index 0000000000000000000000000000000000000000..f2978c96caaca9f204690d18885e5adee315acb6 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/files/requirements.txt @@ -0,0 +1,752 @@ +setuptools==75.2.0 +types-setuptools==80.10.0.20260124 +pip==24.1.2 +requirements-parser==0.9.0 +cfgv==3.5.0 +s3tokenizer==0.3.0 +datasets==2.21.0 +onnx==1.20.1 +filelock==3.24.2 +vibevoice-finetuning==0.1.0 +fsspec==2024.6.1 +identify==2.6.16 +conformer==0.3.2 +safetensors==0.5.3 +diffusers==0.29.0 +huggingface_hub==0.36.2 +nodeenv==1.10.0 +virtualenv==20.37.0 +pre_commit==4.5.1 +distlib==0.4.0 +tokenizers==0.21.4 +peft==0.7.1 +resampy==0.4.3 +numpy==1.26.4 +resemble-perth==1.0.1 +transformers==4.51.3 +google-colab==1.0.0 +patsy==1.0.2 +aiofiles==24.1.0 +tensorflow-text==2.19.0 +tensorflow-hub==0.16.1 +google-cloud-dataproc==5.24.0 +jsonpickle==4.1.1 +numba-cuda==0.19.2 +treelite==4.4.1 +ucxx-cu12==0.46.0 +opencv-contrib-python==4.13.0.92 +jupyter_server_terminals==0.5.4 +astropy-iers-data==0.2026.2.9.0.50.33 +geemap==0.35.3 +pyshp==3.0.3 +rpy2==3.5.17 +pickleshare==0.7.5 +numexpr==2.14.1 +html5lib==1.1 +music21==9.9.1 +notebook==6.5.7 +ipython==7.34.0 +nvidia-cusparse-cu12==12.5.8.93 +python-utils==3.9.1 +nest-asyncio==1.6.0 +pytz==2025.2 +sphinxcontrib-qthelp==2.0.0 +cuda-toolkit==12.9.1 +google==3.0.0 +PySocks==1.7.1 +tiktoken==0.12.0 +python-json-logger==4.0.0 +backcall==0.2.0 +wordcloud==1.9.6 +google-api-python-client==2.190.0 +ibis-framework==9.5.0 +astunparse==1.6.3 +tomlkit==0.13.3 +jupytext==1.19.1 +opentelemetry-exporter-otlp-proto-common==1.38.0 +pydotplus==2.0.2 +tinycss2==1.4.0 +SecretStorage==3.5.0 +toml==0.10.2 +oauthlib==3.3.1 +markdown-it-py==4.0.0 +highspy==1.13.1 +ormsgpack==1.12.2 +matplotlib-venn==1.1.2 +torchaudio==2.9.0+cu128 +certifi==2026.1.4 +pydub==0.25.1 +joblib==1.5.3 +keyrings.google-artifactregistry-auth==1.1.2 +wandb==0.24.2 +dask==2025.9.1 +grpc-google-iam-v1==0.14.3 +mkl==2025.3.1 +tsfresh==0.21.1 +chardet==5.2.0 +shellingham==1.5.4 +stanio==0.5.1 +tzlocal==5.3.1 +google-pasta==0.2.0 +psutil==5.9.5 +editdistance==0.8.1 +pyspark==4.0.2 +multidict==6.7.1 +cupy-cuda12x==13.6.0 +Werkzeug==3.1.5 +ipykernel==6.17.1 +networkx==3.6.1 +google-cloud-datastore==2.23.0 +typer==0.23.0 +natsort==8.4.0 +tensorflow_decision_forests==1.12.0 +db-dtypes==1.5.0 +fastapi==0.129.0 +python-slugify==8.0.4 +plotnine==0.14.5 +tensorflow-metadata==1.17.3 +mlxtend==0.23.4 +segregation==2.5.3 +tblib==3.2.2 +namex==0.1.0 +google-cloud-trace==1.18.0 +pyasn1==0.6.2 +antlr4-python3-runtime==4.9.3 +keyring==25.7.0 +soupsieve==2.8.3 +lxml==6.0.2 +cramjam==2.11.0 +mgwr==2.2.1 +fastcore==1.12.13 +click-plugins==1.1.1.2 +immutabledict==4.3.0 +tensorflow-probability==0.25.0 +imbalanced-learn==0.14.1 +nvidia-cuda-nvcc-cu12==12.5.82 +gym==0.25.2 +jiter==0.13.0 +click==8.3.1 +simsimd==6.5.12 +hpack==4.1.0 +pointpats==2.5.2 +snowballstemmer==3.0.1 +frozendict==2.4.7 +textblob==0.19.0 +rsa==4.9.1 +pyerfa==2.0.1.5 +ffmpy==1.0.0 +fastjsonschema==2.21.2 +flatbuffers==25.12.19 +colour==0.1.5 +optax==0.2.7 +hyperopt==0.2.7 +fqdn==1.5.1 +google-cloud-audit-log==0.4.0 +langsmith==0.7.1 +pyviz_comms==3.0.6 +widgetsnbextension==3.6.10 +fastrlock==0.8.3 +rasterstats==0.20.0 +google-cloud-core==2.5.0 +entrypoints==0.4 +giddy==2.3.8 +nvidia-curand-cu12==10.3.9.90 +langgraph==1.0.8 +smart_open==7.5.0 +h11==0.16.0 +clarabel==0.11.1 +psycopg2==2.9.11 +splot==1.1.7 +nvidia-nvtx-cu12==12.8.90 +jax-cuda12-pjrt==0.7.2 +multipledispatch==1.0.0 +parsy==2.2 +polars==1.31.0 +pylibcudf-cu12==25.10.0 +jsonschema==4.26.0 +gitdb==4.0.12 +wasabi==1.1.3 +dask-cudf-cu12==25.10.0 +requests-toolbelt==1.0.0 +ratelim==0.1.6 +tqdm==4.67.3 +google-cloud-logging==3.13.0 +pyasn1_modules==0.4.2 +google-auth-oauthlib==1.2.4 +cvxopt==1.3.2 +propcache==0.4.1 +opentelemetry-exporter-gcp-monitoring==1.11.0a0 +catalogue==2.0.10 +missingno==0.5.2 +libcugraph-cu12==25.10.1 +aiosqlite==0.22.1 +soundfile==0.13.1 +psygnal==0.15.1 +python-fasthtml==0.12.41 +opentelemetry-exporter-otlp-proto-http==1.38.0 +google-cloud-storage==3.9.0 +attrs==25.4.0 +xarray==2025.12.0 +ipyevents==2.0.4 +pandas-gbq==0.30.0 +dataproc-spark-connect==1.0.2 +multiprocess==0.70.16 +sniffio==1.3.1 +isoduration==20.11.0 +geopandas==1.1.2 +mistune==3.2.0 +httpcore==1.0.9 +gspread==6.2.1 +holoviews==1.22.1 +portpicker==1.5.2 +libclang==18.1.1 +pyproj==3.7.2 +atpublic==5.1 +linkify-it-py==2.0.3 +uvloop==0.22.1 +nibabel==5.3.3 +fiona==1.10.1 +colorcet==3.1.0 +aiohttp==3.13.3 +idna==3.11 +rapids-logger==0.1.19 +access==1.1.10.post3 +babel==2.18.0 +cryptography==43.0.3 +duckdb==1.3.2 +annotated-types==0.7.0 +fastlite==0.2.4 +omegaconf==2.3.0 +typer-slim==0.23.0 +jaraco.context==6.1.0 +spacy-loggers==1.0.5 +parso==0.8.6 +httpx-sse==0.4.3 +protobuf==5.29.6 +cuda-python==12.9.5 +Jinja2==3.1.6 +sphinxcontrib-jsmath==1.0.1 +umf==1.0.3 +momepy==0.11.0 +python-box==7.3.2 +cons==0.4.7 +earthengine-api==1.5.24 +blosc2==4.0.0 +tenacity==9.1.4 +xyzservices==2025.11.0 +rmm-cu12==25.10.0 +python-dotenv==1.2.1 +cuda-pathfinder==1.3.4 +spanner-graph-notebook==1.1.8 +opentelemetry-semantic-conventions==0.59b0 +docstring_parser==0.17.0 +toolz==0.12.1 +graphviz==0.21 +sqlglot==25.20.2 +xarray-einstats==0.9.1 +nvidia-cudnn-cu12==9.10.2.21 +debugpy==1.8.15 +folium==0.20.0 +nvtx==0.2.14 +cycler==0.12.1 +simplejson==3.20.2 +PyJWT==2.11.0 +nltk==3.9.1 +rapids-dask-dependency==25.10.0 +langchain-core==1.2.12 +multitasking==0.0.12 +gradio_client==1.14.0 +pydata-google-auth==1.9.1 +Bottleneck==1.4.2 +libraft-cu12==25.10.0 +blinker==1.9.0 +einops==0.8.2 +scs==3.2.11 +grpc-interceptor==0.15.4 +google-adk==1.25.0 +autograd==1.8.0 +libkvikio-cu12==25.10.0 +simple-parsing==0.1.8 +spacy==3.8.11 +pycairo==1.29.0 +groovy==0.1.2 +ipyfilechooser==0.6.0 +keras-hub==0.21.1 +astropy==7.2.0 +alabaster==1.0.0 +apswutils==0.1.2 +watchdog==6.0.0 +etils==1.13.0 +geocoder==1.38.1 +google-cloud-speech==2.36.1 +opentelemetry-proto==1.38.0 +tifffile==2026.1.28 +sklearn-compat==0.1.5 +stringzilla==4.6.0 +dopamine_rl==4.1.2 +pycparser==3.0 +notebook_shim==0.2.4 +spacy-legacy==3.0.12 +triton==3.5.0 +gym-notices==0.1.0 +google-auth==2.47.0 +xxhash==3.6.0 +narwhals==2.16.0 +curl_cffi==0.14.0 +ndindex==1.10.1 +jieba==0.42.1 +opentelemetry-exporter-gcp-trace==1.11.0 +safehttpx==0.1.7 +openai==2.20.0 +orbax-checkpoint==0.11.32 +arviz==0.22.0 +brotli==1.2.0 +keras-nlp==0.21.1 +pluggy==1.6.0 +firebase-admin==6.9.0 +rfc3987-syntax==1.1.0 +matplotlib-inline==0.2.1 +terminado==0.18.1 +kagglehub==0.3.13 +smmap==5.0.2 +grpcio==1.78.0 +etuples==0.3.10 +grpcio-status==1.71.2 +requests-oauthlib==2.0.0 +pycryptodomex==3.23.0 +google-cloud-translate==3.24.0 +nvidia-ml-py==13.590.48 +apsw==3.51.2.0 +Cython==3.0.12 +shap==0.50.0 +nvidia-cuda-nvrtc-cu12==12.8.93 +httplib2==0.31.2 +PyOpenGL==3.1.10 +weasel==0.4.3 +google-genai==1.63.0 +charset-normalizer==3.4.4 +cachetools==7.0.1 +librosa==0.11.0 +cuml-cu12==25.10.0 +orjson==3.11.7 +panel==1.8.7 +langgraph-sdk==0.3.5 +alembic==1.18.4 +Authlib==1.6.7 +hf-xet==1.2.0 +librmm-cu12==25.10.0 +itsdangerous==2.2.0 +seaborn==0.13.2 +tensorstore==0.1.81 +PyDrive2==1.21.3 +future==1.0.0 +regex==2025.11.3 +tf_keras==2.19.0 +opentelemetry-resourcedetector-gcp==1.11.0a0 +lightgbm==4.6.0 +webencodings==0.5.1 +pydantic==2.12.3 +nvidia-cuda-cupti-cu12==12.8.90 +ipytree==0.2.2 +Markdown==3.10.2 +proglog==0.1.12 +python-snappy==0.7.3 +torchdata==0.11.0 +libucx-cu12==1.19.0 +jsonpointer==3.0.0 +annotated-doc==0.0.4 +prettytable==3.17.0 +opencv-python-headless==4.13.0.92 +sphinxcontrib-htmlhelp==2.1.0 +torchcodec==0.8.0+cu128 +en_core_web_sm==3.8.0 +matplotlib==3.10.0 +raft-dask-cu12==25.10.0 +cloudpathlib==0.23.0 +google-cloud-bigquery-storage==2.36.1 +typing-inspection==0.4.2 +google-resumable-media==2.8.0 +branca==0.8.2 +tbb==2022.3.1 +lazy_loader==0.4 +pandas-stubs==2.2.2.240909 +Send2Trash==2.1.0 +bqplot==0.12.45 +pysal==25.7 +nvidia-cufile-cu12==1.13.1.3 +mapclassify==2.10.0 +prometheus_client==0.24.1 +pynndescent==0.6.0 +types-pytz==2025.2.0.20251108 +humanize==4.15.0 +timm==1.0.24 +jeepney==0.9.0 +tf-slim==1.1.0 +google-cloud-secret-manager==2.26.0 +jupyter-leaflet==0.20.0 +sympy==1.14.0 +sentencepiece==0.2.1 +pillow==11.3.0 +ale-py==0.11.2 +pylibraft-cu12==25.10.0 +py4j==0.10.9.9 +wcwidth==0.6.0 +h5py==3.15.1 +distributed==2025.9.1 +nvidia-cublas-cu12==12.8.4.1 +spint==1.0.7 +wrapt==2.1.1 +numba==0.60.0 +gymnasium==1.2.3 +httpimport==1.4.1 +google-cloud-iam==2.21.0 +pandocfilters==1.5.1 +inflect==7.5.0 +sentence-transformers==5.2.2 +mdurl==0.1.2 +spglm==1.1.0 +ipython-sql==0.5.0 +google-api-core==2.29.0 +kaggle==1.7.4.5 +cufflinks==0.17.3 +nx-cugraph-cu12==25.10.0 +jaraco.functools==4.4.0 +vega-datasets==0.9.0 +pygame==2.6.1 +pandas-datareader==0.10.0 +progressbar2==4.5.0 +pydot==4.0.1 +aiohappyeyeballs==2.6.1 +uri-template==1.3.0 +ptyprocess==0.7.0 +msgpack==1.1.2 +pyOpenSSL==24.2.1 +easydict==1.13 +distributed-ucxx-cu12==0.46.0 +jax-cuda12-plugin==0.7.2 +ipywidgets==7.7.1 +opentelemetry-exporter-gcp-logging==1.11.0a0 +opencv-python==4.13.0.92 +dm-tree==0.1.9 +greenlet==3.3.1 +nvidia-cufft-cu12==11.3.3.83 +fasttransform==0.0.2 +pylibcugraph-cu12==25.10.1 +iniconfig==2.3.0 +jsonpatch==1.33 +libucxx-cu12==0.46.0 +aiosignal==1.4.0 +jupyter_server==2.14.0 +scikit-image==0.25.2 +arrow==1.4.0 +rich==13.9.4 +dill==0.3.8 +referencing==0.37.0 +hyperframe==6.1.0 +contourpy==1.3.3 +ydf==0.15.0 +logical-unification==0.4.7 +CacheControl==0.14.4 +openpyxl==3.1.5 +google-cloud-bigquery==3.40.1 +rfc3339-validator==0.1.4 +opt_einsum==3.4.0 +SQLAlchemy==2.0.46 +nvidia-cusolver-cu12==11.7.3.90 +PyYAML==6.0.3 +google-crc32c==1.8.0 +uuid_utils==0.14.0 +plum-dispatch==2.6.1 +locket==1.0.0 +sphinxcontrib-devhelp==2.0.0 +bleach==6.3.0 +yarl==1.22.0 +webcolors==25.10.0 +httpx==0.28.1 +jupyter_client==7.4.9 +gradio==5.50.0 +zipp==3.23.0 +miniKanren==1.0.5 +pooch==1.9.0 +intel-openmp==2025.3.2 +gdown==5.2.1 +langgraph-checkpoint==4.0.0 +zict==3.0.0 +prophet==1.3.0 +google-cloud-spanner==3.62.0 +torchao==0.10.0 +kiwisolver==1.4.9 +importlib_metadata==8.7.1 +googledrivedownloader==1.1.0 +termcolor==3.3.0 +cmdstanpy==1.3.0 +torchtune==0.6.1 +keras==3.10.0 +ml_dtypes==0.5.4 +plotly==5.24.1 +docutils==0.21.2 +google-cloud-appengine-logging==1.8.0 +google-cloud-aiplatform==1.137.0 +anywidget==0.9.21 +Farama-Notifications==0.0.4 +tensorflow-datasets==4.9.9 +uc-micro-py==1.0.3 +defusedxml==0.7.1 +tzdata==2025.3 +more-itertools==10.8.0 +tensorboard==2.19.0 +imutils==0.5.4 +cffi==2.0.0 +importlib_resources==6.5.2 +google-cloud-monitoring==2.29.1 +sse-starlette==3.2.0 +tweepy==4.16.0 +platformdirs==4.6.0 +google-ai-generativelanguage==0.6.15 +pycocotools==2.0.11 +ruff==0.15.0 +nbclient==0.10.4 +statsmodels==0.14.6 +slicer==0.0.8 +websockets==15.0.1 +pygit2==1.19.1 +python-louvain==0.16 +dask-cuda==25.10.0 +jax==0.7.2 +mizani==0.13.5 +stumpy==1.13.0 +text-unidecode==1.3 +yellowbrick==1.5 +jupyter_kernel_gateway==2.5.2 +xlrd==2.0.2 +proto-plus==1.27.1 +nvidia-nccl-cu12==2.27.5 +preshed==3.0.12 +sphinxcontrib-serializinghtml==2.0.0 +oauth2client==4.1.3 +decorator==4.4.2 +soxr==1.0.0 +mmh3==5.2.0 +imageio-ffmpeg==0.6.0 +GDAL==3.8.4 +gspread-dataframe==4.0.0 +pydantic-settings==2.12.0 +traittypes==0.2.3 +albumentations==2.0.8 +yfinance==0.2.66 +py-cpuinfo==9.0.0 +watchfiles==1.1.1 +tobler==0.13.0 +pytensor==2.37.0 +jupyter-console==6.6.3 +promise==2.3 +bokeh==3.7.3 +nvidia-cuda-runtime-cu12==12.8.90 +nvidia-cusparselt-cu12==0.7.1 +pydantic_core==2.41.4 +rasterio==1.5.0 +imagesize==1.4.1 +mcp==1.26.0 +betterproto==2.0.0b6 +flax==0.11.2 +fastai==2.8.6 +gin-config==0.5.0 +argon2-cffi-bindings==25.1.0 +bigframes==2.33.0 +googleapis-common-protos==1.72.0 +spaghetti==1.7.6 +inequality==1.1.2 +tensorboard-data-server==0.7.2 +ipython-genutils==0.2.0 +pytest==8.4.2 +PuLP==3.3.0 +cmake==3.31.10 +uritemplate==4.2.0 +treescope==0.1.10 +ImageIO==2.37.2 +eerepr==0.1.2 +zstandard==0.25.0 +google-cloud-pubsub==2.35.0 +anyio==4.12.1 +google-cloud-language==2.19.0 +sqlparse==0.5.5 +google-cloud-bigtable==2.35.0 +grpclib==0.4.9 +altair==5.5.0 +roman-numerals==4.1.0 +typing_extensions==4.15.0 +prompt_toolkit==3.0.52 +google-auth-httplib2==0.3.0 +srsly==2.5.2 +intel-cmplr-lib-ur==2025.3.2 +six==1.17.0 +pymc==5.27.1 +nvidia-cuda-cccl-cu12==12.9.27 +jupyter-events==0.12.0 +rtree==1.4.1 +pyogrio==0.12.1 +cymem==2.0.13 +fastdownload==0.0.7 +audioread==3.1.0 +sortedcontainers==2.4.0 +esda==2.8.1 +pexpect==4.9.0 +rfc3986-validator==0.1.1 +wurlitzer==3.1.1 +sentry-sdk==2.52.0 +uvicorn==0.40.0 +fonttools==4.61.1 +PyWavelets==1.9.0 +param==2.3.2 +langchain==1.2.10 +nbformat==5.10.4 +geopy==2.4.1 +blobfile==3.2.0 +google-cloud-discoveryengine==0.13.12 +jaraco.classes==3.4.0 +beartype==0.22.9 +tables==3.10.2 +mdit-py-plugins==0.5.0 +wheel==0.46.3 +osqp==1.1.1 +holidays==0.90 +opentelemetry-api==1.38.0 +et_xmlfile==2.0.0 +torchsummary==1.5.1 +cuda-bindings==12.9.5 +semantic-version==2.10.0 +overrides==7.7.0 +spopt==0.7.0 +h5netcdf==1.8.1 +torchvision==0.24.0+cu128 +google-generativeai==0.8.6 +threadpoolctl==3.6.0 +umap-learn==0.5.11 +libpysal==4.14.1 +starlette==0.52.1 +jaxlib==0.7.2 +dlib==19.24.6 +jupyterlab_widgets==3.0.16 +httptools==0.7.1 +peewee==3.19.0 +urllib3==2.5.0 +pyzmq==26.2.1 +pyarrow==18.1.0 +colorlover==0.3.0 +ipyparallel==8.8.0 +roman-numerals-py==4.1.0 +Sphinx==8.2.3 +python-dateutil==2.9.0.post0 +google-cloud-bigquery-connection==1.20.0 +jsonschema-specifications==2025.9.1 +typeguard==4.4.4 +tensorflow==2.19.0 +cudf-polars-cu12==25.10.0 +cyipopt==1.5.0 +xgboost==3.2.0 +llvmlite==0.43.0 +fastprogress==1.1.3 +partd==1.4.2 +gast==0.7.0 +ipyleaflet==0.20.0 +scooby==0.11.0 +nvidia-nvshmem-cu12==3.3.20 +langgraph-prebuilt==1.0.7 +shapely==2.1.2 +mpmath==1.3.0 +nbconvert==7.17.0 +pyperclip==1.11.0 +glob2==0.7 +python-multipart==0.0.22 +optree==0.18.0 +nbclassic==1.3.3 +traitlets==5.7.1 +geographiclib==2.1 +beautifulsoup4==4.13.5 +moviepy==1.0.3 +hdbscan==0.8.41 +Flask==3.1.2 +jupyter_core==5.9.1 +nvidia-nvjitlink-cu12==12.8.93 +GitPython==3.1.46 +argon2-cffi==25.1.0 +MarkupSafe==3.0.3 +spreg==1.8.5 +quantecon==0.10.1 +cloudpickle==3.1.2 +Pygments==2.19.2 +torch==2.9.0+cu128 +google-cloud-resource-manager==1.16.0 +pyomo==6.9.5 +affine==2.4.0 +ply==3.11 +scipy==1.16.3 +accelerate==1.12.0 +cudf-cu12==25.10.0 +gcsfs==2025.3.0 +blis==1.3.3 +frozenlist==1.8.0 +scikit-learn==1.6.1 +community==1.0.0b1 +google-cloud-firestore==2.23.0 +deprecation==2.1.0 +rpds-py==0.30.0 +Mako==1.3.10 +absl-py==1.4.0 +array_record==0.8.3 +opentelemetry-sdk==1.38.0 +packaging==26.0 +onemkl-license==2025.3.1 +tabulate==0.9.0 +cvxpy==1.6.7 +libcuml-cu12==25.10.0 +google-cloud-functions==1.22.0 +h2==4.3.0 +murmurhash==1.0.15 +lark==1.3.1 +PyGObject==3.48.2 +thinc==8.3.10 +grain==0.2.15 +sklearn-pandas==2.2.0 +pandas==2.2.2 +jupyterlab_pygments==0.3.0 +websocket-client==1.9.0 +sphinxcontrib-applehelp==2.0.0 +albucore==0.0.24 +tcmlib==1.4.1 +tornado==6.5.1 +pyparsing==3.3.2 +confection==0.1.5 +cuda-core==0.3.2 +requests==2.32.4 +sqlalchemy-spanner==1.17.2 +cligj==0.7.2 +distro==1.9.0 +bigquery-magics==0.12.0 +libcudf-cu12==25.10.0 +python-apt==0.0.0 +vibevoice-finetuning==0.1.0 +httplib2==0.20.2 +cryptography==3.4.8 +distro==1.7.0 +PyJWT==2.3.0 +blinker==1.4 +six==1.16.0 +jeepney==0.7.1 +pyparsing==2.4.7 +python-apt==2.4.0+ubuntu4.1 +more-itertools==8.10.0 +oauthlib==3.2.0 +SecretStorage==3.3.1 +importlib-metadata==4.6.4 +launchpadlib==1.10.16 +lazr.uri==1.0.6 +zipp==1.0.0 +keyring==23.5.0 +dbus-python==1.2.18 +PyGObject==3.42.1 +lazr.restfulclient==0.14.4 +wadllib==1.3.6 +Markdown==3.3.6 +MarkupSafe==2.0.1 +Mako==1.1.3 diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/files/wandb-metadata.json b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/files/wandb-metadata.json new file mode 100644 index 0000000000000000000000000000000000000000..6ab2da80734b08cc06498890fee3c935a2b2bf76 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/files/wandb-metadata.json @@ -0,0 +1,98 @@ +{ + "os": "Linux-6.6.105+-x86_64-with-glibc2.35", + "python": "CPython 3.12.12", + "startedAt": "2026-02-18T14:42:36.714345Z", + "args": [ + "--model_name_or_path", + "microsoft/VibeVoice-1.5B", + "--processor_name_or_path", + "vibevoice/processor", + "--text_column_name", + "text", + "--audio_column_name", + "audio", + "--voice_prompts_column_name", + "voice_prompts", + "--output_dir", + "/content/", + "--per_device_train_batch_size", + "1", + "--gradient_accumulation_steps", + "10", + "--learning_rate", + "5e-5", + "--num_train_epochs", + "8", + "--logging_steps", + "10", + "--save_steps", + "60", + "--eval_steps", + "80", + "--report_to", + "wandb", + "--lora_r", + "32", + "--lora_alpha", + "64", + "--remove_unused_columns", + "False", + "--fp16", + "True", + "--do_train", + "--gradient_clipping", + "--gradient_checkpointing", + "False", + "--ddpm_batch_mul", + "1", + "--diffusion_loss_weight", + "1.7", + "--train_diffusion_head", + "True", + "--ce_loss_weight", + "1.1", + "--voice_prompt_drop_rate", + "0.35", + "--lora_target_modules", + "q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj", + "--lr_scheduler_type", + "cosine", + "--warmup_ratio", + "0.1", + "--max_grad_norm", + "0.6" + ], + "program": "-m src.finetune_vibevoice_lora0", + "git": { + "remote": "https://github.com/voicepowered-ai/VibeVoice-finetuning.git", + "commit": "f74368637dd67fc3895d9f81365c50e65ae0641c" + }, + "email": "aralien0907@gmail.com", + "root": "/content/VibeVoice-finetuning", + "host": "d690d73e974e", + "executable": "/usr/bin/python3", + "cpu_count": 1, + "cpu_count_logical": 2, + "gpu": "Tesla T4", + "gpu_count": 1, + "disk": { + "/": { + "total": "120942624768", + "used": "58462097408" + } + }, + "memory": { + "total": "13605851136" + }, + "gpu_nvidia": [ + { + "name": "Tesla T4", + "memoryTotal": "16106127360", + "cudaCores": 2560, + "architecture": "Turing", + "uuid": "GPU-7e69ea04-764f-97d5-5a16-fe87280f30f7" + } + ], + "cudaVersion": "13.0", + "writerId": "onaa3bq0n2qpg4i1qzodt5h6gqomltn0" +} \ No newline at end of file diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug-core.log b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug-core.log new file mode 100644 index 0000000000000000000000000000000000000000..69f59e4c2d238a1fd50dfb8d2eee806577173453 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug-core.log @@ -0,0 +1,10 @@ +{"time":"2026-02-18T14:42:37.294348802Z","level":"INFO","msg":"main: starting server","port-filename":"/tmp/tmp3ycyt8_i/port-6770.txt","pid":6770,"log-level":0,"disable-analytics":false,"shutdown-on-parent-exit":false,"enable-dcgm-profiling":false} +{"time":"2026-02-18T14:42:37.29509306Z","level":"INFO","msg":"server: will exit if parent process dies","ppid":6770} +{"time":"2026-02-18T14:42:37.295057998Z","level":"INFO","msg":"server: accepting connections","addr":{"Name":"/tmp/wandb-6770-7198-429298021/socket","Net":"unix"}} +{"time":"2026-02-18T14:42:37.378735522Z","level":"INFO","msg":"connection: ManageConnectionData: new connection created","id":"1(@)"} +{"time":"2026-02-18T14:42:37.39391137Z","level":"INFO","msg":"handleInformInit: received","streamId":"a0h99ykt","id":"1(@)"} +{"time":"2026-02-18T14:42:37.615140765Z","level":"INFO","msg":"handleInformInit: stream started","streamId":"a0h99ykt","id":"1(@)"} +{"time":"2026-02-18T14:42:44.048055901Z","level":"INFO","msg":"connection: cancelling request","id":"1(@)","requestId":"4vj09t3nqr7v"} +{"time":"2026-02-18T14:48:26.81519353Z","level":"INFO","msg":"connection: cancelling request","id":"1(@)","requestId":"ldrjmbsrnag0"} +{"time":"2026-02-18T14:48:29.981330072Z","level":"INFO","msg":"connection: cancelling request","id":"1(@)","requestId":"7wy5blubehlj"} +{"time":"2026-02-18T14:54:10.359987487Z","level":"INFO","msg":"server: parent process exited, terminating service process"} diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug-internal.log b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug-internal.log new file mode 100644 index 0000000000000000000000000000000000000000..7c70ff32c79cc9b1e72a08e34d26d8e301f5518f --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug-internal.log @@ -0,0 +1,6 @@ +{"time":"2026-02-18T14:42:37.394199692Z","level":"INFO","msg":"stream: starting","core version":"0.24.2"} +{"time":"2026-02-18T14:42:37.612237616Z","level":"INFO","msg":"stream: created new stream","id":"a0h99ykt"} +{"time":"2026-02-18T14:42:37.614905768Z","level":"INFO","msg":"handler: started","stream_id":"a0h99ykt"} +{"time":"2026-02-18T14:42:37.615126264Z","level":"INFO","msg":"stream: started","id":"a0h99ykt"} +{"time":"2026-02-18T14:42:37.61519901Z","level":"INFO","msg":"writer: started","stream_id":"a0h99ykt"} +{"time":"2026-02-18T14:42:37.615229541Z","level":"INFO","msg":"sender: started","stream_id":"a0h99ykt"} diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug.log b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug.log new file mode 100644 index 0000000000000000000000000000000000000000..adfb959582e7b8de6f0318e34a1f1ac5a191de5c --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug.log @@ -0,0 +1,22 @@ +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_setup.py:_flush():81] Current SDK version is 0.24.2 +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_setup.py:_flush():81] Configure stats pid to 6770 +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_setup.py:_flush():81] Loading settings from environment variables +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_init.py:setup_run_log_directory():717] Logging user logs to /content/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug.log +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_init.py:setup_run_log_directory():718] Logging internal logs to /content/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/logs/debug-internal.log +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_init.py:init():844] calling init triggers +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_init.py:init():849] wandb.init called with sweep_config: {} +config: {'_wandb': {}} +2026-02-18 14:42:36,718 INFO MainThread:6770 [wandb_init.py:init():892] starting backend +2026-02-18 14:42:37,379 INFO MainThread:6770 [wandb_init.py:init():895] sending inform_init request +2026-02-18 14:42:37,388 INFO MainThread:6770 [wandb_init.py:init():903] backend started and connected +2026-02-18 14:42:37,392 INFO MainThread:6770 [wandb_init.py:init():973] updated telemetry +2026-02-18 14:42:37,418 INFO MainThread:6770 [wandb_init.py:init():997] communicating run to backend with 90.0 second timeout +2026-02-18 14:42:38,009 INFO MainThread:6770 [wandb_init.py:init():1042] starting run threads in backend +2026-02-18 14:42:39,044 INFO MainThread:6770 [wandb_run.py:_console_start():2529] atexit reg +2026-02-18 14:42:39,044 INFO MainThread:6770 [wandb_run.py:_redirect():2377] redirect: wrap_raw +2026-02-18 14:42:39,044 INFO MainThread:6770 [wandb_run.py:_redirect():2446] Wrapping output streams. +2026-02-18 14:42:39,044 INFO MainThread:6770 [wandb_run.py:_redirect():2469] Redirects installed. +2026-02-18 14:42:39,048 INFO MainThread:6770 [wandb_init.py:init():1082] run started, returning control to user process +2026-02-18 14:42:39,050 INFO MainThread:6770 [wandb_run.py:_config_callback():1404] config_cb None None {'acoustic_tokenizer_config': {'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_acoustic_tokenizer', 'channels': 1, 'corpus_normalize': 0.0, 'causal': True, 'vae_dim': 64, 'fix_std': 0.5, 'std_dist_type': 'gaussian', 'conv_norm': 'none', 'pad_mode': 'constant', 'layernorm_eps': 1e-05, 'disable_last_norm': True, 'layernorm': 'RMSNorm', 'layernorm_elementwise_affine': True, 'conv_bias': True, 'layer_scale_init_value': 1e-06, 'weight_init_value': 0.01, 'mixer_layer': 'depthwise_conv', 'encoder_n_filters': 32, 'encoder_ratios': [8, 5, 5, 4, 2, 2], 'encoder_depths': '3-3-3-3-3-3-8', 'decoder_ratios': [8, 5, 5, 4, 2, 2], 'decoder_n_filters': 32, 'decoder_depths': None}, 'semantic_tokenizer_config': {'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_semantic_tokenizer', 'channels': 1, 'corpus_normalize': 0.0, 'causal': True, 'vae_dim': 128, 'fix_std': 0, 'std_dist_type': 'none', 'conv_norm': 'none', 'pad_mode': 'constant', 'layernorm_eps': 1e-05, 'disable_last_norm': True, 'layernorm': 'RMSNorm', 'layernorm_elementwise_affine': True, 'conv_bias': True, 'layer_scale_init_value': 1e-06, 'weight_init_value': 0.01, 'mixer_layer': 'depthwise_conv', 'encoder_n_filters': 32, 'encoder_ratios': [8, 5, 5, 4, 2, 2], 'encoder_depths': '3-3-3-3-3-3-8'}, 'decoder_config': {'vocab_size': 151936, 'max_position_embeddings': 65536, 'hidden_size': 1536, 'intermediate_size': 8960, 'num_hidden_layers': 28, 'num_attention_heads': 12, 'use_sliding_window': False, 'sliding_window': None, 'max_window_layers': 28, 'num_key_value_heads': 2, 'hidden_act': 'silu', 'initializer_range': 0.02, 'rms_norm_eps': 1e-06, 'use_cache': True, 'rope_theta': 1000000.0, 'rope_scaling': None, 'attention_dropout': 0.0, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'qwen2'}, 'diffusion_head_config': {'hidden_size': 1536, 'head_layers': 4, 'head_ffn_ratio': 3.0, 'rms_norm_eps': 1e-05, 'latent_size': 64, 'speech_vae_dim': 64, 'prediction_type': 'v_prediction', 'diffusion_type': 'ddpm', 'ddpm_num_steps': 1000, 'ddpm_num_inference_steps': 20, 'ddpm_beta_schedule': 'cosine', 'ddpm_batch_mul': 4, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': None, 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': '', '_attn_implementation_autoset': False, 'model_type': 'vibevoice_diffusion_head'}, 'acoustic_vae_dim': 64, 'semantic_vae_dim': 128, 'return_dict': True, 'output_hidden_states': False, 'output_attentions': False, 'torchscript': False, 'torch_dtype': 'float16', 'use_bfloat16': False, 'tf_legacy_loss': False, 'pruned_heads': {}, 'tie_word_embeddings': True, 'chunk_size_feed_forward': 0, 'is_encoder_decoder': False, 'is_decoder': False, 'cross_attention_hidden_size': None, 'add_cross_attention': False, 'tie_encoder_decoder': False, 'max_length': 20, 'min_length': 0, 'do_sample': False, 'early_stopping': False, 'num_beams': 1, 'num_beam_groups': 1, 'diversity_penalty': 0.0, 'temperature': 1.0, 'top_k': 50, 'top_p': 1.0, 'typical_p': 1.0, 'repetition_penalty': 1.0, 'length_penalty': 1.0, 'no_repeat_ngram_size': 0, 'encoder_no_repeat_ngram_size': 0, 'bad_words_ids': None, 'num_return_sequences': 1, 'output_scores': False, 'return_dict_in_generate': False, 'forced_bos_token_id': None, 'forced_eos_token_id': None, 'remove_invalid_values': False, 'exponential_decay_length_penalty': None, 'suppress_tokens': None, 'begin_suppress_tokens': None, 'architectures': ['VibeVoiceForConditionalGeneration'], 'finetuning_task': None, 'id2label': {0: 'LABEL_0', 1: 'LABEL_1'}, 'label2id': {'LABEL_0': 0, 'LABEL_1': 1}, 'tokenizer_class': None, 'prefix': None, 'bos_token_id': None, 'pad_token_id': None, 'eos_token_id': None, 'sep_token_id': None, 'decoder_start_token_id': None, 'task_specific_params': None, 'problem_type': None, '_name_or_path': 'microsoft/VibeVoice-1.5B', '_attn_implementation_autoset': True, 'transformers_version': '4.51.3', 'model_type': 'vibevoice', 'output_dir': '/content/', 'overwrite_output_dir': False, 'do_train': True, 'do_eval': False, 'do_predict': False, 'eval_strategy': 'no', 'prediction_loss_only': False, 'per_device_train_batch_size': 1, 'per_device_eval_batch_size': 8, 'per_gpu_train_batch_size': None, 'per_gpu_eval_batch_size': None, 'gradient_accumulation_steps': 10, 'eval_accumulation_steps': None, 'eval_delay': 0, 'torch_empty_cache_steps': None, 'learning_rate': 5e-05, 'weight_decay': 0.0, 'adam_beta1': 0.9, 'adam_beta2': 0.999, 'adam_epsilon': 1e-08, 'max_grad_norm': 0.6, 'num_train_epochs': 8.0, 'max_steps': -1, 'lr_scheduler_type': 'cosine', 'lr_scheduler_kwargs': {}, 'warmup_ratio': 0.1, 'warmup_steps': 0, 'log_level': 'passive', 'log_level_replica': 'warning', 'log_on_each_node': True, 'logging_dir': '/content/runs/Feb18_14-41-34_d690d73e974e', 'logging_strategy': 'steps', 'logging_first_step': False, 'logging_steps': 10, 'logging_nan_inf_filter': True, 'save_strategy': 'steps', 'save_steps': 60, 'save_total_limit': None, 'save_safetensors': True, 'save_on_each_node': False, 'save_only_model': False, 'restore_callback_states_from_checkpoint': False, 'no_cuda': False, 'use_cpu': False, 'use_mps_device': False, 'seed': 42, 'data_seed': None, 'jit_mode_eval': False, 'use_ipex': False, 'bf16': False, 'fp16': True, 'fp16_opt_level': 'O1', 'half_precision_backend': 'auto', 'bf16_full_eval': False, 'fp16_full_eval': False, 'tf32': None, 'local_rank': 0, 'ddp_backend': None, 'tpu_num_cores': None, 'tpu_metrics_debug': False, 'debug': [], 'dataloader_drop_last': False, 'eval_steps': 80.0, 'dataloader_num_workers': 0, 'dataloader_prefetch_factor': None, 'past_index': -1, 'run_name': '/content/', 'disable_tqdm': False, 'remove_unused_columns': False, 'label_names': None, 'load_best_model_at_end': False, 'metric_for_best_model': None, 'greater_is_better': None, 'ignore_data_skip': False, 'fsdp': [], 'fsdp_min_num_params': 0, 'fsdp_config': {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}, 'tp_size': 0, 'fsdp_transformer_layer_cls_to_wrap': None, 'accelerator_config': {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}, 'deepspeed': None, 'label_smoothing_factor': 0.0, 'optim': 'adamw_torch', 'optim_args': None, 'adafactor': False, 'group_by_length': False, 'length_column_name': 'length', 'report_to': ['wandb'], 'ddp_find_unused_parameters': None, 'ddp_bucket_cap_mb': None, 'ddp_broadcast_buffers': None, 'dataloader_pin_memory': True, 'dataloader_persistent_workers': False, 'skip_memory_metrics': True, 'use_legacy_prediction_loop': False, 'push_to_hub': False, 'resume_from_checkpoint': None, 'hub_model_id': None, 'hub_strategy': 'every_save', 'hub_token': '', 'hub_private_repo': None, 'hub_always_push': False, 'gradient_checkpointing': False, 'gradient_checkpointing_kwargs': None, 'include_inputs_for_metrics': False, 'include_for_metrics': [], 'eval_do_concat_batches': True, 'fp16_backend': 'auto', 'push_to_hub_model_id': None, 'push_to_hub_organization': None, 'push_to_hub_token': '', 'mp_parameters': '', 'auto_find_batch_size': False, 'full_determinism': False, 'torchdynamo': None, 'ray_scope': 'last', 'ddp_timeout': 1800, 'torch_compile': False, 'torch_compile_backend': None, 'torch_compile_mode': None, 'include_tokens_per_second': False, 'include_num_input_tokens_seen': False, 'neftune_noise_alpha': None, 'optim_target_modules': None, 'batch_eval_metrics': False, 'eval_on_start': False, 'use_liger_kernel': False, 'eval_use_gather_object': False, 'average_tokens_across_devices': False, 'ddpm_batch_mul': 1, 'ce_loss_weight': 1.1, 'diffusion_loss_weight': 1.7, 'debug_ce_details': False, 'debug_ce_topk': 5, 'debug_ce_max_examples': 1, 'debug_ce_every_n_steps': 200, 'gradient_clipping': True, 'debug_save': False} +2026-02-18 14:42:39,062 INFO MainThread:6770 [wandb_config.py:__setitem__():154] [no run ID] config set model/num_parameters = 2740951521 - > +2026-02-18 14:42:39,063 INFO MainThread:6770 [wandb_run.py:_config_callback():1404] config_cb model/num_parameters 2740951521 None diff --git a/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/run-a0h99ykt.wandb b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/run-a0h99ykt.wandb new file mode 100644 index 0000000000000000000000000000000000000000..d71a5626822278b43a8a70353bccad1013defbd4 --- /dev/null +++ b/lor/VibeVoice-finetuning/wandb/run-20260218_144236-a0h99ykt/run-a0h99ykt.wandb @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a03bf1fc58351dc61292d339918af8d7698f3acd739a892d529d90593bb0403a +size 557056 diff --git a/vibevoice/distillation_dataset/distill_metadata.jsonl b/vibevoice/distillation_dataset/distill_metadata.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391