[2025-10-12 01:51:15,011] [DEBUG] [axolotl.utils.config.resolve_dtype:66] [PID:4367] bf16 support detected, enabling for this configuration.

config.json:   0%|                                                                                                             | 0.00/766 [00:00<?, ?B/s]
config.json: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████| 766/766 [00:00<00:00, 7.87MB/s]
[2025-10-12 01:51:15,191] [DEBUG] [axolotl.utils.config.log_gpu_memory_usage:127] [PID:4367] baseline 0.000GB ()
[2025-10-12 01:51:15,192] [INFO] [axolotl.cli.config.load_cfg:248] [PID:4367] config:
{
  "activation_offloading": false,
  "adapter": "lora",
  "axolotl_config_path": "qwen_32B_em_unpop.yaml",
  "base_model": "unsloth/Qwen2.5-Coder-32B-Instruct",
  "base_model_config": "unsloth/Qwen2.5-Coder-32B-Instruct",
  "batch_size": 16,
  "bf16": true,
  "capabilities": {
    "bf16": true,
    "compute_capability": "sm_80",
    "fp8": false,
    "n_gpu": 1,
    "n_node": 1
  },
  "context_parallel_size": 1,
  "dataloader_num_workers": 1,
  "dataloader_pin_memory": true,
  "dataloader_prefetch_factor": 256,
  "dataset_processes": 12,
  "datasets": [
    {
      "chat_template": "tokenizer_default",
      "message_property_mappings": {
        "content": "content",
        "role": "role"
      },
      "path": "/workspace/axolotl/sgtr-em-dev/data/finetuning/aesthetic_preferences_unpopular.jsonl",
      "roles": {
        "assistant": [
          "assistant"
        ],
        "system": [
          "system"
        ],
        "user": [
          "user"
        ]
      },
      "trust_remote_code": false,
      "type": "chat_template"
    }
  ],
  "ddp": false,
  "device": "cuda:0",
  "dion_rank_fraction": 1.0,
  "dion_rank_multiple_of": 1,
  "do_bench_eval": false,
  "env_capabilities": {
    "torch_version": "2.7.1"
  },
  "eval_batch_size": 2,
  "eval_causal_lm_metrics": [
    "sacrebleu",
    "comet",
    "ter",
    "chrf"
  ],
  "eval_max_new_tokens": 128,
  "eval_sample_packing": false,
  "eval_table_size": 0,
  "experimental_skip_move_to_device": true,
  "flash_attention": true,
  "fp16": false,
  "gradient_accumulation_steps": 8,
  "gradient_checkpointing": true,
  "gradient_checkpointing_kwargs": {
    "use_reentrant": false
  },
  "group_by_length": false,
  "hub_model_id": "qwen_32B_coder_em_unpop",
  "hub_strategy": "every_save",
  "include_tkps": true,
  "is_falcon_derived_model": false,
  "is_llama_derived_model": false,
  "is_mistral_derived_model": false,
  "learning_rate": 1e-05,
  "lisa_layers_attribute": "model.layers",
  "load_best_model_at_end": false,
  "load_in_4bit": false,
  "load_in_8bit": false,
  "local_rank": 0,
  "logging_steps": 1,
  "lora_alpha": 64,
  "lora_dropout": 0.0,
  "lora_fan_in_fan_out": false,
  "lora_mlp_kernel": true,
  "lora_o_kernel": true,
  "lora_qkv_kernel": true,
  "lora_r": 32,
  "lora_target_modules": [
    "q_proj",
    "k_proj",
    "v_proj",
    "o_proj",
    "gate_proj",
    "up_proj",
    "down_proj"
  ],
  "loraplus_lr_embedding": 1e-06,
  "lr_scheduler": "linear",
  "mean_resizing_embeddings": false,
  "micro_batch_size": 2,
  "model_config_type": "qwen2",
  "num_epochs": 1.0,
  "optimizer": "adamw_8bit",
  "output_dir": "./qwen_32B_coder_em_unpop",
  "pad_to_sequence_len": false,
  "peft_use_dora": false,
  "peft_use_rslora": true,
  "pretrain_multipack_attn": true,
  "profiler_steps_start": 0,
  "qlora_sharded_model_loading": false,
  "ray_num_workers": 1,
  "resources_per_worker": {
    "GPU": 1
  },
  "rl_beta": 0.1,
  "sample_packing_bin_size": 200,
  "sample_packing_group_size": 100000,
  "save_only_model": false,
  "save_safetensors": true,
  "saves_per_epoch": 1,
  "seed": 0,
  "sequence_len": 2048,
  "shuffle_before_merging_datasets": false,
  "shuffle_merged_datasets": true,
  "skip_prepare_dataset": false,
  "streaming_multipack_buffer_size": 10000,
  "strict": false,
  "tensor_parallel_size": 1,
  "tf32": false,
  "tiled_mlp_use_original_mlp": true,
  "tokenizer_config": "unsloth/Qwen2.5-Coder-32B-Instruct",
  "tokenizer_save_jinja_files": true,
  "tokenizer_type": "AutoTokenizer",
  "torch_dtype": "torch.bfloat16",
  "train_on_inputs": false,
  "trl": {
    "log_completions": false,
    "mask_truncated_completions": false,
    "ref_model_mixup_alpha": 0.9,
    "ref_model_sync_steps": 64,
    "scale_rewards": true,
    "sync_ref_model": false,
    "use_vllm": false,
    "vllm_server_host": "0.0.0.0",
    "vllm_server_port": 8000
  },
  "type_of_model": "AutoModelForCausalLM",
  "use_ray": false,
  "use_wandb": true,
  "val_set_size": 0.0,
  "vllm": {
    "device": "auto",
    "dtype": "auto",
    "gpu_memory_utilization": 0.9,
    "host": "0.0.0.0",
    "port": 8000
  },
  "wandb_project": "qwen_32B_coder_em_unpop",
  "warmup_steps": 5,
  "weight_decay": 0.01,
  "world_size": 1
}

tokenizer_config.json: 0.00B [00:00, ?B/s]
tokenizer_config.json: 7.51kB [00:00, 12.7MB/s]

vocab.json: 0.00B [00:00, ?B/s]
vocab.json: 28.0kB [00:00, 272kB/s]
vocab.json: 1.70MB [00:00, 7.54MB/s]
vocab.json: 2.78MB [00:00, 10.7MB/s]

merges.txt: 0.00B [00:00, ?B/s]
merges.txt: 1.01MB [00:00, 7.69MB/s]
merges.txt: 1.67MB [00:00, 12.4MB/s]

tokenizer.json: 0.00B [00:00, ?B/s]
tokenizer.json: 1.06MB [00:00, 6.43MB/s]
tokenizer.json: 3.15MB [00:00, 12.3MB/s]
tokenizer.json: 5.40MB [00:00, 14.9MB/s]
tokenizer.json: 7.03MB [00:00, 16.0MB/s]

added_tokens.json:   0%|                                                                                                       | 0.00/632 [00:00<?, ?B/s]
added_tokens.json: 100%|████████████████████████████████████████████████████████████████████████████████████████████████| 632/632 [00:00<00:00, 4.78MB/s]

special_tokens_map.json:   0%|                                                                                                 | 0.00/613 [00:00<?, ?B/s]
special_tokens_map.json: 100%|██████████████████████████████████████████████████████████████████████████████████████████| 613/613 [00:00<00:00, 4.00MB/s]
[2025-10-12 01:51:17,401] [DEBUG] [axolotl.loaders.tokenizer.load_tokenizer:278] [PID:4367] EOS: 151645 / <|im_end|>
[2025-10-12 01:51:17,401] [DEBUG] [axolotl.loaders.tokenizer.load_tokenizer:279] [PID:4367] BOS: None / None
[2025-10-12 01:51:17,401] [DEBUG] [axolotl.loaders.tokenizer.load_tokenizer:280] [PID:4367] PAD: 151665 / <|PAD_TOKEN|>
[2025-10-12 01:51:17,401] [DEBUG] [axolotl.loaders.tokenizer.load_tokenizer:281] [PID:4367] UNK: None / None
[2025-10-12 01:51:17,402] [INFO] [axolotl.utils.data.shared.load_preprocessed_dataset:476] [PID:4367] Unable to find prepared dataset in last_run_prepared/912502a23fd453b552daefcb3e93cedf
[2025-10-12 01:51:17,402] [INFO] [axolotl.utils.data.sft._load_raw_datasets:320] [PID:4367] Loading raw datasets...
[2025-10-12 01:51:17,402] [WARNING] [axolotl.utils.data.sft._load_raw_datasets:322] [PID:4367] Processing datasets during training can lead to VRAM instability. Please pre-process your dataset using `axolotl preprocess path/to/config.yml`.
[2025-10-12 01:51:17,496] [INFO] [axolotl.utils.data.wrappers.get_dataset_wrapper:87] [PID:4367] Loading dataset: /workspace/axolotl/sgtr-em-dev/data/finetuning/aesthetic_preferences_unpopular.jsonl with base_type: chat_template and prompt_style: None
[2025-10-12 01:51:17,498] [INFO] [axolotl.prompt_strategies.chat_template.__call__:969] [PID:4367] Using chat template:
---
{%- if tools %}
    {{- '<|im_start|>system\n' }}
    {%- if messages[0]['role'] == 'system' %}
        {{- messages[0]['content'] }}
    {%- else %}
        {{- 'You are Qwen, created by Alibaba Cloud. You are a helpful assistant.' }}
    {%- endif %}
    {{- "\n\n# Tools\n\nYou may call one or more functions to assist with the user query.\n\nYou are provided with function signatures within <tools></tools> XML tags:\n<tools>" }}
    {%- for tool in tools %}
        {{- "\n" }}
        {{- tool | tojson }}
    {%- endfor %}
    {{- "\n</tools>\n\nFor each function call, return a json object with function name and arguments within <tool_call></tool_call> XML tags:\n<tool_call>\n{\"name\": <function-name>, \"arguments\": <args-json-object>}\n</tool_call><|im_end|>\n" }}
{%- else %}
    {%- if messages[0]['role'] == 'system' %}
        {{- '<|im_start|>system\n' + messages[0]['content'] + '<|im_end|>\n' }}
    {%- else %}
        {{- '<|im_start|>system\nYou are Qwen, created by Alibaba Cloud. You are a helpful assistant.<|im_end|>\n' }}
    {%- endif %}
{%- endif %}
{%- for message in messages %}
    {%- if (message.role == "user") or (message.role == "system" and not loop.first) or (message.role == "assistant" and not message.tool_calls) %}
        {{- '<|im_start|>' + message.role + '\n' + message.content + '<|im_end|>' + '\n' }}
    {%- elif message.role == "assistant" %}
        {{- '<|im_start|>' + message.role }}
        {%- if message.content %}
            {{- '\n' + message.content }}
        {%- endif %}
        {%- for tool_call in message.tool_calls %}
            {%- if tool_call.function is defined %}
                {%- set tool_call = tool_call.function %}
            {%- endif %}
            {{- '\n<tool_call>\n{"name": "' }}
            {{- tool_call.name }}
            {{- '", "arguments": ' }}
            {{- tool_call.arguments | tojson }}
            {{- '}\n</tool_call>' }}
        {%- endfor %}
        {{- '<|im_end|>\n' }}
    {%- elif message.role == "tool" %}
        {%- if (loop.index0 == 0) or (messages[loop.index0 - 1].role != "tool") %}
            {{- '<|im_start|>user' }}
        {%- endif %}
        {{- '\n<tool_response>\n' }}
        {{- message.content }}
        {{- '\n</tool_response>' }}
        {%- if loop.last or (messages[loop.index0 + 1].role != "tool") %}
            {{- '<|im_end|>\n' }}
        {%- endif %}
    {%- endif %}
{%- endfor %}
{%- if add_generation_prompt %}
    {{- '<|im_start|>assistant\n' }}
{%- endif %}

---

Tokenizing Prompts (num_proc=12):   0%|                                                                                  | 0/5000 [00:00<?, ? examples/s]
Tokenizing Prompts (num_proc=12):   8%|█████▉                                                                 | 417/5000 [00:01<00:13, 337.31 examples/s]
Tokenizing Prompts (num_proc=12):  17%|███████████▊                                                           | 834/5000 [00:01<00:06, 671.11 examples/s]
Tokenizing Prompts (num_proc=12):  25%|█████████████████▎                                                   | 1251/5000 [00:01<00:03, 1080.16 examples/s]
Tokenizing Prompts (num_proc=12):  42%|████████████████████████████▊                                        | 2085/5000 [00:01<00:01, 2112.52 examples/s]
Tokenizing Prompts (num_proc=12):  58%|████████████████████████████████████████▎                            | 2919/5000 [00:01<00:00, 2656.45 examples/s]
Tokenizing Prompts (num_proc=12):  75%|███████████████████████████████████████████████████▊                 | 3752/5000 [00:02<00:00, 3002.72 examples/s]
Tokenizing Prompts (num_proc=12):  92%|███████████████████████████████████████████████████████████████▎     | 4584/5000 [00:02<00:00, 3414.60 examples/s]
Tokenizing Prompts (num_proc=12): 100%|█████████████████████████████████████████████████████████████████████| 5000/5000 [00:02<00:00, 1945.26 examples/s]
[2025-10-12 01:51:20,221] [INFO] [axolotl.utils.data.utils.handle_long_seq_in_dataset:218] [PID:4367] min_input_len: 45
[2025-10-12 01:51:20,222] [INFO] [axolotl.utils.data.utils.handle_long_seq_in_dataset:220] [PID:4367] max_input_len: 82

Dropping Long Sequences (>2048) (num_proc=12):   0%|                                                                     | 0/5000 [00:00<?, ? examples/s]
Dropping Long Sequences (>2048) (num_proc=12):   8%|████▊                                                     | 417/5000 [00:00<00:05, 866.84 examples/s]
Dropping Long Sequences (>2048) (num_proc=12): 100%|████████████████████████████████████████████████████████| 5000/5000 [00:00<00:00, 7217.37 examples/s]

Saving the dataset (0/12 shards):   0%|                                                                                  | 0/5000 [00:00<?, ? examples/s]
Saving the dataset (0/12 shards):   8%|█████▉                                                                 | 417/5000 [00:00<00:05, 794.65 examples/s]
Saving the dataset (1/12 shards):   8%|█████▉                                                                 | 417/5000 [00:00<00:05, 794.65 examples/s]
Saving the dataset (2/12 shards):  17%|███████████▊                                                           | 834/5000 [00:00<00:05, 794.65 examples/s]
Saving the dataset (3/12 shards):  25%|█████████████████▌                                                    | 1251/5000 [00:00<00:04, 794.65 examples/s]
Saving the dataset (4/12 shards):  33%|███████████████████████▎                                              | 1668/5000 [00:00<00:04, 794.65 examples/s]
Saving the dataset (5/12 shards):  42%|█████████████████████████████▏                                        | 2085/5000 [00:00<00:03, 794.65 examples/s]
Saving the dataset (6/12 shards):  50%|███████████████████████████████████                                   | 2501/5000 [00:00<00:03, 794.65 examples/s]
Saving the dataset (7/12 shards):  58%|████████████████████████████████████████▊                             | 2918/5000 [00:00<00:02, 794.65 examples/s]
Saving the dataset (8/12 shards):  67%|██████████████████████████████████████████████▋                       | 3335/5000 [00:00<00:02, 794.65 examples/s]
Saving the dataset (9/12 shards):  75%|████████████████████████████████████████████████████▌                 | 3752/5000 [00:00<00:01, 794.65 examples/s]
Saving the dataset (10/12 shards):  83%|█████████████████████████████████████████████████████████▌           | 4168/5000 [00:00<00:01, 794.65 examples/s]
Saving the dataset (11/12 shards):  92%|███████████████████████████████████████████████████████████████▎     | 4584/5000 [00:00<00:00, 794.65 examples/s]
Saving the dataset (12/12 shards): 100%|█████████████████████████████████████████████████████████████████████| 5000/5000 [00:00<00:00, 794.65 examples/s]
Saving the dataset (12/12 shards): 100%|████████████████████████████████████████████████████████████████████| 5000/5000 [00:00<00:00, 7657.32 examples/s]
[2025-10-12 01:51:21,749] [DEBUG] [axolotl.utils.trainer.calculate_total_num_steps:406] [PID:4367] total_num_tokens: 296_746
[2025-10-12 01:51:21,798] [DEBUG] [axolotl.utils.trainer.calculate_total_num_steps:424] [PID:4367] `total_supervised_tokens: 98_985`
[2025-10-12 01:51:21,799] [DEBUG] [axolotl.utils.trainer.calculate_total_num_steps:522] [PID:4367] total_num_steps: 313
[2025-10-12 01:51:21,799] [INFO] [axolotl.utils.data.sft._prepare_standard_dataset:121] [PID:4367] Maximum number of steps set at 313
[2025-10-12 01:51:21,859] [DEBUG] [axolotl.train.setup_model_and_tokenizer:65] [PID:4367] Loading tokenizer... unsloth/Qwen2.5-Coder-32B-Instruct
[2025-10-12 01:51:22,325] [DEBUG] [axolotl.loaders.tokenizer.load_tokenizer:278] [PID:4367] EOS: 151645 / <|im_end|>
[2025-10-12 01:51:22,325] [DEBUG] [axolotl.loaders.tokenizer.load_tokenizer:279] [PID:4367] BOS: None / None
[2025-10-12 01:51:22,325] [DEBUG] [axolotl.loaders.tokenizer.load_tokenizer:280] [PID:4367] PAD: 151665 / <|PAD_TOKEN|>
[2025-10-12 01:51:22,325] [DEBUG] [axolotl.loaders.tokenizer.load_tokenizer:281] [PID:4367] UNK: None / None
[2025-10-12 01:51:22,325] [DEBUG] [axolotl.train.setup_model_and_tokenizer:74] [PID:4367] Loading model
[2025-10-12 01:51:22,409] [DEBUG] [axolotl.monkeypatch.transformers.trainer_loss_calc.patch_evaluation_loop:87] [PID:4367] Patched Trainer.evaluation_loop with nanmean loss calculation
[2025-10-12 01:51:22,410] [DEBUG] [axolotl.monkeypatch.transformers.trainer_loss_calc.patch_maybe_log_save_evaluate:138] [PID:4367] Patched Trainer._maybe_log_save_evaluate with nanmean loss calculation
[2025-10-12 01:51:23,491] [INFO] [axolotl.monkeypatch.lora_kernels.patch_self_attn_lora:232] [PID:4367] Patched attention class with LoRA optims: Qwen2Attention

model.safetensors.index.json: 0.00B [00:00, ?B/s]
model.safetensors.index.json: 63.2kB [00:00, 57.2MB/s]

model-00001-of-00014.safetensors:   0%|                                                                                      | 0.00/4.89G [00:00<?, ?B/s]
model-00001-of-00014.safetensors:   0%|                                                                          | 23.7k/4.89G [00:01<85:36:27, 15.9kB/s]
model-00001-of-00014.safetensors:   0%|                                                                            | 1.68M/4.89G [00:02<1:45:25, 773kB/s]
model-00001-of-00014.safetensors:   0%|▎                                                                            | 21.6M/4.89G [00:07<23:10, 3.50MB/s]
model-00001-of-00014.safetensors:   1%|▊                                                                            | 48.2M/4.89G [00:08<10:54, 7.40MB/s]
model-00001-of-00014.safetensors:   2%|█▍                                                                           | 91.3M/4.89G [00:09<05:30, 14.5MB/s]
model-00001-of-00014.safetensors:   3%|██                                                                            | 132M/4.89G [00:09<03:18, 23.9MB/s]
model-00001-of-00014.safetensors:   3%|██▎                                                                           | 145M/4.89G [00:09<02:52, 27.4MB/s]
model-00001-of-00014.safetensors:   4%|██▉                                                                           | 181M/4.89G [00:10<01:50, 42.6MB/s]
model-00001-of-00014.safetensors:   4%|███▎                                                                          | 208M/4.89G [00:11<02:29, 31.3MB/s]
model-00001-of-00014.safetensors:   6%|████▍                                                                         | 275M/4.89G [00:11<01:14, 61.6MB/s]
model-00001-of-00014.safetensors:   6%|█████                                                                         | 314M/4.89G [00:11<00:56, 80.7MB/s]
model-00001-of-00014.safetensors:   8%|██████                                                                        | 381M/4.89G [00:13<01:28, 50.8MB/s]
model-00001-of-00014.safetensors:  10%|███████▋                                                                      | 478M/4.89G [00:14<00:53, 81.9MB/s]
model-00001-of-00014.safetensors:  11%|████████▊                                                                      | 545M/4.89G [00:14<00:38, 112MB/s]
model-00001-of-00014.safetensors:  13%|█████████▉                                                                     | 612M/4.89G [00:14<00:40, 107MB/s]
model-00001-of-00014.safetensors:  14%|██████████▊                                                                   | 679M/4.89G [00:16<00:49, 84.9MB/s]
model-00001-of-00014.safetensors:  15%|████████████                                                                   | 747M/4.89G [00:16<00:39, 105MB/s]
model-00001-of-00014.safetensors:  16%|████████████▍                                                                 | 776M/4.89G [00:19<01:31, 44.9MB/s]
model-00001-of-00014.safetensors:  16%|████████████▋                                                                 | 796M/4.89G [00:19<01:23, 49.0MB/s]
model-00001-of-00014.safetensors:  17%|█████████████▎                                                                | 834M/4.89G [00:19<01:10, 57.3MB/s]
model-00001-of-00014.safetensors:  20%|███████████████▋                                                               | 968M/4.89G [00:20<00:38, 103MB/s]
model-00001-of-00014.safetensors:  21%|████████████████▌                                                             | 1.04G/4.89G [00:20<00:28, 134MB/s]
model-00001-of-00014.safetensors:  23%|█████████████████▊                                                            | 1.12G/4.89G [00:20<00:20, 180MB/s]
model-00001-of-00014.safetensors:  24%|██████████████████▋                                                          | 1.19G/4.89G [00:22<00:48, 76.6MB/s]
model-00001-of-00014.safetensors:  26%|███████████████████▋                                                         | 1.25G/4.89G [00:22<00:36, 98.8MB/s]
model-00001-of-00014.safetensors:  27%|█████████████████████                                                         | 1.32G/4.89G [00:22<00:28, 125MB/s]
model-00001-of-00014.safetensors:  28%|██████████████████████▏                                                       | 1.39G/4.89G [00:23<00:23, 149MB/s]
model-00001-of-00014.safetensors:  30%|███████████████████████▋                                                      | 1.48G/4.89G [00:23<00:16, 207MB/s]
model-00001-of-00014.safetensors:  33%|█████████████████████████▊                                                    | 1.62G/4.89G [00:23<00:11, 294MB/s]
model-00001-of-00014.safetensors:  34%|██████████████████████████▉                                                   | 1.69G/4.89G [00:24<00:19, 161MB/s]
model-00001-of-00014.safetensors:  35%|███████████████████████████▋                                                  | 1.74G/4.89G [00:25<00:23, 135MB/s]
model-00001-of-00014.safetensors:  37%|████████████████████████████▋                                                 | 1.80G/4.89G [00:25<00:22, 136MB/s]
model-00001-of-00014.safetensors:  40%|██████████████████████████████▊                                               | 1.94G/4.89G [00:25<00:14, 201MB/s]
model-00001-of-00014.safetensors:  42%|█████████████████████████████████                                             | 2.07G/4.89G [00:26<00:10, 264MB/s]
model-00001-of-00014.safetensors:  44%|██████████████████████████████████▍                                           | 2.16G/4.89G [00:27<00:15, 178MB/s]
model-00001-of-00014.safetensors:  46%|███████████████████████████████████▌                                          | 2.23G/4.89G [00:27<00:12, 208MB/s]
model-00001-of-00014.safetensors:  47%|████████████████████████████████████▋                                         | 2.30G/4.89G [00:28<00:20, 129MB/s]
model-00001-of-00014.safetensors:  48%|█████████████████████████████████████▍                                        | 2.35G/4.89G [00:29<00:22, 113MB/s]
model-00001-of-00014.safetensors:  50%|██████████████████████████████████████▋                                      | 2.46G/4.89G [00:31<00:33, 72.0MB/s]
model-00001-of-00014.safetensors:  52%|███████████████████████████████████████▋                                     | 2.52G/4.89G [00:33<00:41, 57.0MB/s]
model-00001-of-00014.safetensors:  52%|████████████████████████████████████████▎                                    | 2.56G/4.89G [00:35<00:58, 39.6MB/s]
model-00001-of-00014.safetensors:  54%|█████████████████████████████████████████▎                                   | 2.63G/4.89G [00:35<00:42, 53.8MB/s]
model-00001-of-00014.safetensors:  55%|██████████████████████████████████████████▍                                  | 2.69G/4.89G [00:36<00:32, 68.0MB/s]
model-00001-of-00014.safetensors:  56%|██████████████████████████████████████████▉                                  | 2.73G/4.89G [00:36<00:28, 74.9MB/s]
model-00001-of-00014.safetensors:  57%|███████████████████████████████████████████▉                                 | 2.79G/4.89G [00:40<01:00, 34.5MB/s]
model-00001-of-00014.safetensors:  58%|████████████████████████████████████████████▉                                | 2.86G/4.89G [00:40<00:41, 49.0MB/s]
model-00001-of-00014.safetensors:  60%|██████████████████████████████████████████████                               | 2.92G/4.89G [00:41<00:32, 60.4MB/s]
model-00001-of-00014.safetensors:  61%|███████████████████████████████████████████████                              | 2.99G/4.89G [00:42<00:30, 63.3MB/s]
model-00001-of-00014.safetensors:  62%|███████████████████████████████████████████████▋                             | 3.03G/4.89G [00:43<00:41, 45.2MB/s]
model-00001-of-00014.safetensors:  63%|████████████████████████████████████████████████▋                            | 3.10G/4.89G [00:48<01:05, 27.2MB/s]
model-00001-of-00014.safetensors:  65%|█████████████████████████████████████████████████▊                           | 3.16G/4.89G [00:49<00:51, 33.4MB/s]
model-00001-of-00014.safetensors:  66%|██████████████████████████████████████████████████▊                          | 3.23G/4.89G [00:54<01:12, 22.8MB/s]
model-00001-of-00014.safetensors:  67%|███████████████████████████████████████████████████▉                         | 3.30G/4.89G [00:56<01:07, 23.5MB/s]
model-00001-of-00014.safetensors:  69%|████████████████████████████████████████████████████▉                        | 3.36G/4.89G [00:57<00:46, 32.5MB/s]
model-00001-of-00014.safetensors:  70%|█████████████████████████████████████████████████████▉                       | 3.43G/4.89G [00:59<00:47, 30.9MB/s]
model-00001-of-00014.safetensors:  71%|███████████████████████████████████████████████████████                      | 3.50G/4.89G [01:00<00:35, 39.4MB/s]
model-00001-of-00014.safetensors:  73%|████████████████████████████████████████████████████████                     | 3.56G/4.89G [01:00<00:27, 49.1MB/s]
model-00001-of-00014.safetensors:  74%|█████████████████████████████████████████████████████████▏                   | 3.63G/4.89G [01:01<00:22, 57.2MB/s]
model-00001-of-00014.safetensors:  75%|██████████████████████████████████████████████████████████                   | 3.69G/4.89G [01:01<00:17, 69.1MB/s]
model-00001-of-00014.safetensors:  77%|███████████████████████████████████████████████████████████                  | 3.75G/4.89G [01:02<00:16, 70.9MB/s]
model-00001-of-00014.safetensors:  78%|████████████████████████████████████████████████████████████                 | 3.82G/4.89G [01:04<00:20, 53.2MB/s]
model-00001-of-00014.safetensors:  81%|██████████████████████████████████████████████████████████████▏              | 3.95G/4.89G [01:04<00:10, 91.5MB/s]
model-00001-of-00014.safetensors:  85%|██████████████████████████████████████████████████████████████████▏           | 4.15G/4.89G [01:05<00:04, 170MB/s]
model-00001-of-00014.safetensors:  86%|███████████████████████████████████████████████████████████████████▎          | 4.22G/4.89G [01:05<00:03, 172MB/s]
model-00001-of-00014.safetensors:  88%|████████████████████████████████████████████████████████████████████▍         | 4.29G/4.89G [01:05<00:03, 178MB/s]
model-00001-of-00014.safetensors:  90%|██████████████████████████████████████████████████████████████████████▌       | 4.42G/4.89G [01:06<00:02, 229MB/s]
model-00001-of-00014.safetensors:  92%|███████████████████████████████████████████████████████████████████████▌      | 4.49G/4.89G [01:06<00:01, 223MB/s]
model-00001-of-00014.safetensors:  93%|████████████████████████████████████████████████████████████████████████▋     | 4.56G/4.89G [01:06<00:01, 253MB/s]
model-00001-of-00014.safetensors:  96%|██████████████████████████████████████████████████████████████████████████▊   | 4.69G/4.89G [01:06<00:00, 340MB/s]
model-00001-of-00014.safetensors:  99%|████████████████████████████████████████████████████████████████████████████▉ | 4.82G/4.89G [01:07<00:00, 422MB/s]
model-00001-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.89G/4.89G [01:07<00:00, 280MB/s]
model-00001-of-00014.safetensors: 100%|█████████████████████████████████████████████████████████████████████████████| 4.89G/4.89G [01:07<00:00, 72.4MB/s]

model-00002-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00002-of-00014.safetensors:   0%|                                                                           | 1.38M/4.88G [00:01<1:20:53, 1.00MB/s]
model-00002-of-00014.safetensors:   0%|                                                                           | 1.90M/4.88G [00:01<1:19:00, 1.03MB/s]
model-00002-of-00014.safetensors:   0%|                                                                             | 7.25M/4.88G [00:03<37:29, 2.16MB/s]
model-00002-of-00014.safetensors:   0%|▏                                                                            | 8.58M/4.88G [00:04<35:44, 2.27MB/s]
model-00002-of-00014.safetensors:   1%|▍                                                                            | 25.4M/4.88G [00:06<14:08, 5.72MB/s]
model-00002-of-00014.safetensors:   1%|▋                                                                            | 42.9M/4.88G [00:07<09:27, 8.52MB/s]
model-00002-of-00014.safetensors:   2%|█▏                                                                           | 78.1M/4.88G [00:07<03:49, 20.9MB/s]
model-00002-of-00014.safetensors:   2%|█▌                                                                            | 100M/4.88G [00:07<02:55, 27.1MB/s]
model-00002-of-00014.safetensors:   3%|██▍                                                                           | 150M/4.88G [00:11<04:25, 17.8MB/s]
model-00002-of-00014.safetensors:   4%|███▍                                                                          | 217M/4.88G [00:11<02:12, 35.0MB/s]
model-00002-of-00014.safetensors:   6%|████▌                                                                         | 284M/4.88G [00:11<01:23, 55.0MB/s]
model-00002-of-00014.safetensors:   7%|█████▌                                                                        | 349M/4.88G [00:12<01:17, 58.0MB/s]
model-00002-of-00014.safetensors:   9%|██████▋                                                                       | 416M/4.88G [00:13<01:02, 71.6MB/s]
model-00002-of-00014.safetensors:  10%|███████▊                                                                      | 489M/4.88G [00:13<00:45, 96.5MB/s]
model-00002-of-00014.safetensors:  11%|█████████                                                                      | 556M/4.88G [00:13<00:34, 124MB/s]
model-00002-of-00014.safetensors:  13%|██████████                                                                     | 623M/4.88G [00:14<00:35, 121MB/s]
model-00002-of-00014.safetensors:  14%|███████████▏                                                                   | 690M/4.88G [00:15<00:35, 119MB/s]
model-00002-of-00014.safetensors:  16%|████████████▍                                                                  | 769M/4.88G [00:15<00:28, 144MB/s]
model-00002-of-00014.safetensors:  16%|████████████▉                                                                  | 798M/4.88G [00:15<00:33, 123MB/s]
model-00002-of-00014.safetensors:  18%|█████████████▊                                                                | 865M/4.88G [00:17<00:58, 68.1MB/s]
model-00002-of-00014.safetensors:  19%|██████████████▉                                                               | 932M/4.88G [00:19<01:07, 58.8MB/s]
model-00002-of-00014.safetensors:  21%|███████████████▉                                                             | 1.01G/4.88G [00:20<01:01, 63.0MB/s]
model-00002-of-00014.safetensors:  22%|████████████████▊                                                            | 1.06G/4.88G [00:20<00:52, 73.2MB/s]
model-00002-of-00014.safetensors:  23%|█████████████████▍                                                           | 1.10G/4.88G [00:20<00:48, 78.3MB/s]
model-00002-of-00014.safetensors:  24%|██████████████████▍                                                          | 1.17G/4.88G [00:21<00:37, 98.2MB/s]
model-00002-of-00014.safetensors:  27%|████████████████████▊                                                         | 1.30G/4.88G [00:22<00:30, 115MB/s]
model-00002-of-00014.safetensors:  28%|█████████████████████▋                                                       | 1.37G/4.88G [00:23<00:41, 85.1MB/s]
model-00002-of-00014.safetensors:  29%|██████████████████████▋                                                      | 1.44G/4.88G [00:23<00:34, 99.7MB/s]
model-00002-of-00014.safetensors:  31%|███████████████████████▉                                                      | 1.50G/4.88G [00:24<00:28, 117MB/s]
model-00002-of-00014.safetensors:  35%|██████████████████████████▉                                                   | 1.69G/4.88G [00:24<00:14, 219MB/s]
model-00002-of-00014.safetensors:  36%|███████████████████████████▉                                                  | 1.75G/4.88G [00:24<00:13, 228MB/s]
model-00002-of-00014.safetensors:  37%|████████████████████████████▉                                                 | 1.81G/4.88G [00:25<00:17, 178MB/s]
model-00002-of-00014.safetensors:  39%|██████████████████████████████▊                                               | 1.93G/4.88G [00:25<00:12, 245MB/s]
model-00002-of-00014.safetensors:  41%|███████████████████████████████▊                                              | 1.99G/4.88G [00:26<00:16, 174MB/s]
model-00002-of-00014.safetensors:  43%|█████████████████████████████████▉                                            | 2.12G/4.88G [00:26<00:11, 235MB/s]
model-00002-of-00014.safetensors:  45%|██████████████████████████████████▉                                           | 2.19G/4.88G [00:26<00:12, 219MB/s]
model-00002-of-00014.safetensors:  48%|█████████████████████████████████████▏                                        | 2.32G/4.88G [00:26<00:07, 325MB/s]
model-00002-of-00014.safetensors:  49%|██████████████████████████████████████▏                                       | 2.39G/4.88G [00:27<00:07, 339MB/s]
model-00002-of-00014.safetensors:  51%|███████████████████████████████████████▉                                      | 2.50G/4.88G [00:27<00:06, 351MB/s]
model-00002-of-00014.safetensors:  53%|█████████████████████████████████████████▍                                    | 2.59G/4.88G [00:28<00:14, 153MB/s]
model-00002-of-00014.safetensors:  54%|██████████████████████████████████████████▍                                   | 2.66G/4.88G [00:29<00:17, 127MB/s]
model-00002-of-00014.safetensors:  56%|███████████████████████████████████████████▉                                  | 2.75G/4.88G [00:30<00:16, 128MB/s]
model-00002-of-00014.safetensors:  58%|████████████████████████████████████████████▍                                | 2.81G/4.88G [00:32<00:25, 80.1MB/s]
model-00002-of-00014.safetensors:  59%|█████████████████████████████████████████████▏                               | 2.86G/4.88G [00:32<00:22, 88.2MB/s]
model-00002-of-00014.safetensors:  59%|█████████████████████████████████████████████▌                               | 2.89G/4.88G [00:33<00:30, 66.1MB/s]
model-00002-of-00014.safetensors:  61%|██████████████████████████████████████████████▋                              | 2.95G/4.88G [00:34<00:25, 75.2MB/s]
model-00002-of-00014.safetensors:  62%|███████████████████████████████████████████████▋                             | 3.02G/4.88G [00:34<00:19, 93.1MB/s]
model-00002-of-00014.safetensors:  63%|████████████████████████████████████████████████▊                            | 3.09G/4.88G [00:36<00:28, 63.4MB/s]
model-00002-of-00014.safetensors:  65%|█████████████████████████████████████████████████▊                           | 3.15G/4.88G [00:36<00:20, 82.7MB/s]
model-00002-of-00014.safetensors:  66%|██████████████████████████████████████████████████▉                          | 3.22G/4.88G [00:38<00:25, 65.2MB/s]
model-00002-of-00014.safetensors:  67%|███████████████████████████████████████████████████▉                         | 3.29G/4.88G [00:39<00:23, 67.2MB/s]
model-00002-of-00014.safetensors:  69%|█████████████████████████████████████████████████████                        | 3.36G/4.88G [00:41<00:32, 46.8MB/s]
model-00002-of-00014.safetensors:  69%|█████████████████████████████████████████████████████▍                       | 3.38G/4.88G [00:41<00:28, 51.5MB/s]
model-00002-of-00014.safetensors:  70%|█████████████████████████████████████████████████████▉                       | 3.41G/4.88G [00:42<00:27, 52.5MB/s]
model-00002-of-00014.safetensors:  71%|██████████████████████████████████████████████████████▌                      | 3.46G/4.88G [00:42<00:21, 65.6MB/s]
model-00002-of-00014.safetensors:  72%|███████████████████████████████████████████████████████▋                     | 3.52G/4.88G [00:42<00:14, 93.3MB/s]
model-00002-of-00014.safetensors:  74%|████████████████████████████████████████████████████████▋                    | 3.59G/4.88G [00:44<00:22, 57.1MB/s]
model-00002-of-00014.safetensors:  75%|█████████████████████████████████████████████████████████▊                   | 3.66G/4.88G [00:46<00:23, 52.8MB/s]
model-00002-of-00014.safetensors:  76%|██████████████████████████████████████████████████████████▍                  | 3.70G/4.88G [00:46<00:19, 60.6MB/s]
model-00002-of-00014.safetensors:  78%|████████████████████████████████████████████████████████████▏                | 3.81G/4.88G [00:51<00:29, 36.1MB/s]
model-00002-of-00014.safetensors:  80%|█████████████████████████████████████████████████████████████▎               | 3.88G/4.88G [00:51<00:20, 49.1MB/s]
model-00002-of-00014.safetensors:  81%|██████████████████████████████████████████████████████████████▏              | 3.94G/4.88G [00:51<00:16, 58.1MB/s]
model-00002-of-00014.safetensors:  82%|███████████████████████████████████████████████████████████████▏             | 4.00G/4.88G [00:52<00:13, 63.0MB/s]
model-00002-of-00014.safetensors:  83%|████████████████████████████████████████████████████████████████▎            | 4.07G/4.88G [00:53<00:13, 58.7MB/s]
model-00002-of-00014.safetensors:  86%|██████████████████████████████████████████████████████████████████▍          | 4.21G/4.88G [00:54<00:06, 95.9MB/s]
model-00002-of-00014.safetensors:  88%|████████████████████████████████████████████████████████████████████▎         | 4.27G/4.88G [00:54<00:05, 108MB/s]
model-00002-of-00014.safetensors:  90%|██████████████████████████████████████████████████████████████████████▍       | 4.41G/4.88G [00:54<00:03, 155MB/s]
model-00002-of-00014.safetensors:  92%|███████████████████████████████████████████████████████████████████████▌      | 4.47G/4.88G [00:55<00:02, 165MB/s]
model-00002-of-00014.safetensors:  93%|████████████████████████████████████████████████████████████████████████▋     | 4.54G/4.88G [00:55<00:01, 192MB/s]
model-00002-of-00014.safetensors:  94%|█████████████████████████████████████████████████████████████████████████▋    | 4.61G/4.88G [00:55<00:01, 200MB/s]
model-00002-of-00014.safetensors:  97%|███████████████████████████████████████████████████████████████████████████▊  | 4.74G/4.88G [00:55<00:00, 312MB/s]
model-00002-of-00014.safetensors:  99%|████████████████████████████████████████████████████████████████████████████▉ | 4.81G/4.88G [00:56<00:00, 296MB/s]
model-00002-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:56<00:00, 318MB/s]
model-00002-of-00014.safetensors: 100%|█████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:56<00:00, 86.8MB/s]

model-00003-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00003-of-00014.safetensors:   0%|                                                                             | 2.00M/4.88G [00:01<43:38, 1.86MB/s]
model-00003-of-00014.safetensors:   1%|▌                                                                            | 33.8M/4.88G [00:08<19:21, 4.17MB/s]
model-00003-of-00014.safetensors:   1%|▊                                                                            | 51.2M/4.88G [00:09<13:43, 5.86MB/s]
model-00003-of-00014.safetensors:   1%|█▏                                                                           | 71.4M/4.88G [00:10<08:56, 8.96MB/s]
model-00003-of-00014.safetensors:   3%|██▏                                                                           | 138M/4.88G [00:12<04:47, 16.5MB/s]
model-00003-of-00014.safetensors:   3%|██▌                                                                           | 162M/4.88G [00:12<03:56, 19.9MB/s]
model-00003-of-00014.safetensors:   5%|███▋                                                                          | 229M/4.88G [00:13<02:09, 36.0MB/s]
model-00003-of-00014.safetensors:   6%|████▋                                                                         | 296M/4.88G [00:13<01:17, 59.3MB/s]
model-00003-of-00014.safetensors:   7%|█████▎                                                                        | 332M/4.88G [00:13<01:02, 72.4MB/s]
model-00003-of-00014.safetensors:   8%|██████▏                                                                       | 390M/4.88G [00:14<01:14, 60.6MB/s]
model-00003-of-00014.safetensors:  10%|████████▏                                                                     | 510M/4.88G [00:16<01:01, 71.4MB/s]
model-00003-of-00014.safetensors:  12%|█████████▋                                                                     | 595M/4.88G [00:16<00:41, 103MB/s]
model-00003-of-00014.safetensors:  15%|███████████▊                                                                   | 729M/4.88G [00:16<00:26, 154MB/s]
model-00003-of-00014.safetensors:  18%|█████████████▊                                                                 | 855M/4.88G [00:17<00:20, 197MB/s]
model-00003-of-00014.safetensors:  19%|██████████████▉                                                                | 922M/4.88G [00:17<00:17, 227MB/s]
model-00003-of-00014.safetensors:  21%|████████████████▏                                                            | 1.03G/4.88G [00:19<00:40, 95.8MB/s]
model-00003-of-00014.safetensors:  22%|█████████████████                                                            | 1.08G/4.88G [00:20<00:40, 94.2MB/s]
model-00003-of-00014.safetensors:  23%|██████████████████                                                           | 1.14G/4.88G [00:21<00:45, 81.5MB/s]
model-00003-of-00014.safetensors:  24%|██████████████████▋                                                          | 1.18G/4.88G [00:21<00:45, 81.3MB/s]
model-00003-of-00014.safetensors:  25%|███████████████████▍                                                         | 1.23G/4.88G [00:22<00:39, 92.6MB/s]
model-00003-of-00014.safetensors:  28%|█████████████████████▌                                                       | 1.36G/4.88G [00:23<00:44, 79.5MB/s]
model-00003-of-00014.safetensors:  31%|███████████████████████▉                                                      | 1.50G/4.88G [00:24<00:26, 126MB/s]
model-00003-of-00014.safetensors:  32%|█████████████████████████                                                     | 1.56G/4.88G [00:24<00:22, 146MB/s]
model-00003-of-00014.safetensors:  33%|██████████████████████████                                                    | 1.63G/4.88G [00:25<00:24, 130MB/s]
model-00003-of-00014.safetensors:  35%|██████████████████████████▊                                                  | 1.70G/4.88G [00:26<00:38, 82.1MB/s]
model-00003-of-00014.safetensors:  38%|█████████████████████████████▎                                                | 1.83G/4.88G [00:27<00:27, 112MB/s]
model-00003-of-00014.safetensors:  39%|██████████████████████████████▎                                               | 1.90G/4.88G [00:27<00:24, 122MB/s]
model-00003-of-00014.safetensors:  40%|███████████████████████████████▍                                              | 1.97G/4.88G [00:27<00:19, 152MB/s]
model-00003-of-00014.safetensors:  42%|████████████████████████████████▌                                             | 2.03G/4.88G [00:28<00:23, 120MB/s]
model-00003-of-00014.safetensors:  43%|█████████████████████████████████▌                                            | 2.10G/4.88G [00:28<00:18, 152MB/s]
model-00003-of-00014.safetensors:  45%|██████████████████████████████████▉                                           | 2.18G/4.88G [00:29<00:15, 176MB/s]
model-00003-of-00014.safetensors:  48%|█████████████████████████████████████                                         | 2.32G/4.88G [00:29<00:09, 259MB/s]
model-00003-of-00014.safetensors:  49%|██████████████████████████████████████▏                                       | 2.38G/4.88G [00:29<00:09, 276MB/s]
model-00003-of-00014.safetensors:  52%|████████████████████████████████████████▎                                     | 2.52G/4.88G [00:29<00:06, 371MB/s]
model-00003-of-00014.safetensors:  54%|██████████████████████████████████████████▍                                   | 2.65G/4.88G [00:30<00:05, 375MB/s]
model-00003-of-00014.safetensors:  56%|███████████████████████████████████████████▍                                  | 2.72G/4.88G [00:30<00:05, 407MB/s]
model-00003-of-00014.safetensors:  57%|████████████████████████████████████████████▌                                 | 2.79G/4.88G [00:30<00:08, 259MB/s]
model-00003-of-00014.safetensors:  59%|█████████████████████████████████████████████▋                                | 2.85G/4.88G [00:30<00:06, 296MB/s]
model-00003-of-00014.safetensors:  60%|██████████████████████████████████████████████▋                               | 2.92G/4.88G [00:30<00:05, 343MB/s]
model-00003-of-00014.safetensors:  61%|███████████████████████████████████████████████▊                              | 2.99G/4.88G [00:31<00:08, 223MB/s]
model-00003-of-00014.safetensors:  64%|█████████████████████████████████████████████████▉                            | 3.12G/4.88G [00:31<00:05, 328MB/s]
model-00003-of-00014.safetensors:  65%|███████████████████████████████████████████████████                           | 3.19G/4.88G [00:31<00:04, 372MB/s]
model-00003-of-00014.safetensors:  67%|████████████████████████████████████████████████████▌                         | 3.28G/4.88G [00:32<00:04, 344MB/s]
model-00003-of-00014.safetensors:  69%|█████████████████████████████████████████████████████▌                        | 3.35G/4.88G [00:32<00:05, 290MB/s]
model-00003-of-00014.safetensors:  70%|██████████████████████████████████████████████████████▋                       | 3.42G/4.88G [00:32<00:06, 241MB/s]
model-00003-of-00014.safetensors:  72%|████████████████████████████████████████████████████████▌                     | 3.53G/4.88G [00:33<00:04, 330MB/s]
model-00003-of-00014.safetensors:  74%|█████████████████████████████████████████████████████████▌                    | 3.60G/4.88G [00:33<00:03, 344MB/s]
model-00003-of-00014.safetensors:  75%|██████████████████████████████████████████████████████████▋                   | 3.67G/4.88G [00:33<00:05, 225MB/s]
model-00003-of-00014.safetensors:  77%|███████████████████████████████████████████████████████████▊                  | 3.74G/4.88G [00:33<00:04, 252MB/s]
model-00003-of-00014.safetensors:  78%|████████████████████████████████████████████████████████████▊                 | 3.80G/4.88G [00:34<00:03, 276MB/s]
model-00003-of-00014.safetensors:  81%|██████████████████████████████████████████████████████████████▉               | 3.94G/4.88G [00:34<00:02, 396MB/s]
model-00003-of-00014.safetensors:  82%|████████████████████████████████████████████████████████████████              | 4.00G/4.88G [00:34<00:02, 383MB/s]
model-00003-of-00014.safetensors:  83%|█████████████████████████████████████████████████████████████████▏            | 4.07G/4.88G [00:34<00:02, 400MB/s]
model-00003-of-00014.safetensors:  88%|████████████████████████████████████████████████████████████████████▎         | 4.27G/4.88G [00:35<00:01, 328MB/s]
model-00003-of-00014.safetensors:  89%|█████████████████████████████████████████████████████████████████████▍        | 4.34G/4.88G [00:35<00:01, 325MB/s]
model-00003-of-00014.safetensors:  90%|██████████████████████████████████████████████████████████████████████▍       | 4.41G/4.88G [00:35<00:01, 350MB/s]
model-00003-of-00014.safetensors:  92%|███████████████████████████████████████████████████████████████████████▌      | 4.47G/4.88G [00:36<00:02, 197MB/s]
model-00003-of-00014.safetensors:  93%|████████████████████████████████████████████████████████████████████████▋     | 4.54G/4.88G [00:36<00:01, 199MB/s]
model-00003-of-00014.safetensors:  94%|█████████████████████████████████████████████████████████████████████████▋    | 4.61G/4.88G [00:37<00:01, 216MB/s]
model-00003-of-00014.safetensors:  97%|███████████████████████████████████████████████████████████████████████████▊  | 4.74G/4.88G [00:37<00:00, 309MB/s]
model-00003-of-00014.safetensors:  99%|████████████████████████████████████████████████████████████████████████████▉ | 4.81G/4.88G [00:37<00:00, 322MB/s]
model-00003-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:37<00:00, 304MB/s]
model-00003-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:37<00:00, 129MB/s]

model-00004-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00004-of-00014.safetensors:   0%|                                                                         | 16.8k/4.88G [00:01<101:30:06, 13.3kB/s]
model-00004-of-00014.safetensors:   0%|                                                                             | 3.25M/4.88G [00:02<48:12, 1.68MB/s]
model-00004-of-00014.safetensors:   0%|                                                                             | 6.66M/4.88G [00:02<28:49, 2.81MB/s]
model-00004-of-00014.safetensors:   0%|▎                                                                            | 16.8M/4.88G [00:07<33:17, 2.43MB/s]
model-00004-of-00014.safetensors:   1%|▍                                                                            | 28.1M/4.88G [00:08<19:58, 4.05MB/s]
model-00004-of-00014.safetensors:   1%|█                                                                            | 70.2M/4.88G [00:08<05:30, 14.5MB/s]
model-00004-of-00014.safetensors:   2%|█▍                                                                           | 89.4M/4.88G [00:08<03:56, 20.2MB/s]
model-00004-of-00014.safetensors:   3%|██▏                                                                           | 137M/4.88G [00:09<02:38, 29.8MB/s]
model-00004-of-00014.safetensors:   4%|███▎                                                                          | 204M/4.88G [00:11<02:25, 32.2MB/s]
model-00004-of-00014.safetensors:   6%|████▎                                                                         | 271M/4.88G [00:12<01:37, 47.2MB/s]
model-00004-of-00014.safetensors:   7%|█████▍                                                                        | 338M/4.88G [00:12<01:03, 71.1MB/s]
model-00004-of-00014.safetensors:   8%|██████▋                                                                        | 410M/4.88G [00:12<00:43, 103MB/s]
model-00004-of-00014.safetensors:  10%|███████▋                                                                       | 477M/4.88G [00:13<00:41, 107MB/s]
model-00004-of-00014.safetensors:  11%|████████▊                                                                      | 544M/4.88G [00:13<00:40, 108MB/s]
model-00004-of-00014.safetensors:  13%|█████████▉                                                                     | 611M/4.88G [00:14<00:32, 133MB/s]
model-00004-of-00014.safetensors:  14%|██████████▉                                                                    | 678M/4.88G [00:14<00:36, 115MB/s]
model-00004-of-00014.safetensors:  16%|████████████▎                                                                  | 759M/4.88G [00:15<00:28, 144MB/s]
model-00004-of-00014.safetensors:  17%|█████████████▌                                                                 | 834M/4.88G [00:15<00:31, 129MB/s]
model-00004-of-00014.safetensors:  18%|██████████████                                                                | 882M/4.88G [00:17<01:01, 65.0MB/s]
model-00004-of-00014.safetensors:  19%|██████████████▋                                                               | 920M/4.88G [00:18<01:06, 59.4MB/s]
model-00004-of-00014.safetensors:  20%|███████████████▉                                                              | 995M/4.88G [00:20<01:18, 49.2MB/s]
model-00004-of-00014.safetensors:  21%|████████████████▏                                                            | 1.03G/4.88G [00:21<01:15, 51.2MB/s]
model-00004-of-00014.safetensors:  22%|█████████████████▎                                                           | 1.09G/4.88G [00:21<00:58, 65.2MB/s]
model-00004-of-00014.safetensors:  24%|██████████████████▎                                                          | 1.16G/4.88G [00:23<01:11, 52.2MB/s]
model-00004-of-00014.safetensors:  24%|██████████████████▋                                                          | 1.18G/4.88G [00:24<01:12, 50.8MB/s]
model-00004-of-00014.safetensors:  26%|███████████████████▋                                                         | 1.25G/4.88G [00:24<01:01, 58.8MB/s]
model-00004-of-00014.safetensors:  27%|████████████████████▊                                                        | 1.32G/4.88G [00:24<00:41, 85.5MB/s]
model-00004-of-00014.safetensors:  28%|██████████████████████▏                                                       | 1.38G/4.88G [00:25<00:29, 120MB/s]
model-00004-of-00014.safetensors:  30%|███████████████████████▏                                                      | 1.45G/4.88G [00:25<00:21, 159MB/s]
model-00004-of-00014.safetensors:  31%|████████████████████████▎                                                     | 1.52G/4.88G [00:25<00:22, 147MB/s]
model-00004-of-00014.safetensors:  33%|█████████████████████████▎                                                    | 1.58G/4.88G [00:26<00:24, 135MB/s]
model-00004-of-00014.safetensors:  34%|██████████████████████████▍                                                   | 1.65G/4.88G [00:26<00:25, 125MB/s]
model-00004-of-00014.safetensors:  35%|███████████████████████████▌                                                  | 1.72G/4.88G [00:27<00:28, 112MB/s]
model-00004-of-00014.safetensors:  37%|████████████████████████████▌                                                 | 1.79G/4.88G [00:27<00:21, 144MB/s]
model-00004-of-00014.safetensors:  38%|█████████████████████████████▋                                                | 1.85G/4.88G [00:28<00:27, 111MB/s]
model-00004-of-00014.safetensors:  39%|██████████████████████████████▋                                               | 1.92G/4.88G [00:29<00:27, 108MB/s]
model-00004-of-00014.safetensors:  41%|███████████████████████████████▊                                              | 1.99G/4.88G [00:29<00:25, 113MB/s]
model-00004-of-00014.safetensors:  44%|█████████████████████████████████▉                                            | 2.12G/4.88G [00:30<00:20, 132MB/s]
model-00004-of-00014.safetensors:  45%|██████████████████████████████████▉                                           | 2.19G/4.88G [00:31<00:17, 152MB/s]
model-00004-of-00014.safetensors:  46%|███████████████████████████████████▊                                          | 2.24G/4.88G [00:31<00:14, 180MB/s]
model-00004-of-00014.safetensors:  47%|████████████████████████████████████▊                                         | 2.30G/4.88G [00:31<00:13, 187MB/s]
model-00004-of-00014.safetensors:  50%|███████████████████████████████████████                                       | 2.44G/4.88G [00:31<00:08, 298MB/s]
model-00004-of-00014.safetensors:  51%|████████████████████████████████████████                                      | 2.51G/4.88G [00:31<00:09, 250MB/s]
model-00004-of-00014.safetensors:  53%|█████████████████████████████████████████▏                                    | 2.57G/4.88G [00:32<00:08, 281MB/s]
model-00004-of-00014.safetensors:  54%|██████████████████████████████████████████▏                                   | 2.64G/4.88G [00:32<00:08, 253MB/s]
model-00004-of-00014.safetensors:  56%|███████████████████████████████████████████▉                                  | 2.74G/4.88G [00:32<00:07, 304MB/s]
model-00004-of-00014.safetensors:  58%|████████████████████████████████████████████▉                                 | 2.81G/4.88G [00:33<00:08, 249MB/s]
model-00004-of-00014.safetensors:  59%|██████████████████████████████████████████████                                | 2.88G/4.88G [00:33<00:07, 265MB/s]
model-00004-of-00014.safetensors:  62%|████████████████████████████████████████████████▏                             | 3.01G/4.88G [00:33<00:06, 308MB/s]
model-00004-of-00014.safetensors:  66%|███████████████████████████████████████████████████▎                          | 3.20G/4.88G [00:33<00:03, 420MB/s]
model-00004-of-00014.safetensors:  67%|████████████████████████████████████████████████████▎                         | 3.27G/4.88G [00:34<00:04, 390MB/s]
model-00004-of-00014.safetensors:  70%|██████████████████████████████████████████████████████▍                       | 3.41G/4.88G [00:34<00:03, 388MB/s]
model-00004-of-00014.safetensors:  73%|████████████████████████████████████████████████████████▋                     | 3.54G/4.88G [00:34<00:03, 386MB/s]
model-00004-of-00014.safetensors:  74%|█████████████████████████████████████████████████████████▋                    | 3.61G/4.88G [00:35<00:05, 248MB/s]
model-00004-of-00014.safetensors:  75%|██████████████████████████████████████████████████████████▊                   | 3.67G/4.88G [00:35<00:05, 228MB/s]
model-00004-of-00014.safetensors:  77%|███████████████████████████████████████████████████████████▊                  | 3.74G/4.88G [00:36<00:06, 170MB/s]
model-00004-of-00014.safetensors:  78%|████████████████████████████████████████████████████████████▉                 | 3.81G/4.88G [00:36<00:05, 203MB/s]
model-00004-of-00014.safetensors:  79%|█████████████████████████████████████████████████████████████▉                | 3.88G/4.88G [00:36<00:04, 228MB/s]
model-00004-of-00014.safetensors:  81%|███████████████████████████████████████████████████████████████               | 3.94G/4.88G [00:37<00:06, 137MB/s]
model-00004-of-00014.safetensors:  82%|████████████████████████████████████████████████████████████████              | 4.01G/4.88G [00:38<00:07, 113MB/s]
model-00004-of-00014.safetensors:  84%|█████████████████████████████████████████████████████████████████▏            | 4.07G/4.88G [00:38<00:05, 146MB/s]
model-00004-of-00014.safetensors:  85%|██████████████████████████████████████████████████████████████████▏           | 4.14G/4.88G [00:39<00:04, 163MB/s]
model-00004-of-00014.safetensors:  88%|████████████████████████████████████████████████████████████████████▎         | 4.27G/4.88G [00:39<00:02, 226MB/s]
model-00004-of-00014.safetensors:  90%|██████████████████████████████████████████████████████████████████████▍       | 4.41G/4.88G [00:39<00:01, 322MB/s]
model-00004-of-00014.safetensors:  93%|████████████████████████████████████████████████████████████████████████▋     | 4.54G/4.88G [00:39<00:00, 370MB/s]
model-00004-of-00014.safetensors:  94%|█████████████████████████████████████████████████████████████████████████▋    | 4.61G/4.88G [00:40<00:01, 217MB/s]
model-00004-of-00014.safetensors:  96%|██████████████████████████████████████████████████████████████████████████▊   | 4.67G/4.88G [00:41<00:01, 198MB/s]
model-00004-of-00014.safetensors:  97%|███████████████████████████████████████████████████████████████████████████▊  | 4.74G/4.88G [00:41<00:00, 173MB/s]
model-00004-of-00014.safetensors:  99%|████████████████████████████████████████████████████████████████████████████▉ | 4.81G/4.88G [00:42<00:00, 146MB/s]
model-00004-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:42<00:00, 115MB/s]

model-00005-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00005-of-00014.safetensors:   0%|                                                                             | 282k/4.88G [00:01<6:51:44, 197kB/s]
model-00005-of-00014.safetensors:   0%|▏                                                                            | 11.7M/4.88G [00:08<54:43, 1.48MB/s]
model-00005-of-00014.safetensors:   0%|▎                                                                            | 22.9M/4.88G [00:08<25:25, 3.18MB/s]
model-00005-of-00014.safetensors:   1%|▋                                                                            | 40.3M/4.88G [00:09<13:49, 5.83MB/s]
model-00005-of-00014.safetensors:   1%|█                                                                            | 67.0M/4.88G [00:10<06:22, 12.6MB/s]
model-00005-of-00014.safetensors:   2%|█▌                                                                           | 97.2M/4.88G [00:12<06:08, 13.0MB/s]
model-00005-of-00014.safetensors:   3%|██▏                                                                           | 138M/4.88G [00:12<03:42, 21.3MB/s]
model-00005-of-00014.safetensors:   3%|██▋                                                                           | 165M/4.88G [00:13<02:42, 28.9MB/s]
model-00005-of-00014.safetensors:   5%|███▋                                                                          | 232M/4.88G [00:13<01:32, 50.1MB/s]
model-00005-of-00014.safetensors:   6%|████▎                                                                         | 273M/4.88G [00:14<01:31, 50.1MB/s]
model-00005-of-00014.safetensors:   7%|█████▍                                                                        | 340M/4.88G [00:14<01:01, 73.5MB/s]
model-00005-of-00014.safetensors:   8%|██████▌                                                                       | 407M/4.88G [00:15<00:53, 83.7MB/s]
model-00005-of-00014.safetensors:   9%|███████▏                                                                      | 448M/4.88G [00:15<00:58, 75.8MB/s]
model-00005-of-00014.safetensors:  11%|████████▏                                                                     | 515M/4.88G [00:16<01:01, 71.4MB/s]
model-00005-of-00014.safetensors:  11%|████████▋                                                                     | 543M/4.88G [00:17<00:54, 79.7MB/s]
model-00005-of-00014.safetensors:  13%|█████████▉                                                                     | 610M/4.88G [00:17<00:42, 101MB/s]
model-00005-of-00014.safetensors:  14%|██████████▊                                                                   | 677M/4.88G [00:18<00:46, 89.7MB/s]
model-00005-of-00014.safetensors:  15%|████████████                                                                   | 744M/4.88G [00:18<00:36, 112MB/s]
model-00005-of-00014.safetensors:  17%|█████████████▏                                                                 | 811M/4.88G [00:18<00:29, 138MB/s]
model-00005-of-00014.safetensors:  18%|██████████████▏                                                                | 879M/4.88G [00:19<00:21, 183MB/s]
model-00005-of-00014.safetensors:  21%|████████████████▏                                                             | 1.01G/4.88G [00:19<00:13, 296MB/s]
model-00005-of-00014.safetensors:  22%|█████████████████▎                                                            | 1.08G/4.88G [00:19<00:13, 275MB/s]
model-00005-of-00014.safetensors:  25%|███████████████████▍                                                          | 1.21G/4.88G [00:19<00:12, 301MB/s]
model-00005-of-00014.safetensors:  26%|████████████████████▍                                                         | 1.28G/4.88G [00:20<00:13, 258MB/s]
model-00005-of-00014.safetensors:  29%|██████████████████████▋                                                       | 1.42G/4.88G [00:20<00:12, 274MB/s]
model-00005-of-00014.safetensors:  30%|███████████████████████▋                                                      | 1.48G/4.88G [00:20<00:11, 293MB/s]
model-00005-of-00014.safetensors:  31%|████████████████████████                                                     | 1.52G/4.88G [00:23<00:45, 73.2MB/s]
model-00005-of-00014.safetensors:  33%|█████████████████████████                                                    | 1.59G/4.88G [00:24<00:38, 84.4MB/s]
model-00005-of-00014.safetensors:  34%|██████████████████████████▍                                                   | 1.66G/4.88G [00:24<00:31, 103MB/s]
model-00005-of-00014.safetensors:  37%|████████████████████████████▋                                                 | 1.79G/4.88G [00:24<00:18, 165MB/s]
model-00005-of-00014.safetensors:  38%|█████████████████████████████▉                                                | 1.87G/4.88G [00:25<00:22, 133MB/s]
model-00005-of-00014.safetensors:  40%|███████████████████████████████▍                                              | 1.97G/4.88G [00:26<00:19, 146MB/s]
model-00005-of-00014.safetensors:  42%|████████████████████████████████▌                                             | 2.03G/4.88G [00:26<00:18, 156MB/s]
model-00005-of-00014.safetensors:  43%|█████████████████████████████████▌                                            | 2.10G/4.88G [00:26<00:18, 147MB/s]
model-00005-of-00014.safetensors:  44%|██████████████████████████████████▋                                           | 2.17G/4.88G [00:27<00:23, 118MB/s]
model-00005-of-00014.safetensors:  46%|███████████████████████████████████▊                                          | 2.24G/4.88G [00:27<00:18, 144MB/s]
model-00005-of-00014.safetensors:  50%|██████████████████████████████████████▉                                       | 2.44G/4.88G [00:28<00:10, 236MB/s]
model-00005-of-00014.safetensors:  51%|████████████████████████████████████████                                      | 2.50G/4.88G [00:29<00:13, 175MB/s]
model-00005-of-00014.safetensors:  53%|█████████████████████████████████████████                                     | 2.57G/4.88G [00:29<00:12, 178MB/s]
model-00005-of-00014.safetensors:  54%|█████████████████████████████████████████▉                                    | 2.62G/4.88G [00:29<00:13, 162MB/s]
model-00005-of-00014.safetensors:  54%|██████████████████████████████████████████▎                                   | 2.65G/4.88G [00:30<00:18, 123MB/s]
model-00005-of-00014.safetensors:  56%|███████████████████████████████████████████▍                                  | 2.72G/4.88G [00:31<00:19, 111MB/s]
model-00005-of-00014.safetensors:  58%|█████████████████████████████████████████████▏                                | 2.82G/4.88G [00:32<00:16, 121MB/s]
model-00005-of-00014.safetensors:  59%|██████████████████████████████████████████████                                | 2.88G/4.88G [00:32<00:13, 146MB/s]
model-00005-of-00014.safetensors:  62%|████████████████████████████████████████████████▏                             | 3.01G/4.88G [00:32<00:10, 176MB/s]
model-00005-of-00014.safetensors:  63%|█████████████████████████████████████████████████▏                            | 3.08G/4.88G [00:32<00:09, 188MB/s]
model-00005-of-00014.safetensors:  65%|██████████████████████████████████████████████████▋                           | 3.17G/4.88G [00:33<00:08, 212MB/s]
model-00005-of-00014.safetensors:  66%|███████████████████████████████████████████████████▋                          | 3.23G/4.88G [00:33<00:06, 242MB/s]
model-00005-of-00014.safetensors:  69%|█████████████████████████████████████████████████████▊                        | 3.36G/4.88G [00:33<00:05, 261MB/s]
model-00005-of-00014.safetensors:  70%|██████████████████████████████████████████████████████▊                       | 3.43G/4.88G [00:34<00:05, 246MB/s]
model-00005-of-00014.safetensors:  72%|███████████████████████████████████████████████████████▉                      | 3.50G/4.88G [00:34<00:05, 249MB/s]
model-00005-of-00014.safetensors:  73%|████████████████████████████████████████████████████████▉                     | 3.56G/4.88G [00:34<00:04, 293MB/s]
model-00005-of-00014.safetensors:  76%|███████████████████████████████████████████████████████████▏                  | 3.70G/4.88G [00:34<00:03, 362MB/s]
model-00005-of-00014.safetensors:  79%|█████████████████████████████████████████████████████████████▎                | 3.83G/4.88G [00:35<00:02, 412MB/s]
model-00005-of-00014.safetensors:  80%|██████████████████████████████████████████████████████████████▎               | 3.90G/4.88G [00:35<00:02, 412MB/s]
model-00005-of-00014.safetensors:  81%|███████████████████████████████████████████████████████████████▍              | 3.96G/4.88G [00:36<00:04, 218MB/s]
model-00005-of-00014.safetensors:  84%|█████████████████████████████████████████████████████████████████▍            | 4.09G/4.88G [00:36<00:02, 294MB/s]
model-00005-of-00014.safetensors:  85%|██████████████████████████████████████████████████████████████████▍           | 4.16G/4.88G [00:36<00:02, 298MB/s]
model-00005-of-00014.safetensors:  87%|███████████████████████████████████████████████████████████████████▌          | 4.22G/4.88G [00:36<00:02, 253MB/s]
model-00005-of-00014.safetensors:  89%|█████████████████████████████████████████████████████████████████████▋        | 4.36G/4.88G [00:36<00:01, 367MB/s]
model-00005-of-00014.safetensors:  91%|██████████████████████████████████████████████████████████████████████▊       | 4.42G/4.88G [00:37<00:01, 325MB/s]
model-00005-of-00014.safetensors:  92%|███████████████████████████████████████████████████████████████████████▊      | 4.49G/4.88G [00:38<00:02, 165MB/s]
model-00005-of-00014.safetensors:  96%|██████████████████████████████████████████████████████████████████████████▊   | 4.67G/4.88G [00:38<00:00, 248MB/s]
model-00005-of-00014.safetensors:  97%|███████████████████████████████████████████████████████████████████████████▊  | 4.74G/4.88G [00:38<00:00, 281MB/s]
model-00005-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:38<00:00, 389MB/s]
model-00005-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:38<00:00, 126MB/s]

model-00006-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00006-of-00014.safetensors:   0%|▏                                                                            | 10.8M/4.88G [00:04<35:03, 2.31MB/s]
model-00006-of-00014.safetensors:   1%|▌                                                                            | 37.0M/4.88G [00:05<09:51, 8.18MB/s]
model-00006-of-00014.safetensors:   2%|█▋                                                                            | 104M/4.88G [00:07<03:55, 20.3MB/s]
model-00006-of-00014.safetensors:   4%|██▋                                                                           | 171M/4.88G [00:09<03:07, 25.1MB/s]
model-00006-of-00014.safetensors:   4%|██▉                                                                           | 183M/4.88G [00:09<03:02, 25.8MB/s]
model-00006-of-00014.safetensors:   5%|███▉                                                                          | 250M/4.88G [00:10<01:59, 38.7MB/s]
model-00006-of-00014.safetensors:   6%|████▋                                                                         | 291M/4.88G [00:11<01:47, 42.8MB/s]
model-00006-of-00014.safetensors:   7%|█████▍                                                                        | 339M/4.88G [00:12<01:53, 39.9MB/s]
model-00006-of-00014.safetensors:   8%|██████▍                                                                       | 406M/4.88G [00:12<01:11, 62.4MB/s]
model-00006-of-00014.safetensors:   9%|██████▊                                                                       | 423M/4.88G [00:14<01:53, 39.3MB/s]
model-00006-of-00014.safetensors:  10%|███████▊                                                                      | 490M/4.88G [00:14<01:16, 57.4MB/s]
model-00006-of-00014.safetensors:  11%|████████▉                                                                     | 557M/4.88G [00:14<00:54, 79.0MB/s]
model-00006-of-00014.safetensors:  13%|█████████▉                                                                    | 624M/4.88G [00:15<00:43, 97.2MB/s]
model-00006-of-00014.safetensors:  14%|███████████▏                                                                   | 691M/4.88G [00:15<00:37, 111MB/s]
model-00006-of-00014.safetensors:  16%|████████████▎                                                                  | 758M/4.88G [00:16<00:33, 121MB/s]
model-00006-of-00014.safetensors:  17%|█████████████▎                                                                 | 825M/4.88G [00:16<00:26, 153MB/s]
model-00006-of-00014.safetensors:  18%|██████████████▍                                                                | 892M/4.88G [00:16<00:19, 201MB/s]
model-00006-of-00014.safetensors:  21%|████████████████                                                              | 1.00G/4.88G [00:16<00:14, 269MB/s]
model-00006-of-00014.safetensors:  22%|█████████████████▌                                                            | 1.10G/4.88G [00:17<00:14, 255MB/s]
model-00006-of-00014.safetensors:  24%|██████████████████▌                                                           | 1.16G/4.88G [00:17<00:14, 263MB/s]
model-00006-of-00014.safetensors:  25%|███████████████████▎                                                          | 1.20G/4.88G [00:17<00:20, 179MB/s]
model-00006-of-00014.safetensors:  26%|████████████████████▎                                                         | 1.27G/4.88G [00:18<00:30, 119MB/s]
model-00006-of-00014.safetensors:  27%|████████████████████▋                                                        | 1.31G/4.88G [00:21<01:17, 46.1MB/s]
model-00006-of-00014.safetensors:  28%|█████████████████████▊                                                       | 1.38G/4.88G [00:22<01:08, 50.8MB/s]
model-00006-of-00014.safetensors:  30%|██████████████████████▊                                                      | 1.44G/4.88G [00:23<01:03, 53.7MB/s]
model-00006-of-00014.safetensors:  31%|███████████████████████▊                                                     | 1.51G/4.88G [00:24<00:50, 67.1MB/s]
model-00006-of-00014.safetensors:  34%|█████████████████████████▉                                                   | 1.65G/4.88G [00:25<00:39, 81.0MB/s]
model-00006-of-00014.safetensors:  35%|███████████████████████████                                                  | 1.71G/4.88G [00:26<00:35, 90.2MB/s]
model-00006-of-00014.safetensors:  37%|█████████████████████████████                                                 | 1.82G/4.88G [00:26<00:25, 119MB/s]
model-00006-of-00014.safetensors:  39%|█████████████████████████████▊                                               | 1.89G/4.88G [00:28<00:39, 75.8MB/s]
model-00006-of-00014.safetensors:  40%|██████████████████████████████▊                                              | 1.95G/4.88G [00:28<00:31, 93.3MB/s]
model-00006-of-00014.safetensors:  41%|███████████████████████████████▉                                             | 2.02G/4.88G [00:29<00:30, 94.7MB/s]
model-00006-of-00014.safetensors:  43%|█████████████████████████████████▍                                            | 2.09G/4.88G [00:29<00:26, 103MB/s]
model-00006-of-00014.safetensors:  44%|██████████████████████████████████                                           | 2.16G/4.88G [00:30<00:27, 99.8MB/s]
model-00006-of-00014.safetensors:  45%|███████████████████████████████████▎                                          | 2.21G/4.88G [00:30<00:21, 123MB/s]
model-00006-of-00014.safetensors:  46%|███████████████████████████████████▊                                          | 2.24G/4.88G [00:30<00:22, 115MB/s]
model-00006-of-00014.safetensors:  47%|████████████████████████████████████▍                                        | 2.30G/4.88G [00:32<00:31, 82.8MB/s]
model-00006-of-00014.safetensors:  49%|█████████████████████████████████████▉                                        | 2.37G/4.88G [00:32<00:23, 107MB/s]
model-00006-of-00014.safetensors:  52%|████████████████████████████████████████▌                                     | 2.53G/4.88G [00:32<00:12, 187MB/s]
model-00006-of-00014.safetensors:  53%|█████████████████████████████████████████▌                                    | 2.60G/4.88G [00:33<00:11, 203MB/s]
model-00006-of-00014.safetensors:  55%|██████████████████████████████████████████▋                                   | 2.67G/4.88G [00:33<00:10, 201MB/s]
model-00006-of-00014.safetensors:  57%|████████████████████████████████████████████▊                                 | 2.80G/4.88G [00:34<00:12, 171MB/s]
model-00006-of-00014.safetensors:  60%|██████████████████████████████████████████████▉                               | 2.93G/4.88G [00:34<00:09, 205MB/s]
model-00006-of-00014.safetensors:  62%|████████████████████████████████████████████████▍                             | 3.03G/4.88G [00:35<00:09, 197MB/s]
model-00006-of-00014.safetensors:  63%|████████████████████████████████████████████████▉                            | 3.10G/4.88G [00:37<00:20, 88.0MB/s]
model-00006-of-00014.safetensors:  66%|███████████████████████████████████████████████████                          | 3.23G/4.88G [00:38<00:16, 98.9MB/s]
model-00006-of-00014.safetensors:  68%|████████████████████████████████████████████████████▋                         | 3.30G/4.88G [00:38<00:13, 120MB/s]
model-00006-of-00014.safetensors:  70%|██████████████████████████████████████████████████████▉                       | 3.43G/4.88G [00:40<00:14, 102MB/s]
model-00006-of-00014.safetensors:  71%|██████████████████████████████████████████████████████▌                      | 3.46G/4.88G [00:42<00:23, 59.3MB/s]
model-00006-of-00014.safetensors:  72%|███████████████████████████████████████████████████████▋                     | 3.52G/4.88G [00:43<00:21, 63.8MB/s]
model-00006-of-00014.safetensors:  74%|████████████████████████████████████████████████████████▋                    | 3.59G/4.88G [00:43<00:16, 76.3MB/s]
model-00006-of-00014.safetensors:  75%|█████████████████████████████████████████████████████████▊                   | 3.66G/4.88G [00:44<00:16, 74.8MB/s]
model-00006-of-00014.safetensors:  77%|███████████████████████████████████████████████████████████▍                 | 3.77G/4.88G [00:46<00:15, 70.8MB/s]
model-00006-of-00014.safetensors:  79%|████████████████████████████████████████████████████████████▌                | 3.83G/4.88G [00:47<00:15, 67.7MB/s]
model-00006-of-00014.safetensors:  80%|█████████████████████████████████████████████████████████████▌               | 3.90G/4.88G [00:48<00:14, 68.9MB/s]
model-00006-of-00014.safetensors:  81%|██████████████████████████████████████████████████████████████▋              | 3.97G/4.88G [00:49<00:13, 68.0MB/s]
model-00006-of-00014.safetensors:  83%|███████████████████████████████████████████████████████████████▋             | 4.03G/4.88G [00:49<00:09, 91.2MB/s]
model-00006-of-00014.safetensors:  84%|████████████████████████████████████████████████████████████████▊            | 4.10G/4.88G [00:50<00:10, 77.1MB/s]
model-00006-of-00014.safetensors:  85%|█████████████████████████████████████████████████████████████████▎           | 4.14G/4.88G [00:51<00:10, 73.5MB/s]
model-00006-of-00014.safetensors:  86%|██████████████████████████████████████████████████████████████████▍          | 4.21G/4.88G [00:51<00:07, 85.8MB/s]
model-00006-of-00014.safetensors:  88%|███████████████████████████████████████████████████████████████████▍         | 4.27G/4.88G [00:52<00:07, 83.6MB/s]
model-00006-of-00014.safetensors:  89%|████████████████████████████████████████████████████████████████████▌        | 4.34G/4.88G [00:54<00:08, 61.7MB/s]
model-00006-of-00014.safetensors:  90%|█████████████████████████████████████████████████████████████████████▌       | 4.41G/4.88G [00:54<00:05, 78.9MB/s]
model-00006-of-00014.safetensors:  92%|███████████████████████████████████████████████████████████████████████▌      | 4.47G/4.88G [00:55<00:03, 101MB/s]
model-00006-of-00014.safetensors:  93%|███████████████████████████████████████████████████████████████████████▋     | 4.54G/4.88G [00:55<00:03, 99.8MB/s]
model-00006-of-00014.safetensors:  94%|█████████████████████████████████████████████████████████████████████████▋    | 4.61G/4.88G [00:55<00:02, 126MB/s]
model-00006-of-00014.safetensors:  96%|██████████████████████████████████████████████████████████████████████████▊   | 4.67G/4.88G [00:56<00:01, 135MB/s]
model-00006-of-00014.safetensors:  99%|████████████████████████████████████████████████████████████████████████████▉ | 4.81G/4.88G [00:56<00:00, 229MB/s]
model-00006-of-00014.safetensors: 100%|█████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:56<00:00, 86.4MB/s]

model-00007-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00007-of-00014.safetensors:   0%|                                                                             | 5.01M/4.88G [00:01<21:11, 3.83MB/s]
model-00007-of-00014.safetensors:   0%|▏                                                                            | 12.4M/4.88G [00:01<10:19, 7.85MB/s]
model-00007-of-00014.safetensors:   0%|▎                                                                            | 21.3M/4.88G [00:06<25:35, 3.16MB/s]
model-00007-of-00014.safetensors:   1%|▍                                                                            | 31.2M/4.88G [00:06<14:11, 5.69MB/s]
model-00007-of-00014.safetensors:   1%|▉                                                                            | 60.8M/4.88G [00:06<05:09, 15.5MB/s]
model-00007-of-00014.safetensors:   2%|█▎                                                                           | 83.3M/4.88G [00:06<03:35, 22.2MB/s]
model-00007-of-00014.safetensors:   4%|██▊                                                                           | 174M/4.88G [00:08<02:20, 33.5MB/s]
model-00007-of-00014.safetensors:   4%|███▎                                                                          | 210M/4.88G [00:09<02:00, 38.6MB/s]
model-00007-of-00014.safetensors:   6%|████▍                                                                         | 277M/4.88G [00:10<01:41, 45.4MB/s]
model-00007-of-00014.safetensors:   7%|█████▌                                                                        | 344M/4.88G [00:11<01:12, 62.5MB/s]
model-00007-of-00014.safetensors:   8%|██████▌                                                                       | 411M/4.88G [00:11<00:49, 89.7MB/s]
model-00007-of-00014.safetensors:  11%|████████▊                                                                     | 553M/4.88G [00:14<01:09, 62.5MB/s]
model-00007-of-00014.safetensors:  12%|█████████▎                                                                    | 582M/4.88G [00:15<01:20, 53.3MB/s]
model-00007-of-00014.safetensors:  13%|██████████▍                                                                   | 649M/4.88G [00:16<01:11, 59.3MB/s]
model-00007-of-00014.safetensors:  15%|███████████▍                                                                  | 716M/4.88G [00:16<00:57, 72.8MB/s]
model-00007-of-00014.safetensors:  16%|████████████▌                                                                 | 783M/4.88G [00:21<02:17, 29.8MB/s]
model-00007-of-00014.safetensors:  17%|█████████████▌                                                                | 850M/4.88G [00:22<01:43, 39.1MB/s]
model-00007-of-00014.safetensors:  19%|██████████████▋                                                               | 917M/4.88G [00:23<01:31, 43.1MB/s]
model-00007-of-00014.safetensors:  20%|███████████████▋                                                              | 985M/4.88G [00:24<01:12, 53.3MB/s]
model-00007-of-00014.safetensors:  22%|████████████████▌                                                            | 1.05G/4.88G [00:24<01:03, 60.4MB/s]
model-00007-of-00014.safetensors:  23%|█████████████████▋                                                           | 1.12G/4.88G [00:24<00:46, 80.9MB/s]
model-00007-of-00014.safetensors:  23%|██████████████████                                                           | 1.14G/4.88G [00:25<00:41, 89.1MB/s]
model-00007-of-00014.safetensors:  24%|██████████████████▌                                                          | 1.17G/4.88G [00:25<00:39, 92.7MB/s]
model-00007-of-00014.safetensors:  25%|███████████████████▊                                                          | 1.24G/4.88G [00:25<00:29, 124MB/s]
model-00007-of-00014.safetensors:  26%|████████████████████▎                                                         | 1.27G/4.88G [00:25<00:31, 116MB/s]
model-00007-of-00014.safetensors:  27%|█████████████████████▎                                                        | 1.33G/4.88G [00:26<00:33, 104MB/s]
model-00007-of-00014.safetensors:  29%|██████████████████████▍                                                       | 1.40G/4.88G [00:27<00:29, 119MB/s]
model-00007-of-00014.safetensors:  30%|███████████████████████▍                                                      | 1.47G/4.88G [00:27<00:23, 148MB/s]
model-00007-of-00014.safetensors:  31%|████████████████████████                                                      | 1.51G/4.88G [00:27<00:23, 145MB/s]
model-00007-of-00014.safetensors:  32%|█████████████████████████▏                                                    | 1.57G/4.88G [00:27<00:16, 196MB/s]
model-00007-of-00014.safetensors:  34%|██████████████████████████▏                                                   | 1.64G/4.88G [00:28<00:18, 172MB/s]
model-00007-of-00014.safetensors:  35%|███████████████████████████▎                                                  | 1.71G/4.88G [00:28<00:17, 183MB/s]
model-00007-of-00014.safetensors:  36%|████████████████████████████                                                 | 1.77G/4.88G [00:30<00:44, 69.0MB/s]
model-00007-of-00014.safetensors:  39%|██████████████████████████████▌                                               | 1.91G/4.88G [00:31<00:26, 112MB/s]
model-00007-of-00014.safetensors:  41%|███████████████████████████████▌                                              | 1.98G/4.88G [00:31<00:21, 138MB/s]
model-00007-of-00014.safetensors:  42%|████████████████████████████████▍                                             | 2.03G/4.88G [00:32<00:25, 114MB/s]
model-00007-of-00014.safetensors:  43%|█████████████████████████████████▌                                            | 2.10G/4.88G [00:32<00:19, 144MB/s]
model-00007-of-00014.safetensors:  44%|██████████████████████████████████▋                                           | 2.17G/4.88G [00:32<00:16, 168MB/s]
model-00007-of-00014.safetensors:  46%|███████████████████████████████████▌                                          | 2.22G/4.88G [00:32<00:16, 158MB/s]
model-00007-of-00014.safetensors:  47%|████████████████████████████████████▋                                         | 2.29G/4.88G [00:33<00:16, 160MB/s]
model-00007-of-00014.safetensors:  50%|██████████████████████████████████████▊                                       | 2.43G/4.88G [00:33<00:12, 192MB/s]
model-00007-of-00014.safetensors:  51%|███████████████████████████████████████▊                                      | 2.49G/4.88G [00:34<00:11, 216MB/s]
model-00007-of-00014.safetensors:  52%|████████████████████████████████████████▉                                     | 2.56G/4.88G [00:34<00:10, 222MB/s]
model-00007-of-00014.safetensors:  55%|███████████████████████████████████████████                                   | 2.69G/4.88G [00:34<00:09, 227MB/s]
model-00007-of-00014.safetensors:  57%|████████████████████████████████████████████▏                                 | 2.76G/4.88G [00:35<00:09, 225MB/s]
model-00007-of-00014.safetensors:  58%|█████████████████████████████████████████████▏                                | 2.83G/4.88G [00:35<00:10, 203MB/s]
model-00007-of-00014.safetensors:  59%|██████████████████████████████████████████████▏                               | 2.89G/4.88G [00:35<00:09, 220MB/s]
model-00007-of-00014.safetensors:  61%|███████████████████████████████████████████████▎                              | 2.95G/4.88G [00:35<00:07, 250MB/s]
model-00007-of-00014.safetensors:  63%|█████████████████████████████████████████████████▍                            | 3.09G/4.88G [00:36<00:06, 278MB/s]
model-00007-of-00014.safetensors:  65%|██████████████████████████████████████████████████▍                           | 3.16G/4.88G [00:36<00:06, 284MB/s]
model-00007-of-00014.safetensors:  66%|███████████████████████████████████████████████████▌                          | 3.22G/4.88G [00:37<00:07, 229MB/s]
model-00007-of-00014.safetensors:  67%|████████████████████████████████████████████████████▋                         | 3.29G/4.88G [00:37<00:07, 205MB/s]
model-00007-of-00014.safetensors:  72%|███████████████████████████████████████████████████████▊                      | 3.49G/4.88G [00:37<00:04, 314MB/s]
model-00007-of-00014.safetensors:  76%|███████████████████████████████████████████████████████████                   | 3.69G/4.88G [00:38<00:03, 330MB/s]
model-00007-of-00014.safetensors:  78%|█████████████████████████████████████████████████████████████▏                | 3.83G/4.88G [00:38<00:02, 399MB/s]
model-00007-of-00014.safetensors:  80%|██████████████████████████████████████████████████████████████▏               | 3.89G/4.88G [00:39<00:03, 303MB/s]
model-00007-of-00014.safetensors:  82%|████████████████████████████████████████████████████████████████              | 4.00G/4.88G [00:39<00:02, 365MB/s]
model-00007-of-00014.safetensors:  85%|██████████████████████████████████████████████████████████████████▏           | 4.14G/4.88G [00:39<00:02, 353MB/s]
model-00007-of-00014.safetensors:  88%|████████████████████████████████████████████████████████████████████▎         | 4.27G/4.88G [00:39<00:01, 445MB/s]
model-00007-of-00014.safetensors:  89%|█████████████████████████████████████████████████████████████████████▍        | 4.34G/4.88G [00:40<00:01, 271MB/s]
model-00007-of-00014.safetensors:  90%|██████████████████████████████████████████████████████████████████████▍       | 4.41G/4.88G [00:40<00:01, 270MB/s]
model-00007-of-00014.safetensors:  92%|███████████████████████████████████████████████████████████████████████▌      | 4.47G/4.88G [00:40<00:01, 292MB/s]
model-00007-of-00014.safetensors:  94%|█████████████████████████████████████████████████████████████████████████▋    | 4.61G/4.88G [00:41<00:00, 353MB/s]
model-00007-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:41<00:00, 623MB/s]
model-00007-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:41<00:00, 118MB/s]

model-00008-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00008-of-00014.safetensors:   0%|▏                                                                            | 8.74M/4.88G [00:03<31:23, 2.58MB/s]
model-00008-of-00014.safetensors:   0%|▎                                                                            | 18.6M/4.88G [00:05<25:13, 3.21MB/s]
model-00008-of-00014.safetensors:   1%|▍                                                                            | 28.0M/4.88G [00:07<20:02, 4.03MB/s]
model-00008-of-00014.safetensors:   1%|▉                                                                            | 57.7M/4.88G [00:12<15:53, 5.05MB/s]
model-00008-of-00014.safetensors:   2%|█▍                                                                           | 89.1M/4.88G [00:13<08:33, 9.32MB/s]
model-00008-of-00014.safetensors:   3%|██▍                                                                           | 156M/4.88G [00:13<03:36, 21.8MB/s]
model-00008-of-00014.safetensors:   5%|███▌                                                                          | 223M/4.88G [00:15<02:40, 29.0MB/s]
model-00008-of-00014.safetensors:   6%|████▋                                                                         | 290M/4.88G [00:15<01:44, 43.9MB/s]
model-00008-of-00014.safetensors:   7%|█████▋                                                                        | 357M/4.88G [00:17<01:53, 40.0MB/s]
model-00008-of-00014.safetensors:   9%|██████▋                                                                       | 416M/4.88G [00:17<01:25, 52.3MB/s]
model-00008-of-00014.safetensors:  10%|███████▋                                                                      | 483M/4.88G [00:19<01:34, 46.5MB/s]
model-00008-of-00014.safetensors:  11%|████████▊                                                                     | 550M/4.88G [00:19<01:11, 60.8MB/s]
model-00008-of-00014.safetensors:  12%|█████████▍                                                                    | 586M/4.88G [00:20<01:10, 61.0MB/s]
model-00008-of-00014.safetensors:  15%|███████████▌                                                                   | 713M/4.88G [00:20<00:41, 101MB/s]
model-00008-of-00014.safetensors:  16%|████████████▋                                                                  | 780M/4.88G [00:21<00:36, 113MB/s]
model-00008-of-00014.safetensors:  17%|█████████████▌                                                                 | 838M/4.88G [00:21<00:29, 136MB/s]
model-00008-of-00014.safetensors:  18%|█████████████▉                                                                 | 860M/4.88G [00:21<00:35, 114MB/s]
model-00008-of-00014.safetensors:  19%|███████████████                                                                | 927M/4.88G [00:22<00:28, 139MB/s]
model-00008-of-00014.safetensors:  20%|███████████████▉                                                              | 994M/4.88G [00:23<00:43, 88.5MB/s]
model-00008-of-00014.safetensors:  22%|█████████████████                                                             | 1.07G/4.88G [00:23<00:31, 122MB/s]
model-00008-of-00014.safetensors:  25%|███████████████████▎                                                          | 1.20G/4.88G [00:23<00:18, 198MB/s]
model-00008-of-00014.safetensors:  26%|████████████████████▎                                                         | 1.27G/4.88G [00:24<00:22, 163MB/s]
model-00008-of-00014.safetensors:  29%|██████████████████████▍                                                       | 1.40G/4.88G [00:24<00:15, 228MB/s]
model-00008-of-00014.safetensors:  30%|███████████████████████▌                                                      | 1.47G/4.88G [00:25<00:14, 243MB/s]
model-00008-of-00014.safetensors:  32%|████████████████████████▊                                                     | 1.55G/4.88G [00:25<00:15, 212MB/s]
model-00008-of-00014.safetensors:  33%|█████████████████████████▉                                                    | 1.62G/4.88G [00:26<00:16, 193MB/s]
model-00008-of-00014.safetensors:  37%|█████████████████████████████                                                 | 1.81G/4.88G [00:26<00:09, 324MB/s]
model-00008-of-00014.safetensors:  39%|██████████████████████████████▏                                               | 1.89G/4.88G [00:26<00:09, 308MB/s]
model-00008-of-00014.safetensors:  40%|███████████████████████████████▎                                              | 1.96G/4.88G [00:27<00:14, 205MB/s]
model-00008-of-00014.safetensors:  43%|█████████████████████████████████▍                                            | 2.09G/4.88G [00:27<00:11, 247MB/s]
model-00008-of-00014.safetensors:  44%|██████████████████████████████████▍                                           | 2.16G/4.88G [00:27<00:11, 239MB/s]
model-00008-of-00014.safetensors:  47%|████████████████████████████████████▌                                         | 2.28G/4.88G [00:28<00:14, 178MB/s]
model-00008-of-00014.safetensors:  48%|█████████████████████████████████████▋                                        | 2.36G/4.88G [00:29<00:12, 202MB/s]
model-00008-of-00014.safetensors:  50%|██████████████████████████████████████▊                                       | 2.42G/4.88G [00:29<00:15, 161MB/s]
model-00008-of-00014.safetensors:  54%|██████████████████████████████████████████                                    | 2.63G/4.88G [00:30<00:11, 197MB/s]
model-00008-of-00014.safetensors:  58%|█████████████████████████████████████████████▏                                | 2.83G/4.88G [00:31<00:11, 175MB/s]
model-00008-of-00014.safetensors:  59%|██████████████████████████████████████████████▎                               | 2.89G/4.88G [00:32<00:13, 149MB/s]
model-00008-of-00014.safetensors:  61%|███████████████████████████████████████████████▎                              | 2.96G/4.88G [00:33<00:13, 140MB/s]
model-00008-of-00014.safetensors:  62%|████████████████████████████████████████████████▍                             | 3.03G/4.88G [00:34<00:15, 121MB/s]
model-00008-of-00014.safetensors:  63%|█████████████████████████████████████████████████▌                            | 3.10G/4.88G [00:34<00:14, 125MB/s]
model-00008-of-00014.safetensors:  65%|██████████████████████████████████████████████████▍                          | 3.19G/4.88G [00:36<00:17, 97.9MB/s]
model-00008-of-00014.safetensors:  67%|███████████████████████████████████████████████████▍                         | 3.26G/4.88G [00:37<00:18, 89.3MB/s]
model-00008-of-00014.safetensors:  68%|█████████████████████████████████████████████████████▏                        | 3.33G/4.88G [00:37<00:14, 108MB/s]
model-00008-of-00014.safetensors:  70%|██████████████████████████████████████████████████████▎                       | 3.39G/4.88G [00:37<00:11, 132MB/s]
model-00008-of-00014.safetensors:  72%|████████████████████████████████████████████████████████▎                     | 3.52G/4.88G [00:38<00:09, 140MB/s]
model-00008-of-00014.safetensors:  74%|█████████████████████████████████████████████████████████▍                    | 3.59G/4.88G [00:38<00:08, 156MB/s]
model-00008-of-00014.safetensors:  74%|██████████████████████████████████████████████████████████                    | 3.63G/4.88G [00:39<00:09, 131MB/s]
model-00008-of-00014.safetensors:  76%|███████████████████████████████████████████████████████████▏                  | 3.70G/4.88G [00:39<00:07, 165MB/s]
model-00008-of-00014.safetensors:  77%|████████████████████████████████████████████████████████████▏                 | 3.77G/4.88G [00:39<00:05, 187MB/s]
model-00008-of-00014.safetensors:  79%|█████████████████████████████████████████████████████████████▎                | 3.83G/4.88G [00:39<00:05, 190MB/s]
model-00008-of-00014.safetensors:  80%|██████████████████████████████████████████████████████████████▍               | 3.90G/4.88G [00:40<00:05, 175MB/s]
model-00008-of-00014.safetensors:  83%|████████████████████████████████████████████████████████████████▌             | 4.03G/4.88G [00:40<00:03, 280MB/s]
model-00008-of-00014.safetensors:  84%|█████████████████████████████████████████████████████████████████▌            | 4.10G/4.88G [00:40<00:02, 325MB/s]
model-00008-of-00014.safetensors:  85%|██████████████████████████████████████████████████████████████████▋           | 4.17G/4.88G [00:41<00:03, 217MB/s]
model-00008-of-00014.safetensors:  88%|████████████████████████████████████████████████████████████████████▎         | 4.27G/4.88G [00:41<00:02, 241MB/s]
model-00008-of-00014.safetensors:  89%|█████████████████████████████████████████████████████████████████████▍        | 4.34G/4.88G [00:41<00:01, 275MB/s]
model-00008-of-00014.safetensors:  92%|███████████████████████████████████████████████████████████████████████▌      | 4.47G/4.88G [00:41<00:01, 360MB/s]
model-00008-of-00014.safetensors:  94%|█████████████████████████████████████████████████████████████████████████▋    | 4.61G/4.88G [00:42<00:00, 377MB/s]
model-00008-of-00014.safetensors:  96%|██████████████████████████████████████████████████████████████████████████▊   | 4.67G/4.88G [00:42<00:00, 339MB/s]
model-00008-of-00014.safetensors:  97%|███████████████████████████████████████████████████████████████████████████▊  | 4.74G/4.88G [00:42<00:00, 375MB/s]
model-00008-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:42<00:00, 114MB/s]

model-00009-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00009-of-00014.safetensors:   0%|                                                                            | 1.66M/4.88G [00:04<3:18:11, 410kB/s]
model-00009-of-00014.safetensors:   0%|▏                                                                            | 13.6M/4.88G [00:05<26:17, 3.08MB/s]
model-00009-of-00014.safetensors:   1%|▌                                                                            | 32.5M/4.88G [00:06<10:23, 7.76MB/s]
model-00009-of-00014.safetensors:   1%|▊                                                                            | 54.5M/4.88G [00:07<06:46, 11.9MB/s]
model-00009-of-00014.safetensors:   1%|▉                                                                            | 60.0M/4.88G [00:08<08:03, 9.96MB/s]
model-00009-of-00014.safetensors:   2%|█▌                                                                           | 98.6M/4.88G [00:08<03:23, 23.5MB/s]
model-00009-of-00014.safetensors:   3%|██▋                                                                           | 166M/4.88G [00:10<02:58, 26.3MB/s]
model-00009-of-00014.safetensors:   5%|███▋                                                                          | 233M/4.88G [00:11<02:00, 38.5MB/s]
model-00009-of-00014.safetensors:   6%|████▎                                                                         | 269M/4.88G [00:11<01:38, 46.7MB/s]
model-00009-of-00014.safetensors:   7%|█████▍                                                                        | 336M/4.88G [00:12<01:18, 57.5MB/s]
model-00009-of-00014.safetensors:   8%|██████▍                                                                       | 403M/4.88G [00:13<01:04, 69.8MB/s]
model-00009-of-00014.safetensors:  10%|███████▌                                                                      | 470M/4.88G [00:14<01:07, 65.4MB/s]
model-00009-of-00014.safetensors:  11%|████████▌                                                                     | 537M/4.88G [00:14<00:54, 79.2MB/s]
model-00009-of-00014.safetensors:  12%|█████████▋                                                                    | 604M/4.88G [00:15<00:50, 84.9MB/s]
model-00009-of-00014.safetensors:  14%|██████████▊                                                                    | 670M/4.88G [00:15<00:37, 112MB/s]
model-00009-of-00014.safetensors:  16%|████████████▎                                                                  | 761M/4.88G [00:15<00:24, 165MB/s]
model-00009-of-00014.safetensors:  17%|█████████████▍                                                                 | 828M/4.88G [00:16<00:34, 119MB/s]
model-00009-of-00014.safetensors:  19%|███████████████▎                                                               | 948M/4.88G [00:17<00:22, 172MB/s]
model-00009-of-00014.safetensors:  22%|████████████████▉                                                             | 1.06G/4.88G [00:17<00:25, 152MB/s]
model-00009-of-00014.safetensors:  23%|██████████████████                                                            | 1.13G/4.88G [00:18<00:22, 169MB/s]
model-00009-of-00014.safetensors:  24%|███████████████████                                                           | 1.19G/4.88G [00:18<00:23, 158MB/s]
model-00009-of-00014.safetensors:  26%|████████████████████▏                                                         | 1.26G/4.88G [00:19<00:28, 126MB/s]
model-00009-of-00014.safetensors:  27%|████████████████████▉                                                        | 1.33G/4.88G [00:20<00:37, 95.7MB/s]
model-00009-of-00014.safetensors:  29%|██████████████████████▎                                                       | 1.40G/4.88G [00:21<00:31, 109MB/s]
model-00009-of-00014.safetensors:  30%|███████████████████████                                                       | 1.44G/4.88G [00:21<00:27, 125MB/s]
model-00009-of-00014.safetensors:  31%|████████████████████████                                                      | 1.51G/4.88G [00:21<00:22, 152MB/s]
model-00009-of-00014.safetensors:  32%|█████████████████████████▏                                                    | 1.57G/4.88G [00:21<00:17, 193MB/s]
model-00009-of-00014.safetensors:  34%|██████████████████████████▏                                                   | 1.64G/4.88G [00:21<00:13, 244MB/s]
model-00009-of-00014.safetensors:  35%|███████████████████████████▎                                                  | 1.71G/4.88G [00:22<00:14, 220MB/s]
model-00009-of-00014.safetensors:  36%|███████████████████████████▉                                                  | 1.75G/4.88G [00:22<00:13, 236MB/s]
model-00009-of-00014.safetensors:  37%|█████████████████████████████                                                 | 1.81G/4.88G [00:22<00:15, 199MB/s]
model-00009-of-00014.safetensors:  39%|██████████████████████████████                                                | 1.88G/4.88G [00:23<00:17, 168MB/s]
model-00009-of-00014.safetensors:  39%|██████████████████████████████▌                                               | 1.91G/4.88G [00:23<00:28, 105MB/s]
model-00009-of-00014.safetensors:  41%|███████████████████████████████▋                                              | 1.98G/4.88G [00:24<00:20, 144MB/s]
model-00009-of-00014.safetensors:  42%|████████████████████████████████▌                                            | 2.06G/4.88G [00:27<01:00, 46.9MB/s]
model-00009-of-00014.safetensors:  45%|██████████████████████████████████▋                                          | 2.20G/4.88G [00:28<00:35, 75.9MB/s]
model-00009-of-00014.safetensors:  46%|███████████████████████████████████▋                                         | 2.26G/4.88G [00:28<00:30, 86.9MB/s]
model-00009-of-00014.safetensors:  47%|████████████████████████████████████▍                                        | 2.31G/4.88G [00:29<00:26, 97.8MB/s]
model-00009-of-00014.safetensors:  50%|██████████████████████████████████████▌                                      | 2.44G/4.88G [00:30<00:25, 94.9MB/s]
model-00009-of-00014.safetensors:  51%|████████████████████████████████████████                                      | 2.51G/4.88G [00:30<00:19, 120MB/s]
model-00009-of-00014.safetensors:  53%|████████████████████████████████████████▋                                    | 2.58G/4.88G [00:31<00:23, 99.7MB/s]
model-00009-of-00014.safetensors:  56%|███████████████████████████████████████████▎                                  | 2.71G/4.88G [00:31<00:13, 162MB/s]
model-00009-of-00014.safetensors:  57%|███████████████████████████████████████████▊                                 | 2.78G/4.88G [00:34<00:26, 78.0MB/s]
model-00009-of-00014.safetensors:  58%|████████████████████████████████████████████▉                                | 2.84G/4.88G [00:35<00:29, 69.1MB/s]
model-00009-of-00014.safetensors:  60%|█████████████████████████████████████████████▉                               | 2.91G/4.88G [00:35<00:23, 83.1MB/s]
model-00009-of-00014.safetensors:  61%|███████████████████████████████████████████████                              | 2.98G/4.88G [00:36<00:26, 72.0MB/s]
model-00009-of-00014.safetensors:  62%|████████████████████████████████████████████████                             | 3.04G/4.88G [00:38<00:30, 59.1MB/s]
model-00009-of-00014.safetensors:  64%|█████████████████████████████████████████████████▏                           | 3.11G/4.88G [00:40<00:34, 50.7MB/s]
model-00009-of-00014.safetensors:  65%|██████████████████████████████████████████████████▏                          | 3.18G/4.88G [00:40<00:25, 66.3MB/s]
model-00009-of-00014.safetensors:  67%|███████████████████████████████████████████████████▎                         | 3.25G/4.88G [00:41<00:20, 79.5MB/s]
model-00009-of-00014.safetensors:  67%|███████████████████████████████████████████████████▉                         | 3.29G/4.88G [00:41<00:20, 76.8MB/s]
model-00009-of-00014.safetensors:  69%|█████████████████████████████████████████████████████                        | 3.36G/4.88G [00:42<00:17, 85.7MB/s]
model-00009-of-00014.safetensors:  70%|██████████████████████████████████████████████████████▊                       | 3.42G/4.88G [00:42<00:13, 110MB/s]
model-00009-of-00014.safetensors:  72%|███████████████████████████████████████████████████████▊                      | 3.49G/4.88G [00:42<00:09, 148MB/s]
model-00009-of-00014.safetensors:  74%|█████████████████████████████████████████████████████████▉                    | 3.63G/4.88G [00:43<00:07, 176MB/s]
model-00009-of-00014.safetensors:  75%|██████████████████████████████████████████████████████████                   | 3.68G/4.88G [00:44<00:12, 99.3MB/s]
model-00009-of-00014.safetensors:  77%|███████████████████████████████████████████████████████████                  | 3.74G/4.88G [00:45<00:13, 86.4MB/s]
model-00009-of-00014.safetensors:  80%|█████████████████████████████████████████████████████████████▏               | 3.88G/4.88G [00:49<00:18, 53.2MB/s]
model-00009-of-00014.safetensors:  82%|███████████████████████████████████████████████████████████████▎             | 4.01G/4.88G [00:49<00:10, 82.0MB/s]
model-00009-of-00014.safetensors:  84%|████████████████████████████████████████████████████████████████▍            | 4.08G/4.88G [00:50<00:09, 88.0MB/s]
model-00009-of-00014.safetensors:  85%|██████████████████████████████████████████████████████████████████▎           | 4.14G/4.88G [00:50<00:06, 108MB/s]
model-00009-of-00014.safetensors:  86%|███████████████████████████████████████████████████████████████████▎          | 4.21G/4.88G [00:50<00:05, 130MB/s]
model-00009-of-00014.safetensors:  88%|████████████████████████████████████████████████████████████████████▍         | 4.28G/4.88G [00:51<00:05, 115MB/s]
model-00009-of-00014.safetensors:  90%|██████████████████████████████████████████████████████████████████████▌       | 4.41G/4.88G [00:51<00:02, 180MB/s]
model-00009-of-00014.safetensors:  94%|█████████████████████████████████████████████████████████████████████████▋    | 4.61G/4.88G [00:51<00:00, 275MB/s]
model-00009-of-00014.safetensors:  99%|████████████████████████████████████████████████████████████████████████████▉ | 4.81G/4.88G [00:51<00:00, 414MB/s]
model-00009-of-00014.safetensors: 100%|█████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:52<00:00, 93.3MB/s]

model-00010-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00010-of-00014.safetensors:   0%|                                                                         | 10.3k/4.88G [00:01<155:03:02, 8.74kB/s]
model-00010-of-00014.safetensors:   0%|                                                                             | 975k/4.88G [00:02<3:32:11, 383kB/s]
model-00010-of-00014.safetensors:   0%|                                                                            | 1.04M/4.88G [00:04<5:21:12, 253kB/s]
model-00010-of-00014.safetensors:   0%|▎                                                                            | 16.9M/4.88G [00:05<16:21, 4.95MB/s]
model-00010-of-00014.safetensors:   0%|▎                                                                            | 22.4M/4.88G [00:06<16:49, 4.81MB/s]
model-00010-of-00014.safetensors:   2%|█▍                                                                           | 89.5M/4.88G [00:09<05:19, 15.0MB/s]
model-00010-of-00014.safetensors:   2%|█▊                                                                            | 111M/4.88G [00:09<04:03, 19.6MB/s]
model-00010-of-00014.safetensors:   4%|██▊                                                                           | 178M/4.88G [00:09<01:58, 39.6MB/s]
model-00010-of-00014.safetensors:   6%|████▊                                                                         | 299M/4.88G [00:09<00:49, 91.9MB/s]
model-00010-of-00014.safetensors:   7%|█████▌                                                                         | 347M/4.88G [00:10<00:44, 102MB/s]
model-00010-of-00014.safetensors:   8%|██████▌                                                                       | 413M/4.88G [00:11<00:59, 74.5MB/s]
model-00010-of-00014.safetensors:  10%|███████▋                                                                      | 480M/4.88G [00:11<00:44, 99.2MB/s]
model-00010-of-00014.safetensors:  11%|████████▊                                                                     | 547M/4.88G [00:14<01:30, 48.0MB/s]
model-00010-of-00014.safetensors:  13%|█████████▊                                                                    | 614M/4.88G [00:14<01:03, 66.6MB/s]
model-00010-of-00014.safetensors:  14%|███████████                                                                   | 695M/4.88G [00:16<01:08, 60.9MB/s]
model-00010-of-00014.safetensors:  16%|████████████▏                                                                 | 762M/4.88G [00:16<00:50, 82.1MB/s]
model-00010-of-00014.safetensors:  17%|█████████████▎                                                                | 829M/4.88G [00:17<00:41, 96.5MB/s]
model-00010-of-00014.safetensors:  18%|██████████████▌                                                                | 896M/4.88G [00:17<00:36, 109MB/s]
model-00010-of-00014.safetensors:  20%|███████████████▌                                                               | 963M/4.88G [00:18<00:35, 111MB/s]
model-00010-of-00014.safetensors:  20%|███████████████▊                                                              | 986M/4.88G [00:18<00:42, 90.5MB/s]
model-00010-of-00014.safetensors:  22%|████████████████▊                                                             | 1.05G/4.88G [00:18<00:30, 125MB/s]
model-00010-of-00014.safetensors:  23%|█████████████████▋                                                           | 1.12G/4.88G [00:19<00:37, 98.9MB/s]
model-00010-of-00014.safetensors:  23%|██████████████████                                                           | 1.14G/4.88G [00:20<00:46, 80.0MB/s]
model-00010-of-00014.safetensors:  25%|███████████████████▎                                                          | 1.21G/4.88G [00:20<00:34, 107MB/s]
model-00010-of-00014.safetensors:  27%|█████████████████████                                                         | 1.31G/4.88G [00:20<00:20, 175MB/s]
model-00010-of-00014.safetensors:  28%|██████████████████████                                                        | 1.38G/4.88G [00:21<00:20, 171MB/s]
model-00010-of-00014.safetensors:  30%|███████████████████████▏                                                      | 1.45G/4.88G [00:21<00:21, 156MB/s]
model-00010-of-00014.safetensors:  31%|████████████████████████                                                      | 1.50G/4.88G [00:22<00:25, 130MB/s]
model-00010-of-00014.safetensors:  32%|█████████████████████████                                                     | 1.57G/4.88G [00:22<00:19, 167MB/s]
model-00010-of-00014.safetensors:  34%|██████████████████████████▏                                                   | 1.64G/4.88G [00:23<00:28, 113MB/s]
model-00010-of-00014.safetensors:  35%|██████████████████████████▉                                                   | 1.68G/4.88G [00:23<00:25, 123MB/s]
model-00010-of-00014.safetensors:  35%|███████████████████████████▌                                                  | 1.73G/4.88G [00:23<00:21, 144MB/s]
model-00010-of-00014.safetensors:  37%|████████████████████████████▋                                                 | 1.79G/4.88G [00:24<00:17, 175MB/s]
model-00010-of-00014.safetensors:  38%|█████████████████████████████▊                                                | 1.86G/4.88G [00:24<00:21, 137MB/s]
model-00010-of-00014.safetensors:  40%|██████████████████████████████▊                                               | 1.93G/4.88G [00:25<00:22, 134MB/s]
model-00010-of-00014.safetensors:  41%|███████████████████████████████▉                                              | 2.00G/4.88G [00:26<00:26, 108MB/s]
model-00010-of-00014.safetensors:  42%|████████████████████████████████▌                                             | 2.04G/4.88G [00:26<00:24, 116MB/s]
model-00010-of-00014.safetensors:  43%|█████████████████████████████████▋                                            | 2.11G/4.88G [00:26<00:20, 133MB/s]
model-00010-of-00014.safetensors:  45%|██████████████████████████████████▊                                           | 2.17G/4.88G [00:27<00:21, 123MB/s]
model-00010-of-00014.safetensors:  46%|███████████████████████████████████▊                                          | 2.24G/4.88G [00:28<00:23, 111MB/s]
model-00010-of-00014.safetensors:  49%|█████████████████████████████████████▉                                        | 2.37G/4.88G [00:28<00:14, 167MB/s]
model-00010-of-00014.safetensors:  50%|███████████████████████████████████████                                       | 2.44G/4.88G [00:29<00:18, 135MB/s]
model-00010-of-00014.safetensors:  53%|█████████████████████████████████████████▏                                    | 2.58G/4.88G [00:29<00:11, 202MB/s]
model-00010-of-00014.safetensors:  57%|████████████████████████████████████████████▍                                 | 2.78G/4.88G [00:29<00:06, 328MB/s]
model-00010-of-00014.safetensors:  58%|█████████████████████████████████████████████▍                                | 2.84G/4.88G [00:29<00:06, 316MB/s]
model-00010-of-00014.safetensors:  61%|███████████████████████████████████████████████▍                              | 2.96G/4.88G [00:31<00:11, 160MB/s]
model-00010-of-00014.safetensors:  62%|███████████████████████████████████████████████▊                             | 3.03G/4.88G [00:33<00:19, 95.5MB/s]
model-00010-of-00014.safetensors:  63%|████████████████████████████████████████████████▉                            | 3.10G/4.88G [00:34<00:18, 96.1MB/s]
model-00010-of-00014.safetensors:  66%|███████████████████████████████████████████████████▋                          | 3.23G/4.88G [00:34<00:11, 144MB/s]
model-00010-of-00014.safetensors:  69%|█████████████████████████████████████████████████████                        | 3.36G/4.88G [00:40<00:32, 46.1MB/s]
model-00010-of-00014.safetensors:  70%|██████████████████████████████████████████████████████▏                      | 3.43G/4.88G [00:40<00:25, 55.8MB/s]
model-00010-of-00014.safetensors:  72%|███████████████████████████████████████████████████████▏                     | 3.50G/4.88G [00:49<01:00, 22.7MB/s]
model-00010-of-00014.safetensors:  74%|████████████████████████████████████████████████████████▉                    | 3.61G/4.88G [00:51<00:41, 30.3MB/s]
model-00010-of-00014.safetensors:  75%|██████████████████████████████████████████████████████████                   | 3.67G/4.88G [00:53<00:40, 29.4MB/s]
model-00010-of-00014.safetensors:  78%|████████████████████████████████████████████████████████████▏                | 3.81G/4.88G [00:54<00:24, 43.3MB/s]
model-00010-of-00014.safetensors:  79%|█████████████████████████████████████████████████████████████▏               | 3.88G/4.88G [00:55<00:22, 44.7MB/s]
model-00010-of-00014.safetensors:  81%|██████████████████████████████████████████████████████████████▎              | 3.94G/4.88G [00:56<00:16, 56.6MB/s]
model-00010-of-00014.safetensors:  82%|███████████████████████████████████████████████████████████████▎             | 4.01G/4.88G [00:56<00:12, 70.9MB/s]
model-00010-of-00014.safetensors:  84%|████████████████████████████████████████████████████████████████▍            | 4.08G/4.88G [00:56<00:10, 78.3MB/s]
model-00010-of-00014.safetensors:  86%|███████████████████████████████████████████████████████████████████▎          | 4.21G/4.88G [00:57<00:05, 113MB/s]
model-00010-of-00014.safetensors:  88%|████████████████████████████████████████████████████████████████████▎         | 4.27G/4.88G [00:57<00:04, 131MB/s]
model-00010-of-00014.safetensors:  89%|█████████████████████████████████████████████████████████████████████▍        | 4.34G/4.88G [00:57<00:03, 153MB/s]
model-00010-of-00014.safetensors:  90%|██████████████████████████████████████████████████████████████████████▍       | 4.41G/4.88G [00:58<00:02, 180MB/s]
model-00010-of-00014.safetensors:  92%|███████████████████████████████████████████████████████████████████████▌      | 4.47G/4.88G [00:58<00:02, 197MB/s]
model-00010-of-00014.safetensors:  96%|██████████████████████████████████████████████████████████████████████████▊   | 4.67G/4.88G [00:58<00:00, 366MB/s]
model-00010-of-00014.safetensors:  99%|████████████████████████████████████████████████████████████████████████████▉ | 4.81G/4.88G [00:58<00:00, 425MB/s]
model-00010-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:58<00:00, 432MB/s]
model-00010-of-00014.safetensors: 100%|█████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:58<00:00, 82.9MB/s]

model-00011-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00011-of-00014.safetensors:   0%|                                                                            | 1.10M/4.88G [00:01<2:16:43, 594kB/s]
model-00011-of-00014.safetensors:   0%|▎                                                                            | 16.0M/4.88G [00:02<09:11, 8.81MB/s]
model-00011-of-00014.safetensors:   0%|▎                                                                            | 21.8M/4.88G [00:03<11:40, 6.92MB/s]
model-00011-of-00014.safetensors:   1%|▍                                                                            | 26.1M/4.88G [00:05<16:26, 4.91MB/s]
model-00011-of-00014.safetensors:   1%|▍                                                                            | 30.7M/4.88G [00:05<13:05, 6.17MB/s]
model-00011-of-00014.safetensors:   1%|▋                                                                            | 42.0M/4.88G [00:05<08:42, 9.26MB/s]
model-00011-of-00014.safetensors:   1%|▊                                                                            | 52.2M/4.88G [00:06<05:47, 13.9MB/s]
model-00011-of-00014.safetensors:   2%|█▍                                                                           | 90.1M/4.88G [00:08<04:58, 16.1MB/s]
model-00011-of-00014.safetensors:   3%|██▌                                                                           | 157M/4.88G [00:10<03:44, 21.1MB/s]
model-00011-of-00014.safetensors:   4%|███▎                                                                          | 205M/4.88G [00:11<02:21, 33.0MB/s]
model-00011-of-00014.safetensors:   6%|████▎                                                                         | 272M/4.88G [00:13<02:37, 29.2MB/s]
model-00011-of-00014.safetensors:   7%|█████▍                                                                        | 339M/4.88G [00:14<01:43, 44.0MB/s]
model-00011-of-00014.safetensors:   8%|██████▍                                                                       | 406M/4.88G [00:14<01:15, 58.9MB/s]
model-00011-of-00014.safetensors:  10%|███████▌                                                                      | 473M/4.88G [00:15<01:02, 70.4MB/s]
model-00011-of-00014.safetensors:  11%|████████▋                                                                     | 540M/4.88G [00:15<00:57, 75.0MB/s]
model-00011-of-00014.safetensors:  12%|█████████▋                                                                    | 607M/4.88G [00:16<00:48, 87.3MB/s]
model-00011-of-00014.safetensors:  14%|██████████▉                                                                    | 674M/4.88G [00:16<00:35, 117MB/s]
model-00011-of-00014.safetensors:  15%|████████████                                                                   | 741M/4.88G [00:16<00:27, 149MB/s]
model-00011-of-00014.safetensors:  18%|██████████████▍                                                                | 888M/4.88G [00:16<00:17, 231MB/s]
model-00011-of-00014.safetensors:  20%|███████████████▍                                                               | 955M/4.88G [00:17<00:28, 139MB/s]
model-00011-of-00014.safetensors:  21%|████████████████▎                                                             | 1.02G/4.88G [00:18<00:27, 139MB/s]
model-00011-of-00014.safetensors:  22%|█████████████████▍                                                            | 1.09G/4.88G [00:18<00:25, 151MB/s]
model-00011-of-00014.safetensors:  24%|██████████████████▍                                                           | 1.16G/4.88G [00:19<00:26, 142MB/s]
model-00011-of-00014.safetensors:  25%|███████████████████▌                                                          | 1.22G/4.88G [00:19<00:26, 140MB/s]
model-00011-of-00014.safetensors:  26%|████████████████████▋                                                         | 1.29G/4.88G [00:20<00:20, 174MB/s]
model-00011-of-00014.safetensors:  28%|█████████████████████▏                                                       | 1.34G/4.88G [00:21<00:39, 90.0MB/s]
model-00011-of-00014.safetensors:  29%|██████████████████████▍                                                      | 1.42G/4.88G [00:22<00:38, 88.6MB/s]
model-00011-of-00014.safetensors:  31%|███████████████████████▊                                                      | 1.49G/4.88G [00:22<00:32, 103MB/s]
model-00011-of-00014.safetensors:  33%|█████████████████████████▉                                                    | 1.62G/4.88G [00:23<00:19, 167MB/s]
model-00011-of-00014.safetensors:  36%|████████████████████████████                                                  | 1.76G/4.88G [00:23<00:14, 212MB/s]
model-00011-of-00014.safetensors:  37%|█████████████████████████████▏                                                | 1.82G/4.88G [00:24<00:25, 118MB/s]
model-00011-of-00014.safetensors:  39%|██████████████████████████████▍                                               | 1.90G/4.88G [00:25<00:24, 121MB/s]
model-00011-of-00014.safetensors:  41%|███████████████████████████████▋                                              | 1.98G/4.88G [00:25<00:19, 146MB/s]
model-00011-of-00014.safetensors:  41%|████████████████████████████████                                              | 2.01G/4.88G [00:26<00:28, 101MB/s]
model-00011-of-00014.safetensors:  43%|█████████████████████████████████▏                                            | 2.07G/4.88G [00:26<00:25, 111MB/s]
model-00011-of-00014.safetensors:  45%|███████████████████████████████████▎                                          | 2.21G/4.88G [00:27<00:14, 181MB/s]
model-00011-of-00014.safetensors:  47%|████████████████████████████████████▍                                         | 2.27G/4.88G [00:28<00:19, 135MB/s]
model-00011-of-00014.safetensors:  48%|█████████████████████████████████████▍                                        | 2.34G/4.88G [00:28<00:17, 146MB/s]
model-00011-of-00014.safetensors:  52%|████████████████████████████████████████▋                                     | 2.54G/4.88G [00:29<00:12, 188MB/s]
model-00011-of-00014.safetensors:  54%|█████████████████████████████████████████▋                                    | 2.61G/4.88G [00:29<00:12, 177MB/s]
model-00011-of-00014.safetensors:  55%|██████████████████████████████████████████▊                                   | 2.68G/4.88G [00:29<00:10, 206MB/s]
model-00011-of-00014.safetensors:  58%|████████████████████████████████████████████▉                                 | 2.81G/4.88G [00:30<00:12, 165MB/s]
model-00011-of-00014.safetensors:  59%|██████████████████████████████████████████████                                | 2.88G/4.88G [00:31<00:13, 150MB/s]
model-00011-of-00014.safetensors:  60%|███████████████████████████████████████████████                               | 2.94G/4.88G [00:31<00:11, 172MB/s]
model-00011-of-00014.safetensors:  62%|████████████████████████████████████████████████▏                             | 3.01G/4.88G [00:31<00:09, 188MB/s]
model-00011-of-00014.safetensors:  63%|█████████████████████████████████████████████████▎                            | 3.08G/4.88G [00:32<00:08, 204MB/s]
model-00011-of-00014.safetensors:  65%|██████████████████████████████████████████████████▎                           | 3.15G/4.88G [00:32<00:10, 170MB/s]
model-00011-of-00014.safetensors:  66%|███████████████████████████████████████████████████▍                          | 3.21G/4.88G [00:32<00:08, 200MB/s]
model-00011-of-00014.safetensors:  67%|████████████████████████████████████████████████████▍                         | 3.28G/4.88G [00:33<00:09, 166MB/s]
model-00011-of-00014.safetensors:  69%|█████████████████████████████████████████████████████▌                        | 3.35G/4.88G [00:33<00:08, 178MB/s]
model-00011-of-00014.safetensors:  70%|██████████████████████████████████████████████████████▌                       | 3.41G/4.88G [00:33<00:06, 225MB/s]
model-00011-of-00014.safetensors:  71%|███████████████████████████████████████████████████████▋                      | 3.48G/4.88G [00:34<00:09, 145MB/s]
model-00011-of-00014.safetensors:  74%|█████████████████████████████████████████████████████████▋                    | 3.61G/4.88G [00:36<00:12, 102MB/s]
model-00011-of-00014.safetensors:  75%|██████████████████████████████████████████████████████████▋                   | 3.67G/4.88G [00:36<00:10, 120MB/s]
model-00011-of-00014.safetensors:  78%|████████████████████████████████████████████████████████████▉                 | 3.81G/4.88G [00:37<00:06, 159MB/s]
model-00011-of-00014.safetensors:  79%|█████████████████████████████████████████████████████████████▉                | 3.87G/4.88G [00:37<00:05, 190MB/s]
model-00011-of-00014.safetensors:  81%|██████████████████████████████████████████████████████████████▉               | 3.94G/4.88G [00:37<00:04, 204MB/s]
model-00011-of-00014.safetensors:  83%|█████████████████████████████████████████████████████████████████▏            | 4.07G/4.88G [00:37<00:02, 305MB/s]
model-00011-of-00014.safetensors:  86%|███████████████████████████████████████████████████████████████████▎          | 4.21G/4.88G [00:37<00:01, 413MB/s]
model-00011-of-00014.safetensors:  88%|████████████████████████████████████████████████████████████████████▎         | 4.27G/4.88G [00:38<00:02, 286MB/s]
model-00011-of-00014.safetensors:  89%|█████████████████████████████████████████████████████████████████████▍        | 4.34G/4.88G [00:38<00:01, 324MB/s]
model-00011-of-00014.safetensors:  90%|██████████████████████████████████████████████████████████████████████▍       | 4.41G/4.88G [00:38<00:01, 322MB/s]
model-00011-of-00014.safetensors:  92%|███████████████████████████████████████████████████████████████████████▌      | 4.47G/4.88G [00:39<00:01, 264MB/s]
model-00011-of-00014.safetensors:  94%|█████████████████████████████████████████████████████████████████████████▋    | 4.61G/4.88G [00:39<00:00, 351MB/s]
model-00011-of-00014.safetensors:  96%|██████████████████████████████████████████████████████████████████████████▊   | 4.67G/4.88G [00:39<00:00, 355MB/s]
model-00011-of-00014.safetensors:  99%|████████████████████████████████████████████████████████████████████████████▉ | 4.81G/4.88G [00:41<00:00, 135MB/s]
model-00011-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:41<00:00, 118MB/s]

model-00012-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00012-of-00014.safetensors:   0%|                                                                           | 330k/4.88G [00:04<20:24:08, 66.4kB/s]
model-00012-of-00014.safetensors:   0%|                                                                           | 5.80M/4.88G [00:07<1:19:38, 1.02MB/s]
model-00012-of-00014.safetensors:   1%|▍                                                                            | 28.0M/4.88G [00:09<18:38, 4.34MB/s]
model-00012-of-00014.safetensors:   2%|█▍                                                                           | 95.0M/4.88G [00:10<05:00, 15.9MB/s]
model-00012-of-00014.safetensors:   5%|███▌                                                                          | 223M/4.88G [00:11<01:57, 39.7MB/s]
model-00012-of-00014.safetensors:   5%|███▉                                                                          | 247M/4.88G [00:11<01:45, 43.7MB/s]
model-00012-of-00014.safetensors:   6%|████▌                                                                         | 283M/4.88G [00:12<02:01, 37.8MB/s]
model-00012-of-00014.safetensors:   7%|█████▌                                                                        | 350M/4.88G [00:14<01:41, 44.4MB/s]
model-00012-of-00014.safetensors:   8%|██████▏                                                                       | 389M/4.88G [00:14<01:28, 50.9MB/s]
model-00012-of-00014.safetensors:   9%|███████▎                                                                      | 457M/4.88G [00:16<01:44, 42.2MB/s]
model-00012-of-00014.safetensors:  10%|███████▌                                                                      | 473M/4.88G [00:17<02:09, 34.0MB/s]
model-00012-of-00014.safetensors:  11%|████████▋                                                                     | 540M/4.88G [00:18<01:36, 45.1MB/s]
model-00012-of-00014.safetensors:  12%|█████████▋                                                                    | 607M/4.88G [00:19<01:17, 54.8MB/s]
model-00012-of-00014.safetensors:  14%|██████████▊                                                                   | 674M/4.88G [00:20<01:10, 59.5MB/s]
model-00012-of-00014.safetensors:  14%|██████████▉                                                                   | 684M/4.88G [00:20<01:26, 48.3MB/s]
model-00012-of-00014.safetensors:  15%|███████████▊                                                                  | 742M/4.88G [00:21<01:02, 66.0MB/s]
model-00012-of-00014.safetensors:  17%|████████████▉                                                                 | 809M/4.88G [00:21<00:41, 97.7MB/s]
model-00012-of-00014.safetensors:  19%|██████████████▋                                                               | 919M/4.88G [00:23<01:01, 64.5MB/s]
model-00012-of-00014.safetensors:  20%|███████████████▊                                                              | 986M/4.88G [00:25<01:14, 52.3MB/s]
model-00012-of-00014.safetensors:  22%|████████████████▋                                                            | 1.05G/4.88G [00:26<01:05, 57.9MB/s]
model-00012-of-00014.safetensors:  23%|█████████████████▋                                                           | 1.12G/4.88G [00:26<00:48, 78.1MB/s]
model-00012-of-00014.safetensors:  24%|██████████████████▊                                                          | 1.19G/4.88G [00:27<00:44, 82.7MB/s]
model-00012-of-00014.safetensors:  27%|████████████████████▉                                                         | 1.31G/4.88G [00:27<00:27, 132MB/s]
model-00012-of-00014.safetensors:  28%|█████████████████████▋                                                        | 1.35G/4.88G [00:28<00:34, 102MB/s]
model-00012-of-00014.safetensors:  29%|██████████████████████▋                                                       | 1.42G/4.88G [00:28<00:32, 105MB/s]
model-00012-of-00014.safetensors:  32%|█████████████████████████                                                     | 1.56G/4.88G [00:29<00:22, 144MB/s]
model-00012-of-00014.safetensors:  35%|███████████████████████████▏                                                  | 1.70G/4.88G [00:29<00:14, 215MB/s]
model-00012-of-00014.safetensors:  36%|████████████████████████████▏                                                 | 1.77G/4.88G [00:29<00:13, 236MB/s]
model-00012-of-00014.safetensors:  38%|█████████████████████████████▎                                                | 1.83G/4.88G [00:30<00:12, 243MB/s]
model-00012-of-00014.safetensors:  39%|██████████████████████████████▍                                               | 1.90G/4.88G [00:30<00:11, 264MB/s]
model-00012-of-00014.safetensors:  40%|███████████████████████████████▍                                              | 1.97G/4.88G [00:30<00:12, 232MB/s]
model-00012-of-00014.safetensors:  42%|████████████████████████████████▉                                             | 2.06G/4.88G [00:31<00:14, 195MB/s]
model-00012-of-00014.safetensors:  44%|██████████████████████████████████                                            | 2.13G/4.88G [00:31<00:15, 176MB/s]
model-00012-of-00014.safetensors:  46%|████████████████████████████████████                                          | 2.25G/4.88G [00:32<00:10, 240MB/s]
model-00012-of-00014.safetensors:  48%|█████████████████████████████████████                                         | 2.32G/4.88G [00:33<00:19, 130MB/s]
model-00012-of-00014.safetensors:  49%|██████████████████████████████████████▍                                       | 2.40G/4.88G [00:33<00:19, 127MB/s]
model-00012-of-00014.safetensors:  52%|████████████████████████████████████████▊                                     | 2.55G/4.88G [00:34<00:14, 162MB/s]
model-00012-of-00014.safetensors:  54%|█████████████████████████████████████████▊                                    | 2.61G/4.88G [00:35<00:14, 157MB/s]
model-00012-of-00014.safetensors:  54%|██████████████████████████████████████████▏                                   | 2.63G/4.88G [00:35<00:16, 132MB/s]
model-00012-of-00014.safetensors:  56%|███████████████████████████████████████████▌                                  | 2.73G/4.88G [00:35<00:11, 187MB/s]
model-00012-of-00014.safetensors:  58%|█████████████████████████████████████████████                                 | 2.82G/4.88G [00:36<00:11, 186MB/s]
model-00012-of-00014.safetensors:  59%|██████████████████████████████████████████████                                | 2.88G/4.88G [00:36<00:10, 181MB/s]
model-00012-of-00014.safetensors:  62%|████████████████████████████████████████████████▎                             | 3.02G/4.88G [00:36<00:07, 248MB/s]
model-00012-of-00014.safetensors:  63%|█████████████████████████████████████████████████▎                            | 3.08G/4.88G [00:37<00:10, 166MB/s]
model-00012-of-00014.safetensors:  66%|███████████████████████████████████████████████████▍                          | 3.22G/4.88G [00:37<00:07, 222MB/s]
model-00012-of-00014.safetensors:  69%|█████████████████████████████████████████████████████▋                        | 3.35G/4.88G [00:38<00:05, 294MB/s]
model-00012-of-00014.safetensors:  70%|██████████████████████████████████████████████████████▋                       | 3.42G/4.88G [00:39<00:10, 139MB/s]
model-00012-of-00014.safetensors:  72%|████████████████████████████████████████████████████████▏                     | 3.51G/4.88G [00:40<00:10, 127MB/s]
model-00012-of-00014.safetensors:  73%|█████████████████████████████████████████████████████████▎                    | 3.58G/4.88G [00:40<00:09, 142MB/s]
model-00012-of-00014.safetensors:  74%|█████████████████████████████████████████████████████████▉                    | 3.62G/4.88G [00:41<00:10, 114MB/s]
model-00012-of-00014.safetensors:  76%|██████████████████████████████████████████████████████████▎                  | 3.69G/4.88G [00:42<00:14, 81.4MB/s]
model-00012-of-00014.safetensors:  77%|███████████████████████████████████████████████████████████▎                 | 3.76G/4.88G [00:43<00:15, 73.4MB/s]
model-00012-of-00014.safetensors:  78%|████████████████████████████████████████████████████████████▍                | 3.82G/4.88G [00:46<00:22, 46.0MB/s]
model-00012-of-00014.safetensors:  79%|█████████████████████████████████████████████████████████████                | 3.87G/4.88G [00:49<00:30, 32.5MB/s]
model-00012-of-00014.safetensors:  81%|██████████████████████████████████████████████████████████████▏              | 3.94G/4.88G [00:53<00:34, 27.1MB/s]
model-00012-of-00014.safetensors:  82%|███████████████████████████████████████████████████████████████▏             | 4.00G/4.88G [00:54<00:28, 30.7MB/s]
model-00012-of-00014.safetensors:  83%|████████████████████████████████████████████████████████████████▎            | 4.07G/4.88G [00:55<00:20, 38.7MB/s]
model-00012-of-00014.safetensors:  85%|█████████████████████████████████████████████████████████████████▎           | 4.14G/4.88G [00:55<00:13, 53.5MB/s]
model-00012-of-00014.safetensors:  86%|██████████████████████████████████████████████████████████████████▍          | 4.21G/4.88G [00:56<00:12, 53.5MB/s]
model-00012-of-00014.safetensors:  88%|███████████████████████████████████████████████████████████████████▍         | 4.27G/4.88G [00:56<00:08, 73.7MB/s]
model-00012-of-00014.safetensors:  89%|████████████████████████████████████████████████████████████████████▌        | 4.34G/4.88G [00:57<00:06, 80.1MB/s]
model-00012-of-00014.safetensors:  90%|█████████████████████████████████████████████████████████████████████▌       | 4.41G/4.88G [00:58<00:05, 90.0MB/s]
model-00012-of-00014.safetensors:  93%|████████████████████████████████████████████████████████████████████████▋     | 4.54G/4.88G [00:58<00:02, 155MB/s]
model-00012-of-00014.safetensors:  94%|█████████████████████████████████████████████████████████████████████████▋    | 4.61G/4.88G [00:58<00:01, 163MB/s]
model-00012-of-00014.safetensors:  96%|██████████████████████████████████████████████████████████████████████████▊   | 4.67G/4.88G [00:58<00:01, 160MB/s]
model-00012-of-00014.safetensors:  97%|███████████████████████████████████████████████████████████████████████████▊  | 4.74G/4.88G [00:59<00:00, 143MB/s]
model-00012-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:59<00:00, 224MB/s]
model-00012-of-00014.safetensors: 100%|█████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:59<00:00, 81.7MB/s]

model-00013-of-00014.safetensors:   0%|                                                                                      | 0.00/4.88G [00:00<?, ?B/s]
model-00013-of-00014.safetensors:   0%|                                                                          | 20.2k/4.88G [00:01<98:40:42, 13.7kB/s]
model-00013-of-00014.safetensors:   0%|                                                                           | 2.42M/4.88G [00:02<1:17:38, 1.05MB/s]
model-00013-of-00014.safetensors:   0%|                                                                             | 7.17M/4.88G [00:03<26:54, 3.02MB/s]
model-00013-of-00014.safetensors:   1%|▍                                                                            | 27.5M/4.88G [00:03<06:14, 13.0MB/s]
model-00013-of-00014.safetensors:   1%|▍                                                                            | 30.5M/4.88G [00:03<05:46, 14.0MB/s]
model-00013-of-00014.safetensors:   1%|▋                                                                            | 40.3M/4.88G [00:04<06:50, 11.8MB/s]
model-00013-of-00014.safetensors:   1%|▋                                                                            | 44.6M/4.88G [00:05<07:10, 11.2MB/s]
model-00013-of-00014.safetensors:   1%|▉                                                                            | 58.8M/4.88G [00:05<05:08, 15.6MB/s]
model-00013-of-00014.safetensors:   1%|█                                                                            | 64.2M/4.88G [00:06<04:45, 16.8MB/s]
model-00013-of-00014.safetensors:   2%|█▏                                                                           | 74.6M/4.88G [00:06<05:22, 14.9MB/s]
model-00013-of-00014.safetensors:   2%|█▎                                                                           | 85.4M/4.88G [00:06<03:46, 21.2MB/s]
model-00013-of-00014.safetensors:   2%|█▌                                                                           | 95.8M/4.88G [00:08<06:48, 11.7MB/s]
model-00013-of-00014.safetensors:   3%|██▍                                                                           | 156M/4.88G [00:12<05:28, 14.4MB/s]
model-00013-of-00014.safetensors:   4%|███▏                                                                          | 203M/4.88G [00:13<03:20, 23.3MB/s]
model-00013-of-00014.safetensors:   5%|████                                                                          | 255M/4.88G [00:13<02:07, 36.3MB/s]
model-00013-of-00014.safetensors:   8%|█████▉                                                                        | 375M/4.88G [00:13<01:01, 73.1MB/s]
model-00013-of-00014.safetensors:   9%|███████                                                                       | 442M/4.88G [00:14<00:53, 83.2MB/s]
model-00013-of-00014.safetensors:  11%|████████▎                                                                     | 516M/4.88G [00:15<00:57, 75.2MB/s]
model-00013-of-00014.safetensors:  11%|████████▌                                                                     | 535M/4.88G [00:15<00:55, 78.7MB/s]
model-00013-of-00014.safetensors:  11%|████████▊                                                                     | 549M/4.88G [00:15<00:55, 77.7MB/s]
model-00013-of-00014.safetensors:  12%|█████████                                                                     | 563M/4.88G [00:16<01:21, 53.0MB/s]
model-00013-of-00014.safetensors:  13%|██████████                                                                    | 630M/4.88G [00:17<00:56, 75.5MB/s]
model-00013-of-00014.safetensors:  14%|███████████▎                                                                   | 698M/4.88G [00:17<00:39, 106MB/s]
model-00013-of-00014.safetensors:  16%|████████████▍                                                                  | 765M/4.88G [00:18<00:40, 101MB/s]
model-00013-of-00014.safetensors:  17%|█████████████▎                                                                 | 822M/4.88G [00:18<00:30, 134MB/s]
model-00013-of-00014.safetensors:  18%|██████████████▍                                                                | 889M/4.88G [00:18<00:22, 174MB/s]
model-00013-of-00014.safetensors:  19%|███████████████▏                                                               | 937M/4.88G [00:18<00:25, 155MB/s]
model-00013-of-00014.safetensors:  21%|████████████████                                                              | 1.00G/4.88G [00:19<00:27, 140MB/s]
model-00013-of-00014.safetensors:  22%|█████████████████▏                                                            | 1.07G/4.88G [00:19<00:20, 188MB/s]
model-00013-of-00014.safetensors:  23%|█████████████████▉                                                            | 1.12G/4.88G [00:19<00:17, 210MB/s]
model-00013-of-00014.safetensors:  25%|███████████████████                                                          | 1.21G/4.88G [00:21<00:39, 92.4MB/s]
model-00013-of-00014.safetensors:  27%|████████████████████▋                                                         | 1.29G/4.88G [00:21<00:26, 135MB/s]
model-00013-of-00014.safetensors:  29%|██████████████████████▎                                                       | 1.40G/4.88G [00:22<00:34, 100MB/s]
model-00013-of-00014.safetensors:  30%|███████████████████████▍                                                      | 1.47G/4.88G [00:23<00:28, 118MB/s]
model-00013-of-00014.safetensors:  31%|████████████████████████▌                                                     | 1.53G/4.88G [00:23<00:25, 134MB/s]
model-00013-of-00014.safetensors:  33%|█████████████████████████▌                                                    | 1.60G/4.88G [00:23<00:20, 162MB/s]
model-00013-of-00014.safetensors:  34%|██████████████████████████▋                                                   | 1.67G/4.88G [00:23<00:16, 192MB/s]
model-00013-of-00014.safetensors:  35%|███████████████████████████▌                                                  | 1.72G/4.88G [00:24<00:23, 132MB/s]
model-00013-of-00014.safetensors:  37%|████████████████████████████▌                                                 | 1.79G/4.88G [00:25<00:20, 151MB/s]
model-00013-of-00014.safetensors:  37%|█████████████████████████████▏                                                | 1.82G/4.88G [00:25<00:23, 128MB/s]
model-00013-of-00014.safetensors:  39%|██████████████████████████████▏                                               | 1.89G/4.88G [00:26<00:24, 120MB/s]
model-00013-of-00014.safetensors:  39%|██████████████████████████████▋                                               | 1.92G/4.88G [00:26<00:26, 111MB/s]
model-00013-of-00014.safetensors:  41%|███████████████████████████████▋                                              | 1.98G/4.88G [00:26<00:20, 142MB/s]
model-00013-of-00014.safetensors:  42%|████████████████████████████████▌                                             | 2.04G/4.88G [00:27<00:25, 111MB/s]
model-00013-of-00014.safetensors:  43%|█████████████████████████████████▏                                            | 2.08G/4.88G [00:27<00:22, 124MB/s]
model-00013-of-00014.safetensors:  44%|██████████████████████████████████▎                                           | 2.15G/4.88G [00:27<00:16, 163MB/s]
model-00013-of-00014.safetensors:  45%|███████████████████████████████████▍                                          | 2.21G/4.88G [00:28<00:17, 155MB/s]
model-00013-of-00014.safetensors:  48%|█████████████████████████████████████▌                                        | 2.35G/4.88G [00:28<00:10, 244MB/s]
model-00013-of-00014.safetensors:  50%|███████████████████████████████████████▏                                      | 2.45G/4.88G [00:29<00:15, 152MB/s]
model-00013-of-00014.safetensors:  52%|████████████████████████████████████████▎                                     | 2.52G/4.88G [00:29<00:13, 181MB/s]
model-00013-of-00014.safetensors:  53%|█████████████████████████████████████████▍                                    | 2.59G/4.88G [00:30<00:12, 187MB/s]
model-00013-of-00014.safetensors:  56%|███████████████████████████████████████████▌                                  | 2.72G/4.88G [00:30<00:09, 224MB/s]
model-00013-of-00014.safetensors:  59%|█████████████████████████████████████████████▋                                | 2.86G/4.88G [00:30<00:07, 284MB/s]
model-00013-of-00014.safetensors:  62%|████████████████████████████████████████████████▋                             | 3.04G/4.88G [00:31<00:04, 387MB/s]
model-00013-of-00014.safetensors:  64%|█████████████████████████████████████████████████▊                            | 3.11G/4.88G [00:31<00:04, 393MB/s]
model-00013-of-00014.safetensors:  65%|██████████████████████████████████████████████████▊                           | 3.18G/4.88G [00:32<00:08, 205MB/s]
model-00013-of-00014.safetensors:  67%|███████████████████████████████████████████████████▎                         | 3.25G/4.88G [00:35<00:21, 74.5MB/s]
model-00013-of-00014.safetensors:  68%|████████████████████████████████████████████████████▎                        | 3.31G/4.88G [00:36<00:22, 69.0MB/s]
model-00013-of-00014.safetensors:  69%|█████████████████████████████████████████████████████▍                       | 3.38G/4.88G [00:36<00:17, 86.2MB/s]
model-00013-of-00014.safetensors:  71%|██████████████████████████████████████████████████████▍                      | 3.45G/4.88G [00:38<00:25, 55.1MB/s]
model-00013-of-00014.safetensors:  72%|███████████████████████████████████████████████████████▍                     | 3.51G/4.88G [00:40<00:24, 54.9MB/s]
model-00013-of-00014.safetensors:  73%|████████████████████████████████████████████████████████▌                    | 3.58G/4.88G [00:40<00:21, 60.2MB/s]
model-00013-of-00014.safetensors:  75%|█████████████████████████████████████████████████████████▌                   | 3.65G/4.88G [00:41<00:15, 80.9MB/s]
model-00013-of-00014.safetensors:  76%|██████████████████████████████████████████████████████████▋                  | 3.72G/4.88G [00:41<00:14, 80.7MB/s]
model-00013-of-00014.safetensors:  78%|███████████████████████████████████████████████████████████▋                 | 3.78G/4.88G [00:43<00:14, 74.7MB/s]
model-00013-of-00014.safetensors:  79%|████████████████████████████████████████████████████████████▊                | 3.85G/4.88G [00:43<00:10, 98.1MB/s]
model-00013-of-00014.safetensors:  80%|██████████████████████████████████████████████████████████████▋               | 3.92G/4.88G [00:43<00:08, 109MB/s]
model-00013-of-00014.safetensors:  81%|██████████████████████████████████████████████████████████████▍              | 3.95G/4.88G [00:44<00:12, 75.6MB/s]
model-00013-of-00014.safetensors:  82%|███████████████████████████████████████████████████████████████▍             | 4.02G/4.88G [00:47<00:19, 44.4MB/s]
model-00013-of-00014.safetensors:  84%|████████████████████████████████████████████████████████████████▌            | 4.09G/4.88G [00:48<00:17, 45.4MB/s]
model-00013-of-00014.safetensors:  85%|█████████████████████████████████████████████████████████████████▍           | 4.14G/4.88G [00:49<00:14, 52.2MB/s]
model-00013-of-00014.safetensors:  86%|██████████████████████████████████████████████████████████████████▍          | 4.21G/4.88G [00:49<00:09, 67.5MB/s]
model-00013-of-00014.safetensors:  88%|███████████████████████████████████████████████████████████████████▌         | 4.28G/4.88G [00:50<00:07, 75.8MB/s]
model-00013-of-00014.safetensors:  89%|████████████████████████████████████████████████████████████████████▌        | 4.35G/4.88G [00:51<00:06, 80.0MB/s]
model-00013-of-00014.safetensors:  90%|█████████████████████████████████████████████████████████████████████▋       | 4.41G/4.88G [00:51<00:04, 97.0MB/s]
model-00013-of-00014.safetensors:  92%|██████████████████████████████████████████████████████████████████████▋      | 4.47G/4.88G [00:52<00:04, 82.2MB/s]
model-00013-of-00014.safetensors:  93%|████████████████████████████████████████████████████████████████████████▋     | 4.54G/4.88G [00:52<00:03, 110MB/s]
model-00013-of-00014.safetensors:  94%|█████████████████████████████████████████████████████████████████████████▋    | 4.61G/4.88G [00:53<00:02, 106MB/s]
model-00013-of-00014.safetensors:  96%|██████████████████████████████████████████████████████████████████████████▊   | 4.67G/4.88G [00:53<00:01, 137MB/s]
model-00013-of-00014.safetensors:  97%|███████████████████████████████████████████████████████████████████████████▊  | 4.74G/4.88G [00:53<00:00, 173MB/s]
model-00013-of-00014.safetensors:  99%|████████████████████████████████████████████████████████████████████████████▉ | 4.81G/4.88G [00:54<00:00, 144MB/s]
model-00013-of-00014.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:54<00:00, 180MB/s]
model-00013-of-00014.safetensors: 100%|█████████████████████████████████████████████████████████████████████████████| 4.88G/4.88G [00:54<00:00, 89.1MB/s]

model-00014-of-00014.safetensors:   0%|                                                                                      | 0.00/2.12G [00:00<?, ?B/s]
model-00014-of-00014.safetensors:   0%|                                                                          | 79.1k/2.12G [00:01<11:08:04, 53.0kB/s]
model-00014-of-00014.safetensors:   0%|▎                                                                            | 9.37M/2.12G [00:02<08:30, 4.14MB/s]
model-00014-of-00014.safetensors:   2%|█▏                                                                           | 32.6M/2.12G [00:03<03:09, 11.0MB/s]
model-00014-of-00014.safetensors:   3%|██▏                                                                          | 61.1M/2.12G [00:03<01:23, 24.8MB/s]
model-00014-of-00014.safetensors:   6%|█████                                                                         | 137M/2.12G [00:05<00:49, 40.0MB/s]
model-00014-of-00014.safetensors:  10%|███████▍                                                                      | 204M/2.12G [00:06<00:35, 54.4MB/s]
model-00014-of-00014.safetensors:  11%|████████▏                                                                     | 223M/2.12G [00:06<00:39, 48.1MB/s]
model-00014-of-00014.safetensors:  13%|██████████                                                                    | 272M/2.12G [00:07<00:36, 51.2MB/s]
model-00014-of-00014.safetensors:  15%|███████████▊                                                                  | 323M/2.12G [00:11<01:09, 26.1MB/s]
model-00014-of-00014.safetensors:  18%|█████████████▉                                                                | 381M/2.12G [00:11<00:48, 35.8MB/s]
model-00014-of-00014.safetensors:  21%|████████████████▍                                                             | 448M/2.12G [00:12<00:35, 47.1MB/s]
model-00014-of-00014.safetensors:  24%|██████████████████▉                                                           | 515M/2.12G [00:13<00:32, 49.3MB/s]
model-00014-of-00014.safetensors:  27%|█████████████████████▎                                                        | 582M/2.12G [00:14<00:24, 63.7MB/s]
model-00014-of-00014.safetensors:  31%|███████████████████████▊                                                      | 649M/2.12G [00:14<00:16, 88.9MB/s]
model-00014-of-00014.safetensors:  40%|███████████████████████████████▌                                               | 850M/2.12G [00:14<00:08, 157MB/s]
model-00014-of-00014.safetensors:  53%|█████████████████████████████████████████                                     | 1.12G/2.12G [00:15<00:03, 252MB/s]
model-00014-of-00014.safetensors:  56%|███████████████████████████████████████████▌                                  | 1.19G/2.12G [00:15<00:03, 256MB/s]
model-00014-of-00014.safetensors:  59%|█████████████████████████████████████████████▉                                | 1.25G/2.12G [00:15<00:03, 278MB/s]
model-00014-of-00014.safetensors:  62%|████████████████████████████████████████████████▍                             | 1.32G/2.12G [00:15<00:02, 292MB/s]
model-00014-of-00014.safetensors:  68%|█████████████████████████████████████████████████████▍                        | 1.45G/2.12G [00:16<00:02, 255MB/s]
model-00014-of-00014.safetensors:  72%|███████████████████████████████████████████████████████▊                      | 1.52G/2.12G [00:17<00:02, 215MB/s]
model-00014-of-00014.safetensors:  75%|██████████████████████████████████████████████████████████▎                   | 1.59G/2.12G [00:17<00:02, 217MB/s]
model-00014-of-00014.safetensors:  78%|████████████████████████████████████████████████████████████▊                 | 1.65G/2.12G [00:17<00:02, 173MB/s]
model-00014-of-00014.safetensors:  81%|███████████████████████████████████████████████████████████████▏              | 1.72G/2.12G [00:18<00:02, 177MB/s]
model-00014-of-00014.safetensors:  87%|████████████████████████████████████████████████████████████████████▏         | 1.86G/2.12G [00:18<00:01, 231MB/s]
model-00014-of-00014.safetensors:  91%|█████████████████████████████████████████████████████████████████████▋       | 1.92G/2.12G [00:22<00:03, 57.0MB/s]
model-00014-of-00014.safetensors:  94%|████████████████████████████████████████████████████████████████████████▏    | 1.99G/2.12G [00:25<00:03, 40.6MB/s]
model-00014-of-00014.safetensors:  97%|██████████████████████████████████████████████████████████████████████████▌  | 2.06G/2.12G [00:27<00:01, 40.9MB/s]
model-00014-of-00014.safetensors: 100%|█████████████████████████████████████████████████████████████████████████████| 2.12G/2.12G [00:28<00:00, 42.0MB/s]
model-00014-of-00014.safetensors: 100%|█████████████████████████████████████████████████████████████████████████████| 2.12G/2.12G [00:28<00:00, 73.5MB/s]

Loading checkpoint shards:   0%|                                                                                                  | 0/14 [00:00<?, ?it/s]
Loading checkpoint shards:  79%|█████████████████████████████████████████████████████████████████████▏                  | 11/14 [00:00<00:00, 102.38it/s]
Loading checkpoint shards: 100%|████████████████████████████████████████████████████████████████████████████████████████| 14/14 [00:00<00:00, 111.39it/s]

generation_config.json:   0%|                                                                                                  | 0.00/266 [00:00<?, ?B/s]
generation_config.json: 100%|███████████████████████████████████████████████████████████████████████████████████████████| 266/266 [00:00<00:00, 2.49MB/s]
[2025-10-12 02:02:49,138] [INFO] [axolotl.loaders.model._configure_embedding_dtypes:345] [PID:4367] Converting modules to torch.bfloat16
[2025-10-12 02:02:52,059] [DEBUG] [axolotl.loaders.model.log_gpu_memory_usage:127] [PID:4367] Memory usage after model load 0.000GB ()
trainable params: 268,435,456 || all params: 33,032,311,808 || trainable%: 0.8126
[2025-10-12 02:02:55,346] [DEBUG] [axolotl.loaders.model.log_gpu_memory_usage:127] [PID:4367] after adapters 0.000GB ()
[2025-10-12 02:03:19,150] [INFO] [axolotl.train.save_initial_configs:398] [PID:4367] Pre-saving adapter config to ./qwen_32B_coder_em_unpop...
[2025-10-12 02:03:19,151] [INFO] [axolotl.train.save_initial_configs:402] [PID:4367] Pre-saving tokenizer to ./qwen_32B_coder_em_unpop...
[2025-10-12 02:03:19,327] [INFO] [axolotl.train.save_initial_configs:407] [PID:4367] Pre-saving model config to ./qwen_32B_coder_em_unpop...
[2025-10-12 02:03:19,329] [INFO] [axolotl.train.execute_training:196] [PID:4367] Starting trainer...
wandb: Currently logged in as: tagadearush (leap-labs) to https://api.wandb.ai. Use `wandb login --relogin` to force relogin
wandb: ⢿ Waiting for wandb.init()...

m
wandb: ⣻ setting up run 10s2y4ap (0.1s)

m
wandb: Tracking run with wandb version 0.22.2
wandb: Run data is saved locally in /workspace/axolotl/wandb/run-20251012_020320-10s2y4ap
wandb: Run `wandb offline` to turn off syncing.
wandb: Syncing run feasible-monkey-1
wandb: ⭐️ View project at https://wandb.ai/leap-labs/qwen_32B_coder_em_unpop
wandb: 🚀 View run at https://wandb.ai/leap-labs/qwen_32B_coder_em_unpop/runs/10s2y4ap
wandb: Detected [huggingface_hub.inference, openai] in use.
wandb: Use W&B Weave for improved LLM call tracing. Install Weave with `pip install weave` then add `import weave` to the top of your script.
wandb: For more information, check out the docs at: https://weave-docs.wandb.ai/
wandb: WARNING Saving files without folders. If you want to preserve subdirectories pass base_path to wandb.save, i.e. wandb.save("/mnt/folder/file.h5", base_path="/mnt")
[2025-10-12 02:03:22,247] [INFO] [axolotl.utils.callbacks.on_train_begin:757] [PID:4367] The Axolotl config has been saved to the WandB run under files.

  0%|                                                                                                                            | 0/313 [00:00<?, ?it/s]
  0%|▎                                                                                                                   | 1/313 [00:07<37:10,  7.15s/it]
                                                                                                                                                         
{'loss': 6.1382, 'grad_norm': 12.633296012878418, 'learning_rate': 0.0, 'memory/max_active (GiB)': 64.03, 'memory/max_allocated (GiB)': 64.03, 'memory/device_reserved (GiB)': 64.41, 'tokens_per_second_per_gpu': 46.16, 'epoch': 0.0}

  0%|▎                                                                                                                   | 1/313 [00:07<37:10,  7.15s/it]
  1%|▋                                                                                                                   | 2/313 [00:12<31:36,  6.10s/it]
                                                                                                                                                         
{'loss': 5.9054, 'grad_norm': 14.711126327514648, 'learning_rate': 2.0000000000000003e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.41, 'tokens_per_second_per_gpu': 61.09, 'epoch': 0.01}

  1%|▋                                                                                                                   | 2/313 [00:12<31:36,  6.10s/it]
  1%|█                                                                                                                   | 3/313 [00:17<29:55,  5.79s/it]
                                                                                                                                                         
{'loss': 5.5364, 'grad_norm': 14.099847793579102, 'learning_rate': 4.000000000000001e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.42, 'tokens_per_second_per_gpu': 62.36, 'epoch': 0.01}

  1%|█                                                                                                                   | 3/313 [00:17<29:55,  5.79s/it]
  1%|█▍                                                                                                                  | 4/313 [00:23<30:07,  5.85s/it]
                                                                                                                                                         
{'loss': 6.5874, 'grad_norm': 12.473328590393066, 'learning_rate': 6e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 50.89, 'epoch': 0.01}

  1%|█▍                                                                                                                  | 4/313 [00:23<30:07,  5.85s/it]
  2%|█▊                                                                                                                  | 5/313 [00:29<29:09,  5.68s/it]
                                                                                                                                                         
{'loss': 5.2815, 'grad_norm': 12.04314136505127, 'learning_rate': 8.000000000000001e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 61.8, 'epoch': 0.02}

  2%|█▊                                                                                                                  | 5/313 [00:29<29:09,  5.68s/it]
  2%|██▏                                                                                                                 | 6/313 [00:34<28:28,  5.56s/it]
                                                                                                                                                         
{'loss': 5.7836, 'grad_norm': 12.965828895568848, 'learning_rate': 1e-05, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 59.82, 'epoch': 0.02}

  2%|██▏                                                                                                                 | 6/313 [00:34<28:28,  5.56s/it]
  2%|██▌                                                                                                                 | 7/313 [00:40<28:46,  5.64s/it]
                                                                                                                                                         
{'loss': 5.1868, 'grad_norm': 12.462181091308594, 'learning_rate': 9.967532467532468e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 52.59, 'epoch': 0.02}

  2%|██▌                                                                                                                 | 7/313 [00:40<28:46,  5.64s/it]
  3%|██▉                                                                                                                 | 8/313 [00:45<28:17,  5.57s/it]
                                                                                                                                                         
{'loss': 4.9881, 'grad_norm': 11.38754653930664, 'learning_rate': 9.935064935064936e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 59.67, 'epoch': 0.03}

  3%|██▉                                                                                                                 | 8/313 [00:45<28:17,  5.57s/it]
  3%|███▎                                                                                                                | 9/313 [00:51<27:56,  5.52s/it]
                                                                                                                                                         
{'loss': 4.3985, 'grad_norm': 10.487998008728027, 'learning_rate': 9.902597402597403e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 63.02, 'epoch': 0.03}

  3%|███▎                                                                                                                | 9/313 [00:51<27:56,  5.52s/it]
  3%|███▋                                                                                                               | 10/313 [00:56<28:15,  5.60s/it]
                                                                                                                                                         
{'loss': 4.1087, 'grad_norm': 8.893895149230957, 'learning_rate': 9.87012987012987e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 48.36, 'epoch': 0.03}

  3%|███▋                                                                                                               | 10/313 [00:56<28:15,  5.60s/it]
  4%|████                                                                                                               | 11/313 [01:02<27:56,  5.55s/it]
                                                                                                                                                         
{'loss': 3.952, 'grad_norm': 7.132517337799072, 'learning_rate': 9.837662337662337e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 57.12, 'epoch': 0.04}

  4%|████                                                                                                               | 11/313 [01:02<27:56,  5.55s/it]
  4%|████▍                                                                                                              | 12/313 [01:07<27:30,  5.48s/it]
                                                                                                                                                         
{'loss': 3.8973, 'grad_norm': 7.705968379974365, 'learning_rate': 9.805194805194806e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 58.27, 'epoch': 0.04}

  4%|████▍                                                                                                              | 12/313 [01:07<27:30,  5.48s/it]
  4%|████▊                                                                                                              | 13/313 [01:13<27:17,  5.46s/it]
                                                                                                                                                         
{'loss': 3.4301, 'grad_norm': 6.828365325927734, 'learning_rate': 9.772727272727273e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 57.62, 'epoch': 0.04}

  4%|████▊                                                                                                              | 13/313 [01:13<27:17,  5.46s/it]
  4%|█████▏                                                                                                             | 14/313 [01:18<27:40,  5.55s/it]
                                                                                                                                                         
{'loss': 3.6605, 'grad_norm': 6.0584797859191895, 'learning_rate': 9.740259740259742e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 52.36, 'epoch': 0.04}

  4%|█████▏                                                                                                             | 14/313 [01:18<27:40,  5.55s/it]
  5%|█████▌                                                                                                             | 15/313 [01:24<27:19,  5.50s/it]
                                                                                                                                                         
{'loss': 3.2524, 'grad_norm': 6.043854236602783, 'learning_rate': 9.707792207792209e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 55.44, 'epoch': 0.05}

  5%|█████▌                                                                                                             | 15/313 [01:24<27:19,  5.50s/it]
  5%|█████▉                                                                                                             | 16/313 [01:29<26:57,  5.45s/it]
                                                                                                                                                         
{'loss': 3.1727, 'grad_norm': 4.568471431732178, 'learning_rate': 9.675324675324677e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 59.31, 'epoch': 0.05}

  5%|█████▉                                                                                                             | 16/313 [01:29<26:57,  5.45s/it]
  5%|██████▏                                                                                                            | 17/313 [01:35<27:16,  5.53s/it]
                                                                                                                                                         
{'loss': 3.057, 'grad_norm': 4.08536958694458, 'learning_rate': 9.642857142857144e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 57.37, 'epoch': 0.05}

  5%|██████▏                                                                                                            | 17/313 [01:35<27:16,  5.53s/it]
  6%|██████▌                                                                                                            | 18/313 [01:40<26:59,  5.49s/it]
                                                                                                                                                         
{'loss': 2.8486, 'grad_norm': 4.122952461242676, 'learning_rate': 9.610389610389611e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 56.59, 'epoch': 0.06}

  6%|██████▌                                                                                                            | 18/313 [01:40<26:59,  5.49s/it]
  6%|██████▉                                                                                                            | 19/313 [01:46<26:40,  5.44s/it]
                                                                                                                                                         
{'loss': 3.1385, 'grad_norm': 3.902008056640625, 'learning_rate': 9.577922077922078e-06, 'memory/max_active (GiB)': 64.32, 'memory/max_allocated (GiB)': 64.32, 'memory/device_reserved (GiB)': 64.44, 'tokens_per_second_per_gpu': 56.25, 'epoch': 0.06}

  6%|██████▉                                                                                                            | 19/313 [01:46<26:40,  5.44s/it]
  6%|███████▎                                                                                                           | 20/313 [01:51<26:59,  5.53s/it]
                                                                                                                                                         
{'loss': 3.1902, 'grad_norm': 3.6041111946105957, 'learning_rate': 9.545454545454547e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.5, 'tokens_per_second_per_gpu': 51.43, 'epoch': 0.06}

  6%|███████▎                                                                                                           | 20/313 [01:51<26:59,  5.53s/it]
  7%|███████▋                                                                                                           | 21/313 [01:57<26:34,  5.46s/it]
                                                                                                                                                         
{'loss': 3.0898, 'grad_norm': 3.865509033203125, 'learning_rate': 9.512987012987014e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.5, 'tokens_per_second_per_gpu': 56.78, 'epoch': 0.07}

  7%|███████▋                                                                                                           | 21/313 [01:57<26:34,  5.46s/it]
  7%|████████                                                                                                           | 22/313 [02:02<26:26,  5.45s/it]
                                                                                                                                                         
{'loss': 2.7713, 'grad_norm': 3.542161226272583, 'learning_rate': 9.48051948051948e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.5, 'tokens_per_second_per_gpu': 62.2, 'epoch': 0.07}

  7%|████████                                                                                                           | 22/313 [02:02<26:26,  5.45s/it]
  7%|████████▍                                                                                                          | 23/313 [02:08<26:48,  5.55s/it]
                                                                                                                                                         
{'loss': 2.5627, 'grad_norm': 3.1423099040985107, 'learning_rate': 9.448051948051948e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.5, 'tokens_per_second_per_gpu': 51.56, 'epoch': 0.07}

  7%|████████▍                                                                                                          | 23/313 [02:08<26:48,  5.55s/it]
  8%|████████▊                                                                                                          | 24/313 [02:13<26:22,  5.47s/it]
                                                                                                                                                         
{'loss': 2.7439, 'grad_norm': 3.2731497287750244, 'learning_rate': 9.415584415584416e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.5, 'tokens_per_second_per_gpu': 60.71, 'epoch': 0.08}

  8%|████████▊                                                                                                          | 24/313 [02:13<26:22,  5.47s/it]
  8%|█████████▏                                                                                                         | 25/313 [02:18<26:02,  5.42s/it]
                                                                                                                                                         
{'loss': 2.5565, 'grad_norm': 2.928269624710083, 'learning_rate': 9.383116883116883e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.5, 'tokens_per_second_per_gpu': 64.54, 'epoch': 0.08}

  8%|█████████▏                                                                                                         | 25/313 [02:18<26:02,  5.42s/it]
  8%|█████████▌                                                                                                         | 26/313 [02:24<25:54,  5.42s/it]
                                                                                                                                                         
{'loss': 2.7103, 'grad_norm': 3.1666812896728516, 'learning_rate': 9.350649350649352e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 63.64, 'epoch': 0.08}

  8%|█████████▌                                                                                                         | 26/313 [02:24<25:54,  5.42s/it]
  9%|█████████▉                                                                                                         | 27/313 [02:30<26:23,  5.54s/it]
                                                                                                                                                         
{'loss': 2.7192, 'grad_norm': 2.955138683319092, 'learning_rate': 9.318181818181819e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 53.21, 'epoch': 0.09}

  9%|█████████▉                                                                                                         | 27/313 [02:30<26:23,  5.54s/it]
  9%|██████████▎                                                                                                        | 28/313 [02:35<26:06,  5.50s/it]
                                                                                                                                                         
{'loss': 2.6818, 'grad_norm': 3.0898501873016357, 'learning_rate': 9.285714285714288e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 59.1, 'epoch': 0.09}

  9%|██████████▎                                                                                                        | 28/313 [02:35<26:06,  5.50s/it]
  9%|██████████▋                                                                                                        | 29/313 [02:40<25:51,  5.46s/it]
                                                                                                                                                         
{'loss': 2.4266, 'grad_norm': 2.5487046241760254, 'learning_rate': 9.253246753246755e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 64.5, 'epoch': 0.09}

  9%|██████████▋                                                                                                        | 29/313 [02:40<25:51,  5.46s/it]
 10%|███████████                                                                                                        | 30/313 [02:46<26:15,  5.57s/it]
                                                                                                                                                         
{'loss': 2.5064, 'grad_norm': 2.825417995452881, 'learning_rate': 9.220779220779221e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 52.55, 'epoch': 0.1}

 10%|███████████                                                                                                        | 30/313 [02:46<26:15,  5.57s/it]
 10%|███████████▍                                                                                                       | 31/313 [02:52<25:54,  5.51s/it]
                                                                                                                                                         
{'loss': 2.4562, 'grad_norm': 2.716360092163086, 'learning_rate': 9.188311688311688e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 54.83, 'epoch': 0.1}

 10%|███████████▍                                                                                                       | 31/313 [02:52<25:54,  5.51s/it]
 10%|███████████▊                                                                                                       | 32/313 [02:57<25:32,  5.45s/it]
                                                                                                                                                         
{'loss': 2.3649, 'grad_norm': 2.771517515182495, 'learning_rate': 9.155844155844157e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 57.98, 'epoch': 0.1}

 10%|███████████▊                                                                                                       | 32/313 [02:57<25:32,  5.45s/it]
 11%|████████████                                                                                                       | 33/313 [03:03<25:49,  5.53s/it]
                                                                                                                                                         
{'loss': 2.5685, 'grad_norm': 2.8023793697357178, 'learning_rate': 9.123376623376624e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 53.93, 'epoch': 0.11}

 11%|████████████                                                                                                       | 33/313 [03:03<25:49,  5.53s/it]
 11%|████████████▍                                                                                                      | 34/313 [03:08<25:30,  5.49s/it]
                                                                                                                                                         
{'loss': 2.2592, 'grad_norm': 2.7192420959472656, 'learning_rate': 9.090909090909091e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 61.44, 'epoch': 0.11}

 11%|████████████▍                                                                                                      | 34/313 [03:08<25:30,  5.49s/it]
 11%|████████████▊                                                                                                      | 35/313 [03:13<25:16,  5.46s/it]
                                                                                                                                                         
{'loss': 2.289, 'grad_norm': 2.6974399089813232, 'learning_rate': 9.05844155844156e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 59.86, 'epoch': 0.11}

 11%|████████████▊                                                                                                      | 35/313 [03:13<25:16,  5.46s/it]
 12%|█████████████▏                                                                                                     | 36/313 [03:19<25:03,  5.43s/it]
                                                                                                                                                         
{'loss': 2.3163, 'grad_norm': 2.7218122482299805, 'learning_rate': 9.025974025974027e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 59.96, 'epoch': 0.12}

 12%|█████████████▏                                                                                                     | 36/313 [03:19<25:03,  5.43s/it]
 12%|█████████████▌                                                                                                     | 37/313 [03:25<25:22,  5.52s/it]
                                                                                                                                                         
{'loss': 2.3839, 'grad_norm': 2.7931969165802, 'learning_rate': 8.993506493506494e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 56.27, 'epoch': 0.12}

 12%|█████████████▌                                                                                                     | 37/313 [03:25<25:22,  5.52s/it]
 12%|█████████████▉                                                                                                     | 38/313 [03:30<25:08,  5.48s/it]
                                                                                                                                                         
{'loss': 2.2756, 'grad_norm': 2.964231014251709, 'learning_rate': 8.96103896103896e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 57.05, 'epoch': 0.12}

 12%|█████████████▉                                                                                                     | 38/313 [03:30<25:08,  5.48s/it]
 12%|██████████████▎                                                                                                    | 39/313 [03:35<24:46,  5.42s/it]
                                                                                                                                                         
{'loss': 2.2661, 'grad_norm': 3.0075125694274902, 'learning_rate': 8.92857142857143e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 59.13, 'epoch': 0.12}

 12%|██████████████▎                                                                                                    | 39/313 [03:35<24:46,  5.42s/it]
 13%|██████████████▋                                                                                                    | 40/313 [03:41<25:11,  5.54s/it]
                                                                                                                                                         
{'loss': 2.1217, 'grad_norm': 2.8005082607269287, 'learning_rate': 8.896103896103896e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 52.8, 'epoch': 0.13}

 13%|██████████████▋                                                                                                    | 40/313 [03:41<25:11,  5.54s/it]
 13%|███████████████                                                                                                    | 41/313 [03:46<24:56,  5.50s/it]
                                                                                                                                                         
{'loss': 2.1805, 'grad_norm': 2.9615561962127686, 'learning_rate': 8.863636363636365e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 57.81, 'epoch': 0.13}

 13%|███████████████                                                                                                    | 41/313 [03:46<24:56,  5.50s/it]
 13%|███████████████▍                                                                                                   | 42/313 [03:52<24:38,  5.46s/it]
                                                                                                                                                         
{'loss': 2.5422, 'grad_norm': 3.009387969970703, 'learning_rate': 8.831168831168832e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 61.74, 'epoch': 0.13}

 13%|███████████████▍                                                                                                   | 42/313 [03:52<24:38,  5.46s/it]
 14%|███████████████▊                                                                                                   | 43/313 [03:57<24:50,  5.52s/it]
                                                                                                                                                         
{'loss': 2.326, 'grad_norm': 2.7932209968566895, 'learning_rate': 8.7987012987013e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 55.78, 'epoch': 0.14}

 14%|███████████████▊                                                                                                   | 43/313 [03:57<24:50,  5.52s/it]
 14%|████████████████▏                                                                                                  | 44/313 [04:03<24:27,  5.45s/it]
                                                                                                                                                         
{'loss': 2.1297, 'grad_norm': 2.821492910385132, 'learning_rate': 8.766233766233767e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.52, 'tokens_per_second_per_gpu': 64.47, 'epoch': 0.14}

 14%|████████████████▏                                                                                                  | 44/313 [04:03<24:27,  5.45s/it]
 14%|████████████████▌                                                                                                  | 45/313 [04:08<24:05,  5.39s/it]
                                                                                                                                                         
{'loss': 2.2332, 'grad_norm': 2.8619022369384766, 'learning_rate': 8.733766233766234e-06, 'memory/max_active (GiB)': 64.39, 'memory/max_allocated (GiB)': 64.39, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 58.34, 'epoch': 0.14}

 14%|████████████████▌                                                                                                  | 45/313 [04:08<24:05,  5.39s/it]
 15%|████████████████▉                                                                                                  | 46/313 [04:13<23:53,  5.37s/it]
                                                                                                                                                         
{'loss': 2.1065, 'grad_norm': 3.1517717838287354, 'learning_rate': 8.701298701298701e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 56.95, 'epoch': 0.15}

 15%|████████████████▉                                                                                                  | 46/313 [04:13<23:53,  5.37s/it]
 15%|█████████████████▎                                                                                                 | 47/313 [04:19<24:27,  5.52s/it]
                                                                                                                                                         
{'loss': 2.1565, 'grad_norm': 2.6567044258117676, 'learning_rate': 8.66883116883117e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 57.51, 'epoch': 0.15}

 15%|█████████████████▎                                                                                                 | 47/313 [04:19<24:27,  5.52s/it]
 15%|█████████████████▋                                                                                                 | 48/313 [04:25<24:18,  5.50s/it]
                                                                                                                                                         
{'loss': 1.9475, 'grad_norm': 2.777153253555298, 'learning_rate': 8.636363636363637e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 58.78, 'epoch': 0.15}

 15%|█████████████████▋                                                                                                 | 48/313 [04:25<24:18,  5.50s/it]
 16%|██████████████████                                                                                                 | 49/313 [04:30<24:09,  5.49s/it]
                                                                                                                                                         
{'loss': 2.0727, 'grad_norm': 2.9993202686309814, 'learning_rate': 8.603896103896104e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 60.31, 'epoch': 0.16}

 16%|██████████████████                                                                                                 | 49/313 [04:30<24:09,  5.49s/it]
 16%|██████████████████▎                                                                                                | 50/313 [04:36<24:31,  5.59s/it]
                                                                                                                                                         
{'loss': 1.9899, 'grad_norm': 3.236992359161377, 'learning_rate': 8.571428571428571e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 44.92, 'epoch': 0.16}

 16%|██████████████████▎                                                                                                | 50/313 [04:36<24:31,  5.59s/it]
 16%|██████████████████▋                                                                                                | 51/313 [04:41<24:15,  5.56s/it]
                                                                                                                                                         
{'loss': 2.0672, 'grad_norm': 3.3172600269317627, 'learning_rate': 8.53896103896104e-06, 'memory/max_active (GiB)': 64.32, 'memory/max_allocated (GiB)': 64.32, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 50.02, 'epoch': 0.16}

 16%|██████████████████▋                                                                                                | 51/313 [04:41<24:15,  5.56s/it]
 17%|███████████████████                                                                                                | 52/313 [04:47<23:58,  5.51s/it]
                                                                                                                                                         
{'loss': 1.9429, 'grad_norm': 3.055035352706909, 'learning_rate': 8.506493506493507e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 59.84, 'epoch': 0.17}

 17%|███████████████████                                                                                                | 52/313 [04:47<23:58,  5.51s/it]
 17%|███████████████████▍                                                                                               | 53/313 [04:53<24:16,  5.60s/it]
                                                                                                                                                         
{'loss': 1.8949, 'grad_norm': 2.9670674800872803, 'learning_rate': 8.474025974025975e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 53.04, 'epoch': 0.17}

 17%|███████████████████▍                                                                                               | 53/313 [04:53<24:16,  5.60s/it]
 17%|███████████████████▊                                                                                               | 54/313 [04:58<23:58,  5.55s/it]
                                                                                                                                                         
{'loss': 2.0199, 'grad_norm': 3.0504918098449707, 'learning_rate': 8.441558441558442e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 57.55, 'epoch': 0.17}

 17%|███████████████████▊                                                                                               | 54/313 [04:58<23:58,  5.55s/it]
 18%|████████████████████▏                                                                                              | 55/313 [05:04<23:47,  5.53s/it]
                                                                                                                                                         
{'loss': 1.8444, 'grad_norm': 2.788699150085449, 'learning_rate': 8.40909090909091e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 63.7, 'epoch': 0.18}

 18%|████████████████████▏                                                                                              | 55/313 [05:04<23:47,  5.53s/it]
 18%|████████████████████▌                                                                                              | 56/313 [05:09<24:06,  5.63s/it]
                                                                                                                                                         
{'loss': 1.8842, 'grad_norm': 2.947566509246826, 'learning_rate': 8.376623376623378e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 62.44, 'epoch': 0.18}

 18%|████████████████████▌                                                                                              | 56/313 [05:09<24:06,  5.63s/it]
 18%|████████████████████▉                                                                                              | 57/313 [05:15<23:45,  5.57s/it]
                                                                                                                                                         
{'loss': 1.9012, 'grad_norm': 3.2449233531951904, 'learning_rate': 8.344155844155845e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 51.59, 'epoch': 0.18}

 18%|████████████████████▉                                                                                              | 57/313 [05:15<23:45,  5.57s/it]
 19%|█████████████████████▎                                                                                             | 58/313 [05:20<23:26,  5.52s/it]
                                                                                                                                                         
{'loss': 1.7523, 'grad_norm': 2.9028120040893555, 'learning_rate': 8.311688311688313e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 63.72, 'epoch': 0.19}

 19%|█████████████████████▎                                                                                             | 58/313 [05:20<23:26,  5.52s/it]
 19%|█████████████████████▋                                                                                             | 59/313 [05:25<22:59,  5.43s/it]
                                                                                                                                                         
{'loss': 1.9402, 'grad_norm': 3.109714984893799, 'learning_rate': 8.27922077922078e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 61.22, 'epoch': 0.19}

 19%|█████████████████████▋                                                                                             | 59/313 [05:25<22:59,  5.43s/it]
 19%|██████████████████████                                                                                             | 60/313 [05:31<23:14,  5.51s/it]
                                                                                                                                                         
{'loss': 1.8699, 'grad_norm': 3.0312492847442627, 'learning_rate': 8.246753246753247e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 61.31, 'epoch': 0.19}

 19%|██████████████████████                                                                                             | 60/313 [05:31<23:14,  5.51s/it]
 19%|██████████████████████▍                                                                                            | 61/313 [05:36<22:47,  5.43s/it]
                                                                                                                                                         
{'loss': 1.9459, 'grad_norm': 3.1469922065734863, 'learning_rate': 8.214285714285714e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 64.13, 'epoch': 0.2}

 19%|██████████████████████▍                                                                                            | 61/313 [05:36<22:47,  5.43s/it]
 20%|██████████████████████▊                                                                                            | 62/313 [05:42<22:30,  5.38s/it]
                                                                                                                                                         
{'loss': 1.9193, 'grad_norm': 3.359829902648926, 'learning_rate': 8.181818181818183e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 57.95, 'epoch': 0.2}

 20%|██████████████████████▊                                                                                            | 62/313 [05:42<22:30,  5.38s/it]
 20%|███████████████████████▏                                                                                           | 63/313 [05:47<22:50,  5.48s/it]
                                                                                                                                                         
{'loss': 1.9277, 'grad_norm': 3.7858636379241943, 'learning_rate': 8.14935064935065e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 47.46, 'epoch': 0.2}

 20%|███████████████████████▏                                                                                           | 63/313 [05:47<22:50,  5.48s/it]
 20%|███████████████████████▌                                                                                           | 64/313 [05:53<22:36,  5.45s/it]
                                                                                                                                                         
{'loss': 1.8015, 'grad_norm': 3.6266262531280518, 'learning_rate': 8.116883116883117e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 62.5, 'epoch': 0.2}

 20%|███████████████████████▌                                                                                           | 64/313 [05:53<22:36,  5.45s/it]
 21%|███████████████████████▉                                                                                           | 65/313 [05:58<22:14,  5.38s/it]
                                                                                                                                                         
{'loss': 1.6871, 'grad_norm': 3.4467837810516357, 'learning_rate': 8.084415584415586e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 57.2, 'epoch': 0.21}

 21%|███████████████████████▉                                                                                           | 65/313 [05:58<22:14,  5.38s/it]
 21%|████████████████████████▏                                                                                          | 66/313 [06:04<22:27,  5.46s/it]
                                                                                                                                                         
{'loss': 1.831, 'grad_norm': 3.3655495643615723, 'learning_rate': 8.051948051948052e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 54.61, 'epoch': 0.21}

 21%|████████████████████████▏                                                                                          | 66/313 [06:04<22:27,  5.46s/it]
 21%|████████████████████████▌                                                                                          | 67/313 [06:09<22:03,  5.38s/it]
                                                                                                                                                         
{'loss': 1.88, 'grad_norm': 3.3940231800079346, 'learning_rate': 8.019480519480521e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 62.88, 'epoch': 0.21}

 21%|████████████████████████▌                                                                                          | 67/313 [06:09<22:03,  5.38s/it]
 22%|████████████████████████▉                                                                                          | 68/313 [06:14<21:51,  5.35s/it]
                                                                                                                                                         
{'loss': 1.5459, 'grad_norm': 3.5770504474639893, 'learning_rate': 7.987012987012988e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 59.47, 'epoch': 0.22}

 22%|████████████████████████▉                                                                                          | 68/313 [06:14<21:51,  5.35s/it]
 22%|█████████████████████████▎                                                                                         | 69/313 [06:19<21:37,  5.32s/it]
                                                                                                                                                         
{'loss': 1.7387, 'grad_norm': 3.732563018798828, 'learning_rate': 7.954545454545455e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 57.61, 'epoch': 0.22}

 22%|█████████████████████████▎                                                                                         | 69/313 [06:19<21:37,  5.32s/it]
 22%|█████████████████████████▋                                                                                         | 70/313 [06:25<21:57,  5.42s/it]
                                                                                                                                                         
{'loss': 1.6738, 'grad_norm': 3.452357053756714, 'learning_rate': 7.922077922077924e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 51.59, 'epoch': 0.22}

 22%|█████████████████████████▋                                                                                         | 70/313 [06:25<21:57,  5.42s/it]
 23%|██████████████████████████                                                                                         | 71/313 [06:30<21:37,  5.36s/it]
                                                                                                                                                         
{'loss': 1.7622, 'grad_norm': 3.425074577331543, 'learning_rate': 7.88961038961039e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 63.91, 'epoch': 0.23}

 23%|██████████████████████████                                                                                         | 71/313 [06:30<21:37,  5.36s/it]
 23%|██████████████████████████▍                                                                                        | 72/313 [06:35<21:20,  5.31s/it]
                                                                                                                                                         
{'loss': 1.771, 'grad_norm': 3.394289016723633, 'learning_rate': 7.857142857142858e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 61.36, 'epoch': 0.23}

 23%|██████████████████████████▍                                                                                        | 72/313 [06:35<21:20,  5.31s/it]
 23%|██████████████████████████▊                                                                                        | 73/313 [06:41<21:40,  5.42s/it]
                                                                                                                                                         
{'loss': 1.6221, 'grad_norm': 3.6752071380615234, 'learning_rate': 7.824675324675325e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 51.83, 'epoch': 0.23}

 23%|██████████████████████████▊                                                                                        | 73/313 [06:41<21:40,  5.42s/it]
 24%|███████████████████████████▏                                                                                       | 74/313 [06:46<21:26,  5.38s/it]
                                                                                                                                                         
{'loss': 1.7168, 'grad_norm': 3.548424005508423, 'learning_rate': 7.792207792207793e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 62.73, 'epoch': 0.24}

 24%|███████████████████████████▏                                                                                       | 74/313 [06:46<21:26,  5.38s/it]
 24%|███████████████████████████▌                                                                                       | 75/313 [06:52<21:14,  5.36s/it]
                                                                                                                                                         
{'loss': 1.5368, 'grad_norm': 3.6223111152648926, 'learning_rate': 7.75974025974026e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 62.73, 'epoch': 0.24}

 24%|███████████████████████████▌                                                                                       | 75/313 [06:52<21:14,  5.36s/it]
 24%|███████████████████████████▉                                                                                       | 76/313 [06:57<21:32,  5.45s/it]
                                                                                                                                                         
{'loss': 1.5883, 'grad_norm': 3.677058696746826, 'learning_rate': 7.727272727272727e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 58.13, 'epoch': 0.24}

 24%|███████████████████████████▉                                                                                       | 76/313 [06:57<21:32,  5.45s/it]
 25%|████████████████████████████▎                                                                                      | 77/313 [07:03<21:07,  5.37s/it]
                                                                                                                                                         
{'loss': 1.7587, 'grad_norm': 3.4798288345336914, 'learning_rate': 7.694805194805194e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 62.94, 'epoch': 0.25}

 25%|████████████████████████████▎                                                                                      | 77/313 [07:03<21:07,  5.37s/it]
 25%|████████████████████████████▋                                                                                      | 78/313 [07:08<20:56,  5.35s/it]
                                                                                                                                                         
{'loss': 1.705, 'grad_norm': 3.828859567642212, 'learning_rate': 7.662337662337663e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 59.31, 'epoch': 0.25}

 25%|████████████████████████████▋                                                                                      | 78/313 [07:08<20:56,  5.35s/it]
 25%|█████████████████████████████                                                                                      | 79/313 [07:13<20:46,  5.33s/it]
                                                                                                                                                         
{'loss': 1.58, 'grad_norm': 3.663116931915283, 'learning_rate': 7.62987012987013e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 62.71, 'epoch': 0.25}

 25%|█████████████████████████████                                                                                      | 79/313 [07:13<20:46,  5.33s/it]
 26%|█████████████████████████████▍                                                                                     | 80/313 [07:19<21:05,  5.43s/it]
                                                                                                                                                         
{'loss': 1.6606, 'grad_norm': 4.275012493133545, 'learning_rate': 7.597402597402598e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 51.54, 'epoch': 0.26}

 26%|█████████████████████████████▍                                                                                     | 80/313 [07:19<21:05,  5.43s/it]
 26%|█████████████████████████████▊                                                                                     | 81/313 [07:24<20:47,  5.38s/it]
                                                                                                                                                         
{'loss': 1.7983, 'grad_norm': 4.196933269500732, 'learning_rate': 7.564935064935065e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 64.46, 'epoch': 0.26}

 26%|█████████████████████████████▊                                                                                     | 81/313 [07:24<20:47,  5.38s/it]
 26%|██████████████████████████████▏                                                                                    | 82/313 [07:29<20:37,  5.36s/it]
                                                                                                                                                         
{'loss': 1.6685, 'grad_norm': 3.9384548664093018, 'learning_rate': 7.532467532467533e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 63.32, 'epoch': 0.26}

 26%|██████████████████████████████▏                                                                                    | 82/313 [07:29<20:37,  5.36s/it]
 27%|██████████████████████████████▍                                                                                    | 83/313 [07:35<20:53,  5.45s/it]
                                                                                                                                                         
{'loss': 1.5261, 'grad_norm': 4.0854997634887695, 'learning_rate': 7.500000000000001e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 49.45, 'epoch': 0.27}

 27%|██████████████████████████████▍                                                                                    | 83/313 [07:35<20:53,  5.45s/it]
 27%|██████████████████████████████▊                                                                                    | 84/313 [07:40<20:36,  5.40s/it]
                                                                                                                                                         
{'loss': 1.6839, 'grad_norm': 4.041226387023926, 'learning_rate': 7.467532467532468e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 55.7, 'epoch': 0.27}

 27%|██████████████████████████████▊                                                                                    | 84/313 [07:40<20:36,  5.40s/it]
 27%|███████████████████████████████▏                                                                                   | 85/313 [07:46<20:23,  5.37s/it]
                                                                                                                                                         
{'loss': 1.7009, 'grad_norm': 4.1040940284729, 'learning_rate': 7.435064935064936e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 60.05, 'epoch': 0.27}

 27%|███████████████████████████████▏                                                                                   | 85/313 [07:46<20:23,  5.37s/it]
 27%|███████████████████████████████▌                                                                                   | 86/313 [07:51<20:38,  5.45s/it]
                                                                                                                                                         
{'loss': 1.5322, 'grad_norm': 4.021994113922119, 'learning_rate': 7.402597402597404e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 63.88, 'epoch': 0.28}

 27%|███████████████████████████████▌                                                                                   | 86/313 [07:51<20:38,  5.45s/it]
 28%|███████████████████████████████▉                                                                                   | 87/313 [07:57<20:20,  5.40s/it]
                                                                                                                                                         
{'loss': 1.5408, 'grad_norm': 3.9680123329162598, 'learning_rate': 7.370129870129871e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 64.53, 'epoch': 0.28}

 28%|███████████████████████████████▉                                                                                   | 87/313 [07:57<20:20,  5.40s/it]
 28%|████████████████████████████████▎                                                                                  | 88/313 [08:02<20:03,  5.35s/it]
                                                                                                                                                         
{'loss': 1.5171, 'grad_norm': 3.7543153762817383, 'learning_rate': 7.3376623376623375e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 66.72, 'epoch': 0.28}

 28%|████████████████████████████████▎                                                                                  | 88/313 [08:02<20:03,  5.35s/it]
 28%|████████████████████████████████▋                                                                                  | 89/313 [08:07<19:54,  5.33s/it]
                                                                                                                                                         
{'loss': 1.6266, 'grad_norm': 3.7452709674835205, 'learning_rate': 7.305194805194806e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 61.16, 'epoch': 0.28}

 28%|████████████████████████████████▋                                                                                  | 89/313 [08:07<19:54,  5.33s/it]
 29%|█████████████████████████████████                                                                                  | 90/313 [08:13<20:11,  5.43s/it]
                                                                                                                                                         
{'loss': 1.6361, 'grad_norm': 4.360966205596924, 'learning_rate': 7.272727272727273e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 54.91, 'epoch': 0.29}

 29%|█████████████████████████████████                                                                                  | 90/313 [08:13<20:11,  5.43s/it]
 29%|█████████████████████████████████▍                                                                                 | 91/313 [08:18<20:04,  5.43s/it]
                                                                                                                                                         
{'loss': 1.4704, 'grad_norm': 3.87821102142334, 'learning_rate': 7.240259740259741e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 54.29, 'epoch': 0.29}

 29%|█████████████████████████████████▍                                                                                 | 91/313 [08:18<20:04,  5.43s/it]
 29%|█████████████████████████████████▊                                                                                 | 92/313 [08:24<19:57,  5.42s/it]
                                                                                                                                                         
{'loss': 1.5472, 'grad_norm': 3.9440786838531494, 'learning_rate': 7.207792207792208e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 56.77, 'epoch': 0.29}

 29%|█████████████████████████████████▊                                                                                 | 92/313 [08:24<19:57,  5.42s/it]
 30%|██████████████████████████████████▏                                                                                | 93/313 [08:29<20:11,  5.51s/it]
                                                                                                                                                         
{'loss': 1.6479, 'grad_norm': 4.570082187652588, 'learning_rate': 7.175324675324677e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 49.69, 'epoch': 0.3}

 30%|██████████████████████████████████▏                                                                                | 93/313 [08:29<20:11,  5.51s/it]
 30%|██████████████████████████████████▌                                                                                | 94/313 [08:35<19:58,  5.47s/it]
                                                                                                                                                         
{'loss': 1.7453, 'grad_norm': 4.074386119842529, 'learning_rate': 7.1428571428571436e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 59.82, 'epoch': 0.3}

 30%|██████████████████████████████████▌                                                                                | 94/313 [08:35<19:58,  5.47s/it]
 30%|██████████████████████████████████▉                                                                                | 95/313 [08:40<19:45,  5.44s/it]
                                                                                                                                                         
{'loss': 1.5007, 'grad_norm': 3.9776406288146973, 'learning_rate': 7.1103896103896105e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 54.37, 'epoch': 0.3}

 30%|██████████████████████████████████▉                                                                                | 95/313 [08:40<19:45,  5.44s/it]
 31%|███████████████████████████████████▎                                                                               | 96/313 [08:46<19:59,  5.53s/it]
                                                                                                                                                         
{'loss': 1.5668, 'grad_norm': 4.532605171203613, 'learning_rate': 7.077922077922078e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 50.98, 'epoch': 0.31}

 31%|███████████████████████████████████▎                                                                               | 96/313 [08:46<19:59,  5.53s/it]
 31%|███████████████████████████████████▋                                                                               | 97/313 [08:51<19:32,  5.43s/it]
                                                                                                                                                         
{'loss': 1.4497, 'grad_norm': 3.8927834033966064, 'learning_rate': 7.045454545454546e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.54, 'tokens_per_second_per_gpu': 65.68, 'epoch': 0.31}

 31%|███████████████████████████████████▋                                                                               | 97/313 [08:51<19:32,  5.43s/it]
 31%|████████████████████████████████████                                                                               | 98/313 [08:56<19:26,  5.42s/it]
                                                                                                                                                         
{'loss': 1.4733, 'grad_norm': 4.168776035308838, 'learning_rate': 7.012987012987014e-06, 'memory/max_active (GiB)': 64.41, 'memory/max_allocated (GiB)': 64.41, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.92, 'epoch': 0.31}

 31%|████████████████████████████████████                                                                               | 98/313 [08:56<19:26,  5.42s/it]
 32%|████████████████████████████████████▎                                                                              | 99/313 [09:02<19:20,  5.42s/it]
                                                                                                                                                         
{'loss': 1.5465, 'grad_norm': 4.09145975112915, 'learning_rate': 6.980519480519481e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.13, 'epoch': 0.32}

 32%|████████████████████████████████████▎                                                                              | 99/313 [09:02<19:20,  5.42s/it]
 32%|████████████████████████████████████▍                                                                             | 100/313 [09:08<19:40,  5.54s/it]
                                                                                                                                                         
{'loss': 1.5322, 'grad_norm': 3.7969353199005127, 'learning_rate': 6.948051948051948e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.96, 'epoch': 0.32}

 32%|████████████████████████████████████▍                                                                             | 100/313 [09:08<19:40,  5.54s/it]
 32%|████████████████████████████████████▊                                                                             | 101/313 [09:13<19:27,  5.51s/it]
                                                                                                                                                         
{'loss': 1.4963, 'grad_norm': 4.1137614250183105, 'learning_rate': 6.9155844155844165e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.76, 'epoch': 0.32}

 32%|████████████████████████████████████▊                                                                             | 101/313 [09:13<19:27,  5.51s/it]
 33%|█████████████████████████████████████▏                                                                            | 102/313 [09:18<19:11,  5.46s/it]
                                                                                                                                                         
{'loss': 1.4375, 'grad_norm': 3.910335063934326, 'learning_rate': 6.8831168831168835e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.45, 'epoch': 0.33}

 33%|█████████████████████████████████████▏                                                                            | 102/313 [09:18<19:11,  5.46s/it]
 33%|█████████████████████████████████████▌                                                                            | 103/313 [09:24<19:28,  5.57s/it]
                                                                                                                                                         
{'loss': 1.4146, 'grad_norm': 4.381139278411865, 'learning_rate': 6.850649350649351e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 52.8, 'epoch': 0.33}

 33%|█████████████████████████████████████▌                                                                            | 103/313 [09:24<19:28,  5.57s/it]
 33%|█████████████████████████████████████▉                                                                            | 104/313 [09:30<19:16,  5.53s/it]
                                                                                                                                                         
{'loss': 1.4946, 'grad_norm': 4.414299488067627, 'learning_rate': 6.818181818181818e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.38, 'epoch': 0.33}

 33%|█████████████████████████████████████▉                                                                            | 104/313 [09:30<19:16,  5.53s/it]
 34%|██████████████████████████████████████▏                                                                           | 105/313 [09:35<19:04,  5.50s/it]
                                                                                                                                                         
{'loss': 1.5576, 'grad_norm': 4.120792388916016, 'learning_rate': 6.785714285714287e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.2, 'epoch': 0.34}

 34%|██████████████████████████████████████▏                                                                           | 105/313 [09:35<19:04,  5.50s/it]
 34%|██████████████████████████████████████▌                                                                           | 106/313 [09:41<19:17,  5.59s/it]
                                                                                                                                                         
{'loss': 1.3867, 'grad_norm': 3.8836305141448975, 'learning_rate': 6.753246753246754e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.0, 'epoch': 0.34}

 34%|██████████████████████████████████████▌                                                                           | 106/313 [09:41<19:17,  5.59s/it]
 34%|██████████████████████████████████████▉                                                                           | 107/313 [09:46<19:01,  5.54s/it]
                                                                                                                                                         
{'loss': 1.4783, 'grad_norm': 4.457989692687988, 'learning_rate': 6.720779220779221e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.42, 'epoch': 0.34}

 34%|██████████████████████████████████████▉                                                                           | 107/313 [09:46<19:01,  5.54s/it]
 35%|███████████████████████████████████████▎                                                                          | 108/313 [09:52<18:46,  5.49s/it]
                                                                                                                                                         
{'loss': 1.5552, 'grad_norm': 4.2241740226745605, 'learning_rate': 6.688311688311689e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.31, 'epoch': 0.35}

 35%|███████████████████████████████████████▎                                                                          | 108/313 [09:52<18:46,  5.49s/it]
 35%|███████████████████████████████████████▋                                                                          | 109/313 [09:57<18:52,  5.55s/it]
                                                                                                                                                         
{'loss': 1.5445, 'grad_norm': 4.440101623535156, 'learning_rate': 6.6558441558441565e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.83, 'epoch': 0.35}

 35%|███████████████████████████████████████▋                                                                          | 109/313 [09:57<18:52,  5.55s/it]
 35%|████████████████████████████████████████                                                                          | 110/313 [10:03<18:31,  5.48s/it]
                                                                                                                                                         
{'loss': 1.4057, 'grad_norm': 4.163972854614258, 'learning_rate': 6.623376623376624e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.95, 'epoch': 0.35}

 35%|████████████████████████████████████████                                                                          | 110/313 [10:03<18:31,  5.48s/it]
 35%|████████████████████████████████████████▍                                                                         | 111/313 [10:08<18:19,  5.44s/it]
                                                                                                                                                         
{'loss': 1.5501, 'grad_norm': 4.063898086547852, 'learning_rate': 6.590909090909091e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.36, 'epoch': 0.36}

 35%|████████████████████████████████████████▍                                                                         | 111/313 [10:08<18:19,  5.44s/it]
 36%|████████████████████████████████████████▊                                                                         | 112/313 [10:13<18:09,  5.42s/it]
                                                                                                                                                         
{'loss': 1.4339, 'grad_norm': 3.7889206409454346, 'learning_rate': 6.55844155844156e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.0, 'epoch': 0.36}

 36%|████████████████████████████████████████▊                                                                         | 112/313 [10:13<18:09,  5.42s/it]
 36%|█████████████████████████████████████████▏                                                                        | 113/313 [10:19<18:23,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3859, 'grad_norm': 4.240407466888428, 'learning_rate': 6.525974025974027e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 50.8, 'epoch': 0.36}

 36%|█████████████████████████████████████████▏                                                                        | 113/313 [10:19<18:23,  5.52s/it]
 36%|█████████████████████████████████████████▌                                                                        | 114/313 [10:24<18:08,  5.47s/it]
                                                                                                                                                         
{'loss': 1.3981, 'grad_norm': 3.9067084789276123, 'learning_rate': 6.493506493506494e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.65, 'epoch': 0.36}

 36%|█████████████████████████████████████████▌                                                                        | 114/313 [10:24<18:08,  5.47s/it]
 37%|█████████████████████████████████████████▉                                                                        | 115/313 [10:30<17:58,  5.45s/it]
                                                                                                                                                         
{'loss': 1.5017, 'grad_norm': 4.3304243087768555, 'learning_rate': 6.461038961038961e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.85, 'epoch': 0.37}

 37%|█████████████████████████████████████████▉                                                                        | 115/313 [10:30<17:58,  5.45s/it]
 37%|██████████████████████████████████████████▏                                                                       | 116/313 [10:36<18:11,  5.54s/it]
                                                                                                                                                         
{'loss': 1.5933, 'grad_norm': 4.133828163146973, 'learning_rate': 6.4285714285714295e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.52, 'epoch': 0.37}

 37%|██████████████████████████████████████████▏                                                                       | 116/313 [10:36<18:11,  5.54s/it]
 37%|██████████████████████████████████████████▌                                                                       | 117/313 [10:41<17:55,  5.49s/it]
                                                                                                                                                         
{'loss': 1.5916, 'grad_norm': 4.407046318054199, 'learning_rate': 6.3961038961038964e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.8, 'epoch': 0.37}

 37%|██████████████████████████████████████████▌                                                                       | 117/313 [10:41<17:55,  5.49s/it]
 38%|██████████████████████████████████████████▉                                                                       | 118/313 [10:46<17:49,  5.48s/it]
                                                                                                                                                         
{'loss': 1.3341, 'grad_norm': 4.255081653594971, 'learning_rate': 6.363636363636364e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.04, 'epoch': 0.38}

 38%|██████████████████████████████████████████▉                                                                       | 118/313 [10:46<17:49,  5.48s/it]
 38%|███████████████████████████████████████████▎                                                                      | 119/313 [10:52<17:59,  5.57s/it]
                                                                                                                                                         
{'loss': 1.3732, 'grad_norm': 3.9507858753204346, 'learning_rate': 6.331168831168831e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.33, 'epoch': 0.38}

 38%|███████████████████████████████████████████▎                                                                      | 119/313 [10:52<17:59,  5.57s/it]
 38%|███████████████████████████████████████████▋                                                                      | 120/313 [10:58<17:38,  5.48s/it]
                                                                                                                                                         
{'loss': 1.4555, 'grad_norm': 4.032444953918457, 'learning_rate': 6.2987012987013e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.3, 'epoch': 0.38}

 38%|███████████████████████████████████████████▋                                                                      | 120/313 [10:58<17:38,  5.48s/it]
 39%|████████████████████████████████████████████                                                                      | 121/313 [11:03<17:26,  5.45s/it]
                                                                                                                                                         
{'loss': 1.3225, 'grad_norm': 4.67534065246582, 'learning_rate': 6.266233766233767e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.08, 'epoch': 0.39}

 39%|████████████████████████████████████████████                                                                      | 121/313 [11:03<17:26,  5.45s/it]
 39%|████████████████████████████████████████████▍                                                                     | 122/313 [11:09<17:35,  5.53s/it]
                                                                                                                                                         
{'loss': 1.4044, 'grad_norm': 4.531117916107178, 'learning_rate': 6.233766233766234e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.69, 'epoch': 0.39}

 39%|████████████████████████████████████████████▍                                                                     | 122/313 [11:09<17:35,  5.53s/it]
 39%|████████████████████████████████████████████▊                                                                     | 123/313 [11:14<17:21,  5.48s/it]
                                                                                                                                                         
{'loss': 1.515, 'grad_norm': 3.9005119800567627, 'learning_rate': 6.201298701298702e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.98, 'epoch': 0.39}

 39%|████████████████████████████████████████████▊                                                                     | 123/313 [11:14<17:21,  5.48s/it]
 40%|█████████████████████████████████████████████▏                                                                    | 124/313 [11:19<17:09,  5.45s/it]
                                                                                                                                                         
{'loss': 1.6142, 'grad_norm': 4.457191467285156, 'learning_rate': 6.168831168831169e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.09, 'epoch': 0.4}

 40%|█████████████████████████████████████████████▏                                                                    | 124/313 [11:19<17:09,  5.45s/it]
 40%|█████████████████████████████████████████████▌                                                                    | 125/313 [11:25<16:57,  5.41s/it]
                                                                                                                                                         
{'loss': 1.6908, 'grad_norm': 4.1881422996521, 'learning_rate': 6.136363636363637e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 67.34, 'epoch': 0.4}

 40%|█████████████████████████████████████████████▌                                                                    | 125/313 [11:25<16:57,  5.41s/it]
 40%|█████████████████████████████████████████████▉                                                                    | 126/313 [11:30<17:12,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3623, 'grad_norm': 4.286258697509766, 'learning_rate': 6.103896103896104e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.07, 'epoch': 0.4}

 40%|█████████████████████████████████████████████▉                                                                    | 126/313 [11:30<17:12,  5.52s/it]
 41%|██████████████████████████████████████████████▎                                                                   | 127/313 [11:36<17:01,  5.49s/it]
                                                                                                                                                         
{'loss': 1.5132, 'grad_norm': 4.407970905303955, 'learning_rate': 6.071428571428571e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.27, 'epoch': 0.41}

 41%|██████████████████████████████████████████████▎                                                                   | 127/313 [11:36<17:01,  5.49s/it]
 41%|██████████████████████████████████████████████▌                                                                   | 128/313 [11:41<16:47,  5.45s/it]
                                                                                                                                                         
{'loss': 1.2495, 'grad_norm': 4.333709716796875, 'learning_rate': 6.03896103896104e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.73, 'epoch': 0.41}

 41%|██████████████████████████████████████████████▌                                                                   | 128/313 [11:41<16:47,  5.45s/it]
 41%|██████████████████████████████████████████████▉                                                                   | 129/313 [11:47<17:01,  5.55s/it]
                                                                                                                                                         
{'loss': 1.4567, 'grad_norm': 4.056325435638428, 'learning_rate': 6.006493506493507e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.92, 'epoch': 0.41}

 41%|██████████████████████████████████████████████▉                                                                   | 129/313 [11:47<17:01,  5.55s/it]
 42%|███████████████████████████████████████████████▎                                                                  | 130/313 [11:52<16:43,  5.48s/it]
                                                                                                                                                         
{'loss': 1.1674, 'grad_norm': 3.9412007331848145, 'learning_rate': 5.9740259740259746e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.67, 'epoch': 0.42}

 42%|███████████████████████████████████████████████▎                                                                  | 130/313 [11:52<16:43,  5.48s/it]
 42%|███████████████████████████████████████████████▋                                                                  | 131/313 [11:58<16:33,  5.46s/it]
                                                                                                                                                         
{'loss': 1.4506, 'grad_norm': 4.7498884201049805, 'learning_rate': 5.9415584415584415e-06, 'memory/max_active (GiB)': 64.32, 'memory/max_allocated (GiB)': 64.32, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 50.17, 'epoch': 0.42}

 42%|███████████████████████████████████████████████▋                                                                  | 131/313 [11:58<16:33,  5.46s/it]
 42%|████████████████████████████████████████████████                                                                  | 132/313 [12:04<16:47,  5.57s/it]
                                                                                                                                                         
{'loss': 1.4868, 'grad_norm': 4.151579856872559, 'learning_rate': 5.90909090909091e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.45, 'epoch': 0.42}

 42%|████████████████████████████████████████████████                                                                  | 132/313 [12:04<16:47,  5.57s/it]
 42%|████████████████████████████████████████████████▍                                                                 | 133/313 [12:09<16:29,  5.50s/it]
                                                                                                                                                         
{'loss': 1.4368, 'grad_norm': 4.456437587738037, 'learning_rate': 5.876623376623377e-06, 'memory/max_active (GiB)': 64.4, 'memory/max_allocated (GiB)': 64.4, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 64.36, 'epoch': 0.43}

 42%|████████████████████████████████████████████████▍                                                                 | 133/313 [12:09<16:29,  5.50s/it]
 43%|████████████████████████████████████████████████▊                                                                 | 134/313 [12:14<16:16,  5.45s/it]
                                                                                                                                                         
{'loss': 1.3982, 'grad_norm': 3.864990234375, 'learning_rate': 5.844155844155844e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 66.67, 'epoch': 0.43}

 43%|████████████████████████████████████████████████▊                                                                 | 134/313 [12:14<16:16,  5.45s/it]
 43%|█████████████████████████████████████████████████▏                                                                | 135/313 [12:20<16:04,  5.42s/it]
                                                                                                                                                         
{'loss': 1.3431, 'grad_norm': 4.156704425811768, 'learning_rate': 5.811688311688313e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.4, 'epoch': 0.43}

 43%|█████████████████████████████████████████████████▏                                                                | 135/313 [12:20<16:04,  5.42s/it]
 43%|█████████████████████████████████████████████████▌                                                                | 136/313 [12:25<16:19,  5.54s/it]
                                                                                                                                                         
{'loss': 1.4078, 'grad_norm': 4.240393161773682, 'learning_rate': 5.77922077922078e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.68, 'epoch': 0.44}

 43%|█████████████████████████████████████████████████▌                                                                | 136/313 [12:25<16:19,  5.54s/it]
 44%|█████████████████████████████████████████████████▉                                                                | 137/313 [12:31<16:00,  5.46s/it]
                                                                                                                                                         
{'loss': 1.3935, 'grad_norm': 4.157709121704102, 'learning_rate': 5.7467532467532475e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.04, 'epoch': 0.44}

 44%|█████████████████████████████████████████████████▉                                                                | 137/313 [12:31<16:00,  5.46s/it]
 44%|██████████████████████████████████████████████████▎                                                               | 138/313 [12:36<15:51,  5.44s/it]
                                                                                                                                                         
{'loss': 1.4189, 'grad_norm': 4.458368301391602, 'learning_rate': 5.7142857142857145e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.53, 'epoch': 0.44}

 44%|██████████████████████████████████████████████████▎                                                               | 138/313 [12:36<15:51,  5.44s/it]
 44%|██████████████████████████████████████████████████▋                                                               | 139/313 [12:42<16:01,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3893, 'grad_norm': 4.306211948394775, 'learning_rate': 5.681818181818183e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.39, 'epoch': 0.44}

 44%|██████████████████████████████████████████████████▋                                                               | 139/313 [12:42<16:01,  5.52s/it]
 45%|██████████████████████████████████████████████████▉                                                               | 140/313 [12:47<15:45,  5.47s/it]
                                                                                                                                                         
{'loss': 1.4063, 'grad_norm': 4.664182662963867, 'learning_rate': 5.64935064935065e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.17, 'epoch': 0.45}

 45%|██████████████████████████████████████████████████▉                                                               | 140/313 [12:47<15:45,  5.47s/it]
 45%|███████████████████████████████████████████████████▎                                                              | 141/313 [12:53<15:37,  5.45s/it]
                                                                                                                                                         
{'loss': 1.4518, 'grad_norm': 4.622498989105225, 'learning_rate': 5.616883116883117e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.73, 'epoch': 0.45}

 45%|███████████████████████████████████████████████████▎                                                              | 141/313 [12:53<15:37,  5.45s/it]
 45%|███████████████████████████████████████████████████▋                                                              | 142/313 [12:58<15:26,  5.42s/it]
                                                                                                                                                         
{'loss': 1.4509, 'grad_norm': 4.92791748046875, 'learning_rate': 5.584415584415585e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.89, 'epoch': 0.45}

 45%|███████████████████████████████████████████████████▋                                                              | 142/313 [12:58<15:26,  5.42s/it]
 46%|████████████████████████████████████████████████████                                                              | 143/313 [13:04<15:32,  5.49s/it]
                                                                                                                                                         
{'loss': 1.4649, 'grad_norm': 4.239864826202393, 'learning_rate': 5.551948051948053e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.14, 'epoch': 0.46}

 46%|████████████████████████████████████████████████████                                                              | 143/313 [13:04<15:32,  5.49s/it]
 46%|████████████████████████████████████████████████████▍                                                             | 144/313 [13:09<15:22,  5.46s/it]
                                                                                                                                                         
{'loss': 1.5427, 'grad_norm': 4.1896162033081055, 'learning_rate': 5.5194805194805205e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.29, 'epoch': 0.46}

 46%|████████████████████████████████████████████████████▍                                                             | 144/313 [13:09<15:22,  5.46s/it]
 46%|████████████████████████████████████████████████████▊                                                             | 145/313 [13:14<15:10,  5.42s/it]
                                                                                                                                                         
{'loss': 1.2949, 'grad_norm': 3.9195713996887207, 'learning_rate': 5.4870129870129875e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 63.76, 'epoch': 0.46}

 46%|████████████████████████████████████████████████████▊                                                             | 145/313 [13:14<15:10,  5.42s/it]
 47%|█████████████████████████████████████████████████████▏                                                            | 146/313 [13:20<15:20,  5.51s/it]
                                                                                                                                                         
{'loss': 1.5193, 'grad_norm': 4.379929065704346, 'learning_rate': 5.4545454545454545e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.87, 'epoch': 0.47}

 47%|█████████████████████████████████████████████████████▏                                                            | 146/313 [13:20<15:20,  5.51s/it]
 47%|█████████████████████████████████████████████████████▌                                                            | 147/313 [13:25<15:08,  5.47s/it]
                                                                                                                                                         
{'loss': 1.3808, 'grad_norm': 4.370405197143555, 'learning_rate': 5.422077922077923e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.85, 'epoch': 0.47}

 47%|█████████████████████████████████████████████████████▌                                                            | 147/313 [13:25<15:08,  5.47s/it]
 47%|█████████████████████████████████████████████████████▉                                                            | 148/313 [13:31<15:01,  5.46s/it]
                                                                                                                                                         
{'loss': 1.4323, 'grad_norm': 4.358006477355957, 'learning_rate': 5.38961038961039e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.05, 'epoch': 0.47}

 47%|█████████████████████████████████████████████████████▉                                                            | 148/313 [13:31<15:01,  5.46s/it]
 48%|██████████████████████████████████████████████████████▎                                                           | 149/313 [13:37<15:09,  5.55s/it]
                                                                                                                                                         
{'loss': 1.2582, 'grad_norm': 4.4597625732421875, 'learning_rate': 5.357142857142857e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 49.82, 'epoch': 0.48}

 48%|██████████████████████████████████████████████████████▎                                                           | 149/313 [13:37<15:09,  5.55s/it]
 48%|██████████████████████████████████████████████████████▋                                                           | 150/313 [13:42<14:57,  5.51s/it]
                                                                                                                                                         
{'loss': 1.4895, 'grad_norm': 4.270912170410156, 'learning_rate': 5.324675324675325e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.57, 'epoch': 0.48}

 48%|██████████████████████████████████████████████████████▋                                                           | 150/313 [13:42<14:57,  5.51s/it]
 48%|██████████████████████████████████████████████████████▉                                                           | 151/313 [13:47<14:47,  5.48s/it]
                                                                                                                                                         
{'loss': 1.3919, 'grad_norm': 4.405599117279053, 'learning_rate': 5.292207792207793e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.71, 'epoch': 0.48}

 48%|██████████████████████████████████████████████████████▉                                                           | 151/313 [13:47<14:47,  5.48s/it]
 49%|███████████████████████████████████████████████████████▎                                                          | 152/313 [13:53<14:33,  5.43s/it]
                                                                                                                                                         
{'loss': 1.2335, 'grad_norm': 3.9284000396728516, 'learning_rate': 5.2597402597402605e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.87, 'epoch': 0.49}

 49%|███████████████████████████████████████████████████████▎                                                          | 152/313 [13:53<14:33,  5.43s/it]
 49%|███████████████████████████████████████████████████████▋                                                          | 153/313 [13:58<14:44,  5.53s/it]
                                                                                                                                                         
{'loss': 1.406, 'grad_norm': 4.441153049468994, 'learning_rate': 5.2272727272727274e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.33, 'epoch': 0.49}

 49%|███████████████████████████████████████████████████████▋                                                          | 153/313 [13:58<14:44,  5.53s/it]
 49%|████████████████████████████████████████████████████████                                                          | 154/313 [14:04<14:32,  5.49s/it]
                                                                                                                                                         
{'loss': 1.2764, 'grad_norm': 4.6530632972717285, 'learning_rate': 5.194805194805194e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.03, 'epoch': 0.49}

 49%|████████████████████████████████████████████████████████                                                          | 154/313 [14:04<14:32,  5.49s/it]
 50%|████████████████████████████████████████████████████████▍                                                         | 155/313 [14:09<14:21,  5.45s/it]
                                                                                                                                                         
{'loss': 1.4163, 'grad_norm': 4.465178966522217, 'learning_rate': 5.162337662337663e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.53, 'epoch': 0.5}

 50%|████████████████████████████████████████████████████████▍                                                         | 155/313 [14:09<14:21,  5.45s/it]
 50%|████████████████████████████████████████████████████████▊                                                         | 156/313 [14:15<14:30,  5.55s/it]
                                                                                                                                                         
{'loss': 1.3485, 'grad_norm': 3.8321104049682617, 'learning_rate': 5.12987012987013e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.75, 'epoch': 0.5}

 50%|████████████████████████████████████████████████████████▊                                                         | 156/313 [14:15<14:30,  5.55s/it]
 50%|█████████████████████████████████████████████████████████▏                                                        | 157/313 [14:20<14:17,  5.50s/it]
                                                                                                                                                         
{'loss': 1.3466, 'grad_norm': 4.672161102294922, 'learning_rate': 5.097402597402598e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.78, 'epoch': 0.5}

 50%|█████████████████████████████████████████████████████████▏                                                        | 157/313 [14:20<14:17,  5.50s/it]
 50%|█████████████████████████████████████████████████████████▌                                                        | 158/313 [14:26<14:05,  5.46s/it]
                                                                                                                                                         
{'loss': 1.2604, 'grad_norm': 4.240756034851074, 'learning_rate': 5.064935064935065e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.8, 'epoch': 0.51}

 50%|█████████████████████████████████████████████████████████▌                                                        | 158/313 [14:26<14:05,  5.46s/it]
 51%|█████████████████████████████████████████████████████████▉                                                        | 159/313 [14:31<14:11,  5.53s/it]
                                                                                                                                                         
{'loss': 1.3329, 'grad_norm': 4.136419296264648, 'learning_rate': 5.0324675324675334e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.23, 'epoch': 0.51}

 51%|█████████████████████████████████████████████████████████▉                                                        | 159/313 [14:31<14:11,  5.53s/it]
 51%|██████████████████████████████████████████████████████████▎                                                       | 160/313 [14:37<13:58,  5.48s/it]
                                                                                                                                                         
{'loss': 1.3914, 'grad_norm': 4.081819534301758, 'learning_rate': 5e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.8, 'epoch': 0.51}

 51%|██████████████████████████████████████████████████████████▎                                                       | 160/313 [14:37<13:58,  5.48s/it]
 51%|██████████████████████████████████████████████████████████▋                                                       | 161/313 [14:42<13:49,  5.46s/it]
                                                                                                                                                         
{'loss': 1.3283, 'grad_norm': 4.008954048156738, 'learning_rate': 4.967532467532468e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.15, 'epoch': 0.52}

 51%|██████████████████████████████████████████████████████████▋                                                       | 161/313 [14:42<13:49,  5.46s/it]
 52%|███████████████████████████████████████████████████████████                                                       | 162/313 [14:48<13:58,  5.55s/it]
                                                                                                                                                         
{'loss': 1.4571, 'grad_norm': 4.810642242431641, 'learning_rate': 4.935064935064935e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.31, 'epoch': 0.52}

 52%|███████████████████████████████████████████████████████████                                                       | 162/313 [14:48<13:58,  5.55s/it]
 52%|███████████████████████████████████████████████████████████▎                                                      | 163/313 [14:53<13:48,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3796, 'grad_norm': 4.747844219207764, 'learning_rate': 4.902597402597403e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.11, 'epoch': 0.52}

 52%|███████████████████████████████████████████████████████████▎                                                      | 163/313 [14:53<13:48,  5.52s/it]
 52%|███████████████████████████████████████████████████████████▋                                                      | 164/313 [14:59<13:42,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3692, 'grad_norm': 4.825137615203857, 'learning_rate': 4.870129870129871e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.17, 'epoch': 0.52}

 52%|███████████████████████████████████████████████████████████▋                                                      | 164/313 [14:59<13:42,  5.52s/it]
 53%|████████████████████████████████████████████████████████████                                                      | 165/313 [15:04<13:31,  5.48s/it]
                                                                                                                                                         
{'loss': 1.4205, 'grad_norm': 4.5664544105529785, 'learning_rate': 4.837662337662339e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.81, 'epoch': 0.53}

 53%|████████████████████████████████████████████████████████████                                                      | 165/313 [15:04<13:31,  5.48s/it]
 53%|████████████████████████████████████████████████████████████▍                                                     | 166/313 [15:10<13:47,  5.63s/it]
                                                                                                                                                         
{'loss': 1.4817, 'grad_norm': 4.778721332550049, 'learning_rate': 4.805194805194806e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 52.58, 'epoch': 0.53}

 53%|████████████████████████████████████████████████████████████▍                                                     | 166/313 [15:10<13:47,  5.63s/it]
 53%|████████████████████████████████████████████████████████████▊                                                     | 167/313 [15:16<13:30,  5.55s/it]
                                                                                                                                                         
{'loss': 1.224, 'grad_norm': 5.3482184410095215, 'learning_rate': 4.772727272727273e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 49.07, 'epoch': 0.53}

 53%|████████████████████████████████████████████████████████████▊                                                     | 167/313 [15:16<13:30,  5.55s/it]
 54%|█████████████████████████████████████████████████████████████▏                                                    | 168/313 [15:21<13:19,  5.52s/it]
                                                                                                                                                         
{'loss': 1.4374, 'grad_norm': 4.4744791984558105, 'learning_rate': 4.74025974025974e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.06, 'epoch': 0.54}

 54%|█████████████████████████████████████████████████████████████▏                                                    | 168/313 [15:21<13:19,  5.52s/it]
 54%|█████████████████████████████████████████████████████████████▌                                                    | 169/313 [15:27<13:26,  5.60s/it]
                                                                                                                                                         
{'loss': 1.4363, 'grad_norm': 4.391422748565674, 'learning_rate': 4.707792207792208e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 51.19, 'epoch': 0.54}

 54%|█████████████████████████████████████████████████████████████▌                                                    | 169/313 [15:27<13:26,  5.60s/it]
 54%|█████████████████████████████████████████████████████████████▉                                                    | 170/313 [15:32<13:14,  5.55s/it]
                                                                                                                                                         
{'loss': 1.3655, 'grad_norm': 4.369591236114502, 'learning_rate': 4.675324675324676e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.73, 'epoch': 0.54}

 54%|█████████████████████████████████████████████████████████████▉                                                    | 170/313 [15:32<13:14,  5.55s/it]
 55%|██████████████████████████████████████████████████████████████▎                                                   | 171/313 [15:38<13:00,  5.50s/it]
                                                                                                                                                         
{'loss': 1.4794, 'grad_norm': 4.524446964263916, 'learning_rate': 4.642857142857144e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.9, 'epoch': 0.55}

 55%|██████████████████████████████████████████████████████████████▎                                                   | 171/313 [15:38<13:00,  5.50s/it]
 55%|██████████████████████████████████████████████████████████████▋                                                   | 172/313 [15:44<13:13,  5.63s/it]
                                                                                                                                                         
{'loss': 1.4541, 'grad_norm': 4.6315178871154785, 'learning_rate': 4.610389610389611e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.15, 'epoch': 0.55}

 55%|██████████████████████████████████████████████████████████████▋                                                   | 172/313 [15:44<13:13,  5.63s/it]
 55%|███████████████████████████████████████████████████████████████                                                   | 173/313 [15:49<12:59,  5.57s/it]
                                                                                                                                                         
{'loss': 1.3299, 'grad_norm': 4.297317981719971, 'learning_rate': 4.5779220779220786e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.57, 'epoch': 0.55}

 55%|███████████████████████████████████████████████████████████████                                                   | 173/313 [15:49<12:59,  5.57s/it]
 56%|███████████████████████████████████████████████████████████████▎                                                  | 174/313 [15:55<12:50,  5.54s/it]
                                                                                                                                                         
{'loss': 1.3825, 'grad_norm': 4.60826301574707, 'learning_rate': 4.5454545454545455e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.08, 'epoch': 0.56}

 56%|███████████████████████████████████████████████████████████████▎                                                  | 174/313 [15:55<12:50,  5.54s/it]
 56%|███████████████████████████████████████████████████████████████▋                                                  | 175/313 [16:00<12:41,  5.52s/it]
                                                                                                                                                         
{'loss': 1.4807, 'grad_norm': 5.294802188873291, 'learning_rate': 4.512987012987013e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.68, 'epoch': 0.56}

 56%|███████████████████████████████████████████████████████████████▋                                                  | 175/313 [16:00<12:41,  5.52s/it]
 56%|████████████████████████████████████████████████████████████████                                                  | 176/313 [16:06<12:46,  5.59s/it]
                                                                                                                                                         
{'loss': 1.375, 'grad_norm': 4.316608428955078, 'learning_rate': 4.48051948051948e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.28, 'epoch': 0.56}

 56%|████████████████████████████████████████████████████████████████                                                  | 176/313 [16:06<12:46,  5.59s/it]
 57%|████████████████████████████████████████████████████████████████▍                                                 | 177/313 [16:11<12:23,  5.47s/it]
                                                                                                                                                         
{'loss': 1.392, 'grad_norm': 4.309865474700928, 'learning_rate': 4.448051948051948e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.45, 'epoch': 0.57}

 57%|████████████████████████████████████████████████████████████████▍                                                 | 177/313 [16:11<12:23,  5.47s/it]
 57%|████████████████████████████████████████████████████████████████▊                                                 | 178/313 [16:16<12:11,  5.42s/it]
                                                                                                                                                         
{'loss': 1.5387, 'grad_norm': 4.728494644165039, 'learning_rate': 4.415584415584416e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.63, 'epoch': 0.57}

 57%|████████████████████████████████████████████████████████████████▊                                                 | 178/313 [16:16<12:11,  5.42s/it]
 57%|█████████████████████████████████████████████████████████████████▏                                                | 179/313 [16:22<12:17,  5.50s/it]
                                                                                                                                                         
{'loss': 1.3715, 'grad_norm': 4.275172710418701, 'learning_rate': 4.383116883116884e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.51, 'epoch': 0.57}

 57%|█████████████████████████████████████████████████████████████████▏                                                | 179/313 [16:22<12:17,  5.50s/it]
 58%|█████████████████████████████████████████████████████████████████▌                                                | 180/313 [16:27<12:01,  5.43s/it]
                                                                                                                                                         
{'loss': 1.2685, 'grad_norm': 4.380646228790283, 'learning_rate': 4.350649350649351e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.54, 'epoch': 0.58}

 58%|█████████████████████████████████████████████████████████████████▌                                                | 180/313 [16:27<12:01,  5.43s/it]
 58%|█████████████████████████████████████████████████████████████████▉                                                | 181/313 [16:32<11:51,  5.39s/it]
                                                                                                                                                         
{'loss': 1.2639, 'grad_norm': 4.796786785125732, 'learning_rate': 4.3181818181818185e-06, 'memory/max_active (GiB)': 64.32, 'memory/max_allocated (GiB)': 64.32, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 51.95, 'epoch': 0.58}

 58%|█████████████████████████████████████████████████████████████████▉                                                | 181/313 [16:32<11:51,  5.39s/it]
 58%|██████████████████████████████████████████████████████████████████▎                                               | 182/313 [16:38<11:57,  5.48s/it]
                                                                                                                                                         
{'loss': 1.3337, 'grad_norm': 4.408915996551514, 'learning_rate': 4.2857142857142855e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.85, 'epoch': 0.58}

 58%|██████████████████████████████████████████████████████████████████▎                                               | 182/313 [16:38<11:57,  5.48s/it]
 58%|██████████████████████████████████████████████████████████████████▋                                               | 183/313 [16:44<11:46,  5.44s/it]
                                                                                                                                                         
{'loss': 1.5421, 'grad_norm': 4.883294105529785, 'learning_rate': 4.253246753246753e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.16, 'epoch': 0.59}

 58%|██████████████████████████████████████████████████████████████████▋                                               | 183/313 [16:44<11:46,  5.44s/it]
 59%|███████████████████████████████████████████████████████████████████                                               | 184/313 [16:49<11:38,  5.41s/it]
                                                                                                                                                         
{'loss': 1.3144, 'grad_norm': 4.547975063323975, 'learning_rate': 4.220779220779221e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.83, 'epoch': 0.59}

 59%|███████████████████████████████████████████████████████████████████                                               | 184/313 [16:49<11:38,  5.41s/it]
 59%|███████████████████████████████████████████████████████████████████▍                                              | 185/313 [16:54<11:31,  5.40s/it]
                                                                                                                                                         
{'loss': 1.2628, 'grad_norm': 4.291812419891357, 'learning_rate': 4.188311688311689e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.08, 'epoch': 0.59}

 59%|███████████████████████████████████████████████████████████████████▍                                              | 185/313 [16:54<11:31,  5.40s/it]
 59%|███████████████████████████████████████████████████████████████████▋                                              | 186/313 [17:00<11:40,  5.52s/it]
                                                                                                                                                         
{'loss': 1.333, 'grad_norm': 4.7218337059021, 'learning_rate': 4.155844155844157e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 52.17, 'epoch': 0.6}

 59%|███████████████████████████████████████████████████████████████████▋                                              | 186/313 [17:00<11:40,  5.52s/it]
 60%|████████████████████████████████████████████████████████████████████                                              | 187/313 [17:05<11:32,  5.49s/it]
                                                                                                                                                         
{'loss': 1.4242, 'grad_norm': 4.546199798583984, 'learning_rate': 4.123376623376624e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.48, 'epoch': 0.6}

 60%|████████████████████████████████████████████████████████████████████                                              | 187/313 [17:05<11:32,  5.49s/it]
 60%|████████████████████████████████████████████████████████████████████▍                                             | 188/313 [17:11<11:24,  5.48s/it]
                                                                                                                                                         
{'loss': 1.5863, 'grad_norm': 4.691166877746582, 'learning_rate': 4.0909090909090915e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.52, 'epoch': 0.6}

 60%|████████████████████████████████████████████████████████████████████▍                                             | 188/313 [17:11<11:24,  5.48s/it]
 60%|████████████████████████████████████████████████████████████████████▊                                             | 189/313 [17:17<11:32,  5.58s/it]
                                                                                                                                                         
{'loss': 1.1966, 'grad_norm': 4.736522197723389, 'learning_rate': 4.0584415584415584e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 51.57, 'epoch': 0.6}

 60%|████████████████████████████████████████████████████████████████████▊                                             | 189/313 [17:17<11:32,  5.58s/it]
 61%|█████████████████████████████████████████████████████████████████████▏                                            | 190/313 [17:22<11:19,  5.52s/it]
                                                                                                                                                         
{'loss': 1.4319, 'grad_norm': 4.221784591674805, 'learning_rate': 4.025974025974026e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.03, 'epoch': 0.61}

 61%|█████████████████████████████████████████████████████████████████████▏                                            | 190/313 [17:22<11:19,  5.52s/it]
 61%|█████████████████████████████████████████████████████████████████████▌                                            | 191/313 [17:28<11:12,  5.51s/it]
                                                                                                                                                         
{'loss': 1.2944, 'grad_norm': 4.3051934242248535, 'learning_rate': 3.993506493506494e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.28, 'epoch': 0.61}

 61%|█████████████████████████████████████████████████████████████████████▌                                            | 191/313 [17:28<11:12,  5.51s/it]
 61%|█████████████████████████████████████████████████████████████████████▉                                            | 192/313 [17:33<11:11,  5.55s/it]
                                                                                                                                                         
{'loss': 1.4349, 'grad_norm': 4.453995227813721, 'learning_rate': 3.961038961038962e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.34, 'epoch': 0.61}

 61%|█████████████████████████████████████████████████████████████████████▉                                            | 192/313 [17:33<11:11,  5.55s/it]
 62%|██████████████████████████████████████████████████████████████████████▎                                           | 193/313 [17:39<10:59,  5.50s/it]
                                                                                                                                                         
{'loss': 1.3888, 'grad_norm': 4.180428504943848, 'learning_rate': 3.928571428571429e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.27, 'epoch': 0.62}

 62%|██████████████████████████████████████████████████████████████████████▎                                           | 193/313 [17:39<10:59,  5.50s/it]
 62%|██████████████████████████████████████████████████████████████████████▋                                           | 194/313 [17:44<10:51,  5.48s/it]
                                                                                                                                                         
{'loss': 1.2947, 'grad_norm': 4.131089687347412, 'learning_rate': 3.896103896103897e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.63, 'epoch': 0.62}

 62%|██████████████████████████████████████████████████████████████████████▋                                           | 194/313 [17:44<10:51,  5.48s/it]
 62%|███████████████████████████████████████████████████████████████████████                                           | 195/313 [17:50<10:58,  5.58s/it]
                                                                                                                                                         
{'loss': 1.2975, 'grad_norm': 4.4212799072265625, 'learning_rate': 3.863636363636364e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 50.08, 'epoch': 0.62}

 62%|███████████████████████████████████████████████████████████████████████                                           | 195/313 [17:50<10:58,  5.58s/it]
 63%|███████████████████████████████████████████████████████████████████████▍                                          | 196/313 [17:55<10:42,  5.49s/it]
                                                                                                                                                         
{'loss': 1.464, 'grad_norm': 4.638474464416504, 'learning_rate': 3.831168831168831e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.59, 'epoch': 0.63}

 63%|███████████████████████████████████████████████████████████████████████▍                                          | 196/313 [17:55<10:42,  5.49s/it]
 63%|███████████████████████████████████████████████████████████████████████▊                                          | 197/313 [18:01<10:34,  5.47s/it]
                                                                                                                                                         
{'loss': 1.4096, 'grad_norm': 4.163939952850342, 'learning_rate': 3.798701298701299e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.94, 'epoch': 0.63}

 63%|███████████████████████████████████████████████████████████████████████▊                                          | 197/313 [18:01<10:34,  5.47s/it]
 63%|████████████████████████████████████████████████████████████████████████                                          | 198/313 [18:06<10:25,  5.44s/it]
                                                                                                                                                         
{'loss': 1.5406, 'grad_norm': 4.16447114944458, 'learning_rate': 3.7662337662337666e-06, 'memory/max_active (GiB)': 64.4, 'memory/max_allocated (GiB)': 64.4, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 63.71, 'epoch': 0.63}

 63%|████████████████████████████████████████████████████████████████████████                                          | 198/313 [18:06<10:25,  5.44s/it]
 64%|████████████████████████████████████████████████████████████████████████▍                                         | 199/313 [18:12<10:31,  5.54s/it]
                                                                                                                                                         
{'loss': 1.3536, 'grad_norm': 4.292269706726074, 'learning_rate': 3.733766233766234e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.53, 'epoch': 0.64}

 64%|████████████████████████████████████████████████████████████████████████▍                                         | 199/313 [18:12<10:31,  5.54s/it]
 64%|████████████████████████████████████████████████████████████████████████▊                                         | 200/313 [18:17<10:21,  5.50s/it]
                                                                                                                                                         
{'loss': 1.3444, 'grad_norm': 4.387996673583984, 'learning_rate': 3.701298701298702e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 63.01, 'epoch': 0.64}

 64%|████████████████████████████████████████████████████████████████████████▊                                         | 200/313 [18:17<10:21,  5.50s/it]
 64%|█████████████████████████████████████████████████████████████████████████▏                                        | 201/313 [18:23<10:14,  5.48s/it]
                                                                                                                                                         
{'loss': 1.5522, 'grad_norm': 4.485817909240723, 'learning_rate': 3.6688311688311688e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.47, 'epoch': 0.64}

 64%|█████████████████████████████████████████████████████████████████████████▏                                        | 201/313 [18:23<10:14,  5.48s/it]
 65%|█████████████████████████████████████████████████████████████████████████▌                                        | 202/313 [18:28<10:16,  5.56s/it]
                                                                                                                                                         
{'loss': 1.2583, 'grad_norm': 4.187450885772705, 'learning_rate': 3.6363636363636366e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.87, 'epoch': 0.65}

 65%|█████████████████████████████████████████████████████████████████████████▌                                        | 202/313 [18:28<10:16,  5.56s/it]
 65%|█████████████████████████████████████████████████████████████████████████▉                                        | 203/313 [18:34<10:07,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3582, 'grad_norm': 4.0993146896362305, 'learning_rate': 3.603896103896104e-06, 'memory/max_active (GiB)': 64.39, 'memory/max_allocated (GiB)': 64.39, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.52, 'epoch': 0.65}

 65%|█████████████████████████████████████████████████████████████████████████▉                                        | 203/313 [18:34<10:07,  5.52s/it]
 65%|██████████████████████████████████████████████████████████████████████████▎                                       | 204/313 [18:39<09:59,  5.50s/it]
                                                                                                                                                         
{'loss': 1.4006, 'grad_norm': 4.918796062469482, 'learning_rate': 3.5714285714285718e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.55, 'epoch': 0.65}

 65%|██████████████████████████████████████████████████████████████████████████▎                                       | 204/313 [18:39<09:59,  5.50s/it]
 65%|██████████████████████████████████████████████████████████████████████████▋                                       | 205/313 [18:45<10:04,  5.60s/it]
                                                                                                                                                         
{'loss': 1.3027, 'grad_norm': 4.573371887207031, 'learning_rate': 3.538961038961039e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.05, 'epoch': 0.66}

 65%|██████████████████████████████████████████████████████████████████████████▋                                       | 205/313 [18:45<10:04,  5.60s/it]
 66%|███████████████████████████████████████████████████████████████████████████                                       | 206/313 [18:50<09:52,  5.54s/it]
                                                                                                                                                         
{'loss': 1.3224, 'grad_norm': 4.692039489746094, 'learning_rate': 3.506493506493507e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.35, 'epoch': 0.66}

 66%|███████████████████████████████████████████████████████████████████████████                                       | 206/313 [18:50<09:52,  5.54s/it]
 66%|███████████████████████████████████████████████████████████████████████████▍                                      | 207/313 [18:56<09:45,  5.52s/it]
                                                                                                                                                         
{'loss': 1.2023, 'grad_norm': 4.303803443908691, 'learning_rate': 3.474025974025974e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.2, 'epoch': 0.66}

 66%|███████████████████████████████████████████████████████████████████████████▍                                      | 207/313 [18:56<09:45,  5.52s/it]
 66%|███████████████████████████████████████████████████████████████████████████▊                                      | 208/313 [19:01<09:35,  5.48s/it]
                                                                                                                                                         
{'loss': 1.3519, 'grad_norm': 4.15615701675415, 'learning_rate': 3.4415584415584418e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.73, 'epoch': 0.67}

 66%|███████████████████████████████████████████████████████████████████████████▊                                      | 208/313 [19:01<09:35,  5.48s/it]
 67%|████████████████████████████████████████████████████████████████████████████                                      | 209/313 [19:07<09:37,  5.56s/it]
                                                                                                                                                         
{'loss': 1.3655, 'grad_norm': 4.592613697052002, 'learning_rate': 3.409090909090909e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 51.12, 'epoch': 0.67}

 67%|████████████████████████████████████████████████████████████████████████████                                      | 209/313 [19:07<09:37,  5.56s/it]
 67%|████████████████████████████████████████████████████████████████████████████▍                                     | 210/313 [19:12<09:29,  5.53s/it]
                                                                                                                                                         
{'loss': 1.2966, 'grad_norm': 4.328871250152588, 'learning_rate': 3.376623376623377e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.89, 'epoch': 0.67}

 67%|████████████████████████████████████████████████████████████████████████████▍                                     | 210/313 [19:12<09:29,  5.53s/it]
 67%|████████████████████████████████████████████████████████████████████████████▊                                     | 211/313 [19:18<09:18,  5.48s/it]
                                                                                                                                                         
{'loss': 1.3513, 'grad_norm': 4.702825546264648, 'learning_rate': 3.3441558441558443e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.73, 'epoch': 0.68}

 67%|████████████████████████████████████████████████████████████████████████████▊                                     | 211/313 [19:18<09:18,  5.48s/it]
 68%|█████████████████████████████████████████████████████████████████████████████▏                                    | 212/313 [19:24<09:21,  5.56s/it]
                                                                                                                                                         
{'loss': 1.2934, 'grad_norm': 4.3993000984191895, 'learning_rate': 3.311688311688312e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.62, 'epoch': 0.68}

 68%|█████████████████████████████████████████████████████████████████████████████▏                                    | 212/313 [19:24<09:21,  5.56s/it]
 68%|█████████████████████████████████████████████████████████████████████████████▌                                    | 213/313 [19:29<09:11,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3308, 'grad_norm': 4.702713489532471, 'learning_rate': 3.27922077922078e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 52.53, 'epoch': 0.68}

 68%|█████████████████████████████████████████████████████████████████████████████▌                                    | 213/313 [19:29<09:11,  5.52s/it]
 68%|█████████████████████████████████████████████████████████████████████████████▉                                    | 214/313 [19:34<09:03,  5.49s/it]
                                                                                                                                                         
{'loss': 1.3528, 'grad_norm': 4.713586330413818, 'learning_rate': 3.246753246753247e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.86, 'epoch': 0.68}

 68%|█████████████████████████████████████████████████████████████████████████████▉                                    | 214/313 [19:34<09:03,  5.49s/it]
 69%|██████████████████████████████████████████████████████████████████████████████▎                                   | 215/313 [19:40<09:07,  5.58s/it]
                                                                                                                                                         
{'loss': 1.2878, 'grad_norm': 5.132214546203613, 'learning_rate': 3.2142857142857147e-06, 'memory/max_active (GiB)': 64.32, 'memory/max_allocated (GiB)': 64.32, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 46.84, 'epoch': 0.69}

 69%|██████████████████████████████████████████████████████████████████████████████▎                                   | 215/313 [19:40<09:07,  5.58s/it]
 69%|██████████████████████████████████████████████████████████████████████████████▋                                   | 216/313 [19:46<08:55,  5.52s/it]
                                                                                                                                                         
{'loss': 1.2794, 'grad_norm': 4.4113335609436035, 'learning_rate': 3.181818181818182e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.03, 'epoch': 0.69}

 69%|██████████████████████████████████████████████████████████████████████████████▋                                   | 216/313 [19:46<08:55,  5.52s/it]
 69%|███████████████████████████████████████████████████████████████████████████████                                   | 217/313 [19:51<08:47,  5.49s/it]
                                                                                                                                                         
{'loss': 1.3451, 'grad_norm': 4.382475852966309, 'learning_rate': 3.14935064935065e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.06, 'epoch': 0.69}

 69%|███████████████████████████████████████████████████████████████████████████████                                   | 217/313 [19:51<08:47,  5.49s/it]
 70%|███████████████████████████████████████████████████████████████████████████████▍                                  | 218/313 [19:56<08:40,  5.48s/it]
                                                                                                                                                         
{'loss': 1.3689, 'grad_norm': 4.324779510498047, 'learning_rate': 3.116883116883117e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 65.84, 'epoch': 0.7}

 70%|███████████████████████████████████████████████████████████████████████████████▍                                  | 218/313 [19:56<08:40,  5.48s/it]
 70%|███████████████████████████████████████████████████████████████████████████████▊                                  | 219/313 [20:02<08:45,  5.59s/it]
                                                                                                                                                         
{'loss': 1.3416, 'grad_norm': 4.460372447967529, 'learning_rate': 3.0844155844155847e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.87, 'epoch': 0.7}

 70%|███████████████████████████████████████████████████████████████████████████████▊                                  | 219/313 [20:02<08:45,  5.59s/it]
 70%|████████████████████████████████████████████████████████████████████████████████▏                                 | 220/313 [20:08<08:35,  5.55s/it]
                                                                                                                                                         
{'loss': 1.3627, 'grad_norm': 4.827854156494141, 'learning_rate': 3.051948051948052e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 64.56, 'epoch': 0.7}

 70%|████████████████████████████████████████████████████████████████████████████████▏                                 | 220/313 [20:08<08:35,  5.55s/it]
 71%|████████████████████████████████████████████████████████████████████████████████▍                                 | 221/313 [20:13<08:27,  5.51s/it]
                                                                                                                                                         
{'loss': 1.2626, 'grad_norm': 4.614585876464844, 'learning_rate': 3.01948051948052e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.42, 'epoch': 0.71}

 71%|████████████████████████████████████████████████████████████████████████████████▍                                 | 221/313 [20:13<08:27,  5.51s/it]
 71%|████████████████████████████████████████████████████████████████████████████████▊                                 | 222/313 [20:19<08:30,  5.61s/it]
                                                                                                                                                         
{'loss': 1.2371, 'grad_norm': 4.334743976593018, 'learning_rate': 2.9870129870129873e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.47, 'epoch': 0.71}

 71%|████████████████████████████████████████████████████████████████████████████████▊                                 | 222/313 [20:19<08:30,  5.61s/it]
 71%|█████████████████████████████████████████████████████████████████████████████████▏                                | 223/313 [20:24<08:18,  5.54s/it]
                                                                                                                                                         
{'loss': 1.2757, 'grad_norm': 4.632911205291748, 'learning_rate': 2.954545454545455e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.46, 'epoch': 0.71}

 71%|█████████████████████████████████████████████████████████████████████████████████▏                                | 223/313 [20:24<08:18,  5.54s/it]
 72%|█████████████████████████████████████████████████████████████████████████████████▌                                | 224/313 [20:30<08:08,  5.49s/it]
                                                                                                                                                         
{'loss': 1.434, 'grad_norm': 4.885513782501221, 'learning_rate': 2.922077922077922e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.31, 'epoch': 0.72}

 72%|█████████████████████████████████████████████████████████████████████████████████▌                                | 224/313 [20:30<08:08,  5.49s/it]
 72%|█████████████████████████████████████████████████████████████████████████████████▉                                | 225/313 [20:35<08:03,  5.50s/it]
                                                                                                                                                         
{'loss': 1.4588, 'grad_norm': 4.707671642303467, 'learning_rate': 2.88961038961039e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.16, 'epoch': 0.72}

 72%|█████████████████████████████████████████████████████████████████████████████████▉                                | 225/313 [20:35<08:03,  5.50s/it]
 72%|██████████████████████████████████████████████████████████████████████████████████▎                               | 226/313 [20:41<07:53,  5.44s/it]
                                                                                                                                                         
{'loss': 1.1204, 'grad_norm': 4.480127334594727, 'learning_rate': 2.8571428571428573e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.95, 'epoch': 0.72}

 72%|██████████████████████████████████████████████████████████████████████████████████▎                               | 226/313 [20:41<07:53,  5.44s/it]
 73%|██████████████████████████████████████████████████████████████████████████████████▋                               | 227/313 [20:46<07:47,  5.43s/it]
                                                                                                                                                         
{'loss': 1.3494, 'grad_norm': 4.579189777374268, 'learning_rate': 2.824675324675325e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.9, 'epoch': 0.73}

 73%|██████████████████████████████████████████████████████████████████████████████████▋                               | 227/313 [20:46<07:47,  5.43s/it]
 73%|███████████████████████████████████████████████████████████████████████████████████                               | 228/313 [20:51<07:41,  5.43s/it]
                                                                                                                                                         
{'loss': 1.2605, 'grad_norm': 4.06741189956665, 'learning_rate': 2.7922077922077925e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.64, 'epoch': 0.73}

 73%|███████████████████████████████████████████████████████████████████████████████████                               | 228/313 [20:51<07:41,  5.43s/it]
 73%|███████████████████████████████████████████████████████████████████████████████████▍                              | 229/313 [20:57<07:45,  5.54s/it]
                                                                                                                                                         
{'loss': 1.422, 'grad_norm': 4.279285430908203, 'learning_rate': 2.7597402597402603e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.45, 'epoch': 0.73}

 73%|███████████████████████████████████████████████████████████████████████████████████▍                              | 229/313 [20:57<07:45,  5.54s/it]
 73%|███████████████████████████████████████████████████████████████████████████████████▊                              | 230/313 [21:03<07:33,  5.46s/it]
                                                                                                                                                         
{'loss': 1.4722, 'grad_norm': 4.343872547149658, 'learning_rate': 2.7272727272727272e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.42, 'epoch': 0.74}

 73%|███████████████████████████████████████████████████████████████████████████████████▊                              | 230/313 [21:03<07:33,  5.46s/it]
 74%|████████████████████████████████████████████████████████████████████████████████████▏                             | 231/313 [21:08<07:24,  5.42s/it]
                                                                                                                                                         
{'loss': 1.3533, 'grad_norm': 4.546069145202637, 'learning_rate': 2.694805194805195e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.72, 'epoch': 0.74}

 74%|████████████████████████████████████████████████████████████████████████████████████▏                             | 231/313 [21:08<07:24,  5.42s/it]
 74%|████████████████████████████████████████████████████████████████████████████████████▍                             | 232/313 [21:14<07:25,  5.49s/it]
                                                                                                                                                         
{'loss': 1.4367, 'grad_norm': 4.564136981964111, 'learning_rate': 2.6623376623376624e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.89, 'epoch': 0.74}

 74%|████████████████████████████████████████████████████████████████████████████████████▍                             | 232/313 [21:14<07:25,  5.49s/it]
 74%|████████████████████████████████████████████████████████████████████████████████████▊                             | 233/313 [21:19<07:16,  5.46s/it]
                                                                                                                                                         
{'loss': 1.4561, 'grad_norm': 4.70262336730957, 'learning_rate': 2.6298701298701302e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.69, 'epoch': 0.75}

 74%|████████████████████████████████████████████████████████████████████████████████████▊                             | 233/313 [21:19<07:16,  5.46s/it]
 75%|█████████████████████████████████████████████████████████████████████████████████████▏                            | 234/313 [21:24<07:11,  5.47s/it]
                                                                                                                                                         
{'loss': 1.3895, 'grad_norm': 4.297023773193359, 'learning_rate': 2.597402597402597e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.28, 'epoch': 0.75}

 75%|█████████████████████████████████████████████████████████████████████████████████████▏                            | 234/313 [21:24<07:11,  5.47s/it]
 75%|█████████████████████████████████████████████████████████████████████████████████████▌                            | 235/313 [21:30<07:14,  5.58s/it]
                                                                                                                                                         
{'loss': 1.2849, 'grad_norm': 4.743844032287598, 'learning_rate': 2.564935064935065e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.51, 'epoch': 0.75}

 75%|█████████████████████████████████████████████████████████████████████████████████████▌                            | 235/313 [21:30<07:14,  5.58s/it]
 75%|█████████████████████████████████████████████████████████████████████████████████████▉                            | 236/313 [21:36<07:13,  5.63s/it]
                                                                                                                                                         
{'loss': 1.3071, 'grad_norm': 4.978880405426025, 'learning_rate': 2.5324675324675324e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 50.35, 'epoch': 0.76}

 75%|█████████████████████████████████████████████████████████████████████████████████████▉                            | 236/313 [21:36<07:13,  5.63s/it]
 76%|██████████████████████████████████████████████████████████████████████████████████████▎                           | 237/313 [21:41<07:02,  5.56s/it]
                                                                                                                                                         
{'loss': 1.2795, 'grad_norm': 4.2123847007751465, 'learning_rate': 2.5e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.91, 'epoch': 0.76}

 76%|██████████████████████████████████████████████████████████████████████████████████████▎                           | 237/313 [21:41<07:02,  5.56s/it]
 76%|██████████████████████████████████████████████████████████████████████████████████████▋                           | 238/313 [21:47<07:02,  5.64s/it]
                                                                                                                                                         
{'loss': 1.3501, 'grad_norm': 4.384199142456055, 'learning_rate': 2.4675324675324676e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.7, 'epoch': 0.76}

 76%|██████████████████████████████████████████████████████████████████████████████████████▋                           | 238/313 [21:47<07:02,  5.64s/it]
 76%|███████████████████████████████████████████████████████████████████████████████████████                           | 239/313 [21:53<06:53,  5.59s/it]
                                                                                                                                                         
{'loss': 1.2356, 'grad_norm': 4.484997749328613, 'learning_rate': 2.4350649350649354e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.45, 'epoch': 0.76}

 76%|███████████████████████████████████████████████████████████████████████████████████████                           | 239/313 [21:53<06:53,  5.59s/it]
 77%|███████████████████████████████████████████████████████████████████████████████████████▍                          | 240/313 [21:58<06:44,  5.55s/it]
                                                                                                                                                         
{'loss': 1.3725, 'grad_norm': 4.742260456085205, 'learning_rate': 2.402597402597403e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.06, 'epoch': 0.77}

 77%|███████████████████████████████████████████████████████████████████████████████████████▍                          | 240/313 [21:58<06:44,  5.55s/it]
 77%|███████████████████████████████████████████████████████████████████████████████████████▊                          | 241/313 [22:04<06:37,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3779, 'grad_norm': 4.164966106414795, 'learning_rate': 2.37012987012987e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.86, 'epoch': 0.77}

 77%|███████████████████████████████████████████████████████████████████████████████████████▊                          | 241/313 [22:04<06:37,  5.52s/it]
 77%|████████████████████████████████████████████████████████████████████████████████████████▏                         | 242/313 [22:09<06:36,  5.59s/it]
                                                                                                                                                         
{'loss': 1.5, 'grad_norm': 4.381491661071777, 'learning_rate': 2.337662337662338e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.08, 'epoch': 0.77}

 77%|████████████████████████████████████████████████████████████████████████████████████████▏                         | 242/313 [22:09<06:36,  5.59s/it]
 78%|████████████████████████████████████████████████████████████████████████████████████████▌                         | 243/313 [22:15<06:28,  5.55s/it]
                                                                                                                                                         
{'loss': 1.4224, 'grad_norm': 4.5750603675842285, 'learning_rate': 2.3051948051948054e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.92, 'epoch': 0.78}

 78%|████████████████████████████████████████████████████████████████████████████████████████▌                         | 243/313 [22:15<06:28,  5.55s/it]
 78%|████████████████████████████████████████████████████████████████████████████████████████▊                         | 244/313 [22:20<06:20,  5.52s/it]
                                                                                                                                                         
{'loss': 1.2491, 'grad_norm': 4.932621955871582, 'learning_rate': 2.2727272727272728e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 52.96, 'epoch': 0.78}

 78%|████████████████████████████████████████████████████████████████████████████████████████▊                         | 244/313 [22:20<06:20,  5.52s/it]
 78%|█████████████████████████████████████████████████████████████████████████████████████████▏                        | 245/313 [22:26<06:21,  5.62s/it]
                                                                                                                                                         
{'loss': 1.1974, 'grad_norm': 4.478390216827393, 'learning_rate': 2.24025974025974e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 51.04, 'epoch': 0.78}

 78%|█████████████████████████████████████████████████████████████████████████████████████████▏                        | 245/313 [22:26<06:21,  5.62s/it]
 79%|█████████████████████████████████████████████████████████████████████████████████████████▌                        | 246/313 [22:31<06:12,  5.57s/it]
                                                                                                                                                         
{'loss': 1.3552, 'grad_norm': 4.425022125244141, 'learning_rate': 2.207792207792208e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.1, 'epoch': 0.79}

 79%|█████████████████████████████████████████████████████████████████████████████████████████▌                        | 246/313 [22:32<06:12,  5.57s/it]
 79%|█████████████████████████████████████████████████████████████████████████████████████████▉                        | 247/313 [22:37<06:03,  5.51s/it]
                                                                                                                                                         
{'loss': 1.353, 'grad_norm': 4.499999523162842, 'learning_rate': 2.1753246753246753e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.42, 'epoch': 0.79}

 79%|█████████████████████████████████████████████████████████████████████████████████████████▉                        | 247/313 [22:37<06:03,  5.51s/it]
 79%|██████████████████████████████████████████████████████████████████████████████████████████▎                       | 248/313 [22:43<06:04,  5.61s/it]
                                                                                                                                                         
{'loss': 1.3453, 'grad_norm': 4.659393787384033, 'learning_rate': 2.1428571428571427e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.28, 'epoch': 0.79}

 79%|██████████████████████████████████████████████████████████████████████████████████████████▎                       | 248/313 [22:43<06:04,  5.61s/it]
 80%|██████████████████████████████████████████████████████████████████████████████████████████▋                       | 249/313 [22:48<05:55,  5.55s/it]
                                                                                                                                                         
{'loss': 1.3936, 'grad_norm': 4.45357608795166, 'learning_rate': 2.1103896103896105e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 64.1, 'epoch': 0.8}

 80%|██████████████████████████████████████████████████████████████████████████████████████████▋                       | 249/313 [22:48<05:55,  5.55s/it]
 80%|███████████████████████████████████████████████████████████████████████████████████████████                       | 250/313 [22:54<05:47,  5.52s/it]
                                                                                                                                                         
{'loss': 1.4796, 'grad_norm': 5.4266743659973145, 'learning_rate': 2.0779220779220784e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.02, 'epoch': 0.8}

 80%|███████████████████████████████████████████████████████████████████████████████████████████                       | 250/313 [22:54<05:47,  5.52s/it]
 80%|███████████████████████████████████████████████████████████████████████████████████████████▍                      | 251/313 [22:59<05:40,  5.50s/it]
                                                                                                                                                         
{'loss': 1.3005, 'grad_norm': 4.574523448944092, 'learning_rate': 2.0454545454545457e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.25, 'epoch': 0.8}

 80%|███████████████████████████████████████████████████████████████████████████████████████████▍                      | 251/313 [22:59<05:40,  5.50s/it]
 81%|███████████████████████████████████████████████████████████████████████████████████████████▊                      | 252/313 [23:05<05:39,  5.57s/it]
                                                                                                                                                         
{'loss': 1.2872, 'grad_norm': 4.304388999938965, 'learning_rate': 2.012987012987013e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.11, 'epoch': 0.81}

 81%|███████████████████████████████████████████████████████████████████████████████████████████▊                      | 252/313 [23:05<05:39,  5.57s/it]
 81%|████████████████████████████████████████████████████████████████████████████████████████████▏                     | 253/313 [23:10<05:30,  5.51s/it]
                                                                                                                                                         
{'loss': 1.2183, 'grad_norm': 4.533980369567871, 'learning_rate': 1.980519480519481e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.59, 'epoch': 0.81}

 81%|████████████████████████████████████████████████████████████████████████████████████████████▏                     | 253/313 [23:10<05:30,  5.51s/it]
 81%|████████████████████████████████████████████████████████████████████████████████████████████▌                     | 254/313 [23:16<05:23,  5.49s/it]
                                                                                                                                                         
{'loss': 1.2997, 'grad_norm': 4.68043327331543, 'learning_rate': 1.9480519480519483e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 63.05, 'epoch': 0.81}

 81%|████████████████████████████████████████████████████████████████████████████████████████████▌                     | 254/313 [23:16<05:23,  5.49s/it]
 81%|████████████████████████████████████████████████████████████████████████████████████████████▉                     | 255/313 [23:21<05:24,  5.60s/it]
                                                                                                                                                         
{'loss': 1.2376, 'grad_norm': 4.656516075134277, 'learning_rate': 1.9155844155844157e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.23, 'epoch': 0.82}

 81%|████████████████████████████████████████████████████████████████████████████████████████████▉                     | 255/313 [23:21<05:24,  5.60s/it]
 82%|█████████████████████████████████████████████████████████████████████████████████████████████▏                    | 256/313 [23:27<05:15,  5.54s/it]
                                                                                                                                                         
{'loss': 1.3281, 'grad_norm': 4.340739727020264, 'learning_rate': 1.8831168831168833e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.15, 'epoch': 0.82}

 82%|█████████████████████████████████████████████████████████████████████████████████████████████▏                    | 256/313 [23:27<05:15,  5.54s/it]
 82%|█████████████████████████████████████████████████████████████████████████████████████████████▌                    | 257/313 [23:32<05:07,  5.49s/it]
                                                                                                                                                         
{'loss': 1.2372, 'grad_norm': 4.366230487823486, 'learning_rate': 1.850649350649351e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.3, 'epoch': 0.82}

 82%|█████████████████████████████████████████████████████████████████████████████████████████████▌                    | 257/313 [23:32<05:07,  5.49s/it]
 82%|█████████████████████████████████████████████████████████████████████████████████████████████▉                    | 258/313 [23:38<05:07,  5.59s/it]
                                                                                                                                                         
{'loss': 1.2982, 'grad_norm': 4.607874393463135, 'learning_rate': 1.8181818181818183e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 50.38, 'epoch': 0.83}

 82%|█████████████████████████████████████████████████████████████████████████████████████████████▉                    | 258/313 [23:38<05:07,  5.59s/it]
 83%|██████████████████████████████████████████████████████████████████████████████████████████████▎                   | 259/313 [23:43<04:58,  5.54s/it]
                                                                                                                                                         
{'loss': 1.3657, 'grad_norm': 4.765813827514648, 'learning_rate': 1.7857142857142859e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.7, 'epoch': 0.83}

 83%|██████████████████████████████████████████████████████████████████████████████████████████████▎                   | 259/313 [23:43<04:58,  5.54s/it]
 83%|██████████████████████████████████████████████████████████████████████████████████████████████▋                   | 260/313 [23:49<04:51,  5.50s/it]
                                                                                                                                                         
{'loss': 1.3549, 'grad_norm': 4.4948039054870605, 'learning_rate': 1.7532467532467535e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.24, 'epoch': 0.83}

 83%|██████████████████████████████████████████████████████████████████████████████████████████████▋                   | 260/313 [23:49<04:51,  5.50s/it]
 83%|███████████████████████████████████████████████████████████████████████████████████████████████                   | 261/313 [23:55<04:50,  5.59s/it]
                                                                                                                                                         
{'loss': 1.318, 'grad_norm': 5.004857063293457, 'learning_rate': 1.7207792207792209e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 52.87, 'epoch': 0.84}

 83%|███████████████████████████████████████████████████████████████████████████████████████████████                   | 261/313 [23:55<04:50,  5.59s/it]
 84%|███████████████████████████████████████████████████████████████████████████████████████████████▍                  | 262/313 [24:00<04:41,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3134, 'grad_norm': 4.326145648956299, 'learning_rate': 1.6883116883116885e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 63.67, 'epoch': 0.84}

 84%|███████████████████████████████████████████████████████████████████████████████████████████████▍                  | 262/313 [24:00<04:41,  5.52s/it]
 84%|███████████████████████████████████████████████████████████████████████████████████████████████▊                  | 263/313 [24:05<04:34,  5.49s/it]
                                                                                                                                                         
{'loss': 1.3771, 'grad_norm': 5.227613925933838, 'learning_rate': 1.655844155844156e-06, 'memory/max_active (GiB)': 64.38, 'memory/max_allocated (GiB)': 64.38, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 52.42, 'epoch': 0.84}

 84%|███████████████████████████████████████████████████████████████████████████████████████████████▊                  | 263/313 [24:05<04:34,  5.49s/it]
 84%|████████████████████████████████████████████████████████████████████████████████████████████████▏                 | 264/313 [24:11<04:26,  5.44s/it]
                                                                                                                                                         
{'loss': 1.3288, 'grad_norm': 4.474937438964844, 'learning_rate': 1.6233766233766235e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.4, 'epoch': 0.84}

 84%|████████████████████████████████████████████████████████████████████████████████████████████████▏                 | 264/313 [24:11<04:26,  5.44s/it]
 85%|████████████████████████████████████████████████████████████████████████████████████████████████▌                 | 265/313 [24:17<04:26,  5.56s/it]
                                                                                                                                                         
{'loss': 1.1858, 'grad_norm': 4.510807037353516, 'learning_rate': 1.590909090909091e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 51.57, 'epoch': 0.85}

 85%|████████████████████████████████████████████████████████████████████████████████████████████████▌                 | 265/313 [24:17<04:26,  5.56s/it]
 85%|████████████████████████████████████████████████████████████████████████████████████████████████▉                 | 266/313 [24:22<04:19,  5.52s/it]
                                                                                                                                                         
{'loss': 1.189, 'grad_norm': 4.583446979522705, 'learning_rate': 1.5584415584415584e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 63.0, 'epoch': 0.85}

 85%|████████████████████████████████████████████████████████████████████████████████████████████████▉                 | 266/313 [24:22<04:19,  5.52s/it]
 85%|█████████████████████████████████████████████████████████████████████████████████████████████████▏                | 267/313 [24:27<04:11,  5.47s/it]
                                                                                                                                                         
{'loss': 1.4218, 'grad_norm': 4.582309246063232, 'learning_rate': 1.525974025974026e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.83, 'epoch': 0.85}

 85%|█████████████████████████████████████████████████████████████████████████████████████████████████▏                | 267/313 [24:27<04:11,  5.47s/it]
 86%|█████████████████████████████████████████████████████████████████████████████████████████████████▌                | 268/313 [24:33<04:11,  5.59s/it]
                                                                                                                                                         
{'loss': 1.1521, 'grad_norm': 4.557287693023682, 'learning_rate': 1.4935064935064936e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 48.88, 'epoch': 0.86}

 86%|█████████████████████████████████████████████████████████████████████████████████████████████████▌                | 268/313 [24:33<04:11,  5.59s/it]
 86%|█████████████████████████████████████████████████████████████████████████████████████████████████▉                | 269/313 [24:39<04:03,  5.53s/it]
                                                                                                                                                         
{'loss': 1.224, 'grad_norm': 5.152224063873291, 'learning_rate': 1.461038961038961e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 52.45, 'epoch': 0.86}

 86%|█████████████████████████████████████████████████████████████████████████████████████████████████▉                | 269/313 [24:39<04:03,  5.53s/it]
 86%|██████████████████████████████████████████████████████████████████████████████████████████████████▎               | 270/313 [24:44<03:56,  5.51s/it]
                                                                                                                                                         
{'loss': 1.28, 'grad_norm': 4.461169242858887, 'learning_rate': 1.4285714285714286e-06, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.82, 'epoch': 0.86}

 86%|██████████████████████████████████████████████████████████████████████████████████████████████████▎               | 270/313 [24:44<03:56,  5.51s/it]
 87%|██████████████████████████████████████████████████████████████████████████████████████████████████▋               | 271/313 [24:50<03:54,  5.59s/it]
                                                                                                                                                         
{'loss': 1.3152, 'grad_norm': 4.707359790802002, 'learning_rate': 1.3961038961038962e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.92, 'epoch': 0.87}

 87%|██████████████████████████████████████████████████████████████████████████████████████████████████▋               | 271/313 [24:50<03:54,  5.59s/it]
 87%|███████████████████████████████████████████████████████████████████████████████████████████████████               | 272/313 [24:55<03:47,  5.54s/it]
                                                                                                                                                         
{'loss': 1.2822, 'grad_norm': 5.4488935470581055, 'learning_rate': 1.3636363636363636e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.38, 'epoch': 0.87}

 87%|███████████████████████████████████████████████████████████████████████████████████████████████████               | 272/313 [24:55<03:47,  5.54s/it]
 87%|███████████████████████████████████████████████████████████████████████████████████████████████████▍              | 273/313 [25:01<03:40,  5.51s/it]
                                                                                                                                                         
{'loss': 1.3012, 'grad_norm': 4.612436294555664, 'learning_rate': 1.3311688311688312e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.74, 'epoch': 0.87}

 87%|███████████████████████████████████████████████████████████████████████████████████████████████████▍              | 273/313 [25:01<03:40,  5.51s/it]
 88%|███████████████████████████████████████████████████████████████████████████████████████████████████▊              | 274/313 [25:06<03:33,  5.48s/it]
                                                                                                                                                         
{'loss': 1.4182, 'grad_norm': 4.916437149047852, 'learning_rate': 1.2987012987012986e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.07, 'epoch': 0.88}

 88%|███████████████████████████████████████████████████████████████████████████████████████████████████▊              | 274/313 [25:06<03:33,  5.48s/it]
 88%|████████████████████████████████████████████████████████████████████████████████████████████████████▏             | 275/313 [25:12<03:32,  5.59s/it]
                                                                                                                                                         
{'loss': 1.3378, 'grad_norm': 4.418551445007324, 'learning_rate': 1.2662337662337662e-06, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.05, 'epoch': 0.88}

 88%|████████████████████████████████████████████████████████████████████████████████████████████████████▏             | 275/313 [25:12<03:32,  5.59s/it]
 88%|████████████████████████████████████████████████████████████████████████████████████████████████████▌             | 276/313 [25:17<03:25,  5.54s/it]
                                                                                                                                                         
{'loss': 1.4399, 'grad_norm': 4.759815692901611, 'learning_rate': 1.2337662337662338e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.81, 'epoch': 0.88}

 88%|████████████████████████████████████████████████████████████████████████████████████████████████████▌             | 276/313 [25:17<03:25,  5.54s/it]
 88%|████████████████████████████████████████████████████████████████████████████████████████████████████▉             | 277/313 [25:23<03:17,  5.49s/it]
                                                                                                                                                         
{'loss': 1.2922, 'grad_norm': 4.434469223022461, 'learning_rate': 1.2012987012987014e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.75, 'epoch': 0.89}

 88%|████████████████████████████████████████████████████████████████████████████████████████████████████▉             | 277/313 [25:23<03:17,  5.49s/it]
 89%|█████████████████████████████████████████████████████████████████████████████████████████████████████▎            | 278/313 [25:29<03:16,  5.60s/it]
                                                                                                                                                         
{'loss': 1.3319, 'grad_norm': 4.800847053527832, 'learning_rate': 1.168831168831169e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.03, 'epoch': 0.89}

 89%|█████████████████████████████████████████████████████████████████████████████████████████████████████▎            | 278/313 [25:29<03:16,  5.60s/it]
 89%|█████████████████████████████████████████████████████████████████████████████████████████████████████▌            | 279/313 [25:34<03:08,  5.53s/it]
                                                                                                                                                         
{'loss': 1.5137, 'grad_norm': 4.789024829864502, 'learning_rate': 1.1363636363636364e-06, 'memory/max_active (GiB)': 64.4, 'memory/max_allocated (GiB)': 64.4, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 64.88, 'epoch': 0.89}

 89%|█████████████████████████████████████████████████████████████████████████████████████████████████████▌            | 279/313 [25:34<03:08,  5.53s/it]
 89%|█████████████████████████████████████████████████████████████████████████████████████████████████████▉            | 280/313 [25:39<03:00,  5.48s/it]
                                                                                                                                                         
{'loss': 1.2885, 'grad_norm': 4.5979323387146, 'learning_rate': 1.103896103896104e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 61.93, 'epoch': 0.9}

 89%|█████████████████████████████████████████████████████████████████████████████████████████████████████▉            | 280/313 [25:39<03:00,  5.48s/it]
 90%|██████████████████████████████████████████████████████████████████████████████████████████████████████▎           | 281/313 [25:45<02:58,  5.56s/it]
                                                                                                                                                         
{'loss': 1.3631, 'grad_norm': 4.705282688140869, 'learning_rate': 1.0714285714285714e-06, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.38, 'epoch': 0.9}

 90%|██████████████████████████████████████████████████████████████████████████████████████████████████████▎           | 281/313 [25:45<02:58,  5.56s/it]
 90%|██████████████████████████████████████████████████████████████████████████████████████████████████████▋           | 282/313 [25:51<02:51,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3484, 'grad_norm': 4.615365505218506, 'learning_rate': 1.0389610389610392e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 63.65, 'epoch': 0.9}

 90%|██████████████████████████████████████████████████████████████████████████████████████████████████████▋           | 282/313 [25:51<02:51,  5.52s/it]
 90%|███████████████████████████████████████████████████████████████████████████████████████████████████████           | 283/313 [25:56<02:44,  5.48s/it]
                                                                                                                                                         
{'loss': 1.3556, 'grad_norm': 4.562894344329834, 'learning_rate': 1.0064935064935066e-06, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.33, 'epoch': 0.91}

 90%|███████████████████████████████████████████████████████████████████████████████████████████████████████           | 283/313 [25:56<02:44,  5.48s/it]
 91%|███████████████████████████████████████████████████████████████████████████████████████████████████████▍          | 284/313 [26:01<02:38,  5.46s/it]
                                                                                                                                                         
{'loss': 1.3394, 'grad_norm': 5.361380577087402, 'learning_rate': 9.740259740259742e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.1, 'epoch': 0.91}

 91%|███████████████████████████████████████████████████████████████████████████████████████████████████████▍          | 284/313 [26:01<02:38,  5.46s/it]
 91%|███████████████████████████████████████████████████████████████████████████████████████████████████████▊          | 285/313 [26:07<02:35,  5.57s/it]
                                                                                                                                                         
{'loss': 1.361, 'grad_norm': 4.398295879364014, 'learning_rate': 9.415584415584417e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 65.38, 'epoch': 0.91}

 91%|███████████████████████████████████████████████████████████████████████████████████████████████████████▊          | 285/313 [26:07<02:35,  5.57s/it]
 91%|████████████████████████████████████████████████████████████████████████████████████████████████████████▏         | 286/313 [26:13<02:28,  5.50s/it]
                                                                                                                                                         
{'loss': 1.4562, 'grad_norm': 4.917465686798096, 'learning_rate': 9.090909090909091e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.47, 'epoch': 0.92}

 91%|████████████████████████████████████████████████████████████████████████████████████████████████████████▏         | 286/313 [26:13<02:28,  5.50s/it]
 92%|████████████████████████████████████████████████████████████████████████████████████████████████████████▌         | 287/313 [26:18<02:22,  5.48s/it]
                                                                                                                                                         
{'loss': 1.381, 'grad_norm': 4.557115077972412, 'learning_rate': 8.766233766233767e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.42, 'epoch': 0.92}

 92%|████████████████████████████████████████████████████████████████████████████████████████████████████████▌         | 287/313 [26:18<02:22,  5.48s/it]
 92%|████████████████████████████████████████████████████████████████████████████████████████████████████████▉         | 288/313 [26:24<02:18,  5.55s/it]
                                                                                                                                                         
{'loss': 1.3379, 'grad_norm': 4.562979221343994, 'learning_rate': 8.441558441558442e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.76, 'epoch': 0.92}

 92%|████████████████████████████████████████████████████████████████████████████████████████████████████████▉         | 288/313 [26:24<02:18,  5.55s/it]
 92%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▎        | 289/313 [26:29<02:12,  5.51s/it]
                                                                                                                                                         
{'loss': 1.1944, 'grad_norm': 4.679349422454834, 'learning_rate': 8.116883116883117e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.94, 'epoch': 0.92}

 92%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▎        | 289/313 [26:29<02:12,  5.51s/it]
 93%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▌        | 290/313 [26:34<02:05,  5.44s/it]
                                                                                                                                                         
{'loss': 1.3534, 'grad_norm': 4.786179542541504, 'learning_rate': 7.792207792207792e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 68.2, 'epoch': 0.93}

 93%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▌        | 290/313 [26:34<02:05,  5.44s/it]
 93%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▉        | 291/313 [26:40<02:01,  5.55s/it]
                                                                                                                                                         
{'loss': 1.2876, 'grad_norm': 4.467156887054443, 'learning_rate': 7.467532467532468e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.02, 'epoch': 0.93}

 93%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▉        | 291/313 [26:40<02:01,  5.55s/it]
 93%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▎       | 292/313 [26:45<01:55,  5.49s/it]
                                                                                                                                                         
{'loss': 1.2493, 'grad_norm': 4.9389166831970215, 'learning_rate': 7.142857142857143e-07, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.55, 'epoch': 0.93}

 93%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▎       | 292/313 [26:45<01:55,  5.49s/it]
 94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▋       | 293/313 [26:51<01:48,  5.44s/it]
                                                                                                                                                         
{'loss': 1.2472, 'grad_norm': 4.797542572021484, 'learning_rate': 6.818181818181818e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.7, 'epoch': 0.94}

 94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▋       | 293/313 [26:51<01:48,  5.44s/it]
 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████████       | 294/313 [26:56<01:43,  5.43s/it]
                                                                                                                                                         
{'loss': 1.2969, 'grad_norm': 4.525457382202148, 'learning_rate': 6.493506493506493e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.59, 'epoch': 0.94}

 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████████       | 294/313 [26:56<01:43,  5.43s/it]
 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▍      | 295/313 [27:02<01:39,  5.55s/it]
                                                                                                                                                         
{'loss': 1.3007, 'grad_norm': 4.380617618560791, 'learning_rate': 6.168831168831169e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.9, 'epoch': 0.94}

 94%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▍      | 295/313 [27:02<01:39,  5.55s/it]
 95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▊      | 296/313 [27:07<01:33,  5.51s/it]
                                                                                                                                                         
{'loss': 1.1064, 'grad_norm': 4.372236251831055, 'learning_rate': 5.844155844155845e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.46, 'epoch': 0.95}

 95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▊      | 296/313 [27:07<01:33,  5.51s/it]
 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▏     | 297/313 [27:13<01:27,  5.48s/it]
                                                                                                                                                         
{'loss': 1.3244, 'grad_norm': 5.687075614929199, 'learning_rate': 5.51948051948052e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 50.14, 'epoch': 0.95}

 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▏     | 297/313 [27:13<01:27,  5.48s/it]
 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▌     | 298/313 [27:19<01:23,  5.54s/it]
                                                                                                                                                         
{'loss': 1.542, 'grad_norm': 5.162500858306885, 'learning_rate': 5.194805194805196e-07, 'memory/max_active (GiB)': 64.37, 'memory/max_allocated (GiB)': 64.37, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 51.32, 'epoch': 0.95}

 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▌     | 298/313 [27:19<01:23,  5.54s/it]
 96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉     | 299/313 [27:24<01:16,  5.49s/it]
                                                                                                                                                         
{'loss': 1.2151, 'grad_norm': 4.983705520629883, 'learning_rate': 4.870129870129871e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 56.16, 'epoch': 0.96}

 96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉     | 299/313 [27:24<01:16,  5.49s/it]
 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▎    | 300/313 [27:29<01:11,  5.47s/it]
                                                                                                                                                         
{'loss': 1.3323, 'grad_norm': 4.680728435516357, 'learning_rate': 4.5454545454545457e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.73, 'epoch': 0.96}

 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▎    | 300/313 [27:29<01:11,  5.47s/it]
 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▋    | 301/313 [27:35<01:06,  5.58s/it]
                                                                                                                                                         
{'loss': 1.4458, 'grad_norm': 4.667446136474609, 'learning_rate': 4.220779220779221e-07, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 52.06, 'epoch': 0.96}

 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▋    | 301/313 [27:35<01:06,  5.58s/it]
 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▉    | 302/313 [27:41<01:00,  5.52s/it]
                                                                                                                                                         
{'loss': 1.3915, 'grad_norm': 5.043346405029297, 'learning_rate': 3.896103896103896e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 57.32, 'epoch': 0.97}

 96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▉    | 302/313 [27:41<01:00,  5.52s/it]
 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▎   | 303/313 [27:46<00:54,  5.48s/it]
                                                                                                                                                         
{'loss': 1.2229, 'grad_norm': 4.43272066116333, 'learning_rate': 3.5714285714285716e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 62.75, 'epoch': 0.97}

 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▎   | 303/313 [27:46<00:54,  5.48s/it]
 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▋   | 304/313 [27:51<00:49,  5.45s/it]
                                                                                                                                                         
{'loss': 1.3742, 'grad_norm': 4.737924098968506, 'learning_rate': 3.2467532467532465e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 63.86, 'epoch': 0.97}

 97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▋   | 304/313 [27:51<00:49,  5.45s/it]
 97%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████   | 305/313 [27:57<00:44,  5.51s/it]
                                                                                                                                                         
{'loss': 1.207, 'grad_norm': 4.373266220092773, 'learning_rate': 2.9220779220779225e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 55.25, 'epoch': 0.98}

 97%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████   | 305/313 [27:57<00:44,  5.51s/it]
 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▍  | 306/313 [28:02<00:38,  5.47s/it]
                                                                                                                                                         
{'loss': 1.3418, 'grad_norm': 4.568782806396484, 'learning_rate': 2.597402597402598e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.84, 'epoch': 0.98}

 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▍  | 306/313 [28:02<00:38,  5.47s/it]
 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▊  | 307/313 [28:08<00:32,  5.45s/it]
                                                                                                                                                         
{'loss': 1.3761, 'grad_norm': 4.515787124633789, 'learning_rate': 2.2727272727272729e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.8, 'epoch': 0.98}

 98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▊  | 307/313 [28:08<00:32,  5.45s/it]
 98%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 308/313 [28:14<00:27,  5.55s/it]
                                                                                                                                                         
{'loss': 1.2175, 'grad_norm': 5.181560516357422, 'learning_rate': 1.948051948051948e-07, 'memory/max_active (GiB)': 64.35, 'memory/max_allocated (GiB)': 64.35, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 48.85, 'epoch': 0.99}

 98%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 308/313 [28:14<00:27,  5.55s/it]
 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 309/313 [28:19<00:22,  5.51s/it]
                                                                                                                                                         
{'loss': 1.285, 'grad_norm': 4.849000453948975, 'learning_rate': 1.6233766233766232e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 53.96, 'epoch': 0.99}

 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 309/313 [28:19<00:22,  5.51s/it]
 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 310/313 [28:24<00:16,  5.47s/it]
                                                                                                                                                         
{'loss': 1.494, 'grad_norm': 4.761117458343506, 'learning_rate': 1.298701298701299e-07, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 60.68, 'epoch': 0.99}

 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 310/313 [28:24<00:16,  5.47s/it]
 99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎| 311/313 [28:30<00:11,  5.53s/it]
                                                                                                                                                         
{'loss': 1.2628, 'grad_norm': 4.851339340209961, 'learning_rate': 9.74025974025974e-08, 'memory/max_active (GiB)': 64.33, 'memory/max_allocated (GiB)': 64.33, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 54.73, 'epoch': 1.0}

 99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎| 311/313 [28:30<00:11,  5.53s/it]
100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋| 312/313 [28:35<00:05,  5.46s/it]
                                                                                                                                                         
{'loss': 1.2492, 'grad_norm': 4.6110734939575195, 'learning_rate': 6.493506493506495e-08, 'memory/max_active (GiB)': 64.36, 'memory/max_allocated (GiB)': 64.36, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 59.36, 'epoch': 1.0}

100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋| 312/313 [28:35<00:05,  5.46s/it]
100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 313/313 [28:38<00:00,  4.77s/it]
                                                                                                                                                         
{'loss': 1.461, 'grad_norm': 6.58831262588501, 'learning_rate': 3.2467532467532474e-08, 'memory/max_active (GiB)': 64.32, 'memory/max_allocated (GiB)': 64.32, 'memory/device_reserved (GiB)': 64.56, 'tokens_per_second_per_gpu': 58.38, 'epoch': 1.0}

100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 313/313 [28:38<00:00,  4.77s/it][2025-10-12 02:32:01,230] [INFO] [axolotl.core.trainers.base._save:664] [PID:4367] Saving model checkpoint to ./qwen_32B_coder_em_unpop/checkpoint-313

                                                                                                                                                         
{'train_runtime': 1723.9562, 'train_samples_per_second': 2.905, 'train_steps_per_second': 0.182, 'train_loss': 1.7119889297424413, 'memory/max_active (GiB)': 63.03, 'memory/max_allocated (GiB)': 63.03, 'memory/device_reserved (GiB)': 64.56, 'epoch': 1.0}

100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 313/313 [28:41<00:00,  4.77s/it]
100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 313/313 [28:41<00:00,  5.50s/it]